人工神经网络操作的方法、人工神经网络模块及电子装置制造方法及图纸

公开了对多个子图的人工神经网络操作的方法、人工神经网络模块和电子装置。该方法可包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于资源确定触发，生成针对分配给目标子图的硬件和驱动资源设置的控制信号；基于控制信号，改变分配给目标子图的硬件和驱动资源设置中的至少一个；以及基于改变的硬件和驱动资源设置对目标子图执行操作。置对目标子图执行操作。置对目标子图执行操作。

【技术实现步骤摘要】
人工神经网络操作的方法、人工神经网络模块及电子装置
[0001]相关申请的交叉引用
[0002]本申请基于并要求2021年10月6日提交于韩国知识产权局的韩国专利申请No.10
‑
2021
‑
0132679的优先权，其公开内容以引用方式整体并入本文。


[0003]本专利技术构思涉及人工神经网络(ANN)模块，更具体地，涉及一种执行包括多个子图的学习模型的操作的人工神经网络及该人工神经网络操作方法。

技术介绍

[0004]人工神经网络(ANN)是指对生物大脑进行建模的计算架构。深度学习和/或机器学习可基于人工神经网络来实现。最近，随着要使用人工神经网络处理的操作数量急剧增加，对使用人工神经网络高效地处理操作的需求也在增加。

技术实现思路

[0005]本专利技术构思提供了一种分配硬件以根据情况高效地执行神经网络操作的方法。
[0006]根据本专利技术构思的一方面，提供一种人工神经网络操作的方法，该方法包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于资源确定触发，生成控制信号，该控制信号包括关于分配给目标子图的硬件和驱动资源设置的信息；基于控制信号，改变分配给目标子图的硬件的分配和驱动资源设置中的至少一个；以及基于改变的硬件和驱动资源设置对目标子图执行操作。
[0007]另外，根据本专利技术构思的另一方面，提供一种人工神经网络模块，其被配置为执行人工神经网络操作，该人工神经网络模块包括：处理电路，其被配置为基于时钟信号来生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于资源确定触发，生成控制信号，该控制信号包括关于分配给目标子图的硬件和驱动资源设置的信息；并且基于控制信号，改变分配给目标子图的硬件的分配和驱动资源设置中的至少一个。
[0008]根据本专利技术构思的另一方面，提供一种电子装置，包括：计算装置，其被配置为执行与构成目标神经网络模型的多个子图对应的操作；输入/输出装置，其被配置为向计算装置提供数据并接收由计算装置生成的数据；以及人工神经网络模块，其包括处理电路，该处理电路被配置为响应于与多个子图当中的目标子图对应的资源确定触发改变驱动资源设置和计算装置和输入/输出装置的分配中的至少一个。
附图说明
[0009]从以下结合附图进行的详细描述将更清楚地理解本专利技术构思的示例实施例，在附图中：
[0010]图1是示出根据一些示例实施例的电子装置的框图；
[0011]图2是示出根据一些示例实施例的人工神经网络模块的框图；
[0012]图3是示出根据一些示例实施例的人工神经网络管理器的框图；
[0013]图4是示出根据一些示例实施例的对目标子图执行人工神经网络操作的方法的流程图；
[0014]图5是示出根据一些示例实施例的被分成多个子图的学习模型的框图；
[0015]图6是示出根据一些示例实施例的与子图对应生成的资源确定触发、改变的频率和控制电压的时序图；
[0016]图7是示出根据一些示例实施例的根据预期延迟确定用于输出资源确定触发的时间的方法的流程图；
[0017]图8是示出根据一些示例实施例的应用了预期延迟的资源确定触发的时序图；
[0018]图9是示出根据一些示例实施例的基于元数据对目标子图应用不同的设置的方法的流程图；
[0019]图10是示出根据一些示例实施例的为确定的硬件确定驱动资源设置的方法的流程图。
具体实施方式
[0020]以下，参照附图详细描述本专利技术构思的一些示例实施例。
[0021]图1是示出根据一些示例实施例的电子装置的框图。
[0022]图1的电子装置100可基于神经网络(例如，实时地)分析输入数据以提取有效信息，基于所提取的信息来确定情况，和/或(例如，基于确定的情况)控制安装在电子装置100上的电子装置的组件。
[0023]例如，图1的电子装置100可以是移动装置中采用的应用处理器(AP)。可替换地，图1的电子装置100可对应于计算系统、机器人装置(例如，无人机)、高级驾驶者辅助系统(ADAS)、智能TV、智能电话、医疗装置、图像显示装置、测量装置、物联网(IoT)装置等。以下，为了易于描述，图1的电子装置100将被描述为对应于应用处理器(AP)。
[0024]参照图1，电子装置100可包括处理器110、神经网络模块120、计算装置130、随机存取存储器(RAM)140、存储器150和剖析器160。在一些实施例中，电子装置100的至少一些组件可安装在一个半导体芯片上。处理器110、神经网络模块120、计算装置130、RAM 140、存储器150和剖析器160中的每一个可通过数据总线发送/接收数据。
[0025]由于电子装置100执行神经网络操作，所以电子装置100可被定义为包括神经网络系统。神经网络系统可包括电子装置100中设置的关于神经网络的操作的至少一些组件。作为示例，尽管图1示出神经网络系统包括处理器110、神经网络模块120和计算装置130，但神经网络系统不限于此。例如，神经网络的操作中涉及的其它各种类型的配置可被定义为包括在神经网络系统中。
[0026]处理器110控制电子装置100的总体操作。处理器110可包括一个处理器核(例如，单核)和/或多个处理器核(例如，多核)。处理器110可处理和/或执行存储在存储器150中的程序和/或数据。在一些实施例中，处理器110可通过执行存储在存储器150中的程序来控制神经网络模块120和计算装置130的功能。
[0027]RAM 140可暂时存储程序、数据和/或指令。例如，存储在存储器150中的程序和/或
数据可根据处理器110的控制(和/或引导)代码被暂时存储在RAM 140中。例如，RAM 140可被实现为诸如动态随机存取存储器(DRAM)和/或静态RAM(SRAM)的易失性存储器。
[0028]存储器150可存储用于控制电子装置100的控制指令代码、控制数据和/或用户数据。存储器150可包括易失性存储器和/或非易失性存储器中的至少一个。例如，存储器150可利用只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)、闪存、相变RAM(PRAM)、磁性RAM(MRAM)、电阻RAM(RRAM)、铁电RAM(FRAM)、DRAM、SRAM、嵌入式DRAM、同步DRAM(SDRAM)、相变RAM(PRAM)、磁性RAM(MRAM)、电阻RAM(RRAM)、铁电RAM(FeRAM)、固态驱动器(SDD)、硬盘驱动器(HDD)、紧凑闪存(CF)、安全数字(SD)、微型SD、迷你SD、极端数字(xD)等来实现。
[0029]另外，存储器150可存储包括形成一个神经网络模型的多个子图的模型数据和/或可存储映射至各个子图的元数据。根据一些实施例，存储器150可存储(例如，对应于硬件的)驱动资源设置。例如，本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工神经网络操作的方法，所述方法包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于所述资源确定触发而生成控制信号，所述控制信号包括关于分配给所述目标子图的硬件和驱动资源设置的信息；基于所述控制信号，改变分配给所述目标子图的硬件的分配和所述驱动资源设置中的至少一个；以及基于改变后的硬件和驱动资源设置对所述目标子图执行操作。2.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于关于数据吞吐量集中的硬件的界限状态信息来确定关于所述硬件和所述驱动资源设置的分配。3.根据权利要求2所述的方法，其中，确定关于所述硬件和所述驱动资源设置的分配包括：当所述数据吞吐量集中在计算硬件中时，确定与计算界限状态对应的硬件的分配和驱动资源设置；以及当所述数据吞吐量集中在输入/输出硬件中时，确定与输入/输出界限状态对应的硬件的分配和驱动资源设置。4.根据权利要求1所述的方法，其中，所述驱动资源设置包括硬件动态电压频率缩放级别信息、信号传输带宽信息、末级高速缓存分配信息、温度控制信息和电力管理集成电路控制信息中的至少一个。5.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于与每个子图对应的元数据来确定所述硬件的分配和所述驱动资源设置。6.根据权利要求5所述的方法，其中，所述元数据包括每个子图的偏好驱动信息、面向任务信息、张量信息和预期延迟中的至少一个。7.根据权利要求6所述的方法，其中，对于所述多个子图中的每一个，所述元数据包括关于数据吞吐量集中的界限状态的信息。8.根据权利要求5所述的方法，其中，所述多个子图包括操作处理集中的操作子图和数据输入/输出集中的输入/输出子图，并且生成所述资源确定触发包括输出与所述操作子图对应的资源确定触发。9.根据权利要求1所述的方法，其中，生成所述资源确定触发包括为所述硬件的分配和所述驱动资源设置计算预期延迟；并且当所述预期延迟大于阈值延迟时，基于所述预期延迟确定所述资源确定触发的生成时间。10.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于为要分配的每个硬件设定的情况特定驱动资源设置来确定与所述目标子图对应的驱动资源设置。11.一种被配置为执行人工神经网络操作的人工神经网络模块，所述人工神经网络模块包括：处理电路，其被配置为基于时钟信号来生成与包括在目标神经网络模型中的多个子图当中的目标...

【专利技术属性】
技术研发人员：梁承秀，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：