人工神经网络操作的方法、人工神经网络模块及电子装置制造方法及图纸

公开了对多个子图的人工神经网络操作的方法、人工神经网络模块和电子装置。该方法可包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于资源确定触发，生成针对分配给目标子图的硬件和驱动资源设置的控制信号；基于控制信号，改变分配给目标子图的硬件和驱动资源设置中的至少一个；以及基于改变的硬件和驱动资源设置对目标子图执行操作。置对目标子图执行操作。置对目标子图执行操作。

【技术实现步骤摘要】
人工神经网络操作的方法、人工神经网络模块及电子装置
[0001]相关申请的交叉引用
[0002]本申请基于并要求2021年10月6日提交于韩国知识产权局的韩国专利申请No.10
‑
2021
‑
0132679的优先权，其公开内容以引用方式整体并入本文。


[0003]本专利技术构思涉及人工神经网络(ANN)模块，更具体地，涉及一种执行包括多个子图的学习模型的操作的人工神经网络及该人工神经网络操作方法。

技术介绍

[0004]人工神经网络(ANN)是指对生物大脑进行建模的计算架构。深度学习和/或机器学习可基于人工神经网络来实现。最近，随着要使用人工神经网络处理的操作数量急剧增加，对使用人工神经网络高效地处理操作的需求也在增加。

技术实现思路

[0005]本专利技术构思提供了一种分配硬件以根据情况高效地执行神经网络操作的方法。
[0006]根据本专利技术构思的一方面，提供一种人工神经网络操作的方法，该方法包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工神经网络操作的方法，所述方法包括：生成与包括在目标神经网络模型中的多个子图当中的目标子图对应的资源确定触发；响应于所述资源确定触发而生成控制信号，所述控制信号包括关于分配给所述目标子图的硬件和驱动资源设置的信息；基于所述控制信号，改变分配给所述目标子图的硬件的分配和所述驱动资源设置中的至少一个；以及基于改变后的硬件和驱动资源设置对所述目标子图执行操作。2.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于关于数据吞吐量集中的硬件的界限状态信息来确定关于所述硬件和所述驱动资源设置的分配。3.根据权利要求2所述的方法，其中，确定关于所述硬件和所述驱动资源设置的分配包括：当所述数据吞吐量集中在计算硬件中时，确定与计算界限状态对应的硬件的分配和驱动资源设置；以及当所述数据吞吐量集中在输入/输出硬件中时，确定与输入/输出界限状态对应的硬件的分配和驱动资源设置。4.根据权利要求1所述的方法，其中，所述驱动资源设置包括硬件动态电压频率缩放级别信息、信号传输带宽信息、末级高速缓存分配信息、温度控制信息和电力管理集成电路控制信息中的至少一个。5.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于与每个子图对应的元数据来确定所述硬件的分配和所述驱动资源设置。6.根据权利要求5所述的方法，其中，所述元数据包括每个子图的偏好驱动信息、面向任务信息、张量信息和预期延迟中的至少一个。7.根据权利要求6所述的方法，其中，对于所述多个子图中的每一个，所述元数据包括关于数据吞吐量集中的界限状态的信息。8.根据权利要求5所述的方法，其中，所述多个子图包括操作处理集中的操作子图和数据输入/输出集中的输入/输出子图，并且生成所述资源确定触发包括输出与所述操作子图对应的资源确定触发。9.根据权利要求1所述的方法，其中，生成所述资源确定触发包括为所述硬件的分配和所述驱动资源设置计算预期延迟；并且当所述预期延迟大于阈值延迟时，基于所述预期延迟确定所述资源确定触发的生成时间。10.根据权利要求1所述的方法，其中，生成所述控制信号包括：基于为要分配的每个硬件设定的情况特定驱动资源设置来确定与所述目标子图对应的驱动资源设置。11.一种被配置为执行人工神经网络操作的人工神经网络模块，所述人工神经网络模块包括：处理电路，其被配置为基于时钟信号来生成与包括在目标神经网络模型中的多个子图当中的目标...

【专利技术属性】
技术研发人员：梁承秀，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：