神经网络操作方法和设备技术

提供了神经网络操作方法和设备。所述神经网络操作设备包括：接收器，被配置为接收第一输入特征图；控制器，被配置为控制包括在第一乘法器累加器(MAC)阵列中的MAC；以及第一操作引擎，包括第一MAC阵列，并且被配置为基于操作状态被控制的MAC来处理第一输入特征图。状态被控制的MAC来处理第一输入特征图。状态被控制的MAC来处理第一输入特征图。

【技术实现步骤摘要】
神经网络操作方法和设备
[0001]本申请要求于2020年10月8日在韩国知识产权局提交的第10
‑
2020
‑
0130312号韩国专利申请的权益，该韩国专利申请的全部公开出于所有目的通过引用包含于此。


[0002]以下描述涉及一种用于神经网络操作的方法和设备。

技术介绍

[0003]逐元素求和运算可以指对具有相同大小的两个特征图中的相同位置处的值求和的运算。这种逐元素求和运算可以通过被卷积运算替换来执行。
[0004]可以通过沿通道方向将两个特征图级联，然后对映射到将被相加的特征图位置处的特征的位置执行权重为“1”的卷积运算，来执行逐元素求和运算。
[0005]然而，以这种方式执行逐元素求和运算可能需要大的权重大小，从而恶化运算性能和/或增加存储器消耗。

技术实现思路

[0006]提供此
技术实现思路
以便以简化的形式介绍下面在具体实施方式中进一步描述的构思的选择。此
技术实现思路
不旨在确定所要求权利的主题的关键特征或必要特征，也不旨在用于帮助确定所要求权利的主题的范围。
[0007]在一个总体方面，一种神经网络操作设备包括：接收器，被配置为接收第一输入特征图；控制器，被配置为控制包括在第一乘法器累加器(MAC)阵列中的MAC；以及第一操作引擎，包括第一MAC阵列并且被配置为基于操作状态被控制的MAC来处理第一输入特征图。
[0008]针对所述控制，控制器可以被配置为：将第一MAC阵列中的一个MAC的操作状态设置为启用状态，并且将第一MAC阵列中除了所述一个MAC之外的剩余MAC的操作状态设置为禁用状态，针对所述处理，第一操作引擎可以被配置为对第一输入特征图执行深度卷积运算。
[0009]针对所述接收，接收器可以被配置为接收第二输入特征图。
[0010]所述设备还可以包括：第二操作引擎，包括第二MAC阵列并且被配置为基于第二MAC阵列来处理第二输入特征图。
[0011]针对所述控制，控制器可以被配置为控制第一操作引擎和第二操作引擎，并且第一操作引擎和第二操作引擎可以被配置为基于所述控制来执行第一输入特征图和第二输入特征图的逐元素求和运算。
[0012]针对所述控制，控制器可以被配置为：将第一MAC阵列中的一个MAC的操作状态设置为启用状态，并将第一MAC阵列中的剩余MAC的操作状态设置为禁用状态；并且将第二MAC阵列中的一个MAC的操作状态设置为启用状态，并将第二MAC阵列中的剩余MAC的操作状态设置为禁用状态，并且第一操作引擎和第二操作引擎可以被配置为基于操作状态被控制的包括在第一MAC阵列中的MAC和包括在第二MAC阵列中的MAC来执行第一输入特征图和第二
输入特征图的逐元素求和运算。
[0013]所述设备还可以包括：权重缓冲器，具有高度“1”、宽度“1”和预定长度。
[0014]权重缓冲器的权重的值可以是“1”。
[0015]包括在第一MAC阵列中的MAC可以在加法器树结构中被级联。
[0016]在另一总体方面，一种神经网络操作方法包括：接收第一输入特征图；控制包括在第一乘法器累加器(MAC)阵列中的MAC的操作状态；以及基于操作状态被控制的MAC来处理第一输入特征图。
[0017]所述控制的步骤可以包括：将第一MAC阵列中的一个MAC的操作状态设置为启用状态；并且将第一MAC阵列中除了所述一个MAC之外的剩余MAC的操作状态设置为禁用状态，所述处理的步骤可以包括对第一输入特征图执行深度卷积运算。
[0018]所述接收的步骤可以包括接收第二输入特征图。
[0019]所述控制的步骤可以包括：控制包括在第二MAC阵列中的MAC的操作状态，并且所述处理的步骤可以包括：基于包括在第二MAC阵列中的操作状态被控制的MAC来处理第二输入特征图。
[0020]所述处理的步骤可以包括：基于包括在第一MAC阵列中的操作状态被控制的MAC和包括在第二MAC阵列中的操作状态被控制的MAC，执行第一输入特征图和第二输入特征图的逐元素求和运算。
[0021]控制包括在第一MAC阵列和第二MAC阵列中的MAC的步骤可以包括：将第一MAC阵列中的一个MAC的操作状态设置为启用状态；将第一MAC阵列中除了所述一个MAC之外的剩余MAC的操作状态设置为禁用状态；将第二MAC阵列中的一个MAC的操作状态设置为启用状态；以及将第二MAC阵列中除了所述一个MAC之外的剩余MAC的操作状态设置为禁用状态。
[0022]用于处理第一输入特征图的权重可以具有高度“1”、宽度“1”和预定长度。
[0023]所述权重的值可以是“1”。
[0024]包括在第一MAC阵列中的MAC可以在加法器树结构中被级联。
[0025]一种可以存储指令的非暂时性计算机可读存储介质，所述指令在由处理器执行时，配置处理器执行所述方法。
[0026]在另一总体方面，一种神经网络操作设备包括：第一乘法器累加器(MAC)阵列，被配置为对第一输入特征图执行深度卷积运算；第二MAC阵列，被配置为对第二输入特征图执行深度卷积运算；以及控制器，被配置为：在第一MAC阵列和第二MAC阵列中的每个中，将一个MAC的操作状态设置为启用状态，并将除了所述一个MAC之外的剩余MAC的操作状态设置为禁用状态，其中，第一MAC阵列和第二MAC阵列可以被配置为：基于设置的操作状态，通过分别执行深度卷积运算来执行第一输入特征映射和第二输入特征映射的逐元素求和运算。
[0027]深度卷积运算可以基于权重来执行，并且权重的总数可以等于第一输入特征图和第二输入特征图中的任一个的输入通道的总数。
[0028]第一输入特征图和第二输入特征图可以对应于图像，并且第一操作引擎和第二操作引擎可以被配置为通过执行逐元素求和运算来生成输出特征图。
[0029]通过下面的具体实施方式、附图和权利要求，其他特征和方面将是清楚的。
附图说明
[0030]图1示出了神经网络操作设备的示例。
[0031]图2示出了乘法器累加器(MAC)阵列的示例。
[0032]图3示出了神经网络操作设备的示例。
[0033]图4示出了由神经网络操作设备执行的操作的示例。
[0034]图5示出了由神经网络操作设备执行的操作的示例。
[0035]图6示出了神经网络操作设备的操作流程的示例。
[0036]在整个附图和具体实施方式中，除非另有描述或提供，否则相同的附图参考标号将被理解为表示相同的元件、特征和结构。附图可能未按比例，并且为了清楚、说明和方便，附图中的元件的相对尺寸、比例和描绘可能被夸大。
具体实施方式
[0037]提供以下具体实施方式以帮助读者获得对在此描述的方法、设备和/或系统的全面理解。然而，在理解本申请的公开内容之后，在此描述的方法、设备和/或系统的各种改变、修改和等同物将是清楚的。例如，在此描述的操作的顺序仅仅是示例，并且不限于在此阐述的那些顺序本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络操作设备，包括：接收器，被配置为接收第一输入特征图；控制器，被配置为控制包括在第一乘法器累加器阵列中的乘法器累加器；以及第一操作引擎，包括第一乘法器累加器阵列并且被配置为基于操作状态被控制的乘法器累加器来处理第一输入特征图。2.如权利要求1所述的神经网络操作设备，其中，针对所述控制，控制器被配置为：将第一乘法器累加器阵列中的一个乘法器累加器的操作状态设置为启用状态，并且将第一乘法器累加器阵列中除了所述一个乘法器累加器之外的剩余乘法器累加器的操作状态设置为禁用状态，并且针对所述处理，第一操作引擎被配置为对第一输入特征图执行深度卷积运算。3.如权利要求1所述的神经网络操作设备，其中，接收器还被配置为接收第二输入特征图。4.如权利要求1所述的神经网络操作设备，还包括：第二操作引擎，包括第二乘法器累加器阵列并且被配置为基于第二乘法器累加器阵列来处理第二输入特征图。5.如权利要求4所述的神经网络操作设备，其中，针对所述控制，控制器被配置为控制第一操作引擎和第二操作引擎，并且第一操作引擎和第二操作引擎被配置为基于所述控制来执行第一输入特征图和第二输入特征图的逐元素求和运算。6.如权利要求5所述的神经网络操作设备，其中，针对所述控制，控制器被配置为：将第一乘法器累加器阵列中的一个乘法器累加器的操作状态设置为启用状态，并将第一乘法器累加器阵列中的剩余乘法器累加器的操作状态设置为禁用状态；并且将第二乘法器累加器阵列中的一个乘法器累加器的操作状态设置为启用状态，并将第二乘法器累加器阵列中的剩余乘法器累加器的操作状态设置为禁用状态，并且第一操作引擎和第二操作引擎被配置为：基于包括在第一乘法器累加器阵列中的操作状态被控制的乘法器累加器和包括在第二乘法器累加器阵列中的操作状态被控制的乘法器累加器，执行第一输入特征图和第二输入特征图的逐元素求和运算。7.如权利要求1至权利要求6中的任意一项所述的神经网络操作设备，还包括：权重缓冲器，具有高度“1”、宽度“1”和预定长度。8.如权利要求7所述的神经网络操作设备，其中，权重缓冲器的权重的值是“1”。9.如权利要求1至权利要求6中的任意一项所述的神经网络操作设备，其中，包括在第一乘法器累加器阵列中的乘法器累加器在加法器树结构中被级联。10.一种神经网络操作方法，所述方法包括：接收第一输入特征图；控制包括在第一乘法器累加器阵列中的乘法器累加器的操作状态；以及基于操作状态被控制的乘法器累加器来处理第一输入特征图。11.如权利要求10所述的神经网络操作方法，其中，
所述控制的步骤包括：将第一乘法器累加器阵列中的一个乘法器累加器的操作状态设置为启用状态；并且将第一乘法器累加器阵列中除了所述一个乘法器累加器之外的剩余乘法器累加器的操作状态设置为禁用状态，并且所述处理的步骤包括：对第一输入特征图执行深度卷积运算。12.如权利要求...

【专利技术属性】
技术研发人员：金明宇，郑韩雄，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：