神经网络加速设备及其操作方法技术

本申请涉及一种神经网络加速设备以及其操作方法。该神经网络加速设备包括：零值过滤器，被配置成通过将权重施加到输入特征来过滤零(0)值，并且通过将包括相对坐标和组边界信息的索引信息与输入特征的数据元素进行匹配生成压缩数据包；乘法器，被配置成通过对压缩数据包的输入特征和权重执行乘法运算来生成结果数据；以及特征图提取器，被配置成对基于从乘法器传送的结果数据的相对坐标和组边界信息的相乘结果数据执行加法运算，并且通过重排加法运算的结果值来生成输出特征图。

【技术实现步骤摘要】
神经网络加速设备及其操作方法相关申请的交叉引用本申请要求于2019年4月26日向韩国知识产权局提交的申请号为10-2019-0049176的韩国专利申请的优先权，该韩国专利申请通过引用整体并入本文。
各个实施例总体可以涉及一种半导体装置，并且更特别地，涉及一种神经网络加速设备以及该神经网络加速设备的操作方法。
技术介绍
卷积神经网络(CNN)应用可以是主要用于图像识别和分析的神经网络应用。这些应用可能需要使用特定过滤器从图像中提取特征的卷积运算过滤器。执行乘法运算和加法运算的矩阵乘法单元可以用于卷积运算。当卷积系数中的0(零)分布较少时，例如，当系数的稀疏度(等于零的分数)较小时，矩阵乘法单元可以高效地用于处理稠密(即低稀疏度)图像和过滤器。但是，由于CNN应用中所使用的多数图像和过滤器的稀疏度约为30％至70％，因此可能包括大量的零(0)值。零值可能在执行卷积运算时产生不必要的延迟和功耗。因此，需要有在CNN应用中高效执行卷积运算的方法。
技术实现思路
实施例提供了一种具有改进的操作性能的神本文档来自技高网...

【技术保护点】
1.一种神经网络加速设备，包括：/n零值过滤器，通过将权重施加到包括多个数据元素的输入特征来过滤零值即0值，并且通过将包括相对坐标和组边界信息的索引信息与所述输入特征的数据元素进行匹配生成压缩数据包；/n乘法器，通过对所述压缩数据包的输入特征和权重执行乘法运算来生成结果数据；以及/n特征图提取器，对基于所述相对坐标和所述组边界信息的所述结果数据执行加法运算，并且通过以原始输入特征形式重排加法运算的结果值来生成输出特征图。/n

【技术特征摘要】
20190426 KR 10-2019-00491761.一种神经网络加速设备，包括：
零值过滤器，通过将权重施加到包括多个数据元素的输入特征来过滤零值即0值，并且通过将包括相对坐标和组边界信息的索引信息与所述输入特征的数据元素进行匹配生成压缩数据包；
乘法器，通过对所述压缩数据包的输入特征和权重执行乘法运算来生成结果数据；以及
特征图提取器，对基于所述相对坐标和所述组边界信息的所述结果数据执行加法运算，并且通过以原始输入特征形式重排加法运算的结果值来生成输出特征图。


2.根据权利要求1所述的神经网络加速设备，进一步包括输出特征图生成器，所述输出特征图生成器通过将激励函数应用于所述输出特征图来将所述输出特征图改变为非线性值，通过执行池化处理来生成最终输出特征图，并且将所述最终输出特征图传送至第一存储器、第二存储器和零值过滤器中的任意一个。


3.根据权利要求1所述的神经网络加速设备，其中所述零值过滤器使用所述输入特征的零值位置、所述权重的零值位置和步长值执行所述零值过滤。


4.根据权利要求1所述的神经网络加速设备，其中所述零值过滤器根据预设标准对所述输入特征的数据元素进行分组，生成多个组之间的相对坐标，并且将所述相对坐标与每组的数据元素进行匹配。


5.根据权利要求4所述的神经网络加速设备，其中所述组边界信息是用于对所述多个组进行划分的1位信息。


6.根据权利要求1所述的神经网络加速设备，其中所述零值过滤器将所述输入特征和所述权重转换为一维矢量即1D矢量，通过对所述输入特征和所述权重执行按位OR运算即按位或运算来过滤所述输入特征和所述权重的非零值位置，并且通过对所述输入特征和所述权重的经过滤非零位置值执行按位AND运算即按位与运算，根据目标边界的权重位置来产生非零位置值。


7.根据权利要求6所述的神经网络加速设备，其中所述零值过滤器通过对所述目标边界的所述非零位置值执行按位或运算来产生整合边界信息。


8.根据权利要求7所述的神经网络加速设备，其中所述零值过滤器在产生所述整合边界信息时根据步长值改变待被执行按位或运算的所述目标边界。


9.根据权利要求6所述的神经网络加速设备，其中每个目标边界对应于滑动窗口的相应位置，转换为所述1D矢量的权重通过所述滑动窗...

【专利技术属性】
技术研发人员：张在爀，
申请(专利权)人：爱思开海力士有限公司，
类型：发明
国别省市：韩国;KR