神经网络计算模块、方法和通信设备技术

本发明专利技术提供了一种神经网络计算模块、方法和通信设备，属于数据处理领域，具体包括数据控制器、数据提取器和神经网络计算单元，数据控制器根据配置信息和指令信息调整数据通路，控制数据提取器提取的数据流按指令信息加载到对应的神经网络计算单元，神经网络计算单元至少完成一个卷积核与特征行数据的卷积运算并在至少一个周期完成多个卷积结果的累加，从而实现电路重构以及数据复用，神经网络计算单元包括多个神经网络加速分片，每个神经网络加速分片包含多个卷积运算乘加阵列，每个神经网络加速分片至少完成一个输入通道的特征图数据与一个卷积核数据的卷积运算，多个神经网络加速分片完成多个输入通道的特征图数据与一个卷积核数据的卷积运算。个卷积核数据的卷积运算。个卷积核数据的卷积运算。

【技术实现步骤摘要】
神经网络计算模块、方法和通信设备


[0001]本专利技术涉及数据处理领域，具体涉及一种神经网络计算模块、方法和通信设备。

技术介绍

[0002]卷积神经网络由输入层(inputlayer)、任意数量的作为中间层的隐藏层(hiddenlayer)及输出层(outputlayer)构成。输入层(inputlayer)具有多个输入节点(神经元)。输出层具有识别对象数量的输出节点(神经元)。
[0003]卷积核是一个设置在隐藏层的小窗口，其中保存着权重参数。卷积核在输入图像上按步长依次滑动，和对应区域的输入特征图像进行乘加运算，即将卷积核中的权重参数和对应的输入图像的值先相乘再求和。传统的卷积加速运算装置需要利用img2col方法对输入的特征图数据和卷积核数据按照卷积核尺寸及步长参数进行矩阵形式的展开处理再对展开后的矩阵进行运算，从而可按照矩阵乘法运算规则进行卷积加速，但这种方法在特征数据矩阵展开后，需要较大的片上缓存，同理需要更多的片外主存读取频率以及不能高效复用以读取的数据从而需要占用了片外访存读写带宽增加了硬件功耗，同时基于img2col本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络计算模块，其特征在于，包括数据控制器、数据提取器和神经网络计算单元，所述数据控制器根据配置信息和指令信息调整数据通路，控制所述数据提取器提取的数据流按指令信息加载到对应的神经网络计算单元，所述神经网络计算单元至少完成一个卷积核与所述特征图数据多个输入通道对应的特征行数据的卷积运算，并在至少一个周期完成多个卷积结果的累加，从而实现电路重构以及数据复用，所述神经网络计算单元包括多个神经网络加速分片，每个神经网络加速分片包含多个卷积运算乘加阵列，每个神经网络加速分片至少完成一个输入通道的特征图数据与一个卷积核数据的卷积运算，多个神经网络加速分片完成多个输入通道的特征图数据与一个卷积核数据的卷积运算。2.根据权利要求1所述的神经网络计算模块，其特征在于，所述多个神经网络加速分片构成第一神经网络运算矩阵，多个第一神经网络运算矩阵并联耦合构成第二神经网络加速矩阵；所述第二神经网络加速矩阵中的第一神经网络运算矩阵用于完成多个输入通道特征数据与一个卷积核的卷积运算，多个所述第二神经网络加速矩阵完成多个输入通道特征数据与多个卷积核的并行卷积运算。3.根据权利要求1所述的神经网络计算模块，其特征在于，每组卷积运算乘加阵列通过并行输入的方式获取特征行数据；每组卷积运算乘加阵列通过串行输入的方式获取卷积核行数据。4.根据权利要求1所述的神经网络计算模块，其特征在于，所述神经网络加速分片包含多个第一多路选择复用器和多个第二多路选择复用器，所述第一多路选择复用器与所述卷积运算乘加阵列一一对应地并行耦合，所述第二多路选择复用器与所述卷积运算乘加阵列一一对应地串行耦合；所述第一多路选择复用器通过数据选择信号获取与所述卷积运算乘加阵列对应的所述特征行数据，并行输入至对应的各级所述卷积运算乘加阵列中，所述第二多路选择复用器获取与所述卷积运算乘加阵列对应的卷积核行数据串行输入至各级所述卷积运算乘加阵列中完成卷积乘加运算。5.根据权利要求1所述的神经网络计算模块，其特征在于，所述神经网络计算模块还包括第一移位寄存器组与第二移位寄存器组，所述神经网络计算单元包括乘加子单元与部分和缓存子单元，所述第一移位寄存器组采用串行输入并行输出的方式，并通过第一多路选择复用器将所述特征行数据输出至所述乘加子单元；所述第二移位寄存器组采用串行输入并根据步长择一输出的方式，并通过第二多路选择复用器将卷积核行数据输出至下一级卷积运算乘加阵列和所述乘加子单元，所述乘加子单元将输入的所述特征行数据和所述卷积核行数...

【专利技术属性】
技术研发人员：王赟，张官兴，郭蔚，黄康莹，张铁亮，
申请(专利权)人：上海埃瓦智能科技有限公司，
类型：发明
国别省市：