特征图的处理方法、装置、卷积神经网络加速器和介质制造方法及图纸

本申请涉及人工智能技术领域，提供一种特征图的处理方法、装置、卷积神经网络加速器和存储介质。包括：获取多批特征图，将各批特征图依批次输入卷积运算单元进行卷积运算，得到各批特征图的卷积运算结果；将各批特征图的卷积运算结果依批次输入加法器，得到各批特征图的相加运算结果；卷积运算结果为首批特征图的卷积运算结果时，加法器将首批特征图的卷积运算结果与选择器提供的偏置相加得到首批特征图的相加运算结果；卷积运算结果为非首批特征图的卷积运算结果时，加法器将非首批特征图的卷积运算结果与选择器提供的前一批特征图的相加运算结果相加得到非首批特征图的相加运算结果，降低对加法器的控制逻辑复杂度且提高对加法器的利用率。加法器的利用率。加法器的利用率。

【技术实现步骤摘要】
特征图的处理方法、装置、卷积神经网络加速器和介质


[0001]本申请涉及人工智能
，特别是涉及一种特征图的处理方法、装置、卷积神经网络加速器和存储介质。

技术介绍

[0002]在人工智能时代，卷积神经网络应用在各种各样的场景中。然而卷积神经网络在部署时需要大量的算力，算力不足致使运算时间远远超过传统的算法，应用落地就无从谈起。因此，针对卷积神经网络运算的加速器应运而生。其中，卷积神经网络加速器对特征图的处理主要包括卷积运算、偏置运算和特征图的卷积运算结果的累加。为实现对特征图的偏置运算和卷积运算结果的累加处理，卷积神经网络加速器上部署较多加法器，不仅对加法器的控制逻辑较为复杂且对加法器的利用率较低。

技术实现思路

[0003]基于此，有必要针对上述技术问题，提供一种特征图的处理方法、装置、卷积神经网络加速器和存储介质。
[0004]一种特征图的处理方法，所述方法包括：
[0005]获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；
[0006]将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；
[0007]其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。
[0008]在其中一个实施例中，所述将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果，包括：
[0009]获取所述各批特征图各自对应的批权重；
[0010]将所述各批特征图和所述各批特征图各自对应的批权重作为同一批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果。
[0011]在其中一个实施例中，所述各批特征图的通道数量与所述输入通道数量一致。
[0012]一种特征图的处理装置，所述装置包括：
[0013]卷积运算模块，用于获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；
[0014]相加运算模块，用于将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；
[0015]其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。
[0016]在其中一个实施例中，所述相加运算模块，还用于获取所述各批特征图各自对应的批权重；将所述各批特征图和所述各批特征图各自对应的批权重作为同一批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果。
[0017]在其中一个实施例中，所述各批特征图的通道数量与所述输入通道数量一致。
[0018]一种卷积神经网络加速器，包括：控制器、卷积运算单元、加法器和选择器；
[0019]所述控制器，用于获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元；
[0020]所述卷积运算单元，用于依批次对所述各批特征图进行卷积运算，得到所述各批特征图的卷积运算结果，并将所述各批特征图的卷积运算结果依批次输入加法器；
[0021]所述加法器，用于依批次对所述各批特征图的卷积运算结果进行相加运算，得到所述各批特征图的相加运算结果；
[0022]其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。
[0023]在其中一个实施例中，
[0024]所述控制器，还用于获取所述各批特征图各自对应的批权重，并将所述各批特征图和所述各批特征图各自对应的批权重作为同一批次输入所述卷积运算单元；
[0025]所述卷积运算单元，用于对所述各批特征图和所述各自对应的批权重进行卷积运算，得到所述各批特征图的卷积运算结果。
[0026]在其中一个实施例中，所述各批特征图的通道数量与所述输入通道数量一致。
[0027]一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被控制器执行时实现如下方法：
[0028]获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；
[0029]将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；
[0030]其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的
卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。
[0031]在其中一个实施例中，所述计算机程序被控制器执行时实现如下方法：
[0032]获取所述各批特征图各自对应的批权重；
[0033]将所述各批特征图和所述各批特征图各自对应的批权重作为同一批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果。
[0034]在其中一个实施例中，所述各批特征图的通道数量与所述输入通道数量一致。
[0035]上述特征图的处理方法、装置、卷积神经网络加速器和存储介质中，获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种特征图的处理方法，其特征在于，所述方法包括：获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。2.根据权利要求1所述的方法，其特征在于，所述将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果，包括：获取所述各批特征图各自对应的批权重；将所述各批特征图和所述各批特征图各自对应的批权重作为同一批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果。3.根据权利要求1所述的方法，其特征在于，所述各批特征图的通道数量与所述输入通道数量一致。4.一种特征图的处理装置，其特征在于，所述装置包括：卷积运算模块，用于获取按照卷积运算单元的输入通道数量对多通道特征图进行批划分得到的多批特征图，将各批特征图依批次输入所述卷积运算单元进行卷积运算，得到所述各批特征图的卷积运算结果；相加运算模块，用于将所述各批特征图的卷积运算结果依批次输入加法器，得到所述各批特征图的相加运算结果；其中，所述卷积运算结果为首批特征图的卷积运算结果时，所述加法器将所述首批特征图的卷积运算结果与选择器提供的偏置相加得到所述首批特征图的相加运算结果；所述卷积运算结果为非首批特征图的卷积运算结果时，所述加法器将所述非首批特征图的卷积运算结果与所述选择器提供的前一批特征图的相加运算结果相加得到所述非首批特征图的相加运算结果。...

【专利技术属性】
技术研发人员：梁猷强，张斌，胡峰，刘钊含，余蓓，沈小勇，吕江波，贾佳亚，
申请(专利权)人：上海思谋科技有限公司，
类型：发明
国别省市：