The present invention proposes a forward acceleration method for convolution neural network, which includes: splicing four sequence layers of convolution neural network into a serial convolution layer: convolution layer, batch standardization layer, scaling layer and non-linear activation layer; and/or splicing the same layer and volume convolution core in convolution layer to make the same layer and same volume. Volume convolution kernels are spliced into parallel convolution kernels; and/or, feature maps with two-fold dimension relations are extracted, and the extracted feature maps are grouped, and the feature maps in the grouping are sequentially spliced.
【技术实现步骤摘要】
一种卷积神经网络前向加速方法、装置及系统
本专利技术涉及人工智能
，特别涉及一种卷积神经网络前向加速方法、装置及系统。
技术介绍
随着人工智能(AI，ArtificialIntelligence)的发展，现有技术中出现了各种神经网络卷积模型，包括：LeNet-5模型、AlexNet模型、VGGNet模型、GoogleNet模型、ResNet模型等等。每个神经网络模型有其特点，例如：LeNet-5模型是第一个成功应用于数字识别的卷积神经网络模型，卷积层自带激励函数。AlexNet模型为较为经典的卷积神经网络模型，其结构通常为：输入层→(卷积层→池化层)→全连接层→输出层，AlexNet卷积层的卷积核边长为5或3，池化层的窗口边长为3。VGGNet模型和AlexNet模型在结构上没多大变化，在卷积层部位增加了多个卷积层。GoogleNet模型使用了多个不同分辨率的卷积核，最后再对它们得到的特征图(featuremap)按深度融合在一起。但是，目前随着人工智能使用领域的日趋广泛，卷积神经网络的反应速度逐渐成为了制约其应用的瓶颈。因此，需要改进现有的卷积神经网络以提...
【技术保护点】
1.一种卷积神经网络前向加速方法，其特征在于，所述方法包括在卷积神经网络结构中：将卷积神经网络中的四个顺序向前层：卷积层(Convolution layer)、批次标准化层(Batch Normlizaiton layer)、缩放层(Scale layer)和非线性激活层(Relu layer)拼接构成一个串行卷积层；和/或，拼接卷积层(Convolution layer)中同层、同体积的卷积核，以使得所述同层、同体积的卷积核被拼接成为一个并行卷积核；和/或，提取具有二倍数维度关系的特征图(feature map)，对提取的特征图(feature map)进行分组，对分组中...
【技术特征摘要】
1.一种卷积神经网络前向加速方法，其特征在于，所述方法包括在卷积神经网络结构中：将卷积神经网络中的四个顺序向前层：卷积层(Convolutionlayer)、批次标准化层(BatchNormlizaitonlayer)、缩放层(Scalelayer)和非线性激活层(Relulayer)拼接构成一个串行卷积层；和/或，拼接卷积层(Convolutionlayer)中同层、同体积的卷积核，以使得所述同层、同体积的卷积核被拼接成为一个并行卷积核；和/或，提取具有二倍数维度关系的特征图(featuremap)，对提取的特征图(featuremap)进行分组，对分组中的特征图(featuremap)进行级数拼接。2.根据权利要求1所述的方法，其特征在于，将卷积层(Convolutionlayer)、批次标准化层(BatchNormlizaitonlayer)、缩放层(Scalelayer)和非线性激活层(Relulayer)四个顺序向前层拼接成为一个层包括：提取卷积层(Convolutionlayer)的第一卷积核；提取批次标准化层(BatchNormlizaitonlayer)中累计计算的均值和方差；提取缩放层(Scalelayer)的比例缩放因子和位移因子；提取非线性激活层(Relulayer)中的线性整流函数；通过所述累计计算的均值和方差、比例缩放因子和位移因子以及线性整流函数将所述卷积核重构为第二卷积核；将所述第二卷积核作为串行卷积层的卷积核。3.根据权利要求1所述的方法，其特征在于，拼接卷积层(Convolutionlayer)中同层、同体积的卷积核，以使得所述同层、同体积的卷积核被拼接成为一个并行卷积核包括：将卷积层(Convolutionlayer)中将M个同层的N×N卷积核拼接为并行卷积核。4.根据权利要求1所述的方法，其特征在于，提取具有二倍数维度关系的特征图(featuremap)，对提取的特征图(featuremap)进行分组，对分组中的特征图(featuremap)进行级数拼接包括：提取特征图(featuremap)中具有二倍数维度关系的特征图(featuremap)；将所述提取特征图(featuremap)按照降幂的方式排序，并作为一个的分组；按照排序拼接每个分组中的特征图(featurema...
【专利技术属性】
技术研发人员：陈志博，李彦融，黄小明，李集佳，石楷弘，
申请(专利权)人：腾讯科技深圳有限公司，
类型：发明
国别省市：广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。