一种改进的并行通道卷积神经网络训练方法技术
【技术实现步骤摘要】
一种改进的并行通道卷积神经网络训练方法
本专利技术属于深度学习以及大数据
，具体涉及一种改进的并行通道卷积神经网络训练方法。
技术介绍
随着社会的发展，大数据时代的来临，与之相关的技术不断发展和创新。深度学习因其能利用海量数据并通过更深层网络的训练提高分类正确率，在近年来取得一些列突破性进展。学者们都试图通过增加卷积神经网络的规模来提升其性能，而增加网络规模最简单的方式就是增加“深度”。然而基于传统卷积神经网络的结构搭建的深度网络，随着网络层数的增加,精度会达到饱和，甚至降低。文献“RomeroA,BallasN,KahouSE,etal.Fitnets:Hintsforthindeepnets[J].arXivpreprintarXiv:1412.6550,2014.”中提出一种多阶段训练方法，先分别训练多个浅层网络，最后将多个浅层网络进行组合，从而实现一个深层网络。这样做需要人为地分别对多个网络参数进行调节，耗时耗力，且分别训练多个浅层网络会丢失网络之间的关联信息，将对网络最后的性能产生影响。文献“LeeCY,XieS,GallagherP,etal.D...
【技术保护点】
一种改进的并行通道卷积神经网络训练方法，其特征在于：所述的方法包括按顺序进行的下列步骤：1)分别利用直连和卷积两个并行通道对卷积神经网络中的数据进行特征提取，得到直连通道特征矩阵和卷积通道特征矩阵；2)将步骤1)得到的两个特征矩阵进行合并，并输入到最大池化层和均值池化层进行数据降维；3)重复步骤1)、步骤2)，得到最终特征矩阵；4)将上述步骤3)得到的最终特征矩阵进行全局平均池化并输入全连接层变为一维特征矩阵，并利用softmax分类器对一维特征矩阵进行分类而对卷积神经网络进行训练，计算此次网络训练的损失值；5)利用误差反向传播算法进行梯度计算，计算各层误差项和权值梯度；6...
【技术特征摘要】
1.一种改进的并行通道卷积神经网络训练方法，其特征在于：所述的方法包括按顺序进行的下列步骤：1)分别利用直连和卷积两个并行通道对卷积神经网络中的数据进行特征提取，得到直连通道特征矩阵和卷积通道特征矩阵；2)将步骤1)得到的两个特征矩阵进行合并，并输入到最大池化层和均值池化层进行数据降维；3)重复步骤1)、步骤2)，得到最终特征矩阵；4)将上述步骤3)得到的最终特征矩阵进行全局平均池化并输入全连接层变为一维特征矩阵，并利用softmax分类器对一维特征矩阵进行分类而对卷积神经网络进行训练，计算此次网络训练的损失值；5)利用误差反向传播算法进行梯度计算，计算各层误差项和权值梯度；6)根据步骤4)中所得损失值判断网络是否收敛，如不收敛，依据步骤5)中获得的权值梯度调整卷积神经网络初始化参数并重新进行训练，如已收敛则输出网络训练结果。2.根据权利要求1所述的改进的并行通道卷积神经网络训练方法，其特征在于：在步骤1)中，所述的分别利用直连和卷积两个并行通道对卷积神经网络中的数据进行特征提取，得到直连通道特征矩阵和卷积通道特征矩阵的方法是：首先，将数据分别输入直连通道和卷积通道；然后在直连通道中直接将数据映射为直连通道特征矩阵作为输出，在卷积通道上利用多个卷积层对数据进行卷积操作，每个卷积层的输入是上一个卷积层的输出，将最后一个卷积层输出矩阵作为卷积通道的特征矩阵。3.根据权利要求1所述的改进的并行通道卷积神经网络训练方法，其特征在于：在步骤2)中，所述的将步骤1)得到的两个特征矩阵进行合并，并输入到最大池化层和均值池化层进行数据降维的方法是：首先，将直连通道所得特征矩阵和卷积通道所得特征矩阵进行合并，即得到多个特征矩阵的集合；然后分别将所得特征矩阵输入最大池化层和均值池化层，在最大池化层，使用滤波器取滤波器内值的最大值，在均值池化层使用滤波器取滤波器内的平均值。4.根据权利要求1所述的改进的并行通道卷积神经网络训练方法，其特征在于：在步骤4)中，所述的...
【专利技术属性】
技术研发人员：屈景怡，朱威，李佳怡，吴仁彪，
申请(专利权)人：中国民航大学，
类型：发明
国别省市：天津,12
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。