【技术实现步骤摘要】
一种基于通道数搜索卷积神经网络的方法
本专利技术涉及计算机深度学习领域,具体地说,涉及神经网络结构设计优化方法中的神经网络结构搜索领域,更具体地说,涉及一种基于通道数搜索卷积神经网络的方法。
技术介绍
近年来,深度学习在计算机视觉等领域取得了重要成就。作为决定卷积神经网络性能的重要因素,许多优秀的神经结构被设计出来,如VGGNet(VisualGeometryGroupNetwork)、ResNet(ResidualNeuralNetwork)、SENet(Squeeze-and-ExcitationNetworks)等。尽管这些人工设计的卷积神经网络在特定的分类数据集上不断刷新了最高准确率,但是它们严重依赖专家经验且难以面对各种新的复杂数据集。随着对神经结构搜索方面越来越多的关注,很多自动搜索的神经网络结构已经在性能上超越了从前人工设计的神经结构。现有技术下,大都是侧重于神经网络结构之间的连接方面的探索,并没有针对卷积神经网络通道数搜索方面的深入研究。众所周知,一个RGB图片,在最初输入时其通道数是3(红绿 ...
【技术保护点】
1.一种基于通道数搜索卷积神经网络的方法,其特征在于,包括:/nS1、构建与待优化卷积神经网络的卷积层层数相同的初始卷积神经网络,并将该初始卷积神经网络每层的初始通道数设为相同数值并使初始卷积神经网络的初始通道数不超过待优化卷积神经网络的最小通道数,训练该初始卷积神经网络至收敛;/nS2、对经步骤S1训练后的初始卷积神经网络进行多次突变以得到多个突变卷积神经网络,其中,单次突变是从预设的增量函数中随机选择一个增量函数对该次突变中的卷积神经网络的卷积层通道数进行增量变换后训练至收敛得到一个突变卷积神经网络;/nS3、从步骤S2中的多个突变卷积神经网络中选择图像分类准确率最高的 ...
【技术特征摘要】
1.一种基于通道数搜索卷积神经网络的方法,其特征在于,包括:
S1、构建与待优化卷积神经网络的卷积层层数相同的初始卷积神经网络,并将该初始卷积神经网络每层的初始通道数设为相同数值并使初始卷积神经网络的初始通道数不超过待优化卷积神经网络的最小通道数,训练该初始卷积神经网络至收敛;
S2、对经步骤S1训练后的初始卷积神经网络进行多次突变以得到多个突变卷积神经网络,其中,单次突变是从预设的增量函数中随机选择一个增量函数对该次突变中的卷积神经网络的卷积层通道数进行增量变换后训练至收敛得到一个突变卷积神经网络;
S3、从步骤S2中的多个突变卷积神经网络中选择图像分类准确率最高的突变卷积神经网络作为搜索结果。
2.根据权利要求1所述的一种基于通道数搜索卷积神经网络的方法,其特征在于,所述初始通道数大于等于待优化卷积神经网络的最小通道数的二分之一。
3.根据权利要求1所所述的一种基于通道数搜索卷积神经网络的方法,其特征在于,所述步骤S2中对经步骤S1训练后的初始卷积神经网络进行多次突变包括:
S21、以经步骤S1训练后的初始卷积神经网络为基础进行单次突变得到初始突变卷积神经网络,重复多次,以得到预设初始规模的多个初始突变卷积神经网络组成初始种群;
S22、从初始种群中采用锦标赛选择方法选择一个初始突变卷积神经网络进行单次突变获得一代突变卷积神经网络并放回初始种群,重复多次,直至初始种群的规模达到预设的一代规模形成突变卷积神经网络的一代种群;
S23、从一代种群中采用锦标赛选择方法选择一个突变卷积神经网络进行单次突变获得二代突变卷积神经网络并放回一代种群同时淘汰一代种群中图像分类准确率最低的突变卷积神经网络,重复多次,直到一代种群中的图像分类准确率最高的卷积神经网络在预设的次数内均不发生变化,获得突变卷积神经网络的二代种群。
4.根据权利要求3所述的一种基于通道数搜索卷积神经网络的方法,其特征在于,单次突变中的增量变换是指基于本次突变随机选择的增量函数,计算卷积神经网络每个卷积层通道数的增量,针对卷积神经网络的每个卷积层,以本次增量变换前该卷积层的通道数与本次计算出的该卷积层通道数的增量之和来更新其卷积层通道数。
5.根据权利要求4所述的一种基于通道数搜索卷积神经网络的方法,其特征在于,单次突变中将增量变换后的卷积神经网络训练至收敛是指对增量变换后的卷积神经网络进行多次训练,直到在某次训练后与该...
【专利技术属性】
技术研发人员:朱徽,徐勇军,赵二虎,程坦,安竹林,
申请(专利权)人:中国科学院计算技术研究所,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。