【技术实现步骤摘要】
一种基于交叉生成复杂神经网络的方法及系统
本专利技术涉及神经网络，尤其涉及针对神经网络结构的设计方法。
技术介绍
随着人工智能技术的发展，卷积神经网络被广泛地应用于模仿生物的视知觉机制构建领域，其在图像分类、目标识别等领域取得了重要的成果。已有研究表明，利用更复杂的神经网络结构更有利于提取和分析图像的特征，从而输出更理想的分类结果。这使得设计复杂神经网络结构(尤其是复杂的大规模神经网络结构)成为了神经网络领域的一项关键技术。现有的设计复杂神经网络结构的方法可大致分为以下三类。第一类为基于演化方法进行神经网络结构复杂化，这种方法只进行随机的突变操作，由于没有启发式地探索，因而容易退化为简单的随机搜索，致使在训练时准确率上升缓慢。第二类为基于函数保持的方法，此类方法通过强化学习或进化算法进行网络拓扑的探索，然而由于其同样存在探索过程缺乏经验指导的问题，容易退化为随机搜索，存在训练时准确率上升缓慢的缺陷。第三类是由KennethO.Stanly等人于2002年在“EvolvingNeuralNetw...
【技术保护点】
1.一种基于交叉生成复杂神经网络的方法，包括：/n1)从已有的神经网络结构的种群中选择具有高适应度的两个作为父代个体，其中，所述两个父代个体之间具有以卷积层为单位的异构结构；/n2)将一个卷积层作为最小的操作单位，对所述两个父代个体执行交叉操作以得到子代个体。/n
【技术特征摘要】
20190905 CN 20191083506271.一种基于交叉生成复杂神经网络的方法，包括：
1)从已有的神经网络结构的种群中选择具有高适应度的两个作为父代个体，其中，所述两个父代个体之间具有以卷积层为单位的异构结构；
2)将一个卷积层作为最小的操作单位，对所述两个父代个体执行交叉操作以得到子代个体。
2.根据权利要求1所述的方法，其中步骤2)还包括：
对通过所述交叉操作得到的子代个体的至少部分参数进行修改，使得所述子代个体能够执行与其中一个父代个体一致的等效计算。
3.根据权利要求2所述的方法，其中采用以下任意一种方式执行所述交叉操作并设置所得到子代个体的参数：
方式一：对所述两个父代个体的异构结构执行Add操作以得到子代个体的神经网络结构；其中，针对所获得的子代个体，保持该子代个体中与一个所述父代个体的异构部分对应的训练参数不变，并且将该子代个体中与另一个所述父代个体的相应异构部分对应的训练参数设置为0；
方式二：对所述两个父代个体的异构结构执行Concatenate操作以得到子代个体的神经网络结构；其中，针对所获得的子代个体，保持该子代个体中与一个所述父代个体的异构部分对应的训练参数不变，并且将该子代个体中与另一个所述父代个体的相应异构部分对应的训练参数设置为0；
方式三：确定所述两个父代个体的同源祖先个体、以及所述两个父代个体相较于所述同源祖先个体所分别经历的各种突变；以随机的方式保留所述突变，并对所述同源祖先个体执行所保留的突变以获得子代个体；其中，针对所获得的子代个体，将该子代个体中在所述同源祖先个体以及所述两个父代个体中均不存在的卷积层部分的训练参数设置为0，保持该子代个体中与所述两个父代个体中任意一个或者所述同源祖先个体完全一致的卷积层部分的训练参数不变；
方式四：确定所述两个父代个体的同源祖先个体、以及所述两个父代个体相较...
【专利技术属性】
技术研发人员：朱徽，安竹林，徐勇军，胡小龙，李超，
申请(专利权)人：中国科学院计算技术研究所，
类型：发明
国别省市：北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。