一种基于相似性代理辅助的演化神经架构搜索方法和系统技术方案

技术编号:44659618 阅读:15 留言:0更新日期:2025-03-17 18:53
本发明专利技术提供了一种基于相似性代理辅助的演化神经架构搜索方法和系统,所述方法包括:步骤1,初始化一个架构种群,选择性能最佳的架构作为初始基准架构;步骤2,构建一种图神经网络变体作为特征提取器;步骤3,构建代理模型,通过联合损失函数训练代理模型;步骤4,根据适应度值保留高潜力架构,并对高潜力架构进行真实性能评估,将评估结果加入训练集;将当前种群与代理模型预测筛选出的高性能架构合并,通过环境选择策略更新种群;步骤5,重复步骤3和步骤4直至种群性能收敛,最终输出全局最优架构。本发明专利技术能够在有限的计算资源下快速搜索到高性能的神经网络架构,为神经网络的自动化设计与优化提供了一种高效、智能的新型解决方案。

【技术实现步骤摘要】

本专利技术涉及自动化机器学习领域,具体涉及一种基于相似性代理辅助的演化神经架构搜索方法和系统


技术介绍

1、神经网络作为一种强大的信息处理模型,在图像分类、目标检测以及自然语言处理等计算机任务领域,展现了卓越的性能和广泛的应用前景。然而,神经网络的性能在很大程度上依赖于其架构设计,包括层数、层类型、节点数及激活函数等关键因素。合理的网络架构设计对于提升模型效能至关重要。在研究的早期阶段,网络架构的设计主要依赖于人工调整,这种方式高度依赖领域专家的经验和知识积累,极大地制约了神经网络的发展速度。在此背景下,神经架构搜索作为一种网络架构的自动化设计范式,引起了广泛的关注。相比于传统的手动特征工程,神经架构搜索通过自动化搜索的方式,摆脱了繁琐的人工设计和调整过程,大幅提升了效率。通过神经架构搜索发现的网络架构,不仅性能优异,还表现出对不同任务和数据集的强适应能力,从而显著推动了人工智能技术在多领域的普适性与灵活性。

2、进化算法是一种模拟自然选择和遗传学原理的优化方法,利用交叉、变异和环境选择等机制,对种群进行迭代优化。鉴于神经网络架构的复杂性,神本文档来自技高网...

【技术保护点】

1.一种基于相似性代理辅助的演化神经架构搜索方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,步骤1中,通过随机采样策略从搜索空间中选取个架构作为初始种群,表示种群大小;随后,通过真实评估获取每个架构的真实性能值,所有已评估的架构及性能值记录至架构池,表示为:

3.根据权利要求2所述的方法,其特征在于,在步骤2中,将每个架构表示为图结构数据,采用有向无环图的形式表示为,其中顶点代表架构对应的神经网络的层级节点,每个层级节点对应一种操作,边表示层级之间的连接关系;将图的节点特征矩阵和邻接矩阵输入到由图卷积网络和多层感知器构成的图神经网络变体...

【技术特征摘要】

1.一种基于相似性代理辅助的演化神经架构搜索方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,步骤1中,通过随机采样策略从搜索空间中选取个架构作为初始种群,表示种群大小;随后,通过真实评估获取每个架构的真实性能值,所有已评估的架构及性能值记录至架构池,表示为:

3.根据权利要求2所述的方法,其特征在于,在步骤2中,将每个架构表示为图结构数据,采用有向无环图的形式表示为,其中顶点代表架构对应的神经网络的层级节点,每个层级节点对应一种操作,边表示层级之间的连接关系;将图的节点特征矩阵和邻接矩阵输入到由图卷积网络和多层感知器构成的图神经网络变体中进行处理,实现架构的特征提取,所述图卷积网络用于提取节点特征,所述多层感知器用于提...

【专利技术属性】
技术研发人员:刘珂玉薛羽田伟徐昕钟水明项正龙王修来许艳丹
申请(专利权)人:南京信息工程大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1