【技术实现步骤摘要】
本专利技术涉及自动化机器学习领域,具体涉及一种基于相似性代理辅助的演化神经架构搜索方法和系统。
技术介绍
1、神经网络作为一种强大的信息处理模型,在图像分类、目标检测以及自然语言处理等计算机任务领域,展现了卓越的性能和广泛的应用前景。然而,神经网络的性能在很大程度上依赖于其架构设计,包括层数、层类型、节点数及激活函数等关键因素。合理的网络架构设计对于提升模型效能至关重要。在研究的早期阶段,网络架构的设计主要依赖于人工调整,这种方式高度依赖领域专家的经验和知识积累,极大地制约了神经网络的发展速度。在此背景下,神经架构搜索作为一种网络架构的自动化设计范式,引起了广泛的关注。相比于传统的手动特征工程,神经架构搜索通过自动化搜索的方式,摆脱了繁琐的人工设计和调整过程,大幅提升了效率。通过神经架构搜索发现的网络架构,不仅性能优异,还表现出对不同任务和数据集的强适应能力,从而显著推动了人工智能技术在多领域的普适性与灵活性。
2、进化算法是一种模拟自然选择和遗传学原理的优化方法,利用交叉、变异和环境选择等机制,对种群进行迭代优化。鉴于神经
...【技术保护点】
1.一种基于相似性代理辅助的演化神经架构搜索方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的方法,其特征在于,步骤1中,通过随机采样策略从搜索空间中选取个架构作为初始种群,表示种群大小;随后,通过真实评估获取每个架构的真实性能值,所有已评估的架构及性能值记录至架构池,表示为:
3.根据权利要求2所述的方法,其特征在于,在步骤2中,将每个架构表示为图结构数据,采用有向无环图的形式表示为,其中顶点代表架构对应的神经网络的层级节点,每个层级节点对应一种操作,边表示层级之间的连接关系;将图的节点特征矩阵和邻接矩阵输入到由图卷积网络和多层感知器
...【技术特征摘要】
1.一种基于相似性代理辅助的演化神经架构搜索方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的方法,其特征在于,步骤1中,通过随机采样策略从搜索空间中选取个架构作为初始种群,表示种群大小;随后,通过真实评估获取每个架构的真实性能值,所有已评估的架构及性能值记录至架构池,表示为:
3.根据权利要求2所述的方法,其特征在于,在步骤2中,将每个架构表示为图结构数据,采用有向无环图的形式表示为,其中顶点代表架构对应的神经网络的层级节点,每个层级节点对应一种操作,边表示层级之间的连接关系;将图的节点特征矩阵和邻接矩阵输入到由图卷积网络和多层感知器构成的图神经网络变体中进行处理,实现架构的特征提取,所述图卷积网络用于提取节点特征,所述多层感知器用于提...
【专利技术属性】
技术研发人员:刘珂玉,薛羽,田伟,徐昕,钟水明,项正龙,王修来,许艳丹,
申请(专利权)人:南京信息工程大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。