神经网络架构的搜索方法及相关设备技术

技术编号:38098211 阅读:19 留言:0更新日期:2023-07-06 09:14
本申请实施例提供了一种神经网络架构的搜索方法、装置、电子设备、计算机可读存储介质及计算机程序产品,涉及人工智能技术领域。该方法包括:获取搜索空间对应的超网络的性能信息;基于获取的性能信息,优化超网络的网络结构参数,或从搜索空间对应的超网络中搜索神经网络架构。本申请的实施有利于提高搜索得到的神经网络架构的性能。同时,由电子设备执行的上述神经网络架构的搜索方法可以使用人工智能模型来执行。能模型来执行。能模型来执行。

【技术实现步骤摘要】
神经网络架构的搜索方法及相关设备


[0001]本申请涉及人工智能
,具体而言,本申请涉及一种神经网络架构的搜索方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

技术介绍

[0002]神经网络架构搜索(NAS,Neural Architecture Search)是在机器学习领域中的研究热点。NAS可以在不需要人工干预的情况下针对特定的学习问题搜索出有效的神经网络架构。
[0003]然而,目前NAS针对给定的数据和任务进行神经网络架构的搜索准确度较低,且搜索出的神经网络架构性能较差。

技术实现思路

[0004]本申请实施例提供了一种神经网络架构的搜索方法、装置、电子设备、计算机可读存储介质及计算机程序产品,可以解决搜索出的神经网络架构性能差的问题。所述技术方案如下:
[0005]根据本申请实施例的一个方面,提供了一种神经网络架构的搜索方法,该方法包括:
[0006]获取搜索空间对应的超网络的性能信息;
[0007]基于获取的所述性能信息,优化所述超网络的网络结构参数,或从所述搜索空间本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种神经网络架构的搜索方法,其特征在于,包括:获取搜索空间对应的超网络的性能信息;基于获取的所述性能信息,优化所述超网络的网络结构参数,或从所述搜索空间对应的超网络中搜索神经网络架构。2.根据权利要求1所述的方法,其特征在于,所述搜索空间包含若干个候选操作集,至少一个候选操作集包含所述搜索空间内至少两个子空间的候选操作,其中,至少一个候选操作集的所有候选操作的网络结构参数的和为1。3.根据权利要求2所述的方法,其特征在于,还包括:预测不同数量的操作分别对应的第一性能信息;基于所述第一性能信息,确定操作的目标数量;基于所述目标数量,确定至少一个候选操作集中包括的子空间的数量。4.根据权利要求3所述的方法,其特征在于,基于所述目标数量,确定至少一个候选操作集中包括的子空间的数量,包括:基于所述目标数量,确定各候选操作集的操作的目标数量;基于至少一个候选操作集的操作的目标数量,确定所述至少一个候选操作集中的子空间的数量。5.根据权利要求4所述的方法,其特征在于,至少一个候选操作集包含的子空间的数量为该候选操作集的操作的目标数量。6.根据权利要求3

5中任一项所述的方法,其特征在于,确定操作的目标数量,包括:确定不同数量的操作分别对应的第一性能信息与目标性能信息之间的预测差值;基于所述预测差值,确定操作的目标数量。7.根据权利要求3

6中任一项所述的方法,其特征在于,所述第一性能信息包括网络延时信息。8.根据权利要求1

7中任一项所述的方法,其特征在于,所述超网络的性能信息包括对在所述超网络中采样得到的采样网络进行性能预测得到的第二性能信息;基于获取的所述性能信息优化所述超网络的网络结构参数,包括:基于所述第二性能信息优化所述超网络的网络结构参数。9.根据权利要求8所述的方法,其特征在于,所述超网络的性能信息还包括对所述超网络进行性能评估得到的第三性能信息;基于获取的所述性能信息优化所述超网络的网络结构参数,包括:基于所述第二性能信息和所述第三性能信息优化所述超网络的网络结构参数。10.根据权利要求1

9中任一项所述的方法,其特征在于,所述超网络的性能信息包括所述超网络的精度信息和/或延时信息。11.根据权利要求1

10中任一项所述的方法,其特征在于,基于获取的所述性能信息,优化所述超网络的网络结构参数,或从所述搜索空间对应的超网络中搜索神经网络架构,包括:判断是否满足搜索结束条件;若满足,则从所述搜索空间对应的超网络中采样出神经网络架构;若不满足,则基于获取的所述性能信息优化所述超网络的网络结构参数后,执行所述
获取搜索空间对应的超网络的性能信息的步骤。12.根据...

【专利技术属性】
技术研发人员:姜映映甘卓欣林科阿勇
申请(专利权)人:三星电子株式会社
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1