神经网络结构的评估、确定方法、装置和存储介质制造方法及图纸

本公开是关于一种神经网络结构的评估、确定方法、装置和存储介质。该方法包括：获取子结构与GPU时间的对应关系，所述对应关系用于指示超网络中各个子结构的GPU时间，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构；基于所述对应关系，确定目标神经网络的GPU时间，所述目标神经网络包括依次连接的多层结构，所述目标神经网络的每层结构为对应层的所述搜索空间中的一个子结构；基于所述目标神经网络的GPU时间，对所述目标神经网络的结构进行评估。通过基于所述对应关系，确定目标神经网络的GPU时间，可以快速确定目标神经网络的GPU时间，有利于快速判断目标神经网络是否满足设计需求。

Evaluation and determination method, device and storage medium of neural network structure

【技术实现步骤摘要】
神经网络结构的评估、确定方法、装置和存储介质
本公开涉及计算机
，尤其涉及一种神经网络结构的评估、确定方法、装置和存储介质。
技术介绍
神经网络是采用非线性单元中的一个或多个层来为接收的输入预测输出的机器学习模型。一些神经网络除了包括输出层之外，还包括一个或多个隐藏层。每个隐藏层的输出被用作该网络的下一层(即下一个隐藏层或输出层)的输入。目前，神经网络的构建通常都采用人工方式，即研究人员根据经验设计神经网络的结构并赋予初始参数，然后对神经网络进行训练，以得到可以执行指定任务的神经网络。
技术实现思路
本公开提供一种神经网络结构的评估、确定方法、装置和存储介质，能够快速确定神经网络结构的GPU时间，以便于评估神经网络结构是否符合要求。根据本公开实施例的第一方面，提供一种一种神经网络结构的评估方法，所述方法包括：获取子结构与GPU时间的对应关系，所述对应关系用于指示超网络中各个子结构的GPU时间，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构；基于所述对应关系，确定目标神经网络的本文档来自技高网...

【技术保护点】
1.一种神经网络结构的评估方法，其特征在于，所述方法包括：/n获取子结构与GPU时间的对应关系，所述对应关系用于指示超网络中各个子结构的GPU时间，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构；/n基于所述对应关系，确定目标神经网络的GPU时间，所述目标神经网络包括依次连接的多层结构，所述目标神经网络的每层结构为对应层的所述搜索空间中的一个子结构；/n基于所述目标神经网络的GPU时间，对所述目标神经网络的结构进行评估。/n

【技术特征摘要】
1.一种神经网络结构的评估方法，其特征在于，所述方法包括：
获取子结构与GPU时间的对应关系，所述对应关系用于指示超网络中各个子结构的GPU时间，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构；
基于所述对应关系，确定目标神经网络的GPU时间，所述目标神经网络包括依次连接的多层结构，所述目标神经网络的每层结构为对应层的所述搜索空间中的一个子结构；
基于所述目标神经网络的GPU时间，对所述目标神经网络的结构进行评估。


2.根据权利要求1所述的方法，其特征在于，所述基于所述对应关系，确定目标神经网络的GPU时间，包括：
在所述对应关系中查找所述目标神经网络的每层结构的GPU时间；
将所述目标神经网络的所有层结构的GPU时间相加，得到所述目标神经网络的GPU时间。


3.根据权利要求2所述的方法，其特征在于，所述基于所述目标神经网络的GPU时间，对所述目标神经网络的结构进行评估，包括：
确定所述目标神经网络的GPU时间是否小于时长阈值。


4.根据权利要求1至3任一项所述的方法，其特征在于，在所述获取子结构与GPU时间的对应关系之前，所述方法还包括：
从所述超网络的每一层搜索空间中，分别选择一个子结构；
采用选择出的子结构建立神经网络子网络；
运行所述神经网络子网络并在所述神经网络子网络的运行过程中，获取神经网络子网络中的子结构的GPU时间；
重复上述步骤，直到得到所述超网络中所有子结构的GPU时间；
根据得到的所述GPU时间建立所述对应关系。


5.一种神经网络结构的确定方法，其特征在于，所述方法包括：
从超网络中确定出多个采样网络，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构，所述多个采样网络包括依次连接的多层结构，所述采样网络的每层结构为对应层的所述搜索空间中的一个子结构；
获取子结构与GPU时间的对应关系，所述对应关系用于指示所述超网络中各个子结构的GPU时间；
基于所述对应关系，确定各个所述采样网络的GPU时间；
基于各个所述采样网络的GPU时间，从所述采样网络中选择一个作为目标神经网络结构。


6.根据权利要求5所述的方法，其特征在于，所述基于所述对应关系，确定各个所述采样网络的GPU时间，包括：
对于任意一个采样网络，在所述对应关系中查找所述采样网络的每层结构的GPU时间；
将所述采样网络的所有层结构的GPU时间相加，得到所述采样网络的GPU时间。


7.根据权利要求5或6所述的方法，其特征在于，所述基于各个所述采样网络的GPU时间，从所述采样网络中选择一个作为神经网络结构，包括：
采用相同的样本数据对各个所述采样网络进行训练；
确定训练后的采样网络的性能指标；
基于所述训练后的采样网络的性能指标和所述采样网络的GPU时间，从所述采样网络中选择一个作为目标神经网络结构。


8.一种神经网络结构的评估装置，其特征在于，所述装置包括：
对应关系获取模块，被配置为获取子结构与GPU时间的对应关系，所述对应关系用于指示超网络中各个子结构的GPU时间，所述超网络包括多层搜索空间，每层所述搜索空间包括多个子结构；
确定模块，被配置为基于所述对应关系获取模块获取的所述对应关系，确定目标神经网络的GPU时间，所述目标神经网络包括依次连接的多层结构，所述目标神经网络的每层结构为对应层的所述搜索空间中的一个子结构；
评估模块，被配置为...

【专利技术属性】
技术研发人员：初祥祥，许瑞军，张勃，李吉祥，李庆源，
申请(专利权)人：北京小米移动软件有限公司，
类型：发明
国别省市：北京;11