一种模型搜索方法、装置、设备及存储介质、程序产品制造方法及图纸

本申请提供了一种模型搜索方法、装置、设备及存储介质、程序产品；本申请实施例可以应用于云技术、人工智能、智慧交通、车载、医疗等各种场景，涉及人工智能技术；该方法包括：基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值；依据第一权值，从目标超网络的多个网络单元中提取至少两个目标网络单元，并利用至少两个目标网络单元连接得到目标网络结构；基于多个第二权值和多个操作算子，生成目标网络结构的每个目标网络单元所对应的目标算子；利用目标算子和每个目标网络单元，构建得到目标搜索模型，完成模型搜索。通过本申请，能够提高模型搜索的性能。能够提高模型搜索的性能。能够提高模型搜索的性能。

【技术实现步骤摘要】
一种模型搜索方法、装置、设备及存储介质、程序产品


[0001]本申请涉及人工智能领域中的计算机视觉技术，尤其涉及一种模型搜索方法、装置、设备及存储介质、程序产品。

技术介绍

[0002]模型搜索是指针对图像处理任务，从超网络中搜索出最合适的网络模型，以提高针对图像处理任务的处理效果的过程。模型搜索可以广泛应用到图像分割、图像识别等场景中。
[0003]相关技术中的模型搜索方式，是针对操作算子进行搜索，从而使得搜索得到网络模型在结构上存在局限性，使得搜索到最优的网络模型的难度加大，从而影响了模型搜索的性能。

技术实现思路

[0004]本申请实施例提供一种模型搜索方法、装置、设备及计算机可读存储介质、程序产品，能够提高模型搜索的性能。
[0005]本申请实施例的技术方案是这样实现的：
[0006]本申请实施例提供一种模型搜索方法，包括：
[0007]基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值；其中，所述网络粒度是对搜索模型的外部结构产生影响的权值粒度，所述算子粒度是对搜索模型内部的算子产生影响的权值粒度，所述目标超网络是由所有候选网络结构所构成的集合；
[0008]依据所述第一权值，从所述目标超网络的多个网络单元中提取至少两个目标网络单元，并利用至少两个所述目标网络单元连接得到目标网络结构；
[0009]基于多个所述第二权值和多个操作算子，生成所述目标网络结构的每个所述目标网络单元所对应的目标算子；
[0010]利用所述目标算子和每个所述目标网络单元，构建得到目标搜索模型，完成模型搜索。
[0011]本申请实施例提供一种模型搜索装置，包括：
[0012]权值搜索模块，用于基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值；其中，所述网络粒度是对搜索模型的外部结构产生影响的权值粒度，所述算子粒度是对搜索模型的算子产生影响的权值粒度，所述目标超网络是由所有候选网络结构所构成的集合；
[0013]结构确定模块，用于依据所述第一权值，从所述目标超网络的多个网络单元中提取至少两个目标网络单元，并利用至少两个所述目标网络单元连接得到目标网络结构；
[0014]算子生成模块，用于基于多个所述第二权值和多个操作算子，生成所述目标网络结构的每个所述目标网络单元所对应的目标算子；
[0015]模型构建模块，用于利用所述目标算子和每个所述目标网络单元，构建得到目标搜索模型，完成模型搜索。
[0016]在本申请的一些实施例中，所述权值搜索模块，还用于基于所述搜索空间，构建稀疏超网络；所述目标超网络的深度和宽度大于所述稀疏超网络的深度和宽度；通过所述搜索数据集将所述稀疏超网络进行迭代更新，从所述搜索空间中确定候选空间；通过所述搜索数据集对所述目标超网络进行迭代更新，从所述候选空间中为所述目标超网络的每个网络单元分别搜索网络粒度的所述第一权值和算子粒度的多个所述第二权值。
[0017]在本申请的一些实施例中，所述搜索数据集包括：训练图像数据和验证图像数据；所述权值搜索模块，还用于基于所述训练图像数据，对第k轮迭代的第一初始超网络的模型参数进行更新，得到第k轮迭代的第一临时超网络；其中，k为正整数，第1轮迭代的第一初始超网络为所述稀疏超网络；基于所述验证图像数据，对第k轮迭代的第一临时超网络的每个网络单元的网络粒度的权值进行更新，得到第k轮迭代的第一中间超网络；基于所述验证图像数据，对第k轮迭代的第一中间超网络的每个网络单元的算子粒度的权值进行更新，得到第k轮迭代的第一更新超网络，并将第k轮迭代的第一更新超网络作为第k+1轮迭代的第一初始超网络；当将k达到M时，基于第M轮迭代的第一更新超网络的每个网络单元的算子粒度的权值，从所述搜索空间中确定所述候选空间；M是第一迭代总次数。
[0018]在本申请的一些实施例中，所述权值搜索模块，还用于针对所述搜索空间中的算子粒度的候选权值和第M轮迭代的第一更新超网络的每个网络单元的算子粒度的权值进行差异计算，得到权值差异；从所述搜索空间中，将所述权值差异大于差异阈值的所述算子粒度的候选权值进行剔除，得到所述候选空间。
[0019]在本申请的一些实施例中，所述权值搜索模块，还用于通过第k轮迭代的第一初始超网络，对所述训练图像数据进行兴趣对象的区域分割，得到第一分割区域；利用所述第一分割区域，以及所述兴趣对象在所述训练图像数据中的标注区域之间的损失值，对第k轮迭代的第一初始超网络的模型参数进行更新，得到第k轮迭代的第一临时超网络。
[0020]在本申请的一些实施例中，所述权值搜索模块，还用于通过第k轮迭代的第一临时超网络，对所述验证图像数据进行兴趣对象的区域分割，得到第二分割区域；利用所述第二分割区域，以及所述兴趣对象在所述验证图像数据中的标注区域之间的损失值，对第k轮迭代的第一临时超网络的每个网络单元的网络粒度的权值进行更新，得到第k轮迭代的第一中间超网络。
[0021]在本申请的一些实施例中，所述权值搜索模块，还用于通过第k轮迭代的第一中间超网络，对所述验证图像数据进行兴趣对象的区域分割，得到第三分割区域；利用所述第三分割区域，以及所述兴趣对象在所述验证图像数据中的标注区域之间的损失值，对第k轮迭代的第一中间超网络的每个网络单元的算子粒度的权值进行更新，得到第k轮迭代的第一更新超网络。
[0022]在本申请的一些实施例中，所述搜索数据集包括：训练图像数据和验证图像数据；所述权值搜索模块，还用于基于所述训练图像数据，对第i轮迭代的第二初始超网络的模型参数进行更新，得到第i轮迭代的第二临时超网络；i为正整数，第1轮迭代的第二初始超网络为目标超网络；基于所述验证图像数据，对第i轮迭代的第二临时超网络的每个网络单元的网络粒度的权值进行更新，得到第i轮迭代的第二中间超网络；基于所述验证图像数据，
对第i轮迭代的第二中间超网络的每个网络单元的算子粒度的权值进行更新，得到第i轮迭代的第二更新超网络，并将第i轮迭代的第二更新超网络作为第i+1轮迭代的第二初始更新网络；当i达到N时，将第N轮迭代的第二更新超网络的每个网络单元网络粒度的权值确定为所述第一权值，将第N轮迭代的第二更新超网络的每个网络单元的算子粒度的权值确定为所述第二权值；N是第二迭代总次数。
[0023]在本申请的一些实施例中，所述模型搜索装置还包括：数据集构建模块；所述数据集构建模块，用于所述基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值之前，获取多个领域的图像数据集；基于预设概率分布，针对每个领域的所述图像数据集，确定对应的提取比例；按照所述提取比例，从每个领域的所述图像数据集中提取出每个领域的待混合图像数据；将多个领域的所述待混合图像数据，整合为所述搜索数据集。
[0024]在本申请的一些实施例中，所述算子生成模块，还用于基于多个本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型搜索方法，其特征在于，所述方法包括：基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值；其中，所述网络粒度是对搜索模型的外部结构产生影响的权值粒度，所述算子粒度是对搜索模型内部的算子产生影响的权值粒度，所述目标超网络是由所有候选网络结构所构成的集合；依据所述第一权值，从所述目标超网络的多个网络单元中提取至少两个目标网络单元，并利用至少两个所述目标网络单元连接得到目标网络结构；基于多个所述第二权值和多个操作算子，生成所述目标网络结构的每个所述目标网络单元所对应的目标算子；利用所述目标算子和每个所述目标网络单元，构建得到目标搜索模型，完成模型搜索。2.根据权利要求1所述的方法，其特征在于，所述基于搜索数据集，从搜索空间中为目标超网络中的多个网络单元分别搜索网络粒度的第一权值和算子粒度的多个第二权值，包括：基于所述搜索空间，构建稀疏超网络；所述目标超网络的深度和宽度大于所述稀疏超网络的深度和宽度；通过所述搜索数据集将所述稀疏超网络进行迭代更新，从所述搜索空间中确定候选空间；通过所述搜索数据集对所述目标超网络进行迭代更新，从所述候选空间中为所述目标超网络的每个网络单元分别搜索网络粒度的所述第一权值和算子粒度的多个所述第二权值。3.根据权利要求2所述的方法，其特征在于，所述搜索数据集包括：训练图像数据和验证图像数据；所述通过所述搜索数据集将所述稀疏超网络进行迭代更新，从所述搜索空间中确定候选空间，包括：基于所述训练图像数据，对第k轮迭代的第一初始超网络的模型参数进行更新，得到第k轮迭代的第一临时超网络；其中，k为正整数，第1轮迭代的第一初始超网络为所述稀疏超网络；基于所述验证图像数据，对第k轮迭代的第一临时超网络的每个网络单元的网络粒度的权值进行更新，得到第k轮迭代的第一中间超网络；基于所述验证图像数据，对第k轮迭代的第一中间超网络的每个网络单元的算子粒度的权值进行更新，得到第k轮迭代的第一更新超网络，并将第k轮迭代的第一更新超网络作为第k+1轮迭代的第一初始超网络；当将k达到M时，基于第M轮迭代的第一更新超网络的每个网络单元的算子粒度的权值，从所述搜索空间中确定所述候选空间；M是第一迭代总次数。4.根据权利要求3所述的方法，其特征在于，所述基于第M轮迭代的第一更新超网络的每个网络单元的算子粒度的权值，从所述搜索空间中确定所述候选空间，包括：针对所述搜索空间中的算子粒度的候选权值和第M轮迭代的第一更新超网络的每个网络单元的算子粒度的权值进行差异计算，得到权值差异；从所述搜索空间中，将所述权值差异大于差异阈值的所述算子粒度的候选权值进行剔除，得到所述候选空间。
5.根据权利要求3所述的方法，其特征在于，所述基于所述训练图像数据，对第k轮迭代的第一初始超网络的模型参数进行更新，得到第k轮迭代的第一临时超网络，包括：通过第k轮迭代的第一初始超网络，对所述训练图像数据进行兴趣对象的区域分割，得到第一分割区域；利用所述第一分割区域，以及所述兴趣对象在所述训练图像数据中的标注区域之间的损失值，对第k轮迭代的第一初始超网络的模型参数进行更新，得到第k轮迭代的第一临时超网络。6.根据权利要求3所述的方法，其特征在于，所述基于所述验证图像数据，对第k轮迭代的第一临时超网络的每个网络单元的网络粒度的权值进行更新，得到第k轮迭代的第一中间超网络，包括：通过第k轮迭代的第一临时超网络，对所述验证图像数据进行兴趣对象的区域分割，得到第二分割区域；利用所述第二分割区域，以及所述兴趣对象在所述验证图像数据中的标注区域之间的损失值，对第k轮迭代的第一临时超网络的每个网络单元的网络粒度的权值进行更新，得到第k轮迭代的第一中间超网络。7.根据权利要求3所述的方法，其特征在于，所述基于所述验证图像数据，对第k轮迭代的第一中间超网络的每个网络单元的算子粒度的权值进行更新，得到第k轮迭代的第一更新超网络，包括：通过第k轮迭代的第一中间超网络，对所述验证图像数据进行兴趣对象的区域分割，得到第三分割区域；利用所述第三分割区域，以及所述兴趣对象在所述验证图像数据中的标注区域之间的损失值，对第k轮迭代的第一中间超网络的每个网...

【专利技术属性】
技术研发人员：柳露艳，郑冶枫，
申请(专利权)人：腾讯医疗健康深圳有限公司，
类型：发明
国别省市：