一种模型部署方法、装置、电子设备和存储介质制造方法及图纸

本申请涉及人工智能技术领域，尤其涉及一种模型部署方法、装置、电子设备和存储介质，用以解决针对目前的人工智能开发过程复杂，耗时较长的问题。本申请方法包括：获取模型部署指令指示的模型属性信息，模型属性信息表征待生成的目标网络模型的运行需求；基于预配置的基础网络结构集合，获得至少一个候选网络模型；候选网络模型是基于基础网络结构集合中与模型属性信息相匹配的目标基础网络结构确定的；基于至少一个候选网络模型，确定目标网络模型，并将目标网络模型部署于目标设备，以在目标设备，基于目标网络模型对待处理资源进行相应的资源处理。本申请根据训练需求自动推荐网络并将网络部署于目标设备，大大简化开发过程，节省开发时间。节省开发时间。节省开发时间。

【技术实现步骤摘要】
一种模型部署方法、装置、电子设备和存储介质


[0001]本申请涉及人工智能
，尤其涉及一种模型部署方法、装置、电子设备和存储介质。

技术介绍

[0002]随着科技进步，人工智能逐渐走进大众视野，并被广泛应用到各种领域，这给人们的生活带来了极大的便利，而随着时代发展，各个领域对人工智能的需求也越来越多。
[0003]相关技术中，人工智能的开发过程，从模型的建立、训练到实际应用都十分复杂，且需要相关技术人员具备大量的专业知识。其中，在模型的训练测试过程中，相关技术人员需要根据自身知识经验选取合适的算法与网络，之后通过训练样本与对应的测试样本查验模型性能，并在此基础上做大量的修改，使模型逐渐完善，整个过程需要耗费大量时间与精力。
[0004]综上，相关的模型部署与开发需要人工完成，且过程复杂，花费时间长。

技术实现思路

[0005]本申请提供一种模型部署方法、装置、电子设备和存储介质，以至少解决相关技术中，模型部署与开发过程复杂且耗时长的问题。
[0006]本申请实施例提供的一种模型部署方法，包括：获取模型部署指令指示的模型属性信息，所述模型属性信息用于表征待生成的目标网络模型的运行需求；基于预配置的基础网络结构集合，获得至少一个候选网络模型，所述候选网络模型是基于所述基础网络结构集合中与所述模型属性信息相匹配的目标基础网络结构确定的；所述基础网络结构集合中每个基础网络结构是根据预设的模型功能配置的；基于至少一个所述候选网络模型，确定目标网络模型，并将所述目标网络模型部署于目标设备，以在所述目标设备，基于所述目标网络模型对待处理资源进行相应的资源处理。
[0007]本申请实施例提供一种模型部署装置，包括：第一获取单元，用于获取模型部署指令指示的模型属性信息，所述模型属性信息用于表征待生成的目标网络模型的运行需求；第二获取单元，用于基于预配置的基础网络结构集合，获得至少一个候选网络模型，所述候选网络模型是基于所述基础网络结构集合中与所述模型属性信息相匹配的目标基础网络结构确定的；所述基础网络结构集合中每个基础网络结构是根据预设的模型功能配置的；确定单元，用于基于至少一个所述候选网络模型，确定目标网络模型，并将所述目标网络模型部署于目标设备，以在所述目标设备，基于所述目标网络模型对待处理资源进行相应的资源处理。
[0008]在一些可选的实施例中，所述第二获取单元具体用于：在所述基础网络结构集合中，筛选符合所述模型属性信息的至少一个目标基础网络结构，并将每个所述目标基础网络结构，分别作为一个所述候选网络模型；和/或在所述基础网络结构集合中，筛选符合所述模型属性信息的至少一个目标基础网络结构，并对至少一个所述目标基础网络结构进行网络结构调整，生成至少一个所述候选网络模型。
[0009]在一些可选的实施例中，所述基础网络结构包括主干网络与预训练模型中的至少一种；所述第二获取单元具体用于：通过以下至少一种方式对至少一个所述目标基础网络结构进行网络结构调整：从至少一个待进行网络结构调整的目标基础网络结构中，选取至少一个目标基础网络结构进行裁剪；从至少一个待进行网络结构调整的目标基础网络结构中，选至少两个目标基础网络结构进行拼接。
[0010]在一些可选的实施例中，所述基础网络结构包括网络基本单元和网络拓扑结构；所述第二获取单元具体用于：通过如下方式对至少一个所述目标基础网络结构进行网络结构调整：在所述基础网络结构集合中，筛选符合所述模型属性信息的多个目标网络基本单元，和至少一个目标网络拓扑结构；基于至少一个所述目标网络拓扑结构，对所述多个目标网络基本单元进行组合，得到至少一个新的主干网络；分别将每个所述新的主干网络，作为一个所述候选网络模型。
[0011]在一些可选的实施例中，所述模型属性信息包括用于进行模型训练的训练规则；所述确定单元具体用于：若所述候选网络模型只有一个，则将所述候选网络模型作为所述目标网络模型；若所述候选网络模型有多个，则基于所述目标设备对应的芯片类型，将至少一个所述候选网络模型进行转换与测试；基于获得的测试结果与所述训练规则，对至少一个所述候选网络模型进行训练；基于获得的训练结果，从至少一个所述候选网络模型中，确定目标网络模型。
[0012]在一些可选的实施例中，所述模型属性信息包括用于进行模型训练的训练规则；所述确定单元具体用于：基于所述训练规则，对所述目标网络模型进行训练，获得训练后的目标网络模型；基于所述目标设备对应的芯片类型，对所述训练后的目标网络模型进行转换，获得转换后的目标网络模型；将所述转换后的目标网络模型部署于所述目标设备。
[0013]在一些可选的实施例中，所述装置还包括：第一响应单元，用于响应于对操作界面中任务提交控件的触发操作，输出并展示相应的转换结果，所述转换结果用于表征所述目标网络模型在所述目标设备的精度损失，以根据转换结果报告修正所述目标网络模型；其中，所述精度损失是将所述目标网络模型，分别在自身和所述目标设备，基于相
同的输入数据获得的各个网络层的输出数据进行对比得到的。
[0014]在一些可选的实施例中，在所述将所述转换后的目标网络模型部署于所述目标设备之后，所述装置还包括：第二响应单元，用于响应于对操作界面中的任务提交控件的触发操作，对所述转换后的目标网络模型进行测试，输出并展示相应的测试结果，所述测试结果用于描述所述转换后的目标网络模型，在所述目标设备对应的性能。
[0015]在一些可选的实施例中，所述测试结果包括在不同维度评估所述目标网络模型对应的性能参数；所述第二响应单元具体用于：响应于对所述操作界面中的任务提交控件的触发操作，对所述转换后的目标网络模型进行测试；通过对比所述目标网络模型在所述目标设备与参考平台的运行信息，输出并展示相应的测试结果，所述参考平台为对应的精度损失满足第一预设数值条件的平台。
[0016]在一些可选的实施例中，所述第二获取单元具体用于：响应于针对操作界面中的网络推荐控件的触发操作，获得并展示至少一个所述候选网络模型，所述候选网络模型是：基于从所述基础网络结构集合中筛选的，与所述模型属性信息相匹配的目标基础网络结构确定的。
[0017]在一些可选的实施例中，所述确定单元具体用于：响应于对操作界面中的任务提交控件的触发操作，输出并展示针对所述目标网络模型的训练日志，所述训练日志的展示界面包括：用于展示所述训练过程中详细信息的基本信息区域，与用于展示训练结果的评估报告区域。
[0018]在一些可选的实施例中，所述训练结果包含所述训练过程中每次训练迭代的迭代次序、相应的损失值和性能参数，与突出显示的目标轮次对应的损失值和性能参数；其中，所述目标轮次为满足第二预设数值条件的训练迭代对应的迭代次序。
[0019]在一些可选的实施例中，所述确定单元具体用于：响应于对操作界面中量化选择控件的触发操作，基于所述训练规则对所述目标网络模型进行量化训练，获得训练后的目标网络模型。
[0020]在一些可选的实施例中，所述确定单元具体用于：响本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型部署方法，其特征在于，该方法包括：获取模型部署指令指示的模型属性信息，所述模型属性信息用于表征待生成的目标网络模型的运行需求；基于预配置的基础网络结构集合，获得至少一个候选网络模型，所述候选网络模型是基于所述基础网络结构集合中与所述模型属性信息相匹配的目标基础网络结构确定的；所述基础网络结构集合中每个基础网络结构是根据预设的模型功能配置的；基于至少一个所述候选网络模型，确定目标网络模型，并将所述目标网络模型部署于目标设备，以在所述目标设备，基于所述目标网络模型对待处理资源进行相应的资源处理。2.如权利要求1所述的方法，其特征在于，所述基于预配置的基础网络结构集合，获得至少一个候选网络模型，包括：在所述基础网络结构集合中，筛选符合所述模型属性信息的至少一个目标基础网络结构，并将每个所述目标基础网络结构，分别作为一个所述候选网络模型；和/或在所述基础网络结构集合中，筛选符合所述模型属性信息的至少一个目标基础网络结构，并对至少一个所述目标基础网络结构进行网络结构调整，生成至少一个所述候选网络模型。3.如权利要求2所述的方法，其特征在于，所述基础网络结构包括主干网络与预训练模型中的至少一种；通过以下至少一种方式对至少一个所述目标基础网络结构进行网络结构调整：从至少一个待进行网络结构调整的目标基础网络结构中，选取至少一个目标基础网络结构进行裁剪；从至少一个待进行网络结构调整的目标基础网络结构中，选至少两个目标基础网络结构进行拼接。4.如权利要求2所述的方法，其特征在于，所述基础网络结构包括网络基本单元和网络拓扑结构；通过如下方式对至少一个所述目标基础网络结构进行网络结构调整：在所述基础网络结构集合中，筛选符合所述模型属性信息的多个目标网络基本单元，和至少一个目标网络拓扑结构；基于至少一个所述目标网络拓扑结构，对所述多个目标网络基本单元进行组合，得到至少一个新的主干网络；分别将每个所述新的主干网络，作为一个所述候选网络模型。5.如权利要求1所述的方法，其特征在于，所述模型属性信息包括用于进行模型训练的训练规则；所述基于至少一个所述候选网络模型，确定目标网络模型，包括：若所述候选网络模型只有一个，则将所述候选网络模型作为所述目标网络模型；若所述候选网络模型有多个，则基于所述目标设备对应的芯片类型，将至少一个所述候选网络模型进行转换与测试；基于获得的测试结果与所述训练规则，对至少一个所述候选网络模型进行训练；基于获得的训练结果，从至少一个所述候选网络模型中，确定目标网络模型。6.如权利要求1所述的方法，其特征在于，所述模型属性信息包括用于进行模型训练的训练规则；所述将所述目标网络模型部署于目标设备，包括：
基于所述训练规则，对所述目标网络模型进行训练，获得训练后的目标网络模型；基于所述目标设备对应的芯片类型，对所述训练后的目标网络模型进行转换，获得转换后的目标网络模型；将所述转换后的目标网络模型部署于所述目标设备。7.如权利要求6所述的方法，其特征在于，所述将所述目标网络模型部署于目标设备，还包括：响应于对操作界面中任务提交控件的触发操作，输出并展示相应的转换结果，所述转换结果用于表征所述目标网络模型在所述目标设备的精度损失，以根据转换结果报告修正所述目标网络模型；其中，所述精度损失是将所述目标网络模型，分别在自身和所述目标设备，基于相同的输入数据获得的各个网络层的输出数据进行对比得到的。8.如权利要求6所述的方法，其特征在于，在所述将所述转换后的目标网络模型部署于所述目标设备之后，还包括：响应于对操作界面中的任务提交控件的触发操作，对所述转换后的目标网络模型进行测试，输出并展示相应的测试结果，所述测试结果用于描述所述转换后的目标网络模型，在所述目标设备对应的性能。9.如权利要求8所述的方法，其特征在于，所述测试结果包括在不同维度评估所述目标网络模型对应的性能参数；所述响应于对操作界面中的任务提交控件的触发操作，对所述转换后的目标网络模型进...

【专利技术属性】
技术研发人员：蔡丹平，周祥明，张朋，吴立，黄鹏，陈波扬，
申请(专利权)人：浙江大华技术股份有限公司，
类型：发明
国别省市：