模型转换方法、装置及相关设备制造方法及图纸

本申请提供模型转换方法、装置及相关设备，其中，方法包括：计算设备在计算设备的多个推理引擎中不存在与第一模型匹配的推理引擎时，获取与多个推理引擎匹配的多种转换方式，然后按照多种转换方式对第一模型进行转换，得到多个第二模型，在得到多个第二模型后，从多个第二模型中确定目标模型，最后使用多个推理引擎中与目标模型匹配的推理引擎，加载目标模型来对第一业务数据进行识别，实现业务处理。该方法可以解决现有技术存在的可转换的模型格式有限以及模型转换效率低的问题。格式有限以及模型转换效率低的问题。格式有限以及模型转换效率低的问题。

【技术实现步骤摘要】
模型转换方法、装置及相关设备


[0001]本申请涉及人工智能(artificial intelligence，AI)领域，尤其涉及一种模型转换方法、装置及相关设备。

技术介绍

[0002]随着AI技术的兴起和不断发展，越来越多的训练推理框架(如TensorFlow、MindSpore等)出现在人们的视野中。每个训练推理框架都自带有模型格式(即保存训练完的模型得到的模型文件的格式)，且每个训练推理框架自带的模型格式与其他框架自带的模型格式不同，这使得每个训练推理框架不能直接使用其他训练推理框架训练得到的模型来处理业务。
[0003]为了提高训练推理框架的兼容性，有些训练推理框架中的推理引擎(如MindSpore框架中的引擎(以下简称为MindSpore引擎))已经具有模型转换功能，它们可以将与自己自带的格式不同的模型转换成与自带的格式相同的模型。另外，也出现了很多具有模型转换功能的第三方推理引擎(如ONNX Runtime、TensorRT等)，这些推理引擎也自带有模型格式，它们也可以对模型的格式进行转换得到与自己自带的格式相同的模型，然本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型转换方法，其特征在于，所述方法包括：计算设备在所述计算设备的多个推理引擎中不存在与第一模型匹配的推理引擎时，获取与所述多个推理引擎匹配的多种转换方式；所述计算设备按照所述多种转换方式对所述第一模型进行转换，得到多个第二模型；所述计算设备从所述多个第二模型中确定目标模型；所述计算设备使用所述多个推理引擎中与所述目标模型匹配的推理引擎，加载所述目标模型来对第一业务数据进行识别。2.根据权利要求1所述的方法，其特征在于，所述计算设备获取与所述多个推理引擎匹配的多种转换方式，包括：所述计算设备获取与所述多个推理引擎以及所述第一模型匹配的多种转换方式。3.根据权利要求1或2所述的方法，其特征在于，所述计算设备从所述多个第二模型中确定目标模型，包括：所述计算设备获取用于评估每个所述第二模型的指标数据；所述计算设备基于所述多个指标数据，从所述多个第二模型中选择目标模型。4.根据权利要求3所述的方法，其特征在于，所述指标数据包括如下的一种或多种组合：所述第一模型转换得到所述第二模型的转换时间；所述第一模型转换得到所述第二模型消耗的内存；使用所述第二模型对第二业务数据进行识别的时长；使用所述第二模型对第二业务数据进行识别的准确率。5.根据权利要求3或4所述的方法，其特征在于，所述计算设备基于所述多个指标数据，从所述多个第二模型中选择目标模型，包括：所述计算设备基于所述多个指标数据，从所述多个第二模型中选择最优的第二模型或者次优的第二模型或者其它第二模型，选择的第二模型为所述目标模型。6.根据权利要求1至5任一项所述的方法，其特征在于，所述第一业务数据或者所述第二业务数据包括如下的一种或多种组合：图像数据；音频数据；文本数据。7.根据权利要求1至6任一项所述的方法，其特征在于，所述方法还包括：所述计算设备获取所述计算设备的多个推理引擎的SDK，所述推理引擎的SDK用于操作所述推理引擎；所述计算设备安装获取的所述多个推理引擎的SDK；所述计算设备按照所述多种转换方式对所述第一模型进行转换，包括：所述计算设备使用所述多个推理引擎的SDK按照所述多种转换方式对所述第一模型进行转换。8.根据权利要求7所述的方法，其特征在于，所述计算设备获取所述计算设备的多个推理引擎的SDK，包括：所述计算设备从SDK库获取所述计算设备的多个推理引擎的SDK，所述SDK库位于云或
者所述计算设备的本地。9.一种模型转换装置，其特征在于，所述装置包括：...

【专利技术属性】
技术研发人员：黄子豪，彭瑞林，
申请(专利权)人：华为云计算技术有限公司，
类型：发明
国别省市：