神经网络模型的转换方法、装置、电子设备及介质制造方法及图纸

本申请实施例提供了一种神经网络模型的转换方法、装置、电子设备及介质，属于人工智能技术领域。该方法包括：通过基准神经网络模型中设置的字典对象获取基准神经网络模型的键值；使用张量流模型的预设网络层和预设模型构建第一待转换模型；使用获取层参数接口获取第一待转换模型的各层对应权重，获取基准神经网络模型对应权重矩阵，将权重矩阵转换为预设数据格式；使用预设模型的获取层配置权重接口设置第一待转换模型的权重，得到第二待转换模型；通过张量流轻量框架的转换器将第二待转换模型转换为目标神经网络模型。这样，可以把任意的基准神经网络模型转换为适用于张量流轻量推理引擎的目标神经网络模型，提升模型部署效率。

【技术实现步骤摘要】

本申请涉及人工智能，尤其涉及一种神经网络模型的转换方法、装置、电子设备及介质。

技术介绍

1、基于神经网络的模型开发一般分为训练阶段和推理阶段。在训练阶段，由于pytorch框架在定义模型方面非常灵活，可以快速验证模型，已经开发了大量的社区开源的基于pytorch的神经网络项目。其中，pytorch是一个开源的python机器学习库。所以在产品化开发时，通常也使用pytorch框架定义模型和进行训练。在推理阶段，pytorch框架训练的模型，可以直接使用pytorch的推理引擎进行推理，但是pytorch的推理引擎的推理速度较慢，在算力较小的硬件上，特别是嵌入式的硬件平台上难以满足性能要求。而张量流轻量版本(tensorflow lite)作为张量流(tensorflow)框架的推理引擎具有较好的性能，在嵌入式平台上通过指令级优化提升了神经网络模型的推理速度，能够满足产品的性能需求。在这种情况下，需要把pytorch框架训练的模型转换为tensorflow lite模型的格式，当前一般是先把pytorch格式的模型转换为中间格式onnx(open neur本文档来自技高网...

【技术保护点】

1.一种神经网络模型的转换方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述预设加载接口包括：第一加载接口或第二加载接口；所述通过预设加载接口获取基准神经网络模型，包括：

3.根据权利要求1所述的方法，其特征在于，所述通过所述基准神经网络模型中设置的字典对象获取所述基准神经网络模型的键值，包括：

4.根据权利要求1所述的方法，其特征在于，所述使用所述预设模型的获取层配置权重接口设置所述第一待转换模型的权重，包括：

5.根据权利要求4所述的方法，其特征在于，所述权重矩阵包括卷积层权重矩阵和全连接层权重矩阵，所述使...

【技术特征摘要】

1.一种神经网络模型的转换方法，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述预设加载接口包括：第一加载接口或第二加载接口；所述通过预设加载接口获取基准神经网络模型，包括：

3.根据权利要求1所述的方法，其特征在于，所述通过所述基准神经网络模型中设置的字典对象获取所述基准神经网络模型的键值，包括：

4.根据权利要求1所述的方法，其特征在于，所述使用所述预设模型的获取层配置权重接口设置所述第一待转换模型的权重，包括：

5.根据权利要求4所述的方法，其特征在于，所述权重矩阵包括卷积层权重矩阵和全连接层权重矩阵，所述使用预设转置函数对预设数据格式的权重矩阵进行转置，包括：

6.根据权...

【专利技术属性】
技术研发人员：杨显杰，
申请(专利权)人：深圳市优必选科技股份有限公司，
类型：发明
国别省市：