【技术实现步骤摘要】
本申请实施例涉及数据处理领域，更具体地涉及一种模型转换方法以及相关装置。
技术介绍
1、人工智能在多个复杂场景中得到广泛应用，这依赖于日趋成熟的国产化芯片解决方案。
2、在芯片国产化的浪潮中，虽然越来越多的国产芯片问世并投入使用，但与这些芯片配套的应用工具却缺乏一致性，难以应对各种芯片之间的差异。然而，不同厂家的设备以及芯片部署逻辑存在差异，使得标准化模型部署过程中还需要根据系统后端所使用的不同芯片进行适配，部署难度大，部署效率低。此外，由于不同芯片的维护方式有区别，因而，后端芯片类型增加，还会进一步导致维护难度加剧。
3、综上，亟待设计一种全新的技术方案，用以解决标准化模型与非标准系统中不同芯片之间的适配问题，降低模型部署难度，提升模型部署效率。
技术实现思路
1、本申请实施例提供一种模型转换方法以及相关装置，能够实现标准化模型与非标准系统中不同芯片之间的自动化适配处理，降低模型部署难度，提升模型部署效率。
2、第一方面，本申请实施例提供一种模型转换方法，该方法包括：
3、通过持续集成(continuous integration，ci)系统解析待处理的标准化模型，以得到标准化模型的标准化配置信息；
4、将标准化模型加载到与标准化配置信息匹配的容器镜像中；其中，容器镜像用于为标准化模型提供转换环境；
5、根据标准化配置信息，构建用于转换标准化模型的目标工作流；目标工作流至少包括以下流程：模型格式转换、模型量化
6、在容器镜像中执行目标工作流，以使标准化模型转换为用于在非标准平台发布的部署模型。
7、第二方面，本申请实施例提供一种模型转换装置，具有实现对应于上述第一方面提供的模型转换方法的功能。功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块，模块可以是软件和/或硬件。在一个实施方式中，该装置包括：
8、解析模块，被配置为通过ci系统解析待处理的标准化模型，以得到标准化模型的标准化配置信息；
9、加载模块，被配置为将标准化模型加载到与标准化配置信息匹配的容器镜像中；其中，容器镜像用于为标准化模型提供转换环境；
10、构建模块，被配置为根据标准化配置信息，构建用于转换标准化模型的目标工作流；目标工作流至少包括以下流程：模型格式转换、模型量化、模型压缩；目标工作流中的流程参数由非标准平台中搭载的芯片配置决定；
11、执行模块，被配置为在容器镜像中执行目标工作流，以使标准化模型转换为用于在非标准平台发布的部署模型。
12、第三方面，本申请实施例提供一种计算设备，包括存储器，处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，所述处理器执行所述计算机程序时实现第一方面中所述的模型转换方法。
13、第四方面，本申请实施例提供一种计算机可读存储介质，其包括指令，当其在计算机上运行时，使得计算机执行第一方面中所述的模型转换方法。
14、第五方面，本申请实施例提供一种芯片，该芯片中包括与终端设备的收发器耦合的处理器，用于执行本申请实施例第一方面提供的技术方案。
15、第六方面，本申请实施例提供一种芯片系统，该芯片系统包括处理器，用于支持终端设备实现上述第一方面中所涉及的功能，例如，生成或者处理上述第一方面提供的方法中所涉及的信息。
16、在一种可能的设计中，上述芯片系统还包括存储器，该存储器用于保存终端必需的程序指令和数据。该芯片系统可以由芯片构成，也可以包含芯片和其他分立器件。
17、第七方面，本申请实施例提供一种包含指令的计算机程序产品，当该计算机程序产品在计算机上运行时，使得计算机执行上述第一方面提供的方法。
18、相较于相关技术，本申请实施例中，通过ci系统解析待处理的标准化模型，以得到标准化模型的标准化配置信息。通过解析标准化模型，可以获得标准化配置信息，包括模型的架构、层次结构、输入输出格式等。这些信息能够为后续构建模型转换流程以及相应的部署流程提供数据基础。进而，将标准化模型加载到与标准化配置信息匹配的容器镜像中，该容器镜像用于为标准化模型提供转换环境。通过容器镜像可以隔离标准化模型的运行环境，从而保证为标准化模型的运行环境的一致性，使得标准化模型转换过程对于不同非标平台具有可重复性和可移植性，确保标准化模型在不同非标平台上能够以同一方式进行转换和部署。接着，根据标准化配置信息，构建用于转换标准化模型的目标工作流；进而，在容器镜像中执行目标工作流，以使标准化模型转换为用于在非标准平台发布的部署模型。这里，目标工作流至少包括以下流程：模型格式转换、模型量化、模型压缩。本申请中的目标工作流，可以根据不同标准化模型的部署需求进行自动化定制，包括模型的数据转换、模型压缩、优化等流程以及相关参数，从而确保标准化模型能够高效移植到非标准平台中。可以理解的是，目标工作流中的流程参数由非标准平台中搭载的芯片配置决定。这样，根据非标准平台中搭载的芯片配置，动态调整目标工作流中的流程参数，能够最大程度使模型匹配到非标平台的性能和特性，这种灵活性可以确保模型在非标准平台上获得最佳的性能和效果。
19、相比于相关技术，本申请实施例中提供了一种全新的模型转换方式，通过构建用于转换标准化模型的目标工作流，并在容器镜像中执行目标工作流实现标准化模型与非标准系统中不同芯片之间的自动化适配处理，降低模型部署难度，提升模型部署效率。
本文档来自技高网...【技术保护点】
1.一种模型转换方法，其特征在于，所述方法包括：
2.如权利要求1所述的方法，其特征在于，所述通过CI系统解析待处理的标准化模型，以得到所述标准化模型的标准化配置信息，包括：
3.如权利要求2所述的方法，其特征在于，所述将所述标准化模型加载到与所述标准化配置信息匹配的容器镜像中，包括：
4.如权利要求3所述的方法，其特征在于，所述构建与json数据匹配的容器镜像，包括：
5.如权利要求1所述的方法，其特征在于，所述在所述容器镜像中执行所述目标工作流，以使所述标准化模型转换为用于在非标准平台发布的部署模型之后，还包括：
6.如权利要求1所述的方法，其特征在于，所述在所述容器镜像中执行所述目标工作流，以使所述标准化模型转换为用于在非标准平台发布的部署模型之后，还包括：
7.如权利要求1所述的方法，其特征在于，所述在所述容器镜像中执行所述目标工作流，以使所述标准化模型转换为用于在非标准平台发布的部署模型之后，还包括：
8.一种模型转换装置，其特征在于，所述装置包括：
9.一种计算设备，包括存
10.一种计算机可读存储介质，其包括指令，当其在计算机上运行时，使得计算机执行如权利要求1-7中任一项所述的方法。
...【技术特征摘要】
1.一种模型转换方法，其特征在于，所述方法包括：
2.如权利要求1所述的方法，其特征在于，所述通过ci系统解析待处理的标准化模型，以得到所述标准化模型的标准化配置信息，包括：
3.如权利要求2所述的方法，其特征在于，所述将所述标准化模型加载到与所述标准化配置信息匹配的容器镜像中，包括：
4.如权利要求3所述的方法，其特征在于，所述构建与json数据匹配的容器镜像，包括：
5.如权利要求1所述的方法，其特征在于，所述在所述容器镜像中执行所述目标工作流，以使所述标准化模型转换为用于在非标准平台发布的部署模型之后，还包括：
6.如权利要求1所述的方法，其特征在于，所述...
【专利技术属性】
技术研发人员：请求不公布姓名，请求不公布姓名，请求不公布姓名，请求不公布姓名，
申请(专利权)人：北京瑞莱智慧科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。