一种模型移植的方法、系统及终端设备技术方案

技术编号:34108413 阅读:8 留言:0更新日期:2022-07-12 00:54
本申请涉及模型移植的领域,尤其是涉及一种模型移植的方法、系统及终端设备,其方法包括获取模型文件并上传至模型仓库;基于所述模型文件,获取模型结构;判断所述模型结构是否正常;若所述模型结构不正常,则重新获取所述模型文件并判断所述模型结构是否正常;若所述模型结构正常,进行模型移植;判断所述模型移植是否成功;若所述模型移植成功,将移植后在不同平台的所述新模型文件上传至模型仓库;若所述模型移植失败,则更换移植精度,进行下一轮模型移植,直至移植成功。本申请在不同平台之间进行模型移植,节约了代码编写的时间以及训练参数的时间,大大提高了模型移植的效率。大大提高了模型移植的效率。大大提高了模型移植的效率。

【技术实现步骤摘要】
一种模型移植的方法、系统及终端设备


[0001]本申请涉及模型移植的领域,尤其是涉及一种模型移植的方法、系统及终端设备。

技术介绍

[0002]IT领域的各大主流AI学习平台都会自己独特的特点,不同的平台上有不同的模型。在实际应用模型的过程中,利用模型进行推理服务需要选定一个特定的平台,而能够满足应用的需求模型很可能是基于其他平台训练而来的,此时需要将一种平台所编写的代码并训练出来的模型移植到另一平台的模型。
[0003]相关技术中,将一种平台所编写的代码并训练出来的模型移植到另一平台的模型,通常是在新的平台上重写编写代码,然后再训练参数,以达到和原平台相同的功能。
[0004]针对上述中的相关技术,专利技术人认为,在新的平台上重新编写代码然后再训练参数,是一个非常耗时耗力的过程,模型移植的效率低。

技术实现思路

[0005]为了提高模型移植速度,本申请提供一种模型移植的方法、系统及终端设备。
[0006]本申请提供的一种模型移植的方法、系统及终端设备采用如下的技术方案:一种模型移植的方法,包括。
[0007]获取模型文件并上传至模型仓库;基于所述模型文件,获取模型结构;判断所述模型结构是否正常;若所述模型结构不正常,则重新获取所述模型文件并判断所述模型结构是否正常;若所述模型结构正常,进行模型移植;判断所述模型移植是否成功;若所述模型移植成功,将移植后在不同平台的所述新模型文件上传至模型仓库;若所述模型移植失败,则更换移植精度,进行下一轮模型移植,直至移植成功。/>[0008]通过采用上述技术方案,将现有的模型文件上传至模型仓库,根据模型文件获取到模型结构,根据模型结构的正常判断所上传的模型是否能够进行模型移植,当模型结构正常的时候进行模型移植,当模型结构不正常的时候,则需要重新上传模型文件并再次判断模型结构是否正常,只有模型结构正常的模型文件能够进行模型移植,模型结构为模型文件中的各个节点的连接关系,进行模型移植的时候,如果模型移植成功,则将模型移植后的新模型文件上传至模型仓库,方便用户之后需要使用的时候可以直接调用模型移植后的模型文件去使用,如果模型移植失败,则更换模型移植时所选择的模型移植精度,进行下一轮模型移植,直到模型移植成功后上传至模型仓库,在不同平台之间进行模型移植,节约了代码编写的时间以及训练参数的时间,大大提高了模型移植的效率。
[0009]可选的,所述获取模型文件并上传至模型仓库包括:
获取所述模型文件的文件扩展名;获取被移植平台信息;基于所述被移植平台信息,获取验证文件的文件扩展名;判断所述模型文件的文件扩展名和所述验证文件的文件扩展名是否相同;若所述模型文件的文件扩展名和所述验证文件的文件扩展名不相同,修改所述验证文件的扩展名,并重新判断所述模型文件的文件扩展名和所述验证文件的文件扩展名;若所述模型文件的文件扩展名和所述验证文件的文件扩展名相同,则上传所述模型文件至所述模型仓库。
[0010]通过采用上述技术方案,模型文件的文件扩展名为识别该模型文件是否有效的验证方式,不同平台的模型文件的扩展名是不相同的,通过获取到上传的模型文件的文件扩展名,然后获取被移植平台的平台信息,根据平台信息获取到验证文件的文件扩展名,如果验证文件的文件扩展名和获取到模型文件的文件扩展名相同,则模型文件是有效的,如果不相同,则需要修改验证文件,然后重新对模型文件进行验证直到对模型文件的验证成功,保证所上传到模型仓库的模型文件是正确的。
[0011]可选的,所述判断所述模型结构是否正常包括:基于所述模型结构,获取模型网络节点信息;基于所述网络节点信息, 获取当前节点的名、与当前节点关联的入度节点名、出度节点名和节点算子超参数;基于当前节点的名、与当前节点关联的入度节点名、出度节点名和节点算子超参数,比较所述模型结构与预设结构是否相同;若所述模型结构与所述预设结构相同,则所述模型结构正常;若所述模型结构与所述预设结构不相同,则所述模型结构不正常。
[0012]通过采用上述技术方案,模型文件里面包含了若干节点信息以及节点之间的连接关系叫做模型结构,根据模型结构,获取到网络节点信息,根据当前节点的名字、与当前节点关联的入度节点名、出度节点名和节点算子超参数组成的模型结构,通过显示屏显示出来,与预设的该模型结构进行比对,如果模型结构相同,则代表模型结构正常,如果模型结构不相同,则代表模型结构不正常,通过判断模型结构的是否正常,以此来确定上传的模型文件是否完整。
[0013]可选的,所述若所述模型结构正常之后包括:获取所述模型文件的源文件;基于移植需求,获取配置文件信息;判断所述源文件中是否存在所述配置文件中对应的节点;若所述源文件中存在所述配置文件中对应的节点,则进行模型移植;若所述源文件中不存在所述配置文件中对应的节点,则生成异常报告。
[0014]通过采用上述技术方案,模型文件的源文件包含了节点数据以及各个节点的名字,对模型进行移植的时候,需要知道网络节点的起点与终点,因此需要知道配置文件中的各个节点的名字,比较各个节点的名字是否相同以确定该模型结构或者部分结构的起点与终点,以此来保证进行模型移植的模型文件的所需要的功能确实存在于模型文件中。
[0015]可选的,所述进行模型移植包括:
基于所述模型文件,获取模型算子;获取待移植平台的模型算子格式;基于开放神经网络交换格式,将所述模型算子转换成待移植平台的模型算子格式。
[0016]通过采用上述技术方案,每个平台的模型文件都有不同的模型算子格子,根据模型文件获取当前的模型算子格式,然后根据待移植的平台,获取到待移植平台的模型算子格式,将现有的模型文件的算子格式转换成待移植平台的模型算子格式,以此将其他平台的模型文件转换成需要移植的平台的模型文件。
[0017]可选的,所述更换移植精度,进行下一轮模型移植包括:基于移植需求及当前移植精度,得到下一轮移植精度,所述下一轮移植精度对应的模型算子移植成功率大于所述当前移植精度对应的模型算子移植成功率;根据所述下一轮所述移植精度进行下一轮所述模型移植。
[0018]通过采用上述技术方案,在进行模型移植的时候,根据所需要的移植需求,选择一个相应的移植精度,如果当前选择的模型移植精度在进行模型移植的时候,模型移植失败了,则更换模型移植精度进行下一轮模型移植,更换的移植精度,在算子不能完全映射的时候,模型移植服务会尝试利用目标平台多种算子进行组合运算,达到与源平台算子相似的计算规则,因此移植成功率变高。
[0019]可选的,所述判断所述模型移植是否成功包括:获取所述模型移植前的模型算子和所述模型移植后的模型算子;将所述模型移植后的模型算子与模型移植前的算子进行映射比对,判断是否有算子不存在算子映射集合中;若是有算子不存在算子映射集合中,则模型移植失败;若是所有算子都存在算子映射集合中,则模型移植成功。
[0020]通过采用上述技术方案,进行模型移植前的算子组成一个模型算子合集,模型转换后的算子组成了一个模型算子本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型移植的方法,其特征在于,包括:获取模型文件并上传至模型仓库;基于所述模型文件,获取模型结构;判断所述模型结构是否正常;若所述模型结构不正常,则重新获取所述模型文件并判断所述模型结构是否正常;若所述模型结构正常,进行模型移植;判断所述模型移植是否成功;若所述模型移植成功,将移植后在不同平台的所述新模型文件上传至模型仓库;若所述模型移植失败,则更换移植精度,进行下一轮模型移植,直至移植成功。2.根据权利要求1所述的一种模型移植的方法,其特征在于:所述获取模型文件并上传至模型仓库包括:获取所述模型文件的文件扩展名;获取被移植平台信息;基于所述被移植平台信息,获取验证文件的文件扩展名;判断所述模型文件的文件扩展名和所述验证文件的文件扩展名是否相同;若所述模型文件的文件扩展名和所述验证文件的文件扩展名不相同,修改所述验证文件的扩展名,并重新判断所述模型文件的文件扩展名和所述验证文件的文件扩展名是否相同;若所述模型文件的文件扩展名和所述验证文件的文件扩展名相同,则上传所述模型文件至所述模型仓库。3.根据权利要求1所述的一种模型移植的方法,其特征在于:所述判断所述模型结构是否正常包括:基于所述模型结构,获取模型网络节点信息;基于所述网络节点信息, 获取当前节点的名、与当前节点关联的入度节点名、出度节点名和节点算子超参数;基于当前节点的名、与当前节点关联的入度节点名、出度节点名和节点算子超参数,比较所述模型结构与预设结构是否相同;若所述模型结构与所述预设结构相同,则所述模型结构正常;若所述模型结构与所述预设结构不相同,则所述模型结构不正常。4.根据权利要求1所述的一种模型移植的方法,其特征在于:所述若所述模型结构正常之后包括:获取所述模型文件的源文件;基于移植需求,获取配置文件信息;判断所述源文件中是否存在所述配置文件中对应的节点;若所述源文件中存在所述配置文件中对应的节点,则进行模型移植;若所述源文件中不存在所述配置文件中对应的节点,则生成异常报告。5.据权利要求1所述的一种模型移植的方法,其特征在于:所述进行模型移植包括:基于所述模型文件,获取模型算子;获取待移植平台的模型算子格式;
基于开放神经网络交换格式,将所述模型算子转换成待移植平台...

【专利技术属性】
技术研发人员:宋小波涂杰波张仲凯
申请(专利权)人:杭州半云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1