模型移植方法及相关设备技术

技术编号:24709456 阅读:29 留言:0更新日期:2020-07-01 00:11
本申请公开了一种模型移植方法及相关设备,应用于电子设备,所述方法包括:获取待移植模型,确定电子设备对应的目标芯片类型,根据预设的芯片类型与预设移植策略之间的映射关系,确定目标芯片类型对应的目标移植策略,基于目标移植策略,将待移植模型移植到电子设备中,如此,通过不同的芯片类型预设不同的移植策略,并通过目标移植策略,将待移植模型移植到电子设备中,可避免由于框架不支持、模型过大造成的而无法进行模型移植的情况,有利于减少资源的消耗。

【技术实现步骤摘要】
模型移植方法及相关设备
本申请涉及芯片
,尤其涉及一种模型移植方法及相关设备。
技术介绍
目前,深度学习模型的部署一般分为云端和移动端部署,对于云端部署,已经有较为成熟的部署方案,并且支持较多的深度学习推理框架,而基于移动端的框架则可用的框架较少,目前较为常见的是采用云端深度学习开发的思路进行移动端的深度学习模型开发,会因为框架不支持、模型过大,而导致计算资源消耗过多。
技术实现思路
本申请实施例提供一种模型移植方法及相关设备,有利于减少资源消耗。第一方面,本申请实施例提供一种模型移植方法,应用于电子设备,所述方法包括:获取待移植模型;确定所述电子设备对应的目标芯片类型;根据预设的芯片类型与预设移植策略之间的映射关系,确定所述目标芯片类型对应的目标移植策略;基于所述目标移植策略,将所述待移植模型移植到所述电子设备中。第二方面,本申请实施例提供一种模型移植装置,应用于电子设备,所述装置包括:第一获取单元,用于获取待移植模型;第一确定单元,用于确定所述电子设备本文档来自技高网...

【技术保护点】
1.一种模型移植方法,其特征在于,应用于电子设备,所述方法包括:/n获取待移植模型;/n确定所述电子设备对应的目标芯片类型;/n根据预设的芯片类型与预设移植策略之间的映射关系,确定所述目标芯片类型对应的目标移植策略;/n基于所述目标移植策略,将所述待移植模型移植到所述电子设备中。/n

【技术特征摘要】
1.一种模型移植方法,其特征在于,应用于电子设备,所述方法包括:
获取待移植模型;
确定所述电子设备对应的目标芯片类型;
根据预设的芯片类型与预设移植策略之间的映射关系,确定所述目标芯片类型对应的目标移植策略;
基于所述目标移植策略,将所述待移植模型移植到所述电子设备中。


2.根据权利要求1所述的方法,其特征在于,若所述目标芯片类型为预设芯片类型,所述基于所述目标移植策略,将所述待移植模型移植到所述电子设备中,包括:
基于所述目标移植策略,将所述待移植模型转化为深度学习容器模型;
对所述深度学习容器模型进行量化处理,得到第一深度学习容器模型;
比较所述第一深度学习容器模型和所述待移植模型的性能,得到差异值;
若所述差异值在预设范围内,则对所述第一深度学习容器模型进行抽象封装,得到第一动态链接库;
若所述差异值不在所述预设范围内,则对所述对深度学习容器模型进行量化感知处理,得到第二深度学习容器模型,对所述第二深度学习容器模型进行抽象封装,得到第二动态链接库。


3.根据权利要求2所述的方法,其特征在于,所述比较所述第一深度学习容器模型和所述待移植模型的性能,得到差异值,包括:
确定所述目标芯片类型对应的芯片架构;
依据所述芯片架构,对所述待移植模型的性能进行测试,得到第一测试结果,所述第一测试结果包括多个第一测试参数;
对所述第一深度学习容器模型的性能进行测试,得到第二测试结果,所述第二测试结果包括多个第二测试参数;
将所述多个第一测试参数与所述多个第二测试参数进行匹配,得到多个匹配度;
对所述多个匹配度取均值,得到所述差异值。


4.根据权利要求1所述的方法,其特征在于,在所述获取待移植模型之前,所述方法还包括:
获取预设框架库,所述预设框架库中包括多个预设框架;
确定所述电子设备对应的应用场景;
根据所述应用场景,从所述多个预设框架中选取目标预设框架;
基于所述目标预设框架,将预设网络模型转换为所述待移植模型。


5.根据权利要求4所述的方法,其特征在于,所述基于所述目标框架,将预设网络模型转换为所述待移植模型,包括:
基于所述目标预设...

【专利技术属性】
技术研发人员:彭冬炜
申请(专利权)人:OPPO广东移动通信有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1