System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 模型处理方法、装置以及电子设备制造方法及图纸_技高网

模型处理方法、装置以及电子设备制造方法及图纸

技术编号:40322124 阅读:12 留言:0更新日期:2024-02-09 14:17
本申请实施例公开了一种模型处理方法、装置以及电子设备。方法包括:获取训练完成的第一模型;基于第一轻量化方式,得到与第一模型对应的第一轻量化模型;若第一轻量化模型不满足目标条件,则基于第二轻量化方式,得到与第一模型对应的第二轻量化模型,第二轻量化方式与所述第一轻量化方式不同;基于第二轻量化模型,得到目标轻量化模型。从而通过上述方式使得,在已经整合得到多种轻量化方式的情况下,可以在所使用的一种轻量化方式所得到的轻量化模型(第一轻量化模型)不满足目标条件的情况下,可以自动的触发通过另外一种轻量化方式来得到轻量化模型(第二轻量化模型),从而提升了模型轻量化过程的灵活性以及通用性。

【技术实现步骤摘要】

本申请涉及计算机,更具体地,涉及一种模型处理方法、装置以及电子设备


技术介绍

1、随着人工智能技术的快速发展,模型尺寸和计算资源的需求也在不断增加。然而,对于许多实际应用场景来说,过大的模型尺寸和过多的计算资源不仅会增加硬件和运维成本,而且也可能降低模型的实时性和鲁棒性。因此,模型轻量化技术应运而生。但是,相关的模型轻量化方式还不够灵活。


技术实现思路

1、鉴于上述问题,本申请提出了一种模型处理方法、装置以及电子设备,以改善上述问题。

2、第一方面,本申请提供了一种模型处理方法,所述方法包括:获取训练完成的第一模型;基于第一轻量化方式,得到与所述第一模型对应的第一轻量化模型,所述第一轻量化方式为从多种轻量化方式中确定;若所述第一轻量化模型不满足目标条件,则基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,所述第二轻量化方式为从所述多种轻量化方式中确定,且所述第二轻量化方式与所述第一轻量化方式不同;基于所述第二轻量化模型,得到目标轻量化模型。

3、第二方面,本申请提供了一种模型处理装置,所述装置包括:模型获取单元,用于获取训练完成的第一模型;第一轻量化处理单元,用于基于第一轻量化方式,得到与所述第一模型对应的第一轻量化模型,所述第一轻量化方式为从多种轻量化方式中确定;第二轻量化处理单元,用于若所述第一轻量化模型不满足目标条件,则基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,所述第二轻量化方式为从所述多种轻量化方式中确定,且所述第二轻量化方式与所述第一轻量化方式不同;模型处理单元,用于基于所述第二轻量化模型,得到目标轻量化模型。

4、第三方面,本申请提供了一种电子设备,包括一个或多个处理器以及存储器;一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行以实现上述的方法。

5、第四方面,本申请提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有程序代码,其中,在所述程序代码被处理器运行时执行上述的方法。

6、本申请提供的一种模型处理方法、装置以及电子设备,在第一模型完成训练后,可以先基于第一轻量化方式,得到与所述第一模型对应的第一轻量化模型,并对第一轻量化模型进行检测,若第一轻量化模型不满足目标条件,则可以进一步的基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,以基于所述第二轻量化模型,得到目标轻量化模型。从而通过上述方式使得,在已经整合得到多种轻量化方式的情况下,可以在所使用的一种轻量化方式所得到的轻量化模型(第一轻量化模型)不满足目标条件的情况下,可以自动的触发通过另外一种轻量化方式来得到轻量化模型(第二轻量化模型),从而提升了模型轻量化过程的灵活性以及通用性。

本文档来自技高网...

【技术保护点】

1.一种模型处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述第二轻量化模型,得到目标轻量化模型,包括:

3.根据权利要求1或2所述的方法,其特征在于,所述多种轻量化方式包括:

4.根据权利要求1或2所述的方法,其特征在于,所述第一轻量化方式为基于所述第一模型的训练数据对待训练轻量化模型进行训练,所述基于第一轻量化方式,得到与所述第一模型对应的第一轻量化模型,包括:

5.根据权利要求2所述的方法,其特征在于,所述第二轻量化方式包括对所述第一模型进行模型量化,所述基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,包括:

6.根据权利要求2所述的方法,其特征在于,所述第二轻量化方式包括对所述第一模型进行模型量化,所述基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,包括:

7.根据权利要求2所述的方法,其特征在于,所述第三轻量化方式包括基于所述第一模型进行模型蒸馏,所述基于第三轻量化方式,得到与所述第一模型对应的第三轻量化模型,包括:

8.根据权利要求7所述的方法,其特征在于,所述从多种模型蒸馏方式中,获取当次蒸馏过程使用的模型蒸馏方式,包括:

9.根据权利要求1所述的方法,其特征在于,所述基于所述第二轻量化模型,得到目标轻量化模型,包括:

10.根据权利要求1所述的方法,其特征在于,所述第二轻量化方式为基于所述第一模型进行模型蒸馏,所述基于所述第二轻量化模型,得到目标轻量化模型,包括:

11.一种模型处理装置,其特征在于,所述装置包括:

12.一种电子设备,其特征在于,包括一个或多个处理器以及存储器;一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行权利要求1-10任一所述的方法。

13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有程序代码,其中,在所述程序代码被处理器运行时执行权利要求1-10任一所述的方法。

...

【技术特征摘要】

1.一种模型处理方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述第二轻量化模型,得到目标轻量化模型,包括:

3.根据权利要求1或2所述的方法,其特征在于,所述多种轻量化方式包括:

4.根据权利要求1或2所述的方法,其特征在于,所述第一轻量化方式为基于所述第一模型的训练数据对待训练轻量化模型进行训练,所述基于第一轻量化方式,得到与所述第一模型对应的第一轻量化模型,包括:

5.根据权利要求2所述的方法,其特征在于,所述第二轻量化方式包括对所述第一模型进行模型量化,所述基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,包括:

6.根据权利要求2所述的方法,其特征在于,所述第二轻量化方式包括对所述第一模型进行模型量化,所述基于第二轻量化方式,得到与所述第一模型对应的第二轻量化模型,包括:

7.根据权利要求2所述的方法,其特征在于,所述第三轻量化方式包括基于所述第一模型...

【专利技术属性】
技术研发人员:苏钰邱雨帅朝春
申请(专利权)人:OPPO广东移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1