嵌入式系统模型的优化方法、装置及计算机设备制造方法及图纸

技术编号:45079087 阅读:18 留言:0更新日期:2025-04-25 18:19
本申请公开了一种嵌入式系统模型的优化方法、装置及计算机设备。其中,该方法包括:获取用于运行神经网络模型的设备的状态函数,状态函数用于表示设备的当前负载状态;根据状态函数确定神经网络模型所需的剪枝比例和量化位数;按照预设优化目标和设备的负载情况对剪枝比例和量化位数进行优化,得到优化后的神经网络模型配置,神经网络模型配置至少包括:剪枝比例和量化位数。本申请至少解决了相关技术中由于嵌入式系统模型的模型剪枝和量化策略单一导致模型稳定性较差的技术问题。

【技术实现步骤摘要】

本申请涉及人工智能,具体而言,涉及一种嵌入式系统模型的优化方法、装置及计算机设备


技术介绍

1、在嵌入式系统上运行深度学习模型,尤其是在物联网(iot)、无人机、智能家居以及边缘计算等资源受限环境中的应用,面临着巨大的挑战。这些环境中的设备通常具有低功耗、有限内存和计算能力的特点,而深度学习模型往往具有庞大的参数量和复杂的运算结构,这直接导致了模型在嵌入式设备上的部署和运行变得极为困难,效率低下且能耗过高。为了解决这一问题,传统的优化手段主要依赖于模型剪枝和量化,即通过减少模型的参数数量和降低参数的精度来降低模型的计算复杂度和内存占用。模型剪枝通过移除模型中贡献较小的连接或权重,达到减少冗余的目的,而量化则将浮点数权重转化为低精度整数,以减少存储需求和提高计算效率。然而,传统的剪枝和量化方法大多采用静态优化策略,即在模型部署之前进行一次性的优化,设定固定的剪枝比例和量化精度。这种方法虽然能够在一定程度上减少模型的资源需求,但无法根据设备的实时运行状态进行灵活调整。在实际应用中,嵌入式设备的负载情况、功耗限制和内存使用量往往处于动态变化中,静态的优化策略难本文档来自技高网...

【技术保护点】

1.一种嵌入式系统模型的优化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的剪枝比例和量化位数,包括:

3.根据权利要求2所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的量化位数,包括:

4.根据权利要求2所述的方法,其特征在于,所述方法还包括:

5.根据权利要求3所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的方法,其特征在于,按照预设优化目标和所述设备的负载状态对所述剪枝比例和所述量化位数进行优化,得到优化后的神经网络模型配置,...

【技术特征摘要】

1.一种嵌入式系统模型的优化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的剪枝比例和量化位数,包括:

3.根据权利要求2所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的量化位数,包括:

4.根据权利要求2所述的方法,其特征在于,所述方法还包括:

5.根据权利要求3所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1所述的方法,其特征在于,按照预设优化目标和所述设备的负载状态对所述剪枝比例和所述量化位数进行...

【专利技术属性】
技术研发人员:辛金恒李永翔朱庆军路红柱刘阳
申请(专利权)人:中电信人工智能科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1