【技术实现步骤摘要】
本申请涉及人工智能,具体而言,涉及一种嵌入式系统模型的优化方法、装置及计算机设备。
技术介绍
1、在嵌入式系统上运行深度学习模型,尤其是在物联网(iot)、无人机、智能家居以及边缘计算等资源受限环境中的应用,面临着巨大的挑战。这些环境中的设备通常具有低功耗、有限内存和计算能力的特点,而深度学习模型往往具有庞大的参数量和复杂的运算结构,这直接导致了模型在嵌入式设备上的部署和运行变得极为困难,效率低下且能耗过高。为了解决这一问题,传统的优化手段主要依赖于模型剪枝和量化,即通过减少模型的参数数量和降低参数的精度来降低模型的计算复杂度和内存占用。模型剪枝通过移除模型中贡献较小的连接或权重,达到减少冗余的目的,而量化则将浮点数权重转化为低精度整数,以减少存储需求和提高计算效率。然而,传统的剪枝和量化方法大多采用静态优化策略,即在模型部署之前进行一次性的优化,设定固定的剪枝比例和量化精度。这种方法虽然能够在一定程度上减少模型的资源需求,但无法根据设备的实时运行状态进行灵活调整。在实际应用中,嵌入式设备的负载情况、功耗限制和内存使用量往往处于动态变化
...【技术保护点】
1.一种嵌入式系统模型的优化方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的剪枝比例和量化位数,包括:
3.根据权利要求2所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的量化位数,包括:
4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
5.根据权利要求3所述的方法,其特征在于,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,按照预设优化目标和所述设备的负载状态对所述剪枝比例和所述量化位数进行优化,得到优化后
...【技术特征摘要】
1.一种嵌入式系统模型的优化方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的剪枝比例和量化位数,包括:
3.根据权利要求2所述的方法,其特征在于,根据所述状态函数确定所述神经网络模型所需的量化位数,包括:
4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
5.根据权利要求3所述的方法,其特征在于,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,按照预设优化目标和所述设备的负载状态对所述剪枝比例和所述量化位数进行...
【专利技术属性】
技术研发人员:辛金恒,李永翔,朱庆军,路红柱,刘阳,
申请(专利权)人:中电信人工智能科技北京有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。