一种神经网络压缩方法、装置及电子设备制造方法及图纸

技术编号:41177850 阅读:20 留言:0更新日期:2024-05-07 22:13
本申请提出了一种神经网络压缩方法、装置及电子设备,获取待压缩神经网络运行过程中多个卷积层各自的功耗信息,依据该功耗信息,确定这多个卷积层的层剪枝顺序,从而按照该层剪枝顺序,逐层对多个卷积层进行通道剪枝处理,得到满足网络压缩结束条件的目标神经网络。

【技术实现步骤摘要】

本申请主要涉及机器学习,更具体地说是涉及一种神经网络压缩方法、装置及电子设备


技术介绍

1、目前,深度神经网络、卷积神经网络等机器学习(ml,machine learning)技术已被广泛应用于生活中各方面,终端设备对深度学习任务的部署需求也在与日俱增,这往往要求所使用的终端设备具有较高的计算能力和带宽能力,影响了适用范围。

2、为了降低对部署神经网络的电子设备的计算能力和带宽能力等方面的要求,目前是通过对神经网络包含的各卷积层进行通道剪枝,来降低神经网络的资源消耗,但其能减少的资源消耗量有限,无法满足终端对神经网络的部署需求。


技术实现思路

1、为了解决上述技术问题,本申请提供了以下技术方案:

2、一方面,本申请提出了一种神经网络压缩方法,所述方法包括:

3、获取待压缩神经网络运行过程中多个卷积层各自的功耗信息;所述卷积层包含多个通道;

4、依据所述功耗信息,确定所述多个卷积层的层剪枝顺序;

5、按照所述层剪枝顺序,逐层对所述多个卷积层进行通道剪本文档来自技高网...

【技术保护点】

1.一种神经网络压缩方法,所述方法包括:

2.根据权利要求1所述的方法,对任一所述卷积层进行通道剪枝处理的过程,包括:

3.根据权利要求2所述的方法,所述依据所述通道剪枝顺序,对所述待剪枝卷积层进行通道剪枝处理,包括:

4.根据权利要求3所述的方法,所述确定本次通道剪枝处理后的所述待剪枝卷积层不满足层压缩结束条件,依据针对所述待剪枝卷积层的新压缩率和通道剪枝顺序,继续对所述待剪枝卷积层进行通道剪枝处理,包括:

5.根据权利要求3所述的方法,所述确定本次通道剪枝处理后的所述待剪枝卷积层不满足层压缩结束条件,依据针对所述待剪枝卷积层的新压缩率和...

【技术特征摘要】

1.一种神经网络压缩方法,所述方法包括:

2.根据权利要求1所述的方法,对任一所述卷积层进行通道剪枝处理的过程,包括:

3.根据权利要求2所述的方法,所述依据所述通道剪枝顺序,对所述待剪枝卷积层进行通道剪枝处理,包括:

4.根据权利要求3所述的方法,所述确定本次通道剪枝处理后的所述待剪枝卷积层不满足层压缩结束条件,依据针对所述待剪枝卷积层的新压缩率和通道剪枝顺序,继续对所述待剪枝卷积层进行通道剪枝处理,包括:

5.根据权利要求3所述的方法,所述确定本次通道剪枝处理后的所述待剪枝卷积层不满足层压缩结束条件,依据针对所述待剪枝卷积层的新压缩率和通道剪枝顺...

【专利技术属性】
技术研发人员:魏亚东
申请(专利权)人:鼎道智芯上海半导体有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1