神经网络剪枝方法、装置、芯片、设备、存储介质及产品制造方法及图纸

技术编号:40193746 阅读:18 留言:0更新日期:2024-01-26 23:56
本申请提供了一种神经网络剪枝方法、装置、芯片、设备、存储介质及产品,属于人工智能技术领域。方法包括:确定第一神经网络包括的第一数目个第一卷积核分别对应的第一剪枝方式,第一卷积核为包括多个权重的矩阵;从第一数目个第一卷积核分别对应的第一剪枝方式中,确定出现次数最多的第二数目个目标剪枝方式;基于第一数目个第一卷积核分别对应的第一剪枝方式与第二数目个目标剪枝方式之间的匹配度,从第二数目个目标剪枝方式中,分别确定第一数目个第一卷积核分别对应的目标剪枝方式;基于第一数目个第一卷积核分别对应的目标剪枝方式,分别对第一数目个第一卷积核进行剪枝,得到第二神经网络。该方法提高了对神经网络进行剪枝的精度。

【技术实现步骤摘要】

本申请涉及人工智能,特别涉及一种神经网络剪枝方法、装置、芯片、设备、存储介质及产品


技术介绍

1、随着人工智能技术的发展,神经网络的功能越来越强大,随之而来的问题就是神经网络的结构越来越复杂,导致通过神经网络进行推理时需要消耗大量的存储资源和计算资源,严重的限制了神经网络在存储资源和计算资源受限的硬件设备上的部署。因此,在硬件设备上部署神经网络之前,需要对神经网络进行剪枝。

2、神经网络包括多个卷积核,而卷积核为包括多个权重的矩阵。相关技术中,在对神经网络进行剪枝时,对多个卷积核分别剪去相同矩阵位置的权重。

3、然而,多个卷积核的多个矩阵位置的权重可能不同,这样对多个卷积核分别剪去相同矩阵位置的权重,使得对神经网络的剪枝较为粗糙,从而降低了对神经网络进行剪枝的精度。


技术实现思路

1、本申请实施例提供了一种神经网络剪枝方法、装置、芯片、设备、存储介质及产品,能够提高对神经网络剪枝的精度。所述技术方案如下:

2、一方面,提供了一种神经网络剪枝方法,所述方法包括:

...

【技术保护点】

1.一种神经网络剪枝方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,确定第一卷积核对应的第一剪枝方式的过程,包括:

3.根据权利要求2所述的方法,其特征在于,所述第三数目的确定过程包括:

4.根据权利要求3所述的方法,其特征在于,所述第二神经网络包括第一数目个第二卷积核,所述第二卷积核为对所述第一卷积核进行剪枝得到的卷积核;所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述第二神经网络包括第一数目个第二卷积核,所述第二卷积核为对所述第一卷积核进行剪枝得到的卷积核;

6.根据权利要求5所述...

【技术特征摘要】

1.一种神经网络剪枝方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,确定第一卷积核对应的第一剪枝方式的过程,包括:

3.根据权利要求2所述的方法,其特征在于,所述第三数目的确定过程包括:

4.根据权利要求3所述的方法,其特征在于,所述第二神经网络包括第一数目个第二卷积核,所述第二卷积核为对所述第一卷积核进行剪枝得到的卷积核;所述方法还包括:

5.根据权利要求1所述的方法,其特征在于,所述第二神经网络包括第一数目个第二卷积核,所述第二卷积核为对所述第一卷积核进行剪枝得到的卷积核;

6.根据权利要求5所述的方法,其特征在于,所述基于所述第一卷积核对应的目标剪枝方式,确定所述目标剪枝方式对应的掩码矩阵,包括:

7.根据权利要求6所述的方法,其特征在于,所述方法还包括:

8.根据权利要求1所述的方法,其特征在于,所述基于所述第一数目个第一卷积核分别对应的第一剪枝方式与所述第二数目个目标剪枝方式之间的匹配度,从所述第二数目个目标剪枝方式中,分别确定所述第一数目个第一卷积核分别对应的目标剪枝方式,包括:

9.根据权利要求1所述的方法,其特征在于,所述确定第一神经网络包括的第一数目个第一卷积核分别对应的第一剪枝方式之前,所述方法还包括:

10.根据权利要求9所述...

【专利技术属性】
技术研发人员:李文进
申请(专利权)人:哲库科技上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1