网络模型的剪枝方法、训练方法及相关装置制造方法及图纸

技术编号:31830915 阅读:14 留言:0更新日期:2022-01-12 13:07
本申请公开了网络模型的剪枝方法、训练方法及相关装置,该剪枝方法包括:获取网络模型的待剪枝通道的索引;将待剪枝通道的索引发送给剪枝框架;其中,剪枝框架被配置为可用于实现裁剪功能,裁剪功能能够被多种剪枝算法所共用;利用剪枝框架从网络模型的相应节点中对待剪枝通道的索引所对应的通道进行裁剪。通过上述方式,能够减少剪枝算法对通道裁剪的参与,提高采用不同剪枝算法对网络模型进行剪枝压缩的工作效率,进而减少人力成本。进而减少人力成本。进而减少人力成本。

【技术实现步骤摘要】
网络模型的剪枝方法、训练方法及相关装置


[0001]本申请涉及网络模型
,特别是涉及网络模型的剪枝方法、训练方法及相关装置。

技术介绍

[0002]近年来,网络模型被用于越来越多的领域,如采用了卷积计算的深度学习算法在计算机视觉领域表现出卓越的效能。但是精度越高的网络模型通常具有更多的计算量,因此对计算平台的硬件配置有更高的要求。基于此,通过对网络模型进行压缩,在网络模型的预测精度不受影响或者影响较小的前提下缩小网络模型的体积并且减少网络模型的计算量,以使网络模型能够适配更多的计算平台,如嵌入式计算平台。
[0003]相关技术中,通过对网络模型进行剪枝,以达到对网络模型进行压缩和加速的效果,不足之处在于,随着相应的剪枝算法越来越多,进而导致应用这些剪枝算法的工作过于繁重。

技术实现思路

[0004]本申请主要解决的技术问题是提供网络模型的剪枝方法、训练方法及相关装置,能够减少剪枝算法对通道裁剪的参与,提高采用不同剪枝算法对网络模型进行剪枝压缩的工作效率,进而减少人力成本。
[0005]为了解决上述问题,本申请采用的一种技术方案是提供一种网络模型的剪枝方法,该方法包括:获取网络模型的待剪枝通道的索引;将待剪枝通道的索引发送给剪枝框架;其中,剪枝框架被配置为用于实现裁剪功能,裁剪功能能够被多种剪枝算法所共用;利用剪枝框架从网络模型的相应节点中对待剪枝通道的索引所对应的通道进行裁剪。
[0006]为了解决上述问题,本申请采用的另一种技术方案是提供一种网络模型的训练方法,该方法包括:获取训练样本;利用训练样本对网络模型进行训练;其中,在训练过程中利用如上述技术方案提供的剪枝方法对网络模型进行剪枝。
[0007]为了解决上述问题,本申请采用的另一种技术方案是提供一种网络模型的剪枝装置,该剪枝装置包括:获取模块,用于获取网络模型的待剪枝通道的索引;发送模块,用于将待剪枝通道的索引发送给剪枝框架;其中,剪枝框架被配置为用于实现裁剪功能,裁剪功能能够被多种剪枝算法所共用;裁剪模块,用于利用剪枝框架从网络模型的相应节点中对待剪枝通道的索引所对应的通道进行裁剪。
[0008]为了解决上述问题,本申请采用的另一种技术方案是提供一种电子设备,该电子设备包括处理器以及与处理器耦接的存储器,存储器中存储有计算机程序,处理器用于执行计算机程序以实现如上述任一技术方案提供的方法。
[0009]为了解决上述问题,本申请采用的另一种技术方案是提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,计算机程序在被处理器执行时,实现如上述任一技术方案提供的方法。
[0010]本申请的有益效果是:区别于现有技术的情况,本申请提供网络模型的剪枝方法、训练方法及相关装置,该剪枝方法利用剪枝框架的裁剪功能能够被多种剪枝算法所共用的特点,使剪枝框架接收待剪枝通道的索引,进而利用剪枝框架进行相应节点的通道裁剪,减少剪枝算法对通道裁剪的参与,能够提高采用不同剪枝算法对网络模型进行剪枝压缩的工作效率,进而减少人力成本,提高用户体验。
附图说明
[0011]为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。其中:
[0012]图1是本申请提供的网络模型的剪枝方法一实施例的流程示意图;
[0013]图2是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0014]图3是本申请提供的步骤21一实施例的流程示意图;
[0015]图4是本申请提供的网络模型的剪枝方法一应用场景示意图;
[0016]图5是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0017]图6是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0018]图7本申请提供的网络模型的剪枝方法另一应用场景示意图;
[0019]图8、图9和图10是本申请提供的网络模型的剪枝方法另一应用场景示意图;
[0020]图11、图12和图13是本申请提供的网络模型的剪枝方法另一应用场景示意图;
[0021]图14是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0022]图15是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0023]图16是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0024]图17是本申请提供的网络模型的剪枝方法另一实施例的流程示意图;
[0025]图18是本申请提供的网络模型的剪枝方法另一应用场景示意图;
[0026]图19是本申请提供的网络模型的训练方法一实施例的流程示意图;
[0027]图20是本申请提供的网络模型与相关技术中的网络模型的对比示意图;
[0028]图21是本申请提供的网络模型的剪枝装置一实施例的结构示意图;
[0029]图22是本申请提供的电子设备一实施例的结构示意图;
[0030]图23是本申请提供的计算机可读存储介质一实施例的结构示意图。
具体实施方式
[0031]下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。可以理解的是,此处所描述的具体实施例仅用于解释本申请,而非对本申请的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本申请相关的部分而非全部结构。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0032]在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同
的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
[0033]参阅图1,图1是本申请提供的网络模型的剪枝方法一实施例的流程示意图。该方法包括:
[0034]步骤11:获取网络模型的待剪枝通道的索引。
[0035]网络模型通常是由不同节点之间的相互连接而组成,也即每一节点拥有相应的至少一个输出通道和输入通道。网络模型的不同节点的相互连接构成一个有向图,即由向某一起始节点的输入通道输入相应的数据,该起始节点根据输出通道的连接关系,向对应连接的节点输出计算后的数据,依次类推,每一节点通过输入通道接收数据和通过输出通道输出数据,最后一个节点输出的数据为最终数据。其中,节点可以是神经网络模型中的神经元,神经元与神经元之间通过若干通道连接。
[0036]在一些应用场景中,为了使网络模型能够适配更多的计算平台,如嵌入式计算平台,则需要通过对网络模型进行压缩,在网络模型的预测精度不受影响或者影响较小的前提下缩小网络模型的体本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种网络模型的剪枝方法,其特征在于,所述方法包括:获取网络模型的待剪枝通道的索引;将所述待剪枝通道的索引发送给剪枝框架;其中,所述剪枝框架被配置为用于实现裁剪功能,所述裁剪功能能够被多种剪枝算法所共用;利用所述剪枝框架从所述网络模型的相应节点中对所述待剪枝通道的索引所对应的通道进行裁剪。2.根据权利要求1所述的方法,其特征在于,所述获取网络模型的待剪枝通道的索引,包括:获取预设剪枝算法;利用所述预设剪枝算法计算出所述待剪枝通道的索引。3.根据权利要求2所述的方法,其特征在于,所述获取预设剪枝算法,包括:获取所述网络模型中的待剪枝节点类型;利用所述待剪枝节点类型确定对应的所述预设剪枝算法。4.根据权利要求1所述的方法,其特征在于,所述利用所述剪枝框架从所述网络模型的相应节点中对所述待剪枝通道的索引所对应的通道进行裁剪,包括:断开已裁剪的通道与所连接的其他节点的其他通道之间的连接关系,并保留所述其他通道的剩余连接关系。5.根据权利要求4所述的方法,其特征在于,所述断开已裁剪的通道与所连接的其他节点的其他通道之间的连接关系,并保留所述其他通道的剩余连接关系,包括:利用所述剪枝框架构建第一过渡层,以及断开已裁剪的通道与所连接的其他节点的其他通道之间的连接关系;利用所述第一过渡层按照所述待剪枝通道的索引对相应节点上的通道进行挑选,以保留所述待剪枝通道的索引以外的通道;将所述第一过渡层中保留的通道与所述其他节点的其他通道重新建立连接关系。6.根据权利要求4所述的方法,其特征在于,所述方法进一步包括:在对所述待剪枝通道的索引所对应的通道进行裁剪的过程中,判断剩余的通道中是否存在孤立通道;其中,所述孤立通道为无连接关系的通道;若存在,则删除所述孤立通道。7.根据权利要求6所述的方法,其特征在于,所述方法进一步包括:在所述孤立通道删除后,判断所述网络模型中是否存在孤立节点;其中,所述孤立节点为无通...

【专利技术属性】
技术研发人员:盛春楠郭彦东冯天鹏
申请(专利权)人:OPPO广东移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1