非结构化剪枝模型获取方法、装置、电子设备及存储介质制造方法及图纸

本公开提供了非结构化剪枝模型获取方法、装置、电子设备及存储介质，涉及深度学习等人工智能领域，其中的方法可包括：根据待获取的非结构化剪枝模型的类型确定出压缩方式；结合确定出的压缩方式训练得到所述非结构化剪枝模型。应用本公开所述方案，可缩短训练时长及提升训练效率等。提升训练效率等。提升训练效率等。

【技术实现步骤摘要】
非结构化剪枝模型获取方法、装置、电子设备及存储介质


[0001]本公开涉及人工智能
，特别涉及深度学习领域的非结构化剪枝模型获取方法、装置、电子设备及存储介质。

技术介绍

[0002]在深度学习领域，为达到更小的模型体积、更快的推理速度等，提出了一系列模型压缩策略(即压缩方式)，包括量化、剪枝等，而非结构化剪枝是剪枝的一种方式，通过剪除参数矩阵中不重要的部分，减小模型体积和计算次数，达到加速效果。目前，对于非结构化剪枝模型的训练，通常需要较长的训练时长，即训练效率低下。

技术实现思路

[0003]本公开提供了非结构化剪枝模型获取方法、装置、电子设备及存储介质。
[0004]一种非结构化剪枝模型获取方法，包括：
[0005]根据待获取的非结构化剪枝模型的类型确定出压缩方式；
[0006]结合确定出的压缩方式训练得到所述非结构化剪枝模型。
[0007]一种非结构化剪枝模型获取装置，包括：第一处理模块以及第二处理模块；
[0008]所述第一处理模块，用于根据待获取的非结构化剪枝模型的类型确定出压缩方式；
[0009]所述第二处理模块，用于结合确定出的压缩方式训练得到所述非结构化剪枝模型。
[0010]一种电子设备，包括：
[0011]至少一个处理器；以及
[0012]与所述至少一个处理器通信连接的存储器；其中，
[0013]所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如以上所述的方法。
[0014]一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使计算机执行如以上所述的方法。
[0015]一种计算机程序产品，包括计算机程序/指令，所述计算机程序/指令被处理器执行时实现如以上所述的方法。
[0016]上述公开中的一个实施例具有如下优点或有益效果：可根据非结构化剪枝模型的类型确定出对应的压缩方式，并可结合确定出的压缩方式对非结构化剪枝模型进行训练，从而缩短了训练时长，提升了训练效率等。
[0017]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0018]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0019]图1为本公开所述非结构化剪枝模型获取方法实施例的流程图；
[0020]图2为采用本公开所述方式针对浮点型非结构化剪枝模型进行每轮训练的过程示意图；
[0021]图3为采用本公开所述方式针对定点型非结构化剪枝模型进行每轮训练的过程第一示意图；
[0022]图4为采用本公开所述方式针对定点型非结构化剪枝模型进行每轮训练的过程第二示意图；
[0023]图5为本公开所述非结构化剪枝模型获取装置实施例500的组成结构示意图；
[0024]图6示出了可以用来实施本公开的实施例的电子设备600的示意性框图。
具体实施方式
[0025]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0026]另外，应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
[0027]图1为本公开所述非结构化剪枝模型获取方法实施例的流程图。如图1所示，包括以下具体实现方式。
[0028]在步骤101中，根据待获取的非结构化剪枝模型的类型确定出压缩方式。
[0029]在步骤102中，结合确定出的压缩方式训练得到所述非结构化剪枝模型。
[0030]可以看出，上述方法实施例所述方案中，可根据非结构化剪枝模型的类型确定出对应的压缩方式，并可结合确定出的压缩方式对非结构化剪枝模型进行训练，从而缩短了训练时长，提升了训练效率等。
[0031]本公开的一个实施例中，待获取的非结构化剪枝模型的类型可包括：浮点型非结构化剪枝模型。比如，可为FP32非结构化剪枝模型，FP32是一种单精度浮点数。
[0032]相应地，本公开的一个实施例中，结合确定出的压缩方式训练得到所述非结构化剪枝模型的方式可为：结合知识蒸馏方式训练得到所述非结构化剪枝模型，即可结合知识蒸馏方式训练得到浮点型非结构化剪枝模型。
[0033]针对浮点型非结构化剪枝模型需要较长的训练时长的问题，本公开所述方式中提出，可借助于知识蒸馏方式能够加快模型收敛速度的特点，在浮点型非结构化剪枝模型的训练过程中引入了知识蒸馏方式。
[0034]本公开的一个实施例中，可将浮点型非结构化剪枝模型对应的、未进行剪枝等处理的原始模型作为教师模型，将浮点型非结构化剪枝模型作为学生模型，进行知识蒸馏，即可采用利用原始模型蒸馏浮点型非结构化剪枝模型的自蒸馏方式，从而可缩短训练时长，提升训练效率，并可提升模型精度等。
[0035]图2为采用本公开所述方式针对浮点型非结构化剪枝模型进行每轮训练的过程示意图。
[0036]如图2所示，在每轮的训练过程中，可先采用剪裁算子对模型进行剪裁，之后可基于剪裁后的模型确定前向传播结果，进而可根据前向传播结果确定出蒸馏损失函数，相应地，可根据得到的蒸馏损失函数对模型参数进行更新等。
[0037]本公开的一个实施例中，待获取的非结构化剪枝模型的类型还可包括：定点型非结构化剪枝模型。比如，可为INT8非结构化剪枝模型。
[0038]相应地，本公开的一个实施例中，结合确定出的压缩方式训练得到所述非结构化剪枝模型的方式可为：结合量化方式训练得到所述非结构化剪枝模型，即可结合量化方式训练得到定点型非结构化剪枝模型。
[0039]传统方式中，针对非结构化剪枝模型，仅在FP32数值精度上进行了验证，而对于产品中广泛使用的INT8模型，并未做相应的非结构化剪枝模型的训练，而采用本公开所述方式后，可采用量化+非结构化剪枝的训练方式，从而可得到所需的定点型非结构化剪枝模型，如INT8非结构化剪枝模型，而且，提升了训练效率等。
[0040]图3为采用本公开所述方式针对定点型非结构化剪枝模型进行每轮训练的过程第一示意图。
[0041]如图3所示，在每轮的训练过程中，可先采用剪裁算子对模型进行剪裁，之后可采用量化算子对剪裁后的模型进行量化处理，如将模型中的权重参数以及特征等从FP32(全数值精度)的浮点数量化为INT8(量化精度)的定点数，如何进行量化不作限制，如可采用现有的量化方式，之后可基于量化后的模型确本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种非结构化剪枝模型获取方法，包括：根据待获取的非结构化剪枝模型的类型确定出压缩方式；结合确定出的压缩方式训练得到所述非结构化剪枝模型。2.根据权利要求1所述的方法，其中，所述类型包括：浮点型非结构化剪枝模型；所述结合确定出的压缩方式训练得到所述非结构化剪枝模型包括：结合知识蒸馏方式训练得到所述非结构化剪枝模型。3.根据权利要求1所述的方法，其中，所述类型包括：定点型非结构化剪枝模型；所述结合确定出的压缩方式训练得到所述非结构化剪枝模型包括：结合量化方式训练得到所述非结构化剪枝模型。4.根据权利要求1所述的方法，其中，所述类型包括：定点型非结构化剪枝模型；所述结合确定出的压缩方式训练得到所述非结构化剪枝模型包括：结合量化方式以及知识蒸馏方式训练得到所述非结构化剪枝模型。5.根据权利要求2或4所述的方法，其中，结合知识蒸馏方式训练得到所述非结构化剪枝模型包括：将所述非结构化剪枝模型对应的原始模型作为教师模型，将所述非结构化剪枝模型作为学生模型，进行知识蒸馏。6.一种非结构化剪枝模型获取装置，包括：第一处理模块以及第二处理模块；所述第一处理模块，用于根据待获取的非结构化剪枝模型的类型确定出压缩方式；所述第二处理模块，用于结合确定出的压缩方式训练得到所述非结构化剪枝模型。7.根据权利要求6所述的装置，其中，所述...

【专利技术属性】
技术研发人员：李明昊，王豪爽，党青青，文灿，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：