网络模型的滤波剪枝方法、系统、电子设备及存储介质技术方案

本申请涉及滤波剪枝技术领域，尤其涉及一种网络模型的滤波剪枝方法、系统、电子设备及存储介质。该网络模型的滤波剪枝方法包括以下步骤：根据默认的剪枝率，对滤波器进行剪枝，并分别基于范数标准对所述滤波器第一次置零、基于几何中心对所述滤波器第一次置零；获取各个第一次置零后的滤波器的范数值，按照预设顺序，并基于预设的剪枝率，将所述排序后的滤波器第二次置零；对第二次置零后的滤波器进行剪枝；本申请提供了基于范数

【技术实现步骤摘要】
网络模型的滤波剪枝方法、系统、电子设备及存储介质


[0001]本申请涉及滤波剪枝
，尤其涉及一种网络模型的滤波剪枝方法、系统、电子设备及存储介质。

技术介绍

[0002]随着深度学习和大数据技术的不断发展，深度神经网络已经能够解决很多复杂的现实问题，在金融业、服务业、生物医学等领域中都得到了很好的应用。
[0003]但是，在深度学习发展热潮的同时，由于其模型层数越来越深、模型结构越来越复杂，这就导致深度神经网络出现了一个重大的应用缺陷——高昂的计算成本和存储成本；并由此也制约了深度神经网络的各种模型的运行实时性，大大阻碍了深度神经网络的嵌入式应用和进一步的普及。

技术实现思路

[0004]本申请提供了一种网络模型的滤波剪枝方法、系统、电子设备及存储介质，以对提高网络模型的计算速度，并减少网络模型的占用空间。
[0005]第一方面，本申请的实施例提供了一种网络模型的滤波剪枝方法，所述方法包括：获取网络模型的初始剪枝率，根据所述初始剪枝率，对网络模型的卷积层上的滤波器进行剪枝；基于范数标准对剪枝后的所述滤波器第本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种网络模型的滤波剪枝方法，其特征在于，所述方法包括：获取网络模型的初始剪枝率，根据所述初始剪枝率，对网络模型的卷积层上的滤波器进行剪枝；基于范数标准对剪枝后的所述滤波器第一次置零，以及基于几何中心标准对剪枝后的所述滤波器第一次置零；获取各个第一次置零后的所述滤波器的范数值，根据所述范数值的大小，按照预设顺序对第一次置零后的所述滤波器进行排序；根据预设的剪枝率，通过范数标准和/或几何中心标准的方式将排序后的所述滤波器第二次置零，以及对第二次置零后的所述滤波器进行剪枝。2.根据权利要求1所述的网络模型的滤波剪枝方法，其特征在于，所述预设的剪枝率包括第一剪枝率，通过范数标准将排序后的所述滤波器第二次置零，包括：在剪枝当前的卷积层时，获取范数值小于第一预设值的滤波器；按照预设顺序，从范数值小于第一预设值的滤波器中获取数量为前第一数量的滤波器，所述第一数量由所述第一剪枝率与下一层卷积层的输入通道数的乘积；将与数量为第一数量的滤波器对应的码本位置置零，得到第一矩阵；将第一矩阵与预设的第一模型参数矩阵点乘，实现范数标准的滤波器第二次置零。3.根据权利要求2所述的网络模型的滤波剪枝方法，其特征在于，所述对第二次置零后的所述滤波器进行剪枝，包括：基于所述第一剪枝率，对范数值小于第一预设阈值的第一数量的滤波器、与每个滤波器对应的特征图、下一层卷积层中的卷积核进行修剪。4.根据权利要求1所述的网络模型的滤波剪枝方法，其特征在于，所述预设的剪枝率包括第二剪枝率，通过几何中心标准将排序后的所述滤波器第二次置零，包括：在剪枝当前的卷积层时，计算出每个滤波器与其他滤波器的距离之和；获取距离之和小于第二预设阈值的滤波器；按照预设顺序，从距离之和小于第二预设阈值的滤波器中获取数量为前第二数量的滤波器，所述第二数量由所述第二剪枝率与下一层卷积层的输入通道数的乘积；将与所述第二数量的滤波器对应的码本位置置零，得到第二矩阵；将所述第二矩阵，与预设的第二模型参数矩阵点乘，以实现几何中心标准的滤波器第二次置零。5.根据权利要求4所述的网络模型的滤波...

【专利技术属性】
技术研发人员：黄贤锁，
申请(专利权)人：深圳开鸿数字产业发展有限公司，
类型：发明
国别省市：