基于残差结构剪枝的模型压缩方法、装置、设备及介质制造方法及图纸

本发明专利技术实施例公开了一种基于残差结构剪枝的模型压缩方法、装置、设备及介质，其中方法包括：对目标检测网络模型进行神经网络训练以获取mAP基线；在对目标检测网络模型的损失函数添加针对BN层缩放因子的范数之后对模型进行训练；在完成训练后，根据缩放因子的大小对训练完成后的目标检测网络模型进行剪枝处理；对剪枝处理后的目标检测网络模型进行微调训练。本发明专利技术通过对残差结构的BN层进行剪枝的策略，能够有效地进一步地减少大型卷积神经网络模型运算处理的时间和需要存储空间，成功解决了模型计算量过大以及模型体积过大导致的算力以及储存空间不足的问题，降低了模型运算处理的时间复杂度和空间复杂度，使之可以在边缘设备上部署。设备上部署。设备上部署。

【技术实现步骤摘要】
基于残差结构剪枝的模型压缩方法、装置、设备及介质


[0001]本专利技术涉及图像处理技术，更具体地说是一种基于残差结构剪枝的模型压缩方法、装置、设备及介质。

技术介绍

[0002]近年来，卷积神经网络(CNN)已成为各种计算机视觉任务的主要方法，例如图像分类，目标检测，语义分割。大规模数据集，高端现代的GPU和新的网络架构使得大型卷积神经网络模型得到了前所未有的开发。然而，拥有更强大能力的大型卷积神经网络模型却往往会要求更多的资源。卷积神经网络模型在实际应用中的部署是主要受制于：模型的大小，运行时的内存需求和浮点运算数的数量要求。
[0003]与此同时，人车非检测算法作为智能算法中不可或缺的一项技术，对监控场景中的人、车、非机动进行自动检测与跟踪，将画面中的人车非目标数据进行自动提取，另外还提供了周界报警等应用的逻辑层封装。包括YOLOv5在内的大型卷积神经网络模型在此任务上有着非常不俗的检测准确率与召回率。然而，在某些实际搭载的设备比如智能摄像机等边缘设备，计算资源和存储资源有限，而大型卷积神经网络模型需要执行大量的浮点运算，并且有大本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于残差结构剪枝的模型压缩方法，其特征在于，所述方法包括：对目标检测网络模型进行神经网络训练以获取mAP基线；在对目标检测网络模型的损失函数添加针对BN层缩放因子的范数之后对模型进行训练；在完成训练后，根据缩放因子的大小对训练完成后的目标检测网络模型进行剪枝处理；对剪枝处理后的目标检测网络模型进行微调训练。2.根据权利要求1所述的基于残差结构剪枝的模型压缩方法，其特征在于，所述的在完成训练后，根据缩放因子的大小对训练完成后的目标检测网络模型进行剪枝处理，具体包括：提取所有可剪枝BN层的通道的权重以及所有可剪枝BN层对应的正则化参数；从大到小排列所有可剪枝BN层对应的正则化参数，并根据设定的剪枝幅度确定出正则化参数阈值；根据正则化参数阈值计算出每一个可剪枝的BN层的剪枝通道和剩余通道，即为目标结构；创建针对目标结构的新模型；将正则化参数大于正则化参数阈值的通道的权重从已训练好的目标检测网络模型中复制到新模型中。3.根据权利要求1所述的基于残差结构剪枝的模型压缩方法，其特征在于，所述针对BN层缩放因子的范数为L1范数。4.基于残差结构剪枝的模型压缩装置，其特征在于，所述装置包括第一训练单元、第二训练单元、剪枝单元和微调训练单元；所述第一训练单元，用于对目标检测网络模型进行神经网络训练以获取mAP基线；所述第二训练单元，用于在对目标检测网络模型的损失函数添加针对BN层缩放因子的范数之后对模型进行训练；所述剪枝单...

【专利技术属性】
技术研发人员：曹堃，陈志宇，龙晓华，
申请(专利权)人：深圳市同为数码科技股份有限公司，
类型：发明
国别省市：