基于目标检测模型的剪枝方法、装置和存储介质制造方法及图纸

本申请涉及一种基于目标检测模型的剪枝方法、装置和存储介质，所述方法包括：训练目标检测模型；确定所述目标检测模型中的剪枝目标，所述剪枝目标包括目标剪枝通道和目标剪枝层；对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型；裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型；对所述剪枝模型进行再训练，恢复稀疏后的网络参数至正常分布状态，得到剪枝后的目标检测模型。根据上述方法对目标检测模型进行剪枝，降低了对目标检测时的算法复杂度，解决了边缘设备进行目标检测时性能较差的问题。决了边缘设备进行目标检测时性能较差的问题。决了边缘设备进行目标检测时性能较差的问题。

Pruning method, device and storage medium based on target detection model

【技术实现步骤摘要】
基于目标检测模型的剪枝方法、装置和存储介质


[0001]本申请涉及计算机
，尤其涉及一种基于目标检测模型的剪枝方法、装置和存储介质。

技术介绍

[0002]近年来，目标检测模型通过利用大量数据的大规模网络学习，在分类、检测和分割等计算机视觉任务中取得了显着的成功。但是，目标检测模型通常会占用大量计算资源和存储空间，阻碍了其在移动和嵌入式等资源受限型设备上的部署。基于目标检测模型yolov3进行行人检测时，由于yolov3算法计算量大、参数多，放入边缘设备时会导致运行效率较低。

技术实现思路

[0003]为了解决上述技术问题，本申请提供了一种基于目标检测模型的剪枝方法、装置和存储介质。
[0004]第一方面，本实施例提供了一种基于目标检测模型的剪枝方法，所述方法包括：
[0005]训练目标检测模型；
[0006]确定所述目标检测模型中的剪枝目标，所述剪枝目标包括目标剪枝通道和目标剪枝层；
[0007]对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型；
[0008]裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型；
[0009]对所述剪枝模型进行再训练，恢复稀疏后的网络参数至正常分布状态，得到剪枝后的目标检测模型。
[0010]可选地，所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：
[0011]对所述目标检测模型中剪枝目标的BN层的缩放系数施加L1正则约束；
[0012]令所述目标检测模型中的剪枝目标按照稀疏因子调整参数，使所述目标检测模型朝着结构性稀疏的方向调整参数，得到所述稀疏检测模型；
[0013]其中，所述稀疏因子在稀疏训练时按照线性关系逐渐减小。
[0014]可选地，所述剪枝指标包括第一评判指标和第二评判指标，所述方法还包括：
[0015]将所述剪枝目标中所有BN层对应的缩放系数按照从大到小排序，按照剪枝率将排序后的缩放系数由小至大筛选出作为第一评判指标，
[0016]将所述筛选出的每个缩放系数对应的卷积核的权重进行绝对值求和，每个缩放系数对应一个绝对值之和，再将所有的绝对值之和按照从大到小的顺序排序，按照剪枝率将排序后的绝对值之和由小至大筛选出作为所述第二评判指标；
[0017]所述裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型，包括：
[0018]裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型。
[0019]可选地，所述确定所述目标检测模型中的剪枝目标，包括：
[0020]选择不与所述目标检测模型中shortcut层直接连通的卷积通道作为目标剪枝通道；
[0021]所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：
[0022]对所述目标检测模型中包含所述目标剪枝通道的网络结构进行稀疏训练，得到稀疏检测模型；
[0023]所述裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型，包括：
[0024]裁剪所述目标剪枝通道中同时满足第一评判指标和第二评判指标的卷积通道，得到剪枝模型。
[0025]可选地，所述确定所述目标检测模型中的剪枝目标，包括：
[0026]选择所述目标检测模型中所有的卷积通道作为目标剪枝通道，包括所述目标剪枝通道与所述目标检测模型中shortcut层直接连通的卷积通道；
[0027]所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：
[0028]对所述目标检测模型中包含所述目标剪枝通道的网络结构进行稀疏训练，得到稀疏检测模型；
[0029]所述裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型，包括：
[0030]裁剪所述目标剪枝通道中同时满足第一评判指标和第二评判指标的卷积通道，得到剪枝模型。
[0031]可选地，所述确定所述目标检测模型中的剪枝目标，包括：
[0032]选择所述目标检测模型中所有的卷积层作为目标剪枝层，所述卷积层携带有BN层；
[0033]所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：
[0034]对所述目标检测模型中包含所述目标剪枝层的网络结构进行稀疏训练，得到稀疏检测模型；
[0035]所述裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型，包括：
[0036]当所述目标剪枝层中的同一卷积层中同时满足第一评判指标和第二评判指标的卷积通道数大于裁剪阈值时，裁剪该卷积层，得到剪枝模型。
[0037]可选地，所述确定所述目标检测模型中的剪枝目标，包括：
[0038]选择所述目标检测模型中所有的卷积层作为目标剪枝层，所述卷积层携带有BN
层，选择所述目标检测模型中所有的卷积通道作为目标剪枝通道；
[0039]所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：
[0040]对所述目标检测模型中包含所述目标剪枝层和目标剪枝通道的网络结构进行稀疏训练，得到稀疏检测模型；
[0041]所述裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型，包括：
[0042]裁剪所述目标剪枝通道和目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道，当裁剪同一卷积层的卷积通道数大于裁剪阈值时，裁剪该卷积层，得到剪枝模型。
[0043]第二方面，本实施例提供了一种基于目标检测模型的剪枝装置，所述装置包括：
[0044]训练模块，用于训练目标检测模型；
[0045]目标确定模块，用于确定所述目标检测模型中的剪枝目标，所述剪枝目标包括目标剪枝通道和目标剪枝层；
[0046]稀疏模块，用于对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型；
[0047]剪枝模块，用于裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型；
[0048]恢复模块，用于对所述剪枝模型进行再训练，恢复稀疏后的网络参数至正常分布状态，得到剪枝后的目标检测模型。
[0049]一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
[0050]训练目标检测模型；
[0051]确定所述目标检测模型中的剪枝目标，所述剪枝目标包括目标剪枝通道和目标剪枝层；
[0本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于目标检测模型的剪枝方法，其特征在于，所述方法包括：训练目标检测模型；确定所述目标检测模型中的剪枝目标，所述剪枝目标包括目标剪枝通道和目标剪枝层；对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型；裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型；对所述剪枝模型进行再训练，恢复稀疏后的网络参数至正常分布状态，得到剪枝后的目标检测模型。2.根据权利要求1所述的方法，其特征在于，所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：对所述目标检测模型中剪枝目标的BN层的缩放系数施加L1正则约束；令所述目标检测模型中的剪枝目标按照稀疏因子调整参数，使所述目标检测模型朝着结构性稀疏的方向调整参数，得到所述稀疏检测模型；其中，所述稀疏因子在稀疏训练时按照线性关系逐渐减小。3.根据权利要求1所述的方法，其特征在于，所述剪枝指标包括第一评判指标和第二评判指标，所述方法还包括：将所述剪枝目标中所有BN层对应的缩放系数按照从大到小排序，按照剪枝率将排序后的缩放系数由小至大筛选出作为第一评判指标，将所述筛选出的每个缩放系数对应的卷积核的权重进行绝对值求和，每个缩放系数对应一个绝对值之和，再将所有的绝对值之和按照从大到小的顺序排序，按照剪枝率将排序后的绝对值之和由小至大筛选出作为所述第二评判指标；所述裁剪所述稀疏检测模型的目标剪枝通道或目标剪枝层中满足剪枝指标的卷积通道或卷积层，得到剪枝模型，包括：裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型。4.根据权利要求3所述的方法，其特征在于，所述确定所述目标检测模型中的剪枝目标，包括：选择不与所述目标检测模型中shortcut层直接连通的卷积通道作为目标剪枝通道；所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：对所述目标检测模型中包含所述目标剪枝通道的网络结构进行稀疏训练，得到稀疏检测模型；所述裁剪所述目标剪枝通道或目标剪枝层中同时满足第一评判指标和第二评判指标的卷积通道或卷积层，得到剪枝模型，包括：裁剪所述目标剪枝通道中同时满足第一评判指标和第二评判指标的卷积通道，得到剪枝模型。5.根据权利要求3所述的方法，其特征在于，所述确定所述目标检测模型中的剪枝目
标，包括：选择所述目标检测模型中所有的卷积通道作为目标剪枝通道，包括所述目标剪枝通道与所述目标检测模型中shortcut层直接连通的卷积通道；所述对所述目标检测模型中包含所述剪枝目标的网络结构进行稀疏训练，得到稀疏检测模型，包括：对所述目标检测模型中包含所述目...

【专利技术属性】
技术研发人员：杨涛，
申请(专利权)人：广州慧睿思通人工智能技术有限公司，
类型：发明
国别省市：