用于电力设备缺陷检测的模型剪枝方法、装置及存储介质制造方法及图纸

本发明专利技术公开了一种用于电力设备缺陷检测的模型剪枝方法、装置及存储介质，所述方法包括：在YOLOv6模型中将RepVGG模块中的多分支合并后在所有RepVGG模块后依次加入BN层和compactor层；在损失函数中加入compactor惩罚函数，对模型进行稀疏训练，在对模型进行继续训练的过程中将权值小于设定阈值的compactor层中卷积核的精度项梯度置零，训练结束后剪去compactor层中精度项梯度置零的卷积核；利用结构重参数化法将RepVGG中的卷积层、BN层以及compactor层合并，完成模型剪枝。本发明专利技术利用结构重参数化法和魔改的随机梯度下降法，提高了电力设备缺陷智能检测的精度和效率。电力设备缺陷智能检测的精度和效率。电力设备缺陷智能检测的精度和效率。

【技术实现步骤摘要】
用于电力设备缺陷检测的模型剪枝方法、装置及存储介质


[0001]本专利技术涉及人工智能
，特别是涉及一种用于电力设备缺陷检测的模型剪枝方法、装置、计算机设备及计算机可读存储介质。

技术介绍

[0002]在当前电力设备的数字化转型和电力物联网建设的新型电力系统背景下，基于边缘计算的电力设备状态智能监测方法对于实现电力设备状态实时分析和诊断起着重要作用。而基于卷积神经网络的目标检测算法可以对电力设备图像进行识别，检测出电力设备图像中缺陷的位置、类别、置信度。深度且复杂的结构赋予了深度神经网络从大数据中学习高级语义特征的能力，更复杂的模型拟合能力更强，往往能在各种识别难度高的场景下实现更高的准确率。由此，网络的宽度和深度越来越大，传统的目标检测算法需要丰富的计算资源和较大的运行内存，这使得其不适合部署至算力低且内存小的边缘计算设备中。
[0003]模型剪枝是一种模型压缩方法，通过剪掉神经网络中一些冗余参数来达到减小参数量、降低计算量、加快推理速度的目的，以使模型更适合在计算资源和存储空间有限的边缘设备上运行。
>
技术实现思路
...

【技术保护点】

【技术特征摘要】
1.一种用于电力设备缺陷检测的模型剪枝方法，其特征在于，所述方法包括：在YOLOv6模型中，将RepVGG模块中的多分支合并后，在所有RepVGG模块后依次加入BN层和compactor层，所述compactor层包括多个1
×
1卷积核；在YOLOv6模型的精度损失函数中加入compactor惩罚函数，利用电力设备缺陷数据集对加入compactor层的YOLOv6模型进行稀疏训练，在训练过程中惩罚梯度只施加在compactor层，当compactor层中卷积核的值不再减小，则结束训练；继续对加入compactor层的YOLOv6模型进行训练，在训练过程中将权值小于设定阈值的compactor层中卷积核的精度项梯度置零，训练结束后剪去compactor层中精度项梯度置零的卷积核；利用结构重参数化法将RepVGG中的卷积层、BN层以及compactor层中剩下的卷积核合并，完成模型剪枝。2.根据权利要求1所述的模型剪枝方法，其特征在于，所述compactor层包括4个1
×
1卷积核。3.根据权利要求1所述的模型剪枝方法，其特征在于，加入compactor层的YOLOv6模型的总损失函数为：L
total
(X,Y,Θ)＝L
acc
(X,Y,Θ)+λ∑||F||
E
其中，X、Y、Θ分别表示模型中的输入数据、标签和网络参数；L
total
(X，Y，Θ)表示总损失函数，L
acc
(X，Y，Θ)表示精度损失函数，∑||F||
E
表示compactor惩罚函数；F表示compactor层中1个卷积核的向量，表示这个向量中所有通道的数值的平方和。4.根据权利要求1所述的模型剪枝方法，其特征在于，所述利用结构重参数化法将RepVGG中的卷积层、BN层以及compactor层中剩下的卷积核合并，具体包括：将RepVGG模块中多分支合并后的多个卷积层和BN层合并得到...

【专利技术属性】
技术研发人员：王勇，孔令明，陈俊，吉旺威，陈义龙，
申请(专利权)人：广东电网有限责任公司广州供电局，
类型：发明
国别省市：