一种基于微调式结构化剪枝的电力巡检方法和系统技术方案

本申请提供一种基于微调式结构化剪枝的电力巡检方法和系统。方法包括：获取绝缘子和塔杆的图像，使用所述图像构建电力巡检数据集；构建基于微调式结构化剪枝的电力巡检算法模型；使用所述电力巡检数据集训练所述电力巡检算法模型；将实时绝缘子和塔杆的图像输入训练好的所述电力巡检算法模型，得到巡检结果。本申请提出基于结构化剪枝的电力巡检模型，网络通过剪枝后压缩了大量的冗余参数，有效加快了模型检测的速度，并且采用知识蒸馏方法，对模型参数进行合理微调，避免精度出现过大的损失，为边缘电力巡检部署奠定了基础。为边缘电力巡检部署奠定了基础。为边缘电力巡检部署奠定了基础。

【技术实现步骤摘要】
一种基于微调式结构化剪枝的电力巡检方法和系统


[0001]本申请涉及电力巡检、深度学习
，尤其涉及一种基于微调式结构化剪枝的电力巡检方法和系统。

技术介绍

[0002]近年来，基于深度学习的电力巡检模型多存在着模型参数量大、推理速度慢等不足，因此无法满足边缘部署需求。故此类算法并不具备实际工程意义。当前，为使得模型可被部署于边端设备可采用以下3种方法：1)以轻量化网络为基础进行设计；2)剪枝蒸馏；3)量化压缩。以轻量化模型作为基础网络进行再设计，固然可以加快网络的推理速度，但轻量化网络模型复杂度较低，难以实现复杂情况下的特征表征。

技术实现思路

[0003]本申请的目的就是解决现行电力巡检模型存在冗余参数量，运算复杂度高，难以真正进行边缘部署等问题进行研究。旨在使模型具有边缘可部署性的前提下，有效提高网络的检测精度。旨在进一步改善网络的实际检测效果，较好地实现了网络速度与精度的平衡，进而提出了基于结构化剪枝的电力巡检方法。
[0004]基于上述目的，本申请提出了一种基于微调式结构化剪枝的电力巡检方法，包括：
[0005]获取绝缘子和塔杆的图像，使用所述图像构建电力巡检数据集；
[0006]构建基于微调式结构化剪枝的电力巡检算法模型；
[0007]使用所述电力巡检数据集训练所述电力巡检算法模型；
[0008]将实时绝缘子和塔杆的图像输入训练好的所述电力巡检算法模型，得到巡检结果。
[0009]基于上述目的，本申请还提出了一种基于微调式结构化剪枝的电力巡检系统，包括：
[0010]数据集构建模块，获取绝缘子和塔杆的图像，使用所述图像构建电力巡检数据集；
[0011]模型构建模块，构建基于秩分解和强语义信息融合的电力巡检算法模型；
[0012]训练模块，使用所述电力巡检数据集训练所述电力巡检算法模型；
[0013]检测模块，将实时绝缘子和塔杆的图像输入训练好的所述电力巡检算法模型，得到巡检结果。
[0014]总的来说，本申请的优势及给用户带来的体验在于：
[0015](1)针对现有研究直接对于绝缘子进行定位检测，往往效果不理想，本申请提出将塔杆引入被检测对象中，借助塔杆目标大，定位简单的特点，辅助输电线路巡检。
[0016](2)针对现行电力巡检模型结构庞大冗杂，难以实现快速检测，提出基于结构化剪枝的电力巡检模型。
[0017](3)本申请提出基于结构化剪枝的电力巡检模型，网络通过剪枝后压缩了大量的冗余参数，有效加快了模型检测的速度，并且采用知识蒸馏方法，对模型参数进行合理微
调，避免精度出现过大的损失，为边缘电力巡检部署奠定了基础。
附图说明
[0018]在附图中，除非另外规定，否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解，这些附图仅描绘了根据本申请公开的一些实施方式，而不应将其视为是对本申请范围的限制。
[0019]图1为本申请中引入K
‑
means++聚类后各尺度锚框示意图；
[0020]图2为本申请中微调式结构化剪枝算法流程图；
[0021]图3为本申请中剪枝前后各BN层通道数变化对比图；
[0022]图4为本申请中微调过程中模型的损失函数图；
[0023]图5为本申请中DIOU
‑
NMS算法示意图；
[0024]图6为本申请中剪枝前以及微调后模型的性能对比示意图；
[0025]图7为本申请中引入DIOU
‑
NMS前后模型检测效果对比图；
[0026]图8为本申请中不同模型各项指标对比结果示意图；
[0027]图9为本申请中消融实验示意图；
[0028]图10示出根据本申请实施例的基于微调式结构化剪枝的电力巡检系统的构成图。
[0029]图11示出了本申请一实施例所提供的一种电子设备的结构示意图；
[0030]图12示出了本申请一实施例所提供的一种存储介质的示意图。
具体实施方式
[0031]下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关专利技术，而非对该专利技术的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关专利技术相关的部分。
[0032]需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
[0033]量化压缩可分为8位量化、16位量化、32位精度量化等，借助此类方法压缩后的模型，其精度受限于量化位数，因此即使可以符合边端部署需求，但并未解决模型精度与边端算力之间的矛盾；剪枝蒸馏算法主要通过主观选择剪枝率进行裁剪，以此压缩模型中的冗余参数量，随后对于剪枝完成后的模型，以剪枝前或者结构相似模型作为教师模型进行再训练，以此平衡模型的复杂度与性能。
[0034]因此通过上述论证，证明了剪枝蒸馏算法有效解决了网络复杂度与边端设备间的无法消弭不平衡性的问题。本申请针对电力巡检边缘化的需求，提出采用结构化剪枝蒸馏的电力巡检模型。在减少网络参数量以及模型占用内存的基础上，最大程度地保证网络的检测精度，生成轻量化的电力巡检模型，对基于深度学习的电力巡检网络进一步部署于移动端有着极大的意义。
[0035]首先，针对构建复杂电力巡检数据集，通过爬取绝缘子、塔杆图像构建电力巡检数据集，将相对容易被检测的塔杆纳入检测对象中，提高模型对复杂场景下绝缘子的定位和检测能力。
[0036]其次，(1)使用K
‑
means++算法，通过指定初始锚框后再聚类，得到的锚框数值不再
受随机初始点的影响。以此获得更为合适的目标框参数，使锚框更贴合多尺度电力巡检目标。(2)为加强网络的推理速度，并且确保数值稳定性，采用HardSwish激活函数，加速模型收敛。(3)然后在训练过程中利用归一化层缩放因子γ进行L1正则化稀疏训练，优化滤波器以及卷积核权重，剪除信息量较少的通道以此去除模型中的冗余参数量。对于剪枝后的模型，通过知识蒸馏进行微调避免精度出现过大损失。(4)最后采用DIOU
‑
NMS算法进行后处理，提高模型对于相互交叠目标的检测能力。
[0037]实验表明，本申请模型浮点数运算量减小至8.2GFLOPs、mAP0.5可达96.8％、检测速度可达21.23FPS。
[0038]实施例
[0039]实施例采用本申请的方法完成轻量化电力巡检任务，具体包括的步骤：
[0040]步骤1：从网络上爬取包括正常绝缘子，缺陷绝缘子以及塔杆图片，并对其进行旋转、裁剪、翻折以进行数据集的扩增，构建电力巡检主要目标数据集。扩充并标注后的数据集包含样本4672张，其中塔杆图片1280张，可测试模型的泛化性能。
[0041]步骤2：YOLOv5网络模型中采用SiLU激活函数进行映射，该激活本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于微调式结构化剪枝的电力巡检方法，其特征在于，包括：获取绝缘子和塔杆的图像，使用所述图像构建电力巡检数据集；构建基于微调式结构化剪枝的电力巡检算法模型；使用所述电力巡检数据集训练所述电力巡检算法模型；将实时绝缘子和塔杆的图像输入训练好的所述电力巡检算法模型，得到巡检结果。2.根据权利要求1所述的方法，其特征在于，所述方构建基于微调式结构化剪枝的电力巡检算法模型包括：使用K
‑
means++算法，在YOLOv5模型中指定初始锚框后再聚类，得到锚框数值；采用HardSwish激活函数，加速模型收敛；采用DIOU
‑
NMS算法进行后处理。3.根据权利要求1所述的方法，其特征在于，在所述训练的过程中利用归一化层缩放因子γ进行L1正则化稀疏训练，优化滤波器以及卷积核权重，剪除信息量较少的通道以去除模型中的冗余参数量；对于剪枝后的模型，通过知识蒸馏进行微调。4.根据权利要求1所述的方法，其特征在于，所述模型采用正则化层缩放因子作为依据进行剪枝，经过缩放因子后的BN层输入输出计算公式如公式(3)所示式中，Z
in
、Z
out
表示经过正则化前后的输入、输出，μ
B
、σ
B
代表BN层上激活函数输入的平均值和标准差值，γ和β为可训练的仿射变换因子；ε是引入的误差，Z表示正态分布的通道输出。5.根据权利要求4所述的方法，其特征在于，采用如公式(4)的目标函数，将通道输出和γ的乘积作为通道重要程度的评判依据，进行评估，将得分较低的通道删去：式中，x、y分别表示训练的输入与目标；W表示网络可训练权重；g(
·
)代表缩放因子...

【专利技术属性】
技术研发人员：邓若愚，胡尚薇，梁爽，
申请(专利权)人：同济人工智能研究院苏州有限公司，
类型：发明
国别省市：