利用知识蒸馏的陶瓷基板瑕疵智能检测方法技术

本申请公开了一种利用知识蒸馏的陶瓷基板瑕疵智能检测方法，涉及深度学习目标检测领域，该方法综合高分辨率样本图像和低分辨率样本图像分别输入教师网络模型得到的特征图计算教师网络模型的总损失函数来训练教师网络模型，然后基于知识蒸馏的方法利用教师网络模型指导训练学生网络模型，综合高低分辨率样本图像输入教师网络模型得到的融合特征以及低分辨率样本图像输入学生网络模型的特征图计算学生网络模型的总损失函数，最终指导学生网络模型训练得到瑕疵检测模型，即便是针对低分辨率的待测图像也能实现较高的检测准确率，从而可以在检测速度和检测准确率上都有较优表现，对陶瓷基板的瑕疵检测效率高。对陶瓷基板的瑕疵检测效率高。对陶瓷基板的瑕疵检测效率高。

【技术实现步骤摘要】
利用知识蒸馏的陶瓷基板瑕疵智能检测方法


[0001]本申请涉及深度学习目标检测领域，尤其是一种利用知识蒸馏的陶瓷基板瑕疵智能检测方法。

技术介绍

[0002]陶瓷基板是一种具有较大载流能力的超薄复合基板，是大功率电力电子电路结构的基础材料。在陶瓷基板的生产过程中，常出现镀金层损伤、边缘多金、缺瓷、油污、掺杂异物等瑕疵，快速而准确地检测并剔除这些存在瑕疵的陶瓷基板是保证生产质量的重要环节，具有重要意义。
[0003]目前在实际工业生产现场中常用的陶瓷基板的瑕疵检测主要分为两个阶段。第一阶段是驱动硬件采集陶瓷基板的表面图像，第二阶段利用瑕疵检测算法对采集的图像进行处理及预测，判断陶瓷基板是否存在瑕疵。但是由于陶瓷基板瑕疵形状多变、尺寸跨度大，且多金和缺瓷瑕疵有较多小目标，样本量小，各类瑕疵数量分布不均匀，因此瑕疵检测的难度较大。为了保证采集图像的质量以提高检测准确性，需要控制第一阶段的硬件运动较为平缓，这会导致所需时间较长，检测速度太慢，效率太低，难以应用在实际工业生产现场。若要减少硬件运动的时间以提高整体检测速度，单次硬件运动需要拍摄的瑕疵表面图像区域变大，处理后地相同区域大小的陶瓷基板的图像分辨率下降，基板上的瑕疵相对缩小，又会导致检测瑕疵的难度进一步增加，检测的准确率较低。

技术实现思路

[0004]本申请人针对上述问题及技术需求，提出了一种利用知识蒸馏的陶瓷基板瑕疵智能检测方法，本申请的技术方案如下：
[0005]一种利用知识蒸馏的陶瓷基板瑕疵智能检测方法，该方法包括：
[0006]构建知识蒸馏框架中的教师网络模型和学生网络模型，教师网络模型和学生网络模型具有相同的模型主体结构，且模型主体结构依次包括主干网络、颈部网络和头部网络；
[0007]综合陶瓷基板的高分辨率样本图像和低分辨率样本图像分别输入教师网络模型得到的特征图计算教师网络模型的总损失函数LOSS
T
，并利用总损失函数LOSS
T
训练得到教师网络模型的模型参数；低分辨率样本图像是对高分辨率样本图像下采样r倍得到的，且高分辨率样本图像的分辨率大于第一分辨率阈值，低分辨率样本图像的分辨率小于第二分辨率阈值；
[0008]加载教师网络模型的模型参数至学生网络模型；
[0009]根据高分辨率样本图像输入教师网络模型得到的颈部网络特征、低分辨率样本图像输入教师网络模型得到的颈部网络特征、低分辨率样本图像输入学生网络模型得到的颈部网络特征确定知识蒸馏损失LOSS
KD
；
[0010]根据知识蒸馏损失LOSS
KD
以及低分辨率样本图像输入学生网络模型得到的预测损失得到学生网络模型的总损失函数LOSS
S
，并利用总损失函数LOSS
S
训练学生网络模
型得到瑕疵检测模型；
[0011]利用瑕疵检测模型对待测陶瓷基板的待测图像进行瑕疵检测，得到待测陶瓷基板的瑕疵检测结果。
[0012]其进一步的技术方案为，计算教师网络模型的总损失函数LOSS
T
的方法包括：
[0013]将高分辨率样本图像输入教师网络模型得到对应的预测损失以及颈部网络特征s为参数；
[0014]将低分辨率样本图像输入教师网络模型得到对应的预测损失以及颈部网络特征r为偶数；
[0015]基于预测损失颈部网络特征预测损失以及颈部网络特征计算得到教师网络模型的总损失函数LOSS
T
。
[0016]其进一步的技术方案为，基于预测损失颈部网络特征预测损失以及颈部网络特征计算得到教师网络模型的总损失函数LOSS
T
的方法包括：
[0017]对各个参数s取值下的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
；
[0018]将融合特征F
s
输入头部网络计算得到预测损失
[0019]确定教师网络模型的总损失函数λ为参数。
[0020]其进一步的技术方案为，确定知识蒸馏损失LOSS
KD
的方法包括：
[0021]对高分辨率样本图像输入教师网络模型得到的颈部网络特征和低分辨率样本图像输入教师网络模型得到的颈部网络特征进行特征融合得到融合特征F
s
；
[0022]计算融合特征F
s
与低分辨率样本图像输入学生网络模型得到的颈部网络特征之间的知识蒸馏损失LOSS
KD
，s为参数，r为偶数。
[0023]其进一步的技术方案为，计算融合特征F
s
与颈部网络特征之间的知识蒸馏损失LOSS
KD
的方法包括：
[0024]确定其中，表示计算任一参数s取值下的融合特征F
s
与颈部网络特征之间的L1损失。
[0025]其进一步的技术方案为，对任一参数s取值的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
的方法包括：
[0026]对颈部网络特征进行卷积运算降低通道数得到处理后的颈部网络特征处理后的颈部网络特征与颈部网络特征具有相同的特征尺寸H
×
W以及相同的特征通道数C；
[0027]对处理后的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
。
[0028]其进一步的技术方案为，对任一参数s取值下处理后的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
的方法包括：
[0029]将处理后的颈部网络特征和颈部网络特征沿着特征通道的方向进行通道拼接得到拼接特征N
conl
∈R
2C
×
H
×
W
；
[0030]对拼接特征N
conl
沿着X方向进行平均池化得到对拼接特征N
conl
沿着Y方向进行平均池化得到
[0031]将和处理成相同的维度并依次经过通道拼接层、卷积层、批归一化层和非线性卷积层得到N
con2
∈R
2C/r
×1×
(H+W)
；
[0032]将N
con2
∈R
2C/r
×1×
(H+W)
进行分离并分别依次经过卷积层和Sigmoid函数，得到和
[0033]将和相乘得到权重矩阵h
s
∈R
2C
×
H
×
W
，按权重矩阵h
s
在特征通道维度上的索引顺序将权重矩阵h
s
分成维度为C
×
H
×
W的两个特征块依次为h
s
{0}和h
s
{1}；
[0034]将处理后的颈部网络特征与特征块h
s
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种利用知识蒸馏的陶瓷基板瑕疵智能检测方法，其特征在于，所述方法包括：构建知识蒸馏框架中的教师网络模型和学生网络模型，所述教师网络模型和所述学生网络模型具有相同的模型主体结构，且模型主体结构依次包括主干网络、颈部网络和头部网络；综合陶瓷基板的高分辨率样本图像和低分辨率样本图像分别输入所述教师网络模型得到的特征图计算所述教师网络模型的总损失函数LOSS
T
，并利用总损失函数LOSS
T
训练得到所述教师网络模型的模型参数；所述低分辨率样本图像是对所述高分辨率样本图像下采样r倍得到的，且所述高分辨率样本图像的分辨率大于第一分辨率阈值，所述低分辨率样本图像的分辨率小于第二分辨率阈值；加载所述教师网络模型的模型参数至所述学生网络模型；根据高分辨率样本图像输入所述教师网络模型得到的颈部网络特征、低分辨率样本图像输入所述教师网络模型得到的颈部网络特征、低分辨率样本图像输入所述学生网络模型得到的颈部网络特征确定知识蒸馏损失LOSS
KD
；根据知识蒸馏损失LOSS
KD
以及低分辨率样本图像输入所述学生网络模型得到的预测损失得到所述学生网络模型的总损失函数LOSS
S
，并利用总损失函数LOSS
S
训练所述学生网络模型得到瑕疵检测模型；利用所述瑕疵检测模型对待测陶瓷基板的待测图像进行瑕疵检测，得到所述待测陶瓷基板的瑕疵检测结果。2.根据权利要求1所述的方法，其特征在于，计算所述教师网络模型的总损失函数LOSS
T
的方法包括：将高分辨率样本图像输入所述教师网络模型得到对应的预测损失以及颈部网络特征s为参数；将低分辨率样本图像输入所述教师网络模型得到对应的预测损失以及颈部网络特征r为偶数；基于预测损失颈部网络特征预测损失以及颈部网络特征计算得到所述教师网络模型的总损失函数LOSS
T
。3.根据权利要求2所述的方法，其特征在于，基于预测损失颈部网络特征预测损失以及颈部网络特征计算得到所述教师网络模型的总损失函数LOSS
T
的方法包括：对各个参数s取值下的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
；将所述融合特征F
s
输入头部网络计算得到预测损失确定所述教师网络模型的总损失函数λ为参数。4.根据权利要求1所述的方法，其特征在于，确定知识蒸馏损失LOSS
KD
的方法包括：
对高分辨率样本图像输入所述教师网络模型得到的颈部网络特征和低分辨率样本图像输入所述教师网络模型得到的颈部网络特征进行特征融合得到融合特征F
s
；计算融合特征F
s
与低分辨率样本图像输入所述学生网络模型得到的颈部网络特征之间的知识蒸馏损失LOSS
KD
，s为参数，r为偶数。5.根据权利要求4所述的方法，其特征在于，计算融合特征F
s
与颈部网络特征之间的知识蒸馏损失LOSS
KD
的方法包括：确定其中，表示计算任一参数s取值下的融合特征F
s
与颈部网络特征之间的L1损失。6.根据权利要求3或4所述的方法，其特征在于，对任一参数s取值的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
的方法包括：对颈部网络特征进行卷积运算降低通道数得到处理后的颈部网络特征处理后的颈部网络特征与颈部网络特征具有相同的特征尺寸H
×
W以及相同的特征通道数C；对处理后的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
。7.根据权利要求6所述的方法，其特征在于，对任一参数s取值下处理后的颈部网络特征和颈部网络特征进行特征融合得到融合特征F
s
的方法包括：将处理后的颈部网络特征和颈部网络特征沿着特征通道的方向进行通道拼接得到拼接特征N
conl
∈R
2...

【专利技术属性】
技术研发人员：朱启兵，郭峰，黄敏，赵鑫，
申请(专利权)人：江南大学，
类型：发明
国别省市：