一种基于知识蒸馏的高速工业场景视觉质量检测方法技术

本发明专利技术涉及视觉检测技术领域，更具体地说，它涉及一种基于知识蒸馏的高速工业场景视觉质量检测方法，其技术方案要点是，包括以下步骤：S1、拍摄具有缺陷的产品图像，对所述图像进行处理以获得数据集；S2、构建教师网络模型，训练所述教师网络模型，获得第二教师网络模型训练参数Θ

【技术实现步骤摘要】
一种基于知识蒸馏的高速工业场景视觉质量检测方法


[0001]本专利技术涉及视觉检测
，更具体地说，它涉及一种基于知识蒸馏的高速工业场景视觉质量检测方法。

技术介绍

[0002]随着近几年深度学习的快速发展，许多深度学习算法引用到各个行业；而在工业界，视觉质量检测是工业自动化中重要的一环，基于深度学习的视觉质量检测技术已经应用到许多工业场景代替人工肉眼检测，包括电子、包装和印刷等行业。
[0003]目前大多数基于深度学习的方法都需要在大规模数据集上训练参数量大的复杂模型，以实现特定的工业智能应用；为了确保基于深度学习的方法所构建的视觉检测网络模型可以快速、准确地识别出缺陷，则需大量的计算能力和内存资源消耗，但是现有工业制造的技术远远达不到所需的要求，导致目前工业智能应用中基于深度学习的方法所构建的轻量化视觉检测网络模型在检测过程中存在检测速度慢和缺陷识别率低的问题。

技术实现思路

[0004]针对现有技术存在的不足，本专利技术的目的在于提供一种基于知识蒸馏的高速工业场景视觉质量检测方法，具有检测效率高、缺陷识别准确的优点。
[0005]本专利技术的上述技术目的是通过以下技术方案得以实现的，一种基于知识蒸馏的高速工业场景视觉质量检测方法，包括以下步骤：
[0006]S1、拍摄具有缺陷的产品图像，对所述图像进行处理以获得数据集；
[0007]S2、构建教师网络模型，训练所述教师网络模型，获得第二教师网络模型训练参数
[0008]S3、构建学生网络模型，基于所述第二教师网络模型训练参数训练所述学生网络模型，获得第二学生网络模型训练参数
[0009]S4、待检测目标图像输入所述学生网络模型，所述学生网络模型基于所述第二学生网络模型训练参数和所述第二教师网络模型训练参数输出所述待检测目标图像的检测结果。
[0010]在其中一个实施例中，所述步骤S1包括以下步骤：
[0011]S11、拍摄有缺陷的产品图像；
[0012]S12、对所述产品图像进行数据扩充，构建图像数据集I
h
＝[I
h1
,I
h2
,...I
hK
]；
[0013]S13、对所述图像数据集I
h
＝[I
h1
,I
h2
,...I
hK
]进行缺陷标定，获得标签数据集I
a
＝[I
a1
,I
a2
,...I
aK
]。
[0014]在其中一个实施例中，所述步骤S2包括以下步骤：
[0015]S21、在yolov5
‑
m模型的基础上加入注意力模块，获得所述教师网络模型；
[0016]S22、训练所述教师网络模型，获得所述第二教师网络模型训练参数
[0017]在其中一个实施例中，所述注意力模块在Coordinate Attention的基础上加入了LA模块。
[0018]在其中一个实施例中，所述步骤S22具体包括：
[0019]S221、将所述图像数据集I
h
与标签数据集I
a
输入到所述教师网络模型中，获取所述图像数据集I
h
与所述标签数据集I
a
的第一特征图与第一图像预测结果，其数学模型为：
[0020]G
IT
＝F
T
(I
h
,I
a
,heads1,Θ
t
)
[0021]F
T
(
·
)为神经网络函数，表示所述教师网络模型，heads1为网络预测的结果参数，I
h
表示训练所述教师网络模型的输入图像，I
a
表示所述输入图像的缺陷标签，Θ
t
表示所述第一教师网络模型训练参数；
[0022]S222、多次重复步骤S221，获得多个所述第一教师网络模型训练参数Θ
t
；
[0023]S223、选取最后一个所述第一教师网络模型训练参数Θ
t
作为所述第二教师网络模型训练参数
[0024]在其中一个实施例中，所述步骤S3包括以下步骤：
[0025]S31、基于yolov5模型，构建学生网络模型；
[0026]S32、基于所述第二教师网络模型训练参数对所述学生网络模型进行训练，获得所述第二学生网络模型训练参数
[0027]在其中一个实施例中，所述步骤S32包括以下步骤：
[0028]S321、将所述所述第二教师网络模型训练参数所述图像数据集I
h
与标签数据集I
a
输入到所述学生网络模型中，获取所述图像数据集I
h
与所述标签数据集I
a
的第二特征图与第二图像预测结果，其数学模型为：
[0029]G
IS
＝F
S
(I
h
,I
a
,heads2,Θ
s
,Θ
t
)
[0030]上式中F
S
(
·
)为神经网络函数，表示学生网络模型，heads2为网络预测的结果参数，Θ
s
表示第一学生模型训练参数；
[0031]S322、多次重复步骤S321，获得多个所述第一学生网络模型训练参数Θ
s
；
[0032]S323、选取最后一个所述第一学生网络模型训练参数Θ
s
作为所述第二学生网络模型训练参数数
[0033]在其中一个实施例中，所述步骤S321具体包括：对所述第二特征图进行特征自适应，获得第三特征图，其数学模型表示如下：
[0034]F
Ad
＝Adap(heads2)
[0035]上式中heads2为原始尺寸特征参数，Adap(
·
)为特征自适应过程；
[0036]神经网络Softmax输出层将所述第二图像预测结果转化为概率值p，同时输出层产生软化后的概率向量q
i
，用于蒸馏损失函数的计算，其计算过程表示如下：
[0037][0038]上式中q
i
为“软化”后的概率向量，T为温度系数，预测结果取自然对数得到某一类的logit值z
i
，预测结果取自然对数得到所有类的logit值z
j
；
[0039]在所述学生网络模型训练的过程中，所述学生网络模型的损失函数为L
loss
，其过程表示如下：
[0040][0041]L
loss
＝L
gt
+λL
kd
[0042]上式中L
kd
表示学生网络本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，包括以下步骤：S1、拍摄具有缺陷的产品图像，对所述图像进行处理以获得数据集；S2、构建教师网络模型，训练所述教师网络模型，获得第二教师网络模型训练参数S3、构建学生网络模型，基于所述第二教师网络模型训练参数训练所述学生网络模型，获得第二学生网络模型训练参数S4、待检测目标图像输入所述学生网络模型，所述学生网络模型基于所述第二学生网络模型训练参数和所述第二教师网络模型训练参数输出所述待检测目标图像的检测结果。2.根据权利要求1所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，所述步骤S1包括以下步骤：S11、拍摄有缺陷的产品图像；S12、对所述产品图像进行数据扩充，构建图像数据集I
h
＝[I
h1
,I
h2
,...I
hK
]；S13、对所述图像数据集I
h
＝[I
h1
,I
h2
,...I
hK
]进行缺陷标定，获得标签数据集I
a
＝[I
a1
,I
a2
,...I
aK
]。3.根据权利要求2所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，所述步骤S2包括以下步骤：S21、在yolov5
‑
m模型的基础上加入注意力模块，获得所述教师网络模型；S22、训练所述教师网络模型，获得所述第二教师网络模型训练参数4.根据权利要求3所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于：所述注意力模块在Coordinate Attention的基础上加入了LA模块。5.根据权利要求3所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，所述步骤S22具体包括：S221、将所述图像数据集I
h
与标签数据集I
a
输入到所述教师网络模型中，获取所述图像数据集I
h
与所述标签数据集I
a
的第一特征图与第一图像预测结果，其数学模型为：G
IT
＝F
T
(I
h
,I
a
,heads1,Θ
t
)F
T
(
·
)为神经网络函数，表示所述教师网络模型，heads1为网络预测的结果参数，I
h
表示训练所述教师网络模型的输入图像，I
a
表示所述输入图像的缺陷标签，Θ
t
表示所述第一教师网络模型训练参数；S222、多次重复步骤S221，获得多个所述第一教师网络模型训练参数Θ
t
；S223、选取最后一个所述第一教师网络模型训练参数Θ
t
作为所述第二教师网络模型训练参数6.根据权利要求3或5所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，所述步骤S3包括以下步骤：S31、基于yolov5模型，构建学生网络模型；S32、基于所述第二教师网络模型训练参数对所述学生网络模型进行训练，获得所述
第二学生网络模型训练参数7.根据权利要求6所述的一种基于知识蒸馏的高速工业场景视觉质量检测方法，其特征在于，所述步骤S32...

【专利技术属性】
技术研发人员：吴衡，曾泽凯，陈梅云，
申请(专利权)人：广东工业大学，
类型：发明
国别省市：