基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法、系统及存储介质技术方案

本发明专利技术公开了一种基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法、系统、设备及存储介质，方法包括：获取瓦楞纸箱印刷缺的被测目标图像，基于被测目标图像构建样本数据集，构建知识蒸馏网络模型，所述知识蒸馏网络模型包括教师网络模型和学生网络模型；对所述教师网络模型和所述学生网络模型分别进行训练，将样本数据集输入到主干网络中获取样本数据集的特征图，在特征图的每一点上面进行回归操作；利用训练好的知识蒸馏网络模型对高速瓦楞纸箱印刷缺陷进行检测。本发明专利技术利用知识蒸馏网络提高了高速瓦楞纸箱印刷缺陷检测的精度。高了高速瓦楞纸箱印刷缺陷检测的精度。高了高速瓦楞纸箱印刷缺陷检测的精度。

【技术实现步骤摘要】
基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法、系统及存储介质


[0001]本专利技术属于缺陷检测的
，具体涉及一种基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法、系统及存储介质。

技术介绍

[0002]随着近几年深度学习的快速发展，许多深度学习算法引用到各个行业。在工业界，质量检测是工业自动化中重要的一环，基于深度学习的缺陷检测技术已经应用到许多工业场景代替人工肉眼检测，包括电子、包装和印刷等行业。
[0003]目前大多数基于深度学习的方法都需要在大规模数据集上训练模型，以实现特定的工业智能应用。大量的计算能力和内存资源消耗限制了基于深度学习的方法在涉及移动或嵌入式设备等边缘设备部署的工业智能应用中的推广和进步。而知识蒸馏深度学习方法可以简单地在不同的深度模型上实现，并且可以通过知识蒸馏轻松地实现不同深度模型的模型压缩，同时可以很好地改善深度模型的性能。因此，基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法显得格外重要，一定程度解决了深度学习在工业图像缺陷检测的局限性问题，而且有着非常广阔的市场应用前景。

技术实现思路

[0004]本专利技术的主要目的在于克服现有技术的缺点与不足，提供一种基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法、系统及存储介质，传统深度学习方法在在工业图像缺陷检测通常需要大规模数据集训练，得到的复杂和大规模参数网络模型部署到边缘设备中需要消耗大量内存资源和限制工业检测速度；本专利技术通过训练得到一个轻量级深层模型，能够在不损失缺陷检测准确性的同时保持较高的实时性能。
[0005]为了达到上述目的，本专利技术采用以下技术方案：
[0006]本专利技术提供了一种基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，包括下述步骤：
[0007]获取瓦楞纸箱印刷缺的被测目标图像，基于被测目标图像构建样本数据集，
[0008]构建知识蒸馏网络模型，所述知识蒸馏网络模型包括教师网络模型和学生网络模型；
[0009]对所述教师网络模型和所述学生网络模型分别进行训练，所述教师网络模型的训练具体为：将样本数据集输入到主干网络中获取样本数据集的特征图，在特征图的每一点上面进行回归操作，进行网络训练获取教师网络模型；所述学生网络模型的训练具体为：通过训练后的教师网络模型进行诱导训练，将低分辨率图像输入到主干网络中获取输入图像的特征图，在特征图的每一点上面进行回归操作，将教师网络模型的预测输出作为标签，将学生网络模型的预测输出作为软标签，将真实标签作为硬标签，并计算学生网络模型的损失，更新网络参数，实际应用仅使用学生网络模型；
[0010]利用训练好的知识蒸馏网络模型对高速瓦楞纸箱印刷缺陷进行检测。
[0011]作为优选的技术方案，所述教师网络模型的训练过程表示如下：
[0012]G
IT
＝F
T
(I
h
,heads1)
[0013]其中，F
T
(
·
)为一个神经网络函数，表示教师网络模型，heads1为网络预测的结果参数，I
h
表示训练教师网络模型输入图像。
[0014]作为优选的技术方案，所述低分辨率图像通过下述方式获得：
[0015]把得到大小为n
ch
×
h
×
w的目标物图像I
h
再进行一次下采样分割成4n
ch
×
h/2
×
w/2的子图像，得到低分辨率图像I
l
。
[0016]作为优选的技术方案，所述学生网络模型的训练过程表示如下：
[0017][0018]其中，F
S
(
·
)为一个神经网络函数，表示学生网络模型，heads2为学生网络模型预测的结果参数，I
l
表示训练学生网络模型输入图像，表示教师网络模型训练参数。
[0019]作为优选的技术方案，所述学生网络模型与教师网络模型输入到知识蒸馏模块中的特征图应当一致，由于训练学生网络模型对输入图片进行了下采样减小图像的规模，因此在学生网络模型训练过程中需要对结果参数特征图进行特征自适应，数学模型表示为：
[0020]F
Ad
＝Adap(I
FA
)
[0021]其中，I
FA
为原始尺寸特征参数，F
Ad
为自适应后的特征参数，Adap(
·
)为特征自适应过程，通过反转公式来实现特征自适应。
[0022]作为优选的技术方案，知识蒸馏的过程中，神经网络的“Softmax”输出层会将前面的模型得到的预测结果转化为概率值p，输出层会产生一个“软化”后的概率向量q
i
，用于Loss的计算，其计算过程表示如下：
[0023][0024]上式中q
i
为“软化”后的概率向量，T＝0.5为温度系数，z
i
为预测结果取自然对数得到某一类的logit值，z
j
为预测结果取自然对数得到所有类的logit值。
[0025]作为优选的技术方案，在网络训练过程中，所述学生网络模型的MSE损失函数为L
mse
，其过程表示如下：
[0026][0027]其中，q
i
为“软化”后的概率向量，H和W分别表示特征图的长和宽，N表示特征图包含的像素值个数，C＝3表示通道个数，F
T
(
·
)表示教师网络模型，F
S
(
·
)表示学生网络模。
[0028]第二方面，本专利技术提供了一种基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测系统，应用于所述的基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，包括数据获取模块、模型构建模块、模型训练模块以及缺陷检测模块；
[0029]所述数据获取模块，用于获取瓦楞纸箱印刷缺的被测目标图像，基于被测目标图像构建样本数据集，
[0030]所述模型构建模块，用于构建知识蒸馏网络模型，所述知识蒸馏网络模型包括教
师网络模型和学生网络模型；
[0031]所述模型训练模块，用于对所述教师网络模型和所述学生网络模型分别进行训练，所述教师网络模型的训练具体为：将样本数据集输入到主干网络中获取样本数据集的特征图，在特征图的每一点上面进行回归操作，进行网络训练获取教师网络模型；所述学生网络模型的训练具体为：通过训练后的教师网络模型进行诱导训练，将低分辨率图像输入到主干网络中获取输入图像的特征图，在特征图的每一点上面进行回归操作，将教师网络模型的预测输出作为标签，将学生网络模型的预测输出作为软标签，将真实标签作为硬标签，并计算学生网络模型的损失，更新网络参数，实际应用仅使用学生网络模型；
[0032]所述缺陷检测模块，用于利用训练好的知识蒸馏网络模型对高速瓦楞纸箱印刷缺陷进行检测。
[0033]第三方本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，其特征在于，包括下述步骤：获取瓦楞纸箱印刷缺的被测目标图像，基于被测目标图像构建样本数据集，构建知识蒸馏网络模型，所述知识蒸馏网络模型包括教师网络模型和学生网络模型；对所述教师网络模型和所述学生网络模型分别进行训练，所述教师网络模型的训练具体为：将样本数据集输入到主干网络中获取样本数据集的特征图，在特征图的每一点上面进行回归操作，进行网络训练获取教师网络模型；所述学生网络模型的训练具体为：通过训练后的教师网络模型进行诱导训练，将低分辨率图像输入到主干网络中获取输入图像的特征图，在特征图的每一点上面进行回归操作，将教师网络模型的预测输出作为标签，将学生网络模型的预测输出作为软标签，将真实标签作为硬标签，并计算学生网络模型的损失，更新网络参数，实际应用仅使用学生网络模型；利用训练好的知识蒸馏网络模型对高速瓦楞纸箱印刷缺陷进行检测。2.根据权利要求1所述基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，其特征在于，所述教师网络模型的训练过程表示如下：G
IT
＝F
T
(I
h
,heads1)其中，F
T
(
·
)为一个神经网络函数，表示教师网络模型，heads1为网络预测的结果参数，I
h
表示训练教师网络模型输入图像。3.根据权利要求1所述基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，其特征在于，所述低分辨率图像通过下述方式获得：把得到大小为n
ch
×
h
×
w的目标物图像I
h
再进行一次下采样分割成4n
ch
×
h/2
×
w/2的子图像，得到低分辨率图像I
l
。4.根据权利要求1所述基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，其特征在于，所述学生网络模型的训练过程表示如下：其中，F
S
(
·
)为一个神经网络函数，表示学生网络模型，heads2为学生网络模型预测的结果参数，I
l
表示训练学生网络模型输入图像，表示教师网络模型训练参数。5.根据权利要求1所述基于知识蒸馏的高速瓦楞纸箱印刷缺陷检测方法，其特征在于，所述学生网络模型与教师网络模型输入到知识蒸馏模块中的特征图应当一致，由于训练学生网络模型对输入图片进行了下采样减小图像的规模，因此在学生网络模型训练过程中需要对结果参数特征图进行特征自适应，数学模型表示为：F
Ad
＝Adap(I
FA
)其中，I
FA
为原始尺寸特征参数，F
Ad
为自适应后的特征参数，Adap(
·
)为特征自适应过程，通过反转公式来实现特征自适应。6.根据权利...

【专利技术属性】
技术研发人员：吴衡，张伟文，曾伟军，
申请(专利权)人：广州科盛隆纸箱包装机械有限公司，
类型：发明
国别省市：