基于二阶段知识蒸馏的工业机器视觉缺陷检测方法和系统技术方案

本发明专利技术涉及一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法和系统，方法包括：收集真实场景数据和实验室模拟数据，构建原始数据集，然后拆分并重新构建为K个数据集组合，每个数据集组合均包括验证集和训练集；对每个数据集组合，依次采用训练集训练预测模型，采用验证集进行模型微调，然后对训练集进行预测，获取软标签，重新训练预测模型，得到K个知识蒸馏模型；对K个知识蒸馏模型的预测结构进行融合，得到新的数据集，用于模型训练。与现有技术相比，本发明专利技术不仅可以充分利用有限的真实标记样本数据，构造满足工业检测准确性和实时性要求的人工智能算法，而且适用于图像分类、目标检测、实体分割等不同的工业机器视觉缺陷检测场景。场景。场景。

【技术实现步骤摘要】
基于二阶段知识蒸馏的工业机器视觉缺陷检测方法和系统


[0001]本专利技术涉及工业机器视觉缺陷检测
，尤其是涉及基于二阶段知识蒸馏的工业机器视觉缺陷检测方法和系统。

技术介绍

[0002]随着人工智能技术的发展和成熟，以机器学习和深度学习为基础的人工智能算法已经在越来越多的领域得到广泛的应用和探索。特别的，在工业领域，利用机器视觉技术来实现自动化的缺陷检测已经成为一个非常迫切的需求。然而，因为工业领域的特殊性，机器视觉检测方案的落地实施存在着一些困难。其中一个突出的问题表现在工业视觉缺陷检测领域中难以获得大量的实际生产环境中的标记样本。生产环境中的，缺陷样品本身数量就很少，要获取大量的缺陷样本需要付出极大的人力和时间成本。如何在缺乏大量标记样本的条件下，训练和学习基于深度学习的检测模型是一个不可避免的问题。
[0003]在实际应用中，有几种不同的解决思路：
[0004]一种是基于无监督学习或者少样本学习的方法，然而由于深度神经网络必须要大量的数据进行训练，这种方法的检测准确率并不能满足工业领域对于可靠性和准确性的要求。...

【技术保护点】

【技术特征摘要】
1.一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法，其特征在于，包括以下步骤：数据收集和标注步骤：收集真实场景数据和实验室模拟数据及其标记，构建原始数据集；数据集分割步骤：将所述原始数据集拆分并重新构建为K个数据集组合，每个数据集组合均包括验证集和训练集；一阶段知识蒸馏步骤：采用所述K个数据集组合分别进行模型训练和知识蒸馏，得到K个知识蒸馏模型，所述模型训练和知识蒸馏的过程具体为：采用一个数据集组合中的训练集训练预先建立的预测模型，得到预训练模型；固定该预训练模型中前面N层的参数，采用该数据集组合中的验证集进行模型微调，得到微调后的模型；采用微调后的模型对该训练集进行预测，得到对应的软标签；将所述软标签与该训练集组合构建包含特征、标记和软标签的带软标签的训练集；采用该带软标签的训练集重新训练所述预测模型，得到一个知识蒸馏模型；二阶段知识蒸馏步骤：采用得到的K个知识蒸馏模型分别对所述原始数据集进行训练，得到K个预测结果，对该K个预测结果进行融合，得到原始数据预测值，并与原始数据集中的特征拼接，得到新的数据集；在该新的数据集中进行模型训练，得到最终的模型，用于工业视觉缺陷检测。2.根据权利要求1所述的一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法，其特征在于，一阶段知识蒸馏步骤中，采用带软标签的训练集重新训练预测模型时，训练过程的损失函数为：L1(y,Φ1X)+L2(y
soft
,Φ1X)式中，L1和L2均为损失函数计算式，y为标记，y
soft
为软标签，X为特征，Φ1X为预测模型根据带软标签的训练集的特征的预测结果。3.根据权利要求1所述的一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法，其特征在于，数据集分割步骤中，将所述原始数据集分为K个子集合，并根据该K个子集合采用无重复抽样方法，构建所述K个数据集组合。4.根据权利要求3所述的一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法，其特征在于，所述数据集组合的构建过程具体为：将原始数据集中的真实场景数据均分为K份，采用无重复抽样方法选取其中一份作为验证集，将剩余的K
‑
1份真实场景数据和实验室模拟数据作为训练集。5.根据权利要求1所述的一种基于二阶段知识蒸馏的工业机器视觉缺陷检测方法，其特征在于，对K个预测结果进行融合采用的融合函数为：式中，y1为对K个预测结果融合后的原始数据预测值，p
k
为第K个预测结果。6.一种基于二阶段知识蒸馏...

【专利技术属性】
技术研发人员：刘建志，
申请(专利权)人：上海仪电人工智能创新院有限公司，
类型：发明
国别省市：