【技术实现步骤摘要】
本申请属于工业检测，尤其涉及一种用于工业场景下的模型训练方法和装置。
技术介绍
1、预训练-微调是当前计算机视觉任务的通用范式，在大规模数据集上学习提取图像的通用表征，在下游数据集进行快速迁移。相关技术中，预训练模型是基于自然场景的计算机视觉系统识别数据集得到的。但是预训练模型在应用于工业场景时，由于工业场景和自然场景的显著差异，预训练模型在下游任务的应用环节训练效率低且分类精度低。
技术实现思路
1、本申请旨在至少解决现有技术中存在的技术问题之一。为此，本申请提出一种用于工业场景下的模型训练方法和装置，使得训练得到的目标模型有效用于工业检测场景，在目标模型用于下游任务的情况下，显著提高训练效率以及分类精度。
2、第一方面，本申请提供了一种用于工业场景下的模型训练方法，目标模型包括图像掩码模块和对比学习模块；该方法包括：
3、基于第一训练样本训练所述图像掩码模块，得到第一损失函数；基于第二训练样本训练所述对比学习模块，得到第二损失函数；所述图像掩码模块包括稀疏卷积层，所述对比学习模块包括mocov3编码器；
4、融合所述第一损失函数和所述第二损失函数，得到目标损失函数；
5、基于所述目标损失函数训练所述目标模型。
6、根据本申请的用于工业场景下的模型训练方法，通过基于第一训练样本训练目标模型的图像掩码模块得到第一损失函数，基于第二训练样本训练目标模型的对比学习模块得到第二损失函数，基于训练得到的第一损失函数和第二损失函数进
7、根据本申请的用于工业场景下的模型训练方法，所述基于第一训练样本训练所述图像掩码模块，得到第一损失函数，包括：
8、将所述第一训练样本输入至所述稀疏卷积层，得到所述稀疏卷积层输出的稀疏特征图；所述第一训练样本包括第一样本图；
9、对所述稀疏特征图进行致密化处理以及解码处理，得到还原图；
10、基于所述第一样本图和所述还原图的掩码部分，训练所述第一损失函数。
11、根据本申请的用于工业场景下的模型训练方法，所述图像掩码模块还包括解码器；所述对所述稀疏特征图进行致密化处理以及解码处理，得到还原图，包括：
12、对所述稀疏特征图内空白位置进行填充，得到密集特征图；
13、将所述密集特征图输入至所述解码器，获取所述解码器输出的所述还原图。
14、根据本申请的用于工业场景下的模型训练方法，所述基于第二训练样本训练所述对比学习模块，得到第二损失函数，包括：
15、将所述第二训练样本输入至所述mocov3编码器，获取所述mocov3编码器输出的第一特征图；
16、基于所述第一特征图训练所述第二损失函数。
17、根据本申请的用于工业场景下的模型训练方法，所述对比学习模块还包括moco编码器，所述moco编码器的输出端与所述mocov3编码器的输入端连接；所述将所述第二训练样本输入至所述mocov3编码器，获取所述mocov3编码器输出的第一特征图，包括：
18、将所述第二训练样本输入至所述moco编码器，获取所述moco编码器输出的第二特征图；
19、将所述第二特征图输入至所述mocov3编码器，获取所述mocov3编码器输出的所述第一特征图。
20、根据本申请的用于工业场景下的模型训练方法，还包括：所述图像掩码模块所包括的编码层的权重通过滑动指数平均算法更新至所述mocov3编码器。
21、第二方面，本申请提供了一种用于工业场景下的模型训练装置，目标模型包括图像掩码模块和对比学习模块；该装置包括：
22、第一处理模块，用于基于第一训练样本训练所述图像掩码模块，得到第一损失函数；基于第二训练样本训练所述对比学习模块，得到第二损失函数；所述图像掩码模块包括稀疏卷积层，所述对比学习模块包括mocov3编码器；
23、第二处理模块，用于融合所述第一损失函数和所述第二损失函数，得到目标损失函数；
24、第三处理模块，用于基于所述目标损失函数训练所述目标模型。
25、根据本申请的用于工业场景下的模型训练装置，通过基于第一训练样本训练目标模型的图像掩码模块得到第一损失函数，基于第二训练样本训练目标模型的对比学习模块得到第二损失函数，基于训练得到的第一损失函数和第二损失函数进行融合，得到目标损失函数，通过目标损失函数训练目标模型，不断优化目标模型，使得训练得到的目标模型有效用于工业检测场景，在目标模型用于下游任务的情况下，显著提高训练效率以及分类精度。
26、第三方面，本申请提供了一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的用于工业场景下的模型训练方法。
27、第四方面，本申请提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面所述的用于工业场景下的模型训练方法。
28、第五方面，本申请提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述第一方面所述的用于工业场景下的模型训练方法。
29、本申请实施例中的上述一个或多个技术方案，至少具有如下技术效果之一：
30、通过基于第一训练样本训练目标模型的图像掩码模块得到第一损失函数，基于第二训练样本训练目标模型的对比学习模块得到第二损失函数，基于训练得到的第一损失函数和第二损失函数进行融合，得到目标损失函数，通过目标损失函数训练目标模型，不断优化目标模型，使得训练得到的目标模型有效用于工业检测场景，在目标模型用于下游任务的情况下，显著提高训练效率以及分类精度。
31、进一步地，通过将第一训练样本输入至稀疏卷积层，得到稀疏特征图，确保图像信息没有泄露并有效适应卷积结构，确保所有稀疏卷积层的掩码效果和比例一致；对稀疏特征图进行致密化处理以及解码处理，得到还原图，并基于还原图与第一样本图训练第一损失函数，有效提升图像掩码模块的学习效率，提高获取图像的信息量。
32、更进一步地，通过将第二训练样本输入至mocov3编码器获取具有高阶特征的第一特征图，获取的第一特征图可以有效训练第二损失函数，提高对比学习模块的训练效率，提升模型训练的稳定性。
33、再进一步地，通过基于图像掩码模块内编码器的参数通过滑动指数平均算法更新对比学习模块内编码器的参数，提升编码器的适应性和鲁棒性。
34、本申请的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
本文档来自技高网...【技术保护点】
1.一种用于工业场景下的模型训练方法，其特征在于，目标模型包括图像掩码模块和对比学习模块；所述方法包括：
2.根据权利要求1所述的用于工业场景下的模型训练方法，其特征在于，所述基于第一训练样本训练所述图像掩码模块，得到第一损失函数，包括：
3.根据权利要求2所述的用于工业场景下的模型训练方法，其特征在于，所述图像掩码模块还包括解码器；所述对所述稀疏特征图进行致密化处理以及解码处理，得到还原图，包括：
4.根据权利要求1-3任一项所述的用于工业场景下的模型训练方法，其特征在于，所述基于第二训练样本训练所述对比学习模块，得到第二损失函数，包括：
5.根据权利要求4所述的用于工业场景下的模型训练方法，其特征在于，所述对比学习模块还包括MoCo编码器，所述MoCo编码器的输出端与所述MoCov3编码器的输入端连接；所述将所述第二训练样本输入至所述MoCov3编码器，获取所述MoCov3编码器输出的第一特征图，包括：
6.根据权利要求1-3任一项所述的用于工业场景下的模型训练方法，其特征在于，还包括：所述图像掩码模块所包括的编码层
7.一种用于工业场景下的模型训练装置，其特征在于，目标模型包括图像掩码模块和对比学习模块；包括：
8.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-6任一项所述用于工业场景下的模型训练方法。
9.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现如权利要求1-6任一项所述的用于工业场景下的模型训练方法。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-6任一项所述用于工业场景下的模型训练方法。
...【技术特征摘要】
1.一种用于工业场景下的模型训练方法，其特征在于，目标模型包括图像掩码模块和对比学习模块；所述方法包括：
2.根据权利要求1所述的用于工业场景下的模型训练方法，其特征在于，所述基于第一训练样本训练所述图像掩码模块，得到第一损失函数，包括：
3.根据权利要求2所述的用于工业场景下的模型训练方法，其特征在于，所述图像掩码模块还包括解码器；所述对所述稀疏特征图进行致密化处理以及解码处理，得到还原图，包括：
4.根据权利要求1-3任一项所述的用于工业场景下的模型训练方法，其特征在于，所述基于第二训练样本训练所述对比学习模块，得到第二损失函数，包括：
5.根据权利要求4所述的用于工业场景下的模型训练方法，其特征在于，所述对比学习模块还包括moco编码器，所述moco编码器的输出端与所述mocov3编码器的输入端连接；所述将所述第二训练样本输入至所述mocov3编码器，获取所述mocov3编码...
【专利技术属性】
技术研发人员：邓东升，高鹏程，唐永亮，
申请(专利权)人：深圳市凌云视迅科技有限责任公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。