一种适用于工业大模型预训练的自监督方法技术

本发明专利技术公开了一种适用于工业大模型预训练的自监督方法，包括：对样本原图进行颜色的数据增强处理，获得各个样本原图对应的第一子图和第二子图；将各个第一子图进行旋转生成第三子图；生成第一子图对应的特定标记；提取第一子图训练集和第二子图训练集的表征输入第一训练模型网络以使第一训练模型网络拉近表征；将第一子图的表征和特定标记进行融合获得特定表征；将特定表征进行重建，获得第一子图对应的第一旋转图；对第三子图训练集和第一旋转图提取表征输入第二训练模型网络以使第二训练模型网络拉近表征；对两个模型进行量纲同统一并分配预设的权重系数，获得工业大模型。本发明专利技术可以减少训练复杂度，使训练获得的工业大模型识别更加精准。

【技术实现步骤摘要】

本专利技术涉及工业缺陷检测领域，特别是涉及一种适用于工业大模型预训练的自监督方法。

技术介绍

1、深度学习见证了能力和容量不断增长的架构爆炸式增长。在硬件快速增长的帮助下，如今的模型可以很容易地过度填充一百万张图像，并开始需要数亿张(通常是公众无法访问的)标记图像。

2、在工业视觉领域与自然图像领域差距较大，基于自然图像研发的大模型及训练方法并不适用于工业领域。可以从以下两个角度回答这个问题。

3、工业图片和自然图片之间的主要区别在于它们的分辨率和内容:

4、(i)工业图片通常来工业场景，如制造过程、监控系统等。他们可能更受控制，更一致，并且通常具有较高的质量，因为它们通常是通过传感器或相机捕获的。而自然图片通常来自现实世界，具有多样性和复杂性。它们可能包括不同的场景、光照条件、尺度、视角等因素，同时也可能包含噪声、模糊和不完美之处。

5、(ii)工业图片通常具有较高的分辨率，这是为了捕获工业过程中的细节和精确度。这些图片可能包括精确的测量数据、设备状态的详细信息以及产品或工作区的微观细节。分辨率通常收到传感本文档来自技高网...

【技术保护点】

1.一种适用于工业大模型预训练的自监督方法，应用于显示屏检测领域，其特征在于，所述方法包括：

2.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，所述步骤S103包括：

3.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，所述步骤S103包括：

4.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，在步骤S102中对所述第一子图训练集和所述第二子图训练集进行掩码处理之后，所述方法还包括：

5.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，在步骤S102中对所述第...

【技术特征摘要】

1.一种适用于工业大模型预训练的自监督方法，应用于显示屏检测领域，其特征在于，所述方法包括：

2.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，所述步骤s103包括：

3.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，所述步骤s103包括：

4.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，在步骤s102中对所述第一子图训练集和所述第二子图训练集进行掩码处理之后，所述方法还包括：

5.根据权利要求1所述的适用于工业大模型预训练的自监督方法，其特征在于，在步骤s102中对所述第一子图训练集和所述第二子图训练集进行...

【专利技术属性】
技术研发人员：张永爱，林而贤，吴朝兴，严群，周雄图，
申请(专利权)人：福州大学，
类型：发明
国别省市：