融合残差网络及自注意力机制的焊接异常实时检测方法技术

本发明专利技术公开了一种融合残差网络及自注意力机制的焊接异常实时检测方法，基于实际焊接过程中采集的高频电流数据，设计了融合残差网络结构和自注意力机制的焊接异常识别模型，基于该模型，输入电流时序数据，并生成模型预测数据，计算真实数据与模型预测数据间的重建误差MAE；当重建误差小于预设阈值时，则认为未发生焊接异常，否则认为焊接过程发生异常；本发明专利技术通过融合自注意力机制，将传统用于图像识别的残差网络结构在特征金字塔框架下应用至对高频时序数据的处理分析上，作为无监督的焊接异常实时检测方法，本发明专利技术在检测准确率、实时性方面均保持较高水准。性方面均保持较高水准。性方面均保持较高水准。

【技术实现步骤摘要】
融合残差网络及自注意力机制的焊接异常实时检测方法


[0001]本专利技术属于智慧焊接
，特别涉及一种融合残差网络及自注意力机制的焊接异常实时检测方法。

技术介绍

[0002]现有技术中常见的焊接异常实时检测方法一般是通过采集图像信号、声信号，并针对采集到的相关原始数据进行特征提取，并判断对应状态下是否存在焊接异常。随着智能制造的普及，焊接从传统的人工焊接逐步发展至规模更大，效率更高的机器人焊接。针对机器人焊接过程中存在的焊接异常情况，发展出了通过采集电流、电压、送丝速度和保护气体流速等高频时序数据，结合人工智能相关算法，进行焊接异常的判断。
[0003]残差网络结构一般用于解决传统图像识别问题，当神经网络较深时，因为存在梯度消失和梯度爆炸问题，因此可以利用跳跃连接构建能够训练深度网络的残差网络结构，如何将残差网络结构应用于焊接高频时序数据的处理中，目前尚无具体研究。

技术实现思路

[0004]专利技术目的：针对上述
技术介绍
中存在的问题，本专利技术提供了一种融合残差网络及自注意力机制的焊接异常实时检测方法，以特征金字塔结构FPN为框架，通过将自注意力机制与残差网络结构融合，将该模型从传统的图像处理应用领域适用到焊接高频时序数据处理中，可以实现焊接异常的实时检测。
[0005]技术方案：一种融合残差网络及自注意力机制的焊接异常实时检测方法，包括以下步骤：步骤S1、采集正常焊接过程中的高频电流数据，并进行预处理，划分训练集样本和验证集样本；步骤S2、搭建焊接异常识别模型；所述焊接异常识别模型基于特征金字塔FPN结构搭建，包括依次级联的若干残差网络块ResidualBlock和相同级数的自注意力机制块AttentionBlock；每级ResidualBlock的输出分别传入下一级ResidualBlock和同级的AttentionBlock；第i级的AttentionBlock的输出经过降维卷积网络块Block2后输出output
i
，并与经过一维上采样层的第i+1级输出output
i+1
进行对应维度相加，然后输出至上一层的一维上采样层中；其中i代表残差网络块的级数，i=1,2,
…
,n；经过最上层一维采样层后输入至输出一维卷积层，最终输出结果；步骤S3、训练焊接异常识别模型；设定学习率learning_rate=α，一次训练抓取的样本数量batch_size=β，输入训练集train_data和验证集dev_data进行模型训练；步骤S4、样本测试；分别抽取正常焊接的高频时序数据和异常焊接的高频时序数据，基于预设窗长window_size进行滑窗构造测试数据集，并进行小样本模型测试；针对每个测试集样本，计
算真实数据与模型预测数据的重建误差MAE，并根据计算结果设定异常阈值th；当MAE＜th时，则判断当前焊接未发生异常；否则认为当前焊接存在异常，并进行报警；步骤S5、部署训练好的焊接异常识别模型，实时接收采集的高频电流数据，通过步骤S1
‑
S4所述方法完成焊接异常实时检测。
[0006]进一步地，所述步骤S1中预处理步骤包括：步骤S1.1、采集正常焊接过程中的高频电流数据，并按照预设窗长window_size进行滑窗构造样本；步骤S1.2、将生成的所有样本随机乱序，设定训练集样本的比例train_size，按比例截取训练集样本train_data，剩余样本为验证集样本dev_data。
[0007]进一步地，所述步骤S2中搭建焊接异常识别模型，将训练集时序数据输入至一维卷积网络块Block1，输出端连接至第一级残差网络块ResidualBlock1；第n级残差网络块ResidualBlockn的输出通过AttentionBlockn后输出至降维卷积网络块Block2，得到输出output
n
，output
n
经过第n层上采样层后与第n
‑
1层输出output
n
‑1对应维度相加，结果输入至第n
‑
1层上采样层；依次类推，将一维卷积网络块Block1的输出与经过第1层上采样层的相加结果进行对应维度相加，将相加结果经过第0层上采样层后输入至输出一维卷积层，最终输出模型预测数据。
[0008]进一步地，所述一维卷积网络块Block1包括依次级联的一维卷积网络层、一个BatchNormalization层和一个激活函数层。
[0009]进一步地，所述每级ResidualBlock包括2个子block，每个子block结构包括依次级联的第一卷积网络层、第一BN层、第一激活函数层、第二卷积网络层、第二BN层和第二激活函数层，且每个子block的输入和输出间通过一维卷积层跳跃连接。
[0010]进一步地，每级ResidualBlock中第一子block与第二子block区别在于第一卷积网络层stride不同。
[0011]进一步地，所述每级AttentionBlock包括依次级联的ConcatPosEmbed块和Attention块；ConcatPosEmbed块在输入矩阵的基础上拼接一个可训练的位置层，Attention块采用multi
‑
head attention结构。
[0012]进一步地，所述降维卷积网络块Block2包括依次级联的降维卷积网络层、BN层和激活函数层。其中降维卷积网络层在channel维度实现降维。
[0013]本专利技术采用的技术方案与现有技术方案相比，具有以下有益效果：（1）、本专利技术采用设计了一种基于融合残差网络及自注意力机制的焊接异常实时检测方法，将残差网络结构与自注意力机制在FPN结构下进行融合，设计了适用于焊接异常检测的无监督模型，可以准确识别焊接异常情况。
[0014]（2）本专利技术设计的焊接异常识别模型可以并行计算，相比于传统LSTM模型而言具备更高的训练速率和预测速率，在保证模型准确度的同时可以兼顾实时性。
附图说明
[0015]图1为本专利技术提供的焊接异常实时检测方法流程图；图2为本专利技术提供的焊接异常识别模型结构图；图3为本专利技术提供的残差网络块中单个子block结构图；
图4为本专利技术实施例中提供的正常焊接电流的真实值与预测值对比图；图5位本专利技术实施例中提供的异常焊接电流的真实值与预测值对比图。
具体实施方式
[0016]下面结合附图对本专利技术做更进一步的解释。
[0017]本专利技术提供了一种融合残差网络及自注意力机制的焊接异常实时检测方法，如图1所示，基于实际焊接过程中采集的高频电流数据，设计了融合残差网络结构和自注意力机制的焊接异常识别模型，基于该模型，输入电流时序数据，并生成模型预测数据，计算真实数据与模型预测数据间的重建误差MAE；当重建误差小于预设阈值时，则认为未发生焊接异常，否则认为焊接过程发生异常。通过融合自注意力机制，将传统用于图像识别的残差网络结构在特征金字塔框架下应用至对高频时序数据的处本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种融合残差网络及自注意力机制的焊接异常实时检测方法，其特征在于，包括以下步骤：步骤S1、采集正常焊接过程中的高频电流数据，并进行预处理，划分训练集样本和验证集样本；步骤S2、搭建焊接异常识别模型；所述焊接异常识别模型基于特征金字塔FPN结构搭建，包括依次级联的若干残差网络块ResidualBlock和相同级数的自注意力机制块AttentionBlock；每级ResidualBlock的输出分别传入下一级ResidualBlock和同级的AttentionBlock；第i级的AttentionBlock的输出经过降维卷积网络块Block2后输出output
i
，并与经过一维上采样层的第i+1级输出output
i+1
进行对应维度相加，然后输出至上一层的一维上采样层中；其中i代表残差网络块的级数，i=1,2,
…
,n；经过最上层一维采样层后输入至输出一维卷积层，最终输出结果；步骤S3、训练焊接异常识别模型；设定学习率learning_rate=α，一次训练抓取的样本数量batch_size=β，输入训练集train_data和验证集dev_data进行模型训练；步骤S4、样本测试；分别抽取正常焊接的高频时序数据和异常焊接的高频时序数据，基于预设窗长window_size进行滑窗构造测试数据集，并进行小样本模型测试；针对每个测试集样本，计算真实数据与模型预测数据的重建误差MAE，并根据计算结果设定异常阈值th；当MAE＜th时，则判断当前焊接未发生异常；否则认为当前焊接存在异常，并进行报警；步骤S5、部署训练好的焊接异常识别模型，实时接收采集的高频电流数据，通过步骤S1
‑
S4所述方法完成焊接异常实时检测。2.根据权利要求1所述的一种融合残差网络及自注意力机制的焊接异常实时检测方法，其特征在于，所述步骤S1中预处理步骤包括：步骤S1.1、采集正常焊接过程中的高频电流数据，并按照预设窗长window_size进行滑窗构造样本；步骤S1.2、将生成的所有样本随机乱序，设定训练集样本的比例train_size，按比例截取训练集样本train_data，剩余样本为验证集样本dev_data。3.根据权利要求1所述的一种融合残差网络及自注意力机制的焊接异常实时检测方法，其特征...

【专利技术属性】
技术研发人员：田慧云，李波，
申请(专利权)人：苏芯物联技术南京有限公司，
类型：发明
国别省市：