基于多头卷积和差分自注意力的故障诊断方法及装置制造方法及图纸

技术编号:37071876 阅读:8 留言:0更新日期:2023-03-29 19:49
本发明专利技术涉及基于多头卷积和差分自注意力的故障诊断方法,首先对获取的数据样本集通过多头卷积嵌入算法处理进行维度扩展,接着在样本集的顶部加上一层可以学习的参数,为样本集的每一个元素均加上一个可以学习的参数,然后对样本集通过改进的transformer编码器模块进行处理得到最终的输出,只取最终的输出的顶部的一层通过分类器进行分类得到最终的分类结果,进而基于分类结果得到故障诊断结果,发明专利技术在缺乏大量故障样本情况下,依旧能对轴承实现高准确度的故障诊断,与其他基准模型和现有方法相比,本发明专利技术具有更高的诊断精度和稳定性,且能在强噪声环境下提供有效的故障诊断,具有良好的鲁棒性,此外可用于多种工况下的故障诊断,泛化能力较强。泛化能力较强。泛化能力较强。

【技术实现步骤摘要】
基于多头卷积和差分自注意力的故障诊断方法及装置


[0001]本专利技术涉及人工智能
,尤其涉及基于多头卷积和差分自注意力的故障诊断方法及装置。

技术介绍

[0002]为了工业设备安全高效的运行,需要对设备的运行状况进行故障诊断及监控。常规情况下的故障诊断通常需要大量故障样本来训练模型,使模型识别准确度达标,但现实中由于各种原因,难以收集大量故障样本。如何通过在缺乏大量故障样本的情况下依旧能进行高识别准确度故障诊断,是本领域技术人员急需解决的问题。

技术实现思路

[0003]本专利技术的目的是为了至少解决现有技术的不足之一,提供基于多头卷积和差分自注意力的故障诊断方法及装置。
[0004]为了实现上述目的,本专利技术采用以下的技术方案:
[0005]具体的,提出基于多头卷积和差分自注意力的故障诊断方法,包括以下:
[0006]步骤110、获取目标数据,从所述目标数据中截取样本,形成样本集D0,所述样本集D0的维度是[n,b],n是样本的数量,b是单个样本的长度;
[0007]步骤120、对所述样本集D0进行多头卷积嵌入算法处理,形成样本集D1,所述样本集D1的维度为[n,b,d],d是扩展的维度;
[0008]步骤130、在样本集D1的顶部加上一层可以学习的参数[n,1,d],得到样本集X,所述样本集X的维度变成[n,b+1,d],之后为样本集X的每一个元素均加上一个可以学习的参数,此处保持维度不变;
[0009]步骤140、对样本集X[n,b+1,d]通过改进的transformer编码器模块进行处理得到最终的输出Xout;
[0010]步骤150、只取Xout的顶部的一层,记为Xtop,Xtop的维度是[n,1,d],将Xtop通过两层的全连接层构成的分类器进行处理,输出记为Xclass,Xclass的维度是[n,nc];
[0011]步骤160、基于所述Xclass得到最终的分类结果,进而得到故障诊断结果。
[0012]进一步,具体的,改进的transformer编码器模块的作用过程包括以下,
[0013]步骤210对样本集X分别使用四种不同参数的全连接层进行作用得到维度均为[n,b+1,d/4]的输出Xi,i取1

4,将每个Xi输入到差分自注意力算法模块,得到对应的输出Xi

out,维度不变,然后将各个Xi

out在第三维度上拼接起来,形成输出Xout_1,Xout_1维度变成[n,b+1,d];
[0014]步骤220、将得到Xout_1和之前的X相加后进行标准化,得到Xout_2,Xout_2维度依旧是[n,b+1,d];
[0015]步骤230、将将Xout_2经过两层全连接层映射,得到Xout_3,维度不改变;
[0016]步骤240、将得到Xout_3和之前的Xout_2相加后进行标准化,得到Xout_4,维度不
变;
[0017]步骤250、将Xout_4作为新的样本集X"再经过步骤210至步骤240处理,并重复至少两次,得到最终的输出Xout。
[0018]进一步,具体的,所述步骤250中重复的次数为2次。
[0019]进一步,具体的,所述差分自注意力算法模块的作用过程包括以下,
[0020]从Xi中截取一层特征q
k

[0021]q
k
与Xi通过广播机制相减得到结果A;
[0022]将A进行平方后取相反数再在纵向作softmax得到B;
[0023]将B与Xi作哈达玛积得到C;
[0024]将C纵向求和后得到输出q
k


[0025]由于Xi共有b+1的特征q
k
,每一个特征q
k
均对应一个输出q
k

,所以b+1个q
k

就能够拼接成Xi

out,且维度不变。
[0026]具体的,所述多头卷积嵌入算法的处理过程包括,
[0027]对输入样本集D0分别使用三种不同路径的一维卷积进行处理,分别输出维度均为[n,b/3,d]的D0_1、D0_2、D0_3,之后将各个D0_i,i取1至3,在第二维度上拼接起来,形成输出D1,维度是[n,b,d]。
[0028]本专利技术还提出基于多头卷积和差分自注意力的故障诊断装置,包括以下:
[0029]数据获取模块,用于获取目标数据,从所述目标数据中截取样本,形成样本集D0,所述样本集D0的维度是[n,b],n是样本的数量,b是单个样本的长度;
[0030]多头卷积嵌入算法模块,用于对所述样本集D0进行多头卷积嵌入算法处理,形成样本集D1,所述样本集D1的维度为[n,b,d],d是扩展的维度;
[0031]维度运算模块,用于在样本集D1的顶部加上一层可以学习的参数[n,1,d],得到样本集X,所述样本集X的维度变成[n,b+1,d],之后为样本集X的每一个元素均加上一个可以学习的参数,此处保持维度不变;
[0032]改进的transformer编码器模块,用于对样本集X[n,b+1,d]进行处理得到最终的输出Xout;
[0033]分类模块,用于只取Xout的顶部的一层,记为Xtop,Xtop的维度是[n,1,d],将Xtop通过两层的全连接层构成的分类器进行处理,输出记为Xclass,Xclass的维度是[n,nc];
[0034]故障诊断模块,用于基于所述Xclass得到最终的分类结果,进而得到故障诊断结果。
[0035]本专利技术还提出轴承的故障诊断方法,应用了所述的基于多头卷积和差分自注意力的故障诊断方法,包括,
[0036]工业设备运行,在轴承座安装加速度传感器;
[0037]通过采集卡采集加速度传感器的数据,并上传至上位机处;
[0038]上位机读取所述数据,作为样本集通过基于多头卷积和差分自注意力的故障诊断方法进行训练,得到训练模型;
[0039]保存并将训练模型加载到用于进行检测的电脑中,将目标设备的运行数据输入用于进行检测的电脑,电脑对目标设备进行在线故障诊断。
[0040]本专利技术的有益效果为:
[0041]本专利技术提供的基于多头卷积和差分自注意力的故障诊断方法,首先对获取的数据样本集通过多头卷积嵌入算法处理进行维度扩展,接着在样本集的顶部加上一层可以学习的参数,为样本集的每一个元素均加上一个可以学习的参数,然后对样本集通过改进的transformer编码器模块进行处理得到最终的输出,只取最终的输出的顶部的一层通过分类器进行分类得到最终的分类结果,进而基于分类结果得到故障诊断结果,专利技术在缺乏大量故障样本情况下,依旧能对轴承实现高准确度的故障诊断,与其他基准模型和现有方法相比,本专利技术具有更高的诊断精度和稳定性,且能在强噪声环境下提供有效的本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.基于多头卷积和差分自注意力的故障诊断方法,其特征在于,包括以下:步骤110、获取目标数据,从所述目标数据中截取样本,形成样本集D0,所述样本集D0的维度是[n,b],n是样本的数量,b是单个样本的长度;步骤120、对所述样本集D0进行多头卷积嵌入算法处理,形成样本集D1,所述样本集D1的维度为[n,b,d],d是扩展的维度;步骤130、在样本集D1的顶部加上一层可以学习的参数[n,1,d],得到样本集X,所述样本集X的维度变成[n,b+1,d],之后为样本集X的每一个元素均加上一个可以学习的参数,此处保持维度不变;步骤140、对样本集X[n,b+1,d]通过改进的transformer编码器模块进行处理得到最终的输出Xout;步骤150、只取Xout的顶部的一层,记为Xtop,Xtop的维度是[n,1,d],将Xtop通过两层的全连接层构成的分类器进行处理,输出记为Xclass,Xclass的维度是[n,nc];步骤160、基于所述Xclass得到最终的分类结果,进而进行故障诊断。2.根据权利要求1所述的基于多头卷积和差分自注意力的故障诊断方法,其特征在于,具体的,改进的transformer编码器模块的作用过程包括以下,步骤210对样本集X分别使用四种不同参数的全连接层进行作用得到维度均为[n,b+1,d/4]的输出Xi,i取1

4,将每个Xi输入到差分自注意力算法模块,得到对应的输出Xi

out,维度不变,然后将各个Xi

out在第三维度上拼接起来,形成输出Xout_1,Xout_1维度变成[n,b+1,d];步骤220、将得到Xout_1和之前的X相加后进行标准化,得到Xout_2,Xout_2维度依旧是[n,b+1,d];步骤230、将将Xout_2经过两层全连接层映射,得到Xout_3,维度不改变;步骤240、将得到Xout_3和之前的Xout_2相加后进行标准化,得到Xout_4,维度不变;步骤250、将Xout_4作为新的样本集X"再经过步骤210至步骤240处理,并重复至少两次,得到最终的输出Xout。3.根据权利要求2所述的基于多头卷积和差分自注意力的故障诊断方法,其特征在于,具体的,所述步骤250中重复的次数为2次。4.根据权利要求2所述的基于多头卷积和差分自注意力的故障诊断方法,其特征在于,具体的,所述差分自注意力算法模块的作用过程包括以下,从Xi中截取一层特征q
k
;q
k
与Xi通过广播机制相减...

【专利技术属性】
技术研发人员:扶治森陈新度吴磊
申请(专利权)人:广东工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1