本发明专利技术提供了一种二叉树滤波器Transformer模型及其轴承故障诊断应用，其中对Transformer模型中的分词器部分，通过引入二叉树滤波器进行改进，使得改进后的Transformer模型能够提取振动信号，进而使用本发明专利技术二叉树滤波器Transformer模型进行轴承故障检测时，对于输入的振动信号，本发明专利技术能够有效提取出多个频带，并按照频率从小到大排序，从而对不同频带下的信息有效表征，最终取得更好衡量故障信息的有益效果。此外，相比传统的卷积神经网络和循环神经网络，Transformer模型能够很好地给予不同频带的权重从而得到更精准的识别率。重从而得到更精准的识别率。重从而得到更精准的识别率。
【技术实现步骤摘要】
一种二叉树滤波器Transformer模型及其用于轴承故障诊断的方法
[0001]本专利技术属于深度学习
以及机械故障诊断
，具体涉及一种二叉树滤波器Transformer模型及其用于轴承故障诊断的方法。
技术介绍
[0002]滚动轴承作为旋转机械最广泛使用的零部件之一，常常在高速、高负载条件下运行，一旦发生故障，便会带来难以预计的灾难。对轴承及时进行故障诊断、制定合适的维修策略，从而有效减小无效开支并提高维修效率，是轴承养护工作的至关重点。因此，如何对滚动轴承进行有效的故障诊断，具有重要的现实意义。
[0003]滚动轴承的故障类型及其严重程度，会反映在其振动信号上；因而目前已有一些研究工作利用振动信号来进行故障诊断，以此识别出轴承(主要是滚子、内圈和外圈)的故障状态。但随着机械设备的复杂程度日益增加，以及振动信号的非平稳性、非线性的特点，导致从振动信号中提取出具有代表性的关键特征信息变得较为困难。
[0004]随着机器深度学习技术的发展，利用深度学习模型提取特征信息成为当下一种较为有效的手段。而对于基于振动信号的故障诊断领域，当前还缺乏一种较为有效的深度学习模型。
技术实现思路
[0005]针对现有技术中存在的不足，本专利技术提供了一种二叉树滤波器Transformer模型及其用于轴承故障诊断的方法，用以解决滚动轴承故障的精确诊断问题。
[0006]本专利技术通过以下技术手段实现上述技术目的。
[0007]一种二叉树滤波器Transformer模型，其特征在于：包括分词器、编码器和分类器，其中通过分词器提取振动信号，得到序列z1，之后序列z1依次经由编码器和分类器处理得到输出结果；
[0008]所述分词器中设有一个二叉树滤波器组：
[0009][0010]其中h(n)为标准低通滤波器，截止频率ε≥0；j是虚数单位，h
L
(n)的频带范围是[0，1/4F
s
]，h
H
(n)的频带范围是[1/4F
s
，1/2F
s
]，F
s
为采样频率；
[0011]对于输入的信号x(n)，所述分词器包括如下处理步骤：
[0012]S1，利用所述二叉树滤波器组将信号x(n)分解出k层，其中k为log2(n)的取整；
[0013]S2，对第k层的所有子信号取实部，之后计算均方根
[0014]S3，根据获取片段信息S和位置信息K，并求出序列z1：
[0015][0016][0017]E
A
＝embed(S,W
S
)
[0018]E
K
＝embed(K,W
P
)
[0019]其中d
model
为嵌入维数，Y＝embed(X,W)表示根据X和W，拓展Y的维度。
[0020]进一步地，所述编码器包括N个(或称N层)Transformer块，每一个Transformer块中含有两个子模块，分别是多头自注意力子模块和前向网络子模块，对于序列z有：
[0021][0022]其中，序列z
l
表示为第l层Transformer块的输入，相应的第1层的输入即为序列z1，Attention(
·
)表示多头自注意力子模块，z
l
′
为多头自注意力子模块的输出，同时也为FFn(
·
)的输入，FFn(
·
)表示前向网络子模块，同时z
l+1
作为第l层前向网络子模块的输出，也为第l+1层多头自注意力模块的输入，layernorm为取残差并归一化。
[0023]进一步地，所述多头自注意力子模块具体由查询矩阵Q
s
＝zW
jq
，键矩阵K
s
＝zW
jk
，值矩阵V
s
＝zW
jv
组成，相应公式为：
[0024][0025]其中h为注意力头数，j∈[1，h]，W
jq
、W
jk
和W
jv
分别表示：施加于序列z的第j种线性映射以得到不同版本的查询矩阵、键矩阵和值矩阵，映射以得到不同版本的查询矩阵、键矩阵和值矩阵，d
k
＝d
model
/h，softmax(
·
)表示逻辑回归的泛化，concat(
·
)为对矩阵进行相连，head
j
为第j个A(Q,K,V)，W
s
为j个W
jq
、W
jk
、W
jv
的串联。
[0026]进一步地，所述前向网络子模块表示为：
[0027]FFn(x)＝GeLU(0,w1x+b1)w2+b2[0028]其中GeLU(
·
)为激活函数，w1和w2表示进行两次线性变化的权重b1和b2表示进行两次线性变化的偏置。
[0029]进一步地，所述分类器的表达式如下：
[0030][0031]其中Classifier(
·
)表示分类器函数，)表示分类器函数，w
c1
和w
c2
为权重，b
c1
和b
c2
为偏置,d
cate
表示样本中的种类，d
ff
为隐层维数。
[0032]一种基于上述二叉树滤波器Transformer模型的轴承故障诊断方法：制作数据集训练所述二叉树滤波器Transformer模型，之后利用训练好的模型，根据滚动轴承加速度信号进行故障诊断。
[0033]本专利技术的有益效果为：
[0034]本专利技术提供了一种二叉树滤波器Transformer模型及其轴承故障诊断应用，其中所用到的Transformer模型是一种近年来被提出，用于解决自然语言识别处理问题的深度学习模型，而本专利技术中则对Transformer模型中的分词器部分进行相应的修改调整，也即通过引入二叉树滤波器，使得改进后的Transformer模型能够提取振动信号(相应原本的Transformer模型只适用于自然语言提取)；进而使用本专利技术二叉树滤波器Transformer模型，对于输入的振动信号，能够有效提取出多个频带，并按照频率从小到大排序，从而对不同频带下的信息有效表征，最终取得更好衡量故障信息的有益效果。此外，Transformer模型能够很好地给予不同频带的权重，从而得到更精准的识别率，这是传统的卷积神经网络和循环神经网络无法实现的。
附图说明
[0035]图1为本专利技术二叉树滤波器Transformer模型结构图；
[0036]图2为本专利技术轴承故障诊断流程图；
[0037]图3为模型训练时每回合的误差；
[0038]本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种二叉树滤波器Transformer模型，其特征在于：包括分词器、编码器和分类器，其中通过分词器提取振动信号，得到序列z1，之后序列z1依次经由编码器和分类器处理得到输出结果；所述分词器中设有一个二叉树滤波器组：其中h(n)为标准低通滤波器，截止频率j是虚数单位，h
L
(n)的频带范围是[0，1/4F
s
]，h
H
(n)的频带范围是[1/4F
s
，1/2F
s
]，F
s
为采样频率；对于输入的信号x(n)，所述分词器包括如下处理步骤：S1，利用所述二叉树滤波器组将信号x(n)分解出k层，其中k为log2(n)的取整；S2，对第k层的所有子信号取实部，之后计算均方根S3，根据获取片段信息S和位置信息K，并求出序列z1：：E
A
＝embed(S，W
S
)E
K
＝embed(K，W
P
)其中d
model
为嵌入维数。2.根据权利要求1所述的二叉树滤波器Transformer模型，其特征在于：所述编码器包括N个Transformer块，每一个Transformer块中含有两个子模块，分别是多头自注意力子模块和前向网络子模块，对于序列z有：其中，序列z
l
表示为第l层Transformer块的输入，相应的第1层的输入即为序列z1，Attention(
·
)表示多头自注意力子模块，z
′
l
为多头自注意力子模块的输出，同时也为FFn(
·
)的输入，FFn(
·
)表示前向网络子模块，同时z
l+1
作为第l层前向网络子模块的输出，也为第l+1层多头自注意力模块的输入，layernorm为取残差并归一化。3.根据权利要求2所述的二叉树滤波器Transformer模型，其特征在于：所述多头自注意力子模块具体由查询矩阵Q
s
【专利技术属性】
技术研发人员：樊薇，潘立人，焦之远，许桢英，宋向金，袁野，
申请(专利权)人：江苏大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。