一种基于卷积多头自注意力机制的轴承故障检测方法技术

一种基于卷积多头自注意力机制的轴承故障检测方法。所述检测方法流程包括：故障轴承振动信号的采集及预处理，生成轴承故障数据集，构建卷积多头自注意力机制网络并训练，得到轴承故障检测结果。所述卷积多头自注意力机制网络包括：卷积层、位置编码器、多头自注意力模块、全局平均池化层、全连接层；所述卷积层提取轴承信号初始特征；所述位置编码器对轴承初始特征进行位置编码；所述多头自注意力模块对初始特征进行学习；所述全局平均池化层对网络做正则化，防止过拟合；所述全连接层输出轴承的不同故障类型。本发明专利技术为轴承故障检测提供了高效准确的方法，从而有效维护了机械设备正常运转。

【技术实现步骤摘要】
一种基于卷积多头自注意力机制的轴承故障检测方法
本专利技术涉及设备健康管理领域，特别涉及一种轴承故障诊断方法。
技术介绍
轴承作为旋转机械部件的核心，关系着整个机械设备的正常运转。在设备运行过程中，由于过载、摩擦、腐蚀和胶合等原因容易造成轴承的定子、转子等部位损坏。这些故障可能会导致整个机械设备故障，影响生产设备的性能，并可能导致人员伤害。为了保持机器的高性能，同时避免由于轴承故障造成人员伤亡和经济损失，最好的解决方案是对轴承进行故障检测和健康状态监控。随着传感器技术、计算机技术、信息处理技术的快速发展，基于数据驱动和深度学习的设备健康管理方法正在成为新的研究热点和发展趋势。该方法综合运用传感器数据和机器学习理论，通过建立深度学习模型训练数据来学习机器的失效特性，可以有效解决诊断专家相对于机械设备数量稀少的问题，同时可以对海量数据进行有效监控，快速预测事故的发生。利用深度学习模型可以有效检测轴承故障。申请号为201910728620.X的公开专利技术专利公开了“一种基于自注意力神经网络的滚动轴承障碍诊断”，通过自注意力机制对振动信号学习；该方法试图使用单个自注意力方式学习轴承故障特征，未能学习到丰富的轴承故障特征。同时，直接使用自注意力机制，未能有效学习到轴承局部特征。本专利技术所述方法在有效解决以上问题的同时，使用了位置编码器，在多头自注意力模块学习轴承特征时提供了位置信息，有效解决了全局特征学习中的位置信息问题。
技术实现思路
(一)专利技术目的本专利技术的目的是提供通过一种基于卷积多头注意力的轴承故障检测方法。本专利技术轴承故障检测精度高，适用于实际工程项目。(二)技术方案本专利技术的技术解决方案，通过一种基于卷积多头注意力的轴承故障检测方法，所述的方法包括：采集故障轴承振动信号并进行预处理，生成轴承故障数据集，构建卷积多头自注意力机制网络，进而训练得到轴承故障检测结果，该方法的由如下步骤构成。采集轴承的故障信号，通过传感器采集不同种类的故障轴承振动信号参数信息，并记录轴承故障标签。轴承信号预处理操作，对轴承信号进行标准归一化处理，再将轴承信号等长度切割，标准归一化函数为：其中，x代表样本信号，μ代表样本信号平均值，σ代表样本信号标准差。生成轴承故障数据集，对不同类型的故障轴承信号进行等数量随机选取，并按照7:2:1的比例随机分为训练集，验证集和测试集。构建卷积多头自注意力机制网络，其结构依次是：卷积层→位置编码器→多头自注意力模块→全局平均池化层→全连接层输出层。卷积层为一维卷积神经网络，卷积核的个数设置为32，卷积核大小设置为8×8，步长设为8；位置编码器使用positionalencoding：PE为二维矩阵，偶数位置添加sin变量，奇数位置添加cos变量，以此来填满整个PE矩阵，加入到使用卷积神经网络提取轴承信号初始特征，完成位置编码，在使用多头自注意力时，对特征位置编码，有利于学习关联特征。多头自注意机制允许模型在不同的位置共同关注来自不同表示子空间的信息，单独使用一个自注意力机制，不能得到丰富的特征信息，轴承特征学习过程：其中a为轴承特征矩阵，Wq由查询向量q(query)组成的权重矩阵，Wk由键向量k(key)组成的权重矩阵，Wv由值向量v(value)组成的权重矩阵；使用缩放点积作为注意力机制：dk是键向量维度的平方根，在自注意力机制中，自注意力的输出是值向量v的加权求和，分配给每个值向量的权重通过查询向量q和当前键向量k的相关程度计算得出，多头自注意力机制：其中WiQ，WiK，WiV和Wo为可学习参数。全局平均池化层，可以减少网络参数量，防止过拟合现象。全连接层中神经元的个数等于轴承故障类别总数。训练卷积多头自注意力机制网络：将轴承训练集和验证集输入到卷积多头自注意力机制网络中，使用交叉熵损失函数，网络学习率learning_rate设置为0.0055，利用梯度下降法训练网络，更新训练集和验证集的权重值和学习率，直至网络损失函数收敛，得到训练好的卷积多头自注意力机制网络；对故障轴承信号分类：将轴承测试集输入到训练好的卷积多头自注意力机制网络中，得到轴承故障检测结果，并通过与正确标签对比，计算卷积多头自注意力机制网络模型对轴承故障检测的精确度。本专利技术实现了轴承多种故障特征自动提取的智能检测。本专利技术识别了轴承多种故障特征的准确识别。(三)有益效果本专利技术的上述技术方案具有如下有益的技术效果：本专利技术被用来识别多种故障轴承的振动信号，实验结果如图4所示，其识别结果达到98.8％，结果证明了一种基于卷积多头自注意力机制的轴承故障检测方法是有效的。附图说明图1是本专利技术的流程图；图2是本专利技术实施例训练时的损失函数图；图3是本专利技术实施例训练时的准确度函数图；图4是本专利技术实施例识别结果混淆图；具体实施方式为使本专利技术的目的、技术方案和优点更加清楚明了，下面结合具体实施方式并参照附图，对本专利技术进一步详细说明。应该理解，这些描述只是示例性的，而并非要限制本专利技术的范围。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本专利技术的概念。本专利技术实施例1，一种基于卷积多头注意力的轴承故障检测方法，参见图1，按下述步骤进行：采集轴承的故障信号，通过传感器采集10种不同种类的故障轴承振动信号参数信息，并记录轴承故障标签。轴承信号预处理操作，对轴承信号进行标准归一化处理，再将轴承信号按照2048个采样点等长度切割，标准归一化函数为：其中，x代表样本信号，μ代表样本信号平均值，σ代表样本信号标准差。生成轴承故障数据集，对10种不同类别的故障轴承信号各随机选取1000份，并按照7:2:1的比例随机分为训练集，验证集和测试集。构建卷积多头自注意力机制网络，其结构依次是：卷积层→位置编码器→多头自注意力模块→全局平均池化层→全连接层输出层。卷积层为一维卷积神经网络，卷积核的个数设置为32，卷积核大小设置为8×8，步长设为8；位置编码器使用positionalencoding：PE为二维矩阵，偶数位置添加sin变量，奇数位置添加cos变量，以此来填满整个PE矩阵，加入到使用卷积神经网络提取轴承信号初始特征，完成位置编码，在使用多头自注意力时，对特征位置编码，有利于学习关联特征。多头自注意机制允许模型在不同的位置共同关注来自不同表示子空间的信息，单独使用一个自注意力机制，不能得到丰富的特征信息，轴承特征学习过程：其中a为轴承特征矩阵，Wq由查询向量q(query)组成的权重矩阵，Wk由键向量k(key)组成的权重矩阵，Wv由值向量v(value)组成的权重矩阵；使用缩放点积作为注意力机制：dk是键向量维度的平方根，在自注意力机制中，自注意力的输出是值向量v的加权求和，分配给每个值向量本文档来自技高网...

【技术保护点】
1.一种基于卷积多头自注意力机制的轴承故障检测方法，其特征在于，包括：采集故障轴承振动信号并进行预处理，生成轴承故障数据集，构建卷积多头自注意力机制网络，进而训练得到轴承故障检测结果，该方法的步骤包括如下；/n(1)采集故障轴承振动信号并进行预处理：/n通过传感器采集不同种类的故障轴承振动信号参数信息，并记录轴承故障标签；对轴承信号进行标准归一化处理，再将轴承信号等长度切割，标准归一化函数为：/n

【技术特征摘要】
1.一种基于卷积多头自注意力机制的轴承故障检测方法，其特征在于，包括：采集故障轴承振动信号并进行预处理，生成轴承故障数据集，构建卷积多头自注意力机制网络，进而训练得到轴承故障检测结果，该方法的步骤包括如下；
(1)采集故障轴承振动信号并进行预处理：
通过传感器采集不同种类的故障轴承振动信号参数信息，并记录轴承故障标签；对轴承信号进行标准归一化处理，再将轴承信号等长度切割，标准归一化函数为：



其中，x代表样本信号，μ代表样本信号平均值，σ代表样本信号标准差；
(2)生成轴承故障数据集：
对不同类型的故障轴承信号进行等数量随机选取，并按照7:2:1的比例随机分为训练集，验证集和测试集；
(3)构建卷积多头自注意力机制网络，其结构依次是：卷积层→位置编码器→多头自注意力模块→全局平均池化层→全连接层输出层；
(3a)卷积层为一维卷积神经网络，卷积核的个数设置为32，卷积核大小设置为8×8，步长设为8；
(3b)位置编码器使用positionalencoding：



PE为二维矩阵，偶数位置添加sin变量，奇数位置添加cos变量，以此来填满整个PE矩阵，加入到使用卷积神经网络提取轴承信号初始特征，完成位置编码，在使用多头自注意力时，对特征位置编码，有利于学习关联特征；
(3c)多头自注意机制允许模型在不同的位置共同关注来自不同表示子空间的信息，单独使用一个自注意力机制，不能得到丰富的特征信息，轴承特征学习过...

【专利技术属性】
技术研发人员：王卫杰，叶瑞达，任元，何亮，樊亚洪，张克明，傅百恒，耿梦梦，
申请(专利权)人：中国人民解放军战略支援部队航天工程大学，
类型：发明
国别省市：北京;11