当前位置: 首页 > 专利查询>四川大学专利>正文

基于量子注意力循环编码解码神经网络的退化预测方法技术

技术编号:22565777 阅读:59 留言:0更新日期:2019-11-16 12:19
本发明专利技术公开了提供的基于量子注意力循环编码解码神经网络(QAREDNN)的退化预测方法,将QAREDNN用于其中,引入量子注意力机制同时对编码器和解码器进行重构使QAREDNN能够充分挖掘和重视重要信息,同时抑制冗余信息的干扰,进而获得更好的非线性逼近能力;采用量子神经元构建活性值和权值由量子旋转矩阵代替的量子门限循环单元(QGRU)取代编码器和解码器中传统的循环单元能够提高QAREDNN的泛化能力和响应速度;在QAREDNN的训练过程中,引入LM算法实现量子旋转矩阵的旋转角和注意力参数快速更新。由于QAREDNN在非线性逼近能力、泛化能力以及响应和训练速度等方面的优点,基于量子注意力循环编码解码神经网络的退化预测方法能够获得较高的预测精度和计算效率。

Degradation prediction method based on quantum attention cycle coding decoding neural network

The invention discloses a degradation prediction method based on qardennn, in which qardennn is used, and the quantum attention mechanism is introduced to reconstruct the encoder and decoder at the same time, so that qardennn can fully mine and pay attention to important information, and at the same time, suppress the interference of redundant information, so as to obtain better nonlinear approximation ability; quantity is adopted In the training process of qardnn, LM algorithm is introduced to update the rotation angle and attention parameters of quantum rotation matrix. Due to the advantages of qardednn in nonlinear approximation, generalization, response and training speed, the degradation prediction method based on quantum attention cycle codec neural network can obtain high prediction accuracy and calculation efficiency.

【技术实现步骤摘要】
基于量子注意力循环编码解码神经网络的退化预测方法
本专利技术属于机械状态监测
,具体涉及基于量子注意力循环编码解码神经网络的退化预测方法。
技术介绍
旋转机械广泛应用于燃气轮机、航空发动机和风力机等各种关键的设备中。其状态直接决定着设备能否长期安全可靠地运行。在整个服役过程中,旋转机械部件将经理一系列不同的状态退化阶段,旋转机械部件将经历一系列不同的状态退化阶段,对旋转机械部件状态退化趋势预测方法的研究有助于避免关键设备故障带来的灾难性事故,降低设备的维修成本,提高设备的效率。随着传感器技术和信号处理技术在系统状态监测中的发展,可以获得大量有价值的系统和部件状态的监测数据。因此,基于数据驱动的退化趋势预测方法逐渐受到重视,并取得了较快的发展。数据驱动方法一般采用先进的传感器技术采集与系统状态相关的特征参数,然后通过适当的算法对采集到的特征参数进行分析,以预测目标系统的状态退化程度。进而,为机械设备系统及其相应部件的维护提供决策信息。近年来,大量的与机器学习相关的数据驱动算法被应用于旋转机械退化趋势的预测中。如:遗传支持向量机(Geneticalgorithmsupportvectorregression,GA-SVR),改进共生生物搜索极限学习机器(Amelioratedsymbioticorganismssearchextremelearningmachine,ASOS-ELM)和人工神经网络循环编码-解码器(Artificialneuralnetwork,ANN),对于GA-SVR而言,由于难以准确地设置核函数,使得预测结果往往不确定。对于ASOS-ELM而言,它容易发生过拟合,进而导致其泛化性能下降。对于ANN而言,它们大多是模仿初级生物神经反射来处理信息,从而不能识别输入信息的主、次关系,因此必须按顺序无区分地处理信息。一旦输入序列非常长,就需要大量的时间步骤积累信息,以关联长时间序列信息的相互依赖特征。序列越长,有效捕获长序列信息的相互依赖特征的可能性就越小。因此神经网络的非线性逼近能力和泛化能力不理想,预测精度也不高。
技术实现思路
针对现有技术中的上述不足,本专利技术提供的基于量子注意力循环编码解码神经网络的退化预测方法解决了
技术介绍
中的上述问题。为了达到上述专利技术目的,本专利技术采用的技术方案为:基于量子注意力循环编码解码神经网络的退化预测方法,包括以下步骤:S1、采集旋转机械运行的原始振动数据;S2、根据原始振动数据构造模糊熵;S3、对模糊熵进行滑动平均降噪处理,并将处理后的降噪模糊熵作为旋转机械退化状态特征;S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中,并对其进行训练;S5、通过训练好的量子注意力循环编码解码神经网络对旋转机械的测试样本进行退化状态趋势的预测。本专利技术的有益效果为:本专利技术创造性的将QAREDNN用于的旋转机械状态退化趋势预测中,在QAREDNN中,引入量子注意力机制同时对编码器和解码器进行重构使QAREDNN能够充分挖掘和重视重要信息,同时抑制冗余信息的干扰,进而获得更好的非线性逼近能力。另一方面,采用量子神经元重构一种活性值和权值由量子旋转矩阵代替的量子门限循环单元(Quantumgatedrecurrentunit,QGRU)。由于QGRU不仅能够更加精细地遍历解空间,还具有大量的多重吸引子,因此采用QGRU代替编码器和解码器中传统的循环单元能够提高QAREDNN的泛化能力和响应速度。而且,在QAREDNN的训练过程中,引入LM算法实现量子旋转矩阵的旋转角和注意力参数快速更新。由于QAREDNN在非线性逼近能力、泛化能力以及响应和训练速度等方面的优点,所专利技术的基于QAREDNN的状态退化趋势预测方法能够获得较高的预测精度和计算效率。附图说明图1为本专利技术提供的基于量子注意力循环编码解码神经网络的退化预测方法实现流程图。图2为本专利技术提供的QAREDNN的结构图。图3为本专利技术提供的QAREDNN训练方法流程图。图4为本专利技术提供的实施例中轴承3的原始全寿命模糊熵。图5为本专利技术提供的实施例中轴承3的滑动平均降噪后的模糊熵。图6为本专利技术提供的实施例中QAREDNN预测的模糊熵曲线。图7为本专利技术提供的实施例中不同机器学习预测方法的学习曲线。图8为本专利技术提供的实施例中DNN-RED、ASOS-ELM和GA-SVR预测的模糊熵曲线。图9为本专利技术提供的实施例中统计分析QAREDNN、DNN-RED、ASOS-ELM、GA-SVR四种方法的预测精度和稳定性的统计图。图10为本专利技术提供的实施例中四种状态退化趋势预测方法消耗时间对比所述示意图。具体实施方式下面对本专利技术的具体实施方式进行描述,以便于本
的技术人员理解本专利技术,但应该清楚,本专利技术不限于具体实施方式的范围,对本
的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本专利技术的精神和范围内,这些变化是显而易见的,一切利用本专利技术构思的专利技术创造均在保护之列。如图1所示,一种基于量子注意力循环编码解码神经网络的退化预测方法,包括以下步骤:S1、采集旋转机械运行的原始振动数据;S2、根据原始振动数据构造模糊熵;S3、对模糊熵进行滑动平均降噪处理,并将处理后的降噪模糊熵作为旋转机械退化状态特征;S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中,并对其进行训练;S5、通过训练好的量子注意力循环编码解码神经网络对旋转机械的测试样本进行退化状态趋势的预测。上述步骤S2具体为:首先,设时间序列在保持元素在序列中的相对位置不变的情况下,分别重构如下两个向量:其中,M为时间序列的维数;n表示向量和向量的维数,且i,j∈1,…,M-n;然后,分别计算和的距离lij和相似度如下:式中,exp(·)表示指数函数;Δ指数函数边界的梯度;r是指数函数边界的宽度;其次定义一个函数O(Δ,r):同理,构造(n+1)维的向量和因此可以得到函数O′(Δ,r)。最后计算模糊熵FE如下:当M是一个有限值,则模糊熵计算如下:FE=lnO(Δ,r)-lnO′(Δ,r)(5)上述步骤S4中的量子注意力循环编码解码神经网络(QAREDNN)包括相互连接编码器和解码器;图2中显示了该QAREDNN的结构。编码器包括依次连接的编码器注意力机制和编码器量子门限循环单元,所述编码器量子门限循环单元作为编码器的循环单元;解码器包括依次连接的解码器注意力机制和解码器量子门限循环单元,所述解码器量子门限循环单元作为解码器的循环单元;编码器量子门限循环单元的输出端与解码器注意力机制的输入端连接。上述第一量子门限循环单元和第二量子门限循环单元均可简称本文档来自技高网
...

【技术保护点】
1.基于量子注意力循环编码解码神经网络的退化预测方法,其特征在于,包括以下步骤:/nS1、采集旋转机械运行的原始振动数据;/nS2、根据原始振动数据构造模糊熵;/nS3、对模糊熵进行滑动平均降噪处理,并将处理后的降噪模糊熵作为旋转机械退化状态特征;/nS4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中,并对其进行训练;/nS5、通过训练好的量子注意力循环编码解码神经网络对测试样本进行退化预测。/n

【技术特征摘要】
1.基于量子注意力循环编码解码神经网络的退化预测方法,其特征在于,包括以下步骤:
S1、采集旋转机械运行的原始振动数据;
S2、根据原始振动数据构造模糊熵;
S3、对模糊熵进行滑动平均降噪处理,并将处理后的降噪模糊熵作为旋转机械退化状态特征;
S4、将旋转机械退化状态特征输入到量子注意力循环编码解码神经网络中,并对其进行训练;
S5、通过训练好的量子注意力循环编码解码神经网络对测试样本进行退化预测。


2.根据权利要求1所述的基于量子注意力循环编码解码神经网络的退化预测方法,其特征在于,所述步骤S2中的构造模糊熵的方法具体为:
设时间序列重构向量和






式中,M为时间序列的维数;
n为向量和向量的维数,且i,j∈1,…,M-n;
计算和的距离lij为:



计算和的相似度Lij为:



式中,exp(·)表示指数函数;
Δ指数函数边界的梯度;
r是指数函数边界的宽度;
定义一个函数O(Δ,r)为:



同理,构造(n+1)维的向量和得到函数O′(Δ,r)。
计算原始振动数据的模糊熵FE为:





3.根据权利要求1所述的基于量子注意力循环编码解码神经网络的退化预测方法,其特征在于,所述步骤S4中的量子注意力循环编码解码神经网络包括相互连接编码器和解码器;
所述编码器包括依次连接的编码器注意力机制和编码器量子门限循环单元,所述编码器量子门限循环单元作为编码器的循环单元;
所述解码器包括依次连接的解码器注意力机制和解码器量子门限循环单元,所述解码器量子门限循环单元作为解码器的循环单元;
所述编码器量子门限循环单元的输出端与解码器注意力机制的输入端连接。


4.根据权利要求3所述的基于量子注意力循环编码解码神经网络的退化预测方法,其特征在于,构造编码器量子门限循环单元和解码器量子循环单元的过程具体为:
设t时刻编码器量子循环单元的输入序列其量子态为t时刻隐层状态其量子态为
式中,为在Bloch球面坐标中在xy平面的投影与x轴的夹角;

为在Bloch球面坐标中与z轴的夹角;

为在Bloch球面坐标中在xy平面的投影与x轴的夹角;

为在Bloch球面坐标中与z轴的夹角;
t时刻,编码器量子门限循环单元的更新门zt为:



式中,
σ(·)为激活函数;
F(·)为变量坐标求和函数;
Wjz为更新门权值矩阵;

为更新门活性值矩阵;

为更新门zt中元素的权重量子旋转矩阵;

为更新门zt中元素的活性值量子旋转矩阵;
δj为的旋转角;
μj为的旋转角;
t时刻,编码器量子门限循环单元的重置门rt为:



式中,
Wjr为重置门权值矩阵;

为重置门活性值矩阵;

为重置门rt中元素rtj的权重量子旋转矩阵;

为重置门rt中元素rtj的活性值权重矩阵;
γj为的旋转角;
ψj为的旋转角;
根据重置门rt和隐层状态ht-1,t时刻,编码器量子门限循环单元的候选集为:



式中,
tanh(·)为激活函数;

为候选集权值矩阵;

为候选集活性值矩阵;

为候选集中元素的权重量子旋转矩阵;

为候选集中元素的活性值量子旋转矩阵;
ξj为的旋转角;
εj为的旋转角;

为在Bloch球面坐标中在xy平面的投影与x轴的夹角;

为在Bloch球面坐标中与z轴的夹角;
⊙为元向乘法运算符;
根据更新门zt和候选集t时刻的隐层状态ht为:



式中,Λ为常数矩阵,且其所有元素的值为1,其维数与更新门zt相同;
因此,t时刻,输入序列xt与编码器量子门限循环单元隐层状态ht之间的函数关系为:
ht=f(ht-1,xt)
将编码器注意力机制引入到编码器中,的相关系数为:



式中,Γe为编码器调节系数向量,且Γe的所有元素的值为1;
We和Ue均为编码器中的注意力参数矩阵,且We∈R2m×2m,Ue∈R2m×1;

为t-1时刻编码器中的编码器量子门限循环单元的隐层状态和候选集的连接;
将相关系数归一化得到输入序列xt的权重系数为:



式中,exp(·)表示指数函数;
因此...

【专利技术属性】
技术研发人员:李锋陈勇田大庆
申请(专利权)人:四川大学
类型:发明
国别省市:四川;51

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1