【技术实现步骤摘要】
一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测方法
本专利技术涉及工业过程预测与控制领域，具体涉及一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测的方法。
技术介绍
软测量技术由于其响应迅速、维护成本低而被广泛应用于现代工业过程中，对某些关键的质量变量进行监控实现对关键质量变量的预测，达到保证产品质量、生产安全的目的。当前软测量技术主要有主成分回归分析、偏最小二乘回归、支持向量回归、人工神经网络算法等。但是这类浅层的网络不能很好的挖掘过程数据中的非线性特征，因此预测性能也受到一定的限制。深度神经网络的提出很好的解决了浅层网络存在的问题，针对工业过程的复杂非线性特性，深度神经网络通过学习一种深层的非线性网络结构，可以对复杂的工业过程进行建模，并且拥有强大的从少数样本中学习数据深层特征的能力。在考虑非线性的基础上，循环神经网络同时还能够对工业过程的动态特性进行建模，因此和其他的神经网络相比，循环神经网络具有更高的预测精度。为了避免循环神经网络存在的梯度消失和梯度爆...
【技术保护点】
1.一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测方法，其特征在于，包括以下步骤：/nS1.基于生产过程，通过机理分析和专家知识，选取对质量变量产生影响的若干变量作为输入变量，等时间间隔对所述的输入变量和相应的质量变量连续均匀采样若干次，得到输入变量与相应的质量变量的时间序列原始数据集记为(X,Y)；/n
【技术特征摘要】 【专利技术属性】
1.一种基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测方法，其特征在于，包括以下步骤：
S1.基于生产过程，通过机理分析和专家知识，选取对质量变量产生影响的若干变量作为输入变量，等时间间隔对所述的输入变量和相应的质量变量连续均匀采样若干次，得到输入变量与相应的质量变量的时间序列原始数据集记为(X,Y)；
其中T1为采集样本次数，1≤t≤T1；
S2.对采样的原始数据集进行离差标准化：
对步骤S1所述的数据进行离差标准化：
其中xmin为样本数据的最小值，xmax为样本数据的最大值；
则得到新的数据集记为作为训练集：
其中，n为输入变量的数量，
S3.构建和训练模型
S31.对输入样本进行编码：
利用空间注意力机制对训练集中每个样本计算输入变量和质量变量之间的相关性，并为每个输入变量分配相应的注意力权值，得到新的加权输入样本；利用长短期记忆网络对输入样本提取隐层的特征；
S32.对隐藏层的状态进行解码：
利用时间注意力机制通过计算各个时刻隐藏层状态和当前输出之间的相关性，为各个时刻的隐含状态分配不同的注意力权重并计算加权和作为当前质量变量的预测输入，最后通过一个非线性长短期记忆网络单元得到当前时刻的质量变量的预测值；
S33.确定网络的参数和超参数，训练基于空间和时间注意力的长短期记忆网络：
计算模型的损失函数MSE：
利用误差反向传播算法和Adam算法更新网络参数，在达到最大迭代次数R后停止模型的训练；
S4.实时采集输入变量值，利用训练完成的模型，计算质量变量的预测值：
其中，是解码过程的长短期记忆网络的t-1时刻的隐层输出；c(t)是时间注意力机制的输出；fl(*)表示一个长短期记忆单元；V和bv为网络学习到的权值和偏置。
2.根据权利要求1所述的基于空间和时间注意力的长短期记忆网络对工业非线性动态过程产品质量预测的方法，其特征在于：所述的步骤S31具体处理如下：
利用空间注意力机制对新的数据集中每个样本计算输入变量和质量变量之间的相关性：
其中s(t-1)为解码输出的隐状态，V1i,W1i,为注意力网络权重矩阵，为偏置向量；
对计算出的变量注意力值进行归一化：
技术研发人员：袁小锋，李林，王雅琳，阳春华，桂卫华，
申请(专利权)人：中南大学，
类型：发明
国别省市：湖南;43
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。