基于粒子群优化和降噪稀疏编码机的化工故障检测方法技术

技术编号:21201124 阅读:108 留言:0更新日期:2019-05-25 01:36
本发明专利技术公开了一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法,该方法主要对标准化和白化后的训练数据利用多个堆叠式的降噪稀疏自编码机进行无监督特征学习,再通过有监督的方式进行Softmax分类器模型训练,最后通过有监督微调整个网络的权重参数,同时对于关键的可调超参数引入了粒子群优化算法自动调优,得到训练好的化工过程故障检测智能模型从而用于过程实时数据的故障检测。本发明专利技术采用深度神经网络的贪婪逐层训练方法自适应地智能学习化工过程原始数据所隐含的知识,从而能够更准确地提取出过程故障的信息,所述方法较传统方法而言更具智能性,能够提高故障检测的性能,且由于加入自动优化算法,比人工参数调优节省了很多时间。

Chemical Fault Detection Method Based on Particle Swarm Optimization and Denoising Sparse Coder

The invention discloses a chemical fault detection method based on particle swarm optimization and denoising sparse coding machine. The method mainly uses multiple stacked denoising sparse self-coding machines for unsupervised feature learning of standardized and whitened training data, then carries out the training of Softmax classifier model by supervised way, and finally adjusts the weight parameters of each network by supervised micro-adjustment. At the same time, particle swarm optimization (PSO) algorithm is introduced to automatically tune the key adjustable parameters, and a trained intelligent model for chemical process fault detection is obtained, which can be used for real-time process data fault detection. The greedy layer-by-layer training method of the deep neural network is adopted to adaptively and intelligently learn the hidden knowledge from the original data of chemical process, so that the process fault information can be extracted more accurately. The method is more intelligent than the traditional method, and can improve the performance of fault detection. Moreover, due to the addition of the automatic optimization algorithm, it saves much time than the manual parameter optimization. Between.

【技术实现步骤摘要】
基于粒子群优化和降噪稀疏编码机的化工故障检测方法
本专利技术涉及化工过程故障检测与诊断领域,具体涉及一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法。
技术介绍
化工过程故障检测作为化工过程异常工况管理最有力的工具之一,给过程安全预警提供了一定的保障,挽回了很大的经济损失。据美国国家安全监管局估计,异常工况给美国石油和化学工业造成了每年至少约200亿美元的经济损失,在英国,每年异常工况造成的损失高达270亿美元,因此开发性能较优的化工过程故障检测方法对于实际化工生产中至关重要。化工过程数据具有非线性、高维、非高斯分布等特征,因此对于故障检测过程提取故障的信息会更加复杂,传统的基于过程数据的化工过程故障检测方法也被开发出了很多,这类基于数据的方法并不需要提前获取大量的专家知识,只需获取化工过程采集到的数据,通过建立适当的故障检测模型,便可预测出当前系统的状况,因此这类方法在目前的科学研究和工业应用中都较为广泛。目前比较流行的PCA、ICA、KPCA、KICA、MICA等传统方法虽然可以有效地检测出某些故障,然而对于某些扰动性故障检出率极低,说明传统的方法依旧未能完全准确地提取出这些故障的信息,这就需要开发出一些新的方法,以提高故障的检出率。复杂化工过程的非线性、高噪声、非高斯分布等特性使得传统的化工过程故障检测方法并不表现出优良的诊断性能,因此开发适用于复杂非线性化工过程的故障监测方法是非常有必要的。而深度神经网络的逐层贪婪学习模式,能够更加准确地学习到化工过程原始数据所隐含的特征,从而应用适当的分类模型可以实现对化工过程的监控。随着深度学习的提出,众多计算机领域的学者开始转向于研究深度神经网络,深度神经网络与浅层神经网络的最大区别之处在于采用无监督学习的方式逐层训练深度网络,具有优异的特征学习能力,学习得到的特征对数据有更本质的刻画,从而有利于分类。自动编码机方向的研究是近年来深度学习领域的热门研究方向,因其在特征学习上具有优异的性能而被广泛应用于手写识别、图像分类、音频特征提取等方面,并在其他领域也逐渐应用广泛,例如在机械故障诊断中,开始陆续有学者应用自动编码机或改进的自动编码机来进行特征学习。2006年,深度学习著名学者Hiton等提出了自动编码机(AutoEncoder,AE)的深度神经网络算法,并应用到图像识别中得到了很好的分类效果,随后基于这种基础的自动编码机众多学者提出了改进的算法,例如,Bengio等提出了一种稀疏自动编码机(SparseAutoEncoder,SAE),加入了稀疏性限制,使学习到的特征能够更加准确地还原出原始数据;Vincent等在2008年提出了一种降噪自动编码机(DenoisingAutoEncoder,DAE),通过在无监督特征学习时加入噪声降噪的策略,使学习到的特征更具有鲁棒性。栈式降噪稀疏自动编码机(StackedDenoisingSparseAutoencoder,SDSA)是近三年研究较为热门的改进的自动编码机,栈式是指多个降噪稀疏自动编码机堆叠起来进行逐层训练和逐层学习的意思。该算法是以降噪稀疏自动编码机为基体,通过堆叠多个类似的降噪稀疏自动编码机,以无监督的方式逐层训练其各层权重参数和偏置项,从而搭建了一个深度神经网络,所学习到的特征能够应对高噪声的数据和使学习到的特征具有稀疏性,其训练方法是采用无监督的方式进行的,因此在特征学习上该算法比传统的人工提取特征具有自动化和智能化的优点,同时由于其算法在损失函数上是基于最小信息熵损的理论,因此所学习的特征具有较强的准确性,能够更为准确地预测模型的激活值。由于本专利技术公开的方法涉及较多的人工可调超参数,采用人工试验的方法进行选择超参数具有随机性和耗时性,因此要对多参数进行单目标离散优化,以实现方法的自动调优功能,从而使方法更具智能性,达到更好的性能。常用的参数优化算法有遗传算法、人工鱼群算法、粒子群算法等。粒子群优化(PSO)算法是由Kennedy等人于1995年提出的一种模拟鸟群觅食行为的仿生算法,该算法以其收敛速度快、实现过程简单、优化过程易于理解等优点在科学和工程领域得到了广泛的应用,成为了发展最快的参数智能优化算法之一。
技术实现思路
本专利技术的目的是针对现有技术的不足,提供了一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法。所述方法将深度学习中的栈式降噪稀疏自动编码机(SDSA)算法应用到化工过程的特征学习中,再通过有监督的方式进行Softmax分类器模型训练,最后通过BP算法微调整个网络的权重参数,同时对于关键的可调超参数引入了粒子群优化算法自动调优。本方法能够采用深度神经网络的贪婪逐层训练方法自适应地智能学习原始数据所隐含的知识,从而提取出故障的信息,所提出的方法更具智能性、且由于加入自动优化算法,比人工调优节省了很多时间。本专利技术的目的可以通过如下技术方案实现:一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法,所述方法包括以下步骤:步骤一、数据采集:对于模拟系统或DCS系统采集到的历史时序数据作为训练样本集Xtrain,来自DCS系统的化工过程实时数据作为测试样本集Xtest,其中采集到的训练样本集Xtrain包含正常工况下和各种故障工况下的时序数据,用于建立本方法的智能故障检测模型,测试样本集Xtest是在线监测的实时工况数据,也包含正常工况下和各种故障下的时序数据,用于验证本方法的诊断精度或实际工业中应用本方法建立的模型来实现故障检测;步骤二、数据预处理:首先计算出训练样本集Xtrain中正常工况下的数据的各监测变量的均值Xmean和标准差Xstd,然后将训练样本集Xtrain和测试样本集Xtest都利用该均值Xmean和标准差Xstd进行标准化预处理,标准化预处理后的训练样本集Xtrainstd和测试样本集Xteststd再进行白化预处理得到白化后的训练样本集Xtrainwhite和测试样本集Xtestwhite,至此完成训练样本和测试样本集的预处理;步骤三、离线训练:离线训练的目的是采用预处理好的训练样本建立化工过程智能故障检测模型,其过程可分为无监督预训练栈式降噪稀疏自动编码机、有监督预训练Softmax分类器、BP算法全局微调网络参数、粒子群优化可调超参数四大部分;首先进行无监督预训练栈式降噪稀疏自动编码机,对预处理后的训练集采用N个降噪稀疏编码机将样本集逐层编码为特征空间,采用逐层训练的方法,在每一层训练过程中优化其各层的损失函数最小化,从而得到各层模型参数,最终得到其N个隐层学习到的训练样本的最终特征hN;其次进行有监督预训练Softmax分类器,将hN作为Softmax分类器模型的输入,将所有学习到的训练样本特征附加对应的工况标签yi=1代表该样本是正常的,yi=2代表该样本是故障,通过最优化Softmax的成本函数从而得到其预训练后的Softmax模型参数;然后进行BP算法全局微调网络参数,对整个训练过程的所有模型参数进行有监督地微调,以无监督预训练好的SDSA模型参数和有监督预训练Softmax模型参数作为初始值,以预处理好的训练样本为输入层,首先通过这些SDSA参数逐层特征学习,从而得到最终隐层的特征矩阵,将该特征矩阵通过Softmax分类器计算其损失函数值本文档来自技高网
...

【技术保护点】
1.一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法,其特征在于,所述方法包括以下步骤:步骤一、数据采集:对于模拟系统或DCS系统采集到的历史时序数据作为训练样本集Xtrain,来自DCS系统的化工过程实时数据作为测试样本集Xtest,其中采集到的训练样本集Xtrain包含正常工况下和各种故障工况下的时序数据,用于建立本方法的智能故障检测模型,测试样本集Xtest是在线监测的实时工况数据,也包含正常工况下和各种故障下的时序数据,用于验证本方法的诊断精度或实际工业中应用本方法建立的模型来实现故障检测;步骤二、数据预处理:首先计算出训练样本集Xtrain中正常工况下的数据的各监测变量的均值Xmean和标准差Xstd,然后将训练样本集Xtrain和测试样本集Xtest都利用该均值Xmean和标准差Xstd进行标准化预处理,标准化预处理后的训练样本集Xtrainstd和测试样本集Xteststd再进行白化预处理得到白化后的训练样本集Xtrainwhite和测试样本集Xtestwhite,至此完成训练样本和测试样本集的预处理;步骤三、离线训练:采用预处理好的训练样本建立化工过程智能故障检测模型,其过程可分为无监督预训练栈式降噪稀疏自动编码机、有监督预训练Softmax分类器、BP算法全局微调网络参数、粒子群优化可调超参数四大部分,首先进行无监督预训练栈式降噪稀疏自动编码机,对预处理后的训练集采用N个降噪稀疏编码机将样本集逐层编码为特征空间,采用逐层训练的方法,在每一层训练过程中优化其各层的损失函数最小化,从而得到各层模型参数,最终得到其N个隐层学习到的训练样本的最终特征hN;其次进行有监督预训练Softmax分类器,将hN作为Softmax分类器模型的输入,将所有学习到的训练样本特征附加对应的工况标签...

【技术特征摘要】
1.一种基于粒子群优化和降噪稀疏编码机的化工故障检测方法,其特征在于,所述方法包括以下步骤:步骤一、数据采集:对于模拟系统或DCS系统采集到的历史时序数据作为训练样本集Xtrain,来自DCS系统的化工过程实时数据作为测试样本集Xtest,其中采集到的训练样本集Xtrain包含正常工况下和各种故障工况下的时序数据,用于建立本方法的智能故障检测模型,测试样本集Xtest是在线监测的实时工况数据,也包含正常工况下和各种故障下的时序数据,用于验证本方法的诊断精度或实际工业中应用本方法建立的模型来实现故障检测;步骤二、数据预处理:首先计算出训练样本集Xtrain中正常工况下的数据的各监测变量的均值Xmean和标准差Xstd,然后将训练样本集Xtrain和测试样本集Xtest都利用该均值Xmean和标准差Xstd进行标准化预处理,标准化预处理后的训练样本集Xtrainstd和测试样本集Xteststd再进行白化预处理得到白化后的训练样本集Xtrainwhite和测试样本集Xtestwhite,至此完成训练样本和测试样本集的预处理;步骤三、离线训练:采用预处理好的训练样本建立化工过程智能故障检测模型,其过程可分为无监督预训练栈式降噪稀疏自动编码机、有监督预训练Softmax分类器、BP算法全局微调网络参数、粒子群优化可调超参数四大部分,首先进行无监督预训练栈式降噪稀疏自动编码机,对预处理后的训练集采用N个降噪稀疏编码机将样本集逐层编码为特征空间,采用逐层训练的方法,在每一层训练过程中优化其各层的损失函数最小化,从而得到各层模型参数,最终得到其N个隐层学习到的训练样本的最终特征hN;其次进行有监督预训练Softmax分类器,将hN作为Softmax分类器模型的输入,将所有学习到的训练样本特征附加对应的工况标签yi=1代表该样本是正常的,yi=2代表该样本是故障,通过最优化Softmax的成本函数从而得到其预训练后的Softmax模型参数;然后进行BP算法全局微调网络参数,对整个训练过程的所有模型参数进行有监督地微调,以无监督预训练好的SDSA模型参数和有监督预训练Softmax模型参数作为初始值,以预处理好的训练样本为输入层,首先通过这些SDSA参数逐层特征学习,从而得到最终隐层的特征矩阵,将该特征矩阵通过Softmax分类器计算其损失函数值,然后使用反馈传播(BP)算法优化全局参数从而使得损失函数最小化收敛即可,从而得到初步训练好的故障检测模型;最后进行粒子群优化可调超参数,由于整个智能故障检测模型中的人工可调超参数并非最优的,如果这些超参数设置不当可能会导致SDSA的性能并非最优,因此将调用粒子群PSO优化算法进行超参数调优,最后确定出最优化超参数的值和其对应的全部模型参数,从而得到最终训练好的故障检测模型用于过程状态的在线监测;步骤四、在线监控:以预处理后的测试样本Xtestwhite作为输入层,根据训练好的故障检测模型,对确定的神经网络结构,采用逐层特征学习法得到最终学习到的测试特征,再通过所学习的最终特征计算其Softmax预测函数的隶属概率值,当得出的隶属类别为1,则说明该工况属于正常,当隶属类别为2,则说明有异常工况出现,随即连接的报警装置发出预警,指示故障检出,同时通知工艺员或工程师及时地检查系统安全并排除故障,从而可以实现对当前工况进行故障监控。2.根据权利要求1所述的基于粒子群优化和降噪稀疏编码机的化工故障检测方法,其特征在于,步骤二中,通过以下步骤实现训练样本集Xtrain和测试样本集Xtest的标准化预处理:训练样本集Xtrain为n×m的矩阵,其中n为样本数,m为观测变量数,通过下式求解标准化处理后的训练样本集Xtrainstd和测试样本集Xteststd:其中,Xij表示训练样本集Xtrain和测试样本集Xtest中第i个样本的第j个变量的值,Xmean,j为训练样本Xtrain中正常工况下数据的第j个变量的均值,Xstd,j训练样本Xtrain中正常工况下数据的第j个变量的标准差。3.根据权利要求2所述的基于粒子群优化和降噪稀疏编码机的化工故障检测方法,其特征在于,步骤二中,通过以下步骤实现训练样本集Xtrain和测试样本集Xtest的白化预处理:(1)、将经过标准化处理后的训练样本集Xtrainstd和测试样本集Xteststd进行白化预处理,通过下式先对训练样本的协方差矩阵进行特征值分解,得到协方差矩阵的特征向量的正交矩阵和其特征值的对角矩阵,从而得到白化矩阵Wwhite:Cov=VDVT(2)Wwhite=VD-1/2VT(3)其中,Cov是标准化处理后的训练样本集Xtrainstd的协方差矩阵,V是协方差矩阵的特征向量的正交矩阵,D是协方差阵的特征值的对角矩阵;(2)、然后白化处理后的训练样本Xtrainwhite和测试样本Xtestwhite均由Wwhite计算得出:其中,Wwhite为白化预处理的白化矩阵,Xtrainwhite是白化处理后的训练样本集,Xtestwhite是白化处理后的测试样本集。4.根据权利要求3所述的基于粒子群优化和降噪稀疏编码机的化工故障检测方法,其特征在于,步骤三中,所述离线训练中的无监督预训练栈式降噪稀疏自动编码机具体通过以下步骤进行:(1)、对于预处理后的训练样本Xtrainwhite为n×m的一个矩阵,n为样本个数,m为观测变量个数,假设其栈式降噪稀疏自动编码机(SDSA)的隐层数为N个,设置其深度神经网络结构,即主要确定各隐层网络的节点数HL1———HLN,其深度神经网络的各层主要定义为:输入层、N个隐层、分类层,因此其全局网络可以看成是具有N+2层的神经网络,首先初始化第一隐层的权重矩阵参数,将Xtrainwhite作为SDSA的输入层,训练出第一隐层的降噪稀疏自动编码机DSA1,通过下式对训练样本Xtrainwhite加入部分服从正态分布的高斯噪声,将训练集变成混有噪声的数据集Xc:Xc=X+le*G(5)其中,X为未加入噪声时的训练集矩阵,第一隐层时X即为预处理后的训练集Xtrainwhite;le为噪声等级,其值取0-1,一般取0.1即可;G为产生的与未加入噪声时的训练集矩阵同维度的高斯噪声,Xc为含有人为噪声的数据集;(2)、添加完干扰噪声后使用Xc作为输入进行编码学习和解码重构,编码阶段实质上是特征学习的阶段,解码则是对特征数据的重构,其编码公式和解码公式为:其中,h为学习的特征,Y为通过特征h重构出的信息,其值与未加入噪声的原始数据X越接近说明模型参数训练得越好;W是编码权重参数矩阵,b1,b2为偏置向量,WT是解码权重参数矩阵,通过上式可学习到第一隐层的特征h1和第一隐层的模型参数W1,b11,b21;(3)、定义合理的损失函数,然后不断优化该损失函数达到最小值即能发挥模型的最优能力,其损失函数如下:其中,Ltotal(W,WT,b1,b2)代表当前隐层的降噪稀疏自动编码机的损失函数值,n为样本个数,Yi为第i个样本的重构信息向量值,xi为第i个样本未加入噪声时的原始数据向量值,为第l层的权重参数的第i行第j列的值,λr是正则化权重衰减超参数,用于调节该方程的权重;sl表示单个降噪自动编码机的第l层的节点数,s(l+1)表示第l+1...

【专利技术属性】
技术研发人员:苏堪裂李秀喜旷天亮
申请(专利权)人:华南理工大学
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1