一种基于SPCA的神经网络混合优化预测方法技术

技术编号:24209097 阅读:138 留言:0更新日期:2020-05-20 16:01
本发明专利技术涉及一种基于SPCA的神经网络混合优化预测方法。本发明专利技术首先采集化工过程中影响重要变量的过程变量,利用串行主成分分析方法对数据做预处理,结合主成分分析和核主成分分析方法处理线性和非线性混合数据,降低数据维度,其次使用RBF神经网络作为预测模型,结合LM算法和遗传算法对预测模型的参数进行优化,提高预测模型的性能,最后将预处理后的数据放入优化后的预测模型中,进行预测。不同于传统的方法,本发明专利技术有处理线性和非线性混合数据的能力,且结合优化算法,能够提高预测模型精度。

A neural network hybrid optimization prediction method based on SPCA

【技术实现步骤摘要】
一种基于SPCA的神经网络混合优化预测方法
本专利技术属于自动化工业
,涉及一种基于SPCA的神经网络混合优化预测方法。
技术介绍
随着现代化工业过程的不断成熟化、复杂化,产生越来越多的线性和非线性混合的过程数据不能很好的进行处理。在一些化工过程中,重要的变量也不能通过传感器设备测量,只能通过时滞较大的离线分析值进行调节,使工业过程控制变得复杂且困难。如果这些变量不能实时得到,不仅不能保证系统的所需性能,甚至会直接影响化工装置的生产能力及质量的稳定性。为了更好的处理过程数据,得到难以测量的变量,实现对工业过程进行精准控制,提出了一种基于SPCA的神经网络混合优化预测方法。
技术实现思路
本专利技术针对传统方法不能处理线性和非线性混合的数据,且模型预测性能较低等问题,提出了一种基于SPCA的神经网络混合优化预测方法。本专利技术首先采集化工过程中影响重要变量的过程变量,利用串行主成分分析(SPCA)方法对数据做预处理,结合主成分分析和核主成分分析方法处理线性和非线性混合数据,降低数据维度,其次使用RBF神经网络作为预测模型,结合LM算法和遗传算法对预测模型的参数进行优化,提高预测模型的性能,最后将预处理后的数据放入优化后的预测模型中,进行预测。不同于传统的方法,本专利技术有处理线性和非线性混合数据的能力,且结合优化算法,能够提高预测模型精度。本专利技术的技术方案是通过数据采集、数据预处理、系统建模、优化参数等手段,确立了一种基于SPCA的神经网络混合优化预测方法。利用该方法提升了模型预测的准确性。本专利技术的方法步骤包括:步骤一、采集相关工业过程数据,利用SPCA方法对数据进行处理。具体步骤是:1-1.对于原始数据X∈Rn×m执行主成分分析,求解优化问题,形式如下:s.t.||pLi||=1其中,X是工业过程中采集的原始数据,n是原始数据维数,pLi是第i主成分的特征向量,max是最大化,s.t.||pLi||是约束||pLi||。1-2.根据步骤1-1,通过协方差矩阵的特征分解得到特征向量pLi,形式如下:其中,λLi是的第i个特征值。1-3.根据步骤1-2,求得第i主成分,形式如下:tLi=XpLi其中,tLi是原始数据X的第i主成分。1-4.根据第i个特征向量pLi和第i+1个特征向量pLi+1标准正交,重复步骤1-1至1-3,并利用预设的主成分累积贡献率,选取前KL个主成分,形式如下:其中,是前KL个主成分的累积贡献率,是矩阵X的所有主成分和,∑是求和符号,如果前KL个主成分累积贡献率可以达到预设值,就得到主成分1-5.结合步骤1-4,得到原始数据的残差子空间矩阵形式如下:其中,是主成分分析后的矩阵。1-6.把残差子空间矩阵映射到高维空间上,形式如下:其中,是的高维矩阵,tNi是第i个主成分,pNi是第i个特征向量,KN是保留的非线性主成分数量,E是核主成分分析之后的残差矩阵。1-7.对高维空间上的执行核主成分分析,求解优化问题:s.t.||pNi||=11-8为了获得核主成分分析的特征向量pNi,将协方差矩阵的特征分解得到,形式如下:其中,λNi是的第i个特征值。1-9.由于特征向量pNi可以表示为的线性组合,pNi的线性形式表示如下:其中,ai=[ai,1...ai,n]是系数,1-10.结合步骤1-9,对步骤1-7的形式进行转化,形式如下:1-11.利用核函数ker(xi,xj)=φT(xi)φ(xj)对上式做优化,并结合协方差矩阵的特征分解,得到下式:(n-1)λNiai=Kai其中,K是由[K]i,j=ker(xi,xj)给出的具有i行j列元素的核矩阵,可以看出λNi和ai分别是K的第i个特征值和特征向量。1-12结合步骤1-11,求得第i个核主成分,形式如下:其中,tNi是的第i核主成分。由步骤1-4的思想,重复步骤1-7至1-12得到的前KN个核主成分为将主成分数量KL和核主成分数量KN组合得到SPCA分析后的新数据步骤2、使用步骤1中得到的新数据,建立RBF神经网络模型,并使用优化算法对模型参数进行优化,提高预测性能。2-1.将SPCA之后的数据集分为训练集和测试集,建立RBF神经网络预测模型,形式如下:其中,是神经网络预测输出,是训练集,i=1,2,...,I是隐藏层节点个数,ωi是第i个神经元连接隐藏层和输出层的权值,是使用高斯函数的隐藏层中的第i个神经元输出,ci是第i个神经元函数的中心,σi是第i个神经元函数的宽度,是输入变量和中心之间的欧式距离。神经网络预测模型的训练需要求解并优化以下三个参数,步骤如下:2-2.通过递归最小二乘法得到的权值初始值,使用LM算法进行优化,形式如下:ω(k+1)=ω(k)+ΔωΔω=(JTJ+μ)-1JTe其中,e是预测输出和实际输出之间的误差,Δω是权值的修正量,是误差对权值导数的雅克比矩阵,μ为各层神经元沿负梯度下降运算的约束系数。2-3.结合步骤2-2,得到权值向量ω(k),根据K-均值聚类算法确定ci和σi两个参数的初始值,用遗传算法优化三个参数:步骤如下:2-3-1.染色体编码形式如下:对2-2中初步确定的神经网络的ci和σi进行编码成一条染色体,形式如下:R=[c1...ci...σ1...σi...ω1...ωi].2-3-2.遗传算法的适应度函数形式如下:根据遗传算法中适应度函数望大的特性,将网络误差平方和的倒数作为适应度函数,则适应度函数表示如下:2-3-3.对染色体进行选择操作,形式如下:采取轮盘赌方法进行选择操作,选择个体r的概率pr表示如下:其中,fr和fm分别是个体r和m的适应度函数,M为种群个数。2-3-4.对染色体进行交叉、变异操作,形式如下:选择操作出来的个体直接复制到下一代,对于其他个体,随机选择两个个体的相同位置,按照交叉概率在选中的位置进行交叉,并按照变异概率对个体的某些基因位进行变异。2-4.根据均方根误差(RMSE)和绝对平均误差(MAE)指标评估RBF神经网络的建模精度,形式如下:其中,Y(Xn)是实际的输出。2-5.将步骤2-3-4中得到的三个参数作为神经网络的参数值,进行神经网络训练,重复步骤2-2和步骤2-4,直至模型预测准确率达到预定值,并将测试集通过步骤一的数据处理后输入到神经网络的训练模型中,验证神经网络预测模型的准确性。本专利技术的有益效果:通过对影响重要变量的输入变量进行SPCA处理,结合线性和非线性的主成分数据之后放入RBF神经网络模型中,结合LM算法和遗传算法的混合优化算法对神经网络模型本文档来自技高网...

【技术保护点】
1.一种基于SPCA的神经网络混合优化预测方法,其特征在于该方法包括以下步骤:/n步骤一、采集水泥脱硝过程影响NO

【技术特征摘要】
1.一种基于SPCA的神经网络混合优化预测方法,其特征在于该方法包括以下步骤:
步骤一、采集水泥脱硝过程影响NOx浓度输出的相关变量,利用SPCA方法对数据进行处理;具体步骤是:
1-1.对于水泥脱硝过程影响NOx浓度输出的原始数据X∈Rn×m执行主成分分析,求解优化问题,形式如下:



s.t.||pLi||=1
其中,X是标准化后的影响NOx浓度输出的相关向量矩阵组合,包括机组负荷、喷氨量、SCR入口烟温、入口NOx浓度、入口烟气含氧量、出口烟气含氧量、脱硝效率,n是影响NOx浓度输出的样本个数,pLi是第i主成分的特征向量,max是最大化,s.t.||pLi||是约束||pLi||;
1-2.根据步骤1-1,通过协方差矩阵的特征分解得到特征向量pLi,形式如下:



其中,λLi是的第i个特征值;
1-3.根据步骤1-2,求得第i主成分,形式如下:
tLi=XpLi
其中,tLi是原始数据X的第i主成分;
1-4.根据第i个特征向量pLi和第i+1个特征向量pLi+1标准正交,重复步骤1-1至1-3,并利用预设的主成分累积贡献率,选取前KL个主成分,形式如下:



其中,是前KL个主成分的累积贡献率,是矩阵X的所有主成分和,∑是求和符号,如果前KL个主成分累积贡献率达到预设值,就得到主成分
1-5.结合步骤1-4,得到原始数据的残差子空间矩阵形式如下:



其中,是主成分分析后的矩阵;
1-6.把残差子空间矩阵映射到高维空间上,形式如下:



其中,是的高维矩阵,tNi是第i个主成分,pNi是第i个特征向量,KN是保留的非线性主成分数量,E是核主成分分析之后的残差矩阵;
1-7.对高维空间上的执行核主成分分析,求解优化问题:



s.t.||pNi||=1
1-8.为了获得核主成分分析的特征向量pNi,将协方差矩阵的特征分解得到,形式如下:



其中,λNi是的第i个特征值;
1-9.由于特征向量pNi可表示为的线性组合,pNi的线性形式表示如下:



其中,ai=[ai,1...ai,n]是系数,
1-10.结合步骤1-9,对步骤1-7的形式进行转化,形式如下:






1-11.利用核函数ker(xi,xj)=φT(xi)φ(xj)对上式做优化,并结合协方差矩阵的特征分解,得到下式:
(n-1)λNiai=Kai
其中,K是由[K]i,j=ker(xi,xj)给出的具有i行j列元素的核矩阵,则λNi和ai分别是K的第i个特征值和特征向量;
1-12结合步骤1-11,求得第i个核主成分,形式如下:



其中,tNi是的...

【专利技术属性】
技术研发人员:于征张日东吴胜
申请(专利权)人:杭州电子科技大学
类型:发明
国别省市:浙江;33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1