一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法技术

本发明专利技术公开一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法，该方法首先结合Bootstrapping随机重采样和偏互信息构建多样性输入变量子集，用高斯混合模型算法将对应的原始样本子集划分为不同建模区域，并建立相应的高斯过程回归基模型，进行后验概率加权融合，构建第一层集成模型EGPR。接下来以进化优化的视角构建多目标优化问题，选出性能较好且满足多样性的EGPR模型进行最终集成。该发明专利技术充分考虑了样本信息和输入变量信息的多样性，能有效保证基模型的多样性和预测精度。其次，选择性集成策略的引入有效克服了传统集成学习融合所有局部模型的缺陷，既显著降低了集成建模的复杂度，又提升了模型预测性能。

A Soft Sensing Modeling Method for Selective Hierarchical Integration of Gauss Process Regression Based on Evolutionary Multiobjective Optimization

【技术实现步骤摘要】
一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法
本专利技术涉及的是一种软测量
的方法，具体是一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法。
技术介绍
随着现代工业制造技术的发展，准确、实时测量过程工艺中的关键参数并实施优化控制，已经逐渐成为提高产品质量的重要手段。然而，实际工业生产过程通常具有强非线性、大滞后等特点，导致这些参数的测量周期较长，难以检测，软测量技术为此类难测参数的在线估计提供了有效途径。集成学习通过构建并结合多个基模型来完成学习任务，常可获得比单一模型显著优越的泛化性能，因而在软测量领域得到广泛应用。相比于传统全局建模方法，集成学习不仅有利于精准表征局部过程特征，还能显著提升模型的预测精度和可靠性。然而，要获得好的集成，基模型要同时具有一定的准确性和多样性。如何产生并结合“好而不同”的基模型，正是集成学习的关键所在。首先，需要有效地生成多样性强的基模型。常规的集成学习软测量建模方法大多是通过单模态扰动的方式生成基模型，从而导致基模型预测性能不高、多样性不足等问题，进而制约集成学习模型性能。实际上，训练样本和输入特征的选择都是本文档来自技高网...

【技术保护点】
1.一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法，其特征在于，包括以下步骤：(1)采集数据形成样本集，将样本集分为训练集Dtrn和验证集Dval，对训练集Dtrn进行随机重采样，获得一组共计M个建模样本子集{(X1,y1)；…；(XM,yM)}，对每个建模样本子集进行PMI相关性分析，构建一组共计M个输入子空间{S1,…,SM}；(2)基于原始训练样本Dtrn估计得到GMM的参数，然后提取输入子空间{S1,…,SM}的对应原始训练样本，得到一组共计M个新的训练样本子集，对于每一个新的训练样本子集，根据GMM算法将其划分为C个局部建模区域{LD1,…LDk,…LDc}，则相应...

【技术特征摘要】
1.一种基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法，其特征在于，包括以下步骤：(1)采集数据形成样本集，将样本集分为训练集Dtrn和验证集Dval，对训练集Dtrn进行随机重采样，获得一组共计M个建模样本子集{(X1,y1)；…；(XM,yM)}，对每个建模样本子集进行PMI相关性分析，构建一组共计M个输入子空间{S1,…,SM}；(2)基于原始训练样本Dtrn估计得到GMM的参数，然后提取输入子空间{S1,…,SM}的对应原始训练样本，得到一组共计M个新的训练样本子集，对于每一个新的训练样本子集，根据GMM算法将其划分为C个局部建模区域{LD1,…LDk,…LDc}，则相应的局部数据集为{D1,…Dk,…Dc}，将第k个数据集表示为其中，Xk∈Rh×d,yk∈Rh×1，h为局部数据集的样本数，由此构建一组高斯过程回归基模型{GPR1,…,GPRc}；(3)计算第k个数据集Dk中任意一个样本x*属于第k个局部区域LDk的后验概率，根据后验概率将步骤(2)中获得的基模型{GPR1,…,GPRc}进行加权集成，获得第一层集成输出，从而构建一组共计M个EGPR模型；(4)将EGPR局部模型的预测精度和多样性指标作为目标函数，采用NSGA-Ⅱ算法进化多目标优化，选出Mselect个EGPR模型进行第二层集成；(5)采用PLSstacking方法将选中的Mselect个EGPR模型进行第二次集成融合构建集成模型，对于一个新的测试样本点xnew，将选中的Mselect个EGPR模型的预测输出作为集成模型的输入，最终得到测试样本点xnew的预测输出。2.根据权利要求1所述的基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法，其特征在于，所述步骤(1)中训练集Dtrn＝{Xtrn,ytrn}，其中，Xtrn表示输入，ytrn表示输出，Xtrn∈Rn×d,ytrn∈Rn×1，n为Dtrn中的训练样本数，d为过程变量数；对建模样本子集进行PMI相关性分析的过程为：①初始化输入变量集V＝{(X1,…,Xd)}，已选变量集Z＝Φ，Y为输出变量；②计算每个输入变量与输出变量的PMI(Xr,Y|Z)：其中N为样本数，X为候选变量，x',y'表示样本数据集中第n个样本的冗余成分，fX'(x')和fY'(y')是边缘概率密度，fX',Y'(x',y')是联合概率密度；③选出②中PMI值最高的候选变量X，如果该PMI值高于第95百分位随机化PMI阈值，则将其加入Z，否则终止变量选择；④重复②和③直至选出所有重要变量。3.根据权利要求1所述的基于进化多目标优化的选择性分层集成高斯过程回归软测量建模方法，其特征在于，所述步骤(2)中高斯过程回归基模型{GPR1,…,GPRc}的建立过程为：对Dk中的样本x*，第k个基模型GPRk的局部预测输出服从高斯分布：所述GPRk模型可描述为：其中，kk,*＝[C(x*,x...

【专利技术属性】
技术研发人员：金怀平，黄思，
申请(专利权)人：昆明理工大学，
类型：发明
国别省市：云南,53