一种基于增量支持向量回归的自适应质量预报方法技术

本发明专利技术公开了一种基于增量支持向量回归的自适应质量预报方法，该方法为适应复杂多变的多工况生产过程，在原始的支持向量回归模型的基础上，利用其自身的KKT条件，实现对新增样本的区分学习，对带有信息的样本进行增量学习，对不带有新信息的样本保持模型不变，能够在保证模型泛化能力的同时降低模型更新频率；本发明专利技术不仅能够有效面对实际工业过程中的非线性，还针对过程中的时变特性对模型进行不断更新，且一定程度上改善了模型更新效率的问题，从而达到自适应质量预报的目的。

An Adaptive Quality Forecasting Method Based on Incremental Support Vector Regression

【技术实现步骤摘要】
一种基于增量支持向量回归的自适应质量预报方法
本专利技术属于工业过程控制及软测量领域，涉及一种基于增量支持向量回归的自适应质量预报方法。
技术介绍
工业过程中存在着许多无法或难以直接测量的变量，这些变量通常与产品质量密切相关，是必须进行监控的参数，软测量技术是解决该问题的一种有效方法，目前已在工业过程中得到广泛应用。近年来，基于数据驱动的软测量建模方法得到了人们的普遍关注。其中，支持向量回归基于结构风险最小化原则，较好地解决了小样本、非线性和局部极小等问题，已被广泛应用于多个研究领域。目前的支持向量回归学习算法大多是离线、批处理式的，而在大多数工业过程中，由于过程环境的改变、平台仪器设备的老化、原材料进料变化以及催化剂活性退化等各种因素，过程物理化学特性处在不断的变化之中，因而其运行工况经常发生变化，一般具有动态时变的特点。这样离线训练得到的模型不能保证长期适用，因此对支持向量回归在线学习方法的研究具有重要的理论意义和使用价值。为了正确跟踪过程状态，需要对软测量模型进行及时自适应更新和校正。针对工业过程的时变特性，因此有专家提出了滑动窗支持向量回归、局部加权支持向量回归等。若不加区分地对每一个新增样本都进行增量学习，类似于滑动窗口这种模式势必造成模型频繁更新，本专利技术基于支持向量回归模型的KKT条件，实现对新增样本的区分学习，一定程度上降低了模型更新频率，提高了模型更新效率。
技术实现思路
针对目前工业过程时变特性，本专利技术提出了一种基于增量支持向量回归的自适应质量预报方法，该方法基于支持向量回归的KKT条件选择出那些包含足够多新信息的样本进行增量学习，能够在保证模型泛化能力的同时降低模型更新频率，从而实现了工业过程的自适应质量预报。本专利技术具体技术方案如下：(1)收集历史工业过程中的训练数据集P(x，y)∈Rn×m，其中包括输入数据x和质量变量y，n表示样本个数，m表示变量个数，R表示实数集；(2)将步骤(1)中收集到的训练数据集P标准化：化为均值为0，方差为1的新数据集并对标准化的新数据集建立支持向量回归模型并得到一部分支持向量SVs，该模型可通过下式求解；其中，w为法向量，b为位移项，为非线性映射函数，xi为输入数据，wT为法向量的转置，yi为质量变量值，C是惩罚因子，ξ和ξ*是松弛因子，ε为容忍误差，i为样本索引。引入Lagrange函数，并将公式(1)改成凸二次规划问题：其中为对偶参数，K(xi，xj)＝φ(xi)Tφ(xi)称为核函数，φ(xi)为非线性映射函数，这里选用高斯核函数：K(xi，x)＝exp(-gamma·||xi-x||2)(8)其中，gamma表示核函数参数；由此可构造决策函数定义样本系数偏差和边界函数h(xi)＝f(xi)-yi。则根据系数偏差值和边界函数值，基于优化上述问题的KKT条件，将训练数据集P分为以下三个子集：其中，E为误差支持向量集，S为边界支持向量集，R为剩余样本集。(3)将采集到的实时数据标准化处理，并利用步骤(2)得到的支持向量回归模型对新样本进行质量预测并输出结果(4)当获得质量变量y的真实输出ynew时，计算h(xnew)为预测误差，xnew为新输入数据；(5)通过h(xnew)进一步判断新增数据集是否满足KKT条件即检验|h(xnew)|是否大于ε，如果大于ε则表明不满足KKT条件，表示当前模型并不能很好地描述新增数据集，需要对新增数据集进行增量学习，将新增数据集加入到SVs中更新模型；若小于ε则表明满足KKT条件则继续用旧模型预测；(6)当有新训练数据集获得时，重复步骤(3)至步骤(5)，实现工业过程的自适应质量预报。与现有技术相比，本专利技术具有的有益效果是：针对过程时变特性，本专利技术提出一种基于增量支持向量回归的自适应建模方法。通过对训练样本有选择地添加或删除，实现模型在线更新，以有效地跟踪过程工况的变化。相比于传统的滑动窗方法，每次都需要重新建模，一定程度上提高了模型的更新效率。附图说明图1是在线自适应建模流程图；图2是脱丁烷塔流程图；图3是滑动窗支持向量回归的预测输出结果图；图4是增量支持向量回归的预测输出结果图；具体实施方式下面结合具体实施方式对本专利技术基于增量支持向量回归的自适应工业质量预报方法作进一步的详述。一种基于增量支持向量回归的自适应质量预报方法，其中，所述的增量支持向量回归的自适应质量预报方法的流程如图1所示，在线获得新的训练数据集后，检测新数据集是否满足现有模型的KKT条件，若不满足，则进行增量学习训练数据集信息。具体步骤如下：(1)收集历史工业过程中的训练数据集P(x，y)∈Rn×m，其中包括输入数据x和质量变量y，n表示样本个数，m表示变量个数，R表示实数集；(2)将步骤(1)中收集到的训练数据集P标准化：化为均值为0，方差为1的新数据集并对标准化的新数据集建立支持向量回归模型并得到一部分支持向量SVs，该模型可通过下式求解；其中，w为法向量，b为位移项，为非线性映射函数，xi为输入数据，wT为法向量的转置，yi为质量变量值，C是惩罚因子，ξ和ξ*是松弛因子，ε为容忍误差，i为样本索引。引入Lagrange函数，并将公式(1)改成凸二次规划问题：其中为对偶参数，K(xi，xj)＝φ(xi)Tφ(xi)称为核函数，φ(xi)为非线性映射函数，这里选用高斯核函数：K(xi，x)＝exp(-gamma·||xi-x||2)(13)其中，gamma表示核函数参数；由此可构造决策函数定义样本系数偏差和边界函数h(xi)＝f(xi)-yi。则根据系数偏差值和边界函数值，基于优化上述问题的KKT条件，将训练数据集P分为以下三个子集：其中，E为误差支持向量集，S为边界支持向量集，R为剩余样本集。(3)将采集到的实时数据标准化处理，并利用步骤(2)得到的支持向量回归模型对新样本进行质量预测并输出结果(4)当获得质量变量y的真实输出ynew时，计算h(xnew)为预测误差，xnew为新输入数据；(5)通过h(xnew)进一步判断新增数据集是否满足KKT条件即检验|h(xnew)|是否大于ε，如果大于ε则表明不满足KKT条件，表示当前模型并不能很好地描述新增数据集，需要对新增数据集进行增量学习，将新增数据集加入到SVs中更新模型；若小于ε则表明满足KKT条件则继续用旧模型预测。这样做的目的是为了让模型拥有自适应更新的能力，当遇到新的状态信息或者过程发生明显变化的时候，模型能够根据新来的信息及时更新模型的参数；总的来说，本专利技术针对过程时变特性，提出一种基于增量支持向量回归的自适应建模方法。通过对训练样本有选择地添加或删除，实现模型在线更新，以有效地跟踪过程工况的变化。相比于传统的滑动窗方法，每次都需要重新建模，一定程度上提高了模型的更新效率。(6)当有新训练数据集获得时，重复步骤(3)至步骤(5)，实现工业过程的自适应质量预报。此外，均方根误差(RMSE)对预测性能进行定量评价，表达式如下所示：其中，yi是质量变量值，是模型的预测输出，Nts表示在线测试样本的个数。实施例以下结合一个具体的脱丁烷塔例子来说明增量支持向量回归模型的性能。脱丁烷塔是一个用于软测量建模算法验证的一个常用的标准工业过程平台。脱丁烷塔是精炼过程中的装置之一，流程图如图2所示，本文档来自技高网...

【技术保护点】
1.一种基于增量支持向量回归的自适应质量预报方法，其特征在于，所述自适应质量预报方法包括以下步骤：(1)收集历史工业过程中的训练数据集P(x，y)∈R

【技术特征摘要】
1.一种基于增量支持向量回归的自适应质量预报方法，其特征在于，所述自适应质量预报方法包括以下步骤：(1)收集历史工业过程中的训练数据集P(x，y)∈Rn×m，其中包括输入数据x和质量变量y，n表示样本个数，m表示变量个数，R表示实数集；(2)将步骤(1)中收集到的训练数据集P标准化：化为均值为0，方差为1的新数据集并对标准化的新数据集建立支持向量回归模型并得到一部分支持向量SVs，该模型可通过下式求解；其中，w为法向量，b为位移项，为非线性映射函数，xi为输入数据，wT为法向量的转置，yi为质量变量值，C是惩罚因子，ξ和ξ*是松弛因子，ε为容忍误差，i为样本索引。引入Lagrange函数，并将公式(1)改成凸二次规划问题：其中αi，为对偶参数，K(xi，xj)＝φ(xi)Tφ(xi)称为核函数，φ(xi)为非线性映射函数，这里选用高斯核函数：K(xi，x)＝exp(-gamma·||xi-x||2)(3)其中，g...

【专利技术属性】
技术研发人员：葛志强，杨泽宇，宋执环，
申请(专利权)人：浙江大学，
类型：发明
国别省市：浙江,33