一种非线性核化自适应预测方法技术

本发明专利技术公开了一种非线性核化自适应预测方法，包括数据预处理、子空间划分、子空间自适应拟合控制、子空间连接、新样本预测、预测输出六个步骤。流程是：数据经过预处理后，将数据整体空间剖分为若干个连续的子空间，在每个子空间上基于粒子群支持向量回归的智能滑动控制器，自适应选择最优核和参数，构造局部最优拟合超曲面，进而利用拉格朗日三点插值加以连接，以形成最终的全空间回归预测函数，然后对新数据进行预测、输出。本发明专利技术实现了数据特征空间划分，提高了大规模多属性非线性数据预测速度；基于粒子群支持向量回归智能滑动控制器，自适应筛选适应数据分布的核函数，优化整体参数，确保了拟合预测精确度和准确率。

【技术实现步骤摘要】

本专利技术属于人工智能领域，涉及一种非线性预测方法，特别是涉及，具体地说是涉及一种快速高效的基于核函数非线性自适应回归预测方法。
技术介绍
非线性预测控制的研究是机器学习的核心研究内容之一，已成为学术界和工业界关注的焦点。在统计学习理论基础之上发展起来的支持向量回归机(Support Vector Regression Machine, SVR)将非线性预测问题转化为一种基于核的机器学习问题。通过核函数的点积，方便地把非线性变换转化为某个高维空间的线性问题，这在很大程度上简化了应用计算及非线性映射函数的搜索，从而解决了很多模式分析和机器学习领域的非线性预测的难题，并被广泛应用于系统辨识、工业非线性系统控制、数据融合、金融预测等领域。SVR的性能依赖于学习机的核函数和参数选择，针对同一回归问题，选择不同的核函数，回归预测性能可能会相差很大。这主要是因为构成核函数K(x，y)的非线性映射 Φ (x)是隐函数，且这些隐函数的类型是多样可变的。所以当人们对特定问题没有任何先验知识的时候，很难确定应该选择哪一类核函数进行计算。此专利技术构建了一个核函数库，在这个核函数库里，利用自适应智能滑动控制器可自由地选择核，进行动态数据拟合，选择拟合误差最小的核函数，解决了人为构建和挑选核函数的困难。另外，利用粒子群优化算法 (Particle Swarm Optimization, PS0)，自适应地控制搜索SVR参数进程，使得SVR及核函数在预测时获得最优性能。由于实际应用当中，SVR存储量和计算量很大，特别，海量数据在寻找最优SVR参数的过程中，整体核函数计算量会使得计算机处于停滞状态。于是，SVR 的运算速度成为其应用的屏障。本专利技术将数据空间划分为连续地子空间，在子空间中应用 PSO-SVR核化机器进行预测，大大地提高整体应用效果。与本专利技术相关的支持向量回归函数(SVR)专利和论文有一种基于支持向量回归机的网格负载预测方法(申请号为200910184148. 4)，此方法采用时间序列法对网格负载历史数据进行自回归建模，根据模型的阶数估计支持向量输入维数，然后对历史负载构建支持向量回归函数(SVR)，预测网格下一时刻节点的性能。此专利技术专利没有研究核函数选择和参数优化问题，也没有对整体空间划分后逐段进行优化拟合。一种应用于话务量预测的分段在线支持向量回归方法(申请号为200910072312. 2)，实现对于移动通信话务量时间序列的在线、实时和快速建模和预测，此专利技术专利构建了分段在线支持向量回归机，根据待预测领域时间序列与各子段模型的匹配度，选择最优子分段模型。此专利技术专利没有研究动态核函数选择与参数调整的过程，也没有整体函数拟和过程。另外，2009年1月任双桥，杨德贵等在计算机学报上发表的《分片支撑矢量机》，借鉴分段线性模式识别的基本思想，对数据空间进行划分，讨论分段非线性支持向量机分类问题，这项研究主要用于分类问题，与本专利技术中的回归预测问题还是有很大差异的。
技术实现思路
本专利技术的目的在于提供，特别是提供一种快速高效的基于核函数非线性自适应回归预测方法。本专利技术不同于以往的专利技术之处在于(1)本专利技术借鉴分段线性拟和思想，对高维数据空间进行子空间划分，在各子空间中采用粒子群支持向量回归智能滑动控制器自适应地筛选适应数据分布的核函数，构建最优SVR预测模型；(2)基于粒子群优化算法，自动调整支持向量回归机的参数，使得回归预测误差最小； (3)利用拉格朗日三点插值将各子空间连接，使得拟和模型成为一个整体。本专利技术的，依次包括以下六个步骤数据预处理、 子空间划分、子空间自适应拟合控制、子空间连接、新样本预测和预测输出；数据经过预处理后，将数据整体空间剖分为若干个连续的子空间，在每个子空间上基于粒子群支持向量回归的智能滑动控制器，自适应选择最优核和参数，构造局部最优拟合超曲面，进而利用拉格朗日三点插值加以连接，以形成最终的全空间回归预测函数，然后对新数据进行预测、输出；具体步骤如下(1)数据预处理，用户提交预测请求的数据(x，y)给数据预处理模块；数据预处理模块对数据归一化处理，并将数据随机分成四份，前三份作为训练数据，最后一份作为预测测试数据；(2)子空间划分，捕捉训练数据χ各个维度的最大值max和最小值min，将其等距离地划分为t个连续的子空间Qi, i = 1,2, ..t，，使得各个子空间区间度为权利要求1.，其特征是依次包括以下六个步骤数据预处理、 子空间划分、子空间自适应拟合控制、子空间连接、新样本预测和预测输出；数据经过预处理后，将数据整体空间剖分为若干个连续的子空间，在每个子空间上基于粒子群支持向量回归的智能滑动控制器，自适应选择最优核和参数，构造局部最优拟合超曲面，进而利用拉格朗日三点插值加以连接，以形成最终的全空间回归预测函数，然后对新数据进行预测、输出；具体步骤如下(1)数据预处理，用户提交预测请求的数据(X，y)给数据预处理模块；数据预处理模块对数据归一化处理，并将数据随机分成四份，前三份作为训练数据，最后一份作为预测测试数据；(2)子空间划分，捕捉训练数据χ各个维度的最大值max和最小值min，将其等距离地划分为t个连续的子空间Qi, i = 1，2，. . .，t，使得各个子空间区间度为2.根据权利要求1所述的，其特征在于，所述的粒子群支持向量回归的智能滑动控制器，是一种并行核控制逼近器，能自动调节支持向量回归非线性参数，筛选出满足数据性能要求的核；所述的控制器由三个要素组成1)并行核候选控制器集合IC1, C2, . . . CJ ；2)评价各个控制器的性能指标的决策器；3)控制器切换机 P ；在子空间Ω」上，每个粒子群支持向量回归自适应智能滑动控制器CiG = 1,2,...， k)对应核函数库中的一个核函数K(X，X')，应用粒子群支持向量回归模型，获取最优参数组合^ =(核参数、管道s、惩罚参数C)，以及子空间Ω j上样本集拟合预测均方误差3.根据权利要求1所述的，其特征在于，所述的粒子群支持向量回归自适应智能滑动控制器，对应核函数库中的线性核函数、多项式核函数、径向基核函数、Sigmoid核函数或傅里叶核函数，是并行粒子群支持向量核函数逼近控制器。4.根据权利要求1所述的，其特征在于，所述的拉格朗日三点插值逐步拟合的三点是指子空间超曲面末端缓冲区的起始点、相邻子空间超曲面起始点和它们的中间点，即，设子空间Ω j缓冲区域设为，这三点为U1 = Xj- Δ χ， V1 =K^-M; U2 = Xi-Δ χ/2, V2 =Yyixj-Μ) ^yixj)]/2-,U3= X1, V3 =K^) ‘ 0」与 Ω J+1 连接曲线为全文摘要本专利技术公开了，包括数据预处理、子空间划分、子空间自适应拟合控制、子空间连接、新样本预测、预测输出六个步骤。流程是数据经过预处理后，将数据整体空间剖分为若干个连续的子空间，在每个子空间上基于粒子群支持向量回归的智能滑动控制器，自适应选择最优核和参数，构造局部最优拟合超曲面，进而利用拉格朗日三点插值加以连接，以形成最终的全空间回归预测函数，然后对新数据进行预测、输出。本专利技术实现了数据特征空间划分，提高了大规模多属性非线性数据预测速度；基于粒子群支持向量回归智能滑动控制器，本文档来自技高网...

【技术保护点】
１．一种非线性核化自适应预测方法，其特征是依次包括以下六个步骤：数据预处理、子空间划分、子空间自适应拟合控制、子空间连接、新样本预测和预测输出；数据经过预处理后，将数据整体空间剖分为若干个连续的子空间，在每个子空间上基于粒子群支持向量回归的智能滑动控制器，自适应选择最优核和参数，构造局部最优拟合超曲面，进而利用拉格朗日三点插值加以连接，以形成最终的全空间回归预测函数，然后对新数据进行预测、输出；具体步骤如下：（１）数据预处理，用户提交预测请求的数据（ｘ，ｙ）给数据预处理模块；数据预处理模块对数据归一化处理，并将数据随机分成四份，前三份作为训练数据，最后一份作为预测测试数据；（２）子空间划分，捕捉训练数据ｘ各个维度的最大值ｍａｘ和最小值ｍｉｎ，将其等距离地划分为ｔ个连续的子空间Ωｉ，ｉ＝１，２，．．．，ｔ，使得各个子空间区间度为子空间Ωｉ∩Ωｊ＝Φ，ｉ≠ｊ；（３）子空间自适应拟合控制，在每个子空间Ωｊ上基于粒子群支持向量回归原理，通过自适应智能滑动控制器，筛选输出局部最优拟合超曲面这里，αｉｊ和为ＳＶＲ的非负Ｌａｎｇｒａｎｇｅ乘子，ｂｊ为最优拟合面的平移分量，Ｋ（·）为选择的核函数，ｌｊ为子空间Ωｊ中的训练样本数，ｘｉｊ为子空间Ωｊ中第ｉ个训练样本；（４）子空间连接，将各个拟合超曲面在边界附近构造一个缓冲区域，在该缓冲区域中，对相邻子空间Ωｊ、Ωｊ＋１的最优拟合面和端点，应用拉格朗日三点插值逐步拟合连接全空间Ω，形成整体拟合函数（５）新样本的预测，将预测测试数据ｘ带入函数模型，系统自动计算各个子空间中的误差，选定误差最小的曲面为最优拟合曲面，获取数据ｘ的预测值（６）将预测值利用反归一化方法后，还原输出。...

【技术特征摘要】

【专利技术属性】
技术研发人员：丁永生，程丽俊，郝矿荣，郭崇滨，
申请(专利权)人：东华大学，
类型：发明
国别省市：31