基于集员估计和神经网络的非线性系统构建方法技术方案

本发明专利技术公开一种基于集员估计和神经网络的非线性系统构建方法，包括：根据所获得的非线性系统的输入输出数据集合和非线性系统所受到的噪声数据集合，以高斯径向基函数作为支持向量回归的核函数，通过支持向量回归求解获得支持向量；将获得的支持向量的个数作为径向基函数神经网络隐层节点的数量，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值；通过获得的权值和径向基函数神经网络，构建非线性系统函数。本发明专利技术的方法，在使结构风险最小化的前提下，使复杂性尽量减少，提高所建模系统的预测精度和鲁棒性。

Nonlinear system construction method based on set member estimation and neural network

【技术实现步骤摘要】
基于集员估计和神经网络的非线性系统构建方法
本专利技术涉及实际工程设计以及参数优化领域，具体是一种基于集员估计和神经网络的非线性系统构建方法。
技术介绍
在数字信号处理和控制系统的实际工程应用中都需要对非线性系统进行建模。当对非线性系统的物理、化学等特性不了解的情况下，且只能够获得系统输入输出的数据，对这样的非线性系统进行建模较困难。由于径向基函数(径向基函数)神经网络简单的拓扑结构和强大的逼近能力，而被广泛应用于非线性系统的建模问题。径向基函数神经网络不同于传统的多层神经网络，径向基函数网络有着简单的单隐层网络拓扑结构，并且有着快速的收敛速度。在不需要对非线性系统进行任何数学描述的情况下，可以使用径向基函数神经网络来逼近非线性系统，径向基函数神经网络的特性由其隐层节点数目来反映。在选择径向基函数神经网络对非线性系统进行建模时，常会遇到以下两个问题：神经网络隐层节点数目的选择和输出权值的确定。通常径向基函数神经网络隐层节点的数目只能够通过经验来选择。在实际中仅能获得较少数据的情况下，用传统的统计学习方法难以取得理想的效果，是因为在传统的统计学习方法中普遍采用经验风险最小化原则，需要同时最小化经验风险和置信范围。支持向量回归(SVR)，在解决小样本、非线性及高维函数拟合等方面有着特有的优势。SVR是结构风险最小化的具体实现方法。
技术实现思路
本专利技术的目的就是为了解决现有技术存在的上述问题，提供一种基于集员估计和神经网络的非线性系统构建方法，在使结构风险最小化的前提下，使复杂性尽量减少，提高所建模系统的预测精度和鲁棒性。为实现本专利技术的上述目的，本专利技术提供一种基于集员估计和神经网络的非线性系统构建方法，包括：根据所获得的非线性系统的输入输出数据集合D＝{(x1,y1),…,(xk,yk)}和非线性系统所受到的噪声数据集合E＝{e1,e2,…,ek}，以高斯径向基函数作为支持向量回归的核函数，通过支持向量回归求解获得支持向量；将获得的支持向量的个数作为径向基函数神经网络隐层节点的数量，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值；通过获得的权值和径向基函数神经网络，构建非线性系统函数。其中，所述非线性系统模型的表达式为：yk＝F(xk,θ)+ek其中，yk为非线性系统的输出，θ为待估计的未知参数，F(·)为未知的非线性系统函数，ek为系统所受到的未知但有界噪声扰动。其中，通过支持向量回归求解获得支持向量时，采用高斯径向基函数作为支持向量回归的核函数φk(x)，核函数采用如下公式：其中：φk(x)为网络的输出，是一个从到的函数，||·||表示欧式范数，x为网络的输入，ck∈Rn×1为相应的神经元激活所对应的中心，σ为影响对应激活函数径向传播速度的参数。其中，通过支持向量回归求解获得支持向量时，支持向量回归优化问题的时子函数采用如下公式：其中：ε的选择采用其中，计算支持向量回归优化问题的时子函数时，约束为：其中，在得到最优解集合后，最优解集合中不为零的α的下标所对应的输入数据为支持向量，在得到最优解集合中M个支持向量xk(k＝1,2,...,M)后，确定径向基函数神经网络的隐层节点数目为M；其中，C为惩罚因子，代表模型复杂度和训练误差之间的折中度。其中，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值，集员估计递推公式包括：其中，θk-1为上一步递推得到的一步预测权值，θk为当前时刻递推得到的权值，为系统输入输出数据矩阵，Pk为当前时刻估计状态的协方差矩阵，δk为算法估计残差；λk为权重因子。进一步的，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值，集员估计递推公式还包括：其中，Pk-1为上一时刻估计状态的协方差矩阵，为上一步递推的椭球半径，为当前时刻的椭球半径，γ2为噪声的界。其中，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值时，λk通过最小化估计误差的Lyapunov函数的上界来计算。优选的，所述λk采用如下公式计算：其中，为Gk的最大特征值。根据权利要求1所述的方法，其特征在于，构建的非线性系统函数为：与现有技术相比，本专利技术实施例的基于集员估计和神经网络的非线性系统构建方法具有如下优点：本专利技术采用集员估计算法作为修正径向基函数神经网络从隐层到输出层的权值修正算法，采用支持向量回归确定支持向量的数目，将支持向量的数目作为径向基函数神经网络隐层节点数目，用径向基函数神经网络对有界噪声影响下的非线性系统进行建模。这种使用集员估计和支持向量回归通过径向基函数神经网络对非线性系统的建模方法，可以在使结构风险最小化的前提下，使复杂性尽量减少，提高所建模系统的预测精度和鲁棒性。(1)本专利技术采用支持向量回归算法获得径向基函数神经网络隐层节点的数目，在使神经网络结构风险最小化的前提下，使神经网络的复杂性尽量减少，增加算法的推广能力。(2)工程实际中的噪声大多都是有界的，本专利技术采用集员估计算法，仅要求系统噪声有界，不需要已知噪声的统计分布，可降低对非线性系统所受噪声的敏感性，增加非线性系统建模的鲁棒性。下面结合附图对本专利技术实施例进行详细说明。附图说明图1是本专利技术基于集员估计和神经网络的非线性系统构建方法的流程图；图2是采用本专利技术方法与支持向量机非线性系统建模仿真对比图；图3是采用本专利技术方法的径向基函数神经网络权值修正图。具体实施方式如图1所示，为本专利技术提供的基于集员估计和神经网络的非线性系统构建方法的流程图，由图可知，本专利技术的方法包括：根据所获得的非线性系统的输入输出数据集合D＝{(x1,y1),…,(xk,yk)}和非线性系统所受到的噪声数据集合E＝{e1,e2,…,ek}，以高斯径向基函数作为支持向量回归的核函数，通过支持向量回归求解获得支持向量；将获得的支持向量的个数作为径向基函数神经网络隐层节点的数量，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值；通过获得的权值和径向基函数神经网络，构建非线性系统函数。具体的，本专利技术的方法包括如下步骤：S01、根据所获得的非线性系统的输入输出数据集合D＝{(x1,y1),…,(xk,yk)}和非线性系统所受到的噪声数据集合E＝{e1,e2,…,ek}，以高斯径向基函数作为支持向量回归的核函数，通过支持向量回归求解获得支持向量。根据获得的已知的非线性系统的输入输出数据集合D＝{(x1,y1),…,(xk,yk)}和非线性系统所受到的噪声数据集合E＝{e1,e2,…,ek}，选择适当的惩罚因子C、ε及核函数φk(x)，以高斯径向基函数作为支持向量回归的核函数，并根据支持向量回归优化问题的时子函数，通过支持向量回归求解获得支持向量。核函本文档来自技高网...

【技术保护点】
1.一种基于集员估计和神经网络的非线性系统构建方法，其特征在于，包括：/n根据所获得的非线性系统的输入输出数据集合D＝{(x

【技术特征摘要】
1.一种基于集员估计和神经网络的非线性系统构建方法，其特征在于，包括：
根据所获得的非线性系统的输入输出数据集合D＝{(x1,y1),…,(xk,yk)}和非线性系统所受到的噪声数据集合E＝{e1,e2,…,ek}，以高斯径向基函数作为支持向量回归的核函数，通过支持向量回归求解获得支持向量；
将获得的支持向量的个数作为径向基函数神经网络隐层节点的数量，通过集员估计递推公式获得径向基函数神经网络隐层节点的权值；
通过获得的权值和径向基函数神经网络，构建非线性系统函数。


2.根据权利要求1所述的方法，其特征在于，所述非线性系统模型的表达式为：
yk＝F(xk,θ)+ek
其中，yk为非线性系统的输出，θ为待估计的未知参数，F(·)为未知的非线性系统函数，ek为系统所受到的未知但有界噪声扰动。


3.根据权利要求2所述的方法，其特征在于，通过支持向量回归求解获得支持向量时，采用高斯径向基函数作为支持向量回归的核函数φk(x)，核函数采用如下公式：



其中：φk(x)为网络的输出，是一个从到的函数，||·||表示欧式范数，x为网络的输入，ck∈Rn×1为相应的神经元激活所对应的中心，σ为影响对应激活函数径向传播速度的参数。


4.根据权利要求3所述的方法，其特征在于，通过支持向量回归求解获得支持向量时，支持向量回归优化问题的时子函数采用如下公式：



其中：ε的选择采用


5.根据权利要求4所述的方法，其特征在于，计算支持向量回归优化问题的时子函数时，约束为：

【专利技术属性】
技术研发人员：刘玉双，
申请(专利权)人：刘玉双，
类型：发明
国别省市：北京;11