一种自适应SVM近似模型参数优化方法技术

本发明专利技术公开了一种自适应SVM近似模型参数优化方法，用于提高SVM近似模型的精度，步骤如下：使用最优拉丁超立方试验设计方法结合对物理模型的分析，获得训练样本集和测试样本集；以测试样本集的相对误差作为适应度值，使用遗传算法，优化SVM近似模型的参数，获得最优参数SVM近似模型；以测试样本集的相对误差作为准则，采用贪婪算法，更新训练与测试样本；在新样本的基础上构造新的SVM近似模型，迭代多次直到SVM近似模型满足精度要求。本发明专利技术有效解决了SVM近似模型参数难以选择和精度难以提升的问题，大幅度提高工程上复杂物理模型分析的效率，工程意义显著。

【技术实现步骤摘要】
一种自适应SVM近似模型参数优化方法
本专利技术涉及复杂物理模型的近似模型
，特别是一种自适应SVM近似模型参数优化方法。
技术介绍
近似模型是为优化服务的技术，基于近似模型的优化方法是求解大型非线性问题最优希望的方法之一，鉴于其高效省时，广泛应用于工程优化领域。近似模型技术主要由两个部分组成：试验设计方法和近似模型构造，二者直接影响到近似模型的预测精度届构建效率。试验设计实在设计空间中选择合理的最具代表性的试验样本点组合，直接决定了构造近似模型所需样本点的个数及空间分布情况，影响近似模型对真实物理模型的拟合精度。常用的试验设计方法包括：全因子试验设计、正交设计、均匀设计、中心复合设计、拉丁超立方试验设计等。其中，拉丁超立方试验设计是一种基于随机抽样的试验设计方法，具有很强的非线性响应拟合能力，试验样本点数的个数可以自由选择，且每个因子在每个水平上都能得到均匀的运用等优点，但由于其随机性，可能存在试验点在设计空间中分布不均匀的情况。本专利技术通过外加一个最大最小距离准则，可以避免上述缺点，使样本集最大程度上反应出真实物理模型的响应情况。近似模型的构造原理是当设计空间内某一点周围一定数量点的实际值已知时，通过某种方式建立一个超曲面，用这个超曲面代替原有的负责物理模型进行高效计算。常用的近似模型构造方法有响应面法(RSM)、克里格(Kriging)函数法、人工神经网络(ANN)、支持向量机(SVM)等。其中，RSM结构简单、透明度高，但不适用于非线性、高复杂度模型的建立；BP模型结构简明，但是容易陷入过学习状态导致预测精度大幅降低；Kriging受数据噪音影响明显，并且建模时间较长。SVM算法由Vapnik首先提出，能够很好地解决小样本学习问题。它的基本思想是：通过某种事先选择的非线性映射，也即核函数，将输入向量x映射到一个高维特征空间Z，在这个空间中构造最优分类超平面。SVM算法在解决小样本，非线性和高维模式识别问题中表现出许多特有的优势，由于其在算法上基于结构风险最小化原则，可以有效规避过学习和受数据噪声影响明显等问题。但是SVM近似模型构造过程中，影响其精度和泛化能力的参数比较多，本专利技术提出的一种自适应SVM近似模型参数优化方法，可以有效解决这个问题，提高SVM近似模型的精度。
技术实现思路
本专利技术的目的在于提供一种自适应SVM近似模型参数优化方法，有效解决SVM近似模型参数选取复杂费时的问题，提高模型精度与泛化能力。实现本专利技术目的的技术解决方案为：一种自适应SVM近似模型参数优化方法，包括以下步骤：步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}。步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),fy(i)),i＝1,2,…,nt}，使得ns个训练样本点到nt个测试样本点之间的距离最大。步骤3，以测试样本集的决定系数R2作为适应度值，通过遗传算法，优化SVM近似模型的3个重要参数，即逼近精度ε、惩罚参数C和核参数σ，获得最优参数SVM近似模型。步骤4，以步骤3中最终迭代步的决定系数作为贪婪准则，采用贪婪算法，更新训练样本集与测试样本集，更新贪婪准则，直到nt＝0，获得最终优化后的SVM近似模型。本专利技术与现有技术相比，其显著优点在于：(1)引入最大最小距离准则的最优拉丁超立方试验设计方法同时满足了训练样本点的空间均匀性和在每个变量上的投影均匀性。(2)改进后的最优拉丁超立方试验设计方法满足了训练样本点和测试样本点之间的距离最大，并且使整个训练样本点和测试样本点继续保持空间均匀性和在每个变量上的投影均匀性。(3)基于遗传算法优化对SVM近似模型参数优化，其精度相对于基于经验参数建立的SVM近似模型精度大幅度提高。(4)基于贪婪算法优化SVM近似模型样本空间，相对于直接用训练样本集建立模型，可以最大限度考虑到测试样本集的信息。附图说明图1为本专利技术自适应SVM近似模型参数优化方法流程图。图2为引入最大最小距离准则的最优拉丁超立方试验设计方法流程图。图3为基于遗传算法优化SVM近似模型3个重要参数流程图。图4为基于贪婪算法优化SVM近似模型样本空间流程图。图5为本专利技术实施例1中拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图。图6为本专利技术实施例1中最优拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图。图7为本专利技术实施例1中拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图。图8为本专利技术实施例1中引入改进后的最大最小距离准则的最优拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图。图9为本专利技术实施例1中决定系数随遗传算法迭代次数变化图。具体实施方式下面结合附图对本专利技术作进一步详细描述。结合图1至图4，一种自适应SVM近似模型参数优化方法，步骤如下：步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}；具体如下：步骤1-1、将训练样本的每一维变量在其取值范围内分成ns个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个ns×m的训练样本矩阵X，即为训练样本点，转入步骤1-2。步骤1-2、令OUT＝1，IN＝1，最优训练样本矩阵Xbest＝X；转入步骤1-3。步骤1-3、将训练样本矩阵X第IN列中的任意两个元素交换A次，构造一批新的训练样本矩阵X1,X2,…,XA，采用最大最小距离准则，从其中选出最好的设计Xtry，最大最小距离准则为：一个训练样本矩阵X中，d(xi,xj)表示两个训练样本点之间的距离：参数t＝1或2，k为自变量，评判标准即在一批新的训练样本矩阵X1,X2,…,XA中，选择Xtry满足条件F(Xtry)＝max{F(X1),F(X2),…,F(XA)}；转入步骤1-4。步骤1-4、判断F(Xbest)与F(Xtry)的大小，如果F(Xbest)≤F(Xtry)，则Xbest＝Xtry，IN＝IN+1；如果F(Xbest)>F(Xtry)，则IN＝IN+1；转入步骤1-5。步骤1-5、比较m和步骤1-4中更新后的IN，如果IN>m，则转入步骤1-6；否则，返回步骤1-3。步骤1-6、令OUT＝OUT+1，如果OUT>B，输出最优训练样本矩阵Xbest，转入步骤1-7，其中B是外循环的次数；否则，IN＝1，返回步骤1-3。步骤1-7、根据所获得的最优训练样本矩阵Xbest，结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}。步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),fy(i)),i＝1,2,…,nt}，使得ns个训练样本点到nt个测试样本点之间的距离最大；具体如下：测试样本点y(i)维数是m，测试样本点个数是nt，y(i)取值范围是[ymin,ymax]，改进后的最优拉丁超立方试验设计方法的算法步骤为：步骤2-1、将测试样本文档来自技高网...

【技术保护点】
一种自适应SVM近似模型参数优化方法，其特征在于，包括以下步骤：步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}；步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),fy(i)),i＝1,2,…,nt}，使得ns个训练样本点到nt个测试样本点之间的距离最大；步骤3，以测试样本集的决定系数R

【技术特征摘要】
1.一种自适应SVM近似模型参数优化方法，其特征在于，包括以下步骤：步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}；步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),fy(i)),i＝1,2,…,nt}，使得ns个训练样本点到nt个测试样本点之间的距离最大；步骤3，以测试样本集的决定系数R2作为适应度值，通过遗传算法，优化SVM近似模型的3个重要参数，即逼近精度ε、惩罚参数C和核参数σ，获得最优参数SVM近似模型；步骤4，以步骤3中最终迭代步的决定系数作为贪婪准则，采用贪婪算法，更新训练样本集与测试样本集，更新贪婪准则，直到nt＝0，获得最终优化后的SVM近似模型。2.根据权利要求1所述的自适应SVM近似模型参数优化方法，其特征在于：步骤1所述的使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}，具体如下：训练样本点x(i)的维数为m，样本点个数为ns，x(i)取值范围为[xmin,xmax]，最优拉丁超立方试验设计方法的算法步骤为：步骤1-1、将训练样本的每一维变量在其取值范围内分成ns个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个ns×m的训练样本矩阵X，即为训练样本点，转入步骤1-2；步骤1-2、令OUT＝1，IN＝1，最优训练样本矩阵Xbest＝X；转入步骤1-3；步骤1-3、将训练样本矩阵X第IN列中的任意两个元素交换A次，构造一批新的训练样本矩阵X1,X2,…,XA，采用最大最小距离准则，从其中选出最好的设计Xtry，最大最小距离准则为：一个训练样本矩阵X中，d(xi,xj)表示两个训练样本点之间的距离：参数t＝1或2，k为自变量，评判标准即在一批新的训练样本矩阵X1,X2,…,XA中，选择Xtry满足条件F(Xtry)＝max{F(X1),F(X2),…,F(XA)}；转入步骤1-4；步骤1-4、判断F(Xbest)与F(Xtry)的大小，如果F(Xbest)≤F(Xtry)，则Xbest＝Xtry，IN＝IN+1；如果F(Xbest)>F(Xtry)，则IN＝IN+1；转入步骤1-5；步骤1-5、比较m和步骤1-4中更新后的IN，如果IN>m，则转入步骤1-6；否则，返回步骤1-3；步骤1-6、令OUT＝OUT+1，如果OUT>B，输出最优训练样本矩阵Xbest，转入步骤1-7，其中B是外循环的次数；否则，IN＝1，返回步骤1-3；步骤1-7、根据所获得的最优训练样本矩阵Xbest，结合对物理模型f的分析，获得训练样本集S＝{(x(i),fx(i)),i＝1,2,…,ns}。3.根据权利要求1所述的自适应SVM近似模型参数优化方法，其特征在于：步骤2所述的使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),fy(i)),i＝1,2,…,nt}，使得ns个训练样本点到nt个测试样本点之间的距离最大，具体如下：测试样本点y(i)维数是m，测试样本点个数是nt，y(i)取值范围是[ymin,ymax]，改进后的最优拉丁超立方试验设计方法的算法步骤为：步骤2-1、将测试样本的每一维变量在其取值范围内分成nt个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个nt×m的测试样本矩阵Y，即为测试样本点，转入步骤2-2；步骤2-2、令OUT＝1，IN＝1，最优测试样本矩阵Ybret＝Y，转入步骤2-3；步骤2-3、将输入测试样本矩阵Y第IN列中的任意两个元素交换P次，构造一批新的测试样本矩阵Y1,Y2,…,YP，采用改进后的最大最小距离准则，从其中选出最好的设计Ytry，改进后的最大最小距离准则为：根据测试样本矩阵Y与步骤1中的最优训练样本矩阵Xbest，得到一个(ns...

【专利技术属性】
技术研发人员：赵天枝，葛建立，曹杰，王雪嫣，孙全兆，杨国来，王浩，
申请(专利权)人：南京理工大学，
类型：发明
国别省市：江苏,32