基于支持向量机回归的改进粒子群算法制造技术

本发明专利技术公开了基于支持向量机回归改进粒子群算法。在当前全局最优的粒子位置附近随机取点，用支持向量机回归预测最优随机点，然后再替换一个非最优粒子，进行下一次迭代。随着输入回归信息的不断增加，预测越来越精确。当鸟群寻找食物的时候，鸟群总会往已知的最优位置行进，现在鸟群有一定概率不往最优位置行进且里面有了一位智者，会根据鸟群经过的点预判最优位置附近较优点的位置。将原粒子群算法的随机值范围由[0,1]变为[‑1,1]，并在每次算完最优粒子位置之后在最优值附近随机取值，用支持向量机回归预测最优，增强了群体的全局性和局部性，能有效增强全局和局部寻优能力。能具体应用在函数优化、规划问题、模式识别和图像处理问题等复杂优化问题。

【技术实现步骤摘要】
基于支持向量机回归的改进粒子群算法
本专利技术属于进化算法
，涉及一种粒子群优化算法，具体涉及基于支持向量机回归的改进粒子群算法。
技术介绍
粒子群算法(particleswarmoptimization，PSO)是计算智能领域中的一种生物启发式方法，属于群体智能优化算法的一种。源自Kennedy和Eberhart通过对鸟群某些社会行为的观察研究。由于PSO操作简单、收敛速度快，因此在神经网络训练、半导体器件综合、决策调度等众多领域都得到了广泛的应用。但是粒子群算法对于离散的优化问题处理不佳，容易陷入局部最优。现在粒子群算法主要发展方向：(1)调整PSO的参数来平衡算法的全局探测和局部开采能力。如Shi和Eberhart对PSO算法的速度项引入了惯性权重，并依据迭代进程及粒子飞行情况对惯性权重进行线性(或非线性)的动态调整，以平衡搜索的全局性和收敛速度。2009年张玮等在对标准粒子群算法位置期望及方差进行稳定性分析的基础上，研究了加速因子对位置期望及方差的影响，得出了一组较好的加速因子取值。(2)设计不同类型的拓扑结构，改变粒子学习模式，从而提高种群的多样性，Kennedy等人研究了不同的拓扑结构对PSO性能的影响。针对PSO存在易早熟收敛，寻优精度不高的缺点，于2003年提出了一种更为明晰的粒子群算法的形式：骨干粒子群算法(BareBonesPSO，BBPSO)(3)将PSO和其他优化算法(或策略)相结合，形成混合PSO算法。如曾毅等将模式搜索算法嵌入到PSO算法中，实现了模式搜索算法的局部搜索能力与PSO算法的全局寻优能力的优势互补。上述算法在优化复杂高维多模函数时，仍容易陷入局部最优。
技术实现思路
：为了解决上述的技术问题，本专利技术提出了一种基于支持向量机回归的粒子群改进算法，具体应用在函数优化、储能规划问题、模式识别和图像处理问题等复杂优化问题的求解过程。本专利技术所采用的技术方案是：一种基于支持向量机回归的粒子群改进算法，其特征在于，包括以下步骤：步骤1：初始化基于支持向量机回归改进粒子群算法的参数、种群位置和速度；步骤2：计算每个粒子的适应度值，得到个体最优适应度值和群体最优适应度值，记录下每一次粒子位置和对应的适应度值并将其分别作为支持向量机回归的训练集和训练标签；步骤3：在对应群体最优适应度值的粒子位置附近随机选取若干位置；步骤4：将所取若干位置参数作为验证集输入支持向量机回归的输入参数中，得到对应的回归适应度值；步骤5：选取所述步骤4对应的最优回归适应度值及对应位置；步骤6：计算所述步骤5所选取的对应最优回归适应度值的位置的适应度值；步骤7：用所述步骤6计算出的粒子位置替代所述粒子群中随机一个非对应最优适应度粒子的位置，形成新粒子；步骤8：计算新粒子的适应度值，修改个体最优适应度值和群体最优适应度值；步骤9：更新所有粒子的速度与位置；步骤10：判断改进粒子群算法是否收敛或达到最大迭代次数，若是，则输出全局最优解的位置；否则回转执行步骤2。作为优选，所述步骤1中，参数包括群体个数n、最大迭代次数k，惯性权重w，学习因子c1和c2，r1和r2为[-1,1]的随机数，随机位置数量t，随机位置随机数Z为[-1,1]的随机数。作为优选，所述步骤2还包括利用pso-svm计算出对应的支持向量机惩罚系数c和gamma值,其中支持向量机回归类型为e-SVR，核函数类型为RBF核函数，e-SVR中损失函数p＝0.1。作为优选，所述步骤2中，每一次粒子位置变化和其对应的适应度值数量会随着迭代次数的增加而增加，例如第一代已知三十一个粒子位置对应三十一个适应度，第二代会已知六十二个粒子位置对应六十二个适应度随后通过原粒子群算法计算出支持向量机惩罚系数c和gamma值。通过支持向量机回归，使得改进算法的全局性加强，局部收敛速度更快且更加精确。作为优选，所述步骤3的具体实现过程为，最优位置为Xn，旁边的随机位置Xn’＝Xn+Xn*Zt，Z为[-1,1]间的随机数，t为选取数量。增加了改进算法的全局性，有效的避免局部最优值。作为优选，所述步骤9中，粒子群算法位置方程为：Vk+1iD＝wVkiD+c1r1(PiD-XiD)+c2r2(PgD-XiD)；粒子群算法速度更新的方程为：Xk+1iD＝XkiD+ViD；w为惯性权值，k为迭代次数，c1和c2都为学习因子，r1和r2都为均匀分布在区间[-1，1]内的随机数。第d个粒子位置和速度的变化范围分别为[Xmin,Xmax]和[Vmin,Vmax]；粒子群算法中粒子数为n，搜索空间为D维，第i个粒子的位置和速度分别为xi和vi，xi＝(xi1,...,xid,...,xiD)；vi＝(vi1,...,vid,...,viD)；群体中具有最优适应度粒子的位置记为：Pg＝(Pg1,Pg2,...,PgD)；第i个粒子所经历解空间的最好位置为：Pi＝(Pi1,Pi2,...,PiD)。本专利技术的有益效果：本专利技术在当前全局最优的粒子位置旁随机取点，用支持向量机回归预测哪一随机点是最优的，然后再替换一个非最优粒子，进行下一次迭代，随着输入回归信息的不断增加，预测也会越来越精确。类比于当鸟群寻找食物的时候，鸟群总会往已知的最优位置行进，现在鸟群有一定概率不往最优位置行进且里面有了一位智者，会根据鸟群经过的点预判最优位置附近较优点的位置。本专利技术模拟这些行为，将原粒子群算法的随机值范围由[0,1]变为[-1,1]，并在每次算完最优粒子位置之后在最优值旁边随机取值，用支持向量机回归预测哪一点是最优的，这样增强了群体的全局性和局部性，能有效增强全局和局部寻优能力。本专利技术能具体应用在函数优化、储能规划问题、模式识别和图像处理问题等复杂优化问题的求解过程中。附图说明图1：是本专利技术实施例的对于函数Spheremodel的收敛图；图2：是本专利技术实施例的对于函数Generallizedrastrigin’s的收敛图；图3：是本专利技术实施例的流程图。具体实施方式为了便于本领域普通技术人员理解和实施本专利技术，下面结合附图及实施例对本专利技术作进一步的详细描述，应当理解，此处所描述的实施示例仅用于说明和解释本专利技术，并不用于限定本专利技术。如图3所示，本专利技术的一种基于支持向量机回归的粒子群改进算法，包括以下步骤：步骤1：初始化基于支持向量机回归改进粒子群算法的参数，所述的参数包括群体个数n、最大迭代次数k，惯性权重w，学习因子c1和c2，r1和r2为[-1,1]的随机数，随机位置数量t，随机位置随机数Z为[-1,1]的随机数；步骤2：初始化种群位置和速度，计算每个粒子的适应度值，得到个体最优适应度值和群体最优适应度值，记录下每一次粒子位置和对应的适应度值并将其分别作为支持向量机回归的训练集和训练标本文档来自技高网...

【技术保护点】
1.一种基于支持向量机回归的改进粒子群算法，其特征在于，包括以下步骤：/n步骤1：初始化基于支持向量机回归改进粒子群算法的参数、种群位置和速度；/n步骤2：计算每个粒子的适应度值，得到个体最优适应度值和群体最优适应度值，记录下每一次粒子位置和对应的适应度值并将其分别作为支持向量机回归的训练集和训练标签；/n步骤3：在对应群体最优适应度值的粒子位置附近随机选取若干位置；/n步骤4：将所取若干位置参数作为验证集输入支持向量机回归的输入参数中，得到对应的回归适应度值；/n步骤5：选取所述步骤4对应的最优回归适应度值及对应位置；/n步骤6：计算所述步骤5所选取的对应最优回归适应度值的位置的适应度值；/n步骤7：用所述步骤6计算出的粒子位置替代所述粒子群中随机一个非对应最优适应度粒子的位置，形成新粒子；/n步骤8：计算新粒子的适应度值，修改个体最优适应度值和群体最优适应度值；/n步骤9：更新所有粒子的速度与位置；/n步骤10：判断改进粒子群算法是否收敛或达到最大迭代次数，若是，则输出全局最优解的位置；否则回转执行步骤2。/n

【技术特征摘要】
1.一种基于支持向量机回归的改进粒子群算法，其特征在于，包括以下步骤：
步骤1：初始化基于支持向量机回归改进粒子群算法的参数、种群位置和速度；
步骤2：计算每个粒子的适应度值，得到个体最优适应度值和群体最优适应度值，记录下每一次粒子位置和对应的适应度值并将其分别作为支持向量机回归的训练集和训练标签；
步骤3：在对应群体最优适应度值的粒子位置附近随机选取若干位置；
步骤4：将所取若干位置参数作为验证集输入支持向量机回归的输入参数中，得到对应的回归适应度值；
步骤5：选取所述步骤4对应的最优回归适应度值及对应位置；
步骤6：计算所述步骤5所选取的对应最优回归适应度值的位置的适应度值；
步骤7：用所述步骤6计算出的粒子位置替代所述粒子群中随机一个非对应最优适应度粒子的位置，形成新粒子；
步骤8：计算新粒子的适应度值，修改个体最优适应度值和群体最优适应度值；
步骤9：更新所有粒子的速度与位置；
步骤10：判断改进粒子群算法是否收敛或达到最大迭代次数，若是，则输出全局最优解的位置；否则回转执行步骤2。


2.根据权利要求1所述的基于支持向量机回归的改进粒子群算法，其特征在于：所述步骤1中，参数包括群体个数n、最大迭代次数k，惯性权重w，学习因子c1和c2，r1和r2为[-1,1]的随机数，随机位置数量t，随机位置随机数Z为[-1,1]的随机数。


3.根据权利要求1所述的基于支持向量机回归的改进粒子群算法，其特征在于：所述步骤2还包括利用pso-svm计算出对应的支持向量机惩罚系数c和gamma值,其中...

【专利技术属性】
技术研发人员：何鸿天，李先允，倪喜军，王书征，张效言，
申请(专利权)人：南京工程学院，
类型：发明
国别省市：江苏;32