一种基于广义粒子群算法的参数优化及估计方法技术

本发明专利技术公开了一种基于广义粒子群算法的参数优化及估计方法，包括如下步骤：随机生成一组初始化粒子；由适应度函数计算每个粒子的适应值；比较粒子当前适应值和个体极值适应值，如适应值更好，则将其更新为最好位置；比较粒子的适应值与全局极值位置，如果适应值更好，则更替粒子为全局极值；得到这n个新粒子所对应的速度和位置，并计算适应值；适应值最优化为标准确定最佳更替粒子的速度和位置。本发明专利技术在当前粒子更新速度认知部分中引入了其余粒子的个体极值信息，并选择最优适应值的粒子为迭代最终更新的粒子。本发明专利技术增强了粒子间的信息交流与共享，对PSO算法具有向下兼容性，理论保证了本发明专利技术拥有比PSO算法更优的搜索性能。

A parameter optimization and estimation method based on generalized particle swarm optimization

The invention discloses a parameter optimization and estimation method based on generalized particle swarm optimization, which includes the following steps: randomly generating a group of initialization particles; calculating the fitness of each particle by fitness function; comparing the current fitness value of particles with the individual extreme fitness value, if the fitness value is better, updating it to the best position. Comparing the fitness of the particle with the global extremum position, if the fitness value is better, the replacement particle is the global extremum; getting the corresponding velocity and position of the n new particles, and calculating the fitness value; optimizing the fitness value to determine the optimal replacement particle speed and location. The invention introduces the individual extreme value information of other particles in the current particle update speed recognition part, and selects the particle with the optimal fitness value as the particle with the final update iteration. The invention enhances information exchange and sharing among particles, has downward compatibility with PSO algorithm, and theoretically ensures that the invention has better search performance than PSO algorithm.

【技术实现步骤摘要】
一种基于广义粒子群算法的参数优化及估计方法
本专利技术属于机器学习领域进行参数优化及估计的方法，具体涉及一种基于广义粒子群算法的参数优化及估计方法。
技术介绍
粒子群算法(ParticleSwarmOptimization，PSO)是一种利用群体智能及信息共享来实现优化解搜索的生物算法，该算法的优点包括：全局并行启发式、结构简单进而便于理解、易于编程求解且不依靠函数梯度信息、实数编码且参数较少等。粒子群算法不仅在连续优化问题而且在离散优化问题中都展现出良好的性能，所以被大量应用于解决约束优化、多目标优化、动态优化等问题，成为群智能优化领域研究的热点。粒子群算法的建模思想是仿生鸟群捕食行为的简化社会模型，1995年由学者Kenndy和Eberhart等人首次提出，粒子群算法和其它生物进化算法类似，需要在问题解空间中随机初始化一组解，该组解即为算法所定义的粒子，包括了粒子位置和粒子速度两个部分。粒子群算法利用惯性速度、个体极值和全局极值的线性组合对粒子速度和粒子位置进行更新，驱使粒子在解空间中向优解方向不断迭代更新前进搜索。对比遗传算法，粒子群算法省略了交叉算子及变异算子，粒子在解空间中跟随群体最优和个体历代最优的粒子方向施行优解搜索。粒子群算法的研究主要包括三个方面：一个是粒子学习策略的研究。通过改进学习策略，可以增强粒子间的信息交流，增加种群粒子的多样性和粒子更新途径，进而实现对算法的全局搜索最优解的性能的提升。粒子群研究的第二个方面是理论研究，包括完善算法的搜索性能，讨分析粒子群算法的法的收敛性，分析算法的时间空间复杂度等。三是粒子群算法应用领域的研究。粒子群算法最初为Eberhart提出并用于神经网络的训练，随后扩展到神经网络权重的估计和优化，进而被应用于模糊控制优化、模式识别、音视频分析、图像处理和数据挖掘等方面。另外粒子群算法也从最初的单目标优化扩展为多目标优化和约束优化问题等。
技术实现思路
本专利技术为了克服现有技术存在的不足之处，提升粒子群算法参数优化估计的能力，提出一种广义粒子群算法(generalpso,GPSO)，通过修改标准PSO算法的速度更新公式，在当前粒子更新速度认知部分中引入了其余粒子的个体极值信息，增强了粒子间的信息交流与共享，以提升优化性能。为了实现上述专利技术目的，本专利技术采用如下技术方案：一种基于广义粒子群算法的参数优化及估计方法，包括如下步骤：步骤1：随机生成一组初始化粒子，取粒子数量为n，初始化包括粒子位置和速度的初始化；步骤2：根据待优化问题定义适应度函数，由适应度函数计算每个粒子的适应值；步骤3：对每个粒子i，比较该粒子的当前适应值和个体极值适应值，如果当前粒子适应值更好，则将其更新为粒子i的最好位置pi,best(λ)；步骤4：比较粒子i的适应值与全局极值位置，如果当前粒子i的适应值更好，则更替粒子i为全局极值gbest(t)(λ)；步骤5：对于每个待更新粒子i，由广义粒子群算法所定义的位置及速度更新函数，产生n个新的备选更新粒子，即得到这n个新粒子所对应的速度vi,j(λ+1)和位置xi,j(λ+1)，同时计算这些粒子的适应值f(xi,j(λ+1))；步骤6：对于每个粒子i和生成的n个备选更替的粒子，以适应值f(xi,j(λ+1))最优化为标准确定最佳更替粒子的速度vi(λ+1)和位置xi(λ+1)。进一步，所述步骤1具体按如下步骤进行：步骤1-1：假定在一个d维的优解搜索空间中，一个群体一般由n个粒子构成，n为群体中粒子个数也称为群体规模，其中第i个粒子的坐标位置可以用一个d维的向量表示，即为xi＝(xi1,xi2,L,xid)，i＝1,2,L,d；第i个粒子的“飞行”速度和位置值类似，同样也是由一个d维的向量构成，记为vi＝(vi1,vi2,L,vid)，i＝1,2,L,d；第i个粒子的个体极值即为第i个粒子中历代所搜索到的最优位置，记为pi,best＝(pi1,pi2,L,pid)，i＝1,2,L,n；粒子的全体历代所搜索到的最优位置被定义为全局极值，记为gbest＝(g1,g2,L,gd)；通过在搜索空间对解的搜索，以实现对解的估计和适应度函数f(x)的最大化；一般根据实际优化问题定义适应度函数，若实际优化问题为最小化目标函数g(x)，则定义适应度函数f(x)为式(1)，若实际优化问题为最大化目标函数g(x)，则定义适应度函数f(x)为式(2)，使得适应度函数为向量变量x的最大化优化函数；f(x)＝-g(x)(1)；f(x)＝g(x)(2)；步骤1-2：定义迭代次数为λ，最大迭代次数为λmax，初始化λ＝0；在粒子取值范围[min,max]内随机生成一组初始化粒子，粒子数量为n，初始化d维粒子的位置xi(0)和速度xi(0)。进一步，所述步骤2具体为：将每个粒子位置xi(0)代入适应度函数中，计算每个粒子的适应度值f(xi(0))。进一步，所述步骤3具体为：对每个粒子i，比较该粒子的当前适应值f(xi(λ))和个体极值适应值gbest(λ-1)，如果当前粒子适应值更好，则将其更新为粒子i的最好位置pi,best(λ)，即有pi,best(λ)＝xi(λ)；若λ＝0，则pi,best(λ)＝xi(0)。进一步，所述步骤4具体为：比较粒子i的适应值f(xi(λ))与全局极值位置gbest(λ-1)，如果当前粒子i的适应值更好，则将其更替为全局极值gbest(λ)，即有gbest(λ)＝xi(λ)；若λ＝0，则进一步，所述步骤5具体为：对于每个待更新粒子i，由公式(3)、(4)产生n个新的备选更新粒子，即得到这n个新粒子所对应的速度vi,j(λ+1)和位置xi,j(λ+1)，同时计算这些粒子的适应值f(xi,j(λ+1))；vi,j(λ+1)＝wvi(λ)+c1r1(pj,best(λ)-xi(λ))+c2r2(gbest(λ)-xi(λ))(3)i＝1,2,L,n，j＝1,2,L,nxi,j(λ+1)＝xi(λ)+vi,j(λ+1)(4)i＝1,2,L,n，j＝1,2,L,n在式(3)、(4)中c1，c2为加速因子，取为正的常数；r1，r2为[0,1]之间的随机数，w称为惯性因子。进一步，所述步骤6具体按如下步骤进行：步骤6-1：对于每个粒子i和n个备选更替的粒子，由式(5)、(6)、(7)确定最佳更替粒子的速度vi(λ+1)和位置xi(λ+1)；vi(λ+1)＝vi,k(λ+1)(6)xi(λ+1)＝xi,k(λ+1)(7)步骤6-2：判断||f(xi(λ+1))-f(xi(λ))||＜ε或λ＞λmax，若成立，则xi(λ+1)为迭代算法参数估计出的最优参数估计值，并令xi(λ+1)＝xi代入式(1)或(2)中，进而实现对优化函数的最优计算，ε，λmax是事先给定的阈值；若不成立，转步骤4，直到条件满足为止。与已有技术相比，本专利技术的有益效果体现在：1.GPSO算法对于PSO算法的向下兼容性将PSO算法速度更新公式和GPSO算法速度更新式(3)进行对比可以知道，当式(3)中的pj,best(λ)(j＝1,2,…,n)取到pi,best(λ)时，GPSO算法速度更新公式即为标准PSO算法速度更新公式，标准PSO算法被蕴藏和包含于GPSO算法中。另外由式(5本文档来自技高网...

【技术保护点】
1.一种基于广义粒子群算法的参数优化及估计方法，包括如下步骤：步骤1：随机生成一组初始化粒子，取粒子数量为n，初始化包括粒子位置和速度的初始化；步骤2：根据待优化问题定义适应度函数，由适应度函数计算每个粒子的适应值；步骤3：对每个粒子i，比较该粒子的当前适应值和个体极值适应值，如果当前粒子适应值更好，则将其更新为粒子i的最好位置pi,best(λ)；步骤4：比较粒子i的适应值与全局极值位置，如果当前粒子i的适应值更好，则更替粒子i为全局极值gbest(t)(λ)；步骤5：对于每个待更新粒子i，由广义粒子群算法所定义的位置及速度更新函数，产生n个新的备选更新粒子，即得到这n个新粒子所对应的速度vi,j(λ+1)和位置xi,j(λ+1)，同时计算这些粒子的适应值f(xi,j(λ+1))；步骤6：对于每个粒子i和生成的n个备选更替的粒子，以适应值f(xi,j(λ+1))最优化为标准确定最佳更替粒子的速度vi(λ+1)和位置xi(λ+1)。

【技术特征摘要】
1.一种基于广义粒子群算法的参数优化及估计方法，包括如下步骤：步骤1：随机生成一组初始化粒子，取粒子数量为n，初始化包括粒子位置和速度的初始化；步骤2：根据待优化问题定义适应度函数，由适应度函数计算每个粒子的适应值；步骤3：对每个粒子i，比较该粒子的当前适应值和个体极值适应值，如果当前粒子适应值更好，则将其更新为粒子i的最好位置pi,best(λ)；步骤4：比较粒子i的适应值与全局极值位置，如果当前粒子i的适应值更好，则更替粒子i为全局极值gbest(t)(λ)；步骤5：对于每个待更新粒子i，由广义粒子群算法所定义的位置及速度更新函数，产生n个新的备选更新粒子，即得到这n个新粒子所对应的速度vi,j(λ+1)和位置xi,j(λ+1)，同时计算这些粒子的适应值f(xi,j(λ+1))；步骤6：对于每个粒子i和生成的n个备选更替的粒子，以适应值f(xi,j(λ+1))最优化为标准确定最佳更替粒子的速度vi(λ+1)和位置xi(λ+1)。2.根据权利要求1所述的一种基于广义粒子群算法的参数优化及估计方法，其特征在于：所述步骤1具体按如下步骤进行：步骤1-1：假定在一个d维的优解搜索空间中，一个群体一般由n个粒子构成，n为群体中粒子个数也称为群体规模，其中第i个粒子的坐标位置可以用一个d维的向量表示，即为xi＝(xi1,xi2,L,xid)，i＝1,2,L,d；第i个粒子的“飞行”速度和位置值类似，同样也是由一个d维的向量构成，记为vi＝(vi1,vi2,L,vid)，i＝1,2,L,d；第i个粒子的个体极值即为第i个粒子中历代所搜索到的最优位置，记为pi,best＝(pi1,pi2,L,pid)，i＝1,2,L,n；粒子的全体历代所搜索到的最优位置被定义为全局极值，记为gbest＝(g1,g2,L,gd)；通过在搜索空间对解的搜索，以实现对解的估计和适应度函数f(x)的最大化；一般根据实际优化问题定义适应度函数，若实际优化问题为最小化目标函数g(x)，则定义适应度函数f(x)为式(1)，若实际优化问题为最大化目标函数g(x)，则定义适应度函数f(x)为式(2)，使得适应度函数为向量变量x的最大化优化函数；f(x)＝-g(x)(1)；f(x)＝g(x)(2)；步骤1-2：定义迭代次数为λ，最大迭代次数为λmax，初始化λ＝0；在粒子取值范围[min,max]内随机生成一组初始化粒子，粒子数量为n，初始化d维粒子的位置xi(0)和速度xi(0)。...

【专利技术属性】
技术研发人员：文传军，许定亮，刘福燕，
申请(专利权)人：常州工学院，
类型：发明
国别省市：江苏,32