一种基于改进遗传算法的群粒子梯度下降算法制造技术

技术编号:25916406 阅读:27 留言:0更新日期:2020-10-13 10:35
基于改进遗传算法的群粒子梯度下降算法,能快速准确地搜索到复杂函数条件下的全局最优解,群粒子梯度下降算法的步骤:生成初始种群是否满足终止条件、计算每个个体的适应度值;筛选遗传算子,梯度下降法作用每个个体生成新种群,计算每个个体的适应度值,交叉变异操作生成新种群;遗传算法的改进方法是:将种群内适应度值最大的前5个个体保留,剩余的新种群个体以轮盘选择法进行概率选择;将遗传算法的并行计算思想及进化机制引入梯度下降法中,即将原来单个点的寻优改为群体寻优,且不断有新的更接近最优解的种群同时沿着梯度方向寻找最优解。

【技术实现步骤摘要】
一种基于改进遗传算法的群粒子梯度下降算法
本专利技术涉及一种决策和选址方面的寻优方法,涉及函数寻优算法,尤其能求解复杂函数条件下的寻优问题。
技术介绍
人工智能网络训练、自动控制、模式识别等领域多目标规划问题范围极广,其中如决策和选址方面的寻优方法在现实中极有意义:如救援基地选址问题。救援基地选址需要考虑到救援距离、救援时间、建设成本、建设可行性等问题,该问题属于多目标规划问题,可建立与其目标相一致的适应函数,根据该适应函数中的底层参数变量,如救援点位置,可用于求解救援距离、救援时间、建设成本、建设可行性等需求目标值。底层参数变量具有自己的取值范围,基于改进遗传算法的群粒子梯度下降算法可用于求解各个底层参数变量的最优化组合,使得适应函数的取值最优。选址方面的寻优应用场景极宽,如电动汽车充电站寻址;又如城市换乘枢纽的寻址,以及一些具有公共用品的集散寻址等。各种寻址中,如救援基地选址问题属于多目标规划问题,基于改进遗传算法的群粒子梯度下降算法相较于传统算法可更快更准的求解多目标规划问题。而多目标规划问题涉及到人工智能网络训练、自动控制、模式识别、工程设计及智能故障诊断等各个领域,因此本专利技术具有较强的应用潜力及科学价值。人工神经网络技术是当前最热门的技术之一,而算法是人工智能技术的核心。倘若将人工智能比作计算机模拟人类的思维活动,那么为实现机器智能思索所构建的结构体则可类比为人类的思维结构,而智能算法则可类比为人类的思维方法。尽管目前已有多种算法可达到智能搜索目的,但算法之间在收敛速度、搜索范围、收敛到全局最优解的成功率等方面仍有较大差异。与此同时,随着现代人工智能网络结构越来越复杂,当前算法在收敛速度以及收敛到全局最优解的成功率上越加不能够满足科技和生产日益发展提出的新时代要求。目前已有多种算法被提出用于求解函数寻优问题,如遗传算法、蚁群算法、粒子群算法、模拟退火算法及梯度下降算法等。遗传算法是最常用的智能搜索算法,是Holland于1975年提出。随后,很多学者对其进行了改进,主要改进领域涉及遗传选择策略、适应度函数设计、遗传算子及控制参数等。由于遗传算法不受优化函数的连续性约束,且并行计算能力强,具有较好的全局搜索能力,因此该算法是最为广泛应用的智能搜索算法之一,目前该算法已被应用于自动控制、计算科学、模式识别、工程设计及智能故障诊断等领域。但由于遗传算法在搜索过程中需要进行大量的计算,因此会比较费时。M.Dorigo等人于1996年借鉴真实蚁群搜索食物的行为提出了人工蚁群算法。该算法最早应用于旅行商(TSP)问题,并取得了较好的效果。随后中外学者在信息素调整策略、搜索策略等方面对其进行了改进,有效提高了算法的性能,并将其应用范围拓展到作业调度、数据挖掘等领域。但由于初始信息素缺乏,需要较长的搜索时间,故该算法收敛速度慢。同时,该算法搜索到一定程度后,所有个体的解完全一致,不能对空间进行进一步搜索,易陷入局部最优。Kenney与Eberhart借鉴自然界鸟群觅食行为提出一种基于群体协作的随机搜索算法-粒子群算法。由于该算法结构构造简单、需要调节的参数较少,因此受到了很多学者的关注。目前该算法已经被成功的应用到求解多目标优化问题、非线性整数和混合整数约束优化问题、信号处理和神经网络训练等。尽管很多学者对粒子群算法进行了改进,但其理论基础仍旧薄弱,且该算法易陷入局部最优,因此该算法还存在许多需要改进的地方。Metropolis借鉴物理中固体退火过程提出了模拟退火算法,后人将其应用至组合优化问题。尽管很多学者在退火策略、搜索结构、初始状体及控温方式上对模拟退火算法进行了改进,但其降温的速度始终与算法收敛到全局最优解的概率存在较大的矛盾。数学家Cauchy于1847年提出一种经典数值优化算法—梯度下降法,至今其仍为机器学习领域的核心算法之一。但由于该算法是一种局部搜索算法,因此不适用于求解复杂非线性优化问题。因此,以上算法均不能同时具备较快的收敛速度以及较强的全局搜索能力,而这种特性正是搜索算法未来的发展方向,并且以上固有算法均存在较大的概率收敛到局部最优解。为解决固有算法存在的复杂函数求解条件下的收敛速度慢、收敛到全局最优解的成功率不高的问题,本专利技术首先对遗传算法进行改进,提高该算法的全局搜索能力及收敛速度。其次在充分挖掘遗传算法的全局搜索能力以及梯度下降法的快速收敛能力的基础上,提出一种基于改进遗传算法的群粒子梯度下降算法。
技术实现思路
本专利技术目的是,提出一种多目标规划问题的求解,包括决策和选址方面的寻优方法;尤其是利用基于改进遗传算法的群粒子梯度下降算法应用于多目标规划问题的求解,即对决策和选址方面进行寻优的方法。本专利技术的技术方案是,基于改进遗传算法的群粒子梯度下降算法,其特征是,能快速准确地搜索到复杂函数条件下的全局最优解,群粒子梯度下降算法的步骤:生成初始种群是否满足终止条件、计算每个个体的适应度值;筛选遗传算子,梯度下降法作用每个个体生成新种群,计算每个个体的适应度值,交叉变异操作生成新种群;遗传算法的改进方法是:将种群内适应度值最大的前5个个体保留,剩余的新种群个体以轮盘选择法进行概率选择;步骤一:初始化Pm,Pc,Num,Gen,maxk参数,随机产生第一代种群Pop,其中Pc为交叉概率,Pm为变异概率,Num为种群规模,Gen为终止进化的代数,maxk为梯度下降法最大迭代次数。步骤二:初始化遗传进化迭代次数k,令k=0;计算种群Pop中每一个体的适应度值:Fitness_value(i)=fit(Pop(i)),其中fit为适应函数,Fitness_value(i)为Pop种群中第i个个体的适应度值;从种群Pop中人工保留适应度值最大的前5个个体,剩余个体根据适应度以比例依照轮盘转法进行选择,产生新种群Pop_new;轮盘选择法的具体操作步骤为:首先对种群Pop中每个个体的适应度值进行归一化处理,第i个个体归一化后的适应度值记为Fitness_value_1(i),满足N为种群Pop中的个体个数;其次计算每个个体被选择的概率区间,用累加的方最后随机生成一个0-1之间的数,数字落在哪个区间即保留哪个个体。初始化梯度下降迭代次数kk,令kk=0;当kk<=maxk梯度下降法作用种群Pop_new中每个个体,产生新的种群Pop_new_new,且计算种群Pop_new_new中每个个体的适应度值:Fitness_value(i)=fit(Pop_new_new(i)),此时Fitness_value(i)为Pop_new_new种群中第i个个体的适应度值;记录适应度值最大的个体;对种群Pop_new_new执行交叉变异操作,形成新的Pop_new_new种群,用新的Pop_new_new取代Pop。交叉操作步骤为:首先针对每一个染色体,随机生成一个0至1之间的数,若生成的数字不大于交叉概率Pc,则该染色体被选中用于后期的交叉操作;其次将选中的染色体两两随机配对,若每个个体的染色体长度记为M,针对每一组两本文档来自技高网
...

【技术保护点】
1.基于改进遗传算法的群粒子梯度下降算法,其特征是,能快速准确地搜索到复杂函数条件下的全局最优解,群粒子梯度下降算法的步骤:生成初始种群是否满足终止条件、计算每个个体的适应度值;筛选遗传算子,梯度下降法作用每个个体生成新种群,计算每个个体的适应度值,交叉变异操作生成新种群;/n遗传算法的改进方法是:将种群内适应度值最大的前5个个体保留,剩余的新种群个体以轮盘选择法进行概率选择;/n步骤一:初始化Pm,Pc,Num,Gen,maxk参数,随机产生第一代种群Pop,其中Pc为交叉概率,Pm为变异概率,Num为种群规模,Gen为终止进化的代数,maxk为梯度下降法最大迭代次数。/n步骤二:/n初始化遗传进化迭代次数k,令k=0;/n计算种群Pop中每一个体的适应度值:Fitness_value(i)=fit(Pop(i)),其中fit为适应函数,Fitness_value(i)为Pop种群中第i个个体的适应度值;/n从种群Pop中人工保留适应度值最大的前5个个体,剩余个体根据适应度以比例依照轮盘转法进行选择,产生新种群Pop_new;轮盘选择法的具体操作步骤为:首先对种群Pop中每个个体的适应度值进行归一化处理,第i个个体归一化后的适应度值记为Fitness_value_1(i),满足...

【技术特征摘要】
1.基于改进遗传算法的群粒子梯度下降算法,其特征是,能快速准确地搜索到复杂函数条件下的全局最优解,群粒子梯度下降算法的步骤:生成初始种群是否满足终止条件、计算每个个体的适应度值;筛选遗传算子,梯度下降法作用每个个体生成新种群,计算每个个体的适应度值,交叉变异操作生成新种群;
遗传算法的改进方法是:将种群内适应度值最大的前5个个体保留,剩余的新种群个体以轮盘选择法进行概率选择;
步骤一:初始化Pm,Pc,Num,Gen,maxk参数,随机产生第一代种群Pop,其中Pc为交叉概率,Pm为变异概率,Num为种群规模,Gen为终止进化的代数,maxk为梯度下降法最大迭代次数。
步骤二:
初始化遗传进化迭代次数k,令k=0;
计算种群Pop中每一个体的适应度值:Fitness_value(i)=fit(Pop(i)),其中fit为适应函数,Fitness_value(i)为Pop种群中第i个个体的适应度值;
从种群Pop中人工保留适应度值最大的前5个个体,剩余个体根据适应度以比例依照轮盘转法进行选择,产生新种群Pop_new;轮盘选择法的具体操作步骤为:首先对种群Pop中每个个体的适应度值进行归一化处理,第i个个体归一化后的适应度值记为Fitness_value_1(i),满足N为种群Pop中的个体个数;其次计算每个个体被选择的概率区间,用累加的方式,如第j个个体被选择的概率区间为:最后随机生成一个0-1之间的数,数字落在哪个区间即保留哪个个体;
初始化梯度下降迭代次数kk,令kk=0;
当kk<=maxk
梯度下降法作用种群Pop_new中每个个体,产生新的种群Pop_new_new,且计算种群Pop_new_new中每个个体的适应度值:Fitness_value(i)=fit(Pop_new_new(i)),此时...

【专利技术属性】
技术研发人员:单雨龙赵世军李秋涵
申请(专利权)人:中国人民解放军国防科技大学
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1