一种含熵搜索的贝叶斯协同进化优化方法及系统技术方案

本发明专利技术公开了一种含信息熵的贝叶斯进化优化方法，该方法包括：获取基础数据，所述基础数据包括真实历史数据和预测历史数据；根据基础数据和多目标代理辅助模型，得一组尽可能收敛于真实Pareto前沿且均匀分布的Pareto解集；其中，所述含信息熵的贝叶斯多目标优化模型的构建过程包括：含信息熵的贝叶斯进化优化模型使用协同进化算法作为基础优化器。并对历史数据进行标记选取。同时，自适应采集函数结合Lp范式和信息熵方法。在不同搜索阶段寻找可能对提升算法收敛性及多样性有显著影响的候选解，选取更有潜力的个体进行实际计算。选取更有潜力的个体进行实际计算。选取更有潜力的个体进行实际计算。

【技术实现步骤摘要】
一种含熵搜索的贝叶斯协同进化优化方法及系统


[0001]本专利技术属于高维昂贵优化
，尤其涉及一种含熵搜索的贝叶斯协同进化优化方法及系统。

技术介绍

[0002]本部分的陈述仅仅是提供了与本公开相关的
技术介绍
信息，不必然构成在先技术。
[0003]在军事、金融和通信等领域，优化问题已无处不在,如高精度结构优化设计问题、深度神经网络的参数优化问题和空调系统整体优化问题等。现实生活中的大多数智能产业通常需要进行大量运算或消耗大量昂贵资源以进行准确的评估从而对问题进行优化以减少昂贵资源的消耗，该问题也称为昂贵优化问题。然而大多数实际工程应用问题包含大量决策变量和目标变量，若决策变量超过50或目标维数大于等于4，则称该问题为高维昂贵多目标优化问题。以最小化问题为例，不失一般性，多目标优化问题：
[0004]minF(x)＝(f1(x),f2(x),...,f
m
(x))(1)
[0005]x表示决策变量，f(x)为m维目标变量，求解高维多目标优化问题的最终目的是得到一组尽可能收敛于真实Pareto前沿且均匀分布的Pareto解集。在高维昂贵超多目标优化问题中，决策变量通常超过30且目标维数大于3。多目标优化问题的目标往往是相互矛盾的，不存在一个可以在所有目标上均达到最优的解。
[0006]为了减少昂贵评估，常用的办法是目标删减法和代理辅助优化算法。但各目标之间通过决策变量相互制约，往往存在相互矛盾的目标，致使目标函数的拓扑结构十分复杂。使用代理模型近似昂贵的多目标优化问题，贝叶斯进化优化(bayesian evolutionary optimization algorithm，BEO)是一种更加有效的解决方法。贝叶斯进化优化方法通过设计恰当的概率代理模型和采集函数,只需经过少数次目标函数评估即可获得理想解,非常适用于求解目标函数表达式未知、非凸、多峰和评估代价高昂的复杂优化问题。贝叶斯进化优化框架使用代理模型拟合真实目标函数,并根据拟合结果主动选择最有“潜力”的评估点进行评估,避免不必要的采样,从而大大减少昂贵目标的计算次数。该方法是一种含模型的序贯优化方法,在一次评估之后才能进行下一次评估，能够在很少的评估代价下得到一个近似最优解。
[0007]贝叶斯进化优化框架是一个迭代过程，首先根据采集函数选择一个或多个最有潜力的评估点，其次评估其目标函数值，最后将评估点的输入
‑
目标值加入历史观测集中，并更新概率代理模型为下一次迭代做准备。贝叶斯进化优化框架主要包含两个核心部分：概率代理模型和采集函数,常用的代理模型包括径向基函数模型、人工神经网络、多项式回归模型、Kr iging模型和支持向量机模型。Song等人提出使用一个强影响点不敏感模型来逼近每个目标函数，影响点不敏感模型可以有效地减少影响点的负面影响，并证明了该模型在多模态问题上比原始的克里金模型具有更好的性能。Zhan等人提出了一个克里金代理辅助进化计算的增量克里金模型。其主要思想是根据之前训练过的模型的方程逐步更新克里
金模型，而不是在获得新样本时从头开始构建模型，从而将更新克里金模型的时间复杂度降低到二次模型。与标准克里金辅助进化算法相比，该算法更具有竞争力，且比标准克里金方法快。此外，代理模型和混合代理模型的集成可以为不同特征的问题提供更好的近似值。
[0008]常用的采集函数包括改进概率最大值准则、期望改进准则、统计下限最小值原则。有效的采集函数对于多目标进化优化算法是至关重要的，提出一种新的预筛选采集函数以选择有潜力的个体的进行真实评估，根据搜索动态调整采集函数中的超参数，采集函数在含角度的距离和含角度惩罚的距离之间进行切换。用两个采集函数选择有前途的个体进行真实评估，利用收敛准则反馈的信息决定下一次迭代是否使用多样性准则，当认为可以提供准确且有希望的信息时，那么在下一次迭代中就不会再采用多样性准则。设计了一种模型管理策略，根据自适应参考向量以及使用昂贵的目标函数评估的非支配解决方案来平衡收敛性和多样性。采用单一的采集函数不可能在所有问题上表现出最好的性能。
[0009]BEO算法以进化算法作为基本算法，利用代理模型预测种群个体适应值，并根据不同的加点准则和模型管理策略选取少数个体进行真实计算。BEO算法的优化性能在很大程度上取决于优化器算法的搜索能力。不同的环境在处理不同优化问题时具有不同的特征，表现出不同的能力。因此，当BEO采用不同的EAs时，BEO具有不同的性能。目前，含Pareto、含指标和含分解三类方法是MOEA研究的主流方法。然而，三类方法都有其优点及不足。如经典多目标进化算法NSGA
‑
I I和SPEA2，在求解2维或3维优化问题时具有很好的效果。然而，随着目标维数增加，含Pareto方法的MOEA选择压力减弱，导致算法难以收敛甚至不收敛。含分解和含指标的方法能较好的解决该问题。但与此同时，他们在一部分问题上很难保持解集分布性。
[0010]对于高维多目标优化问题,要想找到一组有代表性的Pareto最优解是十分困难的，处理低维问题不会遇到的一些问题也凸显出来。主要原因在于高维昂贵优化问题上存在“维数灾难”问题。随着维度的增加，搜索空间以指数形式急剧增长。维数灾难体现在决策空间高维与目标空间高维。在高维昂贵贵优化问题上，因“维数灾难”引发的BEO算法优化瓶颈主要表现在以下几个方面：
[0011](1)在高维小样本的情况下难以构建模型，且构建模型本身所耗费的时间会随着维数的增加呈指数级急剧增长。
[0012](2)在高维空间，样本过于稀疏，预测性能变差，对于不同个体预测值的不确定性度量值失去显著性差异。
[0013](3)目标空间高维时，模型的累加误差会进一步加大，非支配解占比增加，交叉算子低效，决策面此时难以表示，无法合理判断哪个个体更靠近Pareto前沿，不能有效选取更有“希望”的个体进行实际计算。
[0014]显然，在解决此类高维昂贵优化问题时，传统的优化算法，如牛顿法、共轭梯度法、序列规划法，对目标函数本身有连续或可微的要求，且只能保证收敛到局部最优。传统优化算法不再适用,而超多目标优化算法存在优化难度过大或优化时间过长的问题。

技术实现思路

[0015]为克服上述现有技术的不足，本专利技术提供了一种含熵搜索的贝叶斯进化优化方法及系统，本专利技术通过找到一组有代表性的Pareto最优解，处理低维问题不会遇到的一些问
题。只需经过少量计算、消耗更少的昂贵评估次数，便可拥有更好的寻优性能、得到更好的近似最优解。
[0016]为实现上述目的，本专利技术的一个或多个实施例提供了如下技术方案：
[0017]一种含信息熵的贝叶斯进化优化方法，包括如下步骤：
[0018]两个子种群独立进化，并在合适的时机以一定的规则进行交流。
[0019]主要种群进化以找到更好的解决方案，辅助种群进化以维持和为主要种群提供多样性。
[0020]一种适用于高维超多目标问题的不确定性度量方法，使不确本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种含信息熵的贝叶斯进化优化方法，其特征在于，包括：在现有贝叶斯进化优化算法基础上针对问题特点对算法进行改进，用改进的算法对所构建的代理辅助模型进行训练优化，经过多代进化,不断提高种群中个体的适应度,逐步逼近多目标优化问题的Pareto最优解集，并设计更精细的多样性保持机制以更好地平衡种群收敛性和多样性。2.如权利要求1所述的一种含信息熵的贝叶斯进化优化方法，其特征在于，使用MOEAD和RVEA作为基础优化器，分别考虑其收敛性和多样性，MOEAD作为主要种群进化以找到好的解决方案保证其收敛效率，RVEA作为辅助种群进化以维持和为主要种群提升多样性，使用交叉和突变操作生成后代，并根据克里金模型的预测进行选择，根据新的自适应采集函数从预先选择的后代中选择q的解决方案来进行真实的功能评估，这些重新评估的解决方案被用于更新DB和代理模型。3.如权利要求2所述的一种含信息熵的贝叶斯进化优化方法，其特征在于，两个子种群独立进化，并在合适的时机以一定的规则进行交流，主要种群进化以找到更好的解决方案，辅助种群进化以维持和为主要种群提供多样性，其优点在于独立进化保证种群多样性，子种群间优秀个体的交流保证了种群收敛的速度。4.如权利要求2所述的一种含信息熵的贝叶斯进化优化方法，其特征在于，所述策略包括三种特定问题的方法：含非支配排序、评价指标和含分解的解决方法。5.如权利要求1所述的一种含信息熵的贝叶斯进化优化方法，其...

【专利技术属性】
技术研发人员：边红丽，田杰，
申请(专利权)人：山东师范大学，
类型：发明
国别省市：