本发明专利技术公布了一种适用于高计算代价参数优化问题的协同优化方法，该方法针对高计算代价问题的数值模拟中参数难以优化的问题，将实际可以监测到的某物理量与数值计算模型对应的此物理量计算值的差值作为目标函数，将信息向量机(IVM)优异的小样本学习能力与回溯搜索算法(BSA)优异的全局寻优能力相结合，可以快速得到较为符合实际的参数。实际算例表明，与随机全局优化算法相比，本方法在相同的时间内得到的参数更加符合实际情况。本发明专利技术方法对高计算代价的参数优化问题具有较强的适用性，具有高效快速、简易实用的优点。
【技术实现步骤摘要】
本专利技术属于人工智能算法的应用领域，涉及一种适用于高计算代价数值计算模型 参数反分析的协同优化方法，具体地指，涉及一种基于信息向量机-回溯搜索协同优化算 法（IVM-BSA)的高计算代价数值计算模型参数反分析的协同优化方法。
技术介绍
对许多工程问题、物理问题乃至自然界、人类社会中各类问题的研究，数值模拟都 是一种十分有效的研究手段。数值模拟首先要建立反映问题（如工程问题、物理问题等） 本质的数学模型。具体而言就是要建立反映问题所含各量相互关系的方程式（通常是微分 方程）及确定相应的定解条件，这是数值模拟工作的基础。没有正确完善的数学模型，数值 模拟就无从谈起。 建立数值模型后，模型所含参数的取值合适与否关系到所建模型正确性、合理性， 因此获得模型的最优参数是数值模拟科学可信的重要基础。一般的做法是将问题的某一 (或多个）评价指标（称为目标函数）表示成参数的数学表达式，然后通过对目标函数的优 化来获得最优的参数组合。上述过程即为优化设计的过程，亦即参数优化的过程。由于实 际问题的复杂性，目标函数通常很难合理选择或目标函数具有非常复杂的数学表达式，使 得参数优化难以进行，这在一定程度上阻碍了数值模拟的发展。近十几年发展起来的以可 以量测到的数据为基础的反分析法，是解决这一难题的重要手段之一。 反分析优化方法，即以可以量测到的、反映系统行为的某些物理量信息为基础，通 过反演模型（反映系统物理性质的数值模型）推算得到该系统的各项或某些初始参数。反 分析方法不直接通过数值模型进行参数优化，而是将参数优化问题转换为数学上的无约束 优化问题，即：将数值模型输出值与监测值之间的差值作为目标函数，将待优化参数作为优 化变量，通过某种优化方法优化目标函数，然后获得最优参数解。 采用反分析方法进行参数优化时，由于实际问题的复杂性，每次计算目标函数值 (称为适应度评价，所得值为适应度值）都十分耗时（即单次计算代价非常高）；此时如果 采用传统的局部优化方法对目标函数进行优化，虽然计算效率较高，但往往只能获得局部 最优解，如果采用随机全局优化算法对目标函数进行优化，虽可获得全局最优解，但由于该 类算法每次执行进化策略后，都需要对新的参数组合进行适应度评价，计算效率过低。 本专利针对高计算代价的数值模拟过程中参数难以优化的问题，提出了信息向量 机-回溯搜索协同优化算法（IVM-BSA):首先，通过正交设计生成一定数量的参数组合（初 始样本），并代入数值计算模型得到模型输出值，将模型输出值与真实值差值作为目标函数 值，由初始样本和相应目标函数值构建寻优经验知识库；其次，通过IVM机器学习方法对寻 优经验知识库进行学习，得到目标函数值与参数之间的隐含函数关系；第三，利用BSA优化 算法进行全局寻优，在全局寻优过程中，将个体的初始位置以及每次执行进化策略后的位 置对应的参数组合代入IVM学习得到函数关系式中进行适应度评价，而不需要调用数值模 型进行计算，当参数组合不满足精度时，用此参数组合替换原寻优经验知识库中最差的参 数组合，完成对寻优经验知识库的动态更新。由于IVM-BSA协同优化算法在全局寻优过程 中进行适应度评价时，不需要调用非常耗时的数值计算，大大降低了计算代价，从而达到了 减少计算耗时、提高参数优化分析效率的目的。 本专利中涉及的IVM是一种机器学习方法。机器学习是人工智能的一个新兴分 支，它从已知实例中自动发现规律，建立对未知实例的预测模型，与传统回归方法相比较， 更适用于复杂、高度非线性的回归问题。当前已发展形成多种机器学习方法，其中人工神经 网络与支持向量机是当前具有代表性的机器学习方法。但人工神经网络和支持向量机均存 在一些公开性问题，例如，人工神经网络存在着最优网络拓扑结构与最优超参数不易确定、 存在过（欠）学习风险、小样本推广能力差等问题；支持向量机的核函数及合理超参数没有 可行的理论求解方法，很难保证预测的可靠性。 信息向量机（InformativeVectorMachine,IVM)是一种新的机器学习方法，由 NeilLawrence于2002年提出。该方法基于信息熵理论，从大量的训练样本中优选出部分 的最具信息性的样本组成有效集，通过对有效集的学习可以达到与原训练样本集相同的学 习效果，同时结合稀疏化核矩阵表示，大大简化学习的时间复杂度和空间复杂度。另外，IVM 通过假定密度筛选与最小化KL散度（相对信息熵）实现了对非高斯分布噪声模型后验分 布的近似逼近。IVM具有优异的回归性能，其超参数可自适应获取，对高度非线性回归问题 具有较强的适用性。本专利技术方法中，BSA进入局部寻优状态后，采用IVM拟合局部最优解附 近的真实目标函数（即建立IVM代理模型）。对目标函数建立IVM代理模型的关键环节有： (1)建立IVM代理模型的回归过程学习过程 在构建IVM回归代理模型的学习过程中，维持了两个样本索引集I与J，其中I是 有效集，J是待选集，初始时，/=0·J= {1，2，. ..，N}，且在任意时刻，irgN0，IuJ= {1， 2，. ..，N}(假定要从N个初始训练样本中，筛选d个信息向量），信息向量是以一种连续的、 类似在线学习的方式获取：首先，应用ADF近似具有i个信息向量（即IJ时的后验分布及 似然分布：（对于高斯分布的情况，近似解与准确解一致） (1) 式中：p表不概率分布，q表不近似分布，μ表不高斯分布均值，Σ为协方差矩阵，m表不似然替代变量，β表不噪声分布方差，Λ'，为有效训练样本的输入向量，Θ表不协方差 函数超参数。之后，依照（2)式选择i+Ι个信息向量： (2) 上式表示，选择当前待选集J中能够最大化减小后验分布信息熵的一个样本j，作 为第i+Ι个信息向量。循环执行上述过程，直至完成d个信息向量的选择（即I=Id)。此 时，可得：￡3) 式中，B表不噪声分布方差，K或Σ表不高斯分布协方差矩阵。 在IVM回归代理模型中，协方差函数超参数Θ的最优解是通过最大化边缘似然分 布pGilX^，Θ)而自适应获取的。具体的，通过取负对数-logbhlX^，Θ))，将最大化问 题转化为最小化问题，进而利用共辄梯度下降法实现最优超参数％的自适应获取。 (2)建立IVM代理模型的预测过程回归过程 上述过程实现了以有效集I替代原始样本数据集，之后的回归过程同贝叶斯回归 学习过程的做法一致，最终可得IVM回归的后验分布： (4) 公式⑷隐含了个体位置坐标^与适应度L的对应关系，可用以代替真实的适应 度函数曲线进行适应度评价。 回溯搜索优化算法（BacktrackingSearchOptimizationAlgorithm，BSA)是一 种新的进化算法，由PinarCivicioglu于2013年提出。研究表明，和遗传算法、粒子群、差 分进化算法等随机全局优化算法相比，BSA算法全局寻优能力更强、收敛速度更快、输入参 数更少。 综上所述，IVM-BSA协同优化方法的基本原理是：首先，获得一定数量初始样本及 相应目标函数，构建寻优经验知识库；然后，用IVM机器学习方法学习得到样本与目标函数 值之间隐含的函数关系式，从而显示地近似原目标函数；然后，用BSA算法对近似目标函数 进行全局寻优；最后，本文档来自技高网...
【技术保护点】
一种适用于高计算代价参数优化问题的协同优化方法，其特征在于，包括以下步骤：(1)根据具体问题，建立相应的数值计算模型；(2)将参数反演问题转化为无约束参数优化问题，建立无约束参数优化问题的目标函数，所述目标函数的一般格式为其中，x为一组参数，为此组参数对应的物理量的计算值，di(x)为此物理量的实测值，i表示x编号；目标函数绝对值越小，数值模型的计算值越接近于实测值，相应的数值模型的可信度越高；(3)根据预估计的参数范围，采用正交设计生成一定数量的参数样本，将参数样本代入数值计算模型中得到其对应的数值计算模型的计算值并结合实测值di(x)，得到参数样本对应的目标函数值fi(x)，由此便得到了具有一定数量的由参数样本和相应目标函数构成的寻优经验知识库；(4)利用IVM优异的小样本学习能力，对寻优经验知识库进行学习，获得IVM代理模型，从而显式地近似真实目标函数；(5)采用BSA优化算法，对由IVM代理模型进行全局寻优，步骤如下：①算法参数设置：根据待优化参数的个数确定种群数NP，设定算法的收敛条件，收敛条件包括目标函数最小值ε与最大允许迭代步数Tmax；②随机生成实验种群Pij和oldPij，其中i为种群规模，j为待优化参数的个数，两种群的个体都随机分布于寻优区域内；③对实验种群Pij进行适应度评价，得到所有个体的目标函数值E(i)，则个体得最优值Ef(i)＝minE(i)，当前Pij中目标函数值最小的粒子Pgj为当前的全局最优粒子，其对应的目标函数值E(g)为当前全局最优解，此时迭代次数t＝1；④当E(g)<ε，t<Tmax，则执行下面步骤；否则，输出优化得到的参数值；⑤进入循环全局寻优状态，并记录所有个体信息；⑥用Pij随机替换oldPij：生成(0,1)之间的随机数a和b，当a<b时，用Pij替换oldPij，否则不替换；⑦将oldPij中的个体的顺序重新随机排列，生成新的个体种群oldP1ij；⑧对原始种群Pij进行变异，生成变异后的种群Tij，其中变异公式为Tij＝Pij+F.(oldP1ij‑Pij)，F为常数，用来控制矩阵(oldP1ij‑Pij)的振幅；⑨对变异后的种群Tij进行杂交计算，得到杂交后的矩阵T1ij：生成由“0”和“1”构成的i*j维矩阵maPij，maPij用来控制种群Tij中的个体将要被原种群Pij中的对应个体替换的位置，即maPij中所有值为“0”的位置，Tij中这些位置的个体将会被原始种群Pij中对应位置的个体替换，生成maPij的方法是引入参数混合率mixrate，用混合率控制将要被替换的个体个数；⑩通过评价得到T1ij中所有个体的目标函数值H(i)；当H(k)<E(k)，即个体k进化后比原来更优，则更新个体最优值Ef(k)＝H(k)，得到新的个体适应度值集合Ef(i)，同时更新个体最优位置Pkj＝T1kj；更新全局最优个体：用当前代个体的适应度值的最小值Ef(d)＝min(Ej(i))与上一代全局最优个体E(g)进行比较，当Ej(d)<E(g)，则E(g)＝Ef(d)；当目标函数值达到了设定的精度要求，则停止计算，输出待反演的参数，此步中的目标函数值是指高斯过程拟合出的目标函数值，设定的精度要求是指BSA算法的寻优精度要求；(6)将BSA全局寻优得到的参数代入真实目标函数中，得到真实的目标函数值，若达到了设定的精度，则停止寻优，输出参数值；否则，用此组最优参数和真实函数值替换寻优经验知识库中的最差参数及其对对应的真实函数值，继续回到步骤(4)，进行新一轮计算，不断反复，直到目标函数值达到设定的精度或达到规定的允许迭代步数；(7)输出待优化的参数。...
【技术特征摘要】
【专利技术属性】
技术研发人员：苏国韶，尹宏雪，胡李华，姜山，江权，程纲为，
申请(专利权)人：广西大学，
类型：发明
国别省市：广西;45
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。