一种基于序贯蒙特卡罗方法的贝叶斯优化方法技术

本发明专利技术公开了一种基于序贯蒙特卡罗方法的贝叶斯优化方法，包括以下步骤：S1、建立目标函数，得到目标函数的后验分布；S2、加入噪声信号，计算目标函数的边缘Student‑t分布；S3、通过序贯蒙特卡罗近似的方法对目标函数进行优化。本发明专利技术通过序贯蒙特卡罗方法计算权重分布；然后通过Student‑t过程回归而不是高斯过程回归将改进的序贯蒙特卡罗方法扩展到全局优化中，可以在较少样本数的情况下更有效地得到最大值的分布，具有更强的探索能力和异常值适应性能。

【技术实现步骤摘要】
一种基于序贯蒙特卡罗方法的贝叶斯优化方法
本专利技术属于全局优化
，具体涉及一种基于序贯蒙特卡罗方法的贝叶斯优化方法。
技术介绍
在科学和工程领域的许多问题可以被描述为找到一个很难去估计的未知函数的最小值或最大值。贝叶斯优化是一种广泛使用的概率方法，用于解决这一问题。为了解释未知目标函数的特征，高斯过程特别适用于模型预测的解释，并为学习和模型选择提供合理的框架。由于其在调制和学习方面的优势，它已成为机器学习中最流行的基于非参数核的全局优化方法。它广泛应用于许多应用或研究领域，例如，在强化学习、大数据、无线传感器网络以及许多其他工业应用领域，如天气预报、计算生物学、医疗应用、生存分析等。为了找到函数的全局最优值，贝叶斯优化引入了一个采集函数，用于评估并平衡下一数据点的搜索和利用。几十年来，人们已经提出了许多采集函数的变体。最常用的是后验概率改进(PI)、期望改进(EI)、上界置信区间(UCB)、熵搜索(ES)。目前，我们在贝叶斯优化上做了大量的工作，以提高高斯过程模型对大数据的计算效率的有效性，对非高斯似然的后验近似和协方差函数的超参数优化。尽管贝叶斯优化效率很高，但实践者仍然面本文档来自技高网...

【技术保护点】
1.一种基于序贯蒙特卡罗方法的贝叶斯优化方法，其特征在于，包括以下步骤：S1、建立目标函数，得到目标函数的后验分布；S2、加入噪声信号，计算目标函数的边缘Student‑t分布；S3、通过序贯蒙特卡罗近似的方法对目标函数进行优化。

【技术特征摘要】
1.一种基于序贯蒙特卡罗方法的贝叶斯优化方法，其特征在于，包括以下步骤：S1、建立目标函数，得到目标函数的后验分布；S2、加入噪声信号，计算目标函数的边缘Student-t分布；S3、通过序贯蒙特卡罗近似的方法对目标函数进行优化。2.根据权利要求1所述的一种基于序贯蒙特卡罗方法的贝叶斯优化方法，其特征在于，所述步骤S1具体实现方法为：对于d维随机变量X，多变量Student-t分布由下式给出：其中，Md(x，μ，∑)＝(x-μ)T∑-1(x-μ)；Md(x，μ，∑)表示相对于协方差矩阵∑，从x到均值μ的马哈拉诺比斯距离平方；马哈拉诺比斯距离测量当前参数(μ，∑)对观测x的可解释性；附加参数v＞2，描述分布的自由度，并在变化时充当平滑因子；当v→∞时，Student-t分布收敛于具有相同均值和协方差矩阵的高斯分布；通过均值函数m(x)和协方差函数k(x，x′)的Student-t过程来构建目标函数f(x)：yi＝f(xi)，i＝1，2，…，p来自Student-t过程先验的样本也是Student-t分布：为计算方便，令均值μ为0，然后给定观测数据集{X，y}＝{(xi，yi)，i＝1，2，...，p}，得到后验分布：其中θ是协方差矩阵K中的超参数和自由度v的集合；基于历史数据集{X，y}，给定新的输入数据潜在函数f*的后验预测分布为：其中，其中，k*是p维向量，其中第i个条目是k(x*，xi)，具体定义为：k*＝[k(x*，x1)k(x*，x2)…k(x*，xn)]K是由成对核k(xi，xj)构成p×p的协方差矩阵，具体定义为：y是p观测值的矢量；我们令均值μ和μ*均假定为0和0。3.根据权利要求2所述的一种基于序贯蒙特卡罗方法的贝叶斯优化方法，其特征在于，所述步骤S2具体实现方法为：将噪...

【专利技术属性】
技术研发人员：王伟东，于秦，余俊良，
申请(专利权)人：电子科技大学，
类型：发明
国别省市：四川,51