一种含拉普拉斯噪声的偏微分方程反问题的推断方法技术

本发明专利技术公开了一种含拉普拉斯噪声的偏微分方程反问题的推断方法，包括：假设观测噪声服从拉普拉斯分布，将噪声的概率密度函数表示为高斯尺度的混合；获取似然函数；利用马尔科夫随机场表示未知变量的先验分布、多层建模把尺度参数建模为随机变量；通过拉普拉斯分布的高斯尺度混合表示将反问题的后验概率密度函数重新建模为多层贝叶斯模型；基于Kullback

【技术实现步骤摘要】
一种含拉普拉斯噪声的偏微分方程反问题的推断方法


[0001]本专利技术涉及反问题推断
，特别是涉及一种含拉普拉斯噪声的偏微分方程反问题的推断方法。

技术介绍

[0002]随着科学技术水平的进步和数学研究的不断深入，反问题已经被广泛应用于地质与环境科学、生命科学与医学、地球物理科学、工程控制、信号处理等诸多科学
在数学物理研究领域，反问题用于描述时空域逆时针的物理变化，可通过直接观测的信息来探求事物内部规律。例如在地球物理勘探领域，接收地震波信号，通过走时成像得到地震波在不同深度的传播速度，进一步利用声波方程或单程波方程偏移成像方法，得到反射界面的位置和形状等地层地貌形态，这类问题就是数学物理反问题。
[0003]反问题的求解相对困难，本质在于反问题通常是不适定的，即解的存在性、唯一性和稳定性中的一个或多个不满足。针对不适定问题，研究学者提出了两大类有效解决方法：正则化方法和贝叶斯方法。求解反问题的传统正则化方法的出发点是测量数据的误差特征己知或误差很小可忽略不计。然而在处理实际问题时，难以精确获得测量数据的误差特征，或难以获得测量数据的具体误差大小。此外，从统计方面讲，正则化方法求解得到的是一个确定的值，相当于贝叶斯统计方法的“点估计”，它给出的信息较少，忽略了误差的随机性和模型的不确定性信息，因此正则化方法存在一定的局限性。为了克服上述缺点，研究学者使用随机方法来量化模型的不确定性并求解不适定问题，其中最常用的是贝叶斯统计推断方法，简称为贝叶斯方法。贝叶斯方法将反问题转化为统计推断问题，利用先验概率刻画待估计函数的已知信息，借助贝叶斯公式有效地将已知信息和由测量数据获得的信息相结合，从而得到能够对待估计函数不确定性进行完整刻画的后验概率分布。相比于传统正则化方法，贝叶斯方法提供了不确定性量化分析。
[0004]贝叶斯反演方法中一个重要问题是后验信息的获取，以马尔科夫链蒙特卡罗(MarkovchainMonteCarlo，MCMC)采样为代表的采样算法在统计反演中获得了广泛关注，但在涉及海量数据或者模型较复杂的情况下，其计算成本过高。此时，被广泛应用于机器学习的变分推断法就是一种很好的替代方法，它在与点估计计算量相当的情况下能够给出待估计函数的不确定性分析，因此对于偏微分方程反问题，该方法具有广泛的适用性。
[0005]变分贝叶斯推断为解决各种反问题提供了一个灵活性框架，首先，它能够产生一组与观测数据一致的解的集合，从而实现解的不确定性量化，其次，通过分层建模解决了超参数选择的难题，从而提供了一种灵活的正则化方法。在现有的反问题贝叶斯推断研究中，噪声先验分布大多假设为高斯型分布。虽然高斯型先验分布使得计算方便并易于探索后验状态空间，但是高斯型分布的局限性在于它对观测数据中的异常值缺乏鲁棒性，一个异常数据点就可以显著影响模型中的所有参数的估计值，因此严重损害估计的准确性。另外，并不是所有的数据噪声都能被高斯模型充分描述，有时在获取信号时可能会产生拉普拉斯噪声。

技术实现思路

[0006]为解决上述
技术介绍
中存在的至少一种问题，本专利技术提供一种含拉普拉斯噪声的偏微分方程反问题的推断方法。
[0007]本专利技术实施例提供的一种拉普拉斯噪声的偏微分方程反问题的推断方法，包括如下八个步骤：
[0008]步骤一：假设观测噪声服从拉普拉斯分布，将噪声的概率密度函数表示为高斯尺度的混合；
[0009]步骤二：获取似然函数；
[0010]步骤三：利用马尔科夫随机场表示未知变量的先验分布；
[0011]步骤四：利用多层建模把尺度参数建模为随机变量；
[0012]步骤五：通过拉普拉斯分布的高斯尺度混合表示将反问题的后验概率密度函数重新建模为多层贝叶斯模型；
[0013]步骤六：基于Kullback
‑
Leibler散度，采用变分贝叶斯推断方法将后验概率密度函数的计算问题转化为关于概率分布的变分问题；
[0014]步骤七：施加平均场假设，在概率分布族中寻找真实后验概率分布的近似估计，反演出未知变量、噪声方差参数和尺度参数的近似分布；
[0015]步骤八：选取适当的逼近概率分布族，得到能够同时刻画未知变量、噪声方差参数和尺度参数的不确定性的非退化方法，以及仅刻画噪声方差参数和尺度参数的不确定性的退化方法。
[0016]进一步地，上述一种含拉普拉斯噪声的偏微分方程反问题的推断方法中，步骤一中假设观测噪声服从拉普拉斯分布，将噪声的概率密度函数表示为高斯尺度的混合，包括如下两个步骤：
[0017]步骤(1)建立含拉普拉斯噪声反问题的变分贝叶斯模型，对于有限维线性反问题：Hm＝d，其中分别代表系统矩阵，未知变量，观测数据；设d＝d
+
+ζ，其中d
+
表示无噪声数据，ζ表示噪声,ζ＝[ζ1,ζ2,
···
ζ
n
]T
，ζ的每个分量ζ
i
是独立同分布且服从期望为0，方差为的拉普拉斯分布，记为其概率密度函数表示为：
[0018]步骤(2)将噪声ζ的概率密度函数表示为高斯尺度的混合，具体形式为：
[0019][0020]其中，ζ
i
服从期望为0、方差为w
i
的高斯分布，记为w
i
是隐变量，w
i
服从指数分布w
i
～Exponential(τ)，其概率密度函数为w＝[w1,w2,
···
w
n
]T
，w的概率密度函数
[0021]进一步地，上述一种含拉普拉斯噪声的偏微分方程反问题的推断方法中，步骤二中获取似然函数包括：
[0022]在考虑加性噪声模型时，似然函数是噪声ζ概率密度函数的平移，可表示为：即已知m和w时，d的概率密度函数，其中，m是未知变量，d是观测数据，w是服从指数分布的随机变量；d服从期望为Hm、协方差矩阵为diag(w1,w2,
···
w
n
)的n维高斯分布，w
i
是隐变量，w
i
服从指数分布w
i
～Exponential(τ)。
[0023]进一步地，上述一种含拉普拉斯噪声的偏微分方程反问题的推断方法中，步骤三中利用马尔科夫随机场表示未知变量的先验分布，包括：
[0024]采用先验建模工具马尔科夫随机场表示未知变量m的先验分布p(m|λ)，其形式为：其中，λ是描述交互作用强度的尺度参数，矩阵L表征相邻点之间交互作用的结构，s为矩阵L的秩；
[0025]步骤四中利用多层建模把尺度参数建模为随机变量，包括：选取伽马分布G(λ；α,β)为尺度参数λ的先验分布：其中，Γ(
·
)为标准伽马函数，α和β是非负常数。
[0026]进一步地，上述一种含拉普拉斯噪声的偏微分方程反问题的推断方法中，步骤五中通过拉普拉斯分布的高斯尺度混合表示将反问题本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，包括如下八个步骤：步骤一：假设观测噪声服从拉普拉斯分布，将噪声的概率密度函数表示为高斯尺度的混合；步骤二：获取似然函数；步骤三：利用马尔科夫随机场表示未知变量的先验分布；步骤四：利用多层建模把尺度参数建模为随机变量；步骤五：通过拉普拉斯分布的高斯尺度混合表示将反问题的后验概率密度函数重新建模为多层贝叶斯模型；步骤六：基于Kullback
‑
Leibler散度，采用变分贝叶斯推断方法将后验概率密度函数的计算问题转化为关于概率分布的变分问题；步骤七：施加平均场假设，在概率分布族中寻找真实后验概率分布的近似估计，反演出未知变量、噪声方差参数和尺度参数的近似分布；步骤八：选取适当的逼近概率分布族，得到能够同时刻画未知变量、噪声方差参数和尺度参数的不确定性的非退化方法，以及仅刻画噪声方差参数和尺度参数的不确定性的退化方法。2.根据权利要求1所述的一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，所述步骤一中假设观测噪声服从拉普拉斯分布，将噪声的概率密度函数表示为高斯尺度的混合，包括如下两个步骤：步骤(1)建立含拉普拉斯噪声反问题的变分贝叶斯模型，对于有限维线性反问题：Hm＝d，其中d，其中分别代表系统矩阵，未知变量，观测数据；设d＝d
+
+ζ，其中d
+
表示无噪声数据，ζ表示噪声,ζ＝[ζ1,ζ2,
···
ζ
n
]
T
，ζ的每个分量ζ
i
是独立同分布且服从期望为0，方差为的拉普拉斯分布，记为其概率密度函数表示为：步骤(2)将噪声ζ的概率密度函数表示为高斯尺度的混合，具体形式为：其中，ζ
i
服从期望为0、方差为w
i
的高斯分布，记为w
i
是隐变量，w
i
服从指数分布w
i
～Exponential(τ)，其概率密度函数为w＝[w1,w2,
···
w
n
]
T
，w的概率密度函数
3.根据权利要求1所述的一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，所述步骤二中获取似然函数包括：在考虑加性噪声模型时，似然函数是噪声ζ概率密度函数的平移，可表示为：即已知m和w时，d的概率密度函数，其中，m是未知变量，d是观测数据，w是服从指数分布的随机变量；d服从期望为Hm、协方差矩阵为diag(w1,w2,
···
w
n
)的n维高斯分布，w
i
是隐变量，w
i
服从指数分布w
i
～Exponential(τ)。4.根据权利要求1所述的一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，所述步骤三中利用马尔科夫随机场表示未知变量的先验分布，包括：采用先验建模工具马尔科夫随机场表示未知变量m的先验分布p(m|λ)，其形式为：其中，λ是描述交互作用强度的尺度参数，矩阵L表征相邻点之间交互作用的结构，s为矩阵L的秩；所述步骤四中利用多层建模把尺度参数建模为随机变量，包括：选取伽马分布G(λ；α,β)为尺度参数λ的先验分布：其中，Γ(
·
)为标准伽马函数，α和β是非负常数。5.根据权利要求1所述的一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，所述步骤五中通过拉普拉斯分布的高斯尺度混合表示将反问题的后验概率密度函数重新建模为多层贝叶斯模型，包括：利用多层贝叶斯建模将后验概率密度函数表示为：其中，w是噪声方差参数，W是对角元素为w的对角矩阵，范数定义为(α,β)为伽马分布的参数对，m是未知变量，d是观测数据，λ是描述交互作用强度的尺度参数，矩阵L表征相邻点之间交互作用的结构，s为矩阵L的秩，α和β是非负常数，d服从期望为Hm、协方差矩阵为diag(w1,w2,
···
w
n
)的n维高斯分布，w
i
是隐变量，w
i
服从指数分布w
i
～Exponential(τ)；所述步骤六中基于Kullback
‑
Leibler散度，采用变分贝叶斯推断方法将后验概率密度函数的计算问题转化为关于概率分布的变分问题，包括：将后验概率密度函数转化为求解优化问题在易计算的概率分布族中寻找近似分布q(m,w,λ)以逼近真实的后验概率密度函数p(m,w,λ|d)。6.根据权利要求1所述的一种含拉普拉斯噪声的偏微分方程反问题的推断方法，其特征在于，所述步骤八中选取适当的逼近概率分布族，得到能够同时刻画未知变量、噪声方差
参数和尺度参数的不确定性的非退化方法，包括：对未知变量m、噪声方差参数w和尺度参数λ施加平均场假设，近似分布q...

【专利技术属性】
技术研发人员：李玉娇，邵芳，
申请(专利权)人：西安邮电大学，
类型：发明
国别省市：