一种基于概率矩阵分解的贝叶斯网络推理方法技术

本发明专利技术公开了一种基于概率矩阵分解的贝叶斯网络推理方法，包括概率矩阵分解、概率矩阵分解算法和基于概率矩阵分解的贝叶斯网络推理方法三个步骤，该方法可以用于分析变量间的独立性和确定性关系，本文证明了贝叶斯网络的联合概率分布可以等价表示为一系列子图联合概率分布的线性组合，在此基础上，提出了一个新的推理框架，在这个新的框架下，任意贝叶斯网络可以分解为若干带权重的贝叶斯子网络，如果原图被分解为树状子图，可以得到精确的推理结果；如果原图被分解为若干仍然带环的子图，近似推理的准确性高于主流的信度传播算法。

A Bayesian network inference method based on probabilistic matrix decomposition

The invention discloses a Bayesian network reasoning method based on probabilistic matrix decomposition, which includes three steps: probabilistic matrix decomposition, probabilistic matrix decomposition algorithm and Bayesian network reasoning method based on probabilistic matrix decomposition. The method can be used to analyze the independent and deterministic relations among variables. This paper proves that Bayesian network reasoning method can be used to analyze the independent and deterministic The joint probability distribution of networks can be expressed as a linear combination of joint probability distributions of a series of subgraphs. On this basis, a new reasoning framework is proposed. Under this new framework, an arbitrary Bayesian network can be decomposed into several weighted Bayesian subnetworks. If the original graph is decomposed into a tree subgraph, it can be decomposed into several weighted Bayesian subnetworks. If the original graph is decomposed into several subgraphs still with rings, the accuracy of approximate reasoning is higher than that of the mainstream belief propagation algorithm.

【技术实现步骤摘要】
一种基于概率矩阵分解的贝叶斯网络推理方法
本专利技术涉及贝叶斯网络领域，尤其涉及一种基于概率矩阵分解的贝叶斯网络推理方法。
技术介绍
贝叶斯网络是一种有向概率图模型，它起源于人工智能领域的研究，近年来，贝叶斯网络被广泛应用于人工智能、模式识别、故障诊断、图像视频处理等各个领域，贝叶斯网络用节点表示变量，用节点之间的边表示变量之间的依赖关系，其核心思想是在图模型上定义一个联合概率分布，而该联合概率分布可以表示为图模型上节点和边上势函数的乘积，这一结构特性使得概率图模型能够通过描述局部变量间的依赖关系，来刻画系统整体的联合概率分布，贝叶斯网络的基础理论主要包括模型表示、概率推理和模型学习，概率推理是其中的核心问题，具有重要的理论和实际研究意义，贝叶斯网络的推理难题是由网络中存在耦合的环引起的，因此许多近似推理方法都试图去掉环的影响，而概率矩阵是贝叶斯网络中表示局部变量间依赖关系的参数。
技术实现思路
针对上述问题，本专利技术提供了一种基于概率矩阵分解的贝叶斯网络推理方法。为解决上述技术问题，本专利技术所采用的技术方案是：一、概率矩阵分解：贝叶斯网络的联合概率表示为概率矩阵的乘积：概率矩阵描述了贝叶斯网络局部变量之间的概率依赖关系，概率矩阵分解的主要思想是将概率矩阵分解为若干带权重的极值概率矩阵，其中极值概率矩阵的元素只包含0和1，通过概率矩阵分解，变量之间的依赖关系被分解为独立关系或确定性关系，通过分解，变量之间的耦合关系能够得到简化，原来含有环的贝叶斯网络能够变成无环网络；因此，可以利用矩阵分解，将一个带环的贝叶斯网络分解为树状贝叶斯网络，从而将复杂推理问题转化为树状贝叶斯网络的推理问题；以下给出概率矩阵的数据定义，贝叶斯网络中某个节点的概率矩阵记为T＝(tij)m×n，概率矩阵的元素为非负数，且概率矩阵的每行满足定义1：T为概率矩阵，如果T的所有元素取值为0或1，则T为极值概率矩阵，极值矩阵蕴含着变量之间的独立性或确定性关系，极值概率矩阵的数学定义如下：任意一个概率矩阵T可以分解为特定数量的独立和确定性极值矩阵的加权和：定理1：一个任意极值概率矩阵描述变量之间的独立或确定性关系。二、概率矩阵分解算法：对于任意一个m×n维概率矩阵，可以被分解为nm个可能的极值矩阵，分解后的极值矩阵数量随着矩阵维度呈指数增长，从而限制了该方法在概率推理中的应用。三、基于概率矩阵分解的贝叶斯网络推理方法：利用概率矩阵分解方法可以把贝叶斯网络进行分解简化：定理3：贝叶斯网络的联合概率分布可以表示为子网络联合概率分布的加权和：进一步的，分为三个算法：算法1：最小行分解算法：最小化分解后极值概率矩阵的数量，可以表示为以下优化问题：minN0≤ρi≤1,i＝1,2,...,N文本提出了最小行搜索算法来优化上述问题。最小行搜索算法是一个迭代分解方法：(1)输入：m×n维概率矩阵T；(2)输出：特定数量的极值概率矩阵E＝{Ek}，及相应的权重ρ＝{ρk}(3)初始化T＝(tij)m×n,k＝0；(4)whileT≠0do；(5)K＝k+1；(6)查找T的最小非零元素tij；(7)ρk＝tij；Ek＝0；(8)记录矩阵T每一行最小非零元素的位置p，将Ek在位置p的值设为1；(9)ρ＝ρ∪{ρk}；(10)E＝E∪{Ek}；(11)T＝T-ρkEk；(12)endwhile。算法2：最大行分解算法：概率矩阵分解后得到的极值概率矩阵权重往往各不相同，如果权重集中在少数极值概率矩阵，权重较小的极值概率矩阵可以近似忽略，从而实现了对原贝叶斯网络的近似分解，为了实现将权重集中在少量的极值概率矩阵，本文提出了最大行搜索算法，该算法流程为：记录概率矩阵每行的最大元素所在的位置，将极值概率矩阵在相应位置设为1，其余位置设为0；极值概率矩阵的权重设置为每行最大元素的最小值，依次迭代分解，得到若干带权重的极值概率矩阵，由算法2得到的极值概率矩阵，其权重主要集中在编号较小的极值概率矩阵；(1)输入：m×n维概率矩阵T；(2)输出：特定数量的极值概率矩阵E＝{Ek}，及相应的权重ρ＝{ρk}(3)初始化T＝(tij)m×n,k＝0；(4)whileT≠0do；(5)k＝k+1；(6)Ek＝0；(7)记录矩阵T每一行最大非零元素的位置p，将Ek在位置p的值设为1；(8)ρ＝ρ∪{ρk}；(9)E＝E∪{Ek}；(10)T＝T-ρkEk；(11)endwhile。算法3：最大独立分量分解算法：为了将极值矩阵的权重集中在独立极值矩阵中，本文提出了最大独立分量分解算法，利用最大独立分量分解算法对贝叶斯网络进行分解，可以将原带环的贝叶斯网络近似为树状贝叶斯网络；(1)输入：m×n维概率矩阵T；(2)输出：独立分量概率矩阵及相应权重TI,ρI，确定性矩阵及权重{Ek},{ρk}；(3)初始化TI＝0,ρI＝0,(4)forj＝1:ndo；(5)(6)Ej＝0；；(7)将Ej的第j列设为1；(8)endfor；(9)(10)(11)T＝T-ρITI；(12){Ek},{ρk}＝最大行分解算法(T)。由上述对本专利技术的描述可知，和现有技术相比，本专利技术具有如下优点：本专利技术一种基于概率矩阵分解的贝叶斯网络推理方法，该方法可以用于分析变量间的独立性和确定性关系，本文证明了贝叶斯网络的联合概率分布可以等价表示为一系列子图联合概率分布的线性组合，在此基础上，提出了一个新的推理框架，在这个新的框架下，任意贝叶斯网络可以分解为若干带权重的贝叶斯子网络，如果原图被分解为树状子图，可以得到精确的推理结果；如果原图被分解为若干仍然带环的子图，近似推理的准确性高于主流的信度传播算法。附图说明图1是本专利技术概率矩阵分解示意图；(a)是一个包含三个节点的贝叶斯网络；(b)是将一个概率矩阵分解为若干极值概率矩阵的加权和，每个极值概率矩阵代表两个变量之间的独立或确定性关系；(c)是利用概率矩阵分解将一个带环的贝叶斯网络分解为树状贝叶斯网络；图2是本专利技术极值矩阵示例；图3是本专利技术贝叶斯网络分解示例图；图4是本专利技术基于概率矩阵分解的贝叶斯网络分解；图5是本专利技术实验结果对比；具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。实施例1一种基于概率矩阵分解的贝叶斯网络推理方法，分为三个步骤：一、概率矩阵分解：贝叶斯网络的联合概率表示为概率矩阵的乘积：概率矩阵描述了贝叶斯网络局部变量之间的概率依赖关系，概率矩阵分解的主要思想是将概率矩阵分解为若干带权重的极值概率矩阵，其中极值概率矩阵的元素只包含0和1，通过概率矩阵分解，变量之间的依赖关系被分解为独立关系或确定性关系，通过分解，变量之间的耦合关系能够得到简化，原来含有环的贝叶斯网络能够变成无环网络；因此，可以利用矩阵分解，将一个带环的贝叶斯网络分解为树状贝叶斯网络，从而将复杂推理问题转化为树状贝叶斯网络的推理问题；以下给出概率矩阵的数据定义，贝叶斯网络中某个节点的概率矩阵记为T＝(tij)m×n，概率矩阵的元素为非负数，且概率矩阵的每行满足定义1：T为概率矩阵，如果T的所有元素取值为0或1，则T为极值概率矩阵，极值矩阵蕴含着变量之间的独立性或确本文档来自技高网...

【技术保护点】
1.一种基于概率矩阵分解的贝叶斯网络推理方法，分为三个步骤：一、概率矩阵分解：贝叶斯网络的联合概率表示为概率矩阵的乘积：

【技术特征摘要】
1.一种基于概率矩阵分解的贝叶斯网络推理方法，分为三个步骤：一、概率矩阵分解：贝叶斯网络的联合概率表示为概率矩阵的乘积：概率矩阵描述了贝叶斯网络局部变量之间的概率依赖关系，概率矩阵分解的主要思想是将概率矩阵分解为若干带权重的极值概率矩阵，其中极值概率矩阵的元素只包含0和1，通过概率矩阵分解，变量之间的依赖关系被分解为独立关系或确定性关系，通过分解，变量之间的耦合关系能够得到简化，原来含有环的贝叶斯网络能够变成无环网络；因此，可以利用矩阵分解，将一个带环的贝叶斯网络分解为树状贝叶斯网络，从而将复杂推理问题转化为树状贝叶斯网络的推理问题；以下给出概率矩阵的数据定义，贝叶斯网络中某个节点的概率矩阵记为T＝(tij)m×n，概率矩阵的元素为非负数，且概率矩阵的每行满足定义1：T为概率矩阵，如果T的所有元素取值为0或1，则T为极值概率矩阵，极值矩阵蕴含着变量之间的独立性或确定性关系，极值概率矩阵的数学定义如下：任意一个概率矩阵T可以分解为特定数量的独立和确定性极值矩阵的加权和：定理1：一个任意极值概率矩阵描述变量之间的独立或确定性关系。二、概率矩阵分解算法：对于任意一个m×n维概率矩阵，可以被分解为nm个可能的极值矩阵，分解后的极值矩阵数量随着矩阵维度呈指数增长，从而限制了该方法在概率推理中的应用。三、基于概率矩阵分解的贝叶斯网络推理方法：利用概率矩阵分解方法可以把贝叶斯网络进行分解简化：定理3：贝叶斯网络的联合概率分布可以表示为子网络联合概率分布的加权和：。2.根据权利要求1所述一种中和酸的检测方法，其特征在于：概率矩阵分解算分为三个矩阵分解的算法：算法1：最小行分解算法：最小化分解后极值概率矩阵的数量，可以表示为以下优化问题：minN0≤ρi≤1,i＝1,2,...,N文本提出了最小行搜索算法来优化上述问题。最小行搜索算法是一个迭代分解方法：(1)输入：m×n维概率矩阵T；(2)输出：特定数量的极值概率矩阵E＝{Ek}，及相应的权重ρ＝{ρk}；(3)初始化T＝(tij)m×n,k...

【专利技术属性】
技术研发人员：董建武，孙波，房婧，杜雄杰，刘成，方喆君，余肇飞，刘健，司成祥，王亿芳，侯美佳，
申请(专利权)人：国家计算机网络与信息安全管理中心，北京大学，
类型：发明
国别省市：北京,11