一种易推理贝叶斯网络的学习方法技术

本发明专利技术属于机器学习技术领域，具体为一种易推理贝叶斯网络的学习方法，包括步骤1：为预训练，即初始化贝叶斯网络，利用训练数据判断两个节点之间的互信息值，通过互信息初始化贝叶斯网络；步骤2：为搜索，即在初始化的贝叶斯网络附近搜索与训练数据拟合程度更好的贝叶斯网络；步骤3：为寻找易推理的贝叶斯网络，即寻找一个推理效率高的贝叶斯网，其结构合理，通过对学习贝叶斯网络时的推理效率进行打分，变量序、变量消元和团树传播推理等进行分析与处理，构建新的评分函数，进而通过爬山法学习贝叶斯网络，从而构建出能在保证一定拟合程度的情况下的易推理的贝叶斯网络。为贝叶斯网络走向应用的过程中，满足实际需求。满足实际需求。满足实际需求。

【技术实现步骤摘要】
一种易推理贝叶斯网络的学习方法


[0001]本专利技术涉及机器学习
，具体为一种易推理贝叶斯网络的学习方法。

技术介绍

[0002]贝叶斯网络是用来表示数据概率知识的模型,是以贝叶斯概率理论为基础的,是概率论与论相结合的产物。它可以获得数据集中各变量间的条件概率,判断变量间的因果关系。在许多现实的情况下,一些规则不能对数据进行全面描述。建立数据库完整的模型是比较困难的,而且所建立的模型也比较复杂。贝叶斯网络可以对规则进行补充,它的图形表示方式更容易理解。同时,它是一种数学模型,可以在不确定的情况下进行推理。但是随着贝叶斯网走向应用，由于评分函数的单一考虑与训练数据的吻合性，而忽视了学习出来的贝叶斯网络结构的推理效率，使得耗费了大量的资源学习所得的贝叶斯网络的推理效率低下，不能满足需求，所以如何在保证吻合度的情况下，使得学习所得的贝叶斯网络具有高效的推理效率就成为了关键。

技术实现思路

[0003]本部分的目的在于概述本专利技术的实施方式的一些方面以及简要介绍一些较佳实施方式。在本部分以及本申请的说明书摘要和专利技术名称中可能会做些简化或省略以避免使本部分、说明书摘要和专利技术名称的目的模糊，而这种简化或省略不能用于限制本专利技术的范围。
[0004]本专利技术提供一种易推理贝叶斯网络的学习方法，可以根据影响贝叶斯网络推理效率的多个因素(属性)对贝叶斯网络的推理效率和与训练数据的拟合程度进行综合评价。
[0005]为解决上述技术问题，根据本专利技术的一个方面，本专利技术提供了如下技术方案：
[0006]一种易推理贝叶斯网络的学习方法，其包括如下步骤：
[0007]步骤1：为预训练，即初始化贝叶斯网络，利用训练数据判断两个节点之间的互信息值，通过互信息初始化贝叶斯网络，训练数据为无缺省值的数据集，数据集提供的每一个数据项包含n个数据，分别对应n个节点的取值，每个节点的取值有多种情况，通过贝叶斯网络学习的过程中，首先要初始化贝叶斯网络，使用数据集两个节点之间的互信息来表达两个节点这间的相关性，当相关性达到一定程度时，就可以在贝叶斯网络中初始化边信息，遍历完任意两个n个节点中任意两个节点，初始化结束；
[0008]步骤2：为搜索，即在初始化的贝叶斯网络附近搜索与训练数据拟合程度更好的贝叶斯网络，寻找bic评分最高的贝叶斯网络，贝叶斯网络是具有n个节点的有向图，在对贝叶斯网络进行初始化之后，得到一个与训练数据初步拟合的贝叶斯网络，在这个贝叶斯网络的附近寻找与训练数据最拟合的贝叶斯网络结构；
[0009]步骤3：为寻找易推理的贝叶斯网络，即寻找一个推理效率高的贝叶斯网，在搜索到的贝叶斯网络附近搜索推理复杂度最低的贝叶斯网同时限制他的bic评分在一定的范围内，运用以上训练得到的贝叶斯网络集合，寻找一个在指定bic评分下的一个易推理的贝叶
斯网络。
[0010]作为本专利技术所述的一种易推理贝叶斯网络的学习方法的一种优选方案，其中：步骤一包括：
[0011]步骤101：设定贝叶斯网络的节点数为n，训练数据有m组；
[0012]步骤102：初始化贝叶斯网络，计算任意两个节点之间的互信息，互信息公式：
[0013][0014]通过上面的互信息公式，结合贝叶斯网络训练数据，得到每一个的节点的概率分布和任意两个节点这间的联合概率分布，计算得到两个节点的互信息Ⅰ(x,y)>0.1并且在两个节点这间加上边之后不会形成回路时在贝叶斯网络的这两个节点之间加上有向边
[0015]步骤103：遍历完贝叶斯网络的所有节点，结束。输出贝叶斯网络。
[0016]作为本专利技术所述的一种易推理贝叶斯网络的学习方法的一种优选方案，其中：步骤2包括：
[0017]步骤201：对最大bic评分进行初始化，最大bic评分为初始化贝叶斯网络的bic评分：
[0018]步骤202：依次寻找贝叶斯网络临界矩阵中的每个边，对贝叶斯网临界矩阵中的这条边进行加边、减边和转边的操作，然后对变化之后的贝叶斯网进行bic评分。对此贝叶斯网的bic评分与最大bic评分进行比较，得到较大评分的贝叶斯网络，并将更优的贝叶斯网络放入到贝叶斯网络集合当中，重复步骤202直至遍历完临界矩阵中所有的边节点后得到新的贝叶斯网络；
[0019]步骤203：循环遍历寻找最优的贝叶斯网络，判断步骤202得到的贝叶斯网络与步骤开始之前的贝叶斯网络是否相同，如果不相同，那么重复步骤202；学习得到贝叶斯网络，计算贝叶斯网络bic评分结果，利用costVE算法的和团树传播算法的时间复杂度分析得到贝叶斯网络推理效率评分结果。
[0020]作为本专利技术所述的一种易推理贝叶斯网络的学习方法的一种优选方案，其中：：步骤三包括：
[0021]步骤301：设定一个bic评分下界；
[0022]步骤302：遍历贝叶斯网络集合，寻找满足bic评分界限的贝叶斯网络；
[0023]步骤303：对于满足条件的贝叶斯网络，采用贝叶斯网络，对其采用变量消元算法的时间复杂度和团树传播算法的时间复杂度进行打分；
[0024]步骤304：遍历完所有的贝叶斯网络，选择其中时间复杂度最低的贝叶斯网。
[0025]与现有技术相比，本专利技术的有益效果是：本专利技术通过对学习贝叶斯网络时的推理效率进行打分，变量序、变量消元和团树传播推理等进行分析与处理，构建新的评分函数，进而通过爬山法学习贝叶斯网络，从而构建出能在保证一定拟合程度的情况下的易推理的贝叶斯网络。为贝叶斯网络走向应用的过程中，满足实际需求。
附图说明
[0026]为了更清楚地说明本专利技术实施方式的技术方案，下面将结合附图和详细实施方式对本专利技术进行详细说明，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施方式，对
于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。其中：
[0027]图1为本专利技术结构示意图；
[0028]图2为本专利技术团树构造算法结构示意图。
具体实施方式
[0029]为使本专利技术的上述目的、特征和优点能够更加明显易懂，下面结合附图对本专利技术的具体实施方式做详细的说明。
[0030]在下面的描述中阐述了很多具体细节以便于充分理解本专利技术，但是本专利技术还可以采用其他不同于在此描述的其它方式来实施，本领域技术人员可以在不违背本专利技术内涵的情况下做类似推广，因此本专利技术不受下面公开的具体实施方式的限制。
[0031]实施例1
[0032]以ALARM网学习过程为例，选取bic评分、变量消元时间复杂度costVE、最小缺边算法变量序、最大势搜索变量序、MICS算法变量序、团树构造、团树传播算法、贝叶斯网复杂度等多个指标作为属性作为评分算法依据，训练得到目标贝叶斯网络。
[0033]第一部分的具体实现步骤如下：
[0034]ALARM包含37个节点，数据集一共有6001条训练数据，每条训练数据包含37个取值，每个取值对应与每一个节点，每个本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种易推理贝叶斯网络的学习方法，其特征在于：包括如下步骤：步骤1：为预训练，即初始化贝叶斯网络，利用训练数据判断两个节点之间的互信息值，通过互信息初始化贝叶斯网络，训练数据为无缺省值的数据集，数据集提供的每一个数据项包含n个数据，分别对应n个节点的取值，每个节点的取值有多种情况，通过贝叶斯网络学习的过程中，首先要初始化贝叶斯网络，使用数据集两个节点之间的互信息来表达两个节点这间的相关性，当相关性达到一定程度时，就可以在贝叶斯网络中初始化边信息，遍历完任意两个n个节点中任意两个节点，初始化结束；步骤2：为搜索，即在初始化的贝叶斯网络附近搜索与训练数据拟合程度更好的贝叶斯网络，寻找bic评分最高的贝叶斯网络，贝叶斯网络是具有n个节点的有向图，在对贝叶斯网络进行初始化之后，得到一个与训练数据初步拟合的贝叶斯网络，在这个贝叶斯网络的附近寻找与训练数据最拟合的贝叶斯网络结构；步骤3：为寻找易推理的贝叶斯网络，即寻找一个推理效率高的贝叶斯网，在搜索到的贝叶斯网络附近搜索推理复杂度最低的贝叶斯网同时限制他的bic评分在一定的范围内，运用以上训练得到的贝叶斯网络集合，寻找一个在指定bic评分下的一个易推理的贝叶斯网络。2.根据权利要求1所述的一种易推理贝叶斯网络的学习方法，其特征在于：步骤一包括：步骤101：设定贝叶斯网络的节点数为n，训练数据有m组；步骤102：初始化贝叶斯网络，计算任意两个节点之间的互信息，互信息公式：通过上面的互信息公式，结合贝叶斯网络训练数据，得到每一个的节点的概率分布和任意两个节点这间的联合概率分布，计算得到两个节点的互信...

【专利技术属性】
技术研发人员：吴振旭，余展鹏，侯方丞杨，孙晴晴，朱允刚，
申请(专利权)人：吉林大学，
类型：发明
国别省市：