【技术实现步骤摘要】
一种深度贝叶斯网络建模训练方法
[0001]本专利技术属于人工智能
,特别是数据挖掘
的一种深度贝叶斯网络建模训练方法。
技术介绍
[0002]近年来,以深度学习为代表的新一代人工智能技术在图像识别、语音识别等领域不断取得突破,极大地提高了当前机器学习算法的性能。数据驱动的深度学习方法可以自动地从数据中提取特征和进行抽象,挖掘其中的高阶相关性,但是这类模型的可解释性通常较差,对虚假信息的鉴别力也不足,容易犯关键性错误;同时,深度学习模型基本不具备真正的推理能力,也无法很好的结合已有的专家知识,对大量训练数据的依赖使得在很多应用领域都受到限制;另外,目前最好的深度学习系统(如AlphaGo系统)也只能用于具有完全信息的受限环境。
[0003]贝叶斯网络是另外一种常见的机器学习方法,基于概率理论和图论,既有牢固的数学基础,又有形象直观的语义,是目前不确定知识表示和推理领域中最有效的理论模型之一。贝叶斯网络不仅具有强大的建模功能,而且具有完美的推理机制,贝叶斯网络能够通过有效融合先验知识和当前观察值来完成各种查 ...
【技术保护点】
【技术特征摘要】 【专利技术属性】
1.一种针对监督深度神经网络的建模训练方法,其特征是:其步骤如下:步骤1:通过分析对象的特征,结合专家知识初步确定贝叶斯网络的模型的节点;步骤2:根据实际情况将模型中的某些节点确定为用深度神经网络获得的特征向量替换——深度节点;步骤3:将样本数据分为训练集和测试集;步骤4:根据原始数据特点确定深度神经网络模型结构并初始化网络参数;步骤5:将训练集中深度节点的原始数据输入到深度神经网络中,并计算获得其输出特征;步骤6:将深度学习的输出特征与训练集中基于人工特征进行组合得到包含深度节点的未离散化的训练集;步骤7:利用均匀离散或聚类分析算法对训练集进行离散量化,获得离散量化后的全样本训练集;步骤8:基于步骤7获得的训练集,利用贝叶斯网络结构学习和参数学习算法对贝叶斯网络进行学习,获得训练后的贝叶斯网络;步骤9:将测试集中深度节点的原始数据输入到深度神经网络中,并计算获得其输出特征;步骤10:将深度学习的输出特征与训练集中基于人工特征进行组合得到包含深度节点的未离散化的测试集;步骤11:利用与步骤7一样的算法对测试集进行离散量化,获得离散量化后的全样本测试集;步骤12:利用测试集对深度神经网络的输出节点进行准确度预测,如果符合要求结束训练,否则转到步骤13;步骤13:将步骤12获得的精度转化为深度神经网络的误差值;步骤14:利用梯度下降法等训练方法对深度神经网络的参数进行调整,转到步骤5。2.一种针对监督深度神经网络的建模训练方法,其特征是:所述用于贝叶斯网络训练的样本集,由于贝叶斯网络需要的训练样本数量与各节点的状态数成指数正相关关系,工程应用中一般需要对样本进行空间离散量化为有限的状态数,特征空间离散量化方法可分为均匀划分和、非均匀划分方法和聚类算法,由于均匀划分具有量化的可解释性,采用的均匀划分方法为:对于效应特征X,设Ω为效应特征空间,K
max
为特征最大取值,K
min
为最小取值,N为状态数,那么,对于特征取值x所属状态为S
x
:3.一种针对监督深度神经网络的建模训练方法,其特征是:所述贝叶斯网络训练与推理,包括:
贝叶斯网络的训练包括结构学习和参数学习,结构学习算法,具体如下:在给出训练数据D后,将贝叶网络G的后验概率作为评分由贝叶斯公式易得:式中P(D)不会影响不同的结构G,所以不考虑它,忽略该项取对数可得:log P(G|D)
∝
log P(G,D)=log P(D|G)+log P(G)上式中P(D|G)项称为边缘似然度,计算方式如下:P(D|G)=∫P(D|G,Θ)P(Θ|G)dΘ对Θ取均匀分布可得CH评分:取狄利克雷分布可得BDe评分:评分函数中α
ij
·
是节点i所要设置的超参数,超参数的设置比较困难,取为均匀分布,m
ijk
为数据集D中满足X
i
技术研发人员:李廷鹏,王满喜,彭丹华,赵宏宇,杨晓帆,郝晓军,龚帅阁,李永成,刘国柱,
申请(专利权)人:中国人民解放军六三八九二部队,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。