一种具有归纳能力的知识图谱推理方法技术

本发明专利技术提供的一种具有归纳能力的知识图谱推理方法，对给定的知识图谱，需要先抽取出每一个三元组的闭合子图并利用关系表征来初始化实体表征，之后打乱实体表征得到负样本图谱。之后将正负样本图谱中的子图输入到子图神经网络，分别通过图神经网络学习子图实体表征以及通过循环神经网络学习关系路径表征，并结合二者形成最终的子图表征。之后通过打分函数对正样本图谱中的三元组进行打分进行有监督学习，同时通过互信息最大化的方法实现无监督学习，并结合二者更新模型参数。能够充分利用子图结构信息及关系表征对新图谱实现归纳式的推理，从而更好地对新知识图谱进行补全。从而更好地对新知识图谱进行补全。从而更好地对新知识图谱进行补全。

【技术实现步骤摘要】
一种具有归纳能力的知识图谱推理方法


[0001]本专利技术涉及知识图谱领域，尤其涉及一种具有归纳能力的知识图 谱推理方法。

技术介绍

[0002]知识图谱是知识工程中重要的一个方法，为现实生活中实体的一 种网络，并包含实体间的关系。一个知识图谱由结构化的事实三元组 信息构成。知识图谱有广阔的应用场景，比如基于知识图谱的问答系 统，推荐系统。但是由于现实生活中的信息不能够被完全表示进知识 图谱中，所以现如今的知识图谱都有信息不完整的问题。为了补全知 识图谱，知识图谱推理致力于推理出实体间可能缺失的关系，从而在 一定程度上缓解问题。然而现实生活中许多新出现的实体被不断地加 入到知识图谱中，比如电商数据库中添加的新用户。
[0003]为了能够推理新实体间的关系，知识图谱推理模型需要具有归纳 能力，能够将推理能力泛化到新实体上。在新知识图谱推理的情况下， 如何把原知识图谱的信息泛化到新知识图谱上是个重要的问题，这其 中涉及到如何进行知识的迁移、新实体的表征、关系表征的有效利用 以及如何表示三元组进行推理。
[0004]如何设计出满足上述要求的具有归纳能力的知识图谱推理方法 是一件很有价值同时兼具挑战的事情。目前知识图谱推理的方法通常 需要为每一个实体学习一个对应的表征，因此当新实体出现时便缺乏 对应的表征，这导致无法在新图谱上进行推理。目前与本专利技术存在一 定关联的方法为利用图神经网络学习目标三元组的闭合子图的表征 进行推理，过程不需要学习特定的实体表征，因此能够在新图谱上进 行推理。但是上述方法缺乏对关系表征的利用并且局限于局部信息， 导致推理能力仍有待提高。本专利技术与上述方法有较大区别，能够学习 到更充分的关系表征及全局信息，从而更好地在新图谱上进行推理。

技术实现思路

[0005]鉴于上述问题，提出了本专利技术以便提供克服上述问题或者至少部 分地解决上述问题的一种具有归纳能力的知识图谱推理方法。
[0006]根据本专利技术的一个方面，提供了一种具有归纳能力的知识图谱推 理方法包括：
[0007]给定知识图谱，利用广度优先搜索算法抽取出每一个目标三元 组(u,r
t
,v)的闭合子图；
[0008]获取所述闭合子图的实体，采用聚合关系表征的方式初始化实 体表征；
[0009]将含有实体表征和关系表征的所述闭合子图输入到图神经网 络中；
[0010]获取所述闭合子图的关系路径表征；
[0011]将所述闭合子图的实体表征及所述关系路径表征进行连结，获得 所述闭合子图的表征信息；
[0012]根据每个所述目标三元组，利用所述表征信息对存在可能性进行 打分；
[0040]对负样本图谱进行与正样本图谱G处理，生成负样本中每个目 标三元组的子图表征信息
[0041]对于正样本图谱G，聚合所有的子图表征得到正样本图谱的全 局表征s
G
；
[0042]在得到正样本子图表征负样本子图表征图谱全局表征 s
G
后，通过最大化与s
G
之间的互信息，最小化与s
G
间的互信息 进行无监督学习，无监督损失函数如下公式所示
[0043][0044]其中为计算两个变量互信息的函数。
[0045]可选的，所述将所述有监督学习与所述无监督学习结合起来进 行联合学习训练具体包括：
[0046]将有监督学习与无监督学习结合起来进行联合学习训练：
[0047][0048]其中λ为比例系数，需要提前设置。
[0049]本专利技术提供的一种具有归纳能力的知识图谱推理方法，对给定的 知识图谱，需要先抽取出每一个三元组的闭合子图并利用关系表征 来初始化实体表征，之后打乱实体表征得到负样本图谱。之后将正 负样本图谱中的子图输入到子图神经网络，分别通过图神经网络学 习子图实体表征以及通过循环神经网络学习关系路径表征，并结合 二者形成最终的子图表征。之后通过打分函数对正样本图谱中的三 元组进行打分进行有监督学习，同时通过互信息最大化的方法实现 无监督学习，并结合二者更新模型参数。能够充分利用子图结构信 息及关系表征对新图谱实现归纳式的推理，从而更好地对新知识图 谱进行补全。
[0050]上述说明仅是本专利技术技术方案的概述，为了能够更清楚了解本发 明的技术手段，而可依照说明书的内容予以实施，并且为了让本专利技术 的上述和其它目的、特征和优点能够更明显易懂，以下特举本专利技术的 具体实施方式。
附图说明
[0051]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例描 述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附 图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不 付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
[0052]图1为本专利技术实施例提供的一种具有归纳能力的知识图谱推理 方法的流程图；
[0053]图2为本专利技术实施例提供的一种具有归纳能力的知识图谱推理 方法的流程架构
图；
[0054]图3为本专利技术实施例提供的实体表征初始化模块图。
[0055]具体实施方式
[0056]下面将参照附图更详细地描述本公开的示例性实施例。虽然附图 中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实 现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例 是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传 达给本领域的技术人员。
[0057]本专利技术的说明书实施例和权利要求书及附图中的术语“包括”和
ꢀ“
具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包 含了一系列步骤或单元。
[0058]下面结合附图和实施例，对本专利技术的技术方案做进一步的详细描 述。
[0059]本专利技术包括闭合子图抽取模块，实体表征初始化模块，图神经 网络网络模块，关系路径表征生成模块，子图表征生成模块，三元 组打分模块，有监督学习模块，负样本图谱生成模块，负样本子图 表征生成模块，正样本图谱整体表征生成模块，无监督学习模块， 联合学习模块十二个模块。
[0060]如图2方法架构图所示，对给定的知识图谱，需要先抽取出每 一个三元组的闭合子图并利用关系表征来初始化实体表征，之后打 乱实体表征得到负样本图谱。之后将正负样本图谱中的子图输入到 子图神经网络，分别通过图神经网络学习子图实体表征以及通过循 环神经网络学习关系路径表征，并结合二者形成最终的子图表征。 之后通过打分函数对正样本图谱中的三元组进行打分进行有监督 学习，同时通过互信息最大化的方法实现无监督学习，并结合二者 更新模型参数。
[0061]如图1所示，方法的具体实现方式为：
[0062]步骤1：给定知识图谱，利用广度优先搜索算法抽取出每一个 目标三元组(u,r
t
,v)的闭合子图，此处限制闭合子图内的最长路径 为3。
[0063]步骤2：对于每个子图内部的实本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种具有归纳能力的知识图谱推理方法，其特征在于，所述推理方法包括：给定知识图谱，利用广度优先搜索算法抽取出每一个目标三元组(u,r
t
,v)的闭合子图；获取所述闭合子图的实体，采用聚合关系表征的方式初始化实体表征；将含有实体表征和关系表征的所述闭合子图输入到图神经网络中；获取所述闭合子图的关系路径表征；将所述闭合子图的实体表征及所述关系路径表征进行连结，获得所述闭合子图的表征信息；根据每个所述目标三元组，利用所述表征信息对存在可能性进行打分；根据每个所述目标三元组，创建负样本三元组，并根据每个所述目标三元组的标签进行有监督损失函数：其中(u',r'
t
,v')为负样本三元组，γ为超参数；基于互信息最大化原理进行无监督学习；将所述有监督学习与所述无监督学习结合起来进行联合学习训练。2.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法，其特征在于，所述闭合子图内的最长路径为3。3.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法，其特征在于，所述获取所述闭合子图的实体，采用聚合关系表征的方式初始化实体表征具体包括：对于每个结点i，通过注意力值α
r
聚合周围的关系表征e
r
，生成根据目标头尾实体(u,v)的相对位置，获得位置信息根据目标头尾实体(u,v)的相对位置，获得位置信息结合h
rel
与h
pos
获得子图内每个结点的初始化表征h0。4.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法，其特征在于，所述将含有实体表征和关系表征的所述闭合子图输入到图神经网络中具体包括：子图神经网络中关于图神经网络所示，每层的信息传递公式为：m
i，r
＝σ2(W2c
i，r
+b2)其中，表示实体i的邻接...

【专利技术属性】
技术研发人员：张鹏，
申请(专利权)人：矩阵纵横北京科技有限公司，
类型：发明
国别省市：