基于关系注意力的知识图谱推理方法、装置和计算机设备制造方法及图纸

本申请涉及一种基于关系注意力的知识图谱推理方法、装置和计算机设备。所述方法包括：获取知识图谱中节点的初始嵌入表示，将初始嵌入表示转换到高维空间，得到高维嵌入表示，获取知识图谱中目标节点的邻居节点集合，根据关系类型构建邻居子图，根据目标节点的高维嵌入表示和邻居子图中邻居节点的高维嵌入表示，得到目标节点嵌入邻居子图中信息的邻居嵌入表示，将目标节点的高维嵌入表示与邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示，根据邻居子图的第一注意力分值，对聚合嵌入表示进行融合，得到目标节点的融合嵌入表示，根据融合嵌入表示，计算目标节点对应三元组的得分，根据得分进行三元组推理。采用本方法能够提高三元组推理的精度。

【技术实现步骤摘要】
基于关系注意力的知识图谱推理方法、装置和计算机设备
本申请涉及知识图谱
，特别是涉及一种基于关系注意力的知识图谱推理方法、装置、计算机设备和存储介质。
技术介绍
知识图谱在许多自然语言处理应用中有非常重要的作用，例如问答系统、语义搜索等。但由于知识获取的不确定性，基于实体识别和关系抽取技术构建的知识图谱，会导致知识图谱的不完整，从而影响这些应用的性能。如果知识图谱中存在错误，会导致该应用返回错误的结果。知识图谱推理技术指的是根据现有的知识图谱中的已知事实，推断出新的事实，使用知识图谱推理技术可以丰富知识图谱。三元组是知识图谱中知识表示的基本单位，被用来表示实体与实体之间的关系，或者实体的某个属性的属性值是什么。例如：我们将知识图谱中的节点用表示，节点与节点之间的关系用表示，相应地，知识图谱可表示为,其中，每一个三元组描述实体与实体之间的某种关系。为了捕获三元组周围的局部邻居中固有隐含的复杂和隐藏信息，已有相关研究中，基于图注意力的模型在获取网络结构上取得了成功，但直接用于知识图谱是不合适的，因为它忽略了知识图谱里很重要的一部分信息——边，即在KG里实体之间的关系信息。文献1（NathaniD,ChauhanJ,SharmaC,etal.LearningAttention-basedEmbeddingsforRelationPredictioninKnowledgeGraphs[C]//.meetingoftheassociationforcomputationallinguistics,(ACL)2019:4710-4723.）中提出的一种考虑知识图谱中关系的端到端的模型，在每一层节点特征聚合时都考虑了关系向量表示。但是该模型只是在计算注意力时考虑了关系与实体表示的简单拼接，并没有突出关系的重要性。文献2（VelikoviP,CucurullG,CasanovaA,etal.GraphAttentionNetworks[C]//6thInternationalConferenceonLearningRepresentations,{ICLR}2018,Vancouver,BC,Canada,April30-May3,2018.）提出的GAT模型考虑所有邻居，给每个邻居不同的权重，但是GAT只考虑了一阶邻居，而且没有关注边的特征。均导致的知识图谱推理不准确。
技术实现思路
基于此，有必要针对上述技术问题，提供一种能够知识图谱推理不准确问题的基于关系注意力的知识图谱推理方法、装置、计算机设备和存储介质。一种基于关系注意力的知识图谱推理方法，所述方法包括：获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示；获取所述知识图谱中目标节点的邻居节点集合，根据所述目标节点与所述邻居节点集合中邻居节点的关系类型，构建邻居子图；根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示；将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示；根据每个所述邻居子图的第一注意力分值，对所述聚合嵌入表示进行融合，得到所述目标节点的融合嵌入表示；根据所述融合嵌入表示，计算所述目标节点对应三元组的得分，根据得分进行三元组推理。在其中一个实施例中，还包括：根据预先设置的嵌入模型，将知识图谱中三元组的头实体、尾实体以及关系进行嵌入，得到初始嵌入表示；根据预先设置的转换矩阵，将所述头实体和尾实体转换至高维空间，得到头实体高维嵌入表示，根据预先设置的关系转换矩阵，将所述关系转换至高维空间，得到关系高维嵌入表示。在其中一个实施例中，还包括：获取所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的节点对嵌入表示为：其中，表示节点对嵌入表示，表示第一线性转换矩阵，表示目标节点的高维嵌入表示，表示所述邻居子图中邻居节点的节点对嵌入表示；根据所述节点对嵌入表示，确定所述邻居节点对所述目标节点的第二注意力分值为：其中，表示第二注意力分值，表示激活函数，表示第二线性转换矩阵；对所述第二注意力分值进行归一化，并根据所述邻居子图中每个邻居节点的第二注意力分值的归一化结果，聚合得到邻居嵌入表示。在其中一个实施例中，还包括：根据预先设置的聚合函数，将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示为：其中，表示聚合嵌入表示，表示邻居嵌入表示。在其中一个实施例中，还包括：计算每个所述邻居子图的第一注意力分值为：其中，表示邻居子图对应的关系类型，表示对角为的对角矩阵，表示的嵌入表示；对所述第一注意力分值进行归一化，并根据所述邻居子图的第一注意力分值的归一化结果，融合得到融合嵌入表示。在其中一个实施例中，还包括：对所述融合嵌入表示进行拓展，得到多头注意力嵌入表示为：其中，M表示注意力的头数；以及根据所述多头注意力嵌入表示，拓展得到多层嵌入表示为：其中，k表示层数。在其中一个实施例中，还包括：根据所述融合嵌入表示，计算所述目标节点对应三元组的得分；若三元组的得分在对应的评测指标预设排名范围内，则确定三元组成立；若三元组的得分不在对应的评测指标预设排名范围内，则确定三元组不成立。一种基于关系注意力的知识图谱推理装置，所述装置包括：高维嵌入模块，用于获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示；子图构建模块，用于获取所述知识图谱中目标节点的邻居节点集合，根据所述目标节点与所述邻居节点集合中邻居节点的关系类型，构建邻居子图；邻居信息嵌入模块，用于根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示；聚合模块，用于将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示；融合模块推理模块，用于根据每个所述邻居子图的第一注意力分值，对所述聚合嵌入表示进行融合，得到所述目标节点的融合嵌入表示；根据所述融合嵌入表示，计算所述目标节点对应三元组的得分，根据得分进行三元组推理。一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示；获取所述知识图谱中目标节点的邻居节点集合，根据所述目标节点与所述邻居节点集合中邻居节点的关系类型，构建邻居子图；根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示；将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示；根据每个所本文档来自技高网...

【技术保护点】
1.一种基于关系注意力的知识图谱推理方法，所述方法包括：/n获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示；/n获取所述知识图谱中目标节点的邻居节点集合，根据所述目标节点与所述邻居节点集合中邻居节点的关系类型，构建邻居子图；/n根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示；/n将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示；/n根据每个所述邻居子图的第一注意力分值，对所述聚合嵌入表示进行融合，得到所述目标节点的融合嵌入表示；/n根据所述融合嵌入表示，计算所述目标节点对应三元组的得分，根据得分进行三元组推理。/n

【技术特征摘要】
1.一种基于关系注意力的知识图谱推理方法，所述方法包括：
获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示；
获取所述知识图谱中目标节点的邻居节点集合，根据所述目标节点与所述邻居节点集合中邻居节点的关系类型，构建邻居子图；
根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示；
将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示；
根据每个所述邻居子图的第一注意力分值，对所述聚合嵌入表示进行融合，得到所述目标节点的融合嵌入表示；
根据所述融合嵌入表示，计算所述目标节点对应三元组的得分，根据得分进行三元组推理。


2.根据权利要求1所述的方法，其特征在于，所述获取知识图谱中节点的初始嵌入表示，将所述初始嵌入表示转换到高维空间，得到高维嵌入表示，包括：
根据预先设置的嵌入模型，将知识图谱中三元组的头实体、尾实体以及关系进行嵌入，得到初始嵌入表示；
根据预先设置的转换矩阵，将所述头实体和尾实体转换至高维空间，得到头实体高维嵌入表示，根据预先设置的关系转换矩阵，将所述关系转换至高维空间，得到关系高维嵌入表示。


3.根据权利要求1所述的方法，其特征在于，根据所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的高维嵌入表示，得到所述目标节点嵌入邻居子图中信息的邻居嵌入表示，包括：
获取所述目标节点的高维嵌入表示和所述邻居子图中邻居节点的节点对嵌入表示为：



其中，表示节点对嵌入表示，表示第一线性转换矩阵，表示目标节点的高维嵌入表示，表示所述邻居子图中邻居节点的节点对嵌入表示；
根据所述节点对嵌入表示，确定所述邻居节点对所述目标节点的第二注意力分值为：



其中，表示第二注意力分值，表示激活函数，表示第二线性转换矩阵；
对所述第二注意力分值进行归一化，并根据所述邻居子图中每个邻居节点的第二注意力分值的归一化结果，聚合得到邻居嵌入表示。


4.根据权利要求1所述的方法，其特征在于，将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示，包括：
根据预先设置的聚合函数，将所述目标节点的高维嵌入表示与所述邻居嵌入表示进行聚合，得到目标节点的聚合嵌入表示为：



其中，表示聚合嵌入表示，表示邻居嵌入表示。


5.根据权利要求4...

【专利技术属性】
技术研发人员：赵晓娟，陈恺，常春喜，王培，王昌海，马锶霞，李晨晨，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：湖南;43