一种融合GNN与全局注意力机制的知识图谱补全方法技术

技术编号:43375545 阅读:74 留言:0更新日期:2024-11-19 17:54
本发明专利技术设计了一种融合GNN与全局注意力机制的知识图谱补全方法,将知识图谱输入Transformer全局感知嵌入模块的GNN结构提取模块中,引入反向关系和自循环关系类型并引入中心性编码得到实体和关系的初始化嵌入;通过图注意力机制提取知识图谱的结构信息,得到蕴含实体局部结构信息的实体和关系嵌入;输入至Transformer全局感知嵌入模块中,计算融合多关系融合度编码后的实体嵌入,计算空间位置编码和边特征编码,作为偏置项加入注意力矩阵计算中,按标准Transformer全局感知嵌入模块流程来处理,得到实体嵌入表示作为Transformer全局感知嵌入模块输出;将经过Transformer全局感知嵌入模块处理后的实体和关系嵌入输入到打分函数中,进行评估和补全。

【技术实现步骤摘要】

本专利技术属于知识图谱,是一种融合gnn与全局注意力机制的知识图谱补全方法。


技术介绍

1、近年来,知识图谱已引起了学术界和工业界的极大关注。知识图谱由实体、关系和语义描述组成,是一种异构有向图数据结构。目前存在的知识图谱包括freebase、yago、wordnet、nell、wikidata等,在人工智能领域的搜索引擎、问答系统、对话系统、推荐系统、知识推理、事件预测等方面得到了广泛应用。由于知识图谱大多是人工或半自动构建的,因此经常出现数据不完整和数据稀疏等问题。针对这些问题,知识图谱补全(knowledgegraph completion, kgc)任务应运而生。

2、知识图谱补全旨在根据知识图谱中已有的三元组推导出潜在的三元组,进一步完善知识图谱,减少构建知识图谱所需的人工成本。具体来说,知识图谱补全任务目前主要被抽象成一个预测问题,即预测出三元组中缺失的部分,如已知头尾实体,预测它们之间的关系;或者已知头实体和关系,预测尾实体;亦或者已知尾实体和关系,预测头实体。目前,主流的知识图谱补全方法是通过知识图谱嵌入(knowledge g本文档来自技高网...

【技术保护点】

1.一种融合GNN与全局注意力机制的知识图谱补全方法,其特征在于:包括以下步骤:

2.根据权利要求1所述的一种融合GNN与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤1中得到实体和关系的初始表示的具体实现方法为:在Transformer全局感知嵌入模块中的GNN结构提取模块中,引入反向关系类型和自循环关系类型用于丰富边的类型,并进行初始化嵌入,得到实体和关系的初始表示。

3.根据权利要求1所述的一种融合GNN与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤2的具体实现方法为:初始化知识图谱后,引入度结构编码用于丰富实体的表示,得到蕴含图中心性信息...

【技术特征摘要】

1.一种融合gnn与全局注意力机制的知识图谱补全方法,其特征在于:包括以下步骤:

2.根据权利要求1所述的一种融合gnn与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤1中得到实体和关系的初始表示的具体实现方法为:在transformer全局感知嵌入模块中的gnn结构提取模块中,引入反向关系类型和自循环关系类型用于丰富边的类型,并进行初始化嵌入,得到实体和关系的初始表示。

3.根据权利要求1所述的一种融合gnn与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤2的具体实现方法为:初始化知识图谱后,引入度结构编码用于丰富实体的表示,得到蕴含图中心性信息的实体初始嵌入;将关系初始嵌入由初始化的基向量表示,使得参数量减少。

4.根据权利要求1所述的一种融合gnn与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤3的具体实现方法为:本模块共设计了三种注意力算子,分别为相加add,相乘mul以及拼接con,可根据不同知识图谱选择不同算子以达到最优效果;基于选择的注意力算子,使用gnn结构提取模块中的compgat层对实体和关系的初始嵌入进行聚合更新,可得到蕴含知识图谱局部结构信息的实体嵌入和关系嵌入,作为gnn结构提取模块的输出。

5.根据权利要求1所述的一种融合gnn与全局注意力机制的知识图谱补全方法,其特征在于:所述步骤4的具体实现方法为:将gnn结构提取模块的输出输入至transformer全局感知嵌入模块,计算实体的多关系融合度编码并融入到实体嵌入中,可得到蕴含图中心性和多关系中心性信息的实体嵌入;计算每条边的...

【专利技术属性】
技术研发人员:赵晓非李衡柴争义杨梦倩白敬祎
申请(专利权)人:天津工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1