基于注意力网络和可微采样的知识图谱推荐方法及系统技术方案

本发明专利技术公开了基于注意力网络和可微采样的知识图谱推荐方法及系统，涉及知识图谱推荐技术领域。本发明专利技术旨在强调关系的重要性，对用户项交互和知识图谱进行充分学习，并且精确选取KG中与推荐相关的实体。本发明专利技术中知识图谱推荐方法先是学习了用户项信息嵌入，并将其编码为交互指导信号对外部知识进行动态定制。此外，在KG实体上应用可微采样策略，能够过滤对推荐过程不利的噪声三元组，从而提升推荐性能。能。能。

【技术实现步骤摘要】
基于注意力网络和可微采样的知识图谱推荐方法及系统


[0001]本专利技术涉及知识图谱推荐
，尤其涉及一种基于注意力网络和可微采样的知识图谱推荐方法及系统。

技术介绍

[0002]本部分的陈述仅仅是提供了与本专利技术相关的
技术介绍
信息，不必然构成在先技术。
[0003]推荐系统可以根据用户的需求和兴趣从大量数据中挖掘用户感兴趣的项目。从各种搜索引擎、社交平台到新闻网站，推荐系统已经成为所有为用户提供服务的应用程序的重要模块。大多数流行的推荐算法分别对用户偏好和项目特征进行建模，基于用户的历史行为来探索用户的偏好。但是，由于缺少用户配置文件、项目属性和上下文信息等边信息，推荐系统中存在数据稀疏性和冷启动问题。
[0004]正确使用边信息可以细化用户的偏好，在各种边信息中，知识图谱(KG)由于其丰富的语义信息和关系结构，可以为项目提供相关事实，在推荐系统领域引起了广泛的关注。知识图谱利用异质信息网络构建元路径，通过元路径挖掘用户和项目之间多跳关系，也可以利用嵌入方法对实体和关系进行表征，捕获其中蕴含的语义信息，丰富用户和项目的表示。然而现有的知识图谱推荐方法大多忽略用户项交互以及KG中关系的重要性，无法学习节点的细粒度嵌入。除此之外，KG中同一三元组对于不同用户项交互对的语义和贡献实际是不同的，因此知识提取需要与用户项交互信息进行动态匹配，并且在KG中存在大量与推荐不相关的噪声三元组，聚合它们会对用户兴趣的建模产生不利影响。
[0005]图神经网络(GNN)能够学习图节点之间的相互依赖关系，因此能够利用用户与项目的交互关系做出准确的推荐。在推荐系统领域，大部分现有技术利用注意力网络为邻域节点分配不同的注意力权重，表示邻域对中心节点的不同贡献，建模用户项之间的高阶连通性从而提升模型的预测性能。尽管这些方法表现很好，但是它们并没有对用户项进行细粒度的显式建模，明确编码用户项交互信息，因此可能会影响推荐结果。

技术实现思路

[0006]针对现有技术存在的不足，本专利技术的目的是提供一种基于注意力网络和可微采样的知识图谱推荐方法及系统，能够对用户项交互和KG进行充分和连贯的学习。具体来说，首先将用户项历史交互封装到交互指导信号中，利用其从KG中提取知识信息。然后设计一种关系感知的注意力网络来学习项目在KG中的表示。除此之外，在实体上应用一种可微采样策略来减少噪声三元组的数量，从而提升推荐效率。
[0007]为了实现上述目的，本专利技术是通过如下的技术方案来实现：
[0008]本专利技术第一方面提供了一种基于注意力网络和可微采样的知识图谱推荐方法，包括以下步骤：
[0009]S1:采集用户历史交互记录生成用户项交互二部图，在用户项交互二部图上利用
多头注意力机制更新用户与项目的嵌入表示；
[0010]S2:将用户与项目嵌入表示编码为交互指导信号，根据交互指导信号提取外部知识；
[0011]S3:在KG实体上应用可微采样策略，选取与项目相关的实体作为属性补充；
[0012]S4:将交互指导信号作用于KG关系，对外部知识进行动态定制；
[0013]S5:构建关系感知的注意力网络来更新项目在KG中的表示；
[0014]S6:对更新后的用户嵌入和项目嵌入执行内积运算来生成用户对项目的偏好得分，根据得分情况获得推荐结果。
[0015]进一步的，采集用户历史交互记录生成用户项交互二部图的具体过程为：用户项交互二部图中的节点和边由用户与项目的历史交互记录生成，历史交互记录包含用户信息和项目信息，以及用户对交互项目的评分；经数据处理后，所述用户信息为用户ID，项目信息为项目ID，将显式评分转换为隐式反馈0和1；用户项交互二部图中的节点表示用户和项目，边表示用户与项目之间是否有交互。
[0016]进一步的，在用户项交互二部图上利用多头注意力机制在用户与项目之间来回传播信息来更新用户与项目的嵌入表示。
[0017]进一步的，在KG实体上应用可微采样策略的具体过程为：在项目的链接实体上应用可微采样方法，提取与项目相关的top
‑
n个实体作为属性补充，能够减少噪声并保留对推荐有积极作用的信息。
[0018]更进一步的，应用可微采样方法，提取与项目相关的top
‑
n个实体，具体步骤为：为每个项目设置一个相关性得分概率分布，给定一个Gumbel噪声，通过生成样本向量获得独热编码器；每次得到一个one
‑
hot向量，重复上述过程n次，即为选择的top
‑
n个最相关实体。
[0019]进一步的，对外部知识进行动态定制的具体过程为：首先给定一个三元组，表示关系链接项目和实体；基于KG中的关系对于用户偏好建模的重要性，将交互指导信号与关系矩阵作哈达玛积，使关系中同时封装用户项交互信息与知识信息。
[0020]进一步的，构建关系感知的注意力网络来更新项目在KG中的表示，具体步骤为：构建关系感知的注意力网络，每一层神经网络都设置了可训练的权值和偏差；对注意力权重进行归一化，之后执行平均多头注意力机制计算项目在KG中的邻域信息的潜在嵌入，利用聚合函数的形式对项目及其在KG中的邻域实体集进行融合，计算出项目的最终嵌入。
[0021]本专利技术第二方面提供了一种基于注意力网络和可微采样的知识图谱推荐系统，包括：
[0022]数据预处理模块，被配置为在用户项交互二部图上利用多头注意力机制更新用户与项目的嵌入表示；
[0023]编码模块，被配置为将用户与项目嵌入表示编码为交互指导信号，根据交互指导信号提取外部知识；
[0024]可微采样模块，被配置为在KG实体上应用可微采样策略，选取与项目相关的实体作为属性补充；
[0025]动态定制模块，被配置为将交互指导信号作用于KG关系，对外部知识进行动态定制；
[0026]注意力网络模块，被配置为构建关系感知的注意力网络来更新项目在KG中的表
示；
[0027]推荐模块，被配置为对更新后的用户嵌入和项目嵌入执行内积运算来生成用户对项目的偏好得分，根据得分情况获得推荐结果。
[0028]本专利技术第三方面提供了一种介质，其上存储有程序，该程序被处理器执行时实现如本专利技术第一方面所述的基于注意力网络和可微采样的知识图谱推荐方法中的步骤。
[0029]本专利技术第四方面提供了一种设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的程序，所述处理器执行所述程序时实现如本专利技术第一方面所述的基于注意力网络和可微采样的知识图谱推荐方法中的步骤。
[0030]上述本专利技术的实施例的有益效果如下：
[0031]本专利技术提出一种端到端的方法进行知识图谱推荐，旨在强调关系的重要性，对用户项交互和知识图谱进行充分学习，并且精确选取KG中与推荐相关的实体。本专利技术中知识图谱推荐方法先是学习了用户项信息嵌入，并将其编码为交互指导信号对外部知识进行动态定制。此外我们在KG实体上应用可微采样策略，能够过滤对本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于注意力网络和可微采样的知识图谱推荐方法，其特征在于，包括以下步骤：S1:采集用户历史交互记录生成用户项交互二部图，在用户项交互二部图上利用多头注意力机制更新用户与项目的嵌入表示；S2:将用户与项目嵌入表示编码为交互指导信号，根据交互指导信号提取外部知识；S3:在KG实体上应用可微采样策略，选取与项目相关的实体作为属性补充；S4:将交互指导信号作用于KG关系，对外部知识进行动态定制；S5:构建关系感知的注意力网络来更新项目在KG中的表示；S6:对更新后的用户嵌入和项目嵌入执行内积运算来生成用户对项目的偏好得分，根据得分情况获得推荐结果。2.如权利要求1所述的基于注意力网络和可微采样的知识图谱推荐方法，其特征在于，采集用户历史交互记录生成用户项交互二部图的具体过程为：用户项交互二部图中的节点和边由用户与项目的历史交互记录生成，历史交互记录包含用户信息和项目信息，以及用户对交互项目的评分；经数据处理后，所述用户信息为用户ID，项目信息为项目ID，将显式评分转换为隐式反馈0和1；用户项交互二部图中的节点表示用户和项目，边表示用户与项目之间是否有交互。3.如权利要求1所述的基于注意力网络和可微采样的知识图谱推荐方法，其特征在于，在用户项交互二部图上利用多头注意力机制在用户与项目之间来回传播信息来更新用户与项目的嵌入表示。4.如权利要求1所述的基于注意力网络和可微采样的知识图谱推荐方法，其特征在于，在KG实体上应用可微采样策略的具体过程为：在项目的链接实体上应用可微采样方法，提取与项目相关的top
‑
n个实体作为属性补充，能够减少噪声并保留对推荐有积极作用的信息。5.如权利要求4所述的基于注意力网络和可微采样的知识图谱推荐方法，其特征在于，应用可微采样方法，提取与项目相关的top
‑
n个实体，具体步骤为：为每个项目设置一个相关性得分概率分布，给定一个Gumbel噪声，通过生成样本向量获得独热编码器；每次得到一个one
‑
hot向量，重复上述过程n次，即为选择的top
‑

【专利技术属性】
技术研发人员：刘培玉，段化娟，梁秀芳，朱英政，朱振方，
申请(专利权)人：山东师范大学，
类型：发明
国别省市：