条件注意力网络及其在个性化推荐中的应用方法及装置制造方法及图纸

本发明专利技术公开了一种条件注意力网络及其在个性化推荐中的应用方法及装置，其中，方法包括：通过知识图谱表征学习的方法学习得到知识图谱的表征信息；通过带注意力机制的图神经神经网络传播表征信息，以得到全局节点表征；设计条件注意力网络，对知识图谱进行蒸馏生成基于目标用户商品的子图，在子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到目标用户的局部偏好表征；根据全局节点表征和局部偏好表征为目标用户推荐感兴趣商品。该方法较已有方法的模型表达能力更强，且较已有方法能更好的刻画用户对商品的局部偏好。

【技术实现步骤摘要】
条件注意力网络及其在个性化推荐中的应用方法及装置
本专利技术涉及个性化推荐
，特别涉及一种条件注意力网络及其在个性化推荐中的应用方法及装置。
技术介绍
现有的基于知识图谱的推荐方法主要分为两类：(1)基于表征的方法，根据知识图谱学习节点表征，然后将其与用户商品网络中的节点表征相关联。然而，该方法不能很好利用知识图谱的丰富拓扑结构以及不能刻画用户对知识图谱中关系的个性化的偏好。(2)基于路径的方法，根据用户商品在知识图谱上的路径来衡量用户商品的相似度从而进行推荐。然而，由于路径长度的限制，该方法不能很好的刻画用户和商品之间的高阶全局的相似度，而且这种路径通常需要人类专家制定。因此，现有的方法表达能力较差，且不能较好的刻画用户对商品的局部偏好，有待进一步改进。
技术实现思路
本专利技术旨在至少在一定程度上解决相关技术中的技术问题之一。为此，本专利技术的一个目的在于提出一种条件注意力网络及其在个性化推荐中的应用方法，该方法通过图神经神经网络在知识图谱上传播表征的信息，得到全局的相似度关系，较已有方法的模型表达能力更强，且对知识图谱进行蒸馏生成基于目标用户商品的子图在子图上通过条件注意力机制刻画目标对于知识图谱中关系的偏好，较已有方法能更好的刻画用户对商品的局部偏好。本专利技术的另一个目的在于提出一种条件注意力网络及其在个性化推荐中的应用装置。为达到上述目的，本专利技术一方面实施例提出了一种条件注意力网络及其在个性化推荐中的应用方法，包括以下步骤：通过知识图谱表征学习的方法学习得到知识图谱的表征信息；通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征；设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征；根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品。本专利技术实施例的条件注意力网络及其在个性化推荐中的应用方法，考虑了利用图神经网络来在知识图谱上传递用户的偏好信息，并且提出一种新的条件注意力网络来对知识图谱进行蒸馏，来自动得到一个子图来刻画用户对知识图谱中关系的局部偏好，从而通过图神经神经网络在知识图谱上传播表征的信息，得到全局的相似度关系，较已有方法的模型表达能力更强，且对知识图谱进行蒸馏生成基于目标用户商品的子图在子图上通过条件注意力机制刻画目标对于知识图谱中关系的偏好，较已有方法能更好的刻画用户对商品的局部偏好。另外，根据本专利技术上述实施例的条件注意力网络及其在个性化推荐中的应用方法还可以具有以下附加的技术特征：进一步地，在本专利技术的一个实施例中，所述通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征，进一步包括：通过带注意力机制的图神经网络在知识图谱以及用户商品网络上传播所述表征信息，以得到全局节点表征，其中，传播的过程为：每个节点聚合从邻居节点过来的表征信息得到新的表征。进一步地，在本专利技术的一个实施例中，所述条件注意力网络为：在所述带注意力机制的图神经神经网络中加入目标用户商品节点，以在预测目标用户感兴趣的商品时传播权重，其中，每个节点的表征为邻居节点的加权平均，利用注意力机制衡量不同边的权重，以衡量每条边的空间中任意两个节点之间的相似度，相似度大小与传播权重的大小成正比。进一步地，在本专利技术的一个实施例中，所述设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征，进一步包括：通过所述全局节点表征从所述目标用户商品节点的K阶邻居中采样得到目标用户商品的子图，其中，采样边的概率基于所述全局节点表征的相似度；通过所述条件注意力网络引入节点对所述目标用户商品节点的注意力机制，在所述目标用户商品的子图上传播目标用户对不同节点的偏好，以得到所述目标用户的局部偏好表征。进一步地，在本专利技术的一个实施例中，所述根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品，进一步包括：将所述全局节点表征和所述局部偏好表征拼接起来得到一个新的节点表征；将用户和商品各自对应的新的节点表征输入到一个全连接神经网络，输出目标用户和商品之间的相似度；根据所述相似度的大小为所述目标用户推荐感兴趣商品。为达到上述目的，本专利技术另一方面实施例提出了一种条件注意力网络及其在个性化推荐中的应用装置，包括：学习模块，用于通过知识图谱表征学习的方法学习得到知识图谱的表征信息；全局节点表征模块，用于通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征；局部偏好表征模块，用于设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征；推荐模块，用于根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品。本专利技术实施例的条件注意力网络及其在个性化推荐中的应用装置，考虑了利用图神经网络来在知识图谱上传递用户的偏好信息，并且提出一种新的条件注意力网络来对知识图谱进行蒸馏，来自动得到一个子图来刻画用户对知识图谱中关系的局部偏好，从而通过图神经神经网络在知识图谱上传播表征的信息，得到全局的相似度关系，较已有方法的模型表达能力更强，且对知识图谱进行蒸馏生成基于目标用户商品的子图在子图上通过条件注意力机制刻画目标对于知识图谱中关系的偏好，较已有方法能更好的刻画用户对商品的局部偏好。另外，根据本专利技术上述实施例的条件注意力网络及其在个性化推荐中的应用装置还可以具有以下附加的技术特征：进一步地，在本专利技术的一个实施例中，所述全局节点表征模块进一步用于通过带注意力机制的图神经网络在知识图谱以及用户商品网络上传播所述表征信息，以得到全局节点表征，其中，传播的过程为：每个节点聚合从邻居节点过来的表征信息得到新的表征。进一步地，在本专利技术的一个实施例中，所述条件注意力网络为：在在所述带注意力机制的图神经神经网络中加入目标用户商品节点，以在预测目标用户感兴趣的商品时传播权重，其中，每个节点的表征为邻居节点的加权平均，利用注意力机制衡量不同边的权重，以衡量每条边的空间中任意两个节点之间的相似度，相似度大小与传播权重的大小成正比。进一步地，在本专利技术的一个实施例中，所述局部偏好表征模块进一步用于通过所述全局节点表征从所述目标用户商品节点的K阶邻居中采样得到目标用户商品的子图，其中，采样边的概率基于所述全局节点表征的相似度，并通过所述条件注意力网络引入节点对所述目标用户商品节点的注意力机制，在所述目标用户商品的子图上传播目标用户对不同节点的偏好，以得到所述目标用户的局部偏好表征。进一步地，在本专利技术的一个实施例中，所述推荐模块进一步用于将所述全局节点表征和所述局部偏好表征拼接起来得到一个新的节点表征，将用户和商品各自对应的新的节点表征输入到一个全连接神经网络，输出目标用本文档来自技高网...

【技术保护点】
1.一种条件注意力网络及其在个性化推荐中的应用方法，其特征在于，包括以下步骤：/n通过知识图谱表征学习的方法学习得到知识图谱的表征信息；/n通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征；/n设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征；以及/n根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品。/n

【技术特征摘要】
1.一种条件注意力网络及其在个性化推荐中的应用方法，其特征在于，包括以下步骤：
通过知识图谱表征学习的方法学习得到知识图谱的表征信息；
通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征；
设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征；以及
根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品。


2.根据权利要求1所述的方法，其特征在于，所述通过带注意力机制的图神经神经网络传播所述表征信息，以得到全局节点表征，进一步包括：
通过带注意力机制的图神经网络在知识图谱以及用户商品网络上传播所述表征信息，以得到全局节点表征，其中，传播的过程为：每个节点聚合从邻居节点过来的表征信息得到新的表征。


3.根据权利要求2所述的方法，其特征在于，所述条件注意力网络为：
在所述带注意力机制的图神经神经网络中加入目标用户商品节点，以在预测目标用户感兴趣的商品时传播权重，其中，每个节点的表征为邻居节点的加权平均，利用注意力机制衡量不同边的权重，以衡量每条边的空间中任意两个节点之间的相似度，相似度大小与传播权重的大小成正比。


4.根据权利要求3所述的方法，其特征在于，所述设计条件注意力网络，对所述知识图谱进行蒸馏生成基于目标用户商品的子图，在所述子图上通过条件注意力机制刻画目标用户对知识图谱中关系的偏好，以得到所述目标用户的局部偏好表征，进一步包括：
通过所述全局节点表征从所述目标用户商品节点的K阶邻居中采样得到目标用户商品的子图，其中，采样边的概率基于所述全局节点表征的相似度；
通过所述条件注意力网络引入节点对所述目标用户商品节点的注意力机制，在所述目标用户商品的子图上传播目标用户对不同节点的偏好，以得到所述目标用户的局部偏好表征。


5.根据权利要求4所述的方法，其特征在于，所述根据所述全局节点表征和所述局部偏好表征为所述目标用户推荐感兴趣商品，进一步包括：
将所述全局节点表征和所述局部偏好表征拼接起来得到一个新的节点表征；
将用户和商品各自对应的新的节点表征输...

【专利技术属性】
技术研发人员：朱文武，涂珂，崔鹏，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京;11