基于层次注意力图神经网络的数据信息推荐方法和装置制造方法及图纸

本发明专利技术公开一种基于层次注意力图神经网络的数据信息推荐方法和装置，该方法包括：步骤一，构建用户项目交互图和知识图谱；步骤二，合并用户项目交互图与知识图谱构成用户项目知识图；步骤三，将用户项目知识图输入到图神经网络中，采用层次注意力机制计算用户项目知识图的每个节点邻居的重要程度；步骤四，根据每个节点邻居的重要程度，对邻居进行聚合来更新节点表示；步骤五，设定输入图神经网络的用户项目知识图经过的网络层数，如果未到达设定的网络层，则执行步骤三，反之则根据节点的表示，计算图神经网络的损失函数值，经过迭代训练，得到训练好的图神经网络，为用户生成推荐的项目。本发明专利技术缓解了数据的稀疏性，提升了推荐的准确性。荐的准确性。荐的准确性。

【技术实现步骤摘要】
基于层次注意力图神经网络的数据信息推荐方法和装置


[0001]本专利技术属于推荐算法应用
，涉及一种基于层次注意力图神经网络的数据信息推荐方法和装置。

技术介绍

[0002]随着互联网的快速发展，数据量呈指数级增长。由于信息的过载，用户很难在大量的选择中选出自己感兴趣的内容。为了提高用户体验，推荐系统已经应用于音乐推荐、电影推荐、和在线购物等场景。推荐方法利用交互数据中用户或商品的相似度来建模用户偏好，已经得到了广泛的应用，因为它可以有效地捕捉用户偏好，并且可以很容易地在多种场景中实现。然而，传统推荐方法存在数据稀疏性的问题，例如项目属性、用户配置文件和上下文，因此在用户和项目交互很少的稀疏情况下表现很差。并且，传统推荐方法将每个交互建模为独立的数据实例，而没有考虑它们之间的关系。这使得它们不足以从用户的集体行为中提取出基于属性的协作信号，因此为解决这一问题，需要引入辅助信息作为原始数据的补充，从而缓解数据的稀疏性，并且提供更多的高阶信息来进一步丰富用户和项目之间的联系。
[0003]但是，考虑到随着数据进一步丰富，与目标用户具有高阶关系的节点会急剧增加，这会给模型带来计算过载。基于路径的方法提取带有高阶信息的路径，并将其输入预测模型。然而路径选择对最终的性能有很大的影响，但它没有对推荐目标进行优化，此外定义有效的元路径需要领域知识，对于具有不同类型关系和实体的复杂图来说，是相当劳动密集型的工作，因为必须定义许多元路径以保持模型保真度图神经网络由于其可以能够高效、明确、端到端地利用图中信息。然而基于正则化的方法没有直接将高阶关系插入为推荐而优化的模型中，而是将其以隐式的方式进行编码。由于缺乏明确的建模，既不能保证捕获远程连通性，也不能解释高阶建模的结果。设计了附加的损失项来捕获图结构。图神经网络由于能够高效、明确、端到端地利用图中的高阶信息因此被广泛用于建模推荐方法的网络模型。然而现有图网络模型大都具有粗粒度性的问题，即计算过程中没有有效区分节点邻居的重要程度。

技术实现思路

[0004]为了解决现有技术中存在的上述技术问题，本专利技术提出了一种基于层次注意力图神经网络的数据信息推荐方法和装置，利用知识图谱作为用户和项目的辅助信息，来进一步强化用户和项目之间的潜在关系；之后通过层次注意力图神经网络以端到端的方式对于用户和项目的表示进行建模，其中层次注意力机制可以有效的区分图中不同邻居的重要性；最后通过多次迭代得到优化后的用户和项目表示，从而实现有效的推荐，缓解了数据稀疏性的问题，同时能够更好的区分图中邻域节点的重要程度，在推荐方法领域具有重要的作用，其具体技术方案如下：一种基于层次注意力图神经网络的数据信息推荐方法，包括以下步骤：
步骤一，构建用户项目交互图和知识图谱；步骤二，合并用户项目交互图与知识图谱构成用户项目知识图：将用户项目交互图中的项目与知识图谱中的实体进行匹配，然后将与匹配的实体直接相关的全部三元组与用户项目交互图进行合并，构成用户项目知识图；步骤三，将用户项目知识图输入到图神经网络中，采用层次注意力机制计算用户项目知识图的每个节点邻居的重要程度；步骤四，根据每个节点邻居的重要程度，对邻居进行聚合来更新节点表示；步骤五，设定输入图神经网络的用户项目知识图经过的网络层数，如果未到达设定的网络层，则执行步骤三，反之则根据节点的表示，计算图神经网络的损失函数值，经过迭代训练，得到训练好的图神经网络，为用户生成推荐的项目。
[0005]进一步地，所述用户项目交互图是交互数据被表示为用户
‑
项目的二部图=，和分别表示用户集和项目集，链接表示观察到用户和项目之间存在交互，否则；所述知识图谱由辅助信息组织成，所述辅助信息由真实世界的实体及其之间的关系组成，以分析项目，则知识图谱是由主体
‑
属性
‑
客体三元组组成的有向图=表示有一个关系从头实体到尾实体t，和分别表示实体集和关系集。
[0006]进一步地，所述步骤二具体为：将每个用户的行为表示为一个三元组(, ,)，其中表示为用户和项目之间的一个额外的交互关系；然后通过用户项目交互图中的项目与知识图谱中的实体进行匹配得到的项目
‑
实体对齐集，并根据项目
‑
实体对齐集，将用户项目交互图与知识图谱集成为用户项目知识图=, 其中，。
[0007]进一步地，所述步骤三具体为：将用户项目知识图输入到图神经网络中，采用层次注意力机制，该机制包括：关系级别注意力和节点级别注意力，计算出用户项目知识图的关系级别注意力权重和节点级别注意力权重，后将关系级别注意力权重和节点级别注意力权重合并得到层次注意力权重，即得到每个节点邻居的重要程度。
[0008]进一步地，所述计算关系级别注意力，关系即为节点间的连接边，关系级别注意力计算公式如下：,,其中，代表拼接操作，代表中心节点的向量表示，，代
表可训练的参数；代表可训练的参数，代表所有与相连关系的种类，代表激活函数，计算关系级别注意力被表示为，代表了对于计算中心节点表示时关系的影响程度。
[0009]进一步地，所述计算节点级别注意力，公式如下：,,其中，代表邻居节点的向量表示，代表可训练的参数；代表可训练的参数，代表关系类型下的全部邻居节点，可以被看作是三元组（，，）的表示，代表实体级别的注意力权重，代表了关系下不同邻居的影响程度；所述合并得到层次注意力权重，公式如下：。
[0010]进一步地，所述步骤四具体为：首先根据层次注意力权重，通过聚合器将本地邻域的信息聚合到中心节点，得到节点h的基于邻域的表示，表达式为：,其次进一步聚合节点本身h和节点h的基于邻域的表示得到更新的节点。
[0011]进一步地，所述聚合节点本身h和节点h的基于邻域的表示得到更新的节点，采用包括如下三种聚合方式：加法聚合方式，表达式为：,其中，代表可训练的参数，将和的组合投影到输出空间，是输出空间的维度；乘法聚合方式，表达式为：,其中，代表向量对应点乘，代表可训练的参数；组合聚合方式，基于加法聚合方式和乘法聚合方式，表达式为：
。
[0012]进一步地，所述步骤五具体为：设定执行图神经网络中L个网络层数，若用户项目知识图未被执行达到L层网络，则返回步骤三，反之，用户项目知识图在通过个网络层传播后，得到一个用户节点的多个表示，记作，一个项目节点的多个表示，记作，将每一步的表示连接到单个向量中，表达式为：,然后，对用户和项目表示进行内积，从而预测用户和项目的匹配分数：,再计算损失函数，表达式如下：,其中，表示训练数据，表示用户和项目之间观察到的交互集，表示采样的未观测交互集；最后设定图神经网络训练的迭代次数，如果到达设定的迭代次数，则结束训练，使用训练好的图神经网络模型为用户生成推荐的项目；如果未到达设定的迭代次数，则执行步骤三。
[0013]一种基于层次注意力图神经网络的数据信息推荐装置，包括一个或多个处理器，用于实现所述的基于层次注意力图神经网络的数据信息推荐方法。
[0014]有益效果：本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于层次注意力图神经网络的数据信息推荐方法，其特征在于，包括以下步骤：步骤一，构建用户项目交互图和知识图谱；步骤二，合并用户项目交互图与知识图谱构成用户项目知识图：将用户项目交互图中的项目与知识图谱中的实体进行匹配，然后将与匹配的实体直接相关的全部三元组与用户项目交互图进行合并，构成用户项目知识图；步骤三，将用户项目知识图输入到图神经网络中，采用层次注意力机制计算用户项目知识图的每个节点邻居的重要程度；步骤四，根据每个节点邻居的重要程度，对邻居进行聚合来更新节点表示；步骤五，设定输入图神经网络的用户项目知识图经过的网络层数，如果未到达设定的网络层，则执行步骤三，反之则根据节点的表示，计算图神经网络的损失函数值，经过迭代训练，得到训练好的图神经网络，为用户生成推荐的项目。2.如权利要求1所述的一种基于层次注意力图神经网络的数据信息推荐方法，其特征在于，所述用户项目交互图是交互数据被表示为用户
‑
项目的二部图=，和分别表示用户集和项目集，链接表示观察到用户和项目之间存在交互，否则；所述知识图谱由辅助信息组织成，所述辅助信息由真实世界的实体及其之间的关系组成，以分析项目，则知识图谱是由主体
‑
属性
‑
客体三元组组成的有向图=表示有一个关系从头实体到尾实体t，和分别表示实体集和关系集。3. 如权利要求2所述的一种基于层次注意力图神经网络的数据信息推荐方法，其特征在于，所述步骤二具体为：将每个用户的行为表示为一个三元组(, ,)，其中表示为用户和项目之间的一个额外的交互关系；然后通过用户项目交互图中的项目与知识图谱中的实体进行匹配得到的项目
‑
实体对齐集，并根据项目
‑
实体对齐集，将用户项目交互图与知识图谱集成为用户项目知识图=, 其中，。4.如权利要求3所述的一种基于层次注意力图神经网络的数据信息推荐方法，其特征在于，所述步骤三具体为：将用户项目知识图输入到图神经网络中，采用层次注意力机制，该机制包括：关系级别注意力和节点级别注意力，计算出用户项目知识图的关系级别注意力权重和节点级别注意力权重，后将关系级别注意力权重和节点级别注意力权重合并得到层次注意力权重，即得到每个节点邻居的重要程度。5.如权利要求4所述的一种基于层次注意力图神经网络的数据信息推荐方法，其特征在于，所述计算关系级别注意力，关系即为节点间的连接边，关系级别注意力计算公式如下...

【专利技术属性】
技术研发人员：李超，张钊，李其明，
申请(专利权)人：之江实验室，
类型：发明
国别省市：