本发明专利技术提供了一种基于图注意力神经网络的协同过滤推荐系统及方法。本发明专利技术所述基于图注意力神经网络的协同过滤推荐系统，首先利用图注意力网络通过量化目标节点的邻居信息对其的重要程度提高节点向量表示的质量；然后使用目标节点的高阶邻居信息丰富其向量表示，再通过平均汇聚获得节点的最终向量表示；最后，利用内积对用户和物品进行建模。本发明专利技术所述基于图注意力神经网络的协同过滤推荐系统，可快速从大量物品中召回用户可能喜好的物品，可适用于电子商务、社交媒体、广告和新闻等领域。广告和新闻等领域。广告和新闻等领域。
【技术实现步骤摘要】
一种基于图注意力神经网络的协同过滤推荐系统及方法
[0001]本专利技术涉及推荐系统领域，具体地说是一种基于图注意力神经网络的协同过滤推荐系统及方法。
技术介绍
[0002]在信息技术时代，推荐系统作为解决信息过载的有效解决方案已经广泛应用于电子商务、社交媒体、新闻和广告等领域。推荐系统基于购买和点击等历史交互预测用户下一次可能产生交互的物品来为用户提供个性化服务。协同过滤作为推荐系统中广泛使用的算法之一，其主要思想是假设具有相似交互的用户对物品具有相似的偏好，通常协同过滤的关键组件是用户(物品)的向量表示和用户
‑
物品交互模型。随着机器学习的发展，图神经网络在向量表示方面表现突出，结合图神经网络的推荐系统成为主流。
[0003]鉴于此，本专利技术提出了一种基于图注意力神经网络的协同过滤推荐系统。应用该系统，可以在推荐场景中通过图注意力神经网络获得高质量的用户(物品)向量表示，再通过内积建模用户和物品之间的交互，可以实现较好的个性化推荐服务。
技术实现思路
[0004]本专利技术的目的就是提供一种基于图注意力神经网络的协同过滤推荐系统及方法，以获得高质量的用户、物品向量表示，实现较好的个性化推荐服务。
[0005]本专利技术是这样实现的：一种基于图注意力神经网络的协同过滤推荐系统，包括采样模块和模型训练模块；模型训练模块包括图注意力网络层、汇聚层和预测层；图注意力网络层用于将用户和物品原始向量表示通过消息传递到目标节点，目标节点聚合其邻居向量表示输出自身新的向量表示；汇聚层用于将目标节点不同网络层的输出汇聚之后生成目标节点的最终向量表示；预测层用于使用内积建模用户和物品之间的交互，输出用户对物品的喜好程度；
[0006]所述目标节点聚合其邻居向量，具体是：采用图注意力网络，通过注意力机制量化目标节点的邻居信息对其的重要程度；
[0007]所述汇聚层在对目标节点不同网络层的输出进行汇聚时采用平均汇聚的方式生成目标节点的最终向量表示；
[0008]所述采样模块通过用户的隐式反馈对样本进行选取，将与用户产生过交互的样本视为正样本，未产生过交互的样本视为负样本；所述采样模块通过跳连接的方法从负样本中选取有效负样本作为难负样本。
[0009]优选的，所述图注意力网络层数为3。
[0010]优选的，采用用户和物品的ID作为训练数据，将用户和物品的ID通过Xavier初始化获取用户和物品原始向量表示，即通过嵌入层将用户和物品的ID映射到低维密集向量。
[0011]上述方案中，目标节点聚合其邻居向量表示输出自身新的向量表示，具体表达公式如下：
[0012][0013]式(6)中，和分别表示用户节点和物品节点聚合h阶邻居信息之后的输出，和为消息传递的权重，和为第h
‑
1网络层的输出。h即为图注意力网络层数。
[0014]应用上述基于图注意力神经网络的协同过滤推荐系统，本专利技术所提供的基于图注意力神经网络的协同过滤推荐方法，包括如下步骤：
[0015]a、由采用模块通过用户的隐式反馈对样本进行选取，将与用户产生过交互的样本视为正样本，未产生过交互的样本视为负样本；所述采样模块通过跳连接的方法从负样本中选取有效负样本作为难负样本；
[0016]b、模型训练模块通过正样本和难负样本对模型进行训练；具体包括：
[0017]b
‑
1、通过图注意力网络层使用户和物品原始向量表示通过消息传递到目标节点，目标节点聚合其邻居向量表示输出自身新的向量表示；所述目标节点聚合其邻居向量具体是：采用图注意力网络，通过注意力机制量化目标节点的邻居信息对其的重要程度；
[0018]b
‑
2、通过汇聚层将目标节点不同网络层的输出平均汇聚之后生成目标节点的最终向量表示；
[0019]b
‑
3、通过预测层使用内积建模用户和物品之间的交互，输出用户对物品的喜好程度。
[0020]优选的，步骤b
‑
1中，目标节点聚合其邻居向量的表达方式如下：
[0021][0022]式(2)中，v
ui
和v
iu
分别表示用户u和物品i聚合其对应邻居信息后生成的新的向量表示，POL(
·
)为聚合函数；v
i
和v
u
分别为用户u邻居节点的向量表示和物品i邻居节点的向量表示，α
ui
和α
iu
分别为邻居节点信息对目标节点的重要程度值；
[0023]结合注意力机制，聚合函数POL(
·
)定义为：
[0024][0025]式(3)中，T
u
和T
i
分别表示与用户u产生过交互的物品集和与物品i产生过交互的用户集；对于用户u其与邻居节点之间的依赖关系的量化如下：
[0026][0027]式(4)中，是一个单层的前馈神经网络，使用LeakyReLU激活函数，并使用softmax函数对其进行归一化处理；α
ui
的完整公式如下所示：
[0028][0029]式(5)中，是参数化的权重向量，T表示转置操作，||表示将两个嵌入向量进行拼接操作，作为参数化共享的权重矩阵将输入特征进行线性变换。
[0030]优选的，步骤b
‑
2中，用户节点的最终向量表示和物品节点的最终向量表示如下：
[0031][0032]式(7)中，h为图注意力网络层数，和分别为用户节点和物品节点第h网络层的数。
[0033]优选的，图注意力网络层数h为3。
[0034]优选的，步骤a中，所述采样模块通过跳连接的方法从负样本中选取有效负样本作为难负样本，具体包括如下步骤：从负样本中随机抽取设定数量的负样本作为负样本候选集；将负样本候选集中负样本的向量表示按不同网络层的输出分为h+1个簇，然后将对应正样本插入负样本候选集生成难负样本候选集(此处插入正样本是把正样本信息融合到负样本中，具体见下面公式(10))；使用目标用户的向量表示与难负样本候选集中每个簇的向量表示做内积筛选出难负样本的h+1个向量表示，最后通过平均汇聚合成难负样本。
[0035]步骤a中，形成难负样本的具体表达公式如下：
[0036][0037]式(10)中，和表示正样本和负样本(指负样本候选集中的负样本)的向量表示，θ
(h)
为混合因子，取值范围为(0，1)；表示插入正样本之后的负样本向量表示，f
Q
(
·
)为查询负样本对应用户的向量表示，为最终合成难负样本的h阶向量表示。
[0038]本专利技术的优点在于：
[0039](1)本专利技术所述基于图注意力神经网络的协同过滤推荐系统，结合了图神经网络，通过自注意力挖掘相邻节点之间的依赖关系，生成高质量的节点向量表示。
[0040](2)本专利技术所述基于图注意力神经网络的本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种基于图注意力神经网络的协同过滤推荐系统，其特征是，包括采样模块和模型训练模块；模型训练模块包括图注意力网络层、汇聚层和预测层；图注意力网络层用于将用户和物品原始向量表示通过消息传递到目标节点，目标节点聚合其邻居向量表示输出自身新的向量表示；汇聚层用于将目标节点不同网络层的输出汇聚之后生成目标节点的最终向量表示；预测层用于使用内积建模用户和物品之间的交互，输出用户对物品的喜好程度；所述目标节点聚合其邻居向量，具体是：采用图注意力网络，通过注意力机制量化目标节点的邻居信息对其的重要程度；所述汇聚层在对目标节点不同网络层的输出进行汇聚时采用平均汇聚的方式生成目标节点的最终向量表示；所述采样模块通过用户的隐式反馈对样本进行选取，将与用户产生过交互的样本视为正样本，未产生过交互的样本视为负样本；所述采样模块通过跳连接的方法从负样本中选取有效负样本作为难负样本。2.根据权利要求1所述的基于图注意力神经网络的协同过滤推荐系统，其特征是，所述图注意力网络层数为3。3.根据权利要求1所述的基于图注意力神经网络的协同过滤推荐系统，其特征是，采用用户和物品的ID作为训练数据，将用户和物品的ID通过Xavier初始化获取用户和物品原始向量表示，即通过嵌入层将用户和物品的ID映射到低维密集向量。4.根据权利要求1所述的基于图注意力神经网络的协同过滤推荐系统，其特征是，目标节点聚合其邻居向量表示输出自身新的向量表示，具体表达公式如下：式(6)中，和分别表示用户节点和物品节点聚合h阶邻居信息之后的输出，和为消息传递的权重，和为第h
‑
1网络层的输出。5.一种基于图注意力神经网络的协同过滤推荐方法，其特征是，该方法采用了权利要求1所述基于图注意力神经网络的协同过滤推荐系统，包括如下步骤：a、由采用模块通过用户的隐式反馈对样本进行选取，将与用户产生过交互的样本视为正样本，未产生过交互的样本视为负样本；所述采样模块通过跳连接的方法从负样本中选取有效负样本作为难负样本；b、模型训练模块通过正样本和难负样本对模型进行训练；具体包括：b
‑
1、通过图注意力网络层使用户和物品原始向量表示通过消息传递到目标节点，目标节点聚合其邻居向量表示输出自身新的向量表示；所述目标节点聚合其邻居向量具体是：采用图注意力网络，通过注意力机制量化目标节点的邻居信息对其的重要程度；b
‑
2、通过汇聚层将目标节点不同网络层的输出平均汇聚之后生成目标节点的最终向量表示；b
‑
3、通过预测层使用内积建模用户和物品之间的交互，输出用户对物品的喜好程度。6.根据权利要求5所述的基于图注意力神经网络的协同过滤推荐方法，其特征是，步骤b
...
【专利技术属性】
技术研发人员：李凯，朱江强，齐静，彭锦佳，
申请(专利权)人：河北大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。