基于元学习图神经网络面向冷启动的推荐系统及方法技术方案

本发明专利技术公开了基于元学习图神经网络面向冷启动的推荐系统及方法，属于网络推荐技术领域，本发明专利技术要解决的技术问题为如何克服针对冷启动用户交互数据稀疏无法准确动态建模用户偏好的缺陷，采用的技术方案为：该系统包括二部图构建层、图嵌入层、序列编码层及元学习层。该方法具体如下：获取数据集中的交互数据，利用交互数据构建用户

【技术实现步骤摘要】
基于元学习图神经网络面向冷启动的推荐系统及方法


[0001]本专利技术涉及网络推荐
，具体地说是一种基于元学习图神经网络面向冷启动的推荐系统及方法。

技术介绍

[0002]随着深度学习在推荐领域的不断发展，推荐算法的性能也在逐步提高。当有新用户加入时，因缺乏足够的交互信息，推荐方法无法准确建模用户偏好。研究者利用元学习(Meta Learning)在少样本学习中的优势，将冷启动用户推荐视为一个新任务，通过梯度下降使模型快速适应冷启动任务并给出符合用户偏好的推荐内容。
[0003]目前，利用元学习解决推荐算法中的冷启动问题现已成为主流方法,以MeLU为例，利用人口统计信息和物品信息预测冷启动用户偏好，虽然取得了出色的性能，但是在辅助信息不可用的场景下，模型性能会显著下降。后来研究者转向研究不使用辅助信息的方法，以MetaTL为代例，仅使用有限交互的序列来动态地建模冷启动用户偏好，但是它们忽略了不同序列间物品的相关性。序列间物品的相关性可以捕获用户的一般偏好并缓解数据稀疏问题。
[0004]故如何克服针对冷启动用户交互数据稀疏本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于元学习图神经网络面向冷启动的推荐系统，其特征在于，该系统包括，二部图构建层，用于获取数据集中的交互数据，利用交互数据构建用户
‑
物品二部图；图嵌入层，用于基于用户
‑
物品二部图通过图卷积网络建模序列间物品的高阶关系，生成准确的用户及物品嵌入表示；序列编码层，用于建模序列内物品的动态变化并通过注意力网络建模用户偏好；元学习层，用于快速适应冷启动推荐任务。2.根据权利要求1所述的基于元学习图神经网络面向冷启动的推荐系统，其特征在于，用户
‑
物品二部图包括用户节点u和物品节点v两个类型的节点；若用户与物品交互，则在用户和物品之间存在边；连接多个物品节点和用户节点的路径，捕获位于路径开始和结束处的项节点之间的相关性。3.根据权利要求1或2所述的基于元学习图神经网络面向冷启动的推荐系统，其特征在于，嵌入图层具体如下：聚合目标节点的邻居信息，公式如下：聚合目标节点的邻居信息，公式如下：其中，表示通过对第k
‑
1层的所有邻居上应用聚合函数得到第k层的物品节点v
i
的邻域表示的邻域表示及分别表示第k层的权重矩阵和偏置向量且置向量且表示通过对第k
‑
1层的所有邻居上应用聚合函数得到第k层的物品节点u
i
的邻域表示的邻域表示及分别表示第k层的权重矩阵和偏置向量且对应的第k层隐表示为用户节点u
i
的第k层的隐表示为用户
‑
物品二部图中与目标v
i
相邻的节点被定义为目标节点的1跳邻居；n(v
i
)表示节点v
i
的1跳邻居集合；物品节点v的初始嵌入表示为x
v
；用户节点u的初始化嵌入表示为x
u
；在图卷积网络中，节点嵌入既依赖于节点自身的信息，也依赖于周围的邻居节点；邻域信息与目标节点表示相结合作为该层的用户及物品嵌入表示，公式如下：邻域信息与目标节点表示相结合作为该层的用户及物品嵌入表示，公式如下：其中，及表示第k层的变换权重矩阵和偏置向量且γ表示池化函数；σ表示激活函数；[；]表示串联；
将不同层的嵌入表示经加权结合得到最终的嵌入表示公式如下：公式如下：其中，a
k
表示第k层的权重矩阵,用于表示在第k层的嵌入构成中其他层嵌入的重要性，a
k
为手动调整的参数或自动优化的模型参数；将a
k
统一设置为1/(K+1)；为用户、物品嵌入表示。4.根据权利要求3所述的基于元学习图神经网络面向冷启动的推荐系统，其特征在于，序列编码层具体如下：经过图嵌入层后用户u的交互序列表示为以用户序列s
u
作为输入，将每个物品v
q
与其之前的物品按交互顺序生成交互物品对集其中，每个交互序列中的第一个物品由于之前没有其他交互项，将第一个物品的交互物品对集定义为每个物品对通过L层的神经网络获得两个物品间的映射关系，具体如下：r
l
＝ReLU(W
l
r
l
‑1+b
l
)；其中，表示向量m与向量n连接；v
i
与v
q
分别表示头实体和尾实体；L为神经网络层数，l∈{1,
…
,L
‑
1}；W
l
和b
l
表示第l层的权重矩阵和偏置向量，表示第l层的权重矩阵和偏置向量，表示最终物品v
i
与物品v
q
的转移信息；v表示物品；q表示尾部实体；r表示拼接后的物品向量；r的上标表示层数；由于每个物品对集中存在多个物品对，在为每个物品生成物品转移表示时，聚合所有的转换信息，公式如下：在获得序列内每个物品的转换信息后，将序列间物品相关性信息与序列内物品间的转移信息相结合，生成最终的用户兴趣表示；为了捕捉每个用户不断变化的兴趣，使用注意力网络为每个输入的隐状态生成一个权重，用该权重表示用户当前行为对最终偏好的影响，用户交互序列中最后一项对下一交互项起重要作用，故在生成注意力权重时考虑最后交互项v
n
的影响，公式如下：
其中，表示物品v
q
在用户u的最终决策上的权重；W2,W3,W4,b2,b2为多层感知网络的参数，数，表示的物品vq的影响权重；考虑序列内物品顺序相关性和时间动态的用户兴趣被表示为：在获得用户当前兴趣的表示后，采用经典的矩阵因式分解方法来推断用户对物品的偏好；用户u对物品v
p
的预测得分是用户兴趣I
u
和物品嵌入的内积，用户将与物品交互的概率被定义为预测分数：利用贝叶斯个性化排名损失来学习参数，使用户观察到的交互项的概率估计高于其未观察到的物品，BPR损失函数定义为：其中，T
i
表示第i个任务的训练样本，即T
i
＝{(u,v,v
‑
)|(u,v)∈R
+
,(u,v
‑
)∈R
‑
}；R
+
与用户交互的物品集合；R
‑
表示与用户没有交互历史的物品集合；θ表示可学习的参数；λ是L2正则化参数，用于缓解过拟合问题。5.根据权利要求4所述的基于元学习图神经网络面向冷启动的推荐系统，其特征在于，元学习层具体如下：使用基于梯度的MAML方法优化图嵌入网络的全部参数θ
g
和序列编码层的全部参数θ
t
；将训练任务分为内循环和外循环，内循环用于优化用户兴趣建模，外循环用于通过元学习层更新参数；内循环使用支持集D
s
训练，通过梯度下降更新序列编码层，参数更新为Θ'
t
，公式如下：外循环优化过程，使用查询集D
q
来优化全部参数：来优化全部参数：经过元学习层的训练阶段，得到用户、物品的良好初始嵌入和二部图构建层、图嵌入
层、序列编码层及元学习层所需要的参数；在元学习层的测试阶段，使用新用户数据对二部图构建层、图嵌入层、序列编码层及元学习层进行微调，快速的适用冷启动用户的推荐任务。6.一种基于元学习图神经网络面向冷启动的推荐方法，其特征在于，该方法具体如下：获取数据集中的交互数据，利用交互数据构建用户
‑
物品二部图；基于二部图利用图卷积网络构建序列间物品的高阶关系，生成准确的用户及物品的嵌入表示；利用序列编码层学习序列内物品的转移信息，结合注意力机制为用户生成动态的兴趣表示；利用...

【专利技术属性】
技术研发人员：袁卫华，李璐，张志军，范玉敏，王星，
申请(专利权)人：山东建筑大学，
类型：发明
国别省市：