一种基于图神经网络进行用户行为预测的方法及装置制造方法及图纸

本申请涉及一种基于图神经网络进行用户行为预测的方法及装置，其方法包括标注用户、商品及两者之间的交互行为；进行构图；初始化动态实体嵌入和动态关系嵌入，设置模型的训练时间步；若当前的训练时间步小于设置的训练时间步，则获取当前的时序知识图谱的静态关系嵌入，使用循环神经网络更新动态关系嵌入；使用图神经网络计算当前的时序知识图谱的静态实体嵌入，并使用循环神经网络更新动态实体嵌入，直至训练时间步等于或大于设置值；使用卷积解码器进行解码，得到所有实体的得分，并根据得分进行评估，保存评估结果满足预设条件的时序知识图谱推理的模型；基于模型进行预测。本申请具有使图结构信息聚合更准确，提高预测精度的效果。精度的效果。精度的效果。

【技术实现步骤摘要】
一种基于图神经网络进行用户行为预测的方法及装置


[0001]本申请涉及信息传播分析
，尤其是涉及一种基于图神经网络进行用户行为预测的方法及装置。

技术介绍

[0002]随着图神经网络的不断发展，使用图神经网络对知识图谱进行建模是一种新的选择。图神经网络可以表征知识图谱中的图结构信息。目前，在推荐系统中，知识图谱发挥着重要的作用。知识图谱可以表示出用户和商品的信息，以通过这些信息来预测用户未来的活动。知识图谱推理可以分为静态知识图谱推理和时序知识图谱推理两种。
[0003]静态知识图谱推理指对不带时间戳的知识图谱进行补全，常见的方法有距离向量模型TransE、语义匹配模型RESCAL及它们的拓展模型。这些方法虽然简单方便，但无法获取知识图谱中的时间信息，只能在静态层面上推理知识图谱中缺失的信息。
[0004]时序知识图谱推理的任务是推理未来时间的事实，在现有的时序知识图谱上进一步拓展未来时间的知识图谱，从而反映出用户可能的行为和活动，根据用户喜好为其推荐相应的产品。时序知识图谱推理包括内插和外推两种模式，在给定一个从时间0到t的时序知识图谱的情况下，内插模式是推理时间0到t中发生过的事实，目前的方法是将时间信息和关系相结合形成新的嵌入，再使用静态方法进行推理；外推模式则是推理时间t之外的未发生过的事实，目前的方法一般是采用时间序列分解或时间感知的方式来对已有事实进行建模，进一步推理未来的事实。但这些方法存在以下不足：
[0005]1)无法准确得到每一时间下的知识图谱的结构信息；
[0006]2)对于相邻时间下知识图谱之间的序列模式建模不准确。
[0007]针对上述中的相关技术，专利技术人发现现有的使用图神经网络进行建模的推理工作存在有图结构信息聚合不准确、预测精度低的问题。

技术实现思路

[0008]为了使图结构信息聚合更准确，提高预测精度，本申请提供了一种基于图神经网络进行用户行为预测的方法及装置。
[0009]第一方面，本申请提供一种基于图神经网络进行用户行为预测的方法。
[0010]本申请是通过以下技术方案得以实现的：
[0011]一种基于图神经网络进行用户行为预测的方法，包括以下步骤，
[0012]标注用户、商品及两者之间的交互行为，获取所有的实体和行为关系；
[0013]将获取的所述实体和所述行为关系进行构图，得到时序知识图谱；
[0014]初始化所述时序知识图谱的动态实体嵌入和动态关系嵌入，设置所述时序知识图谱推理的模型的训练时间步；
[0015]若当前的训练时间步小于设置的所述训练时间步，则获取当前的所述时序知识图谱的静态关系嵌入，使用循环神经网络更新动态关系嵌入；
[0016]使用图神经网络计算当前的时序知识图谱的静态实体嵌入，并使用循环神经网络更新动态实体嵌入，直至当前的训练时间步等于或大于设置的所述训练时间步；
[0017]使用卷积解码器进行解码，得到所有实体的得分，并根据所述得分进行评估，保存评估结果满足预设条件的所述时序知识图谱推理的模型；
[0018]基于所述模型，对未来多个时间步的事实进行预测，输出预测的用户行为。
[0019]本申请在一较佳示例中可以进一步配置为：所述获取当前的所述时序知识图谱的静态关系嵌入，使用循环神经网络更新动态关系嵌入的步骤包括，
[0020]针对所述时序知识图谱的每个时间段下的切片，对所述时序知识图谱的所述动态关系嵌入使用平均池化对与其相关的所述实体进行操作，得到静态关系嵌入；
[0021]基于所述静态关系嵌入，使用循环神经网络GRU对所述动态关系嵌入进行更新。
[0022]本申请在一较佳示例中可以进一步配置为：所述使用图神经网络计算当前的静态实体嵌入，并使用循环神经网络更新动态实体嵌入的步骤包括，
[0023]将所述时序知识图谱的上一时间段得到的所述动态实体嵌入和所述动态关系嵌入输入具有关系注意力机制的两层网络结构的图神经网络RGCN中，运算得到用户和商品在当前时间下的结构化实体嵌入，以及用户和商品在当前时间下的静态实体嵌入；
[0024]同时，将上一时间段得到的所述动态实体嵌入和所述动态关系嵌入输入具有时间感知机制的两层网络结构的图神经网络TGCN中，区分用户的长时间喜好和短时间喜好；
[0025]将所述结构化实体嵌入和所述静态实体嵌入进行拼接，并采用循环神经网络GRU对动态实体嵌入进行更新。
[0026]本申请在一较佳示例中可以进一步配置为：所述时序知识图谱包括G＝(E，R，S，T)，其中，E＝{e1，e2，...，e
|E|
}表示用户和商品的实体集合，包含|E|种不同实体，R＝{r1，r2，...，r
|R|
}表示用户和商品的交互行为的行为关系集合，包含|R|种不同行为关系，T＝{0，1，...，t
|T|
}表示时序知识图谱中事实发生的时间集合，包含|T|个时间步，表示知识图谱中事实的集合。
[0027]本申请在一较佳示例中可以进一步配置为：所述使用图神经网络计算当前的静态实体嵌入的公式包括，
[0028][0029]式中，表示实体o在l+1层的嵌入，表示实体s在l层的嵌入，表示实体o在l层的嵌入，表示带有关系聚合信息的权重矩阵，表示带有关系聚合信息的自循环矩阵，c
o
表示实体o的入度，c
o
为一个归一化常数，f表示带泄露的随机线性整流函数，(s，r，o，t)表示事实的四元组形式。
[0030]本申请在一较佳示例中可以进一步配置为：所述根据所述得分进行评估，保存评估结果满足预设条件的所述时序知识图谱推理的模型的步骤包括，
[0031]将所述得分按由高到低进行排序，得到排序列表；
[0032]将当前得分与所述排序列表进行比较，若当前得分与所述排序列表中的第n个结果相同，则将当前得分替换为1/n；
[0033]根据所有得分计算所述评估结果，并保存评估结果最大的所述时序知识图谱推理
的模型，其中，所述评估结果的计算公式为，
[0034][0035]式中，Q表示待预测的事实的个数，rank
i
表示对于第i个事实的四元组，排序列表中与当前得分相同的位置。
[0036]本申请在一较佳示例中可以进一步配置为：所述根据所述得分进行评估，保存评估结果满足预设条件的所述时序知识图谱推理的模型的步骤包括，
[0037]将所述得分按由高到低进行排序，得到排序列表；
[0038]将当前得分与所述排序列表进行比较，计算排序小于第n个事实的四元组的平均占比，其中，所述平均占比的计算公式为，
[0039][0040]式中，Q表示待预测的事实的个数，rank
i
表示对于第i个事实的四元组，χ表示indicator函数，n依次取1、3和10；
[0041]保存所述平均占比最大的所述时序知识图谱推理的模本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于图神经网络进行用户行为预测的方法，其特征在于，包括以下步骤，标注用户、商品及两者之间的交互行为，获取所有的实体和行为关系；将获取的所述实体和所述行为关系进行构图，得到时序知识图谱；初始化所述时序知识图谱的动态实体嵌入和动态关系嵌入，设置所述时序知识图谱推理的模型的训练时间步；若当前的训练时间步小于设置的所述训练时间步，则获取当前的所述时序知识图谱的静态关系嵌入，使用循环神经网络更新动态关系嵌入；使用图神经网络计算当前的时序知识图谱的静态实体嵌入，并使用循环神经网络更新动态实体嵌入，直至当前的训练时间步等于或大于设置的所述训练时间步；使用卷积解码器进行解码，得到所有实体的得分，并根据所述得分进行评估，保存评估结果满足预设条件的所述时序知识图谱推理的模型；基于所述模型，对未来多个时间步的事实进行预测，输出预测的用户行为。2.根据权利要求1所述的基于图神经网络进行用户行为预测的方法，其特征在于，所述获取当前的所述时序知识图谱的静态关系嵌入，使用循环神经网络更新动态关系嵌入的步骤包括，针对所述时序知识图谱的每个时间段下的切片，对所述时序知识图谱的所述动态关系嵌入使用平均池化对与其相关的所述实体进行操作，得到静态关系嵌入；基于所述静态关系嵌入，使用循环神经网络GRU对所述动态关系嵌入进行更新。3.根据权利要求1所述的基于图神经网络进行用户行为预测的方法，其特征在于，所述使用图神经网络计算当前的静态实体嵌入，并使用循环神经网络更新动态实体嵌入的步骤包括，将所述时序知识图谱的上一时间段得到的所述动态实体嵌入和所述动态关系嵌入输入具有关系注意力机制的两层网络结构的图神经网络RGCN中，运算得到用户和商品在当前时间下的结构化实体嵌入，以及用户和商品在当前时间下的静态实体嵌入；同时，将上一时间段得到的所述动态实体嵌入和所述动态关系嵌入输入具有时间感知机制的两层网络结构的图神经网络TGCN中；将所述结构化实体嵌入和所述静态实体嵌入进行拼接，并采用循环神经网络GRU对动态实体嵌入进行更新。4.根据权利要求1所述的基于图神经网络进行用户行为预测的方法，其特征在于，所述时序知识图谱包括G＝(E,R,S,T)，其中，E＝{e1,e2,
…
,e
|E|
}表示用户和商品的实体集合，包含|E|种不同实体，R＝{r1,r2,
…
,r
|R|
}表示用户和商品的交互行为的行为关系集合，包含|R|种不同行为关系，T＝{0,1,
…
,t
|T|
}表示时序知识图谱中事实发生的时间集合，包含|T|个时间步，表示知识图谱中事实的集合。5.根据权利要求4所述的基于图神经网络进行用户行为预测的方法，其特征在于，所述使用图神经网络计算当前的静态实体嵌入的公式包括，式中，表示实体o在l+1层的嵌入，表示实体s在l层的嵌入，表示实体o在l层
的嵌入，表示带有关系聚合信息的权重矩阵，表示带有关系聚合信息的自循环矩阵，c
o
表示实体o的入度，c
o
为一个归一化常数，f表示带泄露的随机线性整流函数，(s,r,o,t)表示事实的四元组形式。6.根据权利要求1所述的基于图神经网络进行用户行为预测的方法，其特征在于，所述...

【专利技术属性】
技术研发人员：王晔，贾焰，莫重，廖清，
申请(专利权)人：哈尔滨工业大学深圳哈尔滨工业大学深圳科技创新研究院，
类型：发明
国别省市：