基于时空对比学习的下一个兴趣点推荐方法及装置制造方法及图纸

本申请公开了一种基于时空对比学习的下一个兴趣点推荐方法及装置，其中，方法包括：根据兴趣点的经纬度位置信息构建空间距离的图，并利用预设的图卷积神经网络和空间对比学习方法得到包含地理位置信息的兴趣点表示；基于用户对兴趣点的时序签到记录和兴趣点表示，利用基于预设的Transformer的编码器和时间对比学习方法得到用户的兴趣表示；根据兴趣表示与兴趣点表示计算用户对于兴趣点的兴趣度评分，并根据兴趣度评分生成下一个兴趣点的推荐信息，并向用户推荐推荐信息。由此，解决了相关技术中推荐系统无法准确的推断用户的兴趣点，降低了兴趣点推荐的精确性的同时，降低了用户的使用体验等问题。使用体验等问题。使用体验等问题。

【技术实现步骤摘要】
基于时空对比学习的下一个兴趣点推荐方法及装置


[0001]本申请涉及计算机系统建模以及数据分析
，特别涉及一种基于时空对比学习的下一个兴趣点推荐方法及装置。

技术介绍

[0002]随着互联网的发展以及人们生活水平的不断提高，与兴趣点相关的数据正呈现爆炸性的增长，兴趣点即为处于不同地理位置的地点服务，例如餐厅，加油站，公园等，在这种条件下，如何推断出针对用户下一个兴趣点推荐，成为当前的迫切需求。
[0003]相关技术中，通过计算用户
‑
用户、兴趣点
‑
兴趣点之间的相似度来进行下一个兴趣点推荐，或者通过用户历史访问的兴趣点建立模型，从而推荐用户最可能访问的N个兴趣点，以提升用户的体验度。
[0004]然而，相关技术中由于用户对兴趣点的签到记录较为稀疏，造成推荐系统无法准确的推断用户的兴趣点，降低了兴趣点推荐的精确性的同时，降低了用户的使用体验，亟待解决。

技术实现思路

[0005]本申请提供一种基于时空对比学习的下一个兴趣点推荐方法及装置，以解决相关技术中由于用户对兴趣点的签到记录较为稀疏，造成推荐系统无法准确的推断用户的兴趣点，降低了兴趣点推荐的精确性的同时，降低了用户的使用体验等问题。
[0006]本申请第一方面实施例提供一种基于时空对比学习的下一个兴趣点推荐方法，包括以下步骤：根据兴趣点的经纬度位置信息构建空间距离的图，并利用预设的图卷积神经网络和空间对比学习方法得到包含地理位置信息的兴趣点表示；基于用户对兴趣点的时序签到记录和所述兴趣点表示，利用基于预设的Transformer的编码器和时间对比学习方法得到用户的兴趣表示；根据所述兴趣表示与兴趣点表示计算所述用户对于兴趣点的兴趣度评分，并根据所述兴趣度评分生成下一个兴趣点的推荐信息，并向所述用户推荐所述推荐信息。
[0007]可选地，在本申请的一个实施例中，所述根据兴趣点的经纬度位置信息构建空间距离的图，包括：采集预设时间内的用户的兴趣点的时序签到记录，作为时序签到数据集，并收集兴趣点相关的经纬度位置信息，作为兴趣点的经纬度数据集；基于所述时序签到数据集和所述经纬度数据集计算任一两个兴趣点之间的空间距离，以构建兴趣点图，其中，所述兴趣点图的节点为兴趣点，且边为存在地理邻近关系。
[0008]可选地，在本申请的一个实施例中，所述兴趣点表示为：
[0009]P
geo
＝GCN
q
(P，A)，
[0010][0011]其中，为兴趣点的初始表示，d为兴趣点的初始表示向量的大小，q为图卷积神经网络的层数，为度矩阵，为考虑了节点自身连接后的邻接矩阵，σ(
·
)为一个非线性激活函数，为一个可训练的权重矩阵。
[0012]可选地，在本申请的一个实施例中，所述兴趣表示为：
[0013][0014]SAB(X)＝LayerNorm(E+Dropout(PFFN(E)))，
[0015]E＝LayerNorm(X+Dropout(MHSA(X)))，
[0016]x＝p+p
pos
，
[0017]MHSA(X)＝Concat(head1,head2,...,head
z
)W
Z
，
[0018][0019][0020]PFFN(E)＝σ(EW1+b1)W2+b2，
[0021]其中，SAEnc(
·
)为通过堆叠多层SAB(
·
)获得的，MHSA(
·
)为一个多头注意力机制模块，PFFN(
·
)为一个位置感知的前馈神经网络模块，LayerNorm(
·
)为层归一化操作，Dropout(
·
)为避免过拟合的随机舍弃操作，softmax(
·
)为softmax函数操作，为一个可学习的位置嵌入向量，Concat(
·
)为连接操作，z为多头注意力机制中的头的数目，W
Z
,,W1,W2,b1,和b2均为可训练的参数。
[0022]可选地，在本申请的一个实施例中，在计算任一两个兴趣点之间的空间距离之前，还包括：对所述时序签到数据集和所述经纬度数据集进行预处理，得到满足预设条件的时序签到数据集和经纬度数据集。
[0023]可选地，在本申请的一个实施例中，所述根据所述兴趣表示与兴趣点表示计算所述用户对于兴趣点的兴趣度评分，并根据所述兴趣度评分生成下一个兴趣点的推荐信息，包括：基于兴趣点原始表示和所述下一个兴趣点的兴趣表示，通过内积操作获得任一兴趣点的兴趣度评分，并通过预设的类对数损失函数定义下一个兴趣点的预测的损失。
[0024]本申请第二方面实施例提供一种基于时空对比学习的下一个兴趣点推荐装置，包括：第一获取模块，用于根据兴趣点的经纬度位置信息构建空间距离的图，并利用预设的图卷积神经网络和空间对比学习方法得到包含地理位置信息的兴趣点表示；第二获取模块，用于基于用户对兴趣点的时序签到记录和所述兴趣点表示，利用基于预设的Transformer的编码器和时间对比学习方法得到用户的兴趣表示；推荐模块，用于根据所述兴趣表示与兴趣点表示计算所述用户对于兴趣点的兴趣度评分，并根据所述兴趣度评分生成下一个兴趣点的推荐信息，并向所述用户推荐所述推荐信息。
[0025]可选地，在本申请的一个实施例中，所述第一获取模块包括：采集单元，用于采集预设时间内的用户的兴趣点的时序签到记录，作为时序签到数据集，并收集兴趣点相关的经纬度位置信息，作为兴趣点的经纬度数据集；构建单元，用于基于所述时序签到数据集和
所述经纬度数据集计算任一两个兴趣点之间的空间距离，以构建兴趣点图，其中，所述兴趣点图的节点为兴趣点，且边为存在地理邻近关系。
[0026]可选地，在本申请的一个实施例中，所述兴趣点表示为：
[0027]P
geo
＝GCN
q
(P，A)，
[0028][0029]其中，为兴趣点的初始表示，d为兴趣点的初始表示向量的大小，q为图卷积神经网络的层数，为度矩阵，为考虑了节点自身连接后的邻接矩阵，σ(
·
)为一个非线性激活函数，为一个可训练的权重矩阵。
[0030]可选地，在本申请的一个实施例中，所述兴趣表示为：
[0031][0032]SAB(X)＝LayerNorm(E+Dropout(PFFN(E)))，
[0033]E＝LayerNorm(X+Dropout(MHSA(X)))，
[0034]x＝p+p
pos
，
[0035]MHSA(X)＝Concat(head1,head2,...,head
z
)W
Z
，
[0036][0037][0038]PFFN(E)＝σ(EW1+b1)W2+b2，
[0039]其中本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于时空对比学习的下一个兴趣点推荐方法，其特征在于，包括以下步骤：根据兴趣点的经纬度位置信息构建空间距离的图，并利用预设的图卷积神经网络和空间对比学习方法得到包含地理位置信息的兴趣点表示；基于用户对兴趣点的时序签到记录和所述兴趣点表示，利用基于预设的Transformer的编码器和时间对比学习方法得到用户的兴趣表示；以及根据所述兴趣表示与兴趣点表示计算所述用户对于兴趣点的兴趣度评分，并根据所述兴趣度评分生成下一个兴趣点的推荐信息，并向所述用户推荐所述推荐信息。2.根据权利要求1所述的方法，其特征在于，所述根据兴趣点的经纬度位置信息构建空间距离的图，包括：采集预设时间内的用户的兴趣点的时序签到记录，作为时序签到数据集，并收集兴趣点相关的经纬度位置信息，作为兴趣点的经纬度数据集；基于所述时序签到数据集和所述经纬度数据集计算任一两个兴趣点之间的空间距离，以构建兴趣点图，其中，所述兴趣点图的节点为兴趣点，且边为存在地理邻近关系。3.根据权利要求2所述的方法，其特征在于，所述兴趣点表示为：P
geo
＝GCN
q
(P，A)，其中，为兴趣点的初始表示，d为兴趣点的初始表示向量的大小，q为图卷积神经网络的层数，为度矩阵，为考虑了节点自身连接后的邻接矩阵，σ(
·
)为一个非线性激活函数，为一个可训练的权重矩阵。4.根据权利要求2所述的方法，其特征在于，所述兴趣表示为：SAB(X)＝LayerNorm(E+Dropout(PFFN(E)))，E＝LayerNorm(X+Dropout(MHSA(X)))，x＝p+p
pos
，MHSA(X)＝Concat(head1,head2,...,head
z
)W
Z
，，PFFN(E)＝σ(EW1+b1)W2+b2，其中，SAEnc(
·
)为通过堆叠多层SAB(
·
)获得的，MHSA(
·
)为一个多头注意力机制模块，PFFN(
·
)为一个位置感知的前馈神经网络模块，LayerNorm(
·
)为层归一化操作，Dropout(
·
)为避免过拟合的随机舍弃操作，softmax(
·

【专利技术属性】
技术研发人员：范玉顺，贾志轩，
申请(专利权)人：清华大学，
类型：发明
国别省市：