基于多粒度自注意力的下一个兴趣点推荐方法技术

本发明专利技术公开了一种基于多粒度自注意力的下一个兴趣点推荐方法，其包括：构建多粒度自注意力网络模型，该网络模型包括：对时间进行感知编码的第一编码器、对空间进行感知编码的第二编码器、对POI特征进行解码的解码器；采集多个用户历史签到数据，对上述网络模型进行训练，利用训练好的网络模型预测用户的下一个兴趣点；训练和预测的过程包括：根据用户历史签到数据提取包含时间特征和空间特征的POI序列，根据用户历史签到数据提取包含时间特征和空间特征的POI商圈序列；将POI序列和POI商圈序列作为输入序列，通过上述网络模型处理得到用户下一个POI id。本发明专利技术在综合考虑POI序列和POI商圈序列后再应用多粒度自注意力网络，可以更准确的推荐下一个兴趣点。

【技术实现步骤摘要】
基于多粒度自注意力的下一个兴趣点推荐方法
本专利技术涉及信息处理
更具体地说，本专利技术涉及一种基于多粒度自注意力的下一个兴趣点推荐方法。
技术介绍
随着智能设备的快速发展，微信、微博和Facebook等社交网络吸引了数十亿用户进行信息交流和分享。近年来，社交网络应用的一个显著进步是定位系统的引入，这导致了基于位置的社交网络(LBSNs)的出现，如Foursquare和Yelp。兴趣点(POI)推荐系统在社交网络中起着至关重要的作用，它可以帮助用户发现当地有趣的景点或设施。此外，它还可以帮助服务提供商根据用户的签到序列推荐个性化服务(如广告)。然而，大多的下一个兴趣点推荐只关注于在POI序列上的转移模式，而忽略了POI商圈之间的转移模式，导致下一个兴趣点推荐的准确性不高。
技术实现思路
本专利技术的一个目的是解决至少上述问题，并提供至少后面将说明的优点。本专利技术还有一个目的是提供一种基于多粒度自注意力的下一个兴趣点推荐方法，在综合考虑POI序列和POI商圈序列后再应用多粒度自注意力网络，可以更准确的推荐下一个兴趣点。为了实现根据本专利技术的这些目的和其它优点，提供了一种基于多粒度自注意力的下一个兴趣点推荐方法，其包括：构建多粒度自注意力网络模型，所述多粒度自注意力网络模型包括：对时间进行感知编码的第一编码器、对空间进行感知编码的第二编码器、对POI特征进行解码的解码器；采集多个用户历史签到数据，将部分用户的历史签到数据作为训练集对所述多粒度自注意力网络模型进行训练，将另一部分用户的历史签到数据作为测试集，利用训练好的多粒度自注意力网络模型预测用户的下一个兴趣点；其中，训练集训练的过程和测试集测试的过程包括：根据用户历史签到数据提取包含时间特征和空间特征的POI序列，根据用户历史签到数据提取包含时间特征和空间特征的POI商圈序列；将POI序列和POI商圈序列作为输入序列，通过所述多粒度自注意力网络模型处理得到用户下一个POIid。优选的是，用户历史签到数据包括用户id、POIid、签到时间、POI所属类别、POI种类和POI地理位置。优选的是，所述解码器包括对POI种类进行解码的第一解码器、对POI所属类别进行解码的第二解码器以及对POIid进行解码的第三解码器。优选的是，所述第一编码器和第二编码器均由特征层、聚合层和自注意力网络组成。优选的是，将POI序列和POI商圈序列作为输入序列，通过所述多粒度自注意力网络模型处理得到用户下一个POIid的过程包括：使用第一编码器对POI序列中的时间特征进行编码得到POI序列的时间感知编码，使用第二编码器对POI序列中的空间特征进行编码得到POI序列的空间感知编码，综合POI序列的时间感知编码和POI序列的空间感知编码得到POI序列表示；使用第一编码器对POI商圈序列中的时间特征进行编码得到POI商圈序列的时间感知编码，使用第二编码器对POI商圈序列中的空间特征进行编码得到POI商圈序列的空间感知编码，综合POI商圈序列的时间感知编码和POI商圈序列的空间感知编码得到POI商圈序列表示；将POI序列的时间感知编码与POI商圈序列的时间感知编码作为输入量，通过第一解码器处理得到下一个POI种类预测值；将POI序列中的时间特征在编码过程中得到的聚合表示与POI商圈序列中的时间特征在编码过程中得到的聚合表示作为输入量，通过第二解码器处理得到下一个POI所属类别预测值；将POI序列表示、POI商圈序列表示、下一个POI种类预测值以及下一个POI所属类别预测值作为输入量，通过第三解码器处理得到用户下一个POIid。优选的是，所述自注意力网络加入了一层前馈神经网络，使用的激活函数为ReLu函数。优选的是，所述第一解码器的激活函数为sigmoid函数，损失函数为交叉熵损失函数。优选的是，所述第二解码器的损失函数为BPR损失函数。优选的是，所述第三解码器的损失函数为BPR损失函数。优选的是，所述多粒度自注意力网络模型训练过程中使用了AdaGrad优化器。本专利技术至少包括以下有益效果：本专利技术通过将POI序列作为细粒度序列，将POI商圈序列作为粗粒度序列，在粗粒度序列和细粒度序列两个层次上进行建模，可以有效提高模型表达能力，采用多粒度自注意力网络捕捉两个粒度的有序转移模式，并引入用于预测下一个兴趣点种类的活动任务和用于预测下一个兴趣点所属类别的辅助任务，最后综合粗细粒度序列表示和两个任务的结果来推荐下一个兴趣点，相比于单一的POI序列推荐，本专利技术在推荐准确度上大有提高。本专利技术的其它优点、目标和特征将部分通过下面的说明体现，部分还将通过对本专利技术的研究和实践而为本领域的技术人员所理解。附图说明图1为本专利技术所述基于多粒度自注意力的下一个兴趣点推荐方法的流程图；图2为本专利技术所述多粒度自注意力网络模型训练和测试过程的流程图；图3为本专利技术所述多粒度自注意力网络模型编码和解码过程的流程图；图4为本专利技术其中一个实施例所述用户Alice的历史访问记录图示。具体实施方式下面结合附图对本专利技术做进一步的详细说明，以令本领域技术人员参照说明书文字能够据以实施。需要说明的是，本申请所描述的实施例仅仅是本申请一部分实施例，并不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。如图1所示，本专利技术提供一种基于多粒度自注意力的下一个兴趣点推荐方法，其包括：S101、构建多粒度自注意力网络模型，所述多粒度自注意力网络模型包括：对时间进行感知编码的第一编码器、对空间进行感知编码的第二编码器、对POI特征进行解码的解码器；这里第一编码器和第二编码器均由特征层、聚合层和自注意力网络组成。自注意力网络利用注意机制来计算每个要素与所有其他要素之间的相关性。为了计算自我注意得分，主要有以下几个过程：首先，根据输入矩阵X与权重矩阵点乘得到Q，K，V：Q＝XWQ；K＝XWK；V＝XWV；其次，对于Q，K，V进行运算，将运算后的结果再用softmax函数归一化：其中，的作用是为了对结果进行缩放。由于前面的计算都是线性计算，为了让模型具有更好的非线性拟合能力，从而加入一层前馈神经网络，使用的激活函数是ReLu函数：F＝FFN(Z)＝ReLu(ZW1+b1)；最后，得到了自注意力网络的结果F。这里POI特征包括POIid、POI所属类别、POI种类和POI地理位置，对POI特征进行解码的解码器包括对POI种类进行解码的第一解码器、对POI所属类别进行解码的第二解码器以及对POIid进行解码的第三解码器。S102、采集多个用户历史签到数据，将部分用户的历史签到数据作为训练集对所述多粒度自注意力网络模型进行训练，将另一部分用户的历史签到数本文档来自技高网...

【技术保护点】
1.基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，包括：/n构建多粒度自注意力网络模型，所述多粒度自注意力网络模型包括：对时间进行感知编码的第一编码器、对空间进行感知编码的第二编码器、对POI特征进行解码的解码器；/n采集多个用户历史签到数据，将部分用户的历史签到数据作为训练集对所述多粒度自注意力网络模型进行训练，将另一部分用户的历史签到数据作为测试集，利用训练好的多粒度自注意力网络模型预测用户的下一个兴趣点；/n其中，训练集训练的过程和测试集测试的过程包括：根据用户历史签到数据提取包含时间特征和空间特征的POI序列，根据用户历史签到数据提取包含时间特征和空间特征的POI商圈序列；/n将POI序列和POI商圈序列作为输入序列，通过所述多粒度自注意力网络模型处理得到用户下一个POI id。/n

【技术特征摘要】
1.基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，包括：
构建多粒度自注意力网络模型，所述多粒度自注意力网络模型包括：对时间进行感知编码的第一编码器、对空间进行感知编码的第二编码器、对POI特征进行解码的解码器；
采集多个用户历史签到数据，将部分用户的历史签到数据作为训练集对所述多粒度自注意力网络模型进行训练，将另一部分用户的历史签到数据作为测试集，利用训练好的多粒度自注意力网络模型预测用户的下一个兴趣点；
其中，训练集训练的过程和测试集测试的过程包括：根据用户历史签到数据提取包含时间特征和空间特征的POI序列，根据用户历史签到数据提取包含时间特征和空间特征的POI商圈序列；
将POI序列和POI商圈序列作为输入序列，通过所述多粒度自注意力网络模型处理得到用户下一个POIid。


2.如权利要求1所述的基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，用户历史签到数据包括用户id、POIid、签到时间、POI所属类别、POI种类和POI地理位置。


3.如权利要求2所述的基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，所述解码器包括对POI种类进行解码的第一解码器、对POI所属类别进行解码的第二解码器以及对POIid进行解码的第三解码器。


4.如权利要求3所述的基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，所述第一编码器和第二编码器均由特征层、聚合层和自注意力网络组成。


5.如权利要求4所述的基于多粒度自注意力的下一个兴趣点推荐方法，其特征在于，将POI序列和POI商圈序列作为输入序列，通过所述多粒度自注意力网络模型处理得到用户下一个POIid的过程包括：
使用第一编码器对POI序列中的时间特征进行编码得到POI序列的时间感知编码，使用第二编码器对POI序列中...

【专利技术属性】
技术研发人员：赵磊，张军，赵朋朋，
申请(专利权)人：神行太保智能科技苏州有限公司，
类型：发明
国别省市：江苏;32