【技术实现步骤摘要】
本专利技术属于推荐系统领域，具体涉及一种融合时间信息的自注意力序列推荐方法。
技术介绍
1、近年来，随着数据量的急剧增长，各行各业迅速积累了大量的序列数据。虽然这为人们的生活提供了便利，但也带来了一系列问题。为了解决这些问题，序列推荐系统应运而生，并被广泛应用于各种在线服务(例如，电子商务、新闻网站、社交媒体)，根据给定用户与项目的历史互动，对下一个可能感兴趣的项目进行推荐。
2、近年来，通过采用深度学习技术，序列推荐系统领域取得了重大进展。各种深度学习模型，包括递归神经网络(rnn)、卷积神经网络(cnn)、记忆网络、图神经网络(gnn)和注意力网络，已经被引入来构建各种序列推荐系统，并取得了巨大成功，这些序列推荐方法通常通过很好地捕捉用户顺序交互的项目之间复杂的顺序依赖关系来预测下一个感兴趣的项目。自注意力模块在推荐系统中取得了出色的结果，特别是在序列推荐任务中表现良好。由于自注意力模型不包括任何递归或卷积模块，因此它不知道先前项目的位置。
3、因此，序列推荐系统面临两个挑战：1、无法准确的表示用户的行为偏好，当仅使用单一的位置信息嵌入时，模型可能会在处理序列时过于集中于位置信息，而忽略了用户的其他行为特征；2、序列推荐系统对于用户行为信息的建模存在辅助信息利用不完全以及噪声相关性干扰的现象。
技术实现思路
1、为解决以上现有技术问题，本专利技术采用了一种融合时间信息的自注意力序列推荐方法，包括：
2、获取用户当前行为数据及其时间信息，将用户
3、序列推荐模型的训练过程包括：
4、s1、获取用户历史行为数据及其时间信息，对用户历史行为数据及其时间信息进行预处理，得到用户历史交互序列和时间序列；
5、s2、将用户历史交互序列和时间序列分别输入嵌入模块进行嵌入编码，得到项目嵌入矩阵mi和相对时间嵌入矩阵mr，将项目嵌入矩阵mi和相对时间嵌入矩阵mr进行组合，得到总嵌入矩阵e；
6、s3、将项目嵌入矩阵mi、总嵌入矩阵e以及时间序列输入全局特征建模模块，得到用户全局特征和用户干扰偏好；
7、s4、将用户全局特征和用户干扰偏好输入预测模块得到推荐预测概率；
8、s5、根据推荐预测概率计算损失函数值，根据损失函数值更新模型参数，当损失函数值最小时，完成模型训练。
9、对用户历史行为数据及其时间信息进行预处理包括：根据时间信息对用户历史行为数据进行排序，得到排序结果，在排序结果中删除出现次数少于五次的项目和用户，得到用户历史交互序列和时间序列其中，表示用户u与项目的第i个交互，|su|表示历史交互序列的长度，表示用户u与项目的第i个交互的时间戳，|tu|表示时间序列长度。
10、嵌入模块对时间序列和用户历史交互序列进行嵌入编码包括：
11、s21、设置参数n，在用户历史交互序列中检索前n个交互，将前n个交互进行组合，得到项目嵌入矩阵mi；
12、s22、根据时间序列计算前n个交互之间的相对时间间隔根据相对时间间隔得到初始相对时间嵌入矩阵
13、s23、设置相对时间间隔的最大阈值td，根据最大阈值td更新初始相对时间嵌入矩阵得到相对时间嵌入矩阵mr。
14、全局特征建模模块包括：第一自注意力模块、数据增强模块、对抗调整模块、第二自注意力模块；全局特征建模模块对项目嵌入矩阵mi、总嵌入矩阵e以及时间序列进行处理包括：
15、s31、对总嵌入矩阵e进行线性变换，得到查询向量矩阵q、键向量矩阵k以及值向量矩阵v，将查询向量矩阵q、键向量矩阵k输入第一自注意力模块得到初始注意力权重；
16、s32、将查询向量矩阵q、键向量矩阵k、初始注意力权重、项目嵌入矩阵mi和时间序列输入数据增强模块，得到数据增强后的注意力权重ae；
17、s33、将查询向量矩阵q、键向量矩阵k、数据增强后的注意力权重ae输入对抗调整模块，得到干扰注意力权重和联合注意力权重；
18、s34、将值向量矩阵v、联合注意力权重和干扰注意力权重输入第二自注意力模块得到用户全局特征和用户干扰偏好。
19、数据增强模块对查询向量矩阵q、键向量矩阵k、初始注意力权重、项目嵌入矩阵mi和时间序列进行处理包括：
20、s321、根据项目嵌入矩阵mi计算交互之间的实际距离，根据时间序列计算交互之间的实际时间顺序；
21、s322、根据查询向量矩阵q和键向量矩阵k计算交互之间的预测时间顺序和预测距离；
22、s323、利用交叉熵损失函数计算实际时间顺序和预测时间顺序之间的差异矩阵sr，利用huber损失函数计算实际距离与预测距离之间的差异矩阵sd；
23、s324、根据矩阵sr和矩阵sd调整初始注意力权重，得到数据增强后的注意力权重ae。
24、对抗调整模块对查询向量矩阵q、键向量矩阵k、数据增强后的注意力权重ae进行处理包括：
25、s331、根据查询向量矩阵q和键向量矩阵k计算干扰掩码矩阵m，根据干扰掩码矩阵m和数据增强后的注意力权重ae计算干扰注意力权重an；
26、s332、根据干扰掩码矩阵m、干扰注意力权重an和数据增强后的注意力权重ae计算注意力权重的决定性部分ak；
27、s333、根据注意力权重的决定性部分ak和数据增强后的注意力权重ae计算联合注意力权重acon。
28、计算干扰注意力权重an包括：
29、an＝m⊙ae+(1-m)⊙nμ
30、其中，nμ是均值为0、标准差为1的正态分布，m为干扰掩码矩阵，ae为数据增强后的注意力权重。
31、第二自注意力模块对值向量矩阵v、干扰注意力权重an和联合注意力权重acon进行处理包括：将联合注意力权重acon和干扰注意力权重an分别与值向量矩阵v相乘，得到用户全局特征oc和用户干扰偏好on。
32、计算联合注意力权重acon包括：
33、g＝σ(wgq+bg)
34、acon＝gae+(1-g)ak
35、其中，ak为注意力权重的决定性部分，g为门控函数，σ表示sigmoid函数，acon为联合注意力权重，wg为门控函数的参数矩阵，bg为门控函数的偏置向量，q为查询向量矩阵。
36、序列推荐模型的损失函数为：
37、l＝lc+ln+α||θ||2
38、其中，lc为用户全局特征的损失函数，ln为用户干扰偏好的损失函数，||||2为l2正则化，α表示正则化因子，θ表示序列推荐模型的参数
39、有益效果：
40、1、本专利技术采用了一种融合时间信息的自注意力序列推荐方法，通过在嵌入层融合用户交互本文档来自技高网...
【技术保护点】
1.一种融合时间信息的自注意力序列推荐方法，其特征在于，包括：获取用户当前行为数据及其时间信息，将用户当前行为数据及其时间信息输入训练好的序列推荐模型，得到推荐预测概率；序列推荐模型包括嵌入模块、全局特征建模模块和预测模块；
2.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，对用户历史行为数据及其时间信息进行预处理包括：根据时间信息对用户历史行为数据进行排序，得到排序结果，在排序结果中删除出现次数少于五次的项目和用户，得到用户历史交互序列和时间序列其中，表示用户u与项目的第i个交互，|Su|表示历史交互序列的长度，表示用户u与项目的第i个交互的时间戳，|Tu|表示时间序列长度。
3.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，嵌入模块对时间序列和用户历史交互序列进行嵌入编码包括：
4.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，全局特征建模模块包括：第一自注意力模块、数据增强模块、对抗调整模块、第二自注意力模块；全局特征建模模块对项目嵌入矩阵MI、总嵌入矩阵E以及
5.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，数据增强模块对查询向量矩阵Q、键向量矩阵K、初始注意力权重、项目嵌入矩阵MI和时间序列进行处理包括：
6.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，对抗调整模块对查询向量矩阵Q、键向量矩阵K、数据增强后的注意力权重Ae进行处理包括：
7.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，计算干扰注意力权重An包括：
8.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，第二自注意力模块对值向量矩阵V、干扰注意力权重An和联合注意力权重Acon进行处理包括：将联合注意力权重Acon和干扰注意力权重An分别与值向量矩阵V相乘，得到用户全局特征Oc和用户干扰偏好On。
9.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，计算联合注意力权重Acon包括：
10.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，序列推荐模型的损失函数为：
...【技术特征摘要】
1.一种融合时间信息的自注意力序列推荐方法，其特征在于，包括：获取用户当前行为数据及其时间信息，将用户当前行为数据及其时间信息输入训练好的序列推荐模型，得到推荐预测概率；序列推荐模型包括嵌入模块、全局特征建模模块和预测模块；
2.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，对用户历史行为数据及其时间信息进行预处理包括：根据时间信息对用户历史行为数据进行排序，得到排序结果，在排序结果中删除出现次数少于五次的项目和用户，得到用户历史交互序列和时间序列其中，表示用户u与项目的第i个交互，|su|表示历史交互序列的长度，表示用户u与项目的第i个交互的时间戳，|tu|表示时间序列长度。
3.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，嵌入模块对时间序列和用户历史交互序列进行嵌入编码包括：
4.根据权利要求1所述的一种融合时间信息的自注意力序列推荐方法，其特征在于，全局特征建模模块包括：第一自注意力模块、数据增强模块、对抗调整模块、第二自注意力模块；全局特征建模模块对项目嵌入矩阵mi、总嵌入矩阵e以及时间序列进行处理包...
【专利技术属性】
技术研发人员：唐宏，杨力鸣，杨浩澜，刘琦，赵文卓，
申请(专利权)人：重庆邮电大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。