一种基于用户动态交互行为的商品点击动机预测方法技术

本发明专利技术公开了一种基于用户动态交互行为的商品点击动机预测方法，其步骤包括：1获取消费者在电子商务平台上浏览产生的多属性点击行为序列数据；2构建多通道Transformer预测模型；3通过获取的数据，训练建立的预测模型；4利用训练好的模型进行预测，以达到实时预测用户下一次点击行为的目的。本发明专利技术通过构建多通道Transformer模块和特征融合模块，能根据用户在浏览过程中实时产生的点击行为序列数据，捕捉点击行为之间存在的复杂联系及动态的时序信息，并基于此反映用户购买商品的意愿，从而帮助平台实现更好的个性化推荐。帮助平台实现更好的个性化推荐。帮助平台实现更好的个性化推荐。

【技术实现步骤摘要】
一种基于用户动态交互行为的商品点击动机预测方法


[0001]本专利技术属于智能零售
‑
推荐系统领域，具体的说是一种基于用户动态交互行为的商品点击动机预测方法。

技术介绍

[0002]国内电子商务发展日趋成熟,越来越多的消费者通过在线平台搜索、浏览和购买商品。消费者在电子商务平台购物的过程中，产生了大量的用户行为数据。这些行为数据不涉及用户的个人隐私信息，却能反应用户偏好。如何利用这些数据分析消费者的购买倾向，挖掘消费者的购买动机，从而让电子商务平台进行更加精准的推荐，让商家提前备货，让消费者更快的找到心仪的产品，成为电子商务行业一个难点和痛点问题。
[0003]已有的研究主要存在以下问题：第一、传统的基于用户点击行为数据的挖掘用户消费动机方法往往是从用户的点击行为中人工提取特征，比如：点击次数、点击时间间隔等，然后用一些机器学习方法进行预测，这种方法没有考虑到用户点击行为的序列性，导致预测不准确；同时，随着网购人数的增加，这种简单的统计已经无法处理大量的点击数据。第二、为了提升模型预测的精准度，很多模型考虑了用户的个人信息，然而这种敏感信息在实际应用中，存在一定的商业道德问题。第三、已有的神经网络模型通常使用同一个网络模块识别不同的序列特征，由于序列特征分布的差异性，导致神经网络不能精准捕获每个点击序列的特征，损失了用户点击序列的特征信息。第四、对于较长的用户点击序列，已有的模型无法有效的提取相关信息，使得模型表现效果较差。

技术实现思路
：
[0004]本专利技术是为了解决上述现有技术存在的不足之处，提出一种基于用户动态交互行为的商品点击动机预测方法，以期能采用多通道Transformer模块从不同属性的点击序列上精准提取信息，并采用基于注意力机制的特征融合层对不同属性序列间的信息进行融合，从而实时预测用户下一次点击行为，以帮助平台实现更好的个性化推荐，使商家能够更加精准的推荐商品。
[0005]本专利技术为达到上述专利技术目的，采用如下技术方案：
[0006]本专利技术一种基于用户动态交互行为的商品点击动机预测方法的特点在于，包括以下步骤：
[0007]步骤1，获取用户的点击交互数据并进行预处理：
[0008]步骤1.1，获取用户在线上购物平台浏览产生的点击行为交互序列{(I,C,A)}及其点击行为的类别标签y，其中，I表示点击商品序列，C表示点击商品的种类序列，A表示点击行为的类别序列；令点击行为交互序列(I,C,A)对应的点击时间序列为H＝{h1,h2,
…
,h
n
,
…
,h
N
}，其中，h
n
表示第n个点击行为发生的时间，N表示点击行为次数；
[0009]步骤1.2，对点击商品序列I右移一个元素后得到右移点击商品序列I
s
，点击商品的种类序列C右移一个元素得到后右移点击商品种类序列C
s
，点击行为的类别序列A右移一
个元素后得到右移点击行为类别序列A
s
，点击时间序列H右移一个元素后得到右移点击时间序列H
s
，并使用式(1)
‑
式(4)对点击时间序列H进行差分，从而得到时间间隔序列R
ΔT
＝{Δh1,Δh2,
…
,Δh
n
,
…
,Δh
N
}，再对时间间隔序列R
ΔT
右移一个元素后得到右移时间间隔序列R
ΔTs
：
[0010]Δh1＝0
ꢀꢀꢀꢀ
(1)
[0011]Δh2＝h2‑
h1ꢀꢀꢀꢀ
(2)
[0012]Δh
n
＝h
n
‑
h
n
‑1ꢀꢀꢀꢀ
(3)
[0013]Δh
N
＝h
N
‑
h
N
‑1ꢀꢀꢀꢀ
(4)
[0014]式(1)
‑
式(4)中，Δh
n
表示第n次点击行为与第n
‑
1次点击行为之间的时间间隔，h
n
‑1表示第n
‑
1次点击行为发生的时间；
[0015]步骤2，搭建多通道Transformer模型，包括：嵌入层，多通道Transformer模块，特征融合层和输出层；
[0016]步骤2.1，定义当前迭代次数为z，并初始化z＝1，定义迭代阈值为Z；初始化所述神经网络中的参数；
[0017]步骤2.2，所述嵌入层分别对I和I
s
、C和C
s
、A和A
s
、H和H
s
进行嵌入处理，并相应得到嵌入后的点击商品序列E
I
及右移点击商品序列嵌入后的点击商品的种类序列特征E
C
及右移点击商品的种类序列特征嵌入后的点击行为类别特征序列E
A
及右移点击行为类别特征序列嵌入后的点击时间特征序列E
H
及右移点击时间特征序列
[0018]步骤3，所述多通道Transformer模块，包含：位置编码层、商品Transformer层、商品类别Transformer层和点击类别Transformer层；其中，商品Transformer层、商品类别Transformer层和点击类别Transformer层均是由编码器和解码器组成；其中，编码器包括：多头注意力层和前馈神经网络，解码器包括：自注意力层、多头注意力层和前馈神经网络；
[0019]步骤3.1，所述位置编码层对嵌入层输出的结果进行编码处理，得到编码器的输入特征以及解码器的输入特征，其中，编码器的输入特征，包括：商品序列特征T
I
，商品类别特征T
C
，点击类别特征T
A
；解码器的输入特征包括：右移商品序列特征T
Is
，右移商品类别特征T
Cs
，右移点击类别特征T
As
；
[0020]步骤3.2，所述商品Transformer层中编码器的处理：
[0021]步骤3.2.1：所述商品Transformer层中编码器的多头注意力层对商品序列特征T
I
进行处理，得到更新后的商品残差编码特征L
I
；
[0022]步骤3.2.2:所述商品Transformer层中编码器的前馈神经网络使用式(24)对更新后的商品残差编码特征L
I
进行处理，得到商品Transformer层中编码器输出的商品编码特征L'
I
：
[0023]L
’
I
＝LayerNorm(L
I
+(Dropout(GeLU(LIW1+b1))W2+b本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于用户动态交互行为的商品点击动机预测方法，其特征在于，包括以下步骤：步骤1，获取用户的点击交互数据并进行预处理：步骤1.1，获取用户在线上购物平台浏览产生的点击行为交互序列{(I,C,A)}及其点击行为的类别标签y，其中，I表示点击商品序列，C表示点击商品的种类序列，A表示点击行为的类别序列；令点击行为交互序列(I,C,A)对应的点击时间序列为H＝{h1,h2,
…
,h
n
,
…
,h
N
}，其中，h
n
表示第n个点击行为发生的时间，N表示点击行为次数；步骤1.2，对点击商品序列I右移一个元素后得到右移点击商品序列I
s
，点击商品的种类序列C右移一个元素得到后右移点击商品种类序列C
s
，点击行为的类别序列A右移一个元素后得到右移点击行为类别序列A
s
，点击时间序列H右移一个元素后得到右移点击时间序列H
s
，并使用式(1)
‑
式(4)对点击时间序列H进行差分，从而得到时间间隔序列R
ΔT
＝{Δh1,Δh2,
…
,Δh
n
,
…
,Δh
N
}，再对时间间隔序列R
ΔT
右移一个元素后得到右移时间间隔序列R
ΔTs
：Δh1＝0
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)Δh2＝h2‑
h1ꢀꢀꢀꢀꢀꢀꢀ
(2)Δh
n
＝h
n
‑
h
n
‑1ꢀꢀꢀꢀꢀꢀ
(3)Δh
N
＝h
N
‑
h
N
‑1ꢀꢀꢀꢀꢀꢀ
(4)式(1)
‑
式(4)中，Δh
n
表示第n次点击行为与第n
‑
1次点击行为之间的时间间隔，h
n
‑1表示第n
‑
1次点击行为发生的时间；步骤2，搭建多通道Transformer模型，包括：嵌入层，多通道Transformer模块，特征融合层和输出层；步骤2.1，定义当前迭代次数为z，并初始化z＝1，定义迭代阈值为Z；初始化所述神经网络中的参数；步骤2.2，所述嵌入层分别对I和I
s
、C和C
s
、A和A
s
、H和H
s
进行嵌入处理，并相应得到嵌入后的点击商品序列E
I
及右移点击商品序列嵌入后的点击商品的种类序列特征E
C
及右移点击商品的种类序列特征嵌入后的点击行为类别特征序列E
A
及右移点击行为类别特征序列嵌入后的点击时间特征序列E
H
及右移点击时间特征序列步骤3，所述多通道Transformer模块，包含：位置编码层、商品Transformer层、商品类别Transformer层和点击类别Transformer层；其中，商品Transformer层、商品类别Transformer层和点击类别Transformer层均是由编码器和解码器组成；其中，编码器包括：多头注意力层和前馈神经网络，解码器包括：自注意力层、多头注意力层和前馈神经网络；步骤3.1，所述位置编码层对嵌入层输出的结果进行编码处理，得到编码器的输入特征以及解码器的输入特征，其中，编码器的输入特征，包括：商品序列特征T
I
，商品类别特征T
C
，点击类别特征T
A
；解码器的输入特征包括：右移商品序列特征T
Is
，右移商品类别特征T
Cs
，右移点击类别特征T
As
；步骤3.2，所述商品Transformer层中编码器的处理：步骤3.2.1：所述商品Transformer层中编码器的多头注意力层对商品序列特征T
I
进行处理，得到更新后的商品残差编码特征L
I
；步骤3.2.2:所述商品Transformer层中编码器的前馈神经网络使用式(24)对更新后的商品残差编码特征L
I
进行处理，得到商品Transformer层中编码器输出的商品编码特征L'
I
：
L
′
I
＝LayerNorm(L
I
+(Dropout(GeLU(L
I
W1+b1))W2+b2))
ꢀꢀꢀꢀꢀ
(24)式(25)中，GeLU表示激活函数，W1，W2表示编码器的前馈神经网络中两个待学习的参数，b1，b2表示编码器的前馈神经网络中的两个偏置参数；步骤3.3：所述商品Transformer层解码器的处理：步骤3.3.1：所述商品Transformer中解码器的自注意力层对右移商品序列特征进行处理，并得到更新后的右移商品残差解码特征步骤3.3.2：所述商品Transformer层中解码器的多头注意力层对更新后的右移商品残差解码特征进行处理，并得到更新后的右移商品残差解码特征步骤3.3.3：所述商品Transformer层中解码器的前馈神经网络，使用式(31)对更新后的右移商品残差解码特征进行处理，得到商品Transformer中解码器输出的商品解码特征O
I
：式(32)中，W1,W2表示解码器的前馈神经网络中两个待学习的参数，b1,b2表示解码器的前馈神经网络中的两个偏置参数；步骤3.4：所述商品类别Transformer层和点击类别Transformer层按照步骤3.2和步骤3.3的过程，相应得到商品类别Transformer解码层输出的商品类别解码特征O
C
，点击类别Transformer解码层输出的点击类别解码特征O
A
；步骤4，所述特征融合层处理：步骤4.1，所述特征融合层采用式(32)对点击类别解码特征O
A
和商品类别解码特征O
C
进行特征融合，得到注意力机制融合后的点击类别特征O'
C
：式(32)中，W
Q
,W
K
,W
V
表示所述特征融合层中三个待学习的参数；Attention表示注意力机制操作；步骤4.2，所述特征融合层采用式(33)得到点击行为序列的融合特征O
f
：O
f
＝multiply(O
′
C
,O
c
,O
t
)+O
′
C
+O
I
ꢀꢀꢀꢀꢀ
(33)式(33)中，multiply表示点乘操作；步骤5，所述输出层采用式(34)得到预测的分类结果步骤5，所述输出层采用式(34)得到预测的分类结果式(34)中，log(
·
)表示取log操作；步骤6：基于类别标签y和分类结果构建交叉熵损失函数Loss，并利用梯度下降算法训练时空图神经网络，并以损失函数Loss最小化为目标，通过时间反向传播算法对该模型网络中的参数进行优化更新，直到z＞Z为止停止训练，从而得到训练好的网络模型，用于对用户下一个点击行为动机进行实时预测。2.根据权利要求1所述的一种基于用户动态交互行为的商品点击动机预测方法，其特征在于，所述步骤2.2中的嵌入层包括：商品序列嵌入层、商品类别嵌入层、点击类别嵌入层
和点击时间...

【专利技术属性】
技术研发人员：冯家辉，赵启航，刘和福，
申请(专利权)人：中国科学技术大学，
类型：发明
国别省市：