基于用户-物品交互序列的用户多兴趣学习方案制造技术

本说明书实施例提供基于用户

【技术实现步骤摘要】
基于用户
‑
物品交互序列的用户多兴趣学习方案


[0001]本说明书实施例通常涉及人工智能领域，尤其涉及基于用户
‑
物品交互序列的用户多兴趣学习方法、物品推荐方法及装置。

技术介绍

[0002]随着信息技术的发展，用户越来越多地通过在线服务平台(比如，电商、广告、社交媒体等)与物品进行交互来获取物品。用户在与一个物品发生交互行为后，会与该物品或另一物品发生另一交互行为，由此形成用户
‑
物品交互序列。用户
‑
物品交互序列通常会反映用户对物品的兴趣，比如，用户喜欢或不喜欢的物品类型等。在线服务平台会基于用户
‑
物品交互序列学习用户兴趣表示，并根据所学习的用户兴趣表示进行服务决策。

技术实现思路

[0003]本说明书实施例提供基于用户
‑
物品交互序列的用户多兴趣学习方法、物品推荐方法及装置。利用该基于用户
‑
物品交互序列的用户多兴趣学习方法及装置，通过使用稀疏胶囊网络来根据用户
‑
物品交互序列所对应的物品嵌入来从基本用户兴趣空间中为每个用户激活匹配的用户兴趣，并根据物品嵌入学习用户多兴趣表示，可以使得所学习出的用户兴趣数目和用户兴趣表示能够跟随用户的具体用户
‑
物品交互序列的变化而动态变化，从而提升用户多兴趣学习的准确性。
[0004]根据本说明书实施例的一个方面，提供一种基于用户
‑
物品交互序列的用户多兴趣学习方法，包括：经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入序列；以及经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示。
[0005]可选地，在上述方面的一个示例中，经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示可以包括：经由所述稀疏胶囊网络中的兴趣胶囊激活层，针对每个所交互物品，根据该所交互物品的物品嵌入和基本用户兴趣空间中的用户兴趣的兴趣表征的相似度，从所述基本用户兴趣空间中激活匹配的用户兴趣；以及经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列，学习所激活用户兴趣的用户兴趣表示。
[0006]可选地，在上述方面的一个示例中，经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示还可以包括：经由所述稀疏胶囊网络中的学习权重确定层，根据所交互物品的物品嵌入和物品位置嵌入，确定所交互物品在用户兴趣表示学习时的学习权重，所交互物品的物品位置嵌入基于所交互物品在所述用户
‑
物品交互序列中的位置信息确定。相应地，经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列，学习所激活用户兴趣的用户兴趣表示可以包括：经由所述稀疏胶囊网络中的用户多兴趣学习层，根
据所述物品嵌入序列和所交互物品的学习权重，学习所激活用户兴趣的用户兴趣表示。
[0007]可选地，在上述方面的一个示例中，经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列和所交互物品的学习权重，学习所激活用户兴趣的用户兴趣表示可以包括：经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列和所交互物品的学习权重，基于动态路由机制来学习所激活用户兴趣的用户兴趣表示。
[0008]可选地，在上述方面的一个示例中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入可以包括：经由所述物品嵌入表征层中的序列编码器，使用所述用户
‑
物品交互序列的物品文本描述来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文化后的物品嵌入。
[0009]可选地，在上述方面的一个示例中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入还可以包括：经由所述物品嵌入表征层中的文本编码器，将所述用户
‑
物品交互序列的物品文本描述编码为所交互物品的文本特征表示序列。经由所述物品嵌入表征层中的序列编码器，使用所述用户
‑
物品交互序列的物品文本描述来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文化后的物品嵌入包括：经由所述物品嵌入表征层中的序列编码器，使用所述文本特征表示序列来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文化后的物品嵌入。
[0010]可选地，在上述方面的一个示例中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入序列还可以包括：经由所述物品嵌入表征层中的语义空间转换器，对所述文本特征表示序列中的文本特征表示进行语义空间转换，以映射到统一语义空间，经过语义空间转换后的文本特征表示序列被提供给所述序列编码器来进行长
‑
短期依赖性建模。
[0011]可选地，在上述方面的一个示例中，所述语义空间转换器包括MoE适配器。
[0012]可选地，在上述方面的一个示例中，所述物品时序信息包括所交互物品在所述用户
‑
物品交互序列中的位置信息。
[0013]可选地，在上述方面的一个示例中，所述用户多兴趣学习模型基于预训练
‑
微调机制训练出。
[0014]可选地，在上述方面的一个示例中，所述预训练
‑
微调机制在预训练阶段包括兴趣级的对比学习任务。
[0015]可选地，在上述方面的一个示例中，所述预训练阶段的损失函数包括对比学习损失项、标签损失项、兴趣正交性损失项和兴趣覆盖度损失项，和/或微调阶段的损失函数包括标签损失项、兴趣正交性损失项和兴趣覆盖度损失项。
[0016]可选地，在上述方面的一个示例中，在用户兴趣表示学习时所使用的物品与用户兴趣之间的耦合系数的初始值由所述兴趣胶囊激活层在激活用户兴趣时确定出。
[0017]可选地，在上述方面的一个示例中，在预训练阶段，所述物品时序信息包括所交互物品在所述用户
‑
物品交互序列中的位置信息，以及在微调阶段，所述物品时序信息包括所交互物品在所述用户
‑
物品交互序列中的位置信息和所交互物品的物品标识信息。
[0018]根据本说明书的实施例的另一方面，提供一种基于用户
‑
物品交互序列的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于用户
‑
物品交互序列的用户多兴趣学习方法，包括：经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入序列；以及经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示。2.如权利要求1所述的用户多兴趣学习方法，其中，经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示包括：经由所述稀疏胶囊网络中的兴趣胶囊激活层，针对每个所交互物品，根据该所交互物品的物品嵌入和基本用户兴趣空间中的用户兴趣的兴趣表征的相似度，从所述基本用户兴趣空间中激活匹配的用户兴趣；以及经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列，学习所激活用户兴趣的用户兴趣表示。3.如权利要求2所述的用户多兴趣学习方法，其中，经由所述用户多兴趣学习模型的稀疏胶囊网络，根据所述物品嵌入序列激活基本用户兴趣空间中的匹配用户兴趣并学习所激活用户兴趣的用户兴趣表示还包括：经由所述稀疏胶囊网络中的学习权重确定层，根据所交互物品的物品嵌入和物品位置嵌入，确定所交互物品在用户兴趣表示学习时的学习权重，所交互物品的物品位置嵌入基于所交互物品在所述用户
‑
物品交互序列中的位置信息确定，经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列，学习所激活用户兴趣的用户兴趣表示包括：经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列和所交互物品的学习权重，学习所激活用户兴趣的用户兴趣表示。4.如权利要求3所述的用户多兴趣学习方法，其中，经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列和所交互物品的学习权重，学习所激活用户兴趣的用户兴趣表示包括：经由所述稀疏胶囊网络中的用户多兴趣学习层，根据所述物品嵌入序列和所交互物品的学习权重，基于动态路由机制来学习所激活用户兴趣的用户兴趣表示。5.如权利要求1
‑
4中任一所述的用户多兴趣学习方法，其中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入包括：经由所述物品嵌入表征层中的序列编码器，使用所述用户
‑
物品交互序列的物品文本描述来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文交互后的物品嵌入。6.如权利要求5所述的用户多兴趣学习方法，其中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入还包括：经由所述物品嵌入表征层中的文本编码器，将所述用户
‑
物品交互序列的物品文本描述编码为所交互物品的文本特征表示序列，经由所述物品嵌入表征层中的序列编码器，使用所述用户
‑
物品交互序列的物品文本
描述来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文交互后的物品嵌入包括：经由所述物品嵌入表征层中的序列编码器，使用所述文本特征表示序列来基于所述用户
‑
物品交互序列中的物品时序信息进行长
‑
短期依赖性建模，生成所交互物品的经过上下文交互后的物品嵌入。7.如权利要求6所述的用户多兴趣学习方法，其中，经由用户多兴趣学习模型的物品嵌入表征层，根据用户
‑
物品交互序列的物品文本描述生成所交互物品的物品嵌入序列还包括：经由所述物品嵌入表征层中的语义空间转换器，对所述文本特征表示序列中的文本特征表示进行语义空间转换，以映射到统一语义空间，经过语义空间转换后的文本特征表示序列被提供给所述序列编码器来进行长
‑
短期依赖性建模。8.如权利要求7所述的用户多兴趣学习方法，其中，所述语义空间转换器包括MoE适配器。9.如权利要求5所述的用户多兴趣学习方法，其中，所述物品时序信息包括所交互物品在所述用户
‑
物品交互序列中的位置信息。10.如权利要求7所述的用户多兴趣学习方法，其中，所述用户多兴趣学习模型基于预训练
‑
微调机制训练出。11.如权利要求10所述的用户多兴趣学习方法，其中，所述预训练
‑
微调机制在预训练阶段包括兴趣级的对比学习任务。12.如权利要求11所述的用户多兴趣学习方法，其中，所述预训练阶段的损失函数包括对比学习损失项、标签损失项、兴趣正交性损失项和兴...

【专利技术属性】
技术研发人员：唐作立，
申请(专利权)人：支付宝杭州信息技术有限公司，
类型：发明
国别省市：