物品信息推荐方法、装置和电子设备制造方法及图纸

本公开提供一种物品信息推荐方法、装置和电子设备，方法包括：获取多个待推荐物品信息；将用户信息和多个所述待推荐物品信息输入推荐模型，输出物品分数；根据所述物品分数确定目标推荐物品信息；其中，所述推荐模型是根据初始推荐模型的第一损失值和基于所述初始推荐模型的自监督任务的第二损失值对所述初始推荐模型进行优化得到；所述初始推荐模型包括预训练语言模型和物品深度神经网络，所述初始推荐模型的自监督任务包括通过训练样本集合对所述预训练语言模型和所述物品深度神经网络进行自监督学习。实现通过推荐模型较好地理解用户在对话中提出的偏好和长尾物品的信息，进行精准推荐。进行精准推荐。进行精准推荐。

【技术实现步骤摘要】
物品信息推荐方法、装置和电子设备


[0001]本公开涉及信息处理
，尤其涉及一种物品信息推荐方法、装置和电子设备。

技术介绍

[0002]商品推荐在电商平台的应用十分广泛。商品推荐通常分为两个阶段，召回阶段根据用户特征和商品特征，从海量商品库里快速找回用户潜在感兴趣的物品；排序阶段融入更多特征，使用复杂模型，输出排序靠前的个性化推荐。
[0003]目前的传统点击率预估模型，结构简单拟合能力较差，同时需要耗费大量人工进行特征提取；现有的深度点击率预估模型，更侧重基于用户历史行为、用户画像进行推荐，语义理解能力很差，难以理解对话中用户的表述。现有推荐模型在长尾商品中，数据分布不均衡导致模型训练过程中被热门商品主导，模型对稀疏的长尾商品理解不够充分。
[0004]因此，解决点击率预估模型的上下文语义理解能力较差，以及对长尾商品理解较差的问题是当前亟待解决的问题。

技术实现思路

[0005]本公开提供一种物品信息推荐方法、装置和电子设备，用以解决现有技术中解决点击率预估模型的上下文语义理解能力较差，以及对长尾商品理解较差的缺陷，实现通过推荐模型较好地理解用户在对话中提出的偏好和长尾物品的信息，进行精准推荐。
[0006]本公开提供一种物品信息推荐方法，包括：
[0007]获取多个待推荐物品信息；
[0008]将用户信息和多个所述待推荐物品信息输入推荐模型，输出物品分数；
[0009]根据所述物品分数确定目标推荐物品信息；
[0010]其中，所述推荐模型是根据初始推荐模型的第一损失值和基于所述初始推荐模型的自监督任务的第二损失值对所述初始推荐模型进行优化得到；
[0011]所述初始推荐模型包括预训练语言模型和物品深度神经网络，所述初始推荐模型的自监督任务包括通过训练样本集合对所述预训练语言模型和所述物品深度神经网络进行自监督学习。
[0012]根据本公开提供的一种物品信息推荐方法，所述初始推荐模型由双塔结构和二分类网络组成，所述双塔结构的左塔包括用户深度神经网络和预训练语言模型，所述双塔结构的右塔包括所述预训练语言模型和物品深度神经网络；
[0013]所述根据初始推荐模型的第一损失值和基于所述初始推荐模型的自监督任务的第二损失值对所述初始推荐模型进行优化，包括：
[0014]根据所述第一损失值和所述第二损失值，计算第三损失值；
[0015]在所述第三损失值未达到预设阈值时，调整所述用户深度神经网络、所述预训练语言模型、所述物品深度神经网络和所述二分类网络的模型参数，并继续执行得到第一损
失值和第二损失值的步骤；
[0016]在所述第三损失值达到预设阈值时，确定所述初始推荐模型为所述推荐模型。
[0017]根据本公开提供的一种物品信息推荐方法，所述初始推荐模型的第一损失值是通过如下步骤得到，包括：
[0018]构建主任务数据集，所述主任务数据集的主任务数据均具有主任务数据标签，所述主任务数据包括用户特征数据、用户查询数据、物品标题数据和物品特征数据；
[0019]将所述用户特征数据、所述用户查询数据、所述物品标题数据和所述物品特征数据按照预设规则输入至所述用户深度神经网络、所述预训练语言模型和所述物品深度神经网络，并根据输出结果确定交互信息向量；
[0020]将所述交互信息向量输入所述二分类网络，输出分类结果；
[0021]根据所述分类结果和所述主任务数据标签计算第一损失值。
[0022]根据本公开提供的一种物品信息推荐方法，所述物品标题数据包括第一物品标题数据和第二物品标题数据，所述物品特征数据包括第一物品特征数据和第二物品特征数据；
[0023]所述构建主任务数据集的步骤，包括：
[0024]获取满足预设条件的第一主任务数据，并设置所述第一主任务数据的主任务数据标签为正样本，所述第一主任务数据包括所述用户特征数据、所述用户查询数据、所述第一物品标题数据和所述第一物品特征数据；
[0025]根据所述第一主任务数据确定满足预设条件的第二主任务数据，并设置所述第二主任务数据的主任务数据标签为负样本，所述第二主任务数据包括所述用户特征数据、所述用户查询数据、所述第二物品标题数据和所述第二物品特征数据；
[0026]根据所述第一主任务数据、所述第二主任务数据和对应的主任务数据标签生成所述主任务数据集。
[0027]根据本公开提供的一种物品信息推荐方法，所述第二主任务数据包括常规样本数据和难样本数据；
[0028]所述根据所述第一主任务数据确定满足预设条件的第二主任务数据，并设置所述第二主任务数据的主任务数据标签为负样本的步骤，包括：
[0029]根据所述第一物品特征数据和所述第一物品标题数据确定第一物品种类；
[0030]确定与所述第一物品种类一致的物品对应的常规样本第二物品标题数据和常规样本第二物品特征数据；
[0031]根据所述用户特征数据、所述用户查询数据、所述常规样本第二物品标题数据和所述常规样本第二物品特征数据生成所述主任务数据标签为负样本的常规样本数据；
[0032]确定与所述第一物品标题数据文字相似度达到预设阈值范围的难样本第二物品标题数据和对应的难样本第二物品特征数据；
[0033]根据所述用户特征数据、所述用户查询数据、所述难样本第二物品标题数据和所述难样本第二物品特征数据生成所述主任务数据标签为负样本的难样本数据。
[0034]根据本公开提供的一种物品信息推荐方法，所述将所述用户特征数据、所述用户查询数据、所述物品标题数据和所述物品特征数据按照预设规则输入至所述用户深度神经网络、所述预训练语言模型和所述物品深度神经网络，并根据输出结果确定交互信息向量
的步骤，包括：
[0035]将所述用户查询数据和所述物品标题数据分别输入所述预训练语言模型，得到用户查询语义向量和物品标题语义向量；
[0036]将所述用户特征数据输入所述用户深度神经网络，得到用户特征向量，将所述物品特征数据输入所述物品深度神经网络，得到物品特征向量；
[0037]基于第一拼接原则，拼接所述用户特征向量和所述用户查询语义向量，得到所述左塔的用户向量，拼接所述物品标题语义向量和所述物品特征向量，得到所述右塔的物品向量；
[0038]基于第二拼接原则，拼接所述左塔的用户向量和所述右塔的物品向量，得到交互信息向量。
[0039]根据本公开提供的一种物品信息推荐方法，所述预训练语言模型是通过如下步骤获得，包括：
[0040]对获取的会话信息进行预处理，根据预处理后的会话信息生成预训练数据集；
[0041]将所述处理后的预训练数据集输入初始语言模型，输出预测语义向量，并根据所述预测语义向量和所述会话信息计算语言损失值；
[0042]在所述语言损失值未达到预设阈值时，根据所述语言损失值调整所述初始语言模型的参数，并返回重新执行所述对获取的会话信息进行本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种物品信息推荐方法，其特征在于，包括：获取多个待推荐物品信息；将用户信息和多个所述待推荐物品信息输入推荐模型，输出物品分数；根据所述物品分数确定目标推荐物品信息；其中，所述推荐模型是根据初始推荐模型的第一损失值和基于所述初始推荐模型的自监督任务的第二损失值对所述初始推荐模型进行优化得到；所述初始推荐模型包括预训练语言模型和物品深度神经网络，所述初始推荐模型的自监督任务包括通过训练样本集合对所述预训练语言模型和所述物品深度神经网络进行自监督学习。2.根据权利要求1所述的物品信息推荐方法，其特征在于，所述初始推荐模型由双塔结构和二分类网络组成，所述双塔结构的左塔包括用户深度神经网络和预训练语言模型，所述双塔结构的右塔包括所述预训练语言模型和物品深度神经网络；所述根据初始推荐模型的第一损失值和基于所述初始推荐模型的自监督任务的第二损失值对所述初始推荐模型进行优化，包括：根据所述第一损失值和所述第二损失值，计算第三损失值；在所述第三损失值未达到预设阈值时，调整所述用户深度神经网络、所述预训练语言模型、所述物品深度神经网络和所述二分类网络的模型参数，并继续执行得到第一损失值和第二损失值的步骤；在所述第三损失值达到预设阈值时，确定所述初始推荐模型为所述推荐模型。3.根据权利要求2所述的物品信息推荐方法，其特征在于，所述初始推荐模型的第一损失值是通过如下步骤得到，包括：构建主任务数据集，所述主任务数据集的主任务数据均具有主任务数据标签，所述主任务数据包括用户特征数据、用户查询数据、物品标题数据和物品特征数据；将所述用户特征数据、所述用户查询数据、所述物品标题数据和所述物品特征数据按照预设规则输入至所述用户深度神经网络、所述预训练语言模型和所述物品深度神经网络，并根据输出结果确定交互信息向量；将所述交互信息向量输入所述二分类网络，输出分类结果；根据所述分类结果和所述主任务数据标签计算第一损失值。4.根据权利要求3所述的物品信息推荐方法，其特征在于，所述物品标题数据包括第一物品标题数据和第二物品标题数据，所述物品特征数据包括第一物品特征数据和第二物品特征数据；所述构建主任务数据集的步骤，包括：获取满足预设条件的第一主任务数据，并设置所述第一主任务数据的主任务数据标签为正样本，所述第一主任务数据包括所述用户特征数据、所述用户查询数据、所述第一物品标题数据和所述第一物品特征数据；根据所述第一主任务数据确定满足预设条件的第二主任务数据，并设置所述第二主任务数据的主任务数据标签为负样本，所述第二主任务数据包括所述用户特征数据、所述用户查询数据、所述第二物品标题数据和所述第二物品特征数据；根据所述第一主任务数据、所述第二主任务数据和对应的主任务数据标签生成所述主
任务数据集。5.根据权利要求4所述的物品信息推荐方法，其特征在于，所述第二主任务数据包括常规样本数据和难样本数据；所述根据所述第一主任务数据确定满足预设条件的第二主任务数据，并设置所述第二主任务数据的主任务数据标签为负样本的步骤，包括：根据所述第一物品特征数据和所述第一物品标题数据确定第一物品种类；确定与所述第一物品种类一致的物品对应的常规样本第二物品标题数据和常规样本第二物品特征数据；根据所述用户特征数据、所述用户查询数据、所述常规样本第二物品标题数据和所述常规样本第二物品特征数据生成所述主任务数据标签为负样本的常规样本数据；确定与所述第一物品标题数据文字相似度达到预设阈值范围的难样本第二物品标题数据和对应的难样本第二物品特征数据；根据所述用户特征数据、所述用户查询数据、所述难样本第二物品标题数据和所述难样本第二物品特征数据生成所述主任务数据标签为负样本的难样本数据。6.根据权利要求3所述的物品信息推荐方法，其特征在于，所述将所述用户特征数据、所述用户查询数据、所述物品标题数据和所述物品特征数据按照预设规则输入至所述用户深度神经网络、所述预训练语言模型和所述物品深度神经网络，并根据输出结果确定交互信息向量的步骤，包括：将所述用户查询数据和所述物品标题数据分别输入所述预训练语言模型，得到用户查询语义向量和物品标题语义向量；将所述用户特征数据输入所述用户深度神经网络，得到用户特征向量，将所述物品特征数据输入所述物品深度神经网络，得到物品特征向量；基于第一拼接原则，拼接所述用户特征向量和所述用户查询语义向量，得到所述左塔的用户向量，拼接所述物品标题语义向量和所述物品特征向量，得到所述右塔的物品...

【专利技术属性】
技术研发人员：席泽西，宋阳，陈蒙，
申请(专利权)人：京东科技信息技术有限公司，
类型：发明
国别省市：