一种基于提示学习的对话推荐系统技术方案

本发明专利技术公开了一种基于提示学习的对话推荐系统，包括如下步骤：S1：通过自监督学习融合对话文本和知识图谱的语义信息作为任务共享的提示，为预训练模型补充用于对话推荐系统所需要的知识；S2：通过对话任务特定的提示设计，驱动预训练模型生成带有物品槽位的模板语句作为回复的中间结果；S3：通过推荐任务特定的提示，驱动预训练模型生成用户感兴趣的物品。本发明专利技术借助知识图谱增强的提示学习技术，在固定大规模预训练模型的情况下，通过添加任务共享和任务特定的提示，使得一个模型可以高质量地完成对话和推荐两个任务，并生成结果相一致的回复语句和推荐物品。的回复语句和推荐物品。的回复语句和推荐物品。

【技术实现步骤摘要】
一种基于提示学习的对话推荐系统


[0001]本专利技术涉及人工智能自然语言处理领域和推荐系统领域，尤其是涉及一种基于提示学习的对话推荐系统。

技术介绍

[0002]在大数据时代，信息呈现爆炸式增长，为了缓解信息过载，从中挖掘商业价值，推荐系统逐渐兴起。它旨在根据用户偏好和需求，为其推荐感兴趣的信息或物品。推荐系统因其价值得到了广泛应用，例如电子商务平台淘宝，京东等。传统的推荐系统通过一次性的单向交互过程向用户提供推荐服务，由于用户无法告知系统其当前偏好与需求，系统往往通过分析用户的历史行为，例如点击历史、购物记录、商品评价等，来估计其偏好，然后向用户给出推荐结果。这种设计存在两个问题，一是用户的历史行为往往是有限的，难以从中有效地估计出其偏好，二是用户的需求随着时间不断变化，系统无法通过一次性的单向交互感知其当下的最新需求。这些问题导致推荐系统提供的服务存在用户体验不佳，推荐物品相关性不高等问题，影响了其商业价值实现。
[0003]伴随着智能助理的兴起，越来越多的人通过对话和机器进行交互，机器通过语音语义技术感知用户需求，帮助其完成相应本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于提示学习的对话推荐系统，其特征在于，包括如下步骤：S1：通过自监督学习融合对话文本和知识图谱的语义信息作为任务共享的提示，为预训练模型补充用于对话推荐系统所需要的知识；S2：通过对话任务特定的提示设计，驱动预训练模型生成带有物品槽位的模板语句作为回复的中间结果；S3：通过推荐任务特定的提示，驱动预训练模型生成用户感兴趣的物品。2.根据权利要求1所述的基于提示学习的对话推荐系统，其特征在于，步骤S1具体为：从对话文本中抽取出单词和实体这两种基本的语义单元，分别用于表征文本级别和物品级别的知识，并设计交叉融合机制和基于自监督学习的预训练任务，来融合这两种类型的知识；首先对单词和实体这两种语义单元进行编码；对于单词，采用基于双向Transformer的预训练模型RoBERTa作为编码器，为了减少训练和存储开销，RoBERTa模型的权重保持固定，每个单词的编码被拼接起来得到文本级别的表示其中，是单词i的表示，n
W
是单词的数目；对于实体，采用实体链接技术将对话文本链接至知识图谱DBpedia，通过关系图神经网络R
‑
GCN进行编码得到每个实体的表示，并将其拼接起来得到物品级别的表示其中，是实体i的表示，n
E
是实体的数目；得到上述两种级别的表示之后，为了消除它们之间的语义鸿沟，基于双线性变换的交叉融合机制关联这两种语义单元：叉融合机制关联这两种语义单元：叉融合机制关联这两种语义单元：其中，A是这两种表示之间的相似性矩阵，它通过引入变换矩阵W1得到，和分别对应语义融合后的单词表示和实体表示；为了学习上述过程引入的参数，设计一个自监督任务，让模型根据对话文本预测链接出的实体中被去掉的部分，其计算方法如下：其中，e表示要预测的实体，是添加了实体表示的对话上下文，是模型经过编码得到的上下文表示，h
e
是实体e经过语义融合后得到的表示；采用交叉熵损失函数来优化语义融合引入的参数Θ
fuse
，Θ
pl3
保持固定，无需优化。3.根据权利要求1所述的基于提示学习的对话推荐系统，其特征在...

【专利技术属性】
技术研发人员：赵鑫，王晓磊，
申请(专利权)人：中国人民大学，
类型：发明
国别省市：