System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于统一提示感知的个性化搜索和解释生成方法技术_技高网

一种基于统一提示感知的个性化搜索和解释生成方法技术

技术编号:41072319 阅读:4 留言:0更新日期:2024-04-24 11:28
本发明专利技术通过人工智能领域的方法,实现了一种基于统一提示感知的个性化搜索和解释生成方法。将用户、提交的查询和用户的行为序列作为输入,输入统一的个性化产品搜索和解释生成的提示感知框架,输出搜索任务和解释任务,统一的个性化产品搜索和解释生成的提示感知框架由三个部分组成:基座预训练语言模型、个性化检索组件和解释生成组件。本发明专利技术提出了一个用于个性化商品搜索和解释生成的基于提示感知的统一训练框架,并为以统一的方式为每个任务设计了具体的提示,模型最终输出目标商品的同时输出一个自然语言形式的解释。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种基于统一提示感知的个性化搜索和解释生成方法


技术介绍

1、商品搜索系统广泛应用于各种网络平台和服务,其功能在于让用户可以接触到他们潜在感兴趣的产品。随着在网络购物的迅猛发展,高效而准确的产品搜索方法变得愈发关键。在典型的产品搜索场景中,用户向产品搜索引擎提交查询,而后他们会获得一个根据用户购买可能性进行排序的产品列表。通过提高商品搜索算法的准确性,用户能够更快速便捷地找到他们所需的产品,从而有助于提升平台的营业额。过去的算法主要包含非个性化算法、个性化商品搜索算法以及可解释商品搜索算法。

2、对于过去非个性化的算法,在相同的查询下平台通常会为所有用户返回相同的搜索结果。由于不同的用户会有多种不同的兴趣,近些年研究者们更加关注个性化商品搜索方法,通过利用用户的搜索历史记录来建模用户的兴趣偏好,使得搜索到的商品更满足用户的需求。一些早期的个性化模型通过语言模型建模用户的评论来获取用户的兴趣偏好,在transformer出现后,更多的模型通过这种架构来对用户的历史进行序列化建模从而提取用户的购买偏好。针对搜索结果无法提供解释的问题,研究人员提出了可解释商品搜索模型,现有的可解释商品搜索模型是通过构建知识图谱,利用知识图谱上的用户、商品等节点计算各个节点的知识表示用于计算购买概率并对商品进行排序,同时构建出从用户到商品的路径作为搜索结果的解释。还有少量工作接收黑盒搜索模型的搜索结果,构建专门的模型以生成解释。

3、然而,虽然这些个性化的方法已被证明可以显著提高搜索结果的准确性,但它们存在无法向用户解释检索到这些产品的原因这一问题。对搜索结果缺乏可靠的解释可能会让用户感到困惑,进一步影响用户对电子商务平台的信任。现有的模型抽取用户和商品之间的多跳路径作为解释,但由于路径形式的解释对用户可能难以理解和阅读,因此会带来理解障碍。如果使用预定义的模板将路径转化为语句解释,可能会导致信息丢失,而且模板的解释语句之间相似度过高,不便于用户进行区分。


技术实现思路

1、为此,本专利技术首先提出一种基于统一提示感知的个性化搜索和解释生成方法,将用户u、提交的查询q和用户的行为序列h={q1,i1,...,qk,ik}作为输入,输入统一的个性化产品搜索和解释生成的提示感知框架,输出搜索任务和解释任务,所述搜索任务是在给定的查询q下选择满足用户搜索意图的最合适的产品i,所述解释任务是为之前生成的满足用户的搜索意图的产品i生成合理的自然语言解释e;

2、所述统一的个性化产品搜索和解释生成的提示感知框架由三个部分组成:基座预训练语言模型、个性化检索组件和解释生成组件,其中基座预训练语言模型在一个统一的框架内完成搜索任务和解释任务;个性化检索组件和解释生成组件各包括一个提示生成器,用于生成任务特定的提示来协助预训练语言模型检索合适的产品或生成可靠的解释,并将个性化检索组件的搜索语义信号作为解释任务输入的一部分,以缩小搜索结果与解释生成之间的语义差距;使用f(·|θplm,g)表示一个以θplm为参数,以标记序列g为输入的基座预训练语言模型为每个标记生成上下文化表示的过程。

3、所述个性化搜索组件由表示编码器和搜索任务的提示生成器构成,通过开发一个搜索任务特定的提示生成器来辅助基座模型进行检索,搜索任务的提示生成器以用户u、当前查询q和用户历史搜索序列h为输入,并生成搜索任务的提示作为基座模型的输入,之后将其用于提示学习。

4、所述表示编码器的目标是获得u,q,h的高级语义表示,对于基于文本的编码器,直接使用bert对输入序列{u,q,h}的用户评论和产品标题/描述等文本信息进行编码,以获得基于文本的语义表示:

5、

6、其中textencoder(·)是bert,t(·)表示输入的文本序列,即t(u)是购买产品的用户评论文本,t(i)是从用户收到的产品的评论文本,是查询中的单词,[;]是串联操作,是用户u、查询q和商品i的经过编码器输出的[cls]表示。

7、对于基于知识的编码器,提取用户、查询和产品的高阶连通信息作为知识表示,利用基于知识图谱的产品搜索方法drem作为基于知识的编码器,并将其定义为:

8、

9、其中knowledgeencoder(·)是drem模型,是用户u、查询q和商品i的在知识图谱中的表示。

10、所述搜索任务的提示生成器使用上述两种编码器获得的基于文本和知识的表示作为输入生成一系列连续的搜索任务特定的向量,并作为后续plm的输入使之适用于搜索任务,在搜索提示的设计中,提示生成器融合基于文本和知识的输入序列{u,q,h}的表示来生成用户的偏好,具体而言包括两个步骤:首先使用门网络的融合机制,学习一个交互机制,将这两种语义表示进行自适应的融合,之后将融合表示转换为任务特定的提示,通过学习多层mlp对融合表示进行变换获得提示;

11、对于输入序列{u,q,h},基于文本和基于知识的表示序列可以描述为:

12、

13、

14、门网络的融合交互机制可以表示为:

15、htext=tanh(wkstext),

16、hkg=tanh(wtskg),

17、α=σ(wf[hkg,htext]),

18、hfuse=α⊙hkg+(1-α)⊙htext,

19、α是一个自适应参数,控制融合表示中知识表示与文本表示的比例;

20、在融合步骤之后进行一个转换,将融合表示转换为连续提示,并在转换步骤中使用多层感知机:

21、psch=relu(wn(...relu(w1·hfuse+b1)...)+bn),

22、其中是生成的搜索任务的提示向量。

23、所述提示学习过程将用户和查询的融合表示和搜索任务的提示psch作为提示学习的输入:

24、

25、其中和是plm的直接输入,搜索任务的提示psch采用prefix-tuning的方式作为前缀标记符添加到基座预训练语言模型的每一层,

26、利用交叉熵损失作为目标函数:

27、

28、所述解释生成组件由解释任务的提示生成器和来自搜索组件的语义信号组成;

29、解释组件的输入包括u,q,i,h,使用与搜索组件相同的编码器进行编码,得到输入的基于文本和基于知识的表示并将他们作为解释任务的提示生成器的输入,并使用与搜索组件相同的方法来融合和转换这些表示为解释任务的提示:

30、pexp=relu(wn′′(...relu(w1′·hfuse+b1′)...)+bn′)

31、其中是生成的解释任务的提示向量,解释任务的提示生成器与搜索任务的提示生成器具有相同的体系结构,但是具有不同的参数;

32、将用户、查询和商品的融合表示作为输入的一部分,使用搜索组件的最后一个隐藏状态向量hs作为解本文档来自技高网...

【技术保护点】

1.一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:将用户u、提交的查询q和用户的行为序列H={q1,i1,...,qk,ik}作为输入,输入统一的个性化产品搜索和解释生成的提示感知框架,输出搜索任务和解释任务的结果,所述搜索任务是在给定的查询q下选择满足用户搜索意图的最合适的产品i,所述解释任务是为之前生成的满足用户的搜索意图的产品i生成合理的自然语言解释E;

2.如权利要求1所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述个性化搜索组件由表示编码器和搜索任务的提示生成器构成,通过开发一个搜索任务特定的提示生成器来辅助基座模型进行检索,搜索任务的提示生成器以用户u、当前查询q和用户历史搜索序列H为输入,并生成搜索任务的提示作为基座模型的输入,之后将其用于提示学习。

3.如权利要求2所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述表示编码器的目标是获得u,q,H的高级语义表示,对于基于文本的编码器,直接使用BERT对输入序列{u,q,H}的用户评论和产品标题/描述等文本信息进行编码,以获得基于文本的语义表示:

4.如权利要求3所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:对于基于知识的编码器,提取用户、查询和产品的高阶连通信息作为知识表示,利用基于知识图谱的产品搜索方法DREM作为基于知识的编码器,并将其定义为:

5.如权利要求4所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述搜索任务的提示生成器使用上述两种编码器获得的基于文本和知识的表示作为输入生成一系列连续的搜索任务特定的向量,并作为后续PLM的输入使之适用于搜索任务,在搜索提示的设计中,提示生成器融合基于文本和知识的输入序列{u,q,H}的表示来生成用户的偏好,具体而言包括两个步骤:首先使用门网络的融合机制,学习一个交互机制,将这两种语义表示进行自适应的融合,之后将融合表示转换为任务特定的提示,通过学习多层MLP对融合表示进行变换获得提示;

6.如权利要求5所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述提示学习过程将用户和查询的融合表示和搜索任务的提示Psch作为提示学习的输入:

7.如权利要求6所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述解释生成组件由解释任务的提示生成器和来自搜索组件的语义信号组成;

...

【技术特征摘要】

1.一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:将用户u、提交的查询q和用户的行为序列h={q1,i1,...,qk,ik}作为输入,输入统一的个性化产品搜索和解释生成的提示感知框架,输出搜索任务和解释任务的结果,所述搜索任务是在给定的查询q下选择满足用户搜索意图的最合适的产品i,所述解释任务是为之前生成的满足用户的搜索意图的产品i生成合理的自然语言解释e;

2.如权利要求1所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述个性化搜索组件由表示编码器和搜索任务的提示生成器构成,通过开发一个搜索任务特定的提示生成器来辅助基座模型进行检索,搜索任务的提示生成器以用户u、当前查询q和用户历史搜索序列h为输入,并生成搜索任务的提示作为基座模型的输入,之后将其用于提示学习。

3.如权利要求2所述的一种基于统一提示感知的个性化搜索和解释生成方法,其特征在于:所述表示编码器的目标是获得u,q,h的高级语义表示,对于基于文本的编码器,直接使用bert对输入序列{u,q,h}的用户评论和产品标题/描述等文本信息进行编码,以获得基于文本的语义表示:

4.如权利要求3所述的一种基于统一提示感...

【专利技术属性】
技术研发人员:朱倩男张昊博贺清
申请(专利权)人:北京师范大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1