回复内容的生成方法、装置、存储介质以及电子设备制造方法及图纸

技术编号:41796995 阅读:20 留言:0更新日期:2024-06-24 20:21
本申请涉及一种回复内容的生成方法、装置、存储介质以及电子设备。该方法包括:在获取到目标问题的情况下,将目标问题转换为目标向量;根据目标向量,从向量数据库中查找目标问题的上下文,其中,向量数据库中存储有第一向量,第一向量带有第一附加信息,第一向量为历史问题与历史回复内容转换得到的向量,第一附加信息包括多个信息类型的附加信息中的至少一个信息类型的附加信息;将目标问题与目标问题的上下文输入到大语言模型中,以得到目标回复内容,其中,目标回复内容用于回复目标问题。本申请解决了由于内存中历史内容丢失造成模型生成的回复内容不准确的技术问题。

【技术实现步骤摘要】

本申请涉及大语言模型领域,尤其涉及一种回复内容的生成方法、装置、存储介质以及电子设备


技术介绍

1、现有技术中,在游戏中可以由模型来扮演裁判等角色,来判定游戏中的行为产生的影响等,例如,在游戏中,有模型扮演主持人,来宣布游戏规则,接收游戏用户的问题或操作,并给出游戏影响或者结果。

2、然而,现有技术中,模型仅能对当前次输入的内容进行识别并给出结果,而无法记忆之前已经输入过的内容和给出的结果,现有技术中可以将之前输入过的内容和给出的结果存储在模型所在主机的内存中,从而在当前次输入内容时,将内存中的历史内容一并输入,而一旦内存中的信息丢失,会影响模型输出的结果的准确性。


技术实现思路

1、本申请提供了一种回复内容的生成方法、装置、存储介质以及电子设备,以解决由于内存中历史内容丢失造成模型生成的回复内容不准确的技术问题。

2、第一方面,本申请提供了一种回复内容的生成方法,包括:在获取到目标问题的情况下,将上述目标问题转换为目标向量,其中,上述目标向量带有目标附加信息,上述目标附加信息包括多本文档来自技高网...

【技术保护点】

1.一种回复内容的生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述多个信息类型包括时间戳类型,所述目标附加信息为目标时间戳,所述在获取到目标问题的情况下,将所述目标问题转换为目标向量包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述目标向量,从向量数据库中查找所述目标问题的上下文包括:

4.根据权利要求3所述的方法,其特征在于,所述将所述第二向量对应的历史问题与历史回复内容确定为所述目标问题的上下文包括:

5.根据权利要求4所述的方法,其特征在于,所述在所述第二向量对应的历史问题与历史回复内容超出内存...

【技术特征摘要】

1.一种回复内容的生成方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述多个信息类型包括时间戳类型,所述目标附加信息为目标时间戳,所述在获取到目标问题的情况下,将所述目标问题转换为目标向量包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述目标向量,从向量数据库中查找所述目标问题的上下文包括:

4.根据权利要求3所述的方法,其特征在于,所述将所述第二向量对应的历史问题与历史回复内容确定为所述目标问题的上下文包括:

5.根据权利要求4所述的方法,其特征在于,所述在所述第二向量对应的历史问题与历史回复内容超出内存的最大分配值的情况下,对所述第二向量对应的历史问题与历史回复内容进行删减,将删减后的内容确定为所述目标问题的上下文包括:

6.根据权利要求4所述的方法,其特征在于,在得到所...

【专利技术属性】
技术研发人员:孙浩游慧洪志环
申请(专利权)人:北京金山云网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1