System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及语言模型,具体涉及用于实现大模型记忆共享的方法、知识问答方法及其相关设备。
技术介绍
1、自然语言大模型目前存在的一个显著问题是当用户a告诉大模型一个知识点或信息后,用户b去询问是无法获取用户a告诉大模型的内容。原因有:1.自然语言大模型部署后,已经训练后的参数是不可改变的,因此无法更新大模型内部参数;2.通用部署方案来说,大模型的用户之间是相互独立的,即用户a与用户b在同时与大模型进行交流时,用户a分享给大模型的信息,用户b是无法获取到的。
技术实现思路
1、有鉴于此,本专利技术提供了一种用于实现大模型记忆共享的方法、知识问答方法及其相关设备,以实现自然语言大模型具有共享记忆的能力,并实现自然语言大模型具有自我分辨能力、输出能力。
2、根据本申请的第一方面,提供了一种用于实现大模型记忆共享的方法,所述方法包括:
3、创建大模型的交互保存区、完整保存区以及共享记忆区,其中,所述交互保存区用于存储用户与所述大模型的每次交互,所述完整保存区用于独立存储每个用户与所述大模型的所有交互记录;
4、获取用户的输入,并根据所述用户的输入输出对应的回答结果,将所述用户的输入和对应的回答结果存储在所述交互保存区和所述完整保存区;
5、从所述完整保存区读取数据,以提取共同信息并进行去除隐私处理,以及基于所述大模型的理解能力提炼总结知识,以得到共识信息,并将所述共识信息存储至所述大模型的共享记忆区。
6、在一些实施方式中,所述将所述
7、获取每个用户在输入的时的用户id;
8、针对每个用户id,基于时间线将隶属于该用户id的所有交互记录独立存储在所述完整保存区中的存储节点。
9、在一些实施方式中,所述从所述完整保存区读取数据,提炼共同信息并进行去除隐私处理,以及基于所述大模型的理解能力提炼总结知识,以得到共识信息的方法包括:
10、针对每个用户与所述大模型的所有交互记录,去除该用户与所述大模型的所有交互记录中的用户隐私属性;
11、基于所述大模型的编写知识摘要生成的能力,编写对应交互内容的摘要,并提取对应的关键词;
12、统计关键词的频次;
13、将频次出现超过预设阈值的关键词,通过知识的语义相似度,对其相关联的知识进行分类,以更高一级的提炼知识,从而得到所述共识信息。
14、在一些实施方式中,所述方法还包括:
15、从所述共享记忆区读取数据,并基于所述大模型的理解能力对所述共识信息进行自我验证,以进一步提炼总结,并将提炼总结后的共识信息存储在所述共享记忆区。
16、在一些实施方式中,所述从所述共享记忆区读取数据,并基于所述大模型的理解能力对所述共识信息进行自我验证,以进一步提炼总结的方法包括:
17、提取所有的共识信息中的关键词,针对频次超过预设阈值的关键词,对其相关联的知识进行分类;
18、针对隶属于同一类别的知识进行归纳总结,得到总结后的共识信息,并将总结后的共识信息覆盖掉在归纳总结之前的该类别下的共识信息。
19、在一些实施方式中,所述方法还包括:基于相同的数据格式在所述交互保存区和在所述完整保存区各自进行存储。
20、根据本申请的第二方面,提供了一种知识问答方法,所述方法包括:
21、获取目标问题,并根据所述目标问题输出初始的第一回答结果;
22、将所述目标问题输入至大模型的共享记忆区,以执行记忆检索,得到第一检索结果,其中,所述共享记忆区用于存储如第一方面任一所述的用于实现大模型记忆共享的方法得到的共识信息;
23、将初始的第一回答结果与所述第一检索结果进行融合,以得到完善的第一回答结果。
24、在一些实施方式中,所述方法还包括:
25、将所述目标问题及其对应的已完善的第一回答结果更新存储至所述共享记忆区。
26、在一些实施方式中,所述方法还包括:
27、基于所述目标问题所对应的用户id,将所述目标问题及其对应的已完善的第一回答结果存储至所述完整保存区中对应的存储节点。
28、在一些实施方式中,所述方法还包括:
29、基于所述目标问题所对应的用户id,判断该用户id是否在所述完整保存区的存储记录中,在是的情形下,则将所述目标问题输入至所述完整保存区,以根据所述目标问题进行检索,得到与所述目标问题相关联的目标会话内容;将所述目标会话内容与所述第一检索结果进行融合,得到综合后的第二检索结果;
30、将初始的第一回答结果与所述第二检索结果进行融合,以得到进一步完善的第一回答结果。
31、根据本申请的第三方面,提供了一种用于实现大模型记忆共享的装置,所述装置包括:
32、创建模块,所述创建模块用于创建大模型的交互保存区、完整保存区以及共享记忆区,其中,所述交互保存区用于存储用户与所述大模型的每次交互,所述完整保存区用于独立存储每个用户与所述大模型的所有交互记录;
33、获取模块,所述获取模块用于获取用户的输入,并根据所述用户的输入输出对应的回答结果,将所述用户的输入和对应的回答结果存储在所述交互保存区和所述完整保存区;
34、处理模块,所述处理模块用于从所述完整保存区读取数据,以提取共同信息并进行去除隐私处理,以及基于所述大模型的理解能力提炼总结知识,以得到共识信息,并将所述共识信息存储至所述大模型的共享记忆区。
35、根据本申请的第四方面,提供了一种知识问答装置,所述装置包括:
36、问答模块,所述问答模块用于获取目标问题,并根据所述目标问题输出初始的第一回答结果;
37、检索模块,所述检索模块用于将所述目标问题输入至大模型的共享记忆区,以执行记忆检索,得到第一检索结果,其中,所述共享记忆区用于存储如第三方面所述的装置得到的共识信息;
38、融合模块,所述融合模块用于将初始的第一回答结果与所述第一检索结果进行融合,得到完善的第一回答结果。
39、根据本申请的第五方面,提供了一种电子设备,包括存储器、处理器及其存储在所述存储器并在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面任一所述的方法或如第二方面任一所述的方法中的步骤。
40、根据本申请的第六方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序能够被处理器加载以执行如第一方面任一所述的方法或如第二方面任一所述的方法中的步骤。
41、本申请提供的用于实现大模型记忆共享的方法、知识问答方法及其相关设备,在用于实现大模型记忆共享的方法中,首先通过创建大模型的交互保存区、完整保存区以及共享记忆区,然后获取用户的输入,并根据所述用户的输入输出对应的回答结果,将所述用户的输入和对应的本文档来自技高网...
【技术保护点】
1.一种用于实现大模型记忆共享的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述将所述用户的输入和对应的回答结果存储在所述完整保存区的方法包括:
3.根据权利要求2所述的用于实现大模型记忆共享的方法,其特征在于,所述从所述完整保存区读取数据,提炼共同信息并进行去除隐私处理,以及基于所述大模型的理解能力提炼总结知识,以得到共识信息的方法包括:
4.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的用于实现大模型记忆共享的方法,其特征在于,所述从所述共享记忆区读取数据,并基于所述大模型的理解能力对所述共识信息进行自我验证,以进一步提炼总结的方法包括:
6.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述方法还包括:
7.一种知识问答方法,其特征在于,所述方法包括:
8.根据权利要求7所述的知识问答方法,其特征在于,所述方法还包括:
9.根据权利要求7所述的知识问答
10.根据权利要求7所述的知识问答方法,其特征在于,所述方法还包括:
11.一种用于实现大模型记忆共享的装置,其特征在于,所述装置包括:
12.一种知识问答装置,其特征在于,所述装置包括:
13.一种电子设备,包括存储器、处理器及其存储在所述存储器并在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6中任意一项所述的方法或如权利要求7至10中任意一项所述的方法中的步骤。
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序能够被处理器加载以执行如权利要求1至6中任意一项所述的方法或如权利要求7至10中任意一项所述的方法中的步骤。
...【技术特征摘要】
1.一种用于实现大模型记忆共享的方法,其特征在于,所述方法包括:
2.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述将所述用户的输入和对应的回答结果存储在所述完整保存区的方法包括:
3.根据权利要求2所述的用于实现大模型记忆共享的方法,其特征在于,所述从所述完整保存区读取数据,提炼共同信息并进行去除隐私处理,以及基于所述大模型的理解能力提炼总结知识,以得到共识信息的方法包括:
4.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述方法还包括:
5.根据权利要求4所述的用于实现大模型记忆共享的方法,其特征在于,所述从所述共享记忆区读取数据,并基于所述大模型的理解能力对所述共识信息进行自我验证,以进一步提炼总结的方法包括:
6.根据权利要求1所述的用于实现大模型记忆共享的方法,其特征在于,所述方法还包括:
7.一种知识问答方法,其特征在于,所...
【专利技术属性】
技术研发人员:杜文贺,徐甲甲,周维,王瑞,
申请(专利权)人:羚羊工业互联网股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。