System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请实施例涉及计算机,尤其涉及一种文本生成方法、装置、计算机设备、计算机可读存储介质。
技术介绍
1、目前,基于llm(legal language model,大型语言模型)的虚拟人、问答类产品等在社区和站点中得到了广泛应用。然而,这些llm模型的局限性在于其对实时知识内容的不足,以及在决策背后的黑盒性质。目前的llm模型存在以下问题:回复的答案单一,且无法很好地适应llm训练语料之外的知识内容。
2、需要说明的是,上述内容并不必然是现有技术,也不用于限制本申请的专利保护范围。
技术实现思路
1、本申请实施例提供一种文本生成方法、装置、计算机设备、计算机可读存储介质,以解决或缓解上面提出的一项或更多项技术问题。
2、本申请实施例的一个方面提供了一种文本生成方法,所述方法包括:
3、获取待处理的文本问题;
4、确定与所述文本问题对应的提示模板;
5、将所述文本问题和所述提示模板输入到llm模型中,以使所述llm模型根据所述提示模板对所述文本问题进行逻辑推理和分解,以输出多个文本内容;
6、根据所述多个文本内容进行插件调用,以获取多条插件反馈内容;
7、将所述多条插件反馈内容输入到所述llm模型中,以使所述llm模型输出目标文本内容。
8、可选地,所述目标文本内容包括最终答案或非最终答案;
9、所述方法还包括:
10、在所述目标文本内容为非最终答案的情况下,根据所
11、将所述新插件反馈内容输入到所述llm模型中,以使所述llm模型输出新文本内容。
12、可选地,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:
13、确定所述多个文本内容中每个文本内容对应的插件;
14、将每个文本内容分别提供给相应的插件,以便各插件根据各自的文本内容进行处理和反馈。
15、可选地,多个所述插件分别被配置标准化输入输出接口;和/或
16、多个所述插件配置有统一工具调用逻辑,每个所述插件分别配置有唯一标识符;和/或
17、多个所述插件包括内置静态插件和/或外部动态脚本插件;和/或
18、多个所述插件通过可视化页面配置得到;和/或
19、多个所述插件分别配置有租户调用权限,所述调用权限用于表示该租户是否有权限调用相应的插件。
20、可选地,多个所述插件被配置在分布式系统的多个计算机节点中,每个所述计算机节点均配置多个所述插件;所述方法还包括:
21、通过预设的分布式一致性算法,确定各个所述计算机节点之间的插件的一致性。
22、可选地,所述分布式系统还内置或连接有语料库;
23、所述方法还包括:
24、从预设导入接口,获取语料;
25、对获取的语料进行预处理,所述预处理包括将所述获取的语料通过向量化表示;及
26、将预处理后的语料存储到语料库中;
27、其中,多个所述插件包括用于对所述语料库静态检索的检索插件;所述检索插件用于:根据相应的文本内容生成目标向量,根据所述目标向量对所述语料库进行检索。
28、可选地,多个所述插件包括私有数据调用插件,所述私有数据调用插件用于提供用户互动记录和/或用户信息;
29、多个所述插件包括跨业务调用插件,所述跨应用调用插件用于请求第三方业务中的数据。
30、本申请实施例的另一个方面提供了一种文本生成装置,所述装置包括:
31、获取模块,用于获取待处理的文本问题;
32、第一确定模块,用于确定与所述文本问题对应的提示模板;
33、第一输入模块,用于将所述文本问题和所述提示模板输入到llm模型中,以使所述llm模型根据所述提示模板对所述文本问题进行逻辑推理和分解,以输出多个文本内容;
34、调用模块,用于根据所述多个文本内容进行插件调用,以获取多条插件反馈内容;
35、第二输入模块,用于将所述多条插件反馈内容输入到所述llm模型中,以使所述llm模型输出目标文本内容。
36、本申请实施例的另一个方面提供了一种计算机设备,包括:
37、至少一个处理器;及
38、与所述至少一个处理器通信连接的存储器;
39、其中:所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方法。
40、本申请实施例的另一个方面提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如上所述的方法。
41、本申请实施例采用上述技术方案可以包括如下优势:
42、根据用户输入的问题,获取对应的提示模板,从而引导llm模型对用户输入的文本问题进行逻辑推理和分解,以输出多个文本内容(问题),实现回答的多元化。
43、另外,通过引入插件来协助回答llm模块输出的文本内容(问题),获取对应的插件反馈内容。然后,通过将插件反馈内容再输入到llm模型,为llm模型补齐模型原本没有的内容(如实时内容或llm模型记忆信息的空白),从而使得所述llm模型可以结合插件补齐的内容输出更加符合要求的目标文本内容。
本文档来自技高网...【技术保护点】
1.一种文本生成方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述目标文本内容包括最终答案或非最终答案;
3.根据权利要求1或2所述的方法,其特征在于,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:
4.根据权利要求3所述的方法,其特征在于,
5.根据权利要求3所述的方法,其特征在于,多个所述插件被配置在分布式系统的多个计算机节点中,每个所述计算机节点均配置多个所述插件;所述方法还包括:
6.根据权利要求5所述的方法,其特征在于,所述分布式系统还内置或连接有语料库;
7.根据权利要求3所述的方法,其特征在于,
8.一种文本生成装置,其特征在于,所述装置包括:
9.一种计算机设备,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如权利要求1至7中任一项所述的方法。
【技术特征摘要】
1.一种文本生成方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述目标文本内容包括最终答案或非最终答案;
3.根据权利要求1或2所述的方法,其特征在于,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:
4.根据权利要求3所述的方法,其特征在于,
5.根据权利要求3所述的方法,其特征在于,多个所述插件被配置在分布式系统的多个计算机节点中,每个...
【专利技术属性】
技术研发人员:张伟,林灵凡,李凯阳,彭家豪,
申请(专利权)人:上海哔哩哔哩科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。