System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 文本生成方法及装置制造方法及图纸_技高网

文本生成方法及装置制造方法及图纸

技术编号:40609278 阅读:5 留言:0更新日期:2024-03-12 22:16
本申请实施例提供了一种文本生成方法,该文本生成方法包括:获取待处理的文本问题。确定与所述文本问题对应的提示模板。将所述文本问题和所述提示模板输入到LLM模型中,以使所述LLM模型根据所述提示模板对所述文本问题进行逻辑推理和分解,以输出多个文本内容。根据所述多个文本内容进行插件调用,以获取多条插件反馈内容。将所述多条插件反馈内容输入到所述LLM模型中,以使所述LLM模型输出目标文本内容。本申请实施例的技术方案可以实现回答的多元化,并为LLM模型补齐模型原本没有的内容(如实时内容或LLM模型记忆信息的空白),从而使得所述LLM模型可以结合插件补齐的内容输出更加符合要求的目标文本内容。

【技术实现步骤摘要】

本申请实施例涉及计算机,尤其涉及一种文本生成方法、装置、计算机设备、计算机可读存储介质。


技术介绍

1、目前,基于llm(legal language model,大型语言模型)的虚拟人、问答类产品等在社区和站点中得到了广泛应用。然而,这些llm模型的局限性在于其对实时知识内容的不足,以及在决策背后的黑盒性质。目前的llm模型存在以下问题:回复的答案单一,且无法很好地适应llm训练语料之外的知识内容。

2、需要说明的是,上述内容并不必然是现有技术,也不用于限制本申请的专利保护范围。


技术实现思路

1、本申请实施例提供一种文本生成方法、装置、计算机设备、计算机可读存储介质,以解决或缓解上面提出的一项或更多项技术问题。

2、本申请实施例的一个方面提供了一种文本生成方法,所述方法包括:

3、获取待处理的文本问题;

4、确定与所述文本问题对应的提示模板;

5、将所述文本问题和所述提示模板输入到llm模型中,以使所述llm模型根据所述提示模板对所述文本问题进行逻辑推理和分解,以输出多个文本内容;

6、根据所述多个文本内容进行插件调用,以获取多条插件反馈内容;

7、将所述多条插件反馈内容输入到所述llm模型中,以使所述llm模型输出目标文本内容。

8、可选地,所述目标文本内容包括最终答案或非最终答案;

9、所述方法还包括:

10、在所述目标文本内容为非最终答案的情况下,根据所述目标文本内容进行插件调用,以获取新插件反馈内容;

11、将所述新插件反馈内容输入到所述llm模型中,以使所述llm模型输出新文本内容。

12、可选地,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:

13、确定所述多个文本内容中每个文本内容对应的插件;

14、将每个文本内容分别提供给相应的插件,以便各插件根据各自的文本内容进行处理和反馈。

15、可选地,多个所述插件分别被配置标准化输入输出接口;和/或

16、多个所述插件配置有统一工具调用逻辑,每个所述插件分别配置有唯一标识符;和/或

17、多个所述插件包括内置静态插件和/或外部动态脚本插件;和/或

18、多个所述插件通过可视化页面配置得到;和/或

19、多个所述插件分别配置有租户调用权限,所述调用权限用于表示该租户是否有权限调用相应的插件。

20、可选地,多个所述插件被配置在分布式系统的多个计算机节点中,每个所述计算机节点均配置多个所述插件;所述方法还包括:

21、通过预设的分布式一致性算法,确定各个所述计算机节点之间的插件的一致性。

22、可选地,所述分布式系统还内置或连接有语料库;

23、所述方法还包括:

24、从预设导入接口,获取语料;

25、对获取的语料进行预处理,所述预处理包括将所述获取的语料通过向量化表示;及

26、将预处理后的语料存储到语料库中;

27、其中,多个所述插件包括用于对所述语料库静态检索的检索插件;所述检索插件用于:根据相应的文本内容生成目标向量,根据所述目标向量对所述语料库进行检索。

28、可选地,多个所述插件包括私有数据调用插件,所述私有数据调用插件用于提供用户互动记录和/或用户信息;

29、多个所述插件包括跨业务调用插件,所述跨应用调用插件用于请求第三方业务中的数据。

30、本申请实施例的另一个方面提供了一种文本生成装置,所述装置包括:

31、获取模块,用于获取待处理的文本问题;

32、第一确定模块,用于确定与所述文本问题对应的提示模板;

33、第一输入模块,用于将所述文本问题和所述提示模板输入到llm模型中,以使所述llm模型根据所述提示模板对所述文本问题进行逻辑推理和分解,以输出多个文本内容;

34、调用模块,用于根据所述多个文本内容进行插件调用,以获取多条插件反馈内容;

35、第二输入模块,用于将所述多条插件反馈内容输入到所述llm模型中,以使所述llm模型输出目标文本内容。

36、本申请实施例的另一个方面提供了一种计算机设备,包括:

37、至少一个处理器;及

38、与所述至少一个处理器通信连接的存储器;

39、其中:所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方法。

40、本申请实施例的另一个方面提供了一种计算机可读存储介质,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如上所述的方法。

41、本申请实施例采用上述技术方案可以包括如下优势:

42、根据用户输入的问题,获取对应的提示模板,从而引导llm模型对用户输入的文本问题进行逻辑推理和分解,以输出多个文本内容(问题),实现回答的多元化。

43、另外,通过引入插件来协助回答llm模块输出的文本内容(问题),获取对应的插件反馈内容。然后,通过将插件反馈内容再输入到llm模型,为llm模型补齐模型原本没有的内容(如实时内容或llm模型记忆信息的空白),从而使得所述llm模型可以结合插件补齐的内容输出更加符合要求的目标文本内容。

本文档来自技高网...

【技术保护点】

1.一种文本生成方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标文本内容包括最终答案或非最终答案;

3.根据权利要求1或2所述的方法,其特征在于,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:

4.根据权利要求3所述的方法,其特征在于,

5.根据权利要求3所述的方法,其特征在于,多个所述插件被配置在分布式系统的多个计算机节点中,每个所述计算机节点均配置多个所述插件;所述方法还包括:

6.根据权利要求5所述的方法,其特征在于,所述分布式系统还内置或连接有语料库;

7.根据权利要求3所述的方法,其特征在于,

8.一种文本生成装置,其特征在于,所述装置包括:

9.一种计算机设备,其特征在于,包括:

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机指令,所述计算机指令被处理器执行时实现如权利要求1至7中任一项所述的方法。

【技术特征摘要】

1.一种文本生成方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标文本内容包括最终答案或非最终答案;

3.根据权利要求1或2所述的方法,其特征在于,插件有多个,不同的插件用于执行不同的功能;根据所述多个文本内容进行插件调用,以获取多条插件反馈内容,包括:

4.根据权利要求3所述的方法,其特征在于,

5.根据权利要求3所述的方法,其特征在于,多个所述插件被配置在分布式系统的多个计算机节点中,每个...

【专利技术属性】
技术研发人员:张伟林灵凡李凯阳彭家豪
申请(专利权)人:上海哔哩哔哩科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1