System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于大模型的需求响应方法、装置、介质及设备制造方法及图纸_技高网

基于大模型的需求响应方法、装置、介质及设备制造方法及图纸

技术编号:41280199 阅读:3 留言:0更新日期:2024-05-11 09:31
本申请提供一种基于大模型的需求响应方法、装置、介质及设备,涉及人工智能技术领域,该方法可以触发第一语言模型根据样本任务列表和任务生成规则生成增量任务列表;根据样本任务列表和增量任务列表训练第二语言模型,第一语言模型的参数量大于第二语言模型;部署训练后的第二语言模型,训练后的第二语言模型用于响应用户需求。这样可以在无需部署大体量的第一语言模型的情况下,使得小体量的第二语言模型具备第一语言模型的生成效果,基于第二语言模型可以便于得到高精度需求响应结果,可以同时达到节约用户设备资源和高效精准满足用户需求的效果。

【技术实现步骤摘要】

本申请涉及人工智能,具体而言,涉及一种基于大模型的需求响应方法、基于大模型的需求响应装置、计算机可读存储介质及电子设备。


技术介绍

1、传统语言模型的输入通常为结构化数据,传统语言模型用于基于结构化数据生成满足用户需求的结果,该结果可以为分析结果、预测结果、评估结果等任一结果。可见,传统语言模型容易理解结构化数据。但是,传统语言模型在处理自然语言数据(即,非结构化数据)时,存在局限性。

2、为了实现针对自然语言的处理,大语言模型应运而生,实现为生成式ai,可以理解无序化的数据。在生产生活中,大语言模型都可以起到至关重要的作用。比如说,在生活中,大语言模型可以满足对话聊天、知识问答等需求。在生产中,大语言模型可以满足文案生成、文本修改等需求。可以理解的是,在大语言模型具备强大语言理解能力的前提下,如果能够利用大语言模型实现工作流的生成和执行,则能够大大提升工作效率;其中,工作流指的是用于完成既定目标而制定的有序任务,依序完成这些任务可以实现既定目标。

3、大语言模型通常具备海量参数,更容易生成满足用户需求的结果,但是由于其体量较大,因此难以部署在配置不高的用户设备上。小参数的语言模型体量小,部署方式灵活部署难度较低但是无法达到大语言模型的生成效果,难以及时满足用户需求。对于用户设备来说,最佳方案在于:部署小参数语言模型同时获得大体量语言模型的生成结果,这样不仅可以节约设备资源,又可以高效满足需求。因此,可以理解的是,如何利用小参数语言模型满足用户大语言模型的响应需求成为了当前亟需解决的问题。

4、需要说明的是,在上述
技术介绍
部分公开的信息仅用于加强对本申请的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有方案的信息。


技术实现思路

1、本申请的目的在于提供一种基于大模型的需求响应方法、基于大模型的需求响应装置、计算机可读存储介质及电子设备,可以触发比第二语言模型参数量更大的第一语言模型基于样本任务列表和任务生成规则生成增量任务列表,基于增量任务列表和样本任务列表训练第二语言模型,提升了第二语言模型的训练量,从而可以提升第二语言模型的生成精度,规避了小体量语言模型的生成精度不佳的问题。进而,对训练后的第二语言模型进行部署,可以便于调用训练后的第二语言模型响应用户需求,可以在无需部署大体量的第一语言模型的情况下,训练出用于生成任务列表的第一语言模型,利用第一语言模型精度高的特性生成用于提升第二语言模型精度的增量任务列表,这样可以使得小体量的第二语言模型具备第一语言模型的生成效果,进而,基于第二语言模型可以实现对于用户需求的精准响应,可以同时达到节约用户设备资源和高效精准满足用户需求的效果。

2、本申请的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本申请的实践而习得。

3、根据本申请的一方面,提供一种基于大模型的需求响应方法,该方法包括:

4、触发第一语言模型根据样本任务列表和任务生成规则生成增量任务列表;

5、根据样本任务列表和增量任务列表训练第二语言模型;其中,第一语言模型对应的参数量大于第二语言模型对应的参数量;

6、部署训练后的第二语言模型,训练后的第二语言模型用于响应用户需求。

7、在本申请的一种示例性实施例中,其中:任务生成规则至少用于限定各业务场景下的任务类型之间的逻辑关系;任务类型包括数据获取任务类型;任务类型还包括数据分析任务类型、数据展示任务类型、模型训练任务类型、预测任务类型中至少一种。

8、在本申请的一种示例性实施例中,还包括:

9、响应于任务生成规则调整操作,确定任务生成规则调整操作对应的调整结果;

10、基于调整结果对增量任务列表进行调整。

11、在本申请的一种示例性实施例中,基于调整结果对增量任务列表进行调整,包括:

12、若调整结果表征在任务生成规则中新增任务类型,则在增量任务列表中补充生成新任务类型对应的新任务列表;

13、若调整结果表征在任务生成规则中删减任务类型,则将增量任务列表中对应于已删减任务类型的任务列表删除;

14、若调整结果表征修改任务生成规则中的任务间逻辑,则调整增量任务列表中的任务间逻辑。

15、在本申请的一种示例性实施例中,还包括:

16、触发训练后的第二语言模型根据用户需求信息对应的业务场景生成目标任务列表;

17、执行所述目标任务列表,以得到对应于所述用户需求信息的需求响应结果。

18、在本申请的一种示例性实施例中,触发训练后的第二语言模型根据用户需求信息对应的业务场景生成目标任务列表,包括:

19、响应于输入的用户需求信息,触发训练后的第二语言模型提取用户需求信息的用户意图;其中,用户意图对应的简洁度和标准度高于用户需求信息的简洁度和标准度;

20、触发训练后的第二语言模型确定用户意图对应的业务场景;

21、触发训练后的第二语言模型基于业务场景和用户意图,生成对应于用户需求信息的目标任务列表。

22、在本申请的一种示例性实施例中,执行目标任务列表,以得到对应于用户需求信息的需求响应结果,包括:

23、结合目标任务列表中各任务之间的逻辑关系,将各任务的描述信息映射为可执行代码;

24、执行各可执行代码,以得到对应于用户需求信息的需求响应结果。

25、在本申请的一种示例性实施例中,还包括:

26、响应于用户输入操作,获取对应于用户输入操作的需求数据;

27、若需求数据为文本数据,则将需求数据确定为用户需求信息;

28、若需求数据非文本数据,则将需求数据转换为用户需求信息。

29、根据本申请的一方面,提供一种基于大模型的需求响应装置,该装置包括:

30、增量任务列表生成单元,用于触发第一语言模型根据样本任务列表和任务生成规则生成增量任务列表;

31、模型训练单元,用于根据样本任务列表和增量任务列表训练第二语言模型;其中,第一语言模型对应的参数量大于第二语言模型对应的参数量;

32、模型部署单元,用于部署训练后的第二语言模型,训练后的第二语言模型用于响应用户需求。

33、在本申请的一种示例性实施例中,其中:任务生成规则至少用于限定各业务场景下的任务类型之间的逻辑关系;任务类型包括数据获取任务类型;任务类型还包括数据分析任务类型、数据展示任务类型、模型训练任务类型、预测任务类型中至少一种。

34、在本申请的一种示例性实施例中,还包括:

35、调整操作响应单元,用于响应于任务生成规则调整操作,确定任务生成规则调整操作对应的调整结果;基于调整结果对增量任务列表进行调整。

36、在本申请的一种示例性实施例中,调整操作响应单元基于调整结果对增量任务列表进行调整,包括:

37、若调整结果表征在任本文档来自技高网...

【技术保护点】

1.一种基于大模型的需求响应方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,其中:所述任务生成规则至少用于限定各业务场景下的任务类型之间的逻辑关系;所述任务类型包括数据获取任务类型;所述任务类型还包括数据分析任务类型、数据展示任务类型、模型训练任务类型、预测任务类型中至少一种。

3.根据权利要求1所述的方法,其特征在于,还包括:

4.根据权利要求3所述的方法,其特征在于,基于所述调整结果对所述增量任务列表进行调整,包括:

5.根据权利要求1所述的方法,其特征在于,还包括:

6.根据权利要求5所述的方法,其特征在于,触发训练后的第二语言模型根据用户需求信息对应的业务场景生成目标任务列表,包括:

7.根据权利要求5所述的方法,其特征在于,执行所述目标任务列表,以得到对应于所述用户需求信息的需求响应结果,包括:

8.根据权利要求1所述的方法,其特征在于,还包括:

9.一种基于大模型的需求响应装置,其特征在于,包括:

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-8任一项所述的方法。

11.一种电子设备,其特征在于,包括:

...

【技术特征摘要】

1.一种基于大模型的需求响应方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,其中:所述任务生成规则至少用于限定各业务场景下的任务类型之间的逻辑关系;所述任务类型包括数据获取任务类型;所述任务类型还包括数据分析任务类型、数据展示任务类型、模型训练任务类型、预测任务类型中至少一种。

3.根据权利要求1所述的方法,其特征在于,还包括:

4.根据权利要求3所述的方法,其特征在于,基于所述调整结果对所述增量任务列表进行调整,包括:

5.根据权利要求1所述的方法,其特征在于,还包括:

6.根据...

【专利技术属性】
技术研发人员:周一竞黄翠婷陈涛蒋韬祝伟
申请(专利权)人:同盾科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1