一种基于大语言模型的插件调用系统技术方案

技术编号:46448121 阅读:4 留言:0更新日期:2025-09-19 20:50
本申请公开了一种基于大语言模型的插件调用系统,涉及人工智能领域。一种基于大语言模型的插件调用系统包括服务器和大语言模型;服务器接收用户输入的提问提示词,并发送至大语言模型,大语言模型根据提问提示词进行插件调用分析,并将分析结果发送至服务器;服务器根据分析结果调用对应的插件,根据插件的调用结果构建答复提示词,向大语言模型发送答复提示词,大语言模型基于答复提示词和提问提示词生成最终答复;服务器将最终答复输出至用户。通过上述方式,本申请能够使大语言模型的插件调用不依赖大语言模型的API接口支持。

【技术实现步骤摘要】

本申请涉及人工智能领域,特别是涉及一种基于大语言模型的插件调用系统


技术介绍

1、现有技术中在调用插件时通常使用基于上下文学习与微调的方法,通过展示api规范示例(icl)或对工具使用数据进行微调,引导大语言模型调用插件。这一方法的缺点是易出现参数解析错误率高,现有模型受限于大语言模型本身的api接口,常因参数格式不匹配或语义理解偏差导致调用失败,需依赖后处理函数校正,同时,这种方法的静态工具链难以应对复杂问题中多工具写作的场景,扩展空间有限。


技术实现思路

1、本申请主要提供一种基于大语言模型的插件调用系统,以解决插件调用受限于大语言模型本身的api接口的问题。

2、为解决上述技术问题,本申请采用的一个技术方案是:提供一种基于大语言模型的插件调用系统,包括服务器和大语言模型;所述服务器接收用户输入的提问提示词,并发送至所述大语言模型,所述大语言模型根据所述提问提示词进行插件调用分析,并将分析结果发送至所述服务器;所述服务器根据所述分析结果调用对应的插件,根据插件的调用结果构建答复提示词,向所述本文档来自技高网...

【技术保护点】

1.一种基于大语言模型的插件调用系统,其特征在于,包括服务器和大语言模型;

2.根据权利要求1所述的插件调用系统,其特征在于,所述大语言模型进一步根据所述提问提示词分析是否需要调用插件、选择调用的插件名称和在用户提问者解析插件所需的参数。

3.根据权利要求1或2所述的插件调用系统,其特征在于,所述大语言模型在需要调用插件时向所述服务器发送包含插件使用情况、所需插件的名称和插件参数的解析结果的分析结果。

4.根据权利要求3所述的插件调用系统,其特征在于,所述服务器进一步解析所述分析结果,获取所述所需插件的名称和所述所需插件参数的解析结果。

5...

【技术特征摘要】

1.一种基于大语言模型的插件调用系统,其特征在于,包括服务器和大语言模型;

2.根据权利要求1所述的插件调用系统,其特征在于,所述大语言模型进一步根据所述提问提示词分析是否需要调用插件、选择调用的插件名称和在用户提问者解析插件所需的参数。

3.根据权利要求1或2所述的插件调用系统,其特征在于,所述大语言模型在需要调用插件时向所述服务器发送包含插件使用情况、所需插件的名称和插件参数的解析结果的分析结果。

4.根据权利要求3所述的插件调用系统,其特征在于,所述服务器进一步解析所述分析结果,获取所述所需插件的名称和所述所需插件参数的解析结果。

5.根据权利要求4所述的插件调用系统,其特征在于,所述服务器在插件列表中查询所述所需插件的名称对应的插件和所述插件的插件函数,通过所述插件函数将所述所需插件参数的解析结果填充至所述插件,通过所述插件函数执行所述插件的调用,获取所述插件发送的调用结果。

6....

【专利技术属性】
技术研发人员:叶晃棋
申请(专利权)人:深圳市和讯华谷信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1