本发明专利技术属于人工智能技术领域，涉及一种面向应用的大语言模型调用接口系统、方法、设备及介质，所述系统包括：人机交互窗口；解决方案库准备模块，其包括数据库、SoAPI库、SoAPI关系图、解决方案库、大语言模型、提示词库和代码虚拟执行环境；解决方案辅助推理模型，其包括解决方案准备子模块、程序生成子模块、程序执行子模块和答案生成子模块。其使得大语言模型能够理解并正确执行SoAPI之间存在的复杂的耦合嵌套关系，从而便于大语言模型通过复杂的执行逻辑来正确组合SoAPI以完成复杂任务。
【技术实现步骤摘要】
本专利技术属于人工智能，涉及一种调用接口系统、方法、设备及介质，尤其涉及一种面向应用的大语言模型调用接口系统、方法、设备及介质。
技术介绍
1、能够创造和利用工具是智能的一个重要特征。自从openai提出gpt-4以来，关于大语言模型(llm)如何更好地调用外部工具以应用于现实世界领域的讨论日益增多，这引起了自然语言处理、数据挖掘和数据库领域的广泛研究兴趣。在这一热门话题的繁荣发展中，当前的解决方案和技术路线可以分为两大类：
2、1、扩大llm工具使用的覆盖范围。一个直接的想法是扩大llm使用工具/api的覆盖范围。这些努力不仅包括基本的网络服务，如搜索引擎和计算器，还包括智能多模态功能，如视觉理解和图像生成。toolllm令人印象深刻地为llm配备了超过一万个工具，这引发了对llm在工具使用上能力边界的极大好奇。
3、2、探索复杂任务的工具组合。其他一些研究者致力于工具的依赖性、编程逻辑和规划能力。除了将llm视为数据库管理器的努力，还有许多方法在模拟工具的图形关系、构建中间指令和完成复杂任务。
4、此外，虽然在llm工具/api使用方面建立了一些共同基础，一些基准测试和开源api库也被提出。然而，在构建基于llm的领域应用时仍然存在大量技术挑战，因为当前方法在面对诸如循环逻辑、模型的最大输入限制或工具之间稍微复杂的依赖关系时仍然存在困难。
5、因此，针对上述现有技术中存在的缺陷，需要研发一种新型的大语言模型调用接口系统及方法。
技术实现思路</p>1、为了克服现有技术的缺陷，本专利技术提出一种面向应用的大语言模型调用接口系统、方法、设备及介质，其使得大语言模型能够理解并正确执行soapi之间存在的复杂的耦合嵌套关系，从而便于大语言模型通过复杂的执行逻辑来正确组合soapi以完成复杂任务。。
2、为了实现上述目的，本专利技术提供如下技术方案：
3、一种面向应用的大语言模型调用接口系统，其特征在于，包括：
4、人机交互窗口，其用于供用户输入提问问题和展示执行结果；
5、解决方案库准备模块，其包括数据库、soapi库、soapi关系图、解决方案库、大语言模型、提示词库和代码虚拟执行环境，所述soapi关系图根据所述数据库和所述soapi库中的各个soapi构建而成，用以解析所述soapi库内的各个soapi之间的耦合嵌套关系；所述解决方案库中存储有解决方案，所述解决方案是在所述soapi关系图上采样得到的具有实际语义的执行路径；所述提示词库存储有依据所述解决方案为所述大语言模型撰写的提示词；
6、解决方案辅助推理模型，其包括解决方案准备子模块、程序生成子模块、程序执行子模块和答案生成子模块，所述解决方案准备子模块用于基于所述人机交互窗口输入的提问问题利用所述提示词库中的提示词引导所述大语言模型参考所述解决方案库中的解决方案为所述提问问题生成一条问题解决方案；所述程序生成子模块用于根据所述问题解决方案引导所述大语言模型生成一段程序；所述程序执行子模块用于利用所述代码虚拟执行环境执行该段程序，以拿到所述数据库中的相应信息；所述答案生成子模块用于利用所述提示词库中的提示词引导所述大语言模型根据所述提问问题以及所述程序执行子模块从所述数据库中拿到的相应信息为所述提问问题生成一段自然语言形式的答案。
7、优选地，所述人机交互窗口包括：
8、问题输入子模块，其用于供用户输入提问问题；
9、解决方案展示子模块，其用于展示所述解决方案准备子模块得到的问题解决方案；
10、程序展示子模块，其用于展示所述程序生成子模块得到的一段程序；
11、程序执行结果展示子模块，其用于展示所述程序执行子模块执行该段程序的结果；
12、答案展示子模块，其用于展示所述答案生成子模块得到的一段自然语言形式的答案。
13、优选地，所述提示词库包括：
14、解决方案提示词子库，其存储有依据所述解决方案为所述大语言模型撰写的解决方案提示词；
15、程序生成提示词子库，其存储有依据所述解决方案为所述大语言模型撰写的程序生成提示词；
16、答案生成提示词子库，其存储有依据所述解决方案为所述大语言模型撰写的答案生成提示词。
17、优选地，所述程序生成子模块在根据所述问题解决方案引导所述大语言模型生成一段程序时，首先判断所述问题解决方案是否在所述解决方案库中，如果所述问题解决方案在所述解决方案库中，则利用所述程序生成提示词子库中的专用于所述问题解决方案的程序生成提示词引导所述大语言模型生成一段程序；如果所述问题解决方案不在所述解决方案库中，则利用所述程序生成提示词子库中的通用程序生成提示词引导所述大语言模型生成一段程序。
18、优选地，所述soapi关系图中的每个节点分别代表一个独立的soapi，节点之间的单向边代表一个soapi耦合嵌套关系，其中，尾节点的输入依赖于头节点的输出。
19、优选地，所述代码虚拟执行环境为python代码虚拟执行环境。
20、此外，本专利技术还提供一种面向应用的大语言模型调用接口方法，其特征在于，其采用了上述面向应用的大语言模型调用接口系统，并包括以下步骤：
21、用户通过所述人机交互窗口输入提问问题；
22、所述解决方案准备子模块基于所述提问问题利用所述提示词库中的提示词引导所述大语言模型参考所述解决方案库中的解决方案为所述提问问题生成一条问题解决方案；
23、所述程序生成子模块根据所述问题解决方案引导所述大语言模型生成一段程序；
24、所述程序执行子模块利用所述代码虚拟环境执行该段程序，以拿到所述数据库中的相应信息；
25、所述答案生成子模块利用所述提示词库中的提示词引导所述大语言模型根据所述提问问题以及所述程序执行子模块从所述数据库中拿到的相应信息为所述提问问题生成一段自然语言形式的答案；
26、通过所述人机交互窗口展示执行结果。
27、优选地，通过所述人机交互窗口展示的执行结果包括所述问题解决方案、程序、程序执行结果和自然语言形式的答案。
28、而且，本专利技术还提供一种面向应用的大语言模型调用接口设备，其特征在于，包括：
29、一个或多个处理器；
30、存储器，用于存储一个或多个程序；
31、当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述面向应用的大语言模型调用接口方法。
32、最后，本专利技术还提供一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如上述面向应用的大语言模型调用接口方法中的步骤。
33、与现有技术相比，本专利技术的面向应用的大语言模型调用接口系统、方法、设备及介质具有如下有益技术效果中的一者或多者：
34、1、本专利技术通过利用预定义的解决本文档来自技高网
...
【技术保护点】
1.一种面向应用的大语言模型调用接口系统，其特征在于，包括：
2.根据权利要求1所述的面向应用的大语言模型调用接口系统，其特征在于，所述人机交互窗口包括：
3.根据权利要求2所述的面向应用的大语言模型调用接口系统，其特征在于，所述提示词库包括：
4.根据权利要求3所述的面向应用的大语言模型调用接口系统，其特征在于，所述程序生成子模块在根据所述问题解决方案引导所述大语言模型生成一段程序时，首先判断所述问题解决方案是否在所述解决方案库中，如果在所述解决方案库中，则利用所述程序生成提示词子库中的专用于所述问题解决方案的程序生成提示词引导所述大语言模型生成一段程序；如果不在所述解决方案库中，则利用所述程序生成提示词子库中的通用程序生成提示词引导所述大语言模型生成一段程序。
5.根据权利要求4所述的面向应用的大语言模型调用接口系统，其特征在于，所述SoAPI关系图中的每个节点分别代表一个独立的SoAPI，节点之间的单向边代表一个SoAPI耦合嵌套关系，其中，尾节点的输入依赖于头节点的输出。
6.根据权利要求5所述的面向应用的大语言模型调用接口系统，其特征在于，所述代码虚拟执行环境为python代码虚拟执行环境。
7.一种面向应用的大语言模型调用接口方法，其特征在于，其采用了权利要求1-6中任一项所述的面向应用的大语言模型调用接口系统，并包括以下步骤：
8.根据权利要求7所述的面向应用的大语言模型调用接口方法，其特征在于，通过所述人机交互窗口展示的执行结果包括所述问题解决方案、程序、程序执行结果和自然语言形式的答案。
9.一种面向应用的大语言模型调用接口设备，其特征在于，包括：
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求7或8所述的面向应用的大语言模型调用接口方法中的步骤。
...
【技术特征摘要】
1.一种面向应用的大语言模型调用接口系统，其特征在于，包括：
2.根据权利要求1所述的面向应用的大语言模型调用接口系统，其特征在于，所述人机交互窗口包括：
3.根据权利要求2所述的面向应用的大语言模型调用接口系统，其特征在于，所述提示词库包括：
4.根据权利要求3所述的面向应用的大语言模型调用接口系统，其特征在于，所述程序生成子模块在根据所述问题解决方案引导所述大语言模型生成一段程序时，首先判断所述问题解决方案是否在所述解决方案库中，如果在所述解决方案库中，则利用所述程序生成提示词子库中的专用于所述问题解决方案的程序生成提示词引导所述大语言模型生成一段程序；如果不在所述解决方案库中，则利用所述程序生成提示词子库中的通用程序生成提示词引导所述大语言模型生成一段程序。
5.根据权利要求4所述的面向应用的大语言模型调用接口系统，其特征在于，所述soapi关系图中的每个节点分...
【专利技术属性】
技术研发人员：张静，王元淳，于济凡，姚子俊，袁会会，
申请(专利权)人：北京智谱华章科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。