大模型插件调用方法技术

本公开提供了一种大模型插件调用方法

【技术实现步骤摘要】
大模型插件调用方法、装置、设备及介质


[0001]本公开涉及大模型领域，具体涉及人工智能
、
大语言模型和人机交互领域，尤其涉及一种大模型插件调用方法
、
装置
、
设备及介质
。

技术介绍

[0002]近年来，大语言模型的理解和生成能力大幅提升，其应用领域也得到了广泛的扩展
。
[0003]大型语言模型
(LLM
，
Large Language Model)
，其本质是生成式模型，是指使用大量文本数据训练的深度学习模型，可以理解语言文本的含义，并生成符合用户意图的内容，例如，执行任务
、
进行人机对话
、
问题解答和图像生成等
。

技术实现思路

[0004]本公开提供了一种大模型插件调用方法
、
装置
、
设备及介质
。
[0005]根据本公开的一方面，提供了一种大模型插件调用方法，包括：
[0006]获取自然语言内容；
[0007]对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件；
[0008]根据所述命中插件和所述自然语言内容，确定语言理解内容；
[0009]将所述语言理解内容发送至大语言模型中，得到所述命中插件的输入参数的参数值；
[0010]根据所述命中插件的输入参数的参数值，调用所述命中插件，得到调用结果
。
[0011]根据本公开的一方面，提供了一种大模型插件调用装置，包括：
[0012]自然语言内容获取模块，用于获取自然语言内容；
[0013]插件匹配模块，用于对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件；
[0014]理解内容确定模块，用于根据所述命中插件和所述自然语言内容，确定语言理解内容；
[0015]输入参数检测模块，用于将所述语言理解内容发送至大语言模型中，得到所述命中插件的输入参数的参数值；
[0016]插件调用模块，用于根据所述命中插件的输入参数的参数值，调用所述命中插件，得到调用结果
。
[0017]根据本公开的另一方面，提供了一种电子设备，包括：
[0018]至少一个处理器；以及
[0019]与所述至少一个处理器通信连接的存储器；其中，
[0020]所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开任一实施例所述的大模型插件调用方法
。
[0021]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开任一实施例所述的大模型插件调用方法
。
[0022]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本公开任一实施例所述的大模型插件调用方法
。
[0023]本公开实施例可以提高大语言模型的通用性
。
[0024]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围
。
本公开的其它特征将通过以下的说明书而变得容易理解
。
附图说明
[0025]附图用于更好地理解本方案，不构成对本公开的限定
。
其中：
[0026]图1是根据本公开实施例公开的一种大模型插件调用方法的流程图；
[0027]图2是根据本公开实施例公开的另一种大模型插件调用方法的流程图；
[0028]图3是根据本公开实施例公开的另一种大模型插件调用方法的流程图；
[0029]图4是根据本公开实施例公开的一种大模型插件调用方法的场景图；
[0030]图5是根据本公开实施例公开的一种大模型插件调用方法的场景图；
[0031]图6是根据本公开实施例公开的大模型插件调用装置的结构示意图；
[0032]图7是根据本公开实施例公开的大模型插件调用方法的电子设备的框图
。
具体实施方式
[0033]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的
。
因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神
。
同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述
。
[0034]图1是根据本公开实施例公开的一种大模型插件调用方法的流程图，本实施例可以适用于为大语言模型扩展插件的情况
。
本实施例方法可以由大模型插件调用装置来执行，该装置可采用软件和
/
或硬件的方式实现，并具体配置于具有一定数据运算能力的电子设备中，该电子设备可以是客户端设备或服务器设备，客户端设备例如手机
、
平板电脑
、
车载终端和台式电脑等
。
[0035]执行本公开实施例提供的大模型插件调用方法的装置或者系统，位于大语言模型和插件之间，用于建立插件与大语言模型之间的桥梁，能够将任意的插件对接到任意功能的大语言模型上
。
执行本公开实施例提供的大模型插件调用方法的装置或者系统可以通过应用程序接口
(Application Programming Interface
，
API)
与插件进行交互，以及通过
API
与客户端进行交互，获取客户端发送的用户所提供的自然语言内容
。
[0036]S101、
获取自然语言内容
。
[0037]自然语言内容可以是指用户在人机交互过程中输入的自然语言内容
。
自然语言内容可以理解为为了调用大语言模型实现需求的功能，用户所提供的包含用户意图的内容
。
其中，用户可以以文本
、
图像
、
语音或视频等至少一个类型的方式输入数据，对直接输入的数据进行识别，得到自然语言内容
。
客户端可以接收用户输入数据，并发送至本公开实施例
的电子设备，该电子设备根据输入数据获取自然语言内容
。
[0038]S102、
对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件
。
[0039]语义理解用于识别出自然语言内容中用户意图
。
命中插件可以是指实现用户意图的功能的插件，该用户意图通过自然语言内容识别得到
。
其中，命中插件的数量可以为至少一个
。
可以逐一针对命中插件进行输入参数检测和调用
。
可以对自然语言内容进行语本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种大模型插件调用方法，包括：获取自然语言内容；对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件；根据所述命中插件和所述自然语言内容，确定语言理解内容；将所述语言理解内容发送至大语言模型中，得到所述命中插件的输入参数的参数值；根据所述命中插件的输入参数的参数值，调用所述命中插件，得到调用结果
。2.
根据权利要求1所述的方法，其中，所述根据所述命中插件和所述自然语言内容，确定语言理解内容，包括：获取所述命中插件对应的提示模板；所述命中插件对应的提示模板包括所述命中插件对应的输入参数；将所述自然语言内容与所述命中插件对应的提示模板进行组合，得到语言理解内容
。3.
根据权利要求2所述的方法，还包括：获取备选插件的描述信息；从所述备选插件的描述信息中提取所述备选插件的输入参数；将所述备选插件的输入参数与插件通用模板进行组合，得到所述备选插件对应的提示模板
。4.
根据权利要求1所述的方法，其中，所述得到所述命中插件的输入参数的参数值，包括：在确定所述命中插件的当前的输入参数收集缺失的情况下，获取所述大语言模型反馈的对话内容，并反馈给用户，以提示所述用户提供所述命中插件的输入参数的参数值；获取所述用户提供的新的自然语言内容；基于所述新的自然语言内容，确定新的语言理解内容，并发送至所述大语言模型；在确定所述命中插件的当前的输入参数收集完成的情况下，获取所述大语言模型反馈的所述命中插件的输入参数的参数值
。5.
根据权利要求4所述的方法，其中，所述获取所述大语言模型反馈的所述命中插件的输入参数的参数值，包括：根据所述命中插件的描述信息，对所述大语言模型反馈的输入参数以及参数值进行校验；响应于校验失败的事件，将所述语言理解内容发送至所述大语言模型，得到新的输入参数以及新的参数值，对所述大语言模型反馈的输入参数以及参数值进行校验；响应于校验成功的事件，得到所述命中插件的输入参数的参数值
。6.
根据权利要求4所述的方法，其中，所述基于所述新的自然语言内容，确定新的语言理解内容，包括：将所述新的自然语言内容添加到所述语言理解内容中，得到新的语言理解内容
。7.
根据权利要求1所述的方法，其中，所述对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件，包括：获取预先注册的备选插件的描述信息；根据各所述备选插件的描述信息和所述自然语言内容，确定所述自然语言内容命中的命中插件
。
8.
根据权利要求7所述的方法，其中，所述根据各所述备选插件的描述信息和所述自然语言内容，确定所述自然语言内容命中的命中插件，包括：将所述自然语言内容输入到预先训练的意图识别模型中，得到所述意图识别模型输出的命中插件的标识信息；其中，所述意图识别模型用于通过所述自然语言内容
、
预先注册的各所述备选插件的描述信息和各所述备选插件注册的标识信息，确定与所述自然语言内容对应的标识信息
。9.
根据权利要求1所述的方法，还包括：将所述调用结果发送至所述大语言模型中，得到调用回复内容；将所述调用结果和所述调用回复内容进行反馈
。10.
根据权利要求9所述的方法，其中，所述将所述调用结果发送至所述大语言模型中，得到调用回复内容，包括：获取所述命中插件对应的回复模板；将所述调用结果与所述命中插件对应的回复模板进行组合，得到回复理解内容；将所述回复理解内容发送至所述大语言模型中，得到调用回复内容
。11.
一种大模型插件调用装置，包括：自然语言内容获取模块，用于获取自然语言内容；插件匹配模块，用于对所述自然语言内容进行语义理解，确定所述自然语言内容命中的命中插件；理解内容确定模块，用于根据所述命中插件和所述自然语言内容，确定语言理解内容；输入参数检测模块，用于将所述语言理解内容发送至大语言模型中，得到所述命中插件的输入参数的参数值；插件调用模块，用于根据所述命中插件的输入参数的参数值，调用所述命中插件，得到调用结果
。12.
根据权利要求
11
所述的装置，其中，所述理解内容确定模块，包括：输入参数检测单元，用于获取所述命中插件对应的提示模板；所述命中插件对应的提示模板包括所述命...

【专利技术属性】
技术研发人员：谢永康，高古明，赵鹏昊，熊雪，王倩，徐东泽，施恩，李雨轩，周胜，李曙鹏，王耀，忻舟，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：