插件调用方法、装置、设备及存储介质制造方法及图纸

技术编号:43616347 阅读:23 留言:0更新日期:2024-12-11 14:58
本公开涉及一种插件调用方法、装置、设备及存储介质。响应于用户的第一提问信息,判断数据库中是否存在与第一提问信息匹配的目标记忆数据,数据库用于存储多条记忆数据,记忆数据包括历史提问信息以及与历史提问信息对应的第二插件调用信息;若数据库中存在目标记忆数据,则基于目标记忆数据确定与第一提问信息对应的第一插件调用信息。由此,可以在低延时的同时解决一致性问题和反馈时效问题,提升用户使用体验。

【技术实现步骤摘要】

本公开涉及计算机,特别是涉及一种插件调用方法、装置、设备及存储介质


技术介绍

1、随着大语言模型(large language model,llm)技术的不断发展,如何在工程化场景下自动应用大语言模型来解决问题成为技术焦点。大语言模型本身缺乏执行动作或主动获取信息的能力,因此需要借助插件(plugins)来执行标准化的工程任务,如天气查询任务、酒店预定任务。在这一背景下,openai chatgpt推出了插件机制。

2、在实际工程化场景中,往往需要同时启用多个插件,特别是多个可能具有相似功能的插件。而这需要根据用户的提问来选择相应合适的插件,并补充相应的参数。

3、现有方案往往利用大模型选择意图识别和参数抽取prompt并构建应用流程。以上过程面临着准确率、效率两方面的挑战。从准确率的角度来说,在较为复杂的实际工程化场景下,往往存在大模型难以解决的难度较高的意图识别或参数抽取问题,例如存在大量相似意图、参数含义接近或嵌套等。对于类似场景,大模型往往不能准确的完成任务,需要借助其他手段来解决问题,限制了应用的灵活性和拓展性。从效率的本文档来自技高网...

【技术保护点】

1.一种插件调用方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在判断数据库中是否存在与所述第一提问信息匹配的目标记忆数据之前,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,针对所述第一提问信息从所述数据库中选取部分记忆数据,包括:从所述数据库中选取符合如下条件的记忆数据:

4.根据权利要求1所述的方法,其特征在于,判断数据库中是否存在与所述第一提问信息匹配的目标记忆数据,包括:

5.根据权利要求4所述的方法,其特征在于,判断数据库中是否存在与所述第一提问信息匹配的目标记忆数据,还包括:

6.根...

【技术特征摘要】

1.一种插件调用方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,在判断数据库中是否存在与所述第一提问信息匹配的目标记忆数据之前,所述方法还包括:

3.根据权利要求2所述的方法,其特征在于,针对所述第一提问信息从所述数据库中选取部分记忆数据,包括:从所述数据库中选取符合如下条件的记忆数据:

4.根据权利要求1所述的方法,其特征在于,判断数据库中是否存在与所述第一提问信息匹配的目标记忆数据,包括:

5.根据权利要求4所述的方法,其特征在于,判断数据库中是否存在与所述第一...

【专利技术属性】
技术研发人员:殷嘉俊
申请(专利权)人:第四范式北京技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1