场景问题回复方法、装置、设备、存储介质及程序产品制造方法及图纸

技术编号:43924947 阅读:17 留言:0更新日期:2025-01-03 13:29
本申请公开了一种场景问题回复方法、装置、设备、存储介质及程序产品,涉及自然语言处理技术领域,所述场景问题回复方法包括:获取目标场景问题;基于预设的向量库和预先训练的接口参数提取模型,根据所述目标场景问题,获取相应的插件接口参数;根据所述插件接口参数,调用相应的插件接口,生成场景问题回答结果。本申请中,接口参数提取模型不使用用户数据进行训练,通过插件接口参数可以直接调用相应的插件接口,不需要进行工具选择的推理规划,因此,解决了现有技术中数据安全性差和问题回复的准确性低的问题,提高了数据安全性和问题回复的准确性。

【技术实现步骤摘要】

本申请涉及自然语言处理,尤其涉及一种场景问题回复方法、装置、设备、存储介质及程序产品


技术介绍

1、目前多场景业务查询的智能问答通常有以下两种方式:

2、1)一种是基于大语言模型的问题应答方法,该方法首先输入目标问题,其次对目标问题进行向量化处理,得到问题向量,然后基于问题向量,在预设的文档向量数据库中进行检索,得到与问题向量匹配的相关文档,最后基于目标问题检索得到的相关文档生成用于大语言模型的提示信息,并将提示信息输入大语言模型中,得到目标问题对应的答案。

3、2)通过大模型的ai agent作为推理引擎,来确定根据当前的场景要选择哪些工具,以及工具使用后获取的信息再决定下一步的动作,最终得到问题对应的答案。

4、然而,通过基于大语言模型的问题应答方法获取到的答案,是可以通过大量企业文档训练大模型而得到,而企业文档中的用户数据可能是企业内部敏感私有数据,不能直接通过大模型训练得到,数据安全性差;而ai agent应用需要使用function call来实现推理,对于模型的要求很高,必须有比较强的规划能力,且需要支持f本文档来自技高网...

【技术保护点】

1.一种场景问题回复方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述基于预设的向量库和预先训练的接口参数提取模型,根据所述目标场景问题,获取相应的插件接口参数的步骤包括:

3.如权利要求2所述的方法,其特征在于,所述将所述目标标准问题向量和提示信息输入所述接口参数提取模型,获得所述插件接口参数的步骤之前还包括:

4.如权利要求3所述的方法,其特征在于,所述基于预设的相似度算法,对所述目标场景问题向量与所述向量库中的标准问题向量进行匹配,获得目标标准问题向量的步骤之前还包括:

5.如权利要求2所述的方法,其特征在...

【技术特征摘要】

1.一种场景问题回复方法,其特征在于,所述方法包括:

2.如权利要求1所述的方法,其特征在于,所述基于预设的向量库和预先训练的接口参数提取模型,根据所述目标场景问题,获取相应的插件接口参数的步骤包括:

3.如权利要求2所述的方法,其特征在于,所述将所述目标标准问题向量和提示信息输入所述接口参数提取模型,获得所述插件接口参数的步骤之前还包括:

4.如权利要求3所述的方法,其特征在于,所述基于预设的相似度算法,对所述目标场景问题向量与所述向量库中的标准问题向量进行匹配,获得目标标准问题向量的步骤之前还包括:

5.如权利要求2所述的方法,其特征在于,所述基于预设的相似度算法,对所述目标场景问题向量与所述向量库中的标准问题向量进行匹配,获得目标标准问题向量的步骤包括:

6.如权利要求1所...

【专利技术属性】
技术研发人员:钟欣武振兴王希子赵旭光
申请(专利权)人:招商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1