System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 智能问答方法、装置、存储介质和智能设备制造方法及图纸_技高网

智能问答方法、装置、存储介质和智能设备制造方法及图纸

技术编号:42091229 阅读:21 留言:0更新日期:2024-07-19 17:05
本申请适用于人工智能技术领域,提供了一种智能问答方法、装置、存储介质和智能设备,所述方法包括:将用户问题进行向量化处理,得到所述用户问题对应的向量;基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表;利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表;根据所述用户问题与预设提示语模板,构建提示语;将所述提示语与所述目标参考列表输入至大语言模型,引导所述大语言模型基于所述提示语与所述目标参考列表,生成所述用户问题的目标答复结果。本申请可优化检索结果,提升问题与检索段落匹配的准确性,提高大模型回答的准确性与效率。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种智能问答方法、装置、存储介质和智能设备


技术介绍

1、大语言模型是人工智能领域的一项重要技术,它通过训练大规模的语料库,使计算机能够理解和生成自然语言。近年来,基于大语言模型的智能问答应用逐渐成为研究热点,其中,检索增强生成(retrieval-augmented generation,rag)技术是一种重要的实现方法。rag技术是一种结合了检索和生成的问答方法。它主要通过检索机制找到与问题相关的段落,然后利用这些段落的信息来生成回答。

2、基于rag和大规模语言模型(llm)的智能问答应存在一些不足之处,例如,由于文本数据的复杂性和多样性,检索到的与问题相关的段落可能多且冗余,问题与检索段落的匹配准确性不高,这易导致大模型回答的准确性与效率下降。

3、鉴于此,如何优化检索结果,提升问题与检索段落匹配的准确性,提高大模型回答的准确性与效率,是当前亟需解决的问题。


技术实现思路

1、本申请实施例提供了一种智能问答方法、装置、存储介质和智能设备,可以优化检索结果,提升问题与检索段落匹配的准确性,从而提高大模型回答的准确性与效率。

2、第一方面,本申请实施例提供了一种智能问答方法,包括:

3、将用户问题进行向量化处理,得到所述用户问题对应的向量;

4、基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表;

5、利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表;

6、根据所述用户问题与预设提示语模板,构建提示语;

7、将所述提示语与所述目标参考列表输入至大语言模型,引导所述大语言模型基于所述提示语与所述目标参考列表,生成所述用户问题的目标答复结果。

8、在第一方面的一种可能的实现方式中,所述基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表的步骤,包括:

9、计算所述用户问题对应的向量与所述预设向量数据库中参考向量的相似度;

10、根据所述相似度对所述预设向量数据库中的参考向量进行筛选,并基于筛选保留的参考向量生成候选参考列表。

11、在第一方面的一种可能的实现方式中,所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤,包括:

12、根据所述用户问题与所述参考向量对应的参考资料,构建文本对集合,其中,所述文本对集合中的文本对包括所述用户问题与一条所述参考资料;

13、将所述文本对集合中的文本对输入至所述预设排序模型,得到每一文本对对应的语义相似度评分;

14、基于所述语义相似度评分对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表。

15、在第一方面的一种可能的实现方式中,在所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤之前,包括:

16、构建深度学习模型,所述深度学习模型用于进行文本语义相似度评分;

17、利用样本数据集与预设损失函数训练所述深度学习模型,训练完成后得到所述预设排序模型。

18、在第一方面的一种可能的实现方式中,所述预设损失函数的计算式如下:

19、

20、其中,y表示所述样本数据集中样本的真实标签,y'表示所述深度学习模型的输出,n表示所述样本数据集中的样本数量,i用于标识样本序号。

21、在第一方面的一种可能的实现方式中,在所述将所述提示语与所述目标参考列表输入至大语言模型的步骤之前,还包括:

22、按预设去重算法对所述目标参考列表中的参考资料进行去重处理。

23、第二方面,本申请实施例提供了一种智能问答装置,包括:

24、数据处理单元,用于将用户问题进行向量化处理,得到所述用户问题对应的向量;

25、第一列表生成单元,用于基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表;

26、第二列表生成单元,用于利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表;

27、提示语构建单元,用于根据所述用户问题与预设提示语模板,构建提示语;

28、智能问答单元,用于将所述提示语与所述目标参考列表输入至大语言模型,引导所述大语言模型基于所述提示语与所述目标参考列表,生成所述用户问题的目标答复结果。

29、第三方面,本申请实施例提供了一种智能设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上述第一方面所述的智能问答方法。

30、第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的智能问答方法。

31、第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在智能设备上运行时,使得智能设备执行如上述第一方面所述的智能问答方法。

32、本申请实施例中,通过将用户问题进行向量化处理,得到所述用户问题对应的向量,然后基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表,还利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表,再根据所述用户问题与预设提示语模板,构建提示语,最后再将所述提示语与所述目标参考列表输入至大语言模型,引导所述大语言模型基于所述提示语与所述目标参考列表,生成所述用户问题的目标答复结果。本申请利用向量筛选与问题最接近的检索段落,优化检索结果,提升问题与检索段落匹配的准确性,通过重排序可提高相关检索段落的排序,从而提高大模型回答的准确性与效率,增强用户体验。

本文档来自技高网...

【技术保护点】

1.一种智能问答方法,其特征在于,包括:

2.根据权利要求1所述的智能问答方法,其特征在于,所述基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表的步骤,包括:

3.根据权利要求1所述的智能问答方法,其特征在于,所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤,包括:

4.根据权利要求1所述的智能问答方法,其特征在于,在所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤之前,包括:

5.根据权利要求4所述的智能问答方法,其特征在于,所述预设损失函数的计算式如下:

6.根据权利要求1至5任一项所述的智能问答方法,其特征在于,在所述将所述提示语与所述目标参考列表输入至大语言模型的步骤之前,还包括:

7.一种智能问答装置,其特征在于,包括:

8.根据权利要求7所述的智能问答装置,其特征在于,所述智能问答装置还包括:

9.一种智能设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述的智能问答方法。

10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的智能问答方法。

...

【技术特征摘要】

1.一种智能问答方法,其特征在于,包括:

2.根据权利要求1所述的智能问答方法,其特征在于,所述基于所述用户问题对应的向量,对预设向量数据库中的参考向量进行筛选,生成候选参考列表的步骤,包括:

3.根据权利要求1所述的智能问答方法,其特征在于,所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤,包括:

4.根据权利要求1所述的智能问答方法,其特征在于,在所述利用预设排序模型对所述候选参考列表中参考向量对应的参考资料进行重排序,得到目标参考列表的步骤之前,包括:

5.根据权利要求4所述的智能问答方法,其特征在于,所述预设损失函数的计算式如下:

...

【专利技术属性】
技术研发人员:赵洋陈龙包荣鑫王童萱林晓绿赵俐怡
申请(专利权)人:深圳价值在线信息科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1