一种智能问答的错误检测方法、装置、设备及介质制造方法及图纸

技术编号:44143670 阅读:13 留言:0更新日期:2025-01-29 10:19
本发明专利技术涉及人工智能领域,公开了一种智能问答的错误检测方法、装置、设备及介质,包括:获取问答机器人基于原始用户提问生成的原始回答,作为待检测事实;根据所述待检测事实生成至少一个跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答;根据所述跟进问题、对应的回答以及所述待检测事实进行一致性验证;根据一致性验证结果对所述待检测事实进行错误检测,并输出相应的错误检测结果。通过对问答机器人生成的事实进行跟进问答,并且对跟进问答交互结果与事实进行一致性校验,从而有效地实现零样本事实错误检测,提高对问答机器人进行事实错误检测的效率和可靠性,从而为用户提供更可靠的信息服务。

【技术实现步骤摘要】

本专利技术涉及人工智能及金融科技领域,尤其涉及一种智能问答的错误检测方法、装置、设备及介质


技术介绍

1、目前,金融领域中基于大语言模型的问答机器人应用越来越广泛,问答机器人是一种基于人工智能技术的智能对话系统,通过识别、理解和分析用户提出的问题,然后运用知识图谱、语义计算等技术,从海量数据中筛选出相关信息,最终生成简洁明了的回答,通过人机交互界面为用户提供自动化的金融问答服务。

2、然而,大语言模型都存在一个普遍的现象就是幻觉,幻觉指的是大语言模型生成了看似合理但不正确或与提问不相关的内容,在准确率要求非常高的金融场景下,问答机器人的幻觉是不可接受的,因此需要对生成的回答进行事实错误检测。

3、现有的事实错误检测方法通常依赖于大量的标注数据和复杂的模型结构,这在处理大规模数据时计算成本较高,且对于新颖领域的适应能力较弱,从而影响金融领域内对问答服务进行事实错误检测的效率和可靠性。


技术实现思路

1、鉴于上述现有技术的不足,本专利技术的目的在于提供可应用于金融科技或其它相关领域的一种本文档来自技高网...

【技术保护点】

1.一种智能问答的错误检测方法,其特征在于,包括:

2.根据权利要求1所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实生成至少一个跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:

3.根据权利要求2所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实不满足的评估指标生成相应的跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:

4.根据权利要求2所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实不满足的评估指标生成相应的跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:...

【技术特征摘要】

1.一种智能问答的错误检测方法,其特征在于,包括:

2.根据权利要求1所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实生成至少一个跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:

3.根据权利要求2所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实不满足的评估指标生成相应的跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:

4.根据权利要求2所述的智能问答的错误检测方法,其特征在于,所述根据所述待检测事实不满足的评估指标生成相应的跟进问题,并接收所述问答机器人基于所述跟进问题生成的回答,包括:

5.根据权利要求1所述的智能问答的错误检测方法,其特征在于,所述根据所述跟进问题、对应的回答以及所述待...

【专利技术属性】
技术研发人员:凌天东程宁王健宗
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1