大模型幻觉纠正方法、装置、设备、介质及程序产品制造方法及图纸

技术编号:45438337 阅读:11 留言:0更新日期:2025-06-04 19:19
本申请提供一种大模型幻觉纠正方法、装置、设备、介质及程序产品,该大模型幻觉纠正方法包括:将大模型的生成内容进行拆分,得到生成内容包含的各个事实性知识;获取各个事实性知识各自对应的事实性证据;基于各个事实性知识和各个事实性知识各自对应的事实性证据,检测到生成内容中存在幻觉片段的情况下,对生成内容进行纠正,确定大模型的最终输出内容。本申请能够提升大模型输出内容的可靠性。

【技术实现步骤摘要】

本申请涉及人工智能,特别涉及一种大模型幻觉纠正方法、装置、设备、介质及程序产品


技术介绍

1、目前,大模型的应用越发广泛,在知识问答、文本生成、改写润色等方面都有非常重要的价值。幻觉问题降低了大模型在非娱乐性事务上的可用性,限制了大模型的应用范围,正逐渐成为一个亟待解决的难题。

2、大模型幻觉主要指大模型输出内容的事实性幻觉,包括事实的不一致和对事实的捏造。事实不一致指大模型输出内容与现实世界的信息相矛盾,事实捏造指大模型输出内容凭空捏造,无法通过现实世界的信息进行验证。

3、目前,如何纠正大模型幻觉,提升大模型输出内容的可靠性,尤为重要。


技术实现思路

1、本申请提供了一种大模型幻觉纠正方法、装置、设备、介质及程序产品,用以提升大模型输出内容的可靠性。

2、根据本申请实施例的第一方面,提供了一种大模型幻觉纠正方法,包括:

3、将大模型的生成内容进行拆分,得到所述生成内容包含的各个事实性知识;

4、获取各个事实性知识各自对应的事实性证据;

<本文档来自技高网...

【技术保护点】

1.一种大模型幻觉纠正方法,其特征在于,包括:

2.根据权利要求1所述的大模型幻觉纠正方法,其特征在于,所述方法还包括:

3.根据权利要求2所述的大模型幻觉纠正方法,其特征在于,所述对所述生成内容进行纠正,确定大模型的最终输出内容,包括:

4.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述目标事实性知识和所述目标事实性知识对应的目标事实性证据,对所述生成内容进行纠正,获得纠正后内容,包括:

5.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述纠正后内容,确定大模型的最终输出内容,包括:</p>

6.根据...

【技术特征摘要】

1.一种大模型幻觉纠正方法,其特征在于,包括:

2.根据权利要求1所述的大模型幻觉纠正方法,其特征在于,所述方法还包括:

3.根据权利要求2所述的大模型幻觉纠正方法,其特征在于,所述对所述生成内容进行纠正,确定大模型的最终输出内容,包括:

4.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述目标事实性知识和所述目标事实性知识对应的目标事实性证据,对所述生成内容进行纠正,获得纠正后内容,包括:

5.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述纠正后内容,确定大模型的最终输出内容,包括:

6.根据权利要求2所述的大模...

【专利技术属性】
技术研发人员:王士进胡梦玲李亚刘权刘聪胡国平伍大勇
申请(专利权)人:科大讯飞股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1