【技术实现步骤摘要】
本申请涉及人工智能,特别涉及一种大模型幻觉纠正方法、装置、设备、介质及程序产品。
技术介绍
1、目前,大模型的应用越发广泛,在知识问答、文本生成、改写润色等方面都有非常重要的价值。幻觉问题降低了大模型在非娱乐性事务上的可用性,限制了大模型的应用范围,正逐渐成为一个亟待解决的难题。
2、大模型幻觉主要指大模型输出内容的事实性幻觉,包括事实的不一致和对事实的捏造。事实不一致指大模型输出内容与现实世界的信息相矛盾,事实捏造指大模型输出内容凭空捏造,无法通过现实世界的信息进行验证。
3、目前,如何纠正大模型幻觉,提升大模型输出内容的可靠性,尤为重要。
技术实现思路
1、本申请提供了一种大模型幻觉纠正方法、装置、设备、介质及程序产品,用以提升大模型输出内容的可靠性。
2、根据本申请实施例的第一方面,提供了一种大模型幻觉纠正方法,包括:
3、将大模型的生成内容进行拆分,得到所述生成内容包含的各个事实性知识;
4、获取各个事实性知识各自对应的事
<本文档来自技高网...【技术保护点】
1.一种大模型幻觉纠正方法,其特征在于,包括:
2.根据权利要求1所述的大模型幻觉纠正方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的大模型幻觉纠正方法,其特征在于,所述对所述生成内容进行纠正,确定大模型的最终输出内容,包括:
4.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述目标事实性知识和所述目标事实性知识对应的目标事实性证据,对所述生成内容进行纠正,获得纠正后内容,包括:
5.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述纠正后内容,确定大模型的最终输出内容,包括:<
...【技术特征摘要】
1.一种大模型幻觉纠正方法,其特征在于,包括:
2.根据权利要求1所述的大模型幻觉纠正方法,其特征在于,所述方法还包括:
3.根据权利要求2所述的大模型幻觉纠正方法,其特征在于,所述对所述生成内容进行纠正,确定大模型的最终输出内容,包括:
4.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述目标事实性知识和所述目标事实性知识对应的目标事实性证据,对所述生成内容进行纠正,获得纠正后内容,包括:
5.根据权利要求3所述的大模型幻觉纠正方法,其特征在于,所述基于所述纠正后内容,确定大模型的最终输出内容,包括:
6.根据权利要求2所述的大模...
【专利技术属性】
技术研发人员:王士进,胡梦玲,李亚,刘权,刘聪,胡国平,伍大勇,
申请(专利权)人:科大讯飞股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。