【技术实现步骤摘要】
本申请涉及计算机，特别是涉及一种大模型幻觉检测方法、装置、计算机设备及存储介质。
技术介绍
1、目前，以chatgpt（一种语言生成模型）为代表的生成式大模型（也称大模型）展示了接近人类的上下文语义理解能力和文本生成能力，而幻觉问题是阻碍大模型大规模落地应用的障碍。幻觉是指大模型生成的不真实或者不符合输入的内容。以往较小规模的生成模型也可能产生幻觉，小模型的幻觉通常表现为生成无意义的内容或胡言乱语，这类幻觉使用者可以人为辨别。而大模型的幻觉通常是生成了符合语法逻辑、但细节可能是不符合事实或者与输入不符的内容，这类幻觉难以辨别，将存在幻觉问题的大模型应用于医学、银行、金融、法律和临床等关键任务领域，可能产生严重的后果。
技术实现思路
1、基于此，有必要针对上述技术问题，提供一种大模型幻觉检测方法、装置、计算机设备和计算机可读存储介质，能够解决大模型的幻觉难以辨别的问题。
2、第一方面，本申请提供了一种大模型幻觉检测方法。所述方法包括：
3、获取大模型生成的文本数据；<...
【技术保护点】
1.一种大模型幻觉检测方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述对所述文本数据进行解析，得到标准事件，包括：
3.根据权利要求2所述的方法，其特征在于，所述通过预设编码器对所述文本数据进行编码，得到固定长度的特征表示，包括：
4.根据权利要求2所述的方法，其特征在于，所述通过预设解码器对所述固定长度的特征表示进行解码，得到标准事件，包括：
5.根据权利要求1所述的方法，其特征在于，所述根据所述查询结果对所述标准事件进行检验，得到大模型幻觉检测结果之后，所述方法还包括：
6...
【技术特征摘要】
1.一种大模型幻觉检测方法，其特征在于，所述方法包括：
2.根据权利要求1所述的方法，其特征在于，所述对所述文本数据进行解析，得到标准事件，包括：
3.根据权利要求2所述的方法，其特征在于，所述通过预设编码器对所述文本数据进行编码，得到固定长度的特征表示，包括：
4.根据权利要求2所述的方法，其特征在于，所述通过预设解码器对所述固定长度的特征表示进行解码，得到标准事件，包括：
5.根据权利要求1所述的方法，其特征在于，所述根据所述查询结果对所述标准事件进行检验，得到大模型幻觉检测结果之后，所述方法还包括：
6.根据权利要求1所述的方法...
【专利技术属性】
技术研发人员：张健，
申请(专利权)人：马上消费金融股份有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。