【技术实现步骤摘要】
本申请涉及大语言模型，尤其涉及一种解决大型语言模型幻觉问题的方法和系统。
技术介绍
1、幻觉问题是大型语言模型(large language models，llms)在实际应用过程中无法回避的关键挑战之一。幻觉问题，是指大型语言模型在生成内容时，出现与已有知识库无关或偏离现实的情况，甚至生成违背常识的错误信息。这些问题生成的内容看似合理，但实质上与用户输入、前后文或事实知识不符，导致生成结果的可信度降低，削弱了llms在真实场景下的可靠性。解决幻觉问题是当前大语言模型
的技术挑战。现有技术中解决幻觉问题大多针对单一任务进行设计，在处理特定任务时能够减少幻觉现象，但缺点在于难以延伸至不同问题类型的任务，导致产生的结果存在幻觉问题。申请号为202410026756.7的专利技术专利公开的一种解决大型语言模型幻觉问题的系统和方法，通过两次关联检索，以及跟踪和验证，提高结果的真实性和准确性，降低幻觉问题。但该专利技术的缺点在于关联检索仅在同一个llm内，导致二次检索和验证的溯源内容一样，验证的可信度较低。如何在检索过程中确保验证结果的准确...
【技术保护点】
1.一种解决大型语言模型幻觉问题的方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述在第二大型语言模型中对所述基本响应进行基于提示词工程和上下文学习的类型判断和验证，生成验证问题和验证结果，包括步骤：
3.根据权利要求2所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述问题类型包括事实性问题、多项选择问题、长文本问题。
4.根据权利要求2所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述提示词工程包括针对不同类型的数据库的提示词模板，包括实体模板、句子模板和
...【技术特征摘要】
1.一种解决大型语言模型幻觉问题的方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述在第二大型语言模型中对所述基本响应进行基于提示词工程和上下文学习的类型判断和验证，生成验证问题和验证结果，包括步骤：
3.根据权利要求2所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述问题类型包括事实性问题、多项选择问题、长文本问题。
4.根据权利要求2所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述提示词工程包括针对不同类型的数据库的提示词模板，包括实体模板、句子模板和长文本模板。
5.根据权利要求4所述的一种解决大型语言模型幻觉问题的方法，其特征在于，所述基于所述提示词工程，根据所述初始问题和所述基本响应，判断问题类型，生成验证问题清单，包括：
6.根据权利要求2所述...
【专利技术属性】
技术研发人员：林泽腾，唐靖，张佳磊，李俊伟，左希昂，许鹏，陈骁，
申请(专利权)人：香港科技大学广州，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。