基于外部知识库的大模型决策方法和装置制造方法及图纸

技术编号:44915610 阅读:29 留言:0更新日期:2025-04-08 18:58
本发明专利技术提供一种基于外部知识库的大模型决策方法和装置,包括:将输入问题输入至预先构建的决策大模型中,得到假设性回应;将所述输入问题和所述假设性回应分别进行向量化,得到输入问题向量和假设性回应向量;利用所述输入问题向量、所述假设性回应向量,根据相似度在目标向量数据库中进行共同搜索,根据所述相似度从所述目标向量数据库中取出最相似的结果文档;根据结果文档生成增强提示,将所述增强提示和所述输入问题输入至所述决策大模型,得到目标问题响应。本发明专利技术将外部知识库中的私域数据置入目标向量数据库,在生成决策流程的过程中,根据用户的输入从目标向量数据库中检索相关的知识,从而辅助决策大模型生成更加准确和相关的响应。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种基于外部知识库的大模型决策方法和装置


技术介绍

1、随着人工智能的蓬勃发展,个人、组织、企业想依托人工智能技术做出更合理的决策的需求日益强烈。随着深度学习技术的快速发展,尤其是神经网络模型的进步,自然语言处理领域取得了显著的成果。深度学习通过模拟人脑神经网络的结构和功能,实现对数据的高效处理和学习。

2、然而,由于模型自身的知识完全源于它的训练数据,传统的问答系统往往只能基于大模型训练的数据给出回答,无法满足用户对于特定领域问答的需求。举例来说,现有的主流大模型(chatgpt、文心一言、通义千问…)的训练集基本都是构建于网络公开的数据,无法获取一些实时性的、非公开的或离线的数据,也就无法对实时性的、非公开的或离线数据相关的内容进行有效回答。

3、此外,由于现有的ai模型的底层原理都是基于数学概率,其模型输出实质上是一系列数值运算。在大模型自身不具备某一方面的知识或不擅长的场景的情况下,大模型的输出极大可能存在幻觉问题。而这种幻觉问题的区分要求使用者自身具备相应领域的知识,实现门槛较高。

本文档来自技高网...

【技术保护点】

1.一种基于外部知识库的大模型决策方法,其特征在于,包括:

2.根据权利要求1所述的基于外部知识库的大模型决策方法,其特征在于,所述根据结果文档生成增强提示,将所述增强提示和所述输入问题输入至所述决策大模型,得到目标问题响应,之后还包括:

3.根据权利要求1所述的基于外部知识库的大模型决策方法,其特征在于,对私域数据进行文本分割、向量化、分层索引生成并存入预设向量数据库后得到所述目标向量数据库,具体包括:

4.根据权利要求3所述的基于外部知识库的大模型决策方法,其特征在于,所述利用所述输入问题向量、所述假设性回应向量,根据相似度在目标向量数据库中进行共...

【技术特征摘要】

1.一种基于外部知识库的大模型决策方法,其特征在于,包括:

2.根据权利要求1所述的基于外部知识库的大模型决策方法,其特征在于,所述根据结果文档生成增强提示,将所述增强提示和所述输入问题输入至所述决策大模型,得到目标问题响应,之后还包括:

3.根据权利要求1所述的基于外部知识库的大模型决策方法,其特征在于,对私域数据进行文本分割、向量化、分层索引生成并存入预设向量数据库后得到所述目标向量数据库,具体包括:

4.根据权利要求3所述的基于外部知识库的大模型决策方法,其特征在于,所述利用所述输入问题向量、所述假设性回应向量,根据相似度在目标向量数据库中进行共同搜索,根据所述相似度从所述目标向量数据库中取出最相似的结果文档,具体包括:

5.根据权利要求1所述的基于外部知识库的大模型决策方法,其特征在于,在所述输入问题包括多个子任务的情况下,所...

【专利技术属性】
技术研发人员:路圣汉苑高龙宋秉徽高志平
申请(专利权)人:北京汉勃科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1