当前位置: 首页 > 专利查询>之江实验室专利>正文

一种基于知识图谱的增强大模型推理的方法、装置及设备制造方法及图纸

技术编号:43417549 阅读:14 留言:0更新日期:2024-11-22 17:52
本说明书提供了一种基于知识图谱的增强大模型推理的方法、装置及设备,通过根据确定的输入大模型的输入文本中的输入实体,以及预测的该输入实体与问题答案之间的目标关系,从预设的知识图谱库中,确定匹配的匹配节点以及目标路径。然后,根据匹配节点以及目标路径确定提示路径,以根据提示路径构建子图,确定用于描述匹配节点的提示文本,并输入大模型。在为大模型补充了有效知识的同时,避免了由于输入的文本较多而超出大模型的窗口限制,也减少了输入大模型的噪声,提高了大模型推理答案的准确率,减小了“幻觉”的出现。

【技术实现步骤摘要】

本说明书涉及大模型领域,尤其涉及一种基于知识图谱的增强大模型推理的方法、装置及设备


技术介绍

1、随着大模型技术的发展,大模型在多个领域都展现了其强大的功能,如自然语言处理、计算机视觉分析等。但是,由于大模型通常基于统计概率来生成文本,导致大模型在基于输入的文本生成输出文本时,若缺乏外部的知识来源,该大模型无法验证生成内容的真实性,导致大模型存在“幻觉”的问题,即大模型在根据输入文本确定输出文本时,可能会给出错误的输出文本或者就正确的输出文本给出错误的解释。

2、在现有技术中,为了减少大模型出现“幻觉的概率”,通常选择为大模型提供更加丰富的知识对该大模型的数据库进行补充,帮助大模型提高回答的准确性和可靠性。如,为大模型补充更丰富的文本信息、知识图谱信息等。

3、但是,大模型通常以处理文本为主,知识图谱是以结构化数据存在的,大模型难以直接理解知识图谱中的知识,且知识较为离散,直接将知识图谱输入大模型,会使大模型接受了过多无用的知识,影响大模型生成的回复文本的效率和质量。因此,如何在检索有效知识的同时避免引入过多噪声成为了亟待解决的问本文档来自技高网...

【技术保护点】

1.一种基于知识图谱的增强大模型推理的方法,其特征在于,包括:

2.如权利要求1所述方法,其特征在于,从所述输入文本中,提取输入实体,具体包括:

3.如权利要求1所述方法,其特征在于,将所述输入实体与所述各节点进行匹配,确定匹配节点,具体包括:

4.如权利要求1所述方法,其特征在于,将所述目标关系与各边进行匹配,确定匹配边,具体包括:

5.如权利要求1所述的方法,其特征在于,根据所述知识图谱库中包含所述匹配边且路径长度小于第一预设长度的路径,确定目标路径,具体包括:

6.如权利要求5所述的方法,其特征在于,从各筛选路径中,确定至...

【技术特征摘要】

1.一种基于知识图谱的增强大模型推理的方法,其特征在于,包括:

2.如权利要求1所述方法,其特征在于,从所述输入文本中,提取输入实体,具体包括:

3.如权利要求1所述方法,其特征在于,将所述输入实体与所述各节点进行匹配,确定匹配节点,具体包括:

4.如权利要求1所述方法,其特征在于,将所述目标关系与各边进行匹配,确定匹配边,具体包括:

5.如权利要求1所述的方法,其特征在于,根据所述知识图谱库中包含所述匹配边且路径长度小于第一预设长度的路径,确定目标路径,具体包括:

6.如权利要求5所述的方法,其特征在于,从各筛选路径中,确定至少一条目标路径,具体...

【专利技术属性】
技术研发人员:杨林瑶陈红阳余磊罗实程曦
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1