当前位置: 首页 > 专利查询>闽江学院专利>正文

语言大模型增强检索装置制造方法及图纸

技术编号:41756231 阅读:33 留言:0更新日期:2024-06-21 21:38
一种语言大模型增强检索装置,包括向量数据库模块、交互模块、第一索引模块、语言模型模块,所述向量数据库模块用于进行如下步骤,S111、收集预设语料,将所述语料进行预分段,S112、将预分段的语料转换为数值向量,S113、用数值向量建立向量索引,所述交互模块用于进行步骤:S20、获取第一输入语句,S21、解析所述第一输入语句,获得第一关键词,所述第一索引模块用于:S22、根据所述第一关键词作为索引在第一数据库中进行检索,得到预设回复语句,本发明专利技术能够在获取到用户输入语句之后能够优先进行第一数据库的检索,而语言大模型能够根据第一数据库的检索和第一输入语句进行嵌套生成,最终达到对用户生成更加合适的回复的技术效果。

【技术实现步骤摘要】

本专利技术涉及自动化回复人工智能领域,尤其涉及一种结合语言大模型的增强检索的装置。


技术介绍

1、目前,领先的大语言模型是基于大量数据训练的,目的是让它们掌握广泛的普遍知识,这些知识被储存在它们神经网络的权重里。但是,如果我们要求大语言模型生成的回答涉及到它训练数据之外的知识——比如最新的、专有的或某个特定领域的信息——这时就可能出现事实上的错误,不能满足不同用户的需求,即出现幻觉。检索增强技术通常用于解决幻觉问题,但是增加了时间开销,增加了成本或影响用户体验。


技术实现思路

1、为此,需要提供一种能够结合既有数据库以及语言模型的各自优点的自动检索回复方法,达到提升答复准确性与回复速度;

2、为实现上述目的,专利技术人提供了一种语言大模型增强检索装置,包括向量数据库模块、交互模块、第一索引模块、语言模型模块,所述向量数据库模块用于进行如下步骤,s111、收集预设语料,将所述语料进行预分段,s112、将预分段的语料转换为数值向量,s113、用数值向量建立向量索引,所述交互模块用于进行步骤:s20、获本文档来自技高网...

【技术保护点】

1.一种语言大模型增强检索装置,其特征在于,包括向量数据库模块、交互模块、第一索引模块、语言模型模块,

2.根据权利要求1所述的语言大模型增强检索装置,其特征在于,所述语言模型模块还用于:S23、将所述预设回复语句输入语言大模型中,所述语言大模型评估所述预设回复语句与所述第一输入语句的匹配程度,得到评估结果;

3.根据权利要求2所述的语言大模型增强检索装置,其特征在于,所述语言模型模块还用于在判定所述评估结果小于第一预设值时,运行所述语言大模型根据所述第一输入语句,生成模型回复语句,所述展示模块还用于向用户展示所述模型回复语句。

4.根据权利要求1所述...

【技术特征摘要】

1.一种语言大模型增强检索装置,其特征在于,包括向量数据库模块、交互模块、第一索引模块、语言模型模块,

2.根据权利要求1所述的语言大模型增强检索装置,其特征在于,所述语言模型模块还用于:s23、将所述预设回复语句输入语言大模型中,所述语言大模型评估所述预设回复语句与所述第一输入语句的匹配程度,得到评估结果;

3.根据权利要求2所述的语言大模型增强检索装置,其特征在于,所述语言模型模块还用于在判定所述评估结果小于第一预设值时,运行所述语言大模型根据所述第一输入语句,生成模型回复语句,所述展示模块还用于向用户展示所述模型回复语句。

4.根据权利要求1所述的语言大模型增强检索装置,其特征在于,还包括第一数据库模块,所述第一数据库模块用于:s10,构建第一数据库,所述第一数据库包括若干qa问答对,每个qa...

【专利技术属性】
技术研发人员:关胤林宗基方荟章亮杨晓燕苏劲松徐戈
申请(专利权)人:闽江学院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1