一种基于知识库的大语言模型智能客服系统及其实现方法技术方案

本发明专利技术提供了一种基于知识库的大语言模型智能客服系统及其实现方法，属于大语言模型及数据处理技术领域。本发明专利技术部署接入新的ElasticSearch全文检索数据库代替Langchain中默认的Faiss向量库作为新知识存储库，解决智能客服系统问答准确率和效率需求。Elasticsearch可实现多种查询方式，满足不同场景下的需求，解决Faiss局限用于向量相似度搜索，只适用特定向量检索场景问题。Elasticsearch可实现实时索引更新，保持数据的一致性，解决Faiss需要重新构建索引才能反映数据变化的问题。更新本地知识库只需要上传文档进行Elasticsearch存储，解决查询延迟、效率低问题。

【技术实现步骤摘要】

本专利技术属于大语言模型及数据处理，具体涉及一种基于知识库的大语言模型智能客服系统及其实现方法。

技术介绍

1、现有基于本地知识库的langchain-chatglm2-6b大语言模型智能客服系统进行本地知识库搜索问答时，生成问题答案的相关度低，没有完整准确的回答出问题的本质。其次，本地知识库更新，上传文档进行数据向量化时，需要频繁插入新的向量、删除旧的向量，重新构建查询索引，造成客服人员搜索查询延迟，效率低。

2、上述业务问题是由faiss向量库自身局限性所导致的：

3、(1)faiss主要适用于处理浮点型向量数据，对于其他类型的数据支持较有限，局限于向量相似度搜索，只适用于特定的向量检索场景。因此，搜索查询问题答案的相似度不高，造成准确率低。

4、(2)faiss的索引结构在构建后是静态的，不支持动态更新。如果需要频繁地插入、删除或更新向量化数据，需要重新构建索引，再利用索引进行相似度搜索查询。因此，不能实现实时索引更新，造成搜索查询效率低。

技术实现思路>

1、本专利技本文档来自技高网...

【技术保护点】

1.一种基于知识库的大语言模型智能客服系统，其特征在于，部署于服务器上并以Langchain作为主体框架，包括：

2.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

3.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

4.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

5.如权利要求1～4中任意一项所述的一种基于知识库的大语言模型智能客服系统的实现方法，其特征在于，包括以下步骤：

6.根据权利要求5所述的基于知识库的大语言模型智能客服系统的实现方法，其特征在于：<...

【技术特征摘要】

1.一种基于知识库的大语言模型智能客服系统，其特征在于，部署于服务器上并以langchain作为主体框架，包括：

2.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

3.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

4.根据权利要求1所述的基于知识库的大语言模型智能客服系统，其特征在于：

5.如权...

【专利技术属性】
技术研发人员：张立锋，周璇，高岩，周翔，黄春明，孙毓，王涛，
申请(专利权)人：复旦大学，
类型：发明
国别省市：