一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质制造方法及图纸

技术编号:41312183 阅读:20 留言:0更新日期:2024-05-13 14:55
本发明专利技术公开了一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质,属于人工智能技术领域。包括:获取API描述信息,并将API描述信息进行解析后提供给大语言模型;判断用户端提出的需求是否可以转化为提供的API,若否,则利用大语言模型的能力回复用户提出的需求;若是,则根据参数调用API,获得数据,将数据、API描述信息以及用户提出的需求提供给大语言模型的API代理,大语言模型的API代理生成最终回复。本发明专利技术能够更加准确的回复用户的需求。

【技术实现步骤摘要】

本专利技术涉及人工智能,更具体的说是涉及一种大语言模型自动理解数据接口的方法及装置、服务器及存储介质


技术介绍

1、大型语言模型(llm)与私有领域数据相结合带来了巨大的价值。目前有很多方法围绕如何让llm更有效地使用私有领域数据。使用大语言模型回答用户的知识型问题,这类问题在用户需求上需要保证数据的真实性,准确性和时效性。但是目前大语言模型基本通过自身的训练数据形成的神经网络信息回答数据,或者通过从公共网络上查找数据进行回答。这两类方法都存在着一些问题。通过自身的训练数据形成的神经网络信息回答数据,首先于模型训练所使用的数据的来源于网络,很难保证数据的真实性,同时,这些数据只记录了最后一次训练的时的内容,所以很难保证时效性。通过从公共网络上查找数据进行回答,和自身训练的数据类似,网络的数据很难保证真实性。

2、在现有技术中,解决上述问题的方案主要是使用rag方式或者finetune的方式。rag是一种通过将数据通过索引的方式保存,通过用户的问题,在索引中找到相关的内容,将这些内容提供给大语言模型用来回答用户的问题。这类方法可以提高大语言模型本文档来自技高网...

【技术保护点】

1.一种大语言模型自动理解数据接口的方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S100包括:

3.根据权利要求2所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S110包括:

4.根据权利要求3所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述S120包括:

5.根据权利要求4所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述通过Swagger工具解析Json格式的API描述信息,包括:

6.根据权利要求1所述的一种大语言模型自...

【技术特征摘要】

1.一种大语言模型自动理解数据接口的方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s100包括:

3.根据权利要求2所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s110包括:

4.根据权利要求3所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述s120包括:

5.根据权利要求4所述的一种大语言模型自动理解数据接口的方法,其特征在于,所述通过swagger工具解析json格式的api描述信息,包括:

6.根据权利要求1所述...

【专利技术属性】
技术研发人员:顾夏辉
申请(专利权)人:子长科技北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1