信息处理、检索、抽取方法和装置、信息处理系统制造方法及图纸

技术编号:42573656 阅读:16 留言:0更新日期:2024-08-29 00:38
本公开提供了一种信息处理方法和装置,涉及人工智能技术领域,具体涉及自然语言处理、深度学习、大模型等技术领域,可应用于人工智能的内容生成等场景。具体实现方案为:基于获取的待处理业务信息,确定模型提示词信息;基于模型提示词信息,确定模型访问凭证信息;基于模型提示词信息和模型访问凭证信息,在预设的模型服务器集群中匹配出目标大语言模型的模型服务器;通过模型服务器中的目标大语言模型处理模型提示词信息,得到待处理业务信息的处理结果,提高了大模型业务开发调试效率。

【技术实现步骤摘要】

本公开涉及人工智能,具体涉及自然语言处理、深度学习、大模型等,可应用于人工智能的内容生成等场景,尤其涉及一种信息处理方法和装置、信息检索方法和装置、信息抽取方法和装置、信息处理系统、电子设备、计算机可读存储介质以及计算机程序产品。


技术介绍

1、目前大语言模型应用搭建框架仅对一种类型的大语言模型进行调试与追踪,无法对多种类型的大语言模型进行远端调试和开发,尤其对于采用大模型的多种业务需求,需要单独开发各个业务的大模型,大模型的业务开发和调试效率低。


技术实现思路

1、本公开提供了一种信息处理方法和装置、信息检索方法和装置、信息抽取方法和装置、信息处理系统、电子设备、计算机可读存储介质以及计算机程序产品。

2、根据第一方面,提供了一种信息处理方法,该方法包括:基于获取的待处理业务信息,确定模型提示词信息;基于模型提示词信息,确定模型访问凭证信息;基于模型提示词信息和模型访问凭证信息,在预设的模型服务器集群中匹配出目标大语言模型的模型服务器;通过模型服务器中的目标大语言模型处理模型提示词信息,得到待处本文档来自技高网...

【技术保护点】

1.一种信息处理方法,所述方法包括:

2.根据权利要求1所述的方法,其中,所述基于获取的待处理业务信息,确定模型提示词信息包括:

3.根据权利要求2所述的方法,其中,所述模板注释信息包括:模型类型,所述基于所述模型提示词信息,确定模型访问凭证信息包括:

4.根据权利要求2所述的方法,其中,所述模板注释信息包括:用户标识和模型类型;所述基于所述模型提示词信息,确定模型访问凭证信息还包括:

5.根据权利要求1所述的方法,其中,所述模型提示词信息包括:模型类型、模型参数;所述模型访问凭证信息包括:模型类型、加密密钥;所述基于所述模型提示词信息和所...

【技术特征摘要】

1.一种信息处理方法,所述方法包括:

2.根据权利要求1所述的方法,其中,所述基于获取的待处理业务信息,确定模型提示词信息包括:

3.根据权利要求2所述的方法,其中,所述模板注释信息包括:模型类型,所述基于所述模型提示词信息,确定模型访问凭证信息包括:

4.根据权利要求2所述的方法,其中,所述模板注释信息包括:用户标识和模型类型;所述基于所述模型提示词信息,确定模型访问凭证信息还包括:

5.根据权利要求1所述的方法,其中,所述模型提示词信息包括:模型类型、模型参数;所述模型访问凭证信息包括:模型类型、加密密钥;所述基于所述模型提示词信息和所述模型访问凭证信息,在预设的模型服务器集群中匹配出目标大语言模型的模型服务器包括:

6.根据权利要求1所述的方法,其中,所述模型提示词信息包括:提示词模板,所述通过所述模型服务器中的目标大语言模型处理所述模型提示词信息,得到所述待处理业务信息的处理结果包括:

7.根据权利要求6所述的方法,其中,所述模型提示词信息还包括:至少一个召回策略的召回权重,所述通过所述模型服务器中的目标大语言模型处理所述模型提示词信息,得到所...

【专利技术属性】
技术研发人员:于琦
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1