算法服务的部署方法、装置、电子设备与可读存储介质制造方法及图纸

技术编号:40475000 阅读:27 留言:0更新日期:2024-02-26 19:11
本公开提供一种算法服务的部署方法、装置、电子设备与可读存储介质,涉及云服务、大数据、大语言模型等人工智能技术领域。其中,算法服务的部署方法包括:第一服务端获取目标算法服务的服务运行数据与服务信息,服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;根据所述目标算法服务的服务性质确定服务接入类型,获取与服务接入类型对应的目标接入方法,服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;根据目标接入方法、服务运行数据与服务信息,将目标算法服务部署在第一服务端。本公开的第一服务端支持部署与不同的服务接入类型对应的算法服务,能够使得第一服务端具备更强的服务部署性能。

【技术实现步骤摘要】

本公开涉及互联网,尤其涉及云服务、大数据、大语言模型等人工智能。提供了一种算法服务的部署方法、装置、电子设备与可读存储介质


技术介绍

1、现有技术中的云平台,除了具有对外提供算法服务的能力之外,还需要具有对所接入的外部算法服务进行部署的能力。通常情况下,所接入的外部算法服务包含以应用程序接口的方式进行接入、以镜像文件的方式进行接入、或者是以模型文件的方式进行接入。现有技术中的云平台仅支持对某一种方式接入的算法服务进行部署,无法实现对多种不同的方式接入的算法服务进行部署。


技术实现思路

1、根据本公开的第一方面,提供了一种算法服务的部署方法,包括:第一服务端获取目标算法服务的服务运行数据与服务信息,所述服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;根据所述目标算法服务的服务性质确定服务接入类型,获取与所述服务接入类型对应的目标接入方法,所述服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端。...

【技术保护点】

1.一种算法服务的部署方法,包括:

2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在所述第一服务端中配置...

【技术特征摘要】

1.一种算法服务的部署方法,包括:

2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在所述第一服务端中配置所述应用程序接口、所述镜像文件或者所述第一目标镜像文件的访问信息包括:

6.根据权利要求4所述的方法,还包括,

7.根据权利要求1所述的方法,其中,与所述模型文件对应的模型为大语言模型。

8.一种算法服务的部署装置,位于第一服务端,包括:

9.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体...

【专利技术属性】
技术研发人员:杨腾飞
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1