System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 算法服务的部署方法、装置、电子设备与可读存储介质制造方法及图纸_技高网

算法服务的部署方法、装置、电子设备与可读存储介质制造方法及图纸

技术编号:40475000 阅读:23 留言:0更新日期:2024-02-26 19:11
本公开提供一种算法服务的部署方法、装置、电子设备与可读存储介质,涉及云服务、大数据、大语言模型等人工智能技术领域。其中,算法服务的部署方法包括:第一服务端获取目标算法服务的服务运行数据与服务信息,服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;根据所述目标算法服务的服务性质确定服务接入类型,获取与服务接入类型对应的目标接入方法,服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;根据目标接入方法、服务运行数据与服务信息,将目标算法服务部署在第一服务端。本公开的第一服务端支持部署与不同的服务接入类型对应的算法服务,能够使得第一服务端具备更强的服务部署性能。

【技术实现步骤摘要】

本公开涉及互联网,尤其涉及云服务、大数据、大语言模型等人工智能。提供了一种算法服务的部署方法、装置、电子设备与可读存储介质


技术介绍

1、现有技术中的云平台,除了具有对外提供算法服务的能力之外,还需要具有对所接入的外部算法服务进行部署的能力。通常情况下,所接入的外部算法服务包含以应用程序接口的方式进行接入、以镜像文件的方式进行接入、或者是以模型文件的方式进行接入。现有技术中的云平台仅支持对某一种方式接入的算法服务进行部署,无法实现对多种不同的方式接入的算法服务进行部署。


技术实现思路

1、根据本公开的第一方面,提供了一种算法服务的部署方法,包括:第一服务端获取目标算法服务的服务运行数据与服务信息,所述服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;根据所述目标算法服务的服务性质确定服务接入类型,获取与所述服务接入类型对应的目标接入方法,所述服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端。

2、根据本公开的第二方面,提供了一种算法服务的部署装置,包括:获取单元,用于获取目标算法服务的服务运行数据与服务信息,所述服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;处理单元,用于根据所述目标算法服务的服务性质确定服务接入类型,获取与所述服务接入类型对应的目标接入方法,所述服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;部署单元,用于根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端。

3、根据本公开的第三方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方法。

4、根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行如上所述的方法。

5、根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如上所述的方法。

6、由以上技术方案可以看出,本公开中的第一服务端支持部署与不同的服务接入类型对应的算法服务,能够提升第一服务端的服务部署范围,使得第一服务端具备更强的服务部署性能。

7、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种算法服务的部署方法,包括:

2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在所述第一服务端中配置所述应用程序接口、所述镜像文件或者所述第一目标镜像文件的访问信息包括:

6.根据权利要求4所述的方法,还包括,

7.根据权利要求1所述的方法,其中,与所述模型文件对应的模型为大语言模型。

8.一种算法服务的部署装置,位于第一服务端,包括:

9.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体执行:

10.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体执行:

11.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体执行:

12.根据权利要求9-11中任一项所述的装置,其中,所述部署单元在根据所述服务信息在所述第一服务端中配置所述应用程序接口、所述镜像文件或者所述第一目标镜像文件的访问信息时,具体执行:

13.根据权利要求8所述的装置,还包括更新单元,用于执行:

14.根据权利要求8所述的装置,其中,所述获取单元获取的模型文件对应的模型为大语言模型。

15.一种电子设备,包括:

16.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。

17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。

...

【技术特征摘要】

1.一种算法服务的部署方法,包括:

2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:

5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在所述第一服务端中配置所述应用程序接口、所述镜像文件或者所述第一目标镜像文件的访问信息包括:

6.根据权利要求4所述的方法,还包括,

7.根据权利要求1所述的方法,其中,与所述模型文件对应的模型为大语言模型。

8.一种算法服务的部署装置,位于第一服务端,包括:

9.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体...

【专利技术属性】
技术研发人员:杨腾飞
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1