【技术实现步骤摘要】
本公开涉及互联网,尤其涉及云服务、大数据、大语言模型等人工智能。提供了一种算法服务的部署方法、装置、电子设备与可读存储介质。
技术介绍
1、现有技术中的云平台,除了具有对外提供算法服务的能力之外,还需要具有对所接入的外部算法服务进行部署的能力。通常情况下,所接入的外部算法服务包含以应用程序接口的方式进行接入、以镜像文件的方式进行接入、或者是以模型文件的方式进行接入。现有技术中的云平台仅支持对某一种方式接入的算法服务进行部署,无法实现对多种不同的方式接入的算法服务进行部署。
技术实现思路
1、根据本公开的第一方面,提供了一种算法服务的部署方法,包括:第一服务端获取目标算法服务的服务运行数据与服务信息,所述服务运行数据包含应用程序接口、镜像文件与模型文件中的一种;根据所述目标算法服务的服务性质确定服务接入类型,获取与所述服务接入类型对应的目标接入方法,所述服务接入类型包含应用程序接口接入、镜像接入与模型接入中的一种;根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在
...【技术保护点】
1.一种算法服务的部署方法,包括:
2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在
...【技术特征摘要】
1.一种算法服务的部署方法,包括:
2.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
3.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
4.根据权利要求1所述的方法,其中,所述根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端包括:
5.根据权利要求2-4中任一项所述的方法,其中,所述根据所述服务信息在所述第一服务端中配置所述应用程序接口、所述镜像文件或者所述第一目标镜像文件的访问信息包括:
6.根据权利要求4所述的方法,还包括,
7.根据权利要求1所述的方法,其中,与所述模型文件对应的模型为大语言模型。
8.一种算法服务的部署装置,位于第一服务端,包括:
9.根据权利要求8所述的装置,其中,所述部署单元在根据所述目标接入方法、所述服务运行数据与所述服务信息,将所述目标算法服务部署在所述第一服务端时,具体...
【专利技术属性】
技术研发人员:杨腾飞,
申请(专利权)人:北京百度网讯科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。