【技术实现步骤摘要】
本专利技术属于容器化服务的,尤其涉及一种面向大规模人工智能服务容器化的镜像快速部署方法。
技术介绍
1、近年来,大模型技术使aigc得到深度发展与进步,被广泛应用于自动文本摘要、机器翻译、对话系统、创作助手等各种应用场景。而容器服务为大模型的训练与部署提供了更加灵活、可移植的方式。它对大模型的部署过程进行了简化,并提供了基于k8s等编排工具的弹性扩展和依赖管理的能力,使得大模型的应用更加高效和可靠。因此,对容器镜像的部署过程进行加速具有重要意义。
2、本专利技术所涉及的
技术介绍
包括以下几方面:
3、对于containerd而言,原生的镜像提取方案是将镜像的所有层下载到本地后,再对每一层进行串行加载,因此加载过程通常需要消耗大量时间。本专利技术能够实现加速容器部署和启动过程,从而提高应用开发和部署的效率,改善应用程序的响应、部署的性能和资源利用。
4、containerd是一个开源的容器运行时,它可以管理容器的生命周期,包括容器的创建、启动、停止、删除等操作。containerd提供了一组api,用于创
...【技术保护点】
1.一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,所述镜像部署方法基于容器化服务系统,所述容器化服务系统包括镜像文件单元、第一元数据库meta.db、第二元数据库metadata.db和镜像快照文件层,其中:
2.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,从镜像配置文件中读取镜像的相关信息更新到第一元数据库meta.db对应位置过程;包括:
3.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,从镜像配置文件中读取镜像的相关信息更新到第二元数据metadata.d
...【技术特征摘要】
1.一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,所述镜像部署方法基于容器化服务系统,所述容器化服务系统包括镜像文件单元、第一元数据库meta.db、第二元数据库metadata.db和镜像快照文件层,其中:
2.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。