当前位置: 首页 > 专利查询>天津大学专利>正文

一种面向大规模人工智能服务容器化的镜像部署方法技术

技术编号:41210383 阅读:20 留言:0更新日期:2024-05-09 23:32
一种面向大规模人工智能服务容器化的镜像部署方法,所述镜像部署方法基于容器化服务系统,所述容器化服务系统包括镜像文件单元、第一元数据库meta.db、第二元数据库metadata.db和镜像快照文件层,所述镜像文件单元用于读入.tar格式的镜像压缩文件,包括如下步骤:所述智能服务容器系统建立加载镜像为I{L<subgt;1</subgt;,L<subgt;2</subgt;,…,L<subgt;N</subgt;};将overlayfs目录下metadata.db的v1/snapshots子桶的序列号seqnum读出,令I<subgt;s</subgt;←seqnum+1;从镜像配置文件中读取镜像的相关信息更新到第一元数据库meta.db和第二元数据metadata.db的对应位置;所述镜像快照文件层读取第三配置文件的Layers列表获得镜像I的分层总数N;所述镜像快照文件层新建N个目录D<subgt;1</subgt;,D<subgt;2</subgt;,…,D<subgt;N</subgt;;所述镜像快照文件层通过N个go‑routine,让第i个go‑routine负责将B<subgt;i</subgt;解压到D<subgt;i</subgt;/fS目录下;本发明专利技术面向大规模人工智能业务的部署场景,在容器化服务对镜像的提取过程实现异步、并行地进行加载,从而提高了镜像提取的效率和性能。

【技术实现步骤摘要】

本专利技术属于容器化服务的,尤其涉及一种面向大规模人工智能服务容器化的镜像快速部署方法。


技术介绍

1、近年来,大模型技术使aigc得到深度发展与进步,被广泛应用于自动文本摘要、机器翻译、对话系统、创作助手等各种应用场景。而容器服务为大模型的训练与部署提供了更加灵活、可移植的方式。它对大模型的部署过程进行了简化,并提供了基于k8s等编排工具的弹性扩展和依赖管理的能力,使得大模型的应用更加高效和可靠。因此,对容器镜像的部署过程进行加速具有重要意义。

2、本专利技术所涉及的
技术介绍
包括以下几方面:

3、对于containerd而言,原生的镜像提取方案是将镜像的所有层下载到本地后,再对每一层进行串行加载,因此加载过程通常需要消耗大量时间。本专利技术能够实现加速容器部署和启动过程,从而提高应用开发和部署的效率,改善应用程序的响应、部署的性能和资源利用。

4、containerd是一个开源的容器运行时,它可以管理容器的生命周期,包括容器的创建、启动、停止、删除等操作。containerd提供了一组api,用于创建、启动、停止和删除本文档来自技高网...

【技术保护点】

1.一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,所述镜像部署方法基于容器化服务系统,所述容器化服务系统包括镜像文件单元、第一元数据库meta.db、第二元数据库metadata.db和镜像快照文件层,其中:

2.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,从镜像配置文件中读取镜像的相关信息更新到第一元数据库meta.db对应位置过程;包括:

3.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,从镜像配置文件中读取镜像的相关信息更新到第二元数据metadata.db的对应位置过程;包...

【技术特征摘要】

1.一种面向大规模人工智能服务容器化的镜像部署方法,其特征在于,所述镜像部署方法基于容器化服务系统,所述容器化服务系统包括镜像文件单元、第一元数据库meta.db、第二元数据库metadata.db和镜像快照文件层,其中:

2.根据权利要求1所述的一种面向大规模人工智能服务容器化的镜像部...

【专利技术属性】
技术研发人员:王晓飞蔡铭骏沈仕浩
申请(专利权)人:天津大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1