下载一种基于推理实例快照的推理平台的技术资料

文档序号:46066460

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

本发明公开了AI推理平台技术领域的一种基于推理实例快照的推理平台,由网关、调度器、节点代理、推理容器实例、容器运行时以及快照对象存储组成的系统;S1,将已初始化完成的推理容器的CPU和GPU状态保存为可迅速恢复的文件;S2,通过将GPU状态...
该专利属于孙宇霖所有,仅供学习研究参考,未经过孙宇霖授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。