用于应用迁移的方法和机器技术

本公开的实施例提供了用于应用迁移的方法和机器。在一个实施例中，从第一专用处理单元获取与正在第一专用处理单元上运行的应用的运行环境相关联的第一描述符。响应于确定应用要在运行过程中从第一专用处理单元被迁移到第二专用处理单元，促使第二专用处理单元创建与用于应用的运行环境相关联的第二描述符。继而，从第二专用处理单元获取第二描述符，并且建立第一描述符到第二描述符的第一映射，以用于将来自应用的针对第一专用处理单元的请求重定向到第二专用处理单元。还公开了实施该方法的相应的机器。

Methods and machines for application migration

【技术实现步骤摘要】
用于应用迁移的方法和机器
本公开的实施例总体上涉及计算机技术，更具体地，涉及用于应用迁移的方法和机器。
技术介绍
如今越来越多的公共云为高性能计算(HPC)、机器学习(ML)或深度学习(DL)、人工智能(AI)等新兴计算场景中的数据处理和分析等任务提供图形处理单元(GPU)实例。这些GPU实例可以灵活配置并且易于扩展，从而可以为本地客户端或者计算设备提供较具弹性的计算服务。为了使云端的GPU实例能够更好地服务于上述新兴计算场景，已经提出了一种智能且优化的基础设施，其中允许GPU加速器、现场可编程门阵列(FPGA)加速器等现代加速器像中央处理单元(CPU)和存储设备一样作为基础架构的组成部分，成为现代数据中心或者云中第一等级的可管理资源。特别地，还提出了GPU作为服务(GPUaaS)的解决方案，其可以基于远程直接内存访问(RDMA)或传输控制协议(TCP)的组织架构并且基于客户端-服务器软件来实现。这种解决方案可以在远程服务器上为客户端提供池化和远程虚拟化的GPU资源。在这样的GPU部署场景中，来自相同或不同客户端的多个应用可以被调度在同一GPU中运行。在这种情况下，如果可以考虑GPU本文档来自技高网...

【技术保护点】
1.一种用于应用迁移的方法，包括：从第一专用处理单元获取与正在所述第一专用处理单元上运行的应用的运行环境相关联的第一描述符；响应于确定所述应用要在运行过程中从所述第一专用处理单元被迁移到第二专用处理单元，促使所述第二专用处理单元创建与用于所述应用的运行环境相关联的第二描述符；从所述第二专用处理单元获取所述第二描述符；以及建立所述第一描述符到所述第二描述符的第一映射，以用于将来自所述应用的针对所述第一专用处理单元的请求重定向到所述第二专用处理单元。

【技术特征摘要】
1.一种用于应用迁移的方法，包括：从第一专用处理单元获取与正在所述第一专用处理单元上运行的应用的运行环境相关联的第一描述符；响应于确定所述应用要在运行过程中从所述第一专用处理单元被迁移到第二专用处理单元，促使所述第二专用处理单元创建与用于所述应用的运行环境相关联的第二描述符；从所述第二专用处理单元获取所述第二描述符；以及建立所述第一描述符到所述第二描述符的第一映射，以用于将来自所述应用的针对所述第一专用处理单元的请求重定向到所述第二专用处理单元。2.根据权利要求1所述的方法，还包括：在所述第一映射的所述建立完成后，响应于拦截到来自所述应用的针对所述第一专用处理单元的所述请求，基于所述第一映射将所述请求重定向到所述第二专用处理单元。3.根据权利要求1所述的方法，还包括：响应于确定所述应用要被迁移到所述第二专用处理单元，拦截来自所述应用的针对所述第一专用处理单元的请求；对拦截到的所述请求进行冻结；以及响应于所述第一映射的所述建立完成，将所冻结的所述请求转发给所述第二专用处理单元。4.根据权利要求1所述的方法，还包括：响应于确定所述应用要从所述第一专用处理单元被迁移到所述第二专用处理单元，促使所述第一专用处理单元对与所述应用相关联的多个线程进行同步；以及响应于所述同步完成，将用于所述第一专用处理单元的第一存储器中所存储的与所述应用相关联的数据迁移到用于所述第二专用处理单元的第二存储器。5.根据权利要求4所述的方法，其中促使所述第一专用处理单元对所述多个线程进行同步包括：为所述第一专用处理单元创建同步障碍。6.根据权利要求4所述的方法，其中将所述数据迁移到所述第二存储器包括：确定所述第一存储器中用于存储所述数据的第一存储区的大小；促使所述第二专用处理单元基于所述第一存储器的大小在所述第二存储器中分配用于存储所述数据的第二存储区；以及响应于确定所述第二存储区的所述分配完成，将所述数据从所述第一存储区迁移到所述第二存储区。7.根据权利要求6所述的方法，还包括：从所述第一专用处理单元获取与所述第一存储区相关联的第一存储地址；从所述第二专用处理单元获取与所述第二存储区相关联的第二存储地址；以及建立所述第一存储地址到所述第二存储地址的第二映射，以用于将来自所述应用的对所述第一存储区的访问请求重定向到所述第二存储区。8.根据权利要求1所述的方法，还包括：在所述应用在所述第一专用处理单元上运行之前，为用于所述第一专用处理单元的第一存储器分配第三存储地址；以及为用于所述第二专用处理单元的第二存储器分配不同于所述第三存储地址的第四存储地址，所述第三存储地址和所述第四存储地址是所述第一专用处理单元和所述第二专用处理单元二者都可访问的。9.一种用于应用迁移的机器，包括：中央处理单元，以及存储有指令的存储器，所述指令在被所述中央处理单元执行时促使所述中央处理单元执行动作，所述动作包括：从第一专用处理单元获...

【专利技术属性】
技术研发人员：赵军平，郭帆，王鲲，
申请(专利权)人：伊姆西IP控股有限责任公司，
类型：发明
国别省市：美国,US