用于虚拟化图形处理的扩展制造技术

公开了用于扩展虚拟化图形处理的方法、系统和计算机可读介质。第一虚拟GPU附连到提供商网络的虚拟计算实例。所述提供商网络包括多个计算装置，所述多个计算装置被配置来利用多租户实施多个虚拟计算实例。所述第一虚拟GPU至少部分基于所述虚拟计算实例的GPU需求的变化而被第二虚拟GPU置换。所述第一和第二虚拟GPU使用所述虚拟计算实例可经由网络访问的物理GPU资源来实施。所述虚拟计算实例的处理从所述第一虚拟GPU迁移到所述第二虚拟GPU。在所述虚拟计算实例上使用所述第二虚拟GPU来执行应用程序。

Extensions for virtualized graphics processing

A method, system, and computer-readable medium for expanding virtualized graphics processing are disclosed. The first virtual GPU is attached to the virtual computing instance of the provider network. The provider network includes a plurality of computing devices configured to implement multiple virtual computing instances using a multi-tenant. The first virtual GPU is at least partially replaced by the second virtual GPU based on the change of the GPU requirement of the virtual computing instance. The first and second virtual GPU can be implemented by using the virtual computing instance through physical GPU resources accessed by the network. The processing of the virtual computing instance is migrated from the first virtual GPU to the second virtual GPU. The second virtual GPU is used to execute the application on the virtual computing instance.

【技术实现步骤摘要】
【国外来华专利技术】用于虚拟化图形处理的扩展
技术介绍
许多公司和其他组织运营计算机网络，所述计算机网络使众多计算系统互连以支持它们的操作，诸如其中计算系统位于同一位置(例如，作为本地网络的一部分)或者替代地位于多个不同地理位置(例如，经由一个或多个专用或公用中间网络加以连接)。例如，容纳大量互连计算系统的分布式系统已变得非常普遍。这类分布式系统可以向与客户端交互的服务器提供后端服务。这类分布式系统还可以包括数据中心，所述数据中心由实体操作来向顾客提供计算资源。一些数据中心运营商针对各个顾客所拥有的硬件提供网络接入、电力和安全安装设施，而其他数据中心运营商提供“完整服务”设施，所述完整服务设施还包括可供其顾客使用的硬件资源。由于分布式系统的规模和范围已增大，提供、掌管和管理所述资源的任务已变得越来越复杂。在针对具有多样需求的许多客户管理大规模计算资源的方面，商品硬件的虚拟化技术的出现提供了多种益处。例如，虚拟化技术可以允许通过向每个用户提供一个或多个虚拟机来在多个用户之间共享单一物理计算装置，所述一个或多个虚拟机由单一物理计算装置托管。每个这种虚拟机可以是充当不同逻辑计算系统的软件仿真，所述逻辑计算系统向用户提供他们是给定硬件计算资源的唯一操作者和管理员的错觉，同时还在各个虚拟机之间提供应用程序隔离和安全功能。利用虚拟化，单一物理计算装置可以动态的方式创建、维持或删除虚拟机。附图说明图1示出根据一个实施方案的用于在提供商网络中虚拟化图形处理的示例系统环境。图2A示出根据一个实施方案的用于在提供商网络中虚拟化图形处理的示例系统环境的另外的方面，包括对具有附连的虚拟GPU的虚拟计算实例的实例类型和虚拟GPU级进行选择。图2B示出根据一个实施方案的用于在提供商网络中虚拟化图形处理的示例系统环境的另外的方面，包括供应具有附连的虚拟GPU的虚拟计算实例。图3示出根据一个实施方案使用具有虚拟GPU的虚拟计算实例来生成虚拟GPU输出以显示在客户端装置上。图4示出根据一个实施方案的用于实施虚拟化图形处理的示例硬件架构。图5是示出根据一个实施方案的用于在提供商网络中虚拟化图形处理的方法的流程图。图6A示出根据一个实施方案的用于专用虚拟化图形处理的示例系统环境，包括(至少部分)基于应用程序的需求而选择虚拟GPU。图6B示出根据一个实施方案的用于专用虚拟化图形处理的示例系统环境的另外的方面，包括供应附连了专用虚拟GPU的虚拟计算实例。图7A示出根据一个实施方案的用于专用虚拟化图形处理的示例系统环境的另外的方面，包括(至少部分)基于多个应用程序的需求而选择多个虚拟GPU。图7B示出根据一个实施方案的用于专用虚拟化图形处理的示例系统环境的另外的方面，包括供应附连了多个专用虚拟GPU的虚拟计算实例。图7C示出根据一个实施方案的用于专用虚拟化图形处理的示例系统环境的另外的方面，包括供应具有专用于单一应用程序的多个专用虚拟GPU的虚拟计算实例。图8是示出根据一个实施方案的提供专用虚拟化图形处理的方法的流程图。图9A示出根据一个实施方案的用于虚拟化图形处理的本地到远程迁移的示例系统环境，包括供应具有本地GPU的虚拟计算实例。图9B示出根据一个实施方案的用于虚拟化图形处理的本地到远程迁移的示例系统环境的另外的方面，包括选择虚拟GPU并将其附连到虚拟计算实例。图10是示出根据一个实施方案的用于将图形处理从本地GPU本地到远程地迁移到虚拟GPU的方法的流程图。图11A示出根据一个实施方案的用于扩展虚拟化图形处理的示例系统环境，包括附连了第一虚拟GPU的虚拟计算实例。图11B示出根据一个实施方案的用于扩展虚拟化图形处理的示例系统环境的另外的方面，包括针对虚拟计算实例用第二虚拟GPU置换第一虚拟GPU。图11C示出根据一个实施方案的用于扩展虚拟化图形处理的示例系统环境的另外的方面，包括针对虚拟计算实例将第二虚拟GPU添加到第一虚拟GPU。图12A示出根据一个实施方案的用于扩展虚拟化图形处理的示例系统环境，包括附连了两个虚拟GPU的虚拟计算实例。图12B示出根据一个实施方案的用于扩展虚拟化图形处理的示例系统环境的另外的方面，包括针对虚拟计算实例用单一虚拟GPU置换虚拟GPU。图13是示出根据一个实施方案的用于扩展虚拟化图形处理的方法的流程图。图14示出根据一个实施方案的用于虚拟化图形处理的布置优化的示例系统环境，包括提供商网络中的多个实例位置和多个GPU位置。图15示出根据一个实施方案的用于虚拟化图形处理的布置优化的示例系统环境的另外的方面，包括在提供商网络中设置有选定实例位置和选定GPU位置的资源。图16A示出根据一个实施方案的提供商网络中的不同栈中的多个实例位置和多个GPU位置的示例。图16B示出根据一个实施方案的提供商网络中的不同数据中心中的多个实例位置和多个GPU位置的示例。图17A是根据一个实施方案的用于虚拟化图形处理的布置优化的方法的流程图，包括对用来实施虚拟GPU的物理GPU进行位置选择。图17B是根据一个实施方案的用于虚拟化图形处理的布置优化的方法的流程图，包括对用来实施虚拟计算实例的物理计算实例进行位置选择。图17C是根据一个实施方案的用于虚拟化图形处理的布置优化的方法的流程图，包括对用来实施虚拟GPU的物理GPU进行位置选择并且对用来实施虚拟计算实例的物理计算实例进行位置选择。图18示出可以用在一些实施方案中的示例计算装置。虽然在本文中通过对若干实施方案和示意性附图举例的方式描述了实施方案，但本领域技术人员将认识到，实施方案并不限于所描述的实施方案或附图。应理解，附图和对其进行的详细描述并非旨在将实施方案限于所公开的特定形式，而相反，其意图在于涵盖落入由所附权利要求书限定的精神和范围内的所有修改、等效物和替代方案。本文中使用的标题仅用于组织目的，并且并不打算用于限制本说明书或权利要求书的范围。如贯穿本申请所使用，词语“可以”是在许可的意义上(即，意指“具有某种可能”)而非强制的意义上(即，意指“必须”)使用。类似地，词语“包括(include/including/includes)”意指“包括但不限于”。具体实施方式描述了用于扩展虚拟化图形处理的方法、系统和计算机可读介质的各种实施方案。使用本文描述的技术，可以供应虚拟计算实例，并且第一组一个或多个GPU可以附连到实例来提供图形处理。第一组一个或多个虚拟GPU可以提供特定的图形处理水平。在确定实例的GPU需求改变之后，第二组一个或多个虚拟GPU可以被选择和附连到虚拟计算实例以用另一水平的图形处理置换第一虚拟GPU的图形处理。可以基于GPU需求的变化而选择第二虚拟GPU。取决于GPU需求的变化，这种扩展操作可以将虚拟计算实例的图形处理从能力较弱或较低的虚拟GPU级迁移到能力较强或较高的虚拟GPU级或者从能力较强或较高的虚拟GPU级迁移到能力较弱或较低的虚拟GPU级。在一个实施方案中，可以(至少部分)基于表示GPU需求的变化的用户输入而执行图形处理的迁移。在一个实施方案中，可以(至少部分)基于对图形工作负荷的增加的检测而执行图形处理的迁移。在使用第一虚拟GPU以不需要改变或重启应用程序的方式执行所述应用程序时，可以执行实时迁移。还可以执行虚拟计算实例到另一物理计算实例的迁移，例如以减少与虚本文档来自技高网...

【技术保护点】
1.一种系统，所述系统包括：虚拟计算实例，其中所述虚拟计算实例使用物理计算实例的中央处理单元(CPU)资源和存储器资源来实施，其中第一虚拟图形处理单元(GPU)附连到所述虚拟计算实例，其中所述第一虚拟GPU使用所述虚拟计算实例可经由网络访问的物理GPU资源来实施，并且其中所述虚拟计算实例由多租户提供商网络提供；以及一个或多个计算装置，所述一个或多个计算装置被配置来实施弹性图形服务，其中所述弹性图形服务被配置来：确定所述虚拟计算实例的GPU需求的变化；至少部分基于所述GPU需求的变化而选择第二虚拟GPU，其中所述第二虚拟GPU至少部分基于计算或存储器资源而从多个虚拟GPU级中进行选择，并且其中所述第二虚拟GPU提供相对于所述第一虚拟GPU而言不同的图形处理水平；以及将所述第二虚拟GPU附连到所述虚拟计算实例，其中所述第二虚拟GPU使用所述物理GPU资源来实施；并且其中所述虚拟计算实例被配置来：将图形处理从所述第一虚拟GPU迁移到所述第二虚拟GPU；以及使用所述第二虚拟GPU来执行应用程序。

【技术特征摘要】
【国外来华专利技术】2015.11.11 US 14/938,457;2015.11.11 US 14/938,461;1.一种系统，所述系统包括：虚拟计算实例，其中所述虚拟计算实例使用物理计算实例的中央处理单元(CPU)资源和存储器资源来实施，其中第一虚拟图形处理单元(GPU)附连到所述虚拟计算实例，其中所述第一虚拟GPU使用所述虚拟计算实例可经由网络访问的物理GPU资源来实施，并且其中所述虚拟计算实例由多租户提供商网络提供；以及一个或多个计算装置，所述一个或多个计算装置被配置来实施弹性图形服务，其中所述弹性图形服务被配置来：确定所述虚拟计算实例的GPU需求的变化；至少部分基于所述GPU需求的变化而选择第二虚拟GPU，其中所述第二虚拟GPU至少部分基于计算或存储器资源而从多个虚拟GPU级中进行选择，并且其中所述第二虚拟GPU提供相对于所述第一虚拟GPU而言不同的图形处理水平；以及将所述第二虚拟GPU附连到所述虚拟计算实例，其中所述第二虚拟GPU使用所述物理GPU资源来实施；并且其中所述虚拟计算实例被配置来：将图形处理从所述第一虚拟GPU迁移到所述第二虚拟GPU；以及使用所述第二虚拟GPU来执行应用程序。2.如权利要求1所述的系统，其中所述GPU需求的变化至少部分基于对所述虚拟计算实例或所述第一虚拟GPU的性能监控而确定。3.如权利要求1所述的系统，其中所述GPU需求的变化由所述虚拟计算实例的用户指定。4.如权利要求1所述的系统，其中所述虚拟计算实例被配置来：使用所述第一虚拟GPU来开始所述应用程序的执行；以及使用所述第二虚拟GPU来继续所述应用程序的执行。5.一种计算机实施的方法，所述方法包括：将第一组一个或多个虚拟图形处理单元(GPU)附连到多租户提供商网络的虚拟计算实例，其中所述多租户提供商网络包括多个计算装置，所述多个计算装置被配置来实施多个虚拟计算实例，并且其中所述第一组一个或多个虚拟GPU使用所述虚拟计算实例可经由网络访问的物理GPU资源来实施；至少部分基于所述虚拟计算实例的需求的变化而用第二组一个或多个虚拟GPU为所述虚拟计算实例置换所述第一组一个或多个虚拟GPU；将所述虚拟计算实例的处理从所述第一组一个或多个虚拟GPU迁移到所述第二组一个或多个虚拟GPU；以及在所述虚拟计算实例上使用所述第二组一个或多个虚拟GPU来执行应用程序。6.如权利要求5所述的方法，其中所述需求的变化至少部分基于所述虚拟计算实例或所述第...

【专利技术属性】
技术研发人员：N·P·威尔特，A·谭布，N·L·伯恩斯，
申请(专利权)人：亚马逊科技公司，
类型：发明
国别省市：美国,US