通过云资源管理器管理加速器资源的技术制造技术

用于管理加速器资源的技术包括云资源管理器(102)，用于从多个节点计算设备(104)中的每一个接收加速器使用信息和待执行的任务的任务参数。云资源管理器(102)访问任务分配策略、基于任务参数和任务分配策略来确定多个节点计算设备(104)中的目的地节点计算设备(104)，以及将任务分配给目的地节点计算设备(104)。

Technology of managing accelerator resources through cloud resource manager

【技术实现步骤摘要】
【国外来华专利技术】通过云资源管理器管理加速器资源的技术
技术介绍
与中央处理单元相比，某些计算任务可以由诸如现场可编程门阵列(FPGA)、专用集成电路(ASIC)或图形处理单元(GPU)之类的硬件加速器更快地执行。计算设备越来越多地采用硬件加速器，以便更快地执行合适的计算任务。将硬件加速器并入到计算设备中的一个缺点在于硬件加速器可能在很多时间都未被使用。取决于计算设备正在执行的特定任务，硬件加速器有时可能经历高级别的使用，而在其他时间利用率可能较低，或者处于空闲状态，这是资源的低效率分配。另外，可能需要相当频繁地重新配置硬件加速器，这可能花费时间并且导致硬件加速器的较低的有效利用。附图说明在附图中，以示例方式而不是以限制方式例示出本文中所描述的概念。为说明简单和清楚起见，附图中所例示出的元件不一定是按比例绘制的。在认为适当的情况下，已在多个附图之间重复了附图标记以指示对应的或类似的元件。图1是用于由云资源管理器管理资源的系统的至少一个实施例的简化框图；图2是图1的云资源管理器的至少一个实施例的简化框图；图3是图1的节点计算设备的至少一个本文档来自技高网...

【技术保护点】
1.一种用于管理加速器资源的云资源管理器，所述云资源管理器包括：/n网络接口控制器，用于从多个节点计算设备中的每一个接收加速器使用信息；以及/n加速器管理器，用于：/n接收待执行任务的任务参数；/n访问任务分配策略；/n基于所述任务参数和所述任务分配策略来确定多个节点计算设备中的目的地节点计算设备；以及/n将所述任务分配给目的地节点计算设备。/n

【技术特征摘要】
【国外来华专利技术】1.一种用于管理加速器资源的云资源管理器，所述云资源管理器包括：
网络接口控制器，用于从多个节点计算设备中的每一个接收加速器使用信息；以及
加速器管理器，用于：
接收待执行任务的任务参数；
访问任务分配策略；
基于所述任务参数和所述任务分配策略来确定多个节点计算设备中的目的地节点计算设备；以及
将所述任务分配给目的地节点计算设备。


2.如权利要求1所述的云资源管理器，其中所述任务参数包括要在所述任务的执行中使用的加速器镜像的指示，
其中加速器使用信息包括加速器镜像的实例在所述目的地节点计算设备中可用的指示，
其中确定所述目的地节点计算设备包括基于加速器镜像的实例在所述目的地节点计算设备中可用的指示来确定所述目的地节点计算设备。


3.如权利要求1所述的云资源管理器，其中任务参数包括要在所述任务的执行中使用的加速器镜像的指示，
其中加速器使用信息包括所述目的地节点计算设备的加速器设备具有可用于所述加速器镜像的空间的指示，以及
其中确定所述目的地节点计算设备包括基于所述目的地节点计算设备中可用于所述加速器镜像的空间来确定目的地节点计算设备。


4.如权利要求1所述的云资源管理器，其中任务参数包括要在所述任务的执行中使用的加速器镜像的指示，
其中加速器使用信息包括所述目的地节点计算设备的加速器设备在加速器设备进行碎片整理之后将在所述加速器设备上具有可用于所述加速器镜像的空间的指示；
其中确定所述目的地节点计算设备包括基于在所述加速器设备进行碎片整理之后在所述目的地节点计算设备中可用于所述加速器镜像的空间来确定所述目的地节点计算设备。


5.如权利要求1所述的云资源管理器，其中任务参数包括要在所述任务的执行中使用的加速器镜像的指示，其中加速器管理器进一步用于存储多个加速器镜像；其中所述多个加速器镜像包括要在所述任务的执行中使用的加速器镜像；以及
其中所述网络接口控制器进一步用于响应于接收到要在所述任务的执行中使用的所述加速器镜像的指示而将所述加速器镜像发送到所述目的地节点计算设备。


6.如权利要求1所述的云资源管理器，其中加速器使用信息包括以下至少一个：(i)部署在多个节点计算设备的每一个上的加速器镜像，(ii)是否允许共享部署在多个节点计算设备中的每一个上的每个加速器镜像，(iii)多个节点计算设备中的每一个的至少一个加速器设备中有多少空闲空间，(iv)多个节点计算设备中的每一个的至少一个加速器设备的加速器镜像的使用频率，(v)多个节点计算设备中的每一个的功率使用，以及(vi)最后一次使用多个节点计算设备中的每一个的至少一个加速器设备的加速器镜像的指示。


7.一种节点计算设备，所述节点计算设备用于管理所述节点计算设备的加速器资源，所述节点计算设备包括：
网络接口控制器，用于接收要由所述节点计算设备执行的任务的任务参数；以及
加速器管理器，用于：
访问任务调度策略；
基于所述任务参数和所述任务调度策略来调度所述任务；以及
响应于所述任务被调度而在节点计算设备的加速器设备上执行所述任务。


8.如权利要求7所述的节点计算设备，其中网络接口控制器进一步用于将加速器使用信息发送到云资源管理器，并且其中加速器使用信息包括以下至少一个：(i)部署在所述节点计算设备上的加速器镜像，(ii)是否允许共享部署在所述节点计算设备上的每个加速器镜像，(iii)所述加速器设备中有多少空闲空间，(iv)所述加速器设备的加速器镜像的使用频率，(v)所述加速器设备的功率使用，以及(vi)最后一次使用所述加速器设备的加速器镜像的指示。


9.如权利要求7所述的节点计算设备，其中所述任务参数包括在所述任务的执行中使用的加速器镜像的指示，其中加速器管理器进一步用于：
在接收到所述任务参数之前，将所述加速器镜像的实例加载到所述加速器设备上；
响应于所述任务参数的接收，确定在接收到所述任务参数之前所述加速器镜像的实例被加载在所述加速器设备上，
其中调度所述任务包括：响应于在接收到所述任务参数之前确定所述加速器镜像的实例已加载在所述加速器设备上，调度所述任务以在所述加速器镜像的实例上运行。


10.如权利要求7所述的节点计算设备，其中所述任务参数包括要在所述任务的执行中使用的加速器镜像的指示，其中所述加速器管理器进一步用于：
确定所述加速器设备上当前没有用于所述加速器镜像的可用空间；
确定在对所述加速器设备进行碎片整理之后所述加速器设备上将有用于所述加速器镜像的可用空间；
响应于确定对所述加速器设备进行碎片整理后将有用于所述加速器镜像的可用空间，而对所述加速器设备进行碎片整理；以及
响应于所述加速器设备的碎片整理而将所述加速器镜像加载到所述加速器设备上。


11.如权利要求7所述的节点计算设备，其中所述任务参数包括要在所述任务的执行中使用的加速器镜像的指示，其中加速器管理器进一步用于：
在接收到所述任务参数之前，将所述加速器镜像的实例加载到所述加速器设备上；
在接收到所述任务参数之前，在所述加速器镜像上执行第二任务的至少一部分；
响应于所述任务参数的接收，确定应页出所述第二任务以支持所述任务；以及
从所述加速器设备中页出所述第二任务，其中页出所述第二任务包括保存所述第二任务的上下文数据。


12.如权利要求11所述的节点计算设备，其中加速器管理器进一步用于向第二节点计算设备发送所述第二任务的上下文数据，以便在所述第二节点计算设备上页入所述第二任务。


13.一种用于通过云资源管理器管理加速器资源的方法，所述方法包括：
通过所述云资源管理器从多个节点计算设备的每一个接收加速器使用信息；
通过所述云资源管理器接收待执行任...

【专利技术属性】
技术研发人员：M·K·布汉达鲁，S·纳达图尔，J·格雷科，R·多布斯，Y·杜，
申请(专利权)人：英特尔公司，
类型：发明
国别省市：美国;US