Kubernetes中指定GPU创建负载的实现方法、设备及存储介质技术

本发明专利技术公开了一种基于Kubernetes中支持指定GPU创建负载的实现方法、设备及存储介质，涉及容器化平台部署领域。该方法的步骤包括：一种KUBERNETES中指定GPU创建负载的实现方法，其特征在于，该方法包括以下步骤：获取需要指定的GPU信息，在Kubernetes调度时的指定筛选阶段筛选出与GPU信息对应的节点和GPU ID后，发送至与GPU信息对应的节点的kubelet；通过kubelet启动容器并将GPU ID对应的GPU映射至容器。

【技术实现步骤摘要】

本专利技术涉及容器化平台部署领域，具体涉及一种基于kubernetes中支持指定gpu创建负载的实现方法、设备及存储介质。

技术介绍

1、在当前的主流容器化平台中，比如kubernetes(k8s)，默认情况下不支持精细化地指定使用某一个节点上的某几张gpu(graphics processing unit，图形处理器)来创建负载。虽然kubernetes提供了基本的gpu资源调度功能，但在gpu的精细化管理方面，仍存在一些局限性。

2、kubernetes自1.10版本开始引入了对gpu资源的支持，主要用于调度需要gpu的计算负载。通过与gpu驱动(如nvidiagpu驱动)和kubernetes的节点级别插件集成，kubernetes可以识别出节点上可用的gpu，并将这些gpu作为调度资源的一部分进行分配。kubernetes允许用户在pod(kubernetes最小调度单元，包含一个或多个容器)定义中请求gpu资源，如以下例子所示：

3、resources:

4、limits:

5、nvidia.com本文档来自技高网...

【技术保护点】

1.一种KUBERNETES中指定GPU创建负载的实现方法，其特征在于，该方法包括以下步骤：获取需要指定的GPU信息，在Kubernetes调度时的指定筛选阶段筛选出与GPU信息对应的节点和GPU ID后，发送至与GPU信息对应的节点的kubelet；通过kubelet启动容器并将GPU ID对应的GPU映射至容器。

2.如权利要求1所述的KUBERNETES中指定GPU创建负载的实现方法，其特征在于：所述指定筛选阶段为Predicates阶段；所述在Kubernetes调度时的指定筛选阶段筛选出与GPU信息对应的节点和GPU ID的流程包括：在Volcano调度器中新增自定...

【技术特征摘要】

1.一种kubernetes中指定gpu创建负载的实现方法，其特征在于，该方法包括以下步骤：获取需要指定的gpu信息，在kubernetes调度时的指定筛选阶段筛选出与gpu信息对应的节点和gpu id后，发送至与gpu信息对应的节点的kubelet；通过kubelet启动容器并将gpu id对应的gpu映射至容器。

2.如权利要求1所述的kubernetes中指定gpu创建负载的实现方法，其特征在于：所述指定筛选阶段为predicates阶段；所述在kubernetes调度时的指定筛选阶段筛选出与gpu信息对应的节点和gpu id的流程包括：在volcano调度器中新增自定义插件，通过该自定义插件在所有节点和gpu中筛选得到与gpu信息对应的节点和gpu id。

3.如权利要求1所述的kubernetes中指定gpu创建负载的实现方法，其特征在于，所述与gpu信息对应的节点和gpu id的筛选方法为：

4.如权利要求3所述的kubernetes中指定gpu创建负载的实现方法，其特征在于，所述发送至与gpu信息对应的节点的kubelet的流程包括：存在节点和/或gpu的评分列表时，在节点和/或gpu的评分列表中选取评分最高的节点和/或gpu id发送至kubelet。

5.如权利要求1所述的kubernetes中指定gpu创建负载的实现方法，其特征在于，所述通过kubelet启动容器并将gpuid对应的gpu映射至容器的流程包括：kubelet向oci hook发起包括与gpu信息对应的节点和gpu id的容器创建请求。

6.如权利要求1所述的ku...

【专利技术属性】
技术研发人员：张涵，饶云坤，
申请(专利权)人：中电云计算技术有限公司，
类型：发明
国别省市：