System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本说明书实施例涉及计算机,特别涉及一种gpu资源管理方法。
技术介绍
1、随着云原生的普及与推广,考虑到边缘节点cpu的使用成本偏高,边缘节点gpu被设计用于提供相对低成本的大量算力,并且,为了进一步降低计算成本,边缘节点gpu虚拟化的需求被提出来。但在实际应用中,边缘节点中配置的软件程序较为复杂,导致其软件程序无法利用gpu资源进行虚拟机或容器虚拟化改造,从而增加了云原生的普及与推广的难度。
技术实现思路
1、有鉴于此,本说明书实施例提供了一种gpu资源管理方法。本说明书一个或者多个实施例同时涉及另一种gpu资源管理方法,一种gpu资源管理装置,另一种gpu资源管理装置,一种gpu资源管理系统,两种gpu资源管理节点,一种计算设备,一种计算机可读存储介质,一种计算机程序,以解决现有技术中存在的技术缺陷。
2、根据本说明书实施例的第一方面,提供了一种gpu资源管理方法,应用于云侧节点,包括:
3、接收用户发送的处理请求,对所述处理请求进行分析,确定所述处理请求对应的对象标识和gpu资源需求信息;
4、在根据所述对象标识确定由容器响应所述处理请求的情况下,基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点,以及
5、在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,基于所述每个边缘节点的空闲虚拟机gpu资源信息,根据所述gpu资源需求信息从所述边缘节点群组中确定目
6、将所述对象标识和所述gpu资源需求信息,发送至所述目标边缘节点。
7、根据本说明书实施例的第二方面,提供了一种gpu资源管理装置,应用于云侧节点,包括:
8、请求接收模块,被配置为接收用户发送的处理请求,对所述处理请求进行分析,确定所述处理请求对应的对象标识和gpu资源需求信息;
9、调度模块,被配置为在根据所述对象标识确定由容器响应所述处理请求的情况下,基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点,以及
10、在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,基于所述每个边缘节点的空闲虚拟机gpu资源信息,根据所述gpu资源需求信息从所述边缘节点群组中确定目标边缘节点,其中,所述边缘节点群组中包含至少两个边缘节点,所述每个边缘节点配置有至少两个gpu;
11、信息发送模块,被配置为将所述对象标识和所述gpu资源需求信息,发送至所述目标边缘节点。
12、根据本说明书实施例的第三方面,提供了一种gpu资源管理节点,包括:
13、请求接收模块,被配置为接收用户发送的处理请求,对所述处理请求进行分析,确定所述处理请求对应的对象标识和gpu资源需求信息;
14、对象调度模块。被配置为在根据所述对象标识确定由容器响应所述处理请求的情况下,基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点,以及
15、在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,基于所述每个边缘节点的空闲虚拟机gpu资源信息,根据所述gpu资源需求信息从所述边缘节点群组中确定目标边缘节点,其中,所述边缘节点群组中包含至少两个边缘节点,所述每个边缘节点配置有至少两个gpu;
16、信息发送模块,被配置为将所述对象标识和所述gpu资源需求信息,发送至所述目标边缘节点。
17、根据本说明书实施例的第四方面,提供了另一种gpu资源管理方法,应用于边缘节点,包括:
18、接收云侧节点发送的对象标识和gpu资源需求信息,其中,所述对象标识和所述gpu资源需求信息为所述云侧节点通过对处理请求进行分析获得;
19、在根据所述对象标识确定由容器响应所述处理请求的情况下,从容器gpu分组中分配与所述gpu资源需求信息对应的容器gpu资源,并基于所述容器gpu资源创建响应所述处理请求的容器,以及
20、在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,从虚拟机gpu分组中分配与所述gpu资源需求信息对应的虚拟机gpu资源,并基于所述虚拟机gpu资源创建响应所述处理请求的虚拟机。
21、根据本说明书实施例的第五方面,提供了另一种gpu资源管理装置,应用于边缘节点,包括:
22、信息接收模块,被配置为接收云侧节点发送的对象标识和gpu资源需求信息,其中,所述对象标识和所述gpu资源需求信息为所述云侧节点通过对处理请求进行分析获得;
23、容器管理模块,被配置为在根据所述对象标识确定由容器响应所述处理请求的情况下,从容器gpu分组中分配与所述gpu资源需求信息对应的容器gpu资源,并基于所述容器gpu资源创建响应所述处理请求的容器,其中,所述容器运行在容器管理单元中;
24、虚拟机管理模块,被配置为在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,从虚拟机gpu分组中划分与所述gpu资源需求信息对应的虚拟机gpu资源,并基于所述虚拟机gpu资源创建响应所述处理请求的虚拟机,其中,所述虚拟机运行在容器管理单元中。
25、根据本说明书实施例的第六方面,提供了另一种gpu资源管理节点,包括:
26、信息接收模块,被配置为接收云侧节点发送的对象标识和gpu资源需求信息,其中,所述对象标识和所述gpu资源需求信息为所述云侧节点通过对处理请求进行分析获得;
27、容器管理模块,被配置为在根据所述对象标识确定由容器响应所述处理请求的情况下,从容器gpu分组中分配与所述gpu资源需求信息对应的容器gpu资源,并基于所述容器gpu资源创建响应所述处理请求的容器,其中,所述容器运行在容器管理单元中;
28、虚拟机管理模块,被配置为在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,从虚拟机gpu分组中划分与所述gpu资源需求信息对应的虚拟机gpu资源,并基于所述虚拟机gpu资源创建响应所述处理请求的虚拟机,其中,所述虚拟机运行在容器管理单元中。
29、根据本说明书实施例的第七方面,提供了一种gpu资源管理系统,所述系统包括云侧节点以及至少两个边缘节点,每个边缘节点配置有至少两个gpu,其中,
30、所述云侧节点,被配置为接收用户发送的处理请求,对所述处理请求进行分析,确定所述处理请求对应的对象标识和gpu资源需求信息;在根据所述对象标识确定由容器响应所述处理请求的情况下,基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点,以及在根据所述对象标识确定由虚拟机响应所述处理请求的情况下,基于所述每本文档来自技高网...
【技术保护点】
1.一种GPU资源管理方法,应用于云侧节点,包括:
2.根据权利要求1所述的GPU资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器GPU资源信息,根据所述GPU资源需求信息从所述边缘节点集群中确定目标边缘节点,包括:
3.根据权利要求1所述的GPU资源管理方法,所述基于所述每个边缘节点的空闲虚拟机GPU资源信息,根据所述GPU资源需求信息从所述边缘节点群组中确定目标边缘节点,包括:
4.根据权利要求1所述的GPU资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器GPU资源信息,根据所述GPU资源需求信息从所述边缘节点集群中确定目标边缘节点之前,还包括:
5.根据权利要求1所述的GPU资源管理方法,所述将所述对象标识和所述GPU资源需求信息,发送至目标边缘节点,包括:
6.根据权利要求5所述的GPU资源管理方法,所述基于所述对象标识和所述GPU资源需求信息生成对象配置文件,包括:
7.根据权利要求1所述的GPU资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器GPU资源信息,根据所述G
8.一种GPU资源管理方法,应用于边缘节点,包括:
9.根据权利要求8所述的GPU资源管理方法,所述接收云侧节点发送的对象标识和GPU资源需求信息之前,还包括:
10.根据权利要求9所述的GPU资源管理方法,所述将所述待分配虚拟机GPU配置为虚拟机GPU分组,将所述待分配容器GPU配置为容器GPU分组之后,还包括:
11.根据权利要求10所述的GPU资源管理方法,所述确定所述容器GPU分组对应的空闲容器GPU资源信息,包括:
12.根据权利要求10所述的GPU资源管理方法,所述确定所述虚拟机GPU分组对应的空闲虚拟机GPU资源信息,包括:
13.根据权利要求8所述的GPU资源管理方法,所述接收云侧节点发送的对象标识和GPU资源需求信息,包括:
14.根据权利要求13所述的GPU资源管理方法,所述对象配置文件为容器配置文件;
15.根据权利要求13所述的GPU资源管理方法,所述对象配置文件为容器化虚拟机配置文件;
16.根据权利要求8所述的GPU资源管理方法,所述从容器GPU分组中分配与所述GPU资源需求信息对应的容器GPU资源,包括:
17.根据权利要求8所述的GPU资源管理方法,所述从虚拟机GPU分组中分配与所述GPU资源需求信息对应的虚拟机GPU资源,包括:
18.根据权利要求8所述的GPU资源管理方法,所述基于所述容器GPU资源创建响应所述处理请求的容器之后,还包括:
19.一种GPU资源管理节点,包括:
20.一种GPU资源管理节点,包括:
21.一种GPU资源管理系统,所述系统包括云侧节点以及至少两个边缘节点,每个边缘节点配置有至少两个GPU,其中,
22.一种GPU资源管理装置,应用于云侧节点,包括:
23.一种GPU资源管理装置,应用于边缘节点,包括:
24.一种计算设备,包括:
25.一种计算机可读存储介质,其存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现权利要求1至7中任意一项所述GPU资源管理方法,以及权利要求8至18中任意一项所述GPU资源管理方法的步骤。
...【技术特征摘要】
1.一种gpu资源管理方法,应用于云侧节点,包括:
2.根据权利要求1所述的gpu资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点,包括:
3.根据权利要求1所述的gpu资源管理方法,所述基于所述每个边缘节点的空闲虚拟机gpu资源信息,根据所述gpu资源需求信息从所述边缘节点群组中确定目标边缘节点,包括:
4.根据权利要求1所述的gpu资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点之前,还包括:
5.根据权利要求1所述的gpu资源管理方法,所述将所述对象标识和所述gpu资源需求信息,发送至目标边缘节点,包括:
6.根据权利要求5所述的gpu资源管理方法,所述基于所述对象标识和所述gpu资源需求信息生成对象配置文件,包括:
7.根据权利要求1所述的gpu资源管理方法,所述基于边缘节点群组中每个边缘节点的空闲容器gpu资源信息,根据所述gpu资源需求信息从所述边缘节点集群中确定目标边缘节点之前,还包括:
8.一种gpu资源管理方法,应用于边缘节点,包括:
9.根据权利要求8所述的gpu资源管理方法,所述接收云侧节点发送的对象标识和gpu资源需求信息之前,还包括:
10.根据权利要求9所述的gpu资源管理方法,所述将所述待分配虚拟机gpu配置为虚拟机gpu分组,将所述待分配容器gpu配置为容器gpu分组之后,还包括:
11.根据权利要求10所述的gpu资源管理方法,所述确定所述容器gpu分...
【专利技术属性】
技术研发人员:房秋生,朱永春,朱哲,高经梁,付亮,
申请(专利权)人:蚂蚁区块链科技上海有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。