【技术实现步骤摘要】
GPU资源使用方法、电子设备及计算机可读介质
本专利技术实施例涉及计算机
,尤其涉及一种GPU资源使用方法、电子设备及计算机可读介质。
技术介绍
目前在许多领域,大量的计算任务均会使用到GPU(图形处理器)进行处理,以便利用GPU的高处理性能加快运行速度。然而,由于GPU是十分重要的算力资源且售价十分昂贵,如何提高GPU的利用率是目前各大厂商的重点研究课题。为此,GPU共享技术应运而生,在一种GPU共享技术中,将GPU作为扩展资源从而实现GPU资源的拆分。其通过一个GPU同时与多个pod(一种虚拟容器对象组件)绑定,来达到共享GPU的目的。但是,该技术中与GPU绑定的pod会持续占用可调度的GPU资源,即使没有GPU资源使用需求,与其绑定的那部分GPU资源也无法调度给其他pod使用,使得GPU资源的利用率不高。
技术实现思路
本专利技术提供了一种GPU资源使用方案,以至少部分解决上述问题。根据本专利技术实施例的第一方面,提供了一种GPU资源使用方法,所述方法包括:接收工作区虚拟容器对 ...
【技术保护点】
1.一种GPU资源使用方法,其特征在于,所述方法包括:/n接收工作区虚拟容器对象组件发送的、用于请求图形处理器GPU对所述工作区虚拟容器对象组件中的应用数据进行处理的远程请求指令;/n根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源;/n使用所述可用GPU空闲资源创建GPU虚拟容器对象组件,并根据所述工作区虚拟容器对象组件的执行环境参数初始化所述GPU虚拟容器对象组件的执行环境参数;/n通过初始化后的所述GPU虚拟容器对象组件,对所述应用数据执行所述远程请求指令所请求的操作;/n在向所述工作区虚拟容器对象组件返回所述操作的操作结果后,销毁所述GPU虚拟容器对象组件 ...
【技术特征摘要】
1.一种GPU资源使用方法,其特征在于,所述方法包括:
接收工作区虚拟容器对象组件发送的、用于请求图形处理器GPU对所述工作区虚拟容器对象组件中的应用数据进行处理的远程请求指令;
根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源;
使用所述可用GPU空闲资源创建GPU虚拟容器对象组件,并根据所述工作区虚拟容器对象组件的执行环境参数初始化所述GPU虚拟容器对象组件的执行环境参数;
通过初始化后的所述GPU虚拟容器对象组件,对所述应用数据执行所述远程请求指令所请求的操作;
在向所述工作区虚拟容器对象组件返回所述操作的操作结果后,销毁所述GPU虚拟容器对象组件并释放所述GPU虚拟容器对象组件占用的GPU资源。
2.根据权利要求1所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
获取每个GPU的当前时段空闲资源的信息;
根据每个所述GPU的当前时段空闲资源的信息,为所述远程请求指令所请求的操作确定可用GPU空闲资源。
3.根据权利要求1所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
获取被占用GPU的当前时段资源利用信息;
根据每个所述GPU的当前时段资源利用信息,将资源利用率低于预设阈值的GPU中未被利用的资源,确定为所述可用GPU空闲资源。
4.根据权利要求2或3所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
根据预设资源类型的GPU的当前空闲资源的信息,确定可用GPU空闲资源。
5.根据权利要求4所述的方法,其特征在于,在所述根据预设资源类型的GPU的当前空闲资源的信息,确定可用GPU空闲资源之前,所述方法还包括:
通过指定设备插件对所述预设资源类型的GPU进行预先...
【专利技术属性】
技术研发人员:张永康,王海鹏,刘东东,
申请(专利权)人:北京世纪好未来教育科技有限公司,
类型:发明
国别省市:北京;11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。