GPU资源使用方法、电子设备及计算机可读介质技术

技术编号:26342200 阅读:21 留言:0更新日期:2020-11-13 20:31
根据本发明专利技术实施例提供的GPU资源使用方法、电子设备及计算机可读介质:工作区与GPU分离,工作区虚拟容器对象组件通过远程请求指令请求远程的GPU对工作区虚拟容器对象组件中的应用数据进行处理,用户在工作区虚拟容器对象组件中准备数据的时候并不会占用GPU资源,避免了现有技术中用户在GPU虚拟容器对象组件中准备数据占用GPU资源的情形;且在利用GPU虚拟容器对象组件执行完远程请求指令所请求的操作,并返回操作结果后,释放了GPU虚拟容器对象组件占用的GPU资源,被释放的该GPU资源可以继续分配给其它工作区虚拟容器对象组件进行应用数据处理使用,GPU的利用率得到提高。

GPU resource usage method, electronic equipment and computer-readable medium

【技术实现步骤摘要】
GPU资源使用方法、电子设备及计算机可读介质
本专利技术实施例涉及计算机
,尤其涉及一种GPU资源使用方法、电子设备及计算机可读介质。
技术介绍
目前在许多领域,大量的计算任务均会使用到GPU(图形处理器)进行处理,以便利用GPU的高处理性能加快运行速度。然而,由于GPU是十分重要的算力资源且售价十分昂贵,如何提高GPU的利用率是目前各大厂商的重点研究课题。为此,GPU共享技术应运而生,在一种GPU共享技术中,将GPU作为扩展资源从而实现GPU资源的拆分。其通过一个GPU同时与多个pod(一种虚拟容器对象组件)绑定,来达到共享GPU的目的。但是,该技术中与GPU绑定的pod会持续占用可调度的GPU资源,即使没有GPU资源使用需求,与其绑定的那部分GPU资源也无法调度给其他pod使用,使得GPU资源的利用率不高。
技术实现思路
本专利技术提供了一种GPU资源使用方案,以至少部分解决上述问题。根据本专利技术实施例的第一方面,提供了一种GPU资源使用方法,所述方法包括:接收工作区虚拟容器对象组件发送的、用于请本文档来自技高网...

【技术保护点】
1.一种GPU资源使用方法,其特征在于,所述方法包括:/n接收工作区虚拟容器对象组件发送的、用于请求图形处理器GPU对所述工作区虚拟容器对象组件中的应用数据进行处理的远程请求指令;/n根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源;/n使用所述可用GPU空闲资源创建GPU虚拟容器对象组件,并根据所述工作区虚拟容器对象组件的执行环境参数初始化所述GPU虚拟容器对象组件的执行环境参数;/n通过初始化后的所述GPU虚拟容器对象组件,对所述应用数据执行所述远程请求指令所请求的操作;/n在向所述工作区虚拟容器对象组件返回所述操作的操作结果后,销毁所述GPU虚拟容器对象组件并释放所述GPU虚拟...

【技术特征摘要】
1.一种GPU资源使用方法,其特征在于,所述方法包括:
接收工作区虚拟容器对象组件发送的、用于请求图形处理器GPU对所述工作区虚拟容器对象组件中的应用数据进行处理的远程请求指令;
根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源;
使用所述可用GPU空闲资源创建GPU虚拟容器对象组件,并根据所述工作区虚拟容器对象组件的执行环境参数初始化所述GPU虚拟容器对象组件的执行环境参数;
通过初始化后的所述GPU虚拟容器对象组件,对所述应用数据执行所述远程请求指令所请求的操作;
在向所述工作区虚拟容器对象组件返回所述操作的操作结果后,销毁所述GPU虚拟容器对象组件并释放所述GPU虚拟容器对象组件占用的GPU资源。


2.根据权利要求1所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
获取每个GPU的当前时段空闲资源的信息;
根据每个所述GPU的当前时段空闲资源的信息,为所述远程请求指令所请求的操作确定可用GPU空闲资源。


3.根据权利要求1所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
获取被占用GPU的当前时段资源利用信息;
根据每个所述GPU的当前时段资源利用信息,将资源利用率低于预设阈值的GPU中未被利用的资源,确定为所述可用GPU空闲资源。


4.根据权利要求2或3所述的方法,其特征在于,所述根据所述GPU的当前空闲资源的信息,确定可用GPU空闲资源,包括:
根据预设资源类型的GPU的当前空闲资源的信息,确定可用GPU空闲资源。


5.根据权利要求4所述的方法,其特征在于,在所述根据预设资源类型的GPU的当前空闲资源的信息,确定可用GPU空闲资源之前,所述方法还包括:
通过指定设备插件对所述预设资源类型的GPU进行预先...

【专利技术属性】
技术研发人员:张永康王海鹏刘东东
申请(专利权)人:北京世纪好未来教育科技有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1