The invention discloses a multi graphics processor, a GPU scheduling device, a distributed computing system and a multiple GPU scheduling method, relating to the field of cloud computing. Multi GPU scheduling device which comprises a request receiving module for receiving the user sends a GPU request; the request message queue module for the GPU request join request message queue; request distribution module for request messages in the queue using the GPU request distribution distributed GPU node in the GPU resources, so that the GPU process GPU request. Through the unified receiving GPU request and added to a queue, then the queue GPU requests to distributed GPU node in the GPU resources, realize the general scheduling of cross machine GPU, GPU application developers do not need to pay attention to the GPU collaborative scheduling problem.
【技术实现步骤摘要】
多GPU调度装置和分布式计算系统以及多GPU调度方法
本专利技术涉及云计算领域,尤其是一种用于多GPU(GraphicsProcessingUnit,图形处理器)调度的装置和分布式计算系统以及多GPU调度方法。
技术介绍
在大数据时代,海量数据的处理对计算机的计算能力要求较高,海量数据的处理无法在单台计算机上完成。目前,现已有许多基于CPU(CentralProcessingUnit,中央处理器)计算的分布式计算平台用来处理海量数据。然而,由于GPU具有良好的并行计算能力,对于浮点运算、通用计算、图像处理等计算应用场景,GPU可以提供数十倍乃至于上百倍于CPU的性能。但对于跨机多GPU的使用,却还没有很好的解决方案,多GPU的使用仍然依赖于程序开发者实现协同调度。
技术实现思路
本专利技术实施例所要解决的一个技术问题是:如何实现对跨机多GPU的通用调度。根据本专利技术实施例的第一个方面,提供了一种多GPU调度装置,包括:请求接收模块,用于接收用户发送的GPU使用请求;请求消息队列模块,用于将GPU使用请求加入请求消息队列;请求分配模块,用于为请求消息队列中的GPU使用请求分配分布式GPU节点中的GPU资源,以便GPU处理GPU使用请求。在一个实施例中,请求分配模块用于根据各个GPU的当前状态对请求消息队列中的GPU使用请求进行分配,以便GPU处理GPU使用请求。在一个实施例中,请求接收模块为GPU通用调度接口。在一个实施例中,装置还包括线程建立单元和请求获取单元;线程建立单元用于为每个GPU分别启动一个线程;请求获取单元用于控制各个线程从请求消息队列中获取GP ...
【技术保护点】
一种多图形处理器GPU调度装置,其特征在于,包括:请求接收模块,用于接收用户发送的GPU使用请求;请求消息队列模块,用于将所述GPU使用请求加入请求消息队列;请求分配模块,用于为所述请求消息队列中的GPU使用请求分配分布式GPU节点中的GPU资源,以便GPU处理GPU使用请求。
【技术特征摘要】
1.一种多图形处理器GPU调度装置,其特征在于,包括:请求接收模块,用于接收用户发送的GPU使用请求;请求消息队列模块,用于将所述GPU使用请求加入请求消息队列;请求分配模块,用于为所述请求消息队列中的GPU使用请求分配分布式GPU节点中的GPU资源,以便GPU处理GPU使用请求。2.根据权利要求1所述的装置,其特征在于,所述请求分配模块用于根据各个GPU的当前状态对所述请求消息队列中的GPU使用请求进行分配,以便GPU处理GPU使用请求。3.根据权利要求1所述的装置,其特征在于,所述请求接收模块为GPU通用调度接口。4.根据权利要求1所述的装置,其特征在于,所述请求分配模块包括线程建立单元和请求获取单元;所述线程建立单元用于为每个GPU分别启动一个线程;所述请求获取单元用于控制各个线程从所述请求消息队列中获取GPU使用请求,并交给本线程对应的GPU进行处理。5.根据权利要求1所述的装置,其特征在于,还包括资源调度管理器,用于为所述多GPU通用调度装置提供可供分配的GPU资源。6.一种用于多图形处理器GPU调度的分布式计算系统,其特征在于,包括:若干分布式GPU节点,所述GPU节点中的GPU用于处理所...
【专利技术属性】
技术研发人员:丁圣勇,黄志兰,樊勇兵,陈楠,金华敏,赖培源,区洪辉,
申请(专利权)人:中国电信股份有限公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。