图形处理器及图形处理器的操作方法技术

技术编号:41934516 阅读:33 留言:0更新日期:2024-07-05 14:29
本申请公开一种图形处理器及图形处理器的操作方法。所述图形处理器包括多个处理分区、控制器及分派模块。多个处理分区用以并行处理多个内核。各处理分区包括多个处理单元,多个处理分区包括用以处理多个内核的第一内核的第一处理分区。控制器用以于第一处理分区的工作负载满足预定准则时,根据内核优先级信息产生控制信息。控制信息指出第二处理分区被选为借出处理分区,第二处理分区用以执行多个内核中优先级低于第一内核的第二内核。分派模块用以将第一内核分派给第一处理分区,并于第一处理分区的工作负载满足预定准则时,根据控制信息将第一内核的线程块分派给借出处理分区的处理单元。所述图形处理器能够减少高优先级的工作负载的延迟时间。

【技术实现步骤摘要】

本专利技术涉及一种图形处理器,尤其涉及用于动态分派处理单元的图形处理器。


技术介绍

1、为了增进图形处理器(gpu)的系统使用率,多个工作负载可同时在图形处理器上运作,用户可事先决定如何将不同的工作负载分派给图形处理器上的处理单元。然而,不同的工作负载具有不同的优先级或性能目标,每个工作负载也可能随时间改变。传统的图形处理器可能造成优先级较高的工作负载被执行时产生过长的延迟时间,使图形处理器整体的性能降低。因此,如何改善图形处理器的性能为本领域亟待解决的问题。


技术实现思路

1、本申请的目的之一在于公开一种图形处理器及其操作方法,以解决上述问题。

2、本申请的一实施例涉及一种图形处理器,包括多个处理分区、控制器及分派模块。多个处理分区用以并行处理多个内核,其中各处理分区包括多个处理单元,各处理单元包括计算单元和存储块,所述多个处理分区包括用以处理所述多个内核的第一内核的第一处理分区;控制器用以于所述第一内核相应的所述第一处理分区的工作负载满足预定准则时,根据内核优先级信息产生控制信息,其中所述控制本文档来自技高网...

【技术保护点】

1.一种图形处理器,其特征在于,包括:

2.依据权利要求1所述的图形处理器,其特征在于,所述借出处理分区的所述处理单元是所述第二处理分区中已被分派所述第二内核的线程块的处理单元。

3.依据权利要求1所述的图形处理器,其特征在于,所述借出处理分区的所述处理单元是所述第二处理分区中未用于处理所述第二内核的处理单元。

4.依据权利要求1所述的图形处理器,其特征在于,所述控制器用以估计使用所述第一处理分区来完成所述第一内核的执行造成的延迟时间是否大于预定时间;当估计出所述延迟时间大于所述预定时间时,所述控制器判断所述第一处理分区的工作负载满足所述预定准则。...

【技术特征摘要】

1.一种图形处理器,其特征在于,包括:

2.依据权利要求1所述的图形处理器,其特征在于,所述借出处理分区的所述处理单元是所述第二处理分区中已被分派所述第二内核的线程块的处理单元。

3.依据权利要求1所述的图形处理器,其特征在于,所述借出处理分区的所述处理单元是所述第二处理分区中未用于处理所述第二内核的处理单元。

4.依据权利要求1所述的图形处理器,其特征在于,所述控制器用以估计使用所述第一处理分区来完成所述第一内核的执行造成的延迟时间是否大于预定时间;当估计出所述延迟时间大于所述预定时间时,所述控制器判断所述第一处理分区的工作负载满足所述预定准则。

5.依据权利要求1所述的图形处理器,其特征在于,所述控制器包括:

6.依据权利要求5所述的图形处理器,其特征在于,所述控制信息还指出所述第二处理分区中的处理单元被选为所述借出处理分区的所述处理单元,以及所述控制信息产生模块包括:

7.依据权利要求6所述的图形处理器,其特征在于,所述多个内核包括优先级等于所述第二内核的第三内核,所述第三内核分派给所述多个处理分区中的第三处理分区;所述借出分区选择模块还根据内核使用信息,计算出最多可分派给所述第二处理分区的所述第一内核的线程块数量大于最多可分派给所述第三处理分区的所述第一内核的线程块数量,以将所述第二处理分区选为所述借出处理分区;

8.依据权利要求6所述的图形处理器,其特征在于,所述借出单元选择模块用以根据处理单元性能信息,将所述第二处理分区的所述处理单元选为所述借出处理分区的所述处理单元,其中所述处理单元性能信息指示出所述第二处理分区的所述处理单元在所述第二内核的处理操作中所占的权重,低于所述第二处理分区的另一处理单元在所述第二内核的处理操作中所占的权重。

9.依据权利要求1所述的图形处理器,其特征在于,所述分派模块用以存储处理单元分配信息,所述处理单元分配信息指示出所述第一处理分区的一组处理单元作为处理所述第一内核的一组处理...

【专利技术属性】
技术研发人员:李浩然孙飞仲睿光高源
申请(专利权)人:阿里巴巴中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1