System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 图形处理器算力配置方法、装置、计算机设备和存储介质制造方法及图纸_技高网
当前位置: 首页 > 专利查询>之江实验室专利>正文

图形处理器算力配置方法、装置、计算机设备和存储介质制造方法及图纸

技术编号:40529599 阅读:7 留言:0更新日期:2024-03-01 13:50
本申请涉及一种图形处理器算力配置方法、装置、计算机设备和存储介质,通过在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,根据待处理任务的延迟执行概率决策是否延迟执行待处理任务,其中,第一算力包括图形处理器的当前实际算力使用量以及待处理任务执行所需的理论算力使用量,历史算力数据包括多个采样时间中图形处理器进程的算力使用量,由于在可能超配的情况下并未直接延迟执行待处理任务,而是根据历史算力数据决策是否延迟执行待处理任务,保证了图形处理器的算力使用量能够稳定在算力配额附近,解决了图形处理器的算力资源利用率较低的问题,提高了图形处理器算力分配的准确度与稳定性。

【技术实现步骤摘要】

本申请涉及图形处理器,特别是涉及一种图形处理器算力配置方法、装置、计算机设备和存储介质


技术介绍

1、图形处理器(gpu)又称作显示核心、视觉处理器、显示芯片,是一种对于图像和图形进行运算工作的微处理器。在图形处理器的使用过程中,当图形处理器被一个用户占用后,通常不能被其他用户使用。而占用者往往只在一定的时间段内使用图形处理器,这导致大部分时间图形处理器的资源没有被充分利用,造成图形处理器的算力资源利用率较低。

2、相关技术中,主要通过空间复用的方法,从硬件层面对图形处理器的算力进行隔离,以提高图形处理器的资源利用率。然而,该方法只能通过一定比例对图形处理器的算力进行限制,且不同的硬件需要不同的空间复用实现方法,使用的灵活性较差。也有方法采用时间片轮转的方式来控制图形处理器的使用,但该方法的误差较大,无法精准地控制图形处理器的算力比例,因而无法实现对图形处理器算力的充分应用。

3、目前,对于相关技术中,图形处理器的算力资源利用率较低的问题,尚未提出有效的解决办法。


技术实现思路

1、基于此,有必要针对上述技术问题,提供一种能够的提高图形处理器算力资源利用率的图形处理器算力配置方法、装置、计算机设备和存储介质。

2、第一方面,本申请提供了一种图形处理器算力配置方法。所述方法包括:

3、在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,其中,所述第一算力包括所述图形处理器的当前实际算力使用量以及所述待处理任务执行所需的理论算力使用量,所述历史算力数据包括多个采样时间中所述图形处理器的进程的算力使用量;

4、根据所述待处理任务的延迟执行概率进行决策,根据决策结果确定是否延迟执行所述待处理任务。

5、在其中一个实施例中,获取图形处理器的当前实际算力使用量包括:

6、获取所述图形处理器当前运行的所有进程的标识符;

7、通过所述图形处理器的进程接口,对所述标识符进行遍历,获取每个进程所占用的第二算力;

8、将所述第二算力进行累加,得到所述图形处理器的当前实际算力使用量。

9、在其中一个实施例中,获取所述待处理任务执行所需的理论算力使用量包括:

10、获取所述待处理任务需要调用的进程接口;

11、根据所述进程接口的算力参数,预估所述待处理任务执行所需的理论算力使用量,其中,所述算力参数包括所述进程接口的网格数和/或所述进程接口的线程块数。

12、在其中一个实施例中,根据所述历史算力数据,计算所述待处理任务的延迟执行概率包括:

13、根据所述历史算力数据,统计预设时间段内所述图形处理器的算力使用量超出所述算力配额的次数;

14、根据预设时间段内所述图形处理器的算力使用量超出所述算力配额的次数,计算执行所述待处理任务后,所述图形处理器的算力使用量超出所述算力配额的概率;

15、对所述预设时间段内超出所述算力配额的所述图形处理器的算力使用量进行加权平均,根据加权平均值以及所述算力配额,计算所述图形处理器的超配比值;

16、根据所述图形处理器的算力使用量超出所述算力配额的概率以及所述超配比值,计算所述待处理任务的所述延迟执行概率。

17、在其中一个实施例中,计算执行所述待处理任务后,所述图形处理器的算力使用量超出所述算力配额的概率包括:

18、根据所述预设时间段内所述图形处理器的算力使用量超出所述算力配额的次数,计算所述预设时间段内所述图形处理器的算力使用量超出所述算力配额的频率;

19、根据所述预设时间段内所述图形处理器的算力使用量超出所述算力配额的频率,计算所述图形处理器的算力使用量超出所述算力配额的概率。

20、在其中一个实施例中,根据所述待处理任务的延迟执行概率进行决策包括:

21、根据所述待处理任务的延迟执行概率,随机生成所述待处理任务的决策值;

22、根据所述决策值,决策是否延迟执行所述待处理任务。

23、在其中一个实施例中,还包括:

24、在所述第一算力未超出所述图形处理器的算力配额的情况下,立即执行所述待处理任务。

25、第二方面,本申请还提供了一种图形处理器算力配置装置。所述装置包括:

26、计算模块,用于在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,其中,所述第一算力包括所述图形处理器的当前实际算力使用量以及所述待处理任务执行所需的理论算力使用量,所述历史算力数据包括多个采样时间中所述图形处理器的进程的算力使用量;

27、决策模块,用于根据所述待处理任务的延迟执行概率进行决策,根据决策结果确定是否延迟执行所述待处理任务。

28、第三方面,本申请还提供了一种计算机设备。所述计算机设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:

29、在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,其中,所述第一算力包括所述图形处理器的当前实际算力使用量以及所述待处理任务执行所需的理论算力使用量,所述历史算力数据包括多个采样时间中所述图形处理器的进程的算力使用量;

30、根据所述待处理任务的延迟执行概率进行决策,根据决策结果确定是否延迟执行所述待处理任务。

31、第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:

32、在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,其中,所述第一算力包括所述图形处理器的当前实际算力使用量以及所述待处理任务执行所需的理论算力使用量,所述历史算力数据包括多个采样时间中所述图形处理器的进程的算力使用量;

33、根据所述待处理任务的延迟执行概率进行决策,根据决策结果确定是否延迟执行所述待处理任务。

34、上述图形处理器算力配置方法、装置、计算机设备和存储介质,通过在第一算力超出图形处理器的算力配额的情况下,根据历史算力数据,计算待处理任务的延迟执行概率,根据待处理任务的延迟执行概率进行决策,根据决策结果确定是否延迟执行待处理任务,其中,第一算力包括图形处理器的当前实际算力使用量以及待处理任务执行所需的理论算力使用量,历史算力数据包括多个采样时间中图形处理器的进程的算力使用量,实现了对图形处理器算力资源的充分利用,由于在待处理任务执行后可能超配的情况下并未直接延迟执行待处理任务,而是根据历史算力数据进行决策,以确定是否延迟执行待处理任务,保证了图形处理器的算力使用量能够稳定在图形处理器的算力配额附近,解决了图形处理器的算力资源利用率较低的问题,提高了图形处理器算力分配的准确度与稳定性。<本文档来自技高网...

【技术保护点】

1.一种图形处理器算力配置方法,其特征在于,所述方法包括:

2.根据权利要求1所述的图形处理器算力配置方法,其特征在于,获取图形处理器的当前实际算力使用量包括:

3.根据权利要求1所述的图形处理器算力配置方法,其特征在于,获取所述待处理任务执行所需的理论算力使用量包括:

4.根据权利要求1所述的图形处理器算力配置方法,其特征在于,根据所述历史算力数据,计算所述待处理任务的延迟执行概率包括:

5.根据权利要求4所述的图形处理器算力配置方法,其特征在于,计算执行所述待处理任务后,所述图形处理器的算力使用量超出所述算力配额的概率包括:

6.根据权利要求1所述的图形处理器算力配置方法,其特征在于,根据所述待处理任务的延迟执行概率进行决策包括:

7.根据权利要求1所述的图形处理器算力配置方法,其特征在于,所述方法还包括:

8.一种图形处理器算力配置装置,其特征在于,包括:

9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至权利要求7中任一项所述的图形处理器算力配置方法的步骤。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至权利要求7中任一项所述的图形处理器算力配置方法的步骤。

...

【技术特征摘要】

1.一种图形处理器算力配置方法,其特征在于,所述方法包括:

2.根据权利要求1所述的图形处理器算力配置方法,其特征在于,获取图形处理器的当前实际算力使用量包括:

3.根据权利要求1所述的图形处理器算力配置方法,其特征在于,获取所述待处理任务执行所需的理论算力使用量包括:

4.根据权利要求1所述的图形处理器算力配置方法,其特征在于,根据所述历史算力数据,计算所述待处理任务的延迟执行概率包括:

5.根据权利要求4所述的图形处理器算力配置方法,其特征在于,计算执行所述待处理任务后,所述图形处理器的算力使用量超出所述算力配额的概率包括:

6.根据权利要求1...

【专利技术属性】
技术研发人员:华剑峰高翔潘爱民
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1