信用调整电路及方法、任务调度电路及方法、电路和介质技术

技术编号:34534600 阅读:25 留言:0更新日期:2022-08-13 21:28
一种信用调整电路、任务调度电路、信用调整方法、任务调度方法、集成电路和非瞬时性计算机存储介质。信用调整电路用于对多个队列中的至少部分队列的信用进行调整,且包括:信用监测模块和信用调整模块。每个队列被分配有至少一个信用;信用监测模块被配置为监测多个队列分别对应的多个信用申请请求;信用调整模块被配置为获取多个信用申请请求,基于多个信用申请请求,确定多个队列中的第一被选择队列和第二被选择队列,对第一被选择队列对应的信用和第二被选择队列对应的信用进行调整。和第二被选择队列对应的信用进行调整。和第二被选择队列对应的信用进行调整。

【技术实现步骤摘要】
信用调整电路及方法、任务调度电路及方法、电路和介质


[0001]本公开的实施例涉及一种信用调整电路、任务调度电路、信用调整方法、任务调度方法、集成电路和非瞬时性计算机存储介质。

技术介绍

[0002]在多用户或多虚拟图形处理器(graphics processing unit,GPU)进行任务调度的场景中,可以采用信用(credit)调度方式进行任务调度执行。现有的credit调度方式主要是依靠软件给每个队列配置credit值,每个队列可以配置不同的credit值,然后某个队列调度出去一个任务后,该队列就减少相应的credit值,该credit值由该被调度出去的任务携带的信息决定,不同的任务对应的credit值可以不同,也可以相同。等调度出去的任务处理完成后,队列则加回对应的credit值,即credit回收。软件通过为每个队列配置credit初始值和为每个任务配置对应的credit值,从而限制队列的调度能力。

技术实现思路

[0003]本公开至少一个实施例提供一种信用调整电路,用于对多个队列中的至少部分队列的信用进行调整,且包括:信用监测模块和信用调整模块,其中,每个队列被分配有至少一个信用;所述信用监测模块被配置为监测所述多个队列分别对应的多个信用申请请求;所述信用调整模块被配置为获取所述多个信用申请请求,基于所述多个信用申请请求,确定所述多个队列中的第一被选择队列和第二被选择队列,对所述第一被选择队列对应的信用和所述第二被选择队列对应的信用进行调整。
[0004]例如,在本公开至少一个实施例提供的信用调整电路中,每个队列对应的信用申请请求包括信用增加请求和信用减少请求,所述信用增加请求包括与所述队列对应的信用缺少数量、信用缺少次数和信用增加指示信号;所述信用减少请求包括与所述队列对应的信用冗余数量、信用冗余次数和信用减少指示信号。
[0005]例如,在本公开至少一个实施例提供的信用调整电路中,所述信用监测模块包括与每个队列对应的第一信用数量记录模块、第一计数模块和第一指示信号确定模块,针对每个队列:所述第一信用数量记录模块被配置为记录所述队列对应的信用缺少数量;所述第一计数模块被配置为记录所述队列对应的信用缺少次数;所述第一指示信号确定模块被配置为基于所述队列对应的信用缺少次数和与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号。
[0006]例如,在本公开至少一个实施例提供的信用调整电路中,所述第一信用数量记录模块包括第一数量记录子模块,针对每个队列,当仲裁出所述队列中的一个任务时,所述第一数量记录子模块被配置为:响应于所述任务发生空调度,记录发生空调度的所述任务所需的信用的数量,并基于所述队列中的剩余的信用的数量和发生空调度的所述任务所需的信用的数量确定所述信用缺少数量;响应于所述队列中的任一任务被调度出去执行,将所述信用缺少数量清零。
[0007]例如,在本公开至少一个实施例提供的信用调整电路中,所述第一信用数量记录模块还包括第一缺失比较器,当仲裁出所述队列中的所述任务时,所述第一缺失比较器被配置为:比较所述任务所需的信用的数量和所述队列的剩余的信用的数量,响应于所述任务所需的信用的数量大于所述队列的剩余的信用的数量,确定所述任务发生一次空调度;响应于所述任务所需的信用的数量小于等于所述队列的剩余的信用的数量,确定所述任务能够被调度出去执行。
[0008]例如,在本公开至少一个实施例提供的信用调整电路中,所述第一计数模块包括缺失计数器,所述缺失计数器被配置为响应于监测到所述任务发生一次空调度,将所述队列对应的信用缺少次数加上第一值;响应于所述队列中的任一任务被调度出去执行,将所述队列对应的信用缺少次数清零。
[0009]例如,在本公开至少一个实施例提供的信用调整电路中,所述第一指示信号确定模块包括第二缺失比较器和第一信号确定子模块,所述第二缺失比较器被配置为:对所述队列对应的信用缺少次数和与所述队列对应的缺少次数阈值进行比较,以得到缺少次数比较结果;所述第一信号生成子模块被配置为:响应于所述缺少次数比较结果指示所述队列对应的信用缺少次数大于等于与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号为第一增加信号;响应于所述缺少次数比较结果指示所述队列对应的信用缺少次数小于与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号为第二增加信号。
[0010]例如,在本公开至少一个实施例提供的信用调整电路中,所述第一指示信号确定模块还包括第一存储器,所述第一存储器被配置为存储与所述队列对应的缺少次数阈值。
[0011]例如,在本公开至少一个实施例提供的信用调整电路中,所述信用监测模块包括与每个队列对应的第二信用数量记录模块、第二计数模块和第二指示信号确定模块,针对每个队列:所述第二信用数量记录模块被配置为记录所述队列对应的信用冗余数量;所述第二计数模块被配置为记录所述队列对应的信用冗余次数;所述第二指示信号确定模块被配置为基于所述队列对应的信用冗余次数和与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号。
[0012]例如,在本公开至少一个实施例提供的信用调整电路中,所述第二信用数量记录模块包括第二数量记录子模块,针对每个队列,所述第二数量记录子模块被配置为:记录所述队列的剩余的信用的数量作为所述信用冗余数量。
[0013]例如,在本公开至少一个实施例提供的信用调整电路中,所述第二计数模块包括第一冗余比较器和冗余计数器,当所述队列中的一个任务被调度出去执行之后,所述第一冗余比较器被配置为比较所述队列的剩余的信用的数量和所述队列对应的冗余数量阈值,响应于所述队列的剩余的信用的数量大于等于所述队列对应的冗余数量阈值,确定数量比较结果为第一结果,响应于所述队列的剩余的信用的数量小于所述队列对应的冗余数量阈值,确定所述数量比较结果为第二结果;所述冗余计数器被配置为响应于所述数量比较结果为所述第一结果,将所述队列对应的信用冗余次数加上第二值。
[0014]例如,在本公开至少一个实施例提供的信用调整电路中,所述冗余计数器还被配置为响应于所述数量比较结果为所述第二结果,将所述队列对应的信用冗余次数清零。
[0015]例如,在本公开至少一个实施例提供的信用调整电路中,所述第二指示信号确定
模块包括第二冗余比较器和第二信号确定子模块,所述第二冗余比较器被配置为:对所述队列对应的信用冗余次数和与所述队列对应的冗余次数阈值进行比较,以得到冗余次数比较结果;所述第二信号生成子模块被配置为:响应于所述冗余次数比较结果指示所述队列对应的信用冗余次数大于等于与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号为第一减少信号;响应于所述冗余次数比较结果指示所述队列对应的信用冗余次数小于与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号为第二减少信号。
[0016]例如,在本公开至少一个实施例提供的信用调整电路中,所述第二指示信号确定模块还包括第二存储器,所述第二存储器被配置为本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种信用调整电路,用于对多个队列中的至少部分队列的信用进行调整,且包括:信用监测模块和信用调整模块,其中,每个队列被分配有至少一个信用;所述信用监测模块被配置为监测所述多个队列分别对应的多个信用申请请求;所述信用调整模块被配置为获取所述多个信用申请请求,基于所述多个信用申请请求,确定所述多个队列中的第一被选择队列和第二被选择队列,对所述第一被选择队列对应的信用和所述第二被选择队列对应的信用进行调整。2.根据权利要求1所述的信用调整电路,其中,每个队列对应的信用申请请求包括信用增加请求和信用减少请求,所述信用增加请求包括与所述队列对应的信用缺少数量、信用缺少次数和信用增加指示信号;所述信用减少请求包括与所述队列对应的信用冗余数量、信用冗余次数和信用减少指示信号。3.根据权利要求2所述的信用调整电路,其中,所述信用监测模块包括与每个队列对应的第一信用数量记录模块、第一计数模块和第一指示信号确定模块,针对每个队列:所述第一信用数量记录模块被配置为记录所述队列对应的信用缺少数量;所述第一计数模块被配置为记录所述队列对应的信用缺少次数;所述第一指示信号确定模块被配置为基于所述队列对应的信用缺少次数和与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号。4.根据权利要求3所述的信用调整电路,其中,所述第一信用数量记录模块包括第一数量记录子模块,针对每个队列,当仲裁出所述队列中的一个任务时,所述第一数量记录子模块被配置为:响应于所述任务发生空调度,记录发生空调度的所述任务所需的信用的数量,并基于所述队列中的剩余的信用的数量和发生空调度的所述任务所需的信用的数量确定所述信用缺少数量;响应于所述队列中的任一任务被调度出去执行,将所述信用缺少数量清零。5.根据权利要求4所述的信用调整电路,其中,所述第一信用数量记录模块还包括第一缺失比较器,当仲裁出所述队列中的所述任务时,所述第一缺失比较器被配置为:比较所述任务所需的信用的数量和所述队列的剩余的信用的数量,响应于所述任务所需的信用的数量大于所述队列的剩余的信用的数量,确定所述任务发生一次空调度;响应于所述任务所需的信用的数量小于等于所述队列的剩余的信用的数量,确定所述任务能够被调度出去执行。6.根据权利要求4或5所述的信用调整电路,其中,所述第一计数模块包括缺失计数器,所述缺失计数器被配置为响应于监测到所述任务发生一次空调度,将所述队列对应的信用缺少次数加上第一值;响应于所述队列中的任一任务被调度出去执行,将所述队列对应的信用缺少次数清零。7.根据权利要求3~5任一项所述的信用调整电路,其中,所述第一指示信号确定模块包括第二缺失比较器和第一信号确定子模块,所述第二缺失比较器被配置为:对所述队列对应的信用缺少次数和与所述队列对应的
缺少次数阈值进行比较,以得到缺少次数比较结果;所述第一信号生成子模块被配置为:响应于所述缺少次数比较结果指示所述队列对应的信用缺少次数大于等于与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号为第一增加信号;响应于所述缺少次数比较结果指示所述队列对应的信用缺少次数小于与所述队列对应的缺少次数阈值,确定所述队列对应的信用增加指示信号为第二增加信号。8.根据权利要求7所述的信用调整电路,其中,所述第一指示信号确定模块还包括第一存储器,所述第一存储器被配置为存储与所述队列对应的缺少次数阈值。9.根据权利要求2~5任一项所述的信用调整电路,其中,所述信用监测模块包括与每个队列对应的第二信用数量记录模块、第二计数模块和第二指示信号确定模块,针对每个队列:所述第二信用数量记录模块被配置为记录所述队列对应的信用冗余数量;所述第二计数模块被配置为记录所述队列对应的信用冗余次数;所述第二指示信号确定模块被配置为基于所述队列对应的信用冗余次数和与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号。10.根据权利要求9所述的信用调整电路,其中,所述第二信用数量记录模块包括第二数量记录子模块,针对每个队列,所述第二数量记录子模块被配置为:记录所述队列的剩余的信用的数量作为所述信用冗余数量。11.根据权利要求9所述的信用调整电路,其中,所述第二计数模块包括第一冗余比较器和冗余计数器,当所述队列中的一个任务被调度出去执行之后,所述第一冗余比较器被配置为比较所述队列的剩余的信用的数量和所述队列对应的冗余数量阈值,响应于所述队列的剩余的信用的数量大于等于所述队列对应的冗余数量阈值,确定数量比较结果为第一结果,响应于所述队列的剩余的信用的数量小于所述队列对应的冗余数量阈值,确定所述数量比较结果为第二结果;所述冗余计数器被配置为响应于所述数量比较结果为所述第一结果,将所述队列对应的信用冗余次数加上第二值。12.根据权利要求11所述的信用调整电路,其中,所述冗余计数器还被配置为响应于所述数量比较结果为所述第二结果,将所述队列对应的信用冗余次数清零。13.根据权利要求9所述的信用调整电路,其中,所述第二指示信号确定模块包括第二冗余比较器和第二信号确定子模块,所述第二冗余比较器被配置为:对所述队列对应的信用冗余次数和与所述队列对应的冗余次数阈值进行比较,以得到冗余次数比较结果;所述第二信号生成子模块被配置为:响应于所述冗余次数比较结果指示所述队列对应的信用冗余次数大于等于与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号为第一减少信号;响应于所述冗余次数比较结果指示所述队列对应的信用冗余次数小于与所述队列对应的冗余次数阈值,确定所述队列对应的信用减少指示信号为第二减
少信号。14.根据权利要求13所述的信用调整电路,其中,所述第二指示信号确定模块还包括第二存储器,所述第二存储器被配置为存储与所述队列对应的冗余次数阈值。15.根据权利要求2~5任一项所述...

【专利技术属性】
技术研发人员:ꢀ七四专利代理机构
申请(专利权)人:上海壁仞智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1