任务调度方法及相关装置制造方法及图纸

技术编号:44769891 阅读:31 留言:0更新日期:2025-03-26 12:50
本披露公开了一种任务调度方法及相关装置。根据本披露所公开的技术方案,任务和调度策略是在主机侧生成的;主机侧可以直接将任务及其任务调度策略下发到设备侧;设备侧根据调度策略控制任务下发到处理器核以便于处理器核执行任务;如此,通过主机侧和设备侧之间的协同配合,以较低的延迟开销完成任务的调度过程。

【技术实现步骤摘要】

本披露一般涉及人工智能。更具体地,本披露涉及一种任务调度方法及相关装置


技术介绍

1、异构计算系统把不同类型的处理器整合在同一个计算系统中,使得多种处理器发挥各自的计算优势,实现更高的计算性能。在异构计算系统中,调度策略直接影响了设备侧硬件资源的利用率以及任务的等待时间,从而影响程序的执行速度。

2、现有技术中,生成较优的调度策略往往需要更多的时间开销,如何加快任务调度过程以便于利用性能更优的调度算法,成为一项技术问题,有鉴于此,亟需提供一种任务调度方案,以便于以较低的延迟开销实现任务的调度。


技术实现思路

1、为了至少解决在上述
技术介绍
部分所描述的一个或多个技术问题,本披露提出如下的技术方案及其多个实施例。

2、在第一方面中,本披露公开了一种任务调度方法,应用于异构计算装置的设备侧,包括:从主机侧接收任务和与任务相关的调度策略,其中,调度策略是在主机侧生成的;以及根据调度策略将任务下发至设备侧的处理器核以便于执行任务。

3、在第二方面中,本披露还公开了一种由异构计算装置本文档来自技高网...

【技术保护点】

1.一种任务调度方法,应用于异构计算装置的设备侧,包括:

2.根据权利要求1所述的方法,其中,所述调度策略是在主机侧的驱动应用编程接口层生成的。

3.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,对所述任务进行拦截。

4.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,根据所述调度策略来确定是否要对所述任务进行拦截。

5.根据权利要求4所述的方法,其中,根据所述调度策略来确定是否要对所述任务进行拦截包括:

6.根据权利要求3-5中任意一项所述的方法,其中,对所述任务进...

【技术特征摘要】

1.一种任务调度方法,应用于异构计算装置的设备侧,包括:

2.根据权利要求1所述的方法,其中,所述调度策略是在主机侧的驱动应用编程接口层生成的。

3.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,对所述任务进行拦截。

4.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,根据所述调度策略来确定是否要对所述任务进行拦截。

5.根据权利要求4所述的方法,其中,根据所述调度策略来确定是否要对所述任务进行拦截包括:

6.根据权利要求3-5中任意一项所述的方法,其中,对所述任务进行拦截包括:

7.根据权利要求1-6任意一项所述的方法,进一步包括:

8.根据权利要求7所述的方法,其中,当设备侧资源利用率高于第二预定阈值时,所述方法进一步包括:

9.根据权利要求1所述的方法,其中,根据所述调度策略将所述任务下发至设备侧的处理器核包括:

10.根据权利要求6所述的方法,其中,在将所述设备侧中的任务下发至所述设备侧的处理器核之后,包括:

11.一种由异构计算装置执行的任务调度方法,所述异构计算装置包括主机侧和...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:寒武纪昆山信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1