【技术实现步骤摘要】
本披露一般涉及人工智能。更具体地,本披露涉及一种任务调度方法及相关装置。
技术介绍
1、异构计算系统把不同类型的处理器整合在同一个计算系统中,使得多种处理器发挥各自的计算优势,实现更高的计算性能。在异构计算系统中,调度策略直接影响了设备侧硬件资源的利用率以及任务的等待时间,从而影响程序的执行速度。
2、现有技术中,生成较优的调度策略往往需要更多的时间开销,如何加快任务调度过程以便于利用性能更优的调度算法,成为一项技术问题,有鉴于此,亟需提供一种任务调度方案,以便于以较低的延迟开销实现任务的调度。
技术实现思路
1、为了至少解决在上述
技术介绍
部分所描述的一个或多个技术问题,本披露提出如下的技术方案及其多个实施例。
2、在第一方面中,本披露公开了一种任务调度方法,应用于异构计算装置的设备侧,包括:从主机侧接收任务和与任务相关的调度策略,其中,调度策略是在主机侧生成的;以及根据调度策略将任务下发至设备侧的处理器核以便于执行任务。
3、在第二方面中,本披露还公开
...【技术保护点】
1.一种任务调度方法,应用于异构计算装置的设备侧,包括:
2.根据权利要求1所述的方法,其中,所述调度策略是在主机侧的驱动应用编程接口层生成的。
3.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,对所述任务进行拦截。
4.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,根据所述调度策略来确定是否要对所述任务进行拦截。
5.根据权利要求4所述的方法,其中,根据所述调度策略来确定是否要对所述任务进行拦截包括:
6.根据权利要求3-5中任意一项所述的方法
...【技术特征摘要】
1.一种任务调度方法,应用于异构计算装置的设备侧,包括:
2.根据权利要求1所述的方法,其中,所述调度策略是在主机侧的驱动应用编程接口层生成的。
3.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,对所述任务进行拦截。
4.根据权利要求1所述的方法,进一步包括:在将所述任务下发至设备侧的处理器核之前,根据所述调度策略来确定是否要对所述任务进行拦截。
5.根据权利要求4所述的方法,其中,根据所述调度策略来确定是否要对所述任务进行拦截包括:
6.根据权利要求3-5中任意一项所述的方法,其中,对所述任务进行拦截包括:
7.根据权利要求1-6任意一项所述的方法,进一步包括:
8.根据权利要求7所述的方法,其中,当设备侧资源利用率高于第二预定阈值时,所述方法进一步包括:
9.根据权利要求1所述的方法,其中,根据所述调度策略将所述任务下发至设备侧的处理器核包括:
10.根据权利要求6所述的方法,其中,在将所述设备侧中的任务下发至所述设备侧的处理器核之后,包括:
11.一种由异构计算装置执行的任务调度方法,所述异构计算装置包括主机侧和...
【专利技术属性】
技术研发人员:请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,请求不公布姓名,
申请(专利权)人:寒武纪昆山信息科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。