任务调度、任务调度配置方法、存储介质、电子设备技术

技术编号:41568138 阅读:26 留言:0更新日期:2024-06-06 23:49
本申请实施例公开了一种任务调度方法及装置、任务调度配置方法及装置、计算机可读存储介质、电子设备、计算机程序产品。该方法包括:第一客户端获得配置信息库,信息库中保存有至少一个进程组各自关联的任务调度配置信息;任务调度配置信息包括针对所关联进程组配置的至少一个调度等级,以及在不同调度等级下关联的可用资源;获得待提交目标任务时,确定目标任务所属目标进程组;根据目标进程组关联的至少一个调度等级,对目标任务进行逐级检测,若目标进程组在各调度等级下关联的可用资源均满足目标任务执行所需资源,确定目标任务通过检测,将目标任务提交至图形处理器。可合理调控提交GPU运算任务的并发数,最大程度利用GPU算力并缓解资源竞争。

【技术实现步骤摘要】

本申请涉及信息处理,特别是涉及一种任务调度方法及装置、任务调度配置方法及装置、计算机可读存储介质、电子设备、计算机程序产品。


技术介绍

1、智能驾驶指的是机器帮助人进行驾驶,以及在特殊情况下完全取代人驾驶的技术。车辆行驶过程中,车辆上安装的传感器能够获知相关视听觉信号和信息,可以通过认知计算来控制相应的随动系统,实现智能驾驶。

2、实际应用中,智能驾驶系统中的ai模型推理任务(如视觉、雷达等)对gpu资源均有算力需求,且随着智驾场景日益丰富和复杂,对算力的需求也在持续增长,算力的供需矛盾愈发突出。

3、这种矛盾带来的结果就是频繁的资源竞争,例如,系统中大量的ai模型推理任务会以多线程方式提交到gpu进行运算,大量并发任务可能引起推理的耗时增大问题。

4、如何合理调度并发执行的ai模型推理任务,以优化执行耗时,成为需要本领域技术人员解决的技术问题。


技术实现思路

1、本申请提供了一种任务调度方法及装置、任务调度配置方法及装置、计算机可读存储介质、电子设备、计算机程序产品,可以本文档来自技高网...

【技术保护点】

1.一种任务调度方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述任务调度配置信息还包括在不同调度等级下关联的任务选取策略,所述方法还包括:

3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,按照以下方式确定所述可用资源是否满足所述目标任务执行所需资源:

5.根据权利要求1至4任一项所述的方法,其特征在于,所述目标进程组关联的至少一个调度等级包括:进程内调度、进程组调度、系统调度以及跨系统调度中的至少一种,且按照调度范围由小到大的顺序进行逐级检测。

6...

【技术特征摘要】

1.一种任务调度方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述任务调度配置信息还包括在不同调度等级下关联的任务选取策略,所述方法还包括:

3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:

4.根据权利要求3所述的方法,其特征在于,按照以下方式确定所述可用资源是否满足所述目标任务执行所需资源:

5.根据权利要求1至4任一项所述的方法,其特征在于,所述目标进程组关联的至少一个调度等级包括:进程内调度、进程组调度、系统调度以及跨系统调度中的至少一种,且按照调度范围由小到大的顺序进行逐级检测。

6.根据权利要求5所述的方法,其特征在于,所述目标进程组关联的至少一个调度等级包括进程内调度,该调度等级下关联的可用资源包括:针对所述目标进程组中的至少一个进程配置的资源上限,该调度等级下关联的任务选取策略包括:针对所述目标进程组中的至少一个进程配置的任务选取策略;则

7.根据权利要求5所述的方法,其特征在于,所述目标进程组关联的至少一个调度等级包括进程组调度,该调度等级下关联的可用资源包括:针对所述目标进程组配置的资源上限,该调度等级下关联的任务选取策略包括:...

【专利技术属性】
技术研发人员:徐峰
申请(专利权)人:斑马网络技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1