【技术实现步骤摘要】
任务调度方法、装置、计算机设备及存储介质
本申请涉及大数据
,尤其涉及一种任务调度方法、装置、计算机设备及存储介质。
技术介绍
当前,在任务执行和调度的过程中往往需要依赖调度工具。任务的调度工具通常是根据依赖任务关系构造DAG(DirectedAcyclicGraph,有向无环图),通过调度工具可以定义完整的作业。同一个DAG中的所有任务拥有相同的调度时间。调度工具在DAG中将完整地记录整个工作流中每个作业之间的依赖关系、条件分支等内容,并可以记录运行状态。通过DAG可以精准的得到各个作业之间的依赖关系。当一个DAG满足任务的调度时间,或者被外部触发时,就会产生一个DAGRun,但是一个任务可以有多个调度时间,甚至多个不同的任务有多个不同的调度时间,而根据依赖关系构成的DAG只支持任务具有一个调度时间,对于有多个调度时间的多个任务则无法被精准调度执行。
技术实现思路
本申请实施例的目的在于提出一种任务调度方法、装置、计算机设备及存储介质,以解决多调度时间的任务无法被精准调度执行的技术问题。< ...
【技术保护点】
1.一种任务调度方法,其特征在于,包括下述步骤:/n获取所有待执行任务的依赖关系和调度时刻,其中,每个所述待执行任务至少包括一个所述调度时刻;/n根据所述调度时刻和所述依赖关系,构建多层所述待执行任务的待处理作业流,并将所有所述待处理作业流存储在预设的数据库中;/n在接收到任务执行指令时,调用所述任务执行指令对应的协调器,基于所述协调器从所述待处理作业流中调用所述任务执行指令对应的目标作业流至执行机器,以使所述执行机器执行所述目标作业流。/n
【技术特征摘要】
1.一种任务调度方法,其特征在于,包括下述步骤:
获取所有待执行任务的依赖关系和调度时刻,其中,每个所述待执行任务至少包括一个所述调度时刻;
根据所述调度时刻和所述依赖关系,构建多层所述待执行任务的待处理作业流,并将所有所述待处理作业流存储在预设的数据库中;
在接收到任务执行指令时,调用所述任务执行指令对应的协调器,基于所述协调器从所述待处理作业流中调用所述任务执行指令对应的目标作业流至执行机器,以使所述执行机器执行所述目标作业流。
2.根据权利要求1所述的任务调度方法,其特征在于,所述根据所述调度时刻和所述依赖关系,构建多层所述待执行任务的待处理作业流的步骤具体包括:
按照所述调度时刻从小到大对每个所述待执行任务进行归类,得到多个任务组;
根据每个所述任务组中待执行任务的依赖关系,构建每个所述任务组对应的待处理作业流,其中,最早调度时刻的任务组构建得到初始层作业流,最晚调度时刻的任务组构建得到最后一层作业流。
3.根据权利要求2所述的任务调度方法,其特征在于,所述根据每个所述任务组中待执行任务的依赖关系,构建每个所述任务组对应的待处理作业流的步骤具体包括:
根据所述依赖关系确定所述任务组中的根任务和子任务;
将所述根任务作为根节点任务,将所述子任务作为在所述根任务之后执行的任务,构建得到每个所述任务组对应的待处理作业流。
4.根据权利要求1所述的任务调度方法,所述协调器包括主协调器和副协调器,其特征在于,所述基于所述协调器从所述待处理作业流中调用所述任务执行指令对应的目标作业流至执行机器的步骤具体包括:
基于所述主协调器调用所述目标作业流至所述执行机器;
在所述主协调器调用失败时,基于所述副协调器调用所述目标作业流至所述执行机器。
5.根据权利要求1所述的任务调度方法,其特征在于,在所述基于所述协调器从所述待处理作业流中调用所述任务执行指令对应的目标作业流至执行机器的步骤之后还包括:
检测所述目标作业流中是否存在执行失败的失败任务;
在检...
【专利技术属性】
技术研发人员:谢双,
申请(专利权)人:平安普惠企业管理有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。