执行分布式任务的方法、装置、设备以及存储介质制造方法及图纸

技术编号:37508440 阅读:47 留言:0更新日期:2023-05-07 09:47
本公开提供了一种执行分布式任务的方法、装置、设备以及存储介质,涉及计算机技术领域,尤其涉及分布式计算领域。具体实现方案为:获取分布式任务,其中,分布式任务包括多个子任务;以及依次执行多个子任务,得到针对分布式任务的执行结果,其中,分布式任务是根据以下操作生成的:根据与多个子任务对应的算子信息,生成多个子任务,其中,每个子任务包括条件算子和处理算子;根据多个子任务之间的依赖关系,配置多个子任务之间的拓扑关系;以及创建上下文空间,并配置上下文空间中与每个子任务对应的子空间。对应的子空间。对应的子空间。

【技术实现步骤摘要】
执行分布式任务的方法、装置、设备以及存储介质


[0001]本公开涉及计算机
,尤其涉及分布式计算领域。

技术介绍

[0002]微服务架构下存在许多任务需要编排,这些任务在执行流程、产出和资源消耗瓶颈点(如耗时、监听线程数)等方面均可能存在巨大差异。在分布式场景下,当任务由一连串操作组合在一起时,还会存在一致性问题。如何将这些任务统一管理是业界关注的一个重要问题。

技术实现思路

[0003]本公开提供了一种执行分布式任务的方法、装置、设备、存储介质以及程序产品。
[0004]根据本公开的一方面,提供了一种执行分布式任务的方法,包括:获取分布式任务,其中,所述分布式任务包括多个子任务;以及依次执行所述多个子任务,得到针对所述分布式任务的执行结果,其中,所述分布式任务是根据以下操作生成的:根据与所述多个子任务对应的算子信息,生成多个子任务,其中,每个所述子任务包括条件算子和处理算子;根据所述多个子任务之间的依赖关系,配置所述多个子任务之间的拓扑关系;以及创建上下文空间,并配置所述上下文空间中与所述每个子任务对应的子空间。本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种执行分布式任务的方法,包括:获取分布式任务,其中,所述分布式任务包括多个子任务;以及依次执行所述多个子任务,得到针对所述分布式任务的执行结果,其中,所述分布式任务是根据以下操作生成的:根据与所述多个子任务对应的算子信息,生成多个子任务,其中,每个所述子任务包括条件算子和处理算子;根据所述多个子任务之间的依赖关系,配置所述多个子任务之间的拓扑关系;以及创建上下文空间,并配置所述上下文空间中与所述每个子任务对应的子空间。2.根据权利要求1所述的方法,其中,所述根据所述多个子任务之间的依赖关系,配置所述多个子任务之间的拓扑关系,包括:根据所述依赖关系,生成拓扑图,其中,所述拓扑图包括多个节点和所述多个节点之间的边,所述多个节点与所述多个子任务一一对应,所述多个节点之间的边用于表示所述多个子任务之间的拓扑关系。3.根据权利要求2所述的方法,其中,所述依次执行所述多个子任务,得到针对所述分布式任务的执行结果,包括:针对所述多个子任务中的每个子任务,确定所述子任务是否为可执行状态;以及在所述子任务为可执行状态的情况下,执行所述子任务。4.根据权利要求3所述的方法,其中,所述执行所述子任务,包括:从对应的子空间中获取原始数据;利用所述子任务中的计算算子,对原始数据进行计算,得到计算结果;将所述计算结果写入对应的子空间;在所述拓扑图中确定与所述子任务对应的后继节点;以及将所述后继节点的入度减去1。5.根据权利要求4所述的方法,还包括:为每个子任务创建视图模块;其中,所述从对应的子空间中获取原始数据,包括:利用所述视图模块,从对应的子空间中获取原始数据;以及所述将所述计算结果写入对应的子空间,包括:利用所述视图模块,将所述计算结果写入对应的子空间。6.根据权利要求2所述的方法,还包括:确定所述子任务所对应的节点在所述拓扑图中的入度是否为0,以及确定所述子任务中的条件算子的计算结果是否为成功;以及在所述子任务所对应的节点在所述拓扑图中的入度为0,且所述子任务中的条件算子的计算结果为成功的情况下,确定所述子任务为可执行状态。7.根据权利要求1所述的方法,还包括:在执行所述子任务的过程中,检测所述子任务是否为挂起状态;在所述子任务为挂起状态的情况下,根据挂起状态的检测次数,设置睡眠时长;以及在经过所述睡眠时长后,返回所述f检测所述子任务是否为挂起状态的操作。
8.一种执行分布式任务的装置,包括:获取模块,用于获取分布式任务,其中,所述分布式任务包括多个子任务;以及执行模块,用于依次执行所述多个子任务,得到针对所述分布式任务的执行结果,生成模块,用于根据与所述多个子任务对应的算子信息,生成多个子任务,其中,每个所述子任务包括条件算子和处理算子;配置模块,用于根据所述多个子任务之间的依赖关系,配置所述多个子任务之间的拓扑关系;以及创建模块,用于创建上下文空间,并配置所述...

【专利技术属性】
技术研发人员:徐文栋
申请(专利权)人:百度时代网络技术北京有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1