任务调度方法及相关产品技术

技术编号:41534735 阅读:17 留言:0更新日期:2024-06-03 23:12
本申请公开了一种任务调度方法及相关产品,应用于调度YARN节点,该方法包括:根据所述YARN节点的节点标签,确定待处理任务的目标容器;将所述待处理任务调度至所述目标容器中处理。采用本申请,能够解决现有技术中存在的增加研发成本和运维成本、及存在数据丢失的风险等问题。

【技术实现步骤摘要】

本申请实施例涉及计算机,涉及但不限于一种任务调度方法及相关产品


技术介绍

1、随着计算机和云计算技术的快速发展,以开源系统kubernetes和docker为基础的容器技术已成为云计算技术中的标准。围绕容器技术打造的混合云基础设施,已彻底改变了无状态应用和有状态应用的开发运维模式,这些应用的大部分数据及负载都以容器的方式运行在云上。

2、目前,大数据平台都是依赖于开源技术apache hadoop建设的,大数据计算分为批处理和流处理。其中,批处理也称离线计算,主要依赖于spark计算框架。流处理也称实时计算,主要依赖于flink计算框架。然而上述数据处理方案,放弃了hadoop yarn的资源调度系统,这样会增加大量的研发成本及运维成本,且需将大量的历史处理任务迁移到kubernetes系统,存在数据丢失的风险。


技术实现思路

1、有鉴于此,本申请实施例提供的一种任务调度方法及相关产品,能够解决现有技术中存在的增加研发成本和运维成本、及存在数据丢失的风险等问题。

2、第一方面,本申请本文档来自技高网...

【技术保护点】

1.一种任务调度方法,其特征在于,应用于调度YARN节点,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述YARN节点的节点标签,确定待处理任务的目标容器包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:

4.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:

5.根据权利要求2-4中任一项所述的方法,其特征在于,所述设定资源包括容器的当前副本数和期望副本数,所述根据所...

【技术特征摘要】

1.一种任务调度方法,其特征在于,应用于调度yarn节点,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述yarn节点的节点标签,确定待处理任务的目标容器包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:

4.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:

5.根据权利要求2-4中任一项所述的方法,其特征在于,所述设定资源包括容器的当前副本数和期望副本数,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括以下中的任一项:

6.根据权利要求5所述的...

【专利技术属性】
技术研发人员:李科君唐亮亮吕江昭
申请(专利权)人:RealMe重庆移动通信有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1