【技术实现步骤摘要】
本申请实施例涉及计算机,涉及但不限于一种任务调度方法及相关产品。
技术介绍
1、随着计算机和云计算技术的快速发展,以开源系统kubernetes和docker为基础的容器技术已成为云计算技术中的标准。围绕容器技术打造的混合云基础设施,已彻底改变了无状态应用和有状态应用的开发运维模式,这些应用的大部分数据及负载都以容器的方式运行在云上。
2、目前,大数据平台都是依赖于开源技术apache hadoop建设的,大数据计算分为批处理和流处理。其中,批处理也称离线计算,主要依赖于spark计算框架。流处理也称实时计算,主要依赖于flink计算框架。然而上述数据处理方案,放弃了hadoop yarn的资源调度系统,这样会增加大量的研发成本及运维成本,且需将大量的历史处理任务迁移到kubernetes系统,存在数据丢失的风险。
技术实现思路
1、有鉴于此,本申请实施例提供的一种任务调度方法及相关产品,能够解决现有技术中存在的增加研发成本和运维成本、及存在数据丢失的风险等问题。
...
【技术保护点】
1.一种任务调度方法,其特征在于,应用于调度YARN节点,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据所述YARN节点的节点标签,确定待处理任务的目标容器包括:
3.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:
4.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:
5.根据权利要求2-4中任一项所述的方法,其特征在于,所述设定资源包括容器的当前副本数和期
...【技术特征摘要】
1.一种任务调度方法,其特征在于,应用于调度yarn节点,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述根据所述yarn节点的节点标签,确定待处理任务的目标容器包括:
3.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:
4.根据权利要求2所述的方法,其特征在于,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括:
5.根据权利要求2-4中任一项所述的方法,其特征在于,所述设定资源包括容器的当前副本数和期望副本数,所述根据所述容器类型对应的设定资源,确定处理所述待处理任务所需的所述目标容器包括以下中的任一项:
6.根据权利要求5所述的...
【专利技术属性】
技术研发人员:李科君,唐亮亮,吕江昭,
申请(专利权)人:RealMe重庆移动通信有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。