YARN队列的作业执行方法及其相关设备技术

技术编号:43889337 阅读:16 留言:0更新日期:2025-01-03 13:05
本申请提供了一种YARN队列的作业执行方法及其相关设备,包括:根据预设周期获取所述YARN队列的堆积类型结果,其中,所述YARN队列包括多个作业,所述堆积类型结果包括无法对所述YARN队列的作业创建资源申请操作的第一堆积型结果,和/或,所述YARN队列的作业在创建资源申请操作后而无法执行作业执行操作的第二堆积型结果;根据所述堆积类型结果相应调整所述YARN队列的执行操作,所述执行操作包括调整所述资源申请操作的数量,和/或,调整所述作业执行操作的数量。

【技术实现步骤摘要】

本申请涉及yarn队列管理领域,特别是涉及一种yarn队列的作业执行方法及其相关设备。


技术介绍

1、yarn是hadoop的一个重要组件,主要用于资源管理和作业调度。当yarn获取到用户提交的作业,yarn将其分配至yarn队列中,进而,yarn根据yarn队列资源总量为作业分配相应资源已完成作业的执行。

2、当前,yarn队列存在作业堆积,导致yarn队列中的作业无法正常执行。


技术实现思路

1、本申请提供了一种yarn队列的作业执行方法及其相关设备,用于调整yarn队列中的作业执行操作以降低yarn队列的作业堆积的情形。

2、本申请第一方面提供一种yarn队列的作业执行方法,包括:根据预设周期获取所述yarn队列的堆积类型结果,其中,所述yarn队列包括多个作业,所述堆积类型结果包括无法对所述yarn队列的作业创建资源申请操作的第一堆积型结果,和/或,所述yarn队列的作业在创建资源申请操作后而无法执行作业执行操作的第二堆积型结果;根据所述堆积类型结果相应调整所述yarn队列的执本文档来自技高网...

【技术保护点】

1.一种YARN队列的作业执行方法,其特征在于,包括:

2.根据权利要求1所述YARN队列的作业执行方法,其特征在于,所述根据所述堆积类型结果相应调整所述YARN队列的执行操作,包括:

3.根据权利要求2所述YARN队列的作业执行方法,其特征在于,所述执行操作还包括增加所述YARN队列的队列资源总量,则所述获取所述第一堆积型结果的成因,进而根据所述第一堆积型结果的成因调整所述YARN队列的执行操作,包括:

4.根据权利要求2所述YARN队列的作业执行方法,其特征在于,所述获取所述第一堆积型结果的成因,进而根据所述第一堆积型结果的成因调整所述YARN队列...

【技术特征摘要】

1.一种yarn队列的作业执行方法,其特征在于,包括:

2.根据权利要求1所述yarn队列的作业执行方法,其特征在于,所述根据所述堆积类型结果相应调整所述yarn队列的执行操作,包括:

3.根据权利要求2所述yarn队列的作业执行方法,其特征在于,所述执行操作还包括增加所述yarn队列的队列资源总量,则所述获取所述第一堆积型结果的成因,进而根据所述第一堆积型结果的成因调整所述yarn队列的执行操作,包括:

4.根据权利要求2所述yarn队列的作业执行方法,其特征在于,所述获取所述第一堆积型结果的成因,进而根据所述第一堆积型结果的成因调整所述yarn队列的执行操作,包括:

5.根据权利要求4所述yarn队列的作业执行方法,其特征在于,所述将所述队列资源总量的至少部分的空闲资源用于执行所述yarn队列的资源申请操作,以增加所述yarn队列的所述资源申请操作的数量,包括:

6.根据权利要求1所述yarn队列的作业执行方法,其特征在于,所述根据所述堆积类型结果相应调整所述yarn队列的执行操作,包括:

7.根据权利要求6所述yarn...

【专利技术属性】
技术研发人员:张东林钱浩东胡荣保
申请(专利权)人:浙江大华技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1