【技术实现步骤摘要】
资源分配方法及设备
本申请涉及计算机领域,尤其涉及一种资源分配方法及设备。
技术介绍
在分布式系统中,通常存在三个角色:资源调度器、作业管理器及下属作业节点、机器节点。其中,技术术语“资源调度器”(英文全称为ResourceManager)一般是指分布式系统中协调、分配系统可用资源的服务器。其中,技术术语“作业管理器”(英文全称为JobMaster)一般是指分布式系统中控制本作业所有作业节点(JobWorker)的角色,负责代表所有作业节点向资源调度服务器申请作业资源,以及,向机器节点发送作业程序。一般地,分布式系统可以包括多个作业管理器。其中,技术术语“机器节点”(英文全称为MachineNode)一般是指分布式系统中代表机器负责监管用户作业程序执行的角色。其中,技术术语“作业节点”(英文全称为JobWorker)一般是指分布式系统中执行具体作业程序的角色,一般只与作业管理器通信。当用户需要提交一个作业程序时,作业管理器会向资源调度器申请一定数量的机器资源(如CPU、内存)供作业节点使用;资源调度器在收到作业资源申请后,会根据分布式系统中剩余的可用资源计算出可以 ...
【技术保护点】
1.一种资源分配方法,应用于资源调度器为作业节点分配机器节点过程中,其中,所述方法包括:获取作业节点申请的资源量和GPU卡型号的偏好;根据各机器节点的剩余资源和GPU卡型号,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点。
【技术特征摘要】
1.一种资源分配方法,应用于资源调度器为作业节点分配机器节点过程中,其中,所述方法包括:获取作业节点申请的资源量和GPU卡型号的偏好;根据各机器节点的剩余资源和GPU卡型号,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点。2.根据权利要求1所述的方法,其中,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点之后,还包括:向作业管理器通知为所述作业节点分配的满足所述申请的资源量和GPU卡型号偏好的机器节点。3.根据权利要求1所述的方法,其特征在于,根据各机器节点的剩余资源和GPU卡型号,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点之前,还包括:获取各机器节点的剩余资源和GPU卡型号。4.根据权利要求3所述的方法,其中,所述GPU卡型号的偏好包括GPU卡型号的候选集及所述候选集中各GPU卡型号的优先级顺序。5.根据权利要求4所述的方法,其中,获取各机器节点的剩余资源和GPU卡型号之后,还包括:记录所有的GPU卡型号和每个GPU卡型号下的所有机器节点;根据各机器节点的剩余资源和GPU卡型号,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点,包括:根据所述各机器节点对应的剩余资源和所述记录的GPU集群中所有的GPU卡型号和每个GPU卡型号下的所有机器节点、所述申请的资源量、GPU卡型号的候选集及所述候选集中各GPU卡型号的优先级顺序,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点。6.根据权利要求5所述的方法,其中,根据所述各机器节点对应的剩余资源和所述记录的GPU集群中所有的GPU卡型号和每个GPU卡型号下的所有机器节点、所述申请的资源量、GPU卡型号的候选集及所述候选集中各GPU卡型号的优先级顺序,为所述作业节点分配满足所述申请的资源量和GPU卡型号偏好的机器节点,包括:将所述记录的所有的GPU卡型号与所述申请的GPU卡型号的候选集进行交集处理,所述交集中的GPU卡型号的优先级顺序对应于所述候选集中各GPU卡型号的优先级顺序;按所述交集中的GPU卡型号的优先级顺序遍历所述交集中的每一个GPU卡型号,直至遍历结束,或者直至当前遍历到的GPU卡型号下的所有机器节点的资源剩余总量大于等于申请的机器节点的资源量,则遍历提前结束,为所述作业节点分配当前遍历到的GPU卡型号下的机器节点。7.根据权利要求6所述的方法,其中,所述遍历结束或遍历提前结束之后,还包括:判断是否已经为所述作业节点分配当前遍历到的GPU卡型号下的机器节点,若否,按所述交集中的GPU卡型号的优先级顺序遍历所述交集中的每一个GPU卡型号,直至遍历结束,或者直至遍历到所述交集中所有符合条件的GPU卡型号,则所述遍历提前结束,所述符合条件的GPU卡型号为该GPU卡型号下的所有机器节点的资源总量大于等于申请的机器节点的资源量,从所有符合条件的GPU卡型号中选择剩余资源总量最多的GPU卡型号,为所述作业节点分配所述选择的GPU卡型号下的机器节点。8.根据权利要求7所述的方法,其中,所述遍历结束或遍历提前结束...
【专利技术属性】
技术研发人员:张杨,冯亦挥,欧阳晋,韩巧焕,汪方,
申请(专利权)人:阿里巴巴集团控股有限公司,
类型:发明
国别省市:开曼群岛,KY
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。