【技术实现步骤摘要】
本申请涉及计算机
,尤其涉及带宽资源分配、数据传输方法、装置及系统。
技术介绍
一个支持跨地域的大型分布式数据处理系统,其内的数据量是巨大的,这些数据可能位于不同地域的数个集群内。如图1所示为一个数据处理系统,该系统包括集群A、集群B和集群C,每个集群的数据分为三个层级:商业数据层、中间数据层和原始数据层。数据处理系统中不同集群之间的数据存在依赖关系,且同一集群中不同层次上的数据也存在依赖关系,为了避免集群之间跨地域远程访问所依赖的数据,需将存在依赖关系的数据复制到不同地域的集群上。例如:集群B和集群C对集群A的数据存在依赖关系,为了避免集群B和集群C跨地域远程访问集群A的数据,将集群A的数据复制到集群B和集群C上。由于数据处理系统中集群间的带宽资源有限,因此如何在各个集群间合理分配带宽资源,以便高效利用有限带宽资源传输数据,是现在需要解决的问题。
技术实现思路
本申请提供了一种带宽资源分配、数据传输方法、装置及系统,本申请能够在集群间合理分配带宽资源,以有效利用有限带宽资源高效传输数据。为了解决上述问题,本申请提供下述技术手段:一种带宽资源分配方法,应用于数据处理系统中的服务器,所述数据处理系统还包括多个集群,每个集群包含至少一个业务单元,所述服务器与多个集群中每个业务单元相连;所述方法包括:响应于所有业务单元发送带宽资源请求,在所有带宽资源请求指示的多个数据传输方向中选择一个数据传输方向作为目标数据传输方向;其中,所述带宽资源请求中包含数据传输方向;将所有业务单元在所述目标数据传输方向上已使用的带宽资源的和值,确定为第一带宽资源总和;判断所述第一带 ...
【技术保护点】
一种带宽资源分配方法,其特征在于,应用于数据处理系统中的服务器,所述数据处理系统还包括多个集群,每个集群包含至少一个业务单元,所述服务器与多个集群中每个业务单元相连;所述方法包括:响应于所有业务单元发送带宽资源请求,在所有带宽资源请求指示的多个数据传输方向中选择一个数据传输方向作为目标数据传输方向;其中,所述带宽资源请求中包含数据传输方向;将所有业务单元在所述目标数据传输方向上已使用的带宽资源的和值,确定为第一带宽资源总和;判断所述第一带宽资源总和是否小于预设带宽阈值;其中,所述预设带宽阈值为:所述目标数据传输方向上所有业务单元所能使用的最高带宽阈值;如果是,则为目标业务单元分配带宽资源;所述目标业务单元为:包括所述目标数据传输方向的带宽资源请求所对应的业务单元。
【技术特征摘要】
1.一种带宽资源分配方法,其特征在于,应用于数据处理系统中的服务器,所述数据处理系统还包括多个集群,每个集群包含至少一个业务单元,所述服务器与多个集群中每个业务单元相连;所述方法包括:响应于所有业务单元发送带宽资源请求,在所有带宽资源请求指示的多个数据传输方向中选择一个数据传输方向作为目标数据传输方向;其中,所述带宽资源请求中包含数据传输方向;将所有业务单元在所述目标数据传输方向上已使用的带宽资源的和值,确定为第一带宽资源总和;判断所述第一带宽资源总和是否小于预设带宽阈值;其中,所述预设带宽阈值为:所述目标数据传输方向上所有业务单元所能使用的最高带宽阈值;如果是,则为目标业务单元分配带宽资源;所述目标业务单元为:包括所述目标数据传输方向的带宽资源请求所对应的业务单元。2.如权利要求1所述的方法,其特征在于,所述带宽资源请求中还包含请求分配的带宽资源和优先级级别;则所述为目标业务单元分配带宽资源,包括:将所有业务单元在所述目标数据传输方向上请求分配的带宽资源的和值,确定为第二带宽资源总和;将所述第一带宽资源总和与所述第二带宽资源总和的和值,确定为第三带宽资源总和;判断所述第三带宽资源总和是否大于所述预设带宽阈值;如果否,则为所有目标业务单元分配带宽资源;如果是,则按所有带宽资源请求中优先级级别的高低顺序,逐个向所述目标业务单元分配带宽资源,直到在所述目标数据传输方向上所有业务单元已使用的带宽资源总和大于所述预设带宽阈值。3.如权利要求2所述的方法,其特征在于,所述按所有带宽资源请求中优先级级别的高低顺序,逐个向所述目标业务单元分配带宽资源,直到在所述目标数据传输方向上所有业务单元已使用的带宽资源总和大于所述预设带宽阈值,包括:将所有带宽资源请求中优先级级别最高的带宽资源请求,确定为目标带宽资源请求;判断第一带宽资源总和是否大于所述预设带宽阈值;如果否,则向所述目标带宽资源请求对应的业务单元分配带宽资源,并将该分配的带宽资源添加至所述第一带宽资源总和内,以及,在删除该目标带宽资源请求后,执行将所有带宽资源请求中优先级级别最高的带宽资源请求,确定为目标带宽资源请求的步骤;如果是,则结束在所述目标数据传输方向上分配带宽资源的流程。4.如权利要求3所述的方法,其特征在于,所述向所述目标带宽资源请求对应的业务单元分配带宽资源,包括:获取所述目标带宽资源请求中请求分配的目标带宽资源;将所述第一带宽资源总和与所述目标带宽资源的和值,确定为目标带宽资源总和;判断所述目标带宽资源总和是否大于所述预设带宽阈值;如果是,则将所述预设带宽阈值与所述第一带宽资源总和的带宽资源差值,分配至所述目标带宽资源请求对应的业务单元;如果否,则将所述目标带宽资源分配至所述目标带宽资源请求对应的业务单元。5.一种数据传输方法,其特征在于,应用于数据处理系统中的任意一个业务单元,所述数据处理系统还包括多个集群及服务器,每个集群包含至少一个业务单元,所述服务器与每个集群中每个业务单元相连;所述方法包括:在与其它业务单元进行数据传输之前,任意一个当前业务单元向所述服务器发送带宽资源请求;接收所述服务器按照权利要求1的方式分配的带宽资源;利用所述分配的带宽资源与其它业务单元进行数据传输。6.如权利要求5所述的方法,其特征在于,在任意一个当前业务单元向所述服务器发送带宽资源请求之前,还包括:计算所述当前业务单元在所有数据传输方向上已使用的业务带宽资源;判断所述业务带宽资源是否小于第二预设带宽阈值,其中,所述第二预设带宽阈值表示所述当前业务单元所能使用的最高带宽阈值;如果是,则执行向所述服务器发送的带宽资源请求的步骤;如果否,则延迟预设时间后再执行向所述服务器发送的带宽资源请求的步骤。7.一种带宽资源分配装置,其特征在于,应用于数据处理系统中的服务器,所述数据处理系统还包括多个集群,每个集群包含至少一个业务单元,所述服务器与多个集群中每个业务单元相连;所述装置包括:选择单元,用于响应于所有业务单元发送带宽资源请求,在所有带宽资源请求指示的多个数据传输方向中选择一个数据传输方向作为目...
【专利技术属性】
技术研发人员:何乐,徐凯,尹小明,罗李,
申请(专利权)人:阿里巴巴集团控股有限公司,
类型:发明
国别省市:开曼群岛;KY
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。