一种实现元数据负载均衡的子树迁移方法、装置制造方法及图纸

技术编号:24682486 阅读:30 留言:0更新日期:2020-06-27 07:44
本发明专利技术提供一种实现元数据负载均衡的子树迁移方法、装置,所述方法包括如下步骤:根据过载元数据服务器的负载与区域平均负载的差值计算需要迁移出的负载;根据负载和元数据热度计算最大负载;选择能接受负载最多的元数据服务器作为目标元数据服务器,迁移的负载的量为相应的计算出的最大负载与计算出的需要迁移出的负载中的较小者;通知过载元数据服务器迁移目标元数据服务器和迁移的负载,过载元数据服务器中选择相应热度的目录子树进行迁移。

A subtree migration method and device for metadata load balancing

【技术实现步骤摘要】
一种实现元数据负载均衡的子树迁移方法、装置
本专利技术涉及分布式文件存储动态元数据管理
,具体涉及一种实现元数据负载均衡的子树迁移方法、装置。
技术介绍
分布式文件系统(DistributedFileSystem)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连。分布式文件系统可以有效解决数据的存储和管理难题:将固定于某个地点的某个文件系统,扩展到任意多个地点/多个文件系统,众多的节点组成一个文件系统网络。每个节点可以分布在不同的地点,通过网络进行节点间的通信和数据传输。人们在使用分布式文件系统时,无需关心数据是存储在哪个节点上、或者是从哪个节点从获取的,只需要像使用本地文件系统一样管理和存储文件系统中的数据。目前分布式文件存储元数据服务器集群中的负载均衡策略在异构元数据服务器和网络延迟较大时存在的问题。分布式文件存储的元数据管理策略可以很好地应对热点数据访问以及负载分布不均的问题,但其实现的子树迁移算法却有如下问题:迁移算法默认了各MDS能力相同。实际上同样的元数据访问在不同MDS上本文档来自技高网...

【技术保护点】
1.一种实现元数据负载均衡的子树迁移方法,其特征在于,包括如下步骤:/n根据过载元数据服务器的负载与区域平均负载的差值计算需要迁移出的负载;/n根据负载和元数据热度计算最大负载;/n选择能接受负载最多的元数据服务器作为目标元数据服务器,迁移的负载的量为相应的计算出的最大负载与计算出的需要迁移出的负载中的较小者;/n通知过载元数据服务器迁移目标元数据服务器和迁移的负载,过载元数据服务器中选择相应热度的目录子树进行迁移。/n

【技术特征摘要】
1.一种实现元数据负载均衡的子树迁移方法,其特征在于,包括如下步骤:
根据过载元数据服务器的负载与区域平均负载的差值计算需要迁移出的负载;
根据负载和元数据热度计算最大负载;
选择能接受负载最多的元数据服务器作为目标元数据服务器,迁移的负载的量为相应的计算出的最大负载与计算出的需要迁移出的负载中的较小者;
通知过载元数据服务器迁移目标元数据服务器和迁移的负载,过载元数据服务器中选择相应热度的目录子树进行迁移。


2.根据权利要求1所述的一种实现元数据负载均衡的子树迁移方法,其特征在于,该方法包括:元数据服务器定期向区域内的决策元数据服务器上报自身的负载和热度,当单台元数据服务器的负载持续设定时间段高于区域内平均负载一定范围时,执行步骤:根据过载元数据服务器的负载与区域平均负载的差值计算需要迁移出的负载。


3.根据权利要求1所述的一种实现元数据负载均衡的子树迁移方法,其特征在于,所述的根据过载元数据服务器的负载与区域平均负载的差值计算需要迁移出的负载的步骤之前包括:采用CPU、内存和带宽的占用情况的加权和定义负载L;
L=α*lcpu+β*lmem+γ*lbw
其中,lcpu、lmem、lbw分别为CPU、内存和带宽的占用情况,α、β、γ为相应的加权系数。


4.根据权利要求1所述的一种实现元数据负载均衡的子树迁移方法,其特征在于,所述的采用CPU、内存和带宽的占用情况的加权和定义负载L的步骤之后还包括:
采用元数据服务器的元数据总热度与负载L的比值来定义节点能力。


5.根据权利要求1所述的一种实现元数据负载均衡的子树迁移方法,其特征在于,所述的采用元数据服务器的元数据总热度与负载L的比值来定义节点能力的步骤之后还包括:
通过对传输代价进行聚类,将元数据服务器分成不同的区域,区域内距离聚类中心最近的元数据服务器作为决策元数据服务器;决策元数据服务器,用于负责收集区域内决策元数据服务器的信息和迁移决策,其中,传输代价在两台服务器有数据...

【专利技术属性】
技术研发人员:张瑞朋李景要
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1