【技术实现步骤摘要】
存储集群的负载均衡方法、装置、计算机设备及存储介质
本专利技术涉及云
,尤其涉及一种存储集群的负载均衡方法、装置、计算机设备及存储介质。
技术介绍
软件定义存储由于其方便灵活的伸缩性,存储系统可以在硬件承载范围内任意伸缩。正在被越来越多的企业采用。伴随着云存储的普及,云存储管理成为目前存储领域不可或缺的技术。云存储管理是一类应用程序,它们监控和管理物理及逻辑层上的存储资源。但是集群在不断扩容升级后,会面临数据分布倾斜性高,数据分布不可控的问题。随着集群规模扩大,新机器不断加入,势必会出现数据在集群中分布不均的问题,造成一些机器空闲,其他机器高负荷的情况;同时,由于数据的冷热不同,会导致集群的IO分布不均衡,从而降低集群的有效容量使用率和整体性能。然而目前针对数据均衡和IO均衡等多维度的均衡问题,通常做法是综合考虑多个因素,按重要程度为各因素分配权重,按权重相加之后统一排序,生成最终的迁移策略。这种多维度综合考虑的均衡算法,使得集群在每个维度上都不能达到最优,而且难以保证数据读写的同步,难以实现负载均衡,降低了集 ...
【技术保护点】
1.一种存储集群的负载均衡方法,其特征在于,所述存储集群中包括多个物理节点,每个物理节点包含多组基础数据,所述存储集群的负载均衡方法包括:/n当接收到负载均衡指令时,计算所述存储集群中所有物理节点的所述基础数据的组数均值;/n根据所述组数均值和每个所述物理节点中的所述基础数据的组数,确定每个物理节点中所述基础数据的迁出组数;/n针对每个物理节点,根据所述迁出组数在所述基础数据中确定迁出数据;/n对所述存储集群的所有物理节点对应的基础数据的组数进行比较,将基础数据的组数最小的所述物理节点作为初始迁入节点;/n对所述初始迁入节点进行检测,判断所述初始迁入节点中的基础数据是否相同 ...
【技术特征摘要】
1.一种存储集群的负载均衡方法,其特征在于,所述存储集群中包括多个物理节点,每个物理节点包含多组基础数据,所述存储集群的负载均衡方法包括:
当接收到负载均衡指令时,计算所述存储集群中所有物理节点的所述基础数据的组数均值;
根据所述组数均值和每个所述物理节点中的所述基础数据的组数,确定每个物理节点中所述基础数据的迁出组数;
针对每个物理节点,根据所述迁出组数在所述基础数据中确定迁出数据;
对所述存储集群的所有物理节点对应的基础数据的组数进行比较,将基础数据的组数最小的所述物理节点作为初始迁入节点;
对所述初始迁入节点进行检测,判断所述初始迁入节点中的基础数据是否相同,在所述初始迁入节点中的基础数据相同时,排除所述初始迁入节点,得到更新后的初始迁入节点,并执行所述对所述存储集群的所有物理节点对应的基础数据的组数进行比较,将基础数据的组数最小的所述物理节点作为初始迁入节点的步骤;
在所述初始迁入节点中的基础数据不同时,将所述迁出数据迁入到所述初始迁入节点中,以实现负载均衡。
2.如权利要求1所述的存储集群的负载均衡方法,其特征在于,所述方法还包括:
在对存储集群进行部署时,根据所述存储集群中包含的物理节点的数目,选取预设数目的虚拟节点,分别对每个所述物理节点上的基础数据进行N副本复制,得到每一虚拟节点对应的N组基础数据,并生成虚拟节点与物理节点的映射关系表,其中,N为大于1的正整数;
通过哈希算法将所述基础数据分配至所述虚拟节点上,并通过所述映射关系表,将映射到所述虚拟节点的所述N组基础数据存储在对应的物理节点。
3.如权利要求2所述的存储集群的负载均衡方法,其特征在于,所述通过哈希算法将所述基础数据分配至所述虚拟节点上,包括:
基于预设的内存大小,对所述基础数据进行分片处理,得到分片数据,并对每个所述分片数据进行顺序编号;
对所述虚拟节点进行顺序编号,针对每个所述分片数据,使用分片数据的顺序编号对所述虚拟节点的数量进行取余运算,得到该分片数据的编号模;
将编号模相同的分片数据分入同一个分片集合中,并将每个所述分片集合保存到与编号模一致的顺序编号对应的虚拟节点上。
4.如权利要求2所述的存储集群的负载均衡方法,其特征在于,在所述初始迁入节点满足预设限制条件的情况下,则将所述迁出数据迁入到所述初始迁入节点中,以实现负载均衡之后,还包括:
确定所述每个虚拟节点对应的N组所述基础数据的角色标签,所述角色标签包括领导者角色和跟随者角色;
针对每个所述物理节点,根据物理节点上基础数据的组数和N的比值确定迁移阈值;
根据角色标签为领导者角色的所述基础数据的组数、角色标签为跟随者角色的所述基础数据组数以及每个所述物理节点对应的所述迁移阈值,进行角色标签转换。
5.如权利要求4所述的存储集群的负载均衡方法,其特征在于,所述根据角色标签为领导者角色的所述基础数据的组数、角色标签为跟随者角色的所述基础数据组数以及每个所述物理节点对应的所述迁移阈值,进行角色标签转换,包括:
当角色标签为领导者角色的所述基础数据的组数大于所述迁移...
【专利技术属性】
技术研发人员:马媛媛,谷忠言,刘子锐,
申请(专利权)人:平安科技深圳有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。