一种基于分布式存储系统的数据均衡方法及装置制造方法及图纸

技术编号:32340982 阅读:24 留言:0更新日期:2022-02-16 18:49
本申请提供一种基于分布式存储系统的数据均衡方法及装置,该方法包括:获取磁盘均衡边界值、存储主机的主机参数、存储主机中磁盘的磁盘参数、磁盘中数据块的数量、数据块的置备容量和数据块的使用容量;根据预设的磁盘期望权重计算公式、主机参数和磁盘参数进行计算,得到磁盘期望权重比例;根据预设的磁盘实际权重计算公式、数据块的数量、数据块的置备容量和数据块的使用容量进行计算,得到磁盘实际权重比例;根据磁盘均衡边界值、磁盘期望权重比例和磁盘实际权重比例进行计算,得到迁移方案;根据迁移方案对磁盘中的数据块进行数据迁移。可见,该方法能够针对于不同的设备参数进行适应性存储,从而提高存储节点的利用率。从而提高存储节点的利用率。从而提高存储节点的利用率。

【技术实现步骤摘要】
一种基于分布式存储系统的数据均衡方法及装置


[0001]本申请涉及数据处理领域,具体而言,涉及一种基于分布式存储系统的数据均衡方法及装置。

技术介绍

[0002]现有的分布式存储系统中,存储主机的磁盘负载过高时会影响IO读写速度。为了避免这样的问题发生,往往会采用增加存储节点来均衡原有磁盘负载的数据量的方法,从而降低原有存储节点的压力。其中,现有的增加存储节点的方式是新加一些新的存储节点,以使所有存储节点均分原有磁盘负载的数据量。然而,在实践中发现,分布式存储系统中往往会存在较多种类的存储节点,而这些存储节点的设备参数并不完全一致,采用现有的这种方法只能提高存储容量,并不能提高存储的质量。也就是说,现有的方法中没有办法针对于不同的设备参数进行适应性存储,从而导致现有的方法不得不使用更多的存储节点,进而导致了存储节点的利用率下降。

技术实现思路

[0003]本申请实施例的目的在于提供一种基于分布式存储系统的数据均衡方法及装置,能够针对于不同的设备参数进行适应性存储,从而提高存储节点的利用率。
[0004]本申请实施例第一方本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于分布式存储系统的数据均衡方法,其特征在于,包括:获取磁盘均衡边界值、存储主机的主机参数、所述存储主机中磁盘的磁盘参数、所述磁盘中数据块的数量、所述数据块的置备容量和所述数据块的使用容量;根据预设的磁盘期望权重计算公式、所述主机参数和所述磁盘参数进行计算,得到磁盘期望权重比例;根据预设的磁盘实际权重计算公式、所述数据块的数量、所述数据块的置备容量和所述数据块的使用容量进行计算,得到磁盘实际权重比例;根据所述磁盘均衡边界值、所述磁盘期望权重比例和所述磁盘实际权重比例进行计算,得到迁移方案;根据所述迁移方案对所述磁盘中的数据块进行数据迁移。2.根据权利要求1所述的基于分布式存储系统的数据均衡方法,其特征在于,所述分布式存储系统包括多个存储主机,每个存储主机的主机参数包括CPU主频和内存容量;每个存储主机包括多个磁盘,每个磁盘的磁盘参数包括磁盘总容量;每个磁盘包括多个数据块。3.根据权利要求2所述的基于分布式存储系统的数据均衡方法,其特征在于,所述磁盘期望权重计算公式为expected_weight
n
=0.6*capacity
n
/Capacity+0.2*clockspeed
n
/(ClockSpeed*diskcount
n
)+0.2*memorysize
n
/(MemorySize*diskcount
n
);其中,expected_weight
n
表示第n个磁盘期望权重;capacity
n
表示第n个磁盘的磁盘总容量;Capacity表示所有磁盘总容量的和;clockspeed
n
表示第n个存储主机的CPU主频;ClockSpeed表示所有CPU主频的和;diskcount
n
表示第n个磁盘所在的存储主机中的磁盘总个数;memorysize
n
表示第n个存储主机的内存容量;MemorySize表示所有内存容量的和。4.根据权利要求3所述的基于分布式存储系统的数据均衡方法,其特征在于,所述根据预设的磁盘期望权重计算公式、所述主机参数和所述磁盘参数进行计算,得到磁盘期望权重比例的步骤包括:根据预设的磁盘期望权重计算公式、所述主机参数和所述磁盘参数进行计算,得到每个磁盘的期望权重;将所述每个磁盘的期望权重构建为磁盘期望权重比例。5.根据权利要求2所述的基于分布式存储系统的数据均衡方法,其特征在于,所述磁盘实际权重计算公式为weight
n
=0.5*used
n
/Used+0.5*allocate
n
/Allocate;其中,weight
n
表示第n个磁盘的磁盘实际权重;used
n
表示第n个磁盘中所有数据块的使用容量的和;Used表示所有磁盘中所有数据块的使用容量...

【专利技术属性】
技术研发人员:张艺茹
申请(专利权)人:北京天融信科技有限公司北京天融信软件有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1