System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 分布式存储系统的数据分配控制方法、装置、终端及介质制造方法及图纸_技高网

分布式存储系统的数据分配控制方法、装置、终端及介质制造方法及图纸

技术编号:40797647 阅读:4 留言:0更新日期:2024-03-28 19:24
本发明专利技术公开了分布式存储系统的数据分配控制方法、装置、终端及介质,方法包括:获取分布式存储系统中各个归置组的数据使用信息,确定数据不平衡的归置组,并确定每一个数据不平衡的归置组的所属主机信息;基于数据使用信息,确定数据使用低谷时间段,并获取数据不平衡的归置组所对应的数据存储量;基于所属主机信息、数据使用低谷时间段以及每一个数据不平衡的归置组的数据存储量,进行数据分配,以实现分布式存储系统的数据平衡。本发明专利技术可对各个归置组的数据使用情况进行分析,并获取对应的所属主机信息,然后根据所属主机信息来分析各个数据不平衡的归置组,并根据数据存储量来进行分配,从而使得分布式存储系统数据平衡。

【技术实现步骤摘要】

本专利技术涉及数据平衡,尤其涉及一种分布式存储系统的数据分配控制方法、装置、终端及介质


技术介绍

1、ceph是一个开源的分布式存储系统,其功能包括对象存储、块设备以及文件系统。在分布式存储系统中具有多个pg(placement group,归置组)。pg分布在磁盘逻辑单元osd(object storage daemon)上,但是,因数据分布式存储的原因导致各pg中的数据存储量是不一样的,而osd是按照数据存储量最少的pg来确定是否可用的,那么当数据存储量最少的pg不使用时,就会导致该pg上的osd不可用,从而造成资源浪费。

2、因此,现有技术还有待改进和提高。


技术实现思路

1、本专利技术要解决的技术问题在于,针对现有技术的上述缺陷,提供一种分布式存储系统的数据分配控制方法、装置、终端及存储介质,旨在解决现有技术中因各个归置组中的数据存储量不一样,容易导致一些磁盘不可用,从而造成资源浪费的问题。

2、为了解决上述技术问题,本专利技术所采用的技术方案如下:

3、第一方面,本专利技术提供一种分布式存储系统的数据分配控制方法,所述方法包括:

4、获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,并确定每一个所述数据不平衡的归置组的所属主机信息;

5、确定数据使用低谷时间段,并获取所述数据不平衡的归置组所对应的数据存储量;

6、基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡。

7、在一种实现方式中,所述获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,包括:

8、以一天的时长为周期,记录所述周期内所有归置组的数据使用信息,并基于所述数据使用信息,确定所有归置组的每个时刻的数据使用量;

9、将所有归置组的每个时刻的数据使用量与预设的幅度区间进行匹配,确定数据不平衡的归置组。

10、在一种实现方式中,所述每一个确定所述数据不平衡的归置组的所属主机信息,包括:

11、获取每一个所述数据不平衡的归置组的所在的主机编号信息;

12、基于所属主机编号信息,确定每一个所述数据不平衡的归置组的所属主机信息。

13、在一种实现方式中,所述基于所述数据使用信息,确定数据使用低谷时间段,包括:

14、将每个时刻的数据使用量与预设的使用阈值量进行比较,确定所述数据使用低谷时间段。

15、在一种实现方式中,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡,包括:

16、若所有的所述数据不平衡的归置组的所属主机信息相同,则确定同一个主机上出现数据不平衡;

17、基于每一个所述数据不平衡的归置组的数据存储量,确定数据接收归置组和数据释放归置组;

18、基于所述数据使用低谷时间段,将所述数据释放归置组中的第一预设数据量迁移至所述数据接收归置组。

19、在一种实现方式中,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡,包括:

20、若所有的所述数据不平衡的归置组的所属主机信息不相同,则确定多个主机上出现数据不平衡;

21、基于每一个所述数据不平衡的归置组的数据存储量,确定每一个数据不平衡的主机所对应的主机数据存储量;

22、根据每一个数据不平衡的主机的主机数据存储量,确定数据接收主机以及数据释放主机;

23、基于所述数据使用低谷时间段,将所述数据释放主机中的第二预设数据量迁移至所述数据接收主机。

24、在一种实现方式中,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现各个归置组之间的数据平衡,还包括:

25、当完成所述数据释放主机与所述数据接收主机之间的数据分配后,判断每一个主机中是否存在数据不平衡的归置组;

26、分别针对每一个主机中存在的数据不平衡的归置组,获取每一个所述数据不平衡的归置组的数据存储量,并确定数据接收归置组和数据释放归置组;

27、基于所述数据使用低谷时间段,将所述数据释放归置组中的第三预设数据量迁移至所述数据接收归置组。

28、第二方面,本专利技术实施例还提供一种分布式存储系统的数据分配控制装置,其中,所述装置包括:

29、主机确定模块,用于获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,并确定每一个所述数据不平衡的归置组的所属主机信息;

30、存储量获取模块,用于确定数据使用低谷时间段,并获取所述数据不平衡的归置组所对应的数据存储量;

31、数据分配模块,用于基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡。

32、第三方面,本专利技术实施例还提供一种终端,其中,所述终端包括存储器、处理器及存储在存储器中并可在处理器上运行的分布式存储系统的数据分配控制程序,处理器执行分布式存储系统的数据分配控制程序时,实现上述方案中任一项的分布式存储系统的数据分配控制方法的步骤。

33、第四方面,本专利技术实施例还提供一种计算机可读存储介质,其中,计算机可读存储介质上存储有分布式存储系统的数据分配控制程序,所述分布式存储系统的数据分配控制程序被处理器执行时,实现上述方案中任一项所述的分布式存储系统的数据分配控制方法的步骤。

34、有益效果:与现有技术相比,本专利技术提供了一种分布式存储系统的数据分配控制方法,本专利技术首先获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,并确定每一个所述数据不平衡的归置组的所属主机信息。然后,确定数据使用低谷时间段,并获取所述数据不平衡的归置组所对应的数据存储量。最后,基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡。本专利技术可对各个归置组的数据使用情况进行分析,并获取对应的所属主机信息,然后根据所属主机信息来分析各个数据不平衡的归置组,并根据各个数据不平衡的归置组的数据存储量来进行分配,从而使得分布式存储系统数据平衡。

本文档来自技高网...

【技术保护点】

1.一种分布式存储系统的数据分配控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,包括:

3.根据权利要求2所述的分布式存储系统的数据分配控制方法,其特征在于,所述每一个确定所述数据不平衡的归置组的所属主机信息,包括:

4.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于所述数据使用信息,确定数据使用低谷时间段,包括:

5.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡,包括:

6.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡,包括:

7.根据权利要求6所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现各个归置组之间的数据平衡,还包括:

8.一种分布式存储系统的数据分配控制装置,其特征在于,所述装置包括:

9.一种终端,其特征在于,所述终端包括存储器、处理器及存储在所述存储器中并可在所述处理器上运行的分布式存储系统的数据分配控制程序,所述处理器执行分布式存储系统的数据分配控制程序时,实现如权利要求1-7任一项所述的分布式存储系统的数据分配控制方法的步骤。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有分布式存储系统的数据分配控制程序,所述分布式存储系统的数据分配控制程序被处理器执行时,实现如权利要求1-7任一项所述的分布式存储系统的数据分配控制方法的步骤。

...

【技术特征摘要】

1.一种分布式存储系统的数据分配控制方法,其特征在于,所述方法包括:

2.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述获取分布式存储系统中各个归置组的数据使用信息,并基于所述数据使用信息,确定数据不平衡的归置组,包括:

3.根据权利要求2所述的分布式存储系统的数据分配控制方法,其特征在于,所述每一个确定所述数据不平衡的归置组的所属主机信息,包括:

4.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于所述数据使用信息,确定数据使用低谷时间段,包括:

5.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间段以及每一个所述数据不平衡的归置组的数据存储量,进行数据分配,以实现所述分布式存储系统的数据平衡,包括:

6.根据权利要求1所述的分布式存储系统的数据分配控制方法,其特征在于,所述基于每一个所述数据不平衡的归置组的所属主机信息、所述数据使用低谷时间...

【专利技术属性】
技术研发人员:胡玉晟何锡文邓篪
申请(专利权)人:柏域信息科技上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1