一种数据分布确定方法、装置、设备及存储介质制造方法及图纸

技术编号:34474712 阅读:18 留言:0更新日期:2022-08-10 08:49
本申请公开了一种数据分布确定方法、装置、设备及存储介质,涉及超融合技术领域,包括:获取针对目标数据块的数据访问请求,并基于目标数据块对应的数据块标识号确定相应的目标哈希值;基于目标哈希值确定目标数据块在上层节点哈希环中的目标虚拟节点,并基于目标哈希值确定目标数据块在目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点;上层节点哈希环和下层磁盘哈希环分别为预先构建的与超融合集群中的上层节点对应的哈希环以及与上层节点的下层磁盘对应的哈希环;根据目标虚拟节点和目标磁盘虚拟节点确定数据块的分布位置。本申请基于两层哈希环的架构,实现数据分布管理,有效解决超融合集群存储设备变化导致的数据分布不均衡问题。导致的数据分布不均衡问题。导致的数据分布不均衡问题。

【技术实现步骤摘要】
一种数据分布确定方法、装置、设备及存储介质


[0001]本专利技术涉及超融合
,特别涉及一种数据分布确定方法、装置、设备及存储介质。

技术介绍

[0002]当前,随着越来越多的大型互联网公司的出现,越来越多的用户选择超融合基础设施。其中,超融合技术不单包含了服务器虚拟化功能,最主要是它的软件定义存储功能,即为虚拟机提供持久化共享存储服务,能给用户带来巨大的价值,然而软件定义存储功能作为超融合技术的核心和基础部分,尽管其相较于传统存储架构运维简单,成本更低,但是在使用软件定位存储功能的过程中,还是会导致存储承受较大的压力,所以软件定义存储功能对存储的读写性能要求也比较高,伴随着高性能存储的是高额成本,且随着用户业务数据量的逐渐增多,硬件磁盘的损坏更换等问题出现时,导致超融合存储数据分布处理成为一个难题。

技术实现思路

[0003]有鉴于此,本专利技术的目的在于提供一种数据分布确定方法、装置、设备及存储介质,能够均衡分布数据,降低存储的压力,减少超融合存储的部署及运维成本,提供高性能数据读写,并能够有效解决超融合集群存储设备变化带来的数据分布不均衡问题。其具体方案如下:
[0004]第一方面,本申请公开了一种数据分布确定方法,包括:
[0005]获取针对目标数据块的数据访问请求,并基于所述目标数据块对应的数据块标识号确定相应的目标哈希值;
[0006]基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点,并基于所述目标哈希值确定所述目标数据块在所述目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点;所述上层节点哈希环为预先构建的与超融合集群中的上层节点对应的哈希环,所述下层磁盘哈希环为预先构建的与所述上层节点的下层磁盘对应的哈希环;
[0007]根据所述目标虚拟节点和所述目标磁盘虚拟节点确定所述目标数据块的目标分布位置。
[0008]可选的,所述基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点之前,还包括:
[0009]获取与超融合集群中的上层节点对应的节点信息以及与各所述上层节点的下层磁盘对应的磁盘信息;
[0010]基于所述节点信息和所述磁盘信息生成与所述超融合集群中的所述上层节点对应的上层节点哈希环,并基于所述磁盘信息生成与所述上层节点的下层磁盘对应的下层磁盘哈希环。
[0011]可选的,所述基于所述节点信息和所述磁盘信息生成与所述超融合集群中的所述上层节点对应的上层节点哈希环,包括:
[0012]基于所述超融合集群的所述上层节点对应的IP地址和所述超融合集群对应的集群磁盘容量生成与所述超融合集群中的所述上层节点对应的上层节点哈希环。
[0013]可选的,所述基于所述磁盘信息生成与所述上层节点的下层磁盘对应的下层磁盘哈希环,包括:
[0014]基于所述上层节点中的磁盘标识号和所述上层节点对应的节点磁盘容量生成与所述上层节点的下层磁盘对应的下层磁盘哈希环。
[0015]可选的,所述基于目标数据块对应的数据块标识号确定相应的目标哈希值,包括:
[0016]利用一致性哈希算法计算目标数据块对应的数据块标识号的目标哈希值。
[0017]可选的,所述基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点,包括:
[0018]沿着上层节点哈希环的顺时针方向,将所述目标哈希值与所述上层节点哈希环中的虚拟节点对应的节点哈希值进行比较,并将所述上层节点哈希环中的第一个大于所述目标哈希值的节点哈希值对应的虚拟节点确定为所述目标数据块对应的目标虚拟节点。
[0019]可选的,所述基于所述目标哈希值确定所述目标数据块在所述目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点,包括:
[0020]沿着所述目标虚拟节点对应的下层磁盘哈希环的顺时针方向,将所述目标哈希值与所述下层磁盘哈希环中的磁盘虚拟节点对应的磁盘哈希值进行比较,并将所述下层磁盘哈希环中的第一个大于所述目标哈希值的磁盘哈希值对应的磁盘虚拟节点确定为所述目标数据块对应的目标磁盘虚拟节点。
[0021]第二方面,本申请公开了一种数据分布确定装置,包括:
[0022]数据请求获取模块,用于获取针对目标数据块的数据访问请求;
[0023]哈希值确定模块,用于基于所述目标数据块对应的数据块标识号确定相应的目标哈希值;
[0024]上层节点确定模块,用于基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点;
[0025]下层磁盘确定模块,用于基于所述目标哈希值确定所述目标数据块在所述目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点;所述上层节点哈希环为预先构建的与超融合集群中的上层节点对应的哈希环,所述下层磁盘哈希环为预先构建的与所述上层节点的下层磁盘对应的哈希环;
[0026]分布位置确定模块,用于根据所述目标虚拟节点和所述目标磁盘虚拟节点确定所述目标数据块的目标分布位置。
[0027]第三方面,本申请公开了一种电子设备,包括:
[0028]存储器,用于保存计算机程序;
[0029]处理器,用于执行所述计算机程序,以实现前述公开的数据分布确定方法的步骤。
[0030]第四方面,本申请公开了一种计算机可读存储介质,用于存储计算机程序;其中,所述计算机程序被处理器执行时实现前述公开的数据分布确定方法的步骤。
[0031]可见,本申请提供了一种数据分布确定方法,包括:获取针对目标数据块的数据访
问请求,并基于所述目标数据块对应的数据块标识号确定相应的目标哈希值;基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点,并基于所述目标哈希值确定所述目标数据块在所述目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点;所述上层节点哈希环为预先构建的与超融合集群中的上层节点对应的哈希环,所述下层磁盘哈希环为预先构建的与所述上层节点的下层磁盘对应的哈希环;根据所述目标虚拟节点和所述目标磁盘虚拟节点确定所述目标数据块的目标分布位置。由此可见,本申请基于两层哈希环的架构,根据上层节点哈希环确定出目标数据块分布于超融合集群中的哪个节点,进而根据下层磁盘哈希环确定出数据分布于节点中哪块磁盘,实现数据分布管理,有效解决超融合集群存储设备变化带来的数据分布不均衡问题。
附图说明
[0032]为了更清楚地说明本专利技术实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
[0033]图1为本申请公开的一种数据分布确定方法流程图;
[0034]图2为本申请公开的一种数据划分示意图;
[0035]图3为本申请公开的一种基于两层DHT的超融合存储的数据分布示意图;
[0036]图4为本申请公开的一种数据分布确本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据分布确定方法,其特征在于,包括:获取针对目标数据块的数据访问请求,并基于所述目标数据块对应的数据块标识号确定相应的目标哈希值;基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点,并基于所述目标哈希值确定所述目标数据块在所述目标虚拟节点对应的下层磁盘哈希环中的目标磁盘虚拟节点;所述上层节点哈希环为预先构建的与超融合集群中的上层节点对应的哈希环,所述下层磁盘哈希环为预先构建的与所述上层节点的下层磁盘对应的哈希环;根据所述目标虚拟节点和所述目标磁盘虚拟节点确定所述目标数据块的目标分布位置。2.根据权利要求1所述的数据分布确定方法,其特征在于,所述基于所述目标哈希值确定所述目标数据块在上层节点哈希环中的目标虚拟节点之前,还包括:获取与超融合集群中的上层节点对应的节点信息以及与各所述上层节点的下层磁盘对应的磁盘信息;基于所述节点信息和所述磁盘信息生成与所述超融合集群中的所述上层节点对应的上层节点哈希环,并基于所述磁盘信息生成与所述上层节点的下层磁盘对应的下层磁盘哈希环。3.根据权利要求2所述的数据分布确定方法,其特征在于,所述基于所述节点信息和所述磁盘信息生成与所述超融合集群中的所述上层节点对应的上层节点哈希环,包括:基于所述超融合集群的所述上层节点对应的IP地址和所述超融合集群对应的集群磁盘容量生成与所述超融合集群中的所述上层节点对应的上层节点哈希环。4.根据权利要求2所述的数据分布确定方法,其特征在于,所述基于所述磁盘信息生成与所述上层节点的下层磁盘对应的下层磁盘哈希环,包括:基于所述上层节点中的磁盘标识号和所述上层节点对应的节点磁盘容量生成与所述上层节点的下层磁盘对应的下层磁盘哈希环。5.根据权利要求1所述的数据分布确定方法,其特征在于,所述基于目标数据块对应的数据块标识号确定相应的目标哈希值,包括:利用一致性哈希算法计算目标数据块对应的数据块标识号的目标哈希值。6.根据权利要求1至5任一项所述的数据分布确定方法,其特征在于,所...

【专利技术属性】
技术研发人员:张文朝
申请(专利权)人:济南浪潮数据技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1