数据存储方法、装置、设备及存储介质制造方法及图纸

技术编号:38751477 阅读:16 留言:0更新日期:2023-09-09 11:18
本公开提出了一种数据存储方法、装置、设备及存储介质,该方法中,磨损度高于磨损度阈值的目标存储设备具有写数据增量,在需要向分布式存储系统中写入数据时,目标存储设备相对于磨损度低于磨损度阈值的存储设备,需要额外写入写数据增量的数据,通过这种操作,可以拉开分布式存储系统中目标存储设备与磨损度低于所述磨损度阈值的存储设备的失效时间的间隔,从而减少磨损均衡引起的多块存储设备同时失效的风险,提高数据的可靠性。提高数据的可靠性。提高数据的可靠性。

【技术实现步骤摘要】
数据存储方法、装置、设备及存储介质


[0001]本公开属于存储
,具体涉及一种数据存储方法、装置、设备及存储介质。

技术介绍

[0002]当前分布式存储系统中对固态硬盘(Solid State Device,SSD)的使用已经非常普遍,SSD盘基于其自身的硬件特征,有读写次数限制,当单个SSD盘的读写次数达到限制的时候,SSD盘故障导致无法使用。
[0003]现有的分布式系统会在多个服务器上部署多个相同SSD盘,为了达到最佳性能,通常都使用磨损均衡算法来使写入每个SSD盘的数据量都大致相等。这会导致一个问题:每个SSD盘读写次数差异不大,这些SSD盘最终可能同时达到使用上限而同时故障,这样会导致用户的业务立即中断,严重的可能导致数据丢失

技术实现思路

[0004]本公开提出一种数据存储方法、装置、设备及存储介质,能够减少磨损均衡引起的多块存储设备同时失效的风险,提高数据的可靠性。
[0005]本公开第一方面实施例提出了一种数据存储方法,包括:
[0006]检测到分布式存储系统的存储设备中出现磨损度高于磨损度阈值的目标存储设备;
[0007]确定所述目标存储设备的写数据增量,所述写数据增量用于表征相对于磨损度低于所述磨损度阈值的存储设备,所述目标存储设备需要额外写入数据的比例;
[0008]将当前待写入数据中数据大小与所述写数据增量对应的目标数据,写入所述目标存储设备;以及,将所述当前待写入数据中除所述目标数据外的剩余数据,均衡写入所述分布式存储系统中的各存储设备。
[0009]在本公开实施例中,确定所述目标存储设备的写数据增量,包括:
[0010]获取第一增量梯度和所述目标存储设备中第一存储设备的第一写数据增量,所述第一存储设备的磨损度在所述目标存储设备中最小;
[0011]按照磨损度相邻的两个存储设备相差所述第一增量梯度的原则,基于所述第一写数据增量、所述第一增量梯度和所述目标存储设备中各存储设备的磨损度,确定第二存储设备的第二写数据增量,所述第二存储设备为所述目标存储设备中除所述第一存储设备外的任意一个存储设备;所述磨损度相邻的两个存储设备中磨损度较大的存储设备的写数据增量也较大;
[0012]确定所述第一写数据增量和各所述第二写数据增量为所述目标存储设备的写数据增量。
[0013]在本公开实施例中,获取第一增量梯度,包括:
[0014]基于所述分布式存储系统的备份机制参数,确定在具有数据写入需求的情况下需要向所述分布式存储系统写入数据的份数;
[0015]基于所述分布式存储系统中有效存储设备的个数和所述份数,计算所述份数对应的数据中的每份数据写入第三存储设备的第一比例;
[0016]基于所述第一比例、所述磨损度阈值和所述第一磨损程度差,计算所述每份数据写入第四存储设备的第二比例;所述第三存储设备和所述第四存储设备的磨损度相差所述第一磨损程度差;所述第三存储设备和所述第四存储设备的磨损度均高于所述磨损度阈值;
[0017]计算所述第一比例与所述第二比例之差,得到第一求差结果;以及计算所述第一比例与预设常量之差,得到第二求差结果;
[0018]计算所述第一求差结果与所述第二求差结果之商,得到所述第一增量梯度。
[0019]在本公开实施例中,确定所述目标存储设备的写数据增量,包括:
[0020]基于所述目标存储设备中各存储设备的磨损度和所述目标存储设备,得到M个存储设备组;任一所述存储设备组中的存储设备部署于同一节点;
[0021]确定各所述存储设备组的组磨损度;
[0022]基于各所述存储设备组的组磨损度和第二增量梯度,确定各所述存储设备组的组写数据增量;组磨损度越大的存储设备组的组写数据增量越大,组磨损度相邻的两个存储设备组的组写数据增量相差所述第二增量梯度;
[0023]基于所述组写数据增量,确定所述目标存储设备中各存储设备的写数据增量;任一所述存储设备组中存储设备的写数据增量均为该存储设备组的组写数据增量。
[0024]在本公开实施例中,基于所述目标存储设备中各存储设备的磨损度和所述目标存储设备,得到M个存储设备组,包括:
[0025]对于所述目标存储设备中部署于同一节点的N个存储设备,从所述目标存储设备中,确定所述N个存储设备的参考存储设备;所述参考存储设备与所述N个存储设备部署于不同的节点;在未部署所述N个存储设备的节点中,所述参考存储设备的磨损度最大;
[0026]基于所述参考存储设备的磨损度,从部署所述N个存储设备的节点中获取潜在存储设备,所述潜在存储设备的磨损度与所述参考存储设备的磨损度之差小于第二磨损程度差;
[0027]基于所述潜在存储设备和所述N个存储设备构成的目标存储设备组,得到所述M个存储设备组;所述目标存储设备组为所述M个存储设备组中的任一存储设备组。
[0028]在本公开实施例中,确定各所述存储设备的组磨损度,包括:
[0029]确定各所述存储设备组中具有的最大磨损度,为与所述最大磨损度对应的存储设备组的组磨损度。
[0030]本公开第二方面的实施例提供了一种数据存储装置,包括:
[0031]检测模块,用于检测到分布式存储系统的存储设备中出现磨损度高于磨损度阈值的目标存储设备;
[0032]确定模块,用于确定所述目标存储设备的写数据增量,所述写数据增量用于表征相对于磨损度低于所述磨损度阈值的存储设备,所述目标存储设备需要额外写入数据的比例;
[0033]写入模块,用于将当前待写入数据中数据大小与所述写数据增量对应的目标数据,写入所述目标存储设备;以及,将所述当前待写入数据中除所述目标数据外的剩余数
据,均衡写入所述分布式存储系统中的各存储设备。
[0034]本公开第三方面的实施例提供了一种数据存储系统,包括:
[0035]集群控制器和分布式存储系统;
[0036]所述集群控制器用于执行前述的数据存储方法。
[0037]本公开第四方面的实施例提供了一种电子设备,包括:处理器和存储器;
[0038]所述存储器,用于存储计算机程序;
[0039]所述处理器,用于执行所述存储器中所存储的程序,实现前述的数据存储方法。
[0040]本公开第五方面的实施例提供了一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现前述的数据存储方法。
[0041]本公开实施例中提供的技术方案,至少具有如下技术效果或优点:
[0042]本公开实施例中,磨损度高于磨损度阈值的目标存储设备具有写数据增量,在需要向分布式存储系统中写入数据时,目标存储设备相对于磨损度低于所述磨损度阈值的存储设备,需要额外写入写数据增量的数据,通过这种操作,可以拉开分布式存储系统中目标存储设备与磨损度低于所述磨损度阈值的存储设备的失效时间的间隔,从而减少磨损均衡引起的多块存储设备同时失效的风险,提高数据的可靠性。...

【技术保护点】

【技术特征摘要】
1.一种数据存储方法,其特征在于,包括:检测到分布式存储系统的存储设备中出现磨损度高于磨损度阈值的目标存储设备;确定所述目标存储设备的写数据增量,所述写数据增量用于表征相对于磨损度低于所述磨损度阈值的存储设备,所述目标存储设备需要额外写入数据的比例;将当前待写入数据中数据大小与所述写数据增量对应的目标数据,写入所述目标存储设备;以及,将所述当前待写入数据中除所述目标数据外的剩余数据,均衡写入所述分布式存储系统中的各存储设备。2.根据权利要求1所述的方法,其特征在于,确定所述目标存储设备的写数据增量,包括:获取第一增量梯度和所述目标存储设备中第一存储设备的第一写数据增量,所述第一存储设备的磨损度在所述目标存储设备中最小;按照磨损度相邻的两个存储设备相差所述第一增量梯度的原则,基于所述第一写数据增量、所述第一增量梯度和所述目标存储设备中各存储设备的磨损度,确定第二存储设备的第二写数据增量,所述第二存储设备为所述目标存储设备中除所述第一存储设备外的任意一个存储设备;所述磨损度相邻的两个存储设备中磨损度较大的存储设备的写数据增量也较大;确定所述第一写数据增量和各所述第二写数据增量为所述目标存储设备的写数据增量。3.根据权利要求2所述的方法,其特征在于,获取第一增量梯度,包括:基于所述分布式存储系统的备份机制参数,确定在具有数据写入需求的情况下需要向所述分布式存储系统写入数据的份数;基于所述分布式存储系统中有效存储设备的个数和所述份数,计算所述份数对应的数据中的每份数据写入第三存储设备的第一比例;基于所述第一比例、所述磨损度阈值和所述第一磨损程度差,计算所述每份数据写入第四存储设备的第二比例;所述第三存储设备和所述第四存储设备的磨损度相差所述第一磨损程度差;所述第三存储设备和所述第四存储设备的磨损度均高于所述磨损度阈值;计算所述第一比例与所述第二比例之差,得到第一求差结果;以及计算所述第一比例与预设常量之差,得到第二求差结果;计算所述第一求差结果与所述第二求差结果之商,得到所述第一增量梯度。4.根据权利要求1

3任一项所述的方法,其特征在于,确定所述目标存储设备的写数据增量,包括:基于所述目标存储设备中各存储设备的磨损度和所述目标存储设备,得到M个存储设备组;任一所述存储设备组中的存储设备部署于同一节点;确定各所述存储设备组的组磨损度;基于各所述存储设备组的组磨损度和第二增量梯度,确定各所述存储设备组的组写数据增量;组磨...

【专利技术属性】
技术研发人员:何孝金
申请(专利权)人:新华三云计算技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1