【技术实现步骤摘要】
一种降低储存集群系统中修复开销的优化方法及装置
[0001]本专利技术涉及分布式储存的
,更具体地,涉及一种降低储存集群系统中修复开销的优化方法及装置。
技术介绍
[0002]传统的网络存储系统采用集中存储服务器存放所有数据,存储服务器成为系统性能的瓶颈,也是可靠性和安全性的焦点,集中存储服务器不能满足大规模存储应用的需要。分布式存储系统是将数据分散存储在多台独立的设备上,采用可扩展的系统结构,利用多台存储服务器分担存储负荷,一个服务器称作一个节点,利用位置服务器定位存储信息,不但提高了系统的可靠性、可用性和存取效率,还易于扩展。
[0003]随着数据规模和节点数量的不断增加,节点失效成为普遍且频繁的现象。冗余技术可以减少节点故障带来的损失,常见的冗余技术有副本技术和纠删码技术。副本技术是通过在存储节点上存放拷贝数据迅速代替失效的数据,任何一个数据节点发生故障都可以迅速读取副本上的数据来修复。但是副本技术需要牺牲很大的存储开销,存储空间的利用率低,如图1所示,原始数据通过复制产生三个副本数据,存储空间的利用率理 ...
【技术保护点】
【技术特征摘要】
1.一种降低储存集群系统中修复开销的优化方法,其特征在于,包括:S1:构建局部修复码,利用局部修复码对待储存的数据进行编码,生成n个编码块,将编码块储存在n个节点上;S2:构建局部修复码的校验矩阵,将n个节点以矩阵形式表示;S3:构建集群部署策略,对n个节点进行部署;S4:当任意节点发生故障时,利用剩余非故障节点对故障节点进行修复。2.根据权利要求1所述的降低储存集群系统中修复开销的优化方法,其特征在于,所述局部修复码具体为(n,k,d,r,t)LRC,其中n表示编码块的数量,k表示待储存的数据的大小,d表示最小汉明距离,r表示局部性,t表示可用性;所述局部修复码为局部性为2、可用性不均的二进制局部修复码,即r=2,并且编码块数量n=k
×
(k
‑
1)。3.根据权利要求2所述的降低储存集群系统中修复开销的优化方法,其特征在于,所述局部修复码的校验矩阵具体为:其中,H
′
表示校验矩阵,A
i
表示子矩阵,1≤i≤k
‑
2;I表示单位矩阵;0表示零矩阵;子矩阵A
i
、单位矩阵I、零矩阵0均为k行k列,即行、列数与待储存数据的大小数值上相等;子矩阵A
i
由元素1和元素0组成,矩阵A
i
和单位矩阵I中的元素1表示节点。4.根据权利要求3所述的降低储存集群系统中修复开销的优化方法,其特征在于,位于校验矩阵H
′
中同一行的节点,具有相同的校验关系。5.根据权利要求4所述的降低储存集群系统中修复开销的优化方法,其特征在于,所述子矩阵Ai具体为:第一子矩阵A1的行重为2,将A1第x行第y列的元素记为第x行第y列的元素记为则至连线位置上的元素均为1,至连线位置上的元素均为1,为1,其余元素为0,具体为:
第二子矩阵A2的行重为1,将A2第x行第y列的元素记为第x行第y列的元素记为则至连线位置上的元素均为1,至连线位置上的元素均为1,其余元素为0,具体为:当i>2时,子矩阵A
i
中的元素是将第二子矩阵A2中元素1循环向右移动i
‑
1位得到的,当2≤i≤k
‑
2时,子矩阵Ai的行重均为1。6.根据权利要求5所述的降低储存集群系统中修复开销的优化方法,其特征在于,所述部署策略具体为:将n个节点部署至k个集群中:首先部署校验矩阵H
′
中的子矩阵A
(k
‑
2)
所在行的节点V
Y
,Y表示该节点在校验矩阵H
′
中的列数,分别为V1~V
k
,V
k
×
(k
‑
3)+1
~V
k
×
(k
‑
2)
,V
k
×
(k
‑
2)+1
~V
k
×
(k
‑
1)
,共3k个节点,子矩阵A
(k
‑
2)
和单位矩阵I均为k行的矩阵,将处于子矩阵A
(k
‑
2)
和单位矩阵I中同一行的节点部署在一个集群中;再部署剩余n
‑
3k个可用性t=2的节点V
k+1
~V
k
×
(k
‑
3)
:当k
‑
4为偶数时,将节点V
(2p
‑
1)
×
k+1
~V
(2p+1)
×
k
部署到矩阵A
2p
中同一行元素1所在列对应的矩阵A
(k
‑
2)
中节点所在的集群,其中当k
‑
4为奇数且k
‑
4≥3时,将节点V
(2q
‑
1)
×
k+1
~V
(2q+1)
×
k
部署到矩阵A
2q
中同一行元素1所在列对应...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。