一种进行数据重构的方法和装置制造方法及图纸

技术编号:19933492 阅读:37 留言:0更新日期:2018-12-29 04:17
本公开是关于一种进行数据重构的方法和装置,属于数据存储技术领域。所述方法包括:确定待重构的至少一个数据块;根据所述至少一个数据块当前的属性,确定所述至少一个数据块的优先级;根据所述至少一个数据块的优先级,以及所述至少一个数据块中的每个数据块所属的条带,确定待重构的至少一个条带以及所述至少一个条带中的每个条带的优先级;按照确定出的待重构的至少一个条带的优先级,对所述至少一个条带包含的待重构的数据块进行数据重构。采用本公开,可以提高读取数据的效率。

【技术实现步骤摘要】
一种进行数据重构的方法和装置
本公开是关于数据存储
,尤其是关于一种进行数据重构的方法和装置。
技术介绍
在数据存储领域,人们越来越看重数据的安全性和可靠性。为增强数据的安全性和可靠性,往往采用纠删码技术对待存储的对象数据进行存储。具体的,在存储对象数据时,服务器可以将对象数据划分为多个条带,其中,每个条带包含N个源数据块和M个校验数据块,(其中,校验数据块是根据特定的编码算法,对N个源数据块进行计算得到的),进而,将每个条带中的每个数据块分别存储在不同的存储节点上。另外,当某条带中的某几个数据块损坏时,可以根据该条带中其他的数据块计算出损坏的数据块,即可以通过条带中未损坏的数据块重构出损坏的数据块。目前,服务器进行数据重构的处理一般是:服务器可以不断对各个存储节点进行检测,如果检测到存储数据块的磁盘或者磁盘的某个磁道损坏,则可以将损坏的磁盘或者磁道上存储的数据块的标识添加到待重构列表中。然后,可以按照发现时间由早至晚的顺序或者按照数据块所在条带的标识的字典序排列后,对待重构列表中的数据块进行数据重构。在实现本公开的过程中,专利技术人发现至少存在以下问题:当服务器接收到数据查询本文档来自技高网...

【技术保护点】
1.一种进行数据重构的方法,其特征在于,所述方法包括:确定待重构的至少一个数据块;根据所述至少一个数据块当前的属性,确定所述至少一个数据块的优先级;根据所述至少一个数据块的优先级,以及所述至少一个数据块中的每个数据块所属的条带,确定待重构的至少一个条带以及所述至少一个条带中的每个条带的优先级;按照确定出的待重构的至少一个条带的优先级,对所述至少一个条带包含的待重构的数据块进行数据重构。

【技术特征摘要】
1.一种进行数据重构的方法,其特征在于,所述方法包括:确定待重构的至少一个数据块;根据所述至少一个数据块当前的属性,确定所述至少一个数据块的优先级;根据所述至少一个数据块的优先级,以及所述至少一个数据块中的每个数据块所属的条带,确定待重构的至少一个条带以及所述至少一个条带中的每个条带的优先级;按照确定出的待重构的至少一个条带的优先级,对所述至少一个条带包含的待重构的数据块进行数据重构。2.根据权利要求1所述的方法,其特征在于,所述至少一个数据块的属性包括:是否具有即时读取属性、是否被锁定属性、数据块所属桶bucket的重要程度属性、存储时长属性。3.根据权利要求1所述的方法,其特征在于,所述确定待重构的至少一个数据块,包括:当接收到存储节点发送的磁盘变更通知时,确定待重构的至少一个数据块;或者,当接收到对目标文件的即时读取指令时,确定待重构的至少一个数据块。4.根据权利要求1所述的方法,其特征在于,所述按照确定出的待重构的至少一个条带的优先级,对所述至少一个条带包含的待重构的数据块进行数据重构之前,还包括:当接收到对第一数据块的锁定请求时,如果所述至少一个数据块包含所述第一数据块,则更新所述第一数据块的优先级,以及所述第一数据块所属条带对应的优先级。5.根据权利要求1所述的方法,其特征在于,所述按照确定出的待重构的至少一个条带的优先级,对所述至少一个条带包含的待重构的数据块进行数据重构之前,还包括:当接收到对第二数据块的锁定取消请求时,如果所述至少一个数据块包含所述第二数据块,则更新所述第二数据块的优先级,以及所述第二数据块所属条带对应的优先级。6.根据权利要求1所述的方法,其特征在于,所述根据所述至少一个数据块的优先级,以及所述至少一个数据块中的每个数据块所属的条带,确定待重构的至少一个条带以及所述至少一个条带中的每个条带的优先级,包括:将所述至少一个数据块中的每个数据块所属的条带,确定为待重构的至少一个条带;对于所述至少一个条带中的...

【专利技术属性】
技术研发人员:吴波夏伟强王伟林起芊
申请(专利权)人:杭州海康威视数字技术股份有限公司
类型:发明
国别省市:浙江,33

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1