分级存储数据迁移方法及相关装置制造方法及图纸

技术编号:40870903 阅读:30 留言:0更新日期:2024-04-08 16:38
本申请提供分级存储数据迁移方法、电子设备、计算机可读存储介质及计算机程序产品,所述方法包括:获取待迁移文件的所有快照,以得到快照集合;根据所述快照集合,生成与所述快照集合对应的事件集合;基于所述事件集合,生成一个事务并提交,以将所述事件集合中每个所述事件转化为与其对应的缓冲数据,并整合得到缓冲数据集合;将所述缓冲数据集合对应的数据写入目标设备中,以完成所述待迁移文件的数据迁移。本申请能够确保在具有多个快照的情况下,使用分级存储功能时,即使后端存储发生各种异常,也能保证所有快照的数据一致性,且数据不会丢失。

【技术实现步骤摘要】

本申请涉及分级存储,尤其涉及分级存储数据迁移方法及相关装置


技术介绍

1、大数据、云计算等新兴
近年来得到迅速发展,使得分布式存储架构成为首要技术选择。一般的分布式文件系统中,文件的元数据和数据被分开存储。通常,元数据存储在昂贵但高效的ssd设备中,而文件的数据存储方式多种多样,包括混合hhd和ssd存储,也有单独存储。这是由于ssd价格相对较高,文件的数据量又太大,因此不适合将数据单独存储在ssd中。但若全部使用hdd存储,则速度又太慢。因此,分布式存储一般提供分级存储功能,最初将数据写入高速的ssd存储,然后在适当的时机将数据转存到价格低廉但速度较慢的hdd中。当文件热度上升并需要使用时,可以再次从hdd转存到ssd中。此外,许多分布式文件系统还提供快照功能,即在某个时间点保留文件系统的数据,以供备份或将来使用。

2、然而,在一般的分布式文件系统中,任意目录的快照和分级存储功能不兼容,因此无法同时提供这两种优秀的功能。虽然也有一些方案来解决这些问题,比如为文件系统增加隐藏目录,但仍无法完全解决分级存储下文件快照数据不一致的问题。当文本文档来自技高网...

【技术保护点】

1.一种分级存储数据迁移方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,包括:

3.根据权利要求2所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,还包括:

4.根据权利要求1所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,包括:

5.根据权利要求4所述的方法,其特征在于,所述将所述缓冲数据集合对应的数据写入目标设备中,包括:

6.根据权利要求5所述的方法,其特征在于,所述对所述缓冲数据集合的数据写入位置进行对齐操作,包括:<...

【技术特征摘要】

1.一种分级存储数据迁移方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,包括:

3.根据权利要求2所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,还包括:

4.根据权利要求1所述的方法,其特征在于,所述基于所述事件集合,生成一个事务并提交,包括:

5.根据权利要求4所述的方法,其特征在于,所述将所述缓冲数据集合对应的数据写入目标设备中,包括:

6.根据权利要求5所述的方法,其特征在于,所述对所述缓冲数据集合的数据写入位置进行对齐操作,包括:

7....

【专利技术属性】
技术研发人员:马兴耀任磊雷旭东樊晓光皇甫利刚
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1