System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据保护,尤其涉及一种数据备份处理方法、装置、设备及介质。
技术介绍
1、随着国家数字化进程的推进,大数据时代数据量爆炸式增长,数据保护也被各行各业越来越重视,重复数据删除技术作为一个备份软件的基本能力由于可以节省存储空间,节省网络带宽而被广泛使用。但由于重复数据删除技术会为了保证数据的去重效果而将数据切片直接存储会导致恢复性能不够理想,而保护的数据如何在灾难场景下做到高性能恢复也成为评估一个数据保护软件的重要指标。
2、目前当查询到这些kb级别的数据切片不重复后直接就进行存储了,这些数据切片在磁盘上分布是随机的,在做恢复时,由于上层会按照数据偏移顺序请求读取数据,所以对于磁盘的读取操作会有大量随机io,大量的随机io读取不仅会对磁盘造成一定压力,读取性能也不好。
技术实现思路
1、本专利技术提供了一种数据备份处理方法、装置、设备及介质,可以对待处理数据块进行切片处理后再进行备份处理,以在对备份数据恢复时通过减少物理设备的随机读频率而提升数据从物理设备采集的时间,提升恢复性能。
2、根据本专利技术的一方面,提供了一种数据备份处理方法,包括:
3、获取待处理数据块;
4、对所述待处理数据块进行切片处理,得到目标数据切片;
5、确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果;
6、根据所述查询结果对所述目标数据切片进行备份操作。
7、可选的,
8、对所述待处理数据块进行编号,得到目标数据块;
9、对所述目标数据块进行切片操作,得到各数据切片并记录所述目标数据块包含的数据切片数量;
10、对所述各数据切片按照设定顺序进行编号,得到目标数据切片。
11、可选的,还包括:
12、构造第一容器;其中,所述第一容器为键值对数据结构,所述第一容器的值作为结构体;
13、将所述目标数据块的编号和所述目标数据切片的数量存储至所述第一容器的结构体;
14、在所述第一容器的结构体中构造第二容器;
15、将所述目标数据切片和所述查询结果存储至所述第二容器。
16、可选的,确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果,包括:
17、采用设定算法对所述目标数据切片进行计算,得到所述目标数据切片的标识信息;
18、判断所述标识信息与设定标识库中的标识信息是否相同;
19、若所述标识信息与设定标识库中的标识信息相同,则所述标识信息对应的目标数据切片为重复数据;
20、若所述标识信息与设定标识库中的标识信息不相同,则所述标识信息对应的目标数据切片为不重复数据。
21、可选的,所述数据切片数量包括目标数据切片个数和接收到的数据切片个数;
22、在得到所述目标数据切片的查询结果之后,还包括:
23、若所述查询结果为重复数据,则在所述第二容器中更新目标数据切片查询结果及更新所述结构体接收的数据切片个数;
24、若所述查询结果为不重复数据,则在所述第二容器中更新对应编号的目标数据切片为压缩数据切片,及更新目标数据切片的查询结果和所述结构体接收的数据切片个数。
25、可选的,在根据所述查询结果对所述目标数据切片进行备份操作之前,还包括:
26、对每个所述待处理数据块,判断所述结构体中接收的数据切片个数和所述目标数据切片个数是否相同;
27、若所述结构体中接收的数据切片个数和所述目标数据切片个数相同,则所述待处理数据块中的目标数据切片查询完成。
28、可选的,根据所述查询结果对所述目标数据切片进行备份操作,包括:
29、提取所述目标数据切片查询完成的对应目标备份数据块的结构体;
30、将所述结构体中的所述压缩数据切片按照编号顺序进行打包备份。
31、根据本专利技术的另一方面,提供了一种数据备份处理装置,包括:
32、数据块获取模块,用于获取待处理数据块;
33、切片处理模块,用于对所述待处理数据块进行切片处理,得到目标数据切片;
34、标识查询模块,用于确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果;
35、备份操作模块,用于根据所述查询结果对所述目标数据切片进行备份操作。
36、根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:
37、至少一个处理器;以及
38、与所述至少一个处理器通信连接的存储器;其中,
39、所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据备份处理方法。
40、根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据备份处理方法。
41、本专利技术实施例的技术方案,通过获取待处理数据块;对所述待处理数据块进行切片处理,得到目标数据切片;确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果;根据所述查询结果对所述目标数据切片进行备份操作。本技术方案,可以对待处理数据块进行切片处理后再进行备份处理,在对备份数据恢复时通过减少物理设备的随机读频率而提升数据从物理设备采集的时间,提升恢复性能。
42、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
本文档来自技高网...【技术保护点】
1.一种数据备份处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,对所述待处理数据块进行切片处理,得到目标数据切片,包括:
3.根据权利要求2所述的方法,其特征在于,还包括:
4.根据权利要求1所述的方法,其特征在于,确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果,包括:
5.根据权利要求3所述的方法,其特征在于,所述目标数据切片的数量包括目标数据切片个数和接收到的数据切片个数;
6.根据权利要求5所述的方法,其特征在于,在根据所述查询结果对所述目标数据切片进行备份操作之前,还包括:
7.根据权利要求6所述的方法,其特征在于,根据所述查询结果对所述目标数据切片进行备份操作,包括:
8.一种数据备份处理装置,其特征在于,包括:
9.一种电子设备,其特征在于,所述电子设备包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7
...【技术特征摘要】
1.一种数据备份处理方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,对所述待处理数据块进行切片处理,得到目标数据切片,包括:
3.根据权利要求2所述的方法,其特征在于,还包括:
4.根据权利要求1所述的方法,其特征在于,确定所述目标数据切片的标识信息,并根据所述标识信息进行标识查询,得到所述目标数据切片的查询结果,包括:
5.根据权利要求3所述的方法,其特征在于,所述目标数据切片的数量包括目标数据切片个数和接收到的数据切片个数;
...
【专利技术属性】
技术研发人员:董倩,
申请(专利权)人:上海爱数信息技术股份有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。