一种数据处理方法及数据处理系统技术方案

技术编号:26375664 阅读:34 留言:0更新日期:2020-11-19 23:44
本申请公开了一种数据处理方法及数据处理系统,该方法包括:获取数据恢复请求,其中,数据恢复请求中包含数据恢复的目标时间点;获取包含目标时间点的日志文件,其中日志文件包括按照写入时间排列成数据队列的日志数据和标签,标签用于标识在相应写入时间生成的快照数据;在数据队列中位于目标时间点处的队列单元为日志数据的情况下,确定数据队列中位于目标时间点之前且紧邻目标时间点的第一标签;获取第一标签相关联的第一快照数据,以及数据队列中位于第一标签相应的第一时间点和目标时间点之间日志数据;基于获取的第一快照数据和日志数据进行数据恢复。应用该数据处理方法有益于提高数据恢复速度。

【技术实现步骤摘要】
一种数据处理方法及数据处理系统
本申请涉及数据库
,特别涉及一种数据处理方法及数据处理系统。
技术介绍
分布式存储系统作为超融合系统的重要组成部分,存储着整个系统和客户的重要数据,数据的完整性和保护关系到整个系统能否正常运行。但是由于人为操作、系统和应用错误、硬件故障或自然灾害等不可抗力因素都可能造成数据的损坏或丢失。所以容灾备份和数据保护技术已成为业界关注的热点问题。普通的容灾备份基于快照备份,数据可以恢复到上一次快照的时间,但是还是会丢失一段时间的数据。持续数据保护技术(ContinuousDataProtection,CDP)的出现使上述技术问题得以解决,持续数据保护是一种在不影响主要数据运行的前提下,可以实现持续捕捉或跟踪目标数据所发生的任何改变,并且能够恢复到此前任意时间点的方法,避免误操作造成了数据的丢失。但是持续数据保护技术通常依赖外置的CDP服务器,由CDP服务器来记录所有写入(IO)数据,回滚数据时根据CDP服务器记录的IO数据来重写数据,需要消耗较大的存储资源,且恢复时间比较长。r>申请内容本文档来自技高网...

【技术保护点】
1.一种数据处理方法,其特征在于,包括:/n获取数据恢复请求,其中,所述数据恢复请求中包含数据恢复的目标时间点;/n获取包含所述目标时间点的日志文件,其中所述日志文件包括按照写入时间排列成数据队列的日志数据和标签,所述标签用于标识在相应写入时间生成的快照数据;/n在所述数据队列中位于所述目标时间点处的队列单元为日志数据的情况下,确定所述数据队列中位于所述目标时间点之前且紧邻所述目标时间点的第一标签;/n获取所述第一标签相关联的第一快照数据,以及所述数据队列中位于所述第一标签相应的第一时间点和所述目标时间点之间所述日志数据;/n基于获取的所述第一快照数据和所述日志数据进行数据恢复。/n

【技术特征摘要】
1.一种数据处理方法,其特征在于,包括:
获取数据恢复请求,其中,所述数据恢复请求中包含数据恢复的目标时间点;
获取包含所述目标时间点的日志文件,其中所述日志文件包括按照写入时间排列成数据队列的日志数据和标签,所述标签用于标识在相应写入时间生成的快照数据;
在所述数据队列中位于所述目标时间点处的队列单元为日志数据的情况下,确定所述数据队列中位于所述目标时间点之前且紧邻所述目标时间点的第一标签;
获取所述第一标签相关联的第一快照数据,以及所述数据队列中位于所述第一标签相应的第一时间点和所述目标时间点之间所述日志数据;
基于获取的所述第一快照数据和所述日志数据进行数据恢复。


2.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
在所述数据队列中位于所述目标时间点处的队列单元为第二标签的情况下,获取所述第二标签相关联的第二快照数据,基于所述第二快照数据进行数据恢复。


3.根据权利要求1所述的数据处理方法,其特征在于,所述方法还包括数据写入,其包括:
按预设频率生成快照数据,将所述快照数据写入第一存储装置;
生成用于标识所述快照数据的标签,将所述标签写入位于第二存储装置中的所述日志文件中;
基于数据写入请求向所述日志文件中写入日志数据。


4.根据权利要求3所述的数据处理方法,其特征在于,所述数据写入还包括:
创建日志文件,基于创建所述日志文件的时间点生成快照数据和用于标识所述快照数据的标签;
在所述日志文件的数据队列中首个队列单元写入所述标签。


5.根据权利要求3所述的数据处理方法,其特征在于,所述方法还包括:
在向位于所述第一存储装置中的所述日志文件中写入日志数据的情况下,生成位图和索引表,
其中
所述位图包含所述日志数据的写入时间点,以及用于标识所述日志数据存储于所述第一存储装置中的标识符;
所述索引表包含所述日志数据的写入时间点,以及用于标识所述日志数据在所述日志文件中写入位置的第一位置信息。


6.根据权利要求5所述的数据处理方法,其特征在于,所述方法还包括:<...

【专利技术属性】
技术研发人员:陈仲涛
申请(专利权)人:北京天融信网络安全技术有限公司北京天融信科技有限公司北京天融信软件有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1