一种基于缓存的对象存储海量数据备份方法及系统技术方案

本发明专利技术公开了一种基于缓存的对象存储海量数据备份方法及系统，涉及数据备份技术领域。该方法包括：进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。本发明专利技术可在对于对象存储的海量数据备份时，快速获取增量备份数据信息，从而在备份过程中节省备份时间，提高备份效率。提高备份效率。提高备份效率。

【技术实现步骤摘要】
一种基于缓存的对象存储海量数据备份方法及系统


[0001]本专利技术涉及数据备份
，具体而言，涉及一种基于缓存的对象存储海量数据备份方法及系统。

技术介绍

[0002]对象存储是用来描述解决和处理离散单元的方法。目前随着基于对象存储的海量数据在实际使用中越来越多，数据备份的需求也不断增长。但是对象存储普遍没有提供如何获取增量数据信息的快捷方式，只能遍历数据比较所有数据元数据信息，获取到具体的增删改数据，这样会在增量发起时浪费大量时间在增量信息的获取，降低了备份效率。

技术实现思路

[0003]为了克服上述问题或者至少部分地解决上述问题，本专利技术实施例提供一种基于缓存的对象存储海量数据备份方法及系统，在对于对象存储的海量数据备份时，可以快速获取增量备份数据信息，从而在备份过程中节省备份时间，提高备份效率。
[0004]本专利技术的实施例是这样实现的：第一方面，本专利技术实施例提供一种基于缓存的对象存储海量数据备份方法，包括以下步骤：进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
[0005]为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本专利技术针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先进行全量数据备份，将备份数据记录到数据库中；然后，设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。基于上述方法可快速获取增量备份数据信息，提高备份效率。
[0006]基于第一方面，在本专利技术的一些实施例中，上述定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照的方法包括以下步骤：第一次增量扫描时，将上次备份的全量数据记录信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照。
[0007]基于第一方面，在本专利技术的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：第二次增量扫描时，将上次扫描的全量数据信息与当前实际数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照，并清理上次的增量数据快照。
[0008]基于第一方面，在本专利技术的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：接收并根据增量备份请求停止增量扫描。
[0009]基于第一方面，在本专利技术的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：再次设定增量扫描定时器，重新定时发起增量扫描，进行循环增量扫描及增量备份。
[0010]基于第一方面，在本专利技术的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当增量扫描完成后，生成最新缓存变化数据快照，并清理删除无效缓存快照信息。
[0011]基于第一方面，在本专利技术的一些实施例中，该基于缓存的对象存储海量数据备份方法还包括以下步骤：当完成增量备份后，删除缓存中对应的增量数据快照。
[0012]第二方面，本专利技术实施例提供一种基于缓存的对象存储海量数据备份系统，包括：全量数据备份模块、增量扫描模块以及增量数据备份模块，其中：全量数据备份模块，用于进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；增量扫描模块，用于设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照；增量数据备份模块，用于进行增量数据备份，读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。
[0013]为了解决现有技术中对象存储的海量数据备份效率低下的技术问题，本系统通过全量数据备份模块、增量扫描模块以及增量数据备份模块等多个模块的配合，针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。首先通过全量数据备份模块进行全量数据备份，将备份数据记录到数据库中；然后，通过增量扫描模块设定增量扫描定时器，定时发起增量扫描，获取增量变化数据并缓存至数据库中，每一次扫描完成后生成一次增量数据快照，并将上次的数据快照进行替换删除；当定时扫描结束后，通过增量数据备份模块进行增量数据备份，读取最近一份增量数据缓存快照，备份快照内记录的数据，并将备份成功的数据记录到数据库中。
[0014]第三方面，本申请实施例提供一种电子设备，其包括存储器，用于存储一个或多个程序；处理器。当一个或多个程序被处理器执行时，实现如上述第一方面中任一项的方法。
[0015]第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述第一方面中任一项的方法。
[0016]本专利技术实施例至少具有如下优点或有益效果：本专利技术实施例提供一种基于缓存的对象存储海量数据备份方法及系统，针对对象存储的海量数据备份，实现快速检索增量数据，使数据备份时快速获取增量文件信息，从而在备份过程中节省备份时间，提高备份效率。
附图说明
[0017]为了更清楚地说明本专利技术实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本专利技术的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
[0018]图1为本专利技术实施例一种基于缓存的对象存储海量数据备份方法的流程图；图2为本专利技术实施例一种基于缓存的对象存储海量数据备份方法中第一次增量扫描的流程图；图3为本专利技术实施例一种基于缓存的对象存储海量数据备份方法中第二次增量扫描的流程图；图4为本专利技术实施例一种基于缓存的对象存储海量数据备份系统的原理框图；图5为本专利技术实施例提供的一种电子设备的结构框图。
[0019]附图标记说明：100、全量数据备份模块；200、增量扫描模块；300、增量数据备份模块；101、存储器；102、处理器；103、通信接口。
具体实施方式
[0020]为使本专利技术实施例的目的、技术方案和优点更加清楚，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本专利技术一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本专利技术实施例的组件可以以各种不同的配置来布置和设计。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于缓存的对象存储海量数据备份方法，其特征在于，包括以下步骤：进行全量数据备份，遍历扫描所有数据文件信息，并将备份数据记录到数据库中；设置增量扫描定时器，定时发起增量扫描，缓存记录变化数据信息，增量扫描完成后，生成增量数据快照，包括：第一次增量扫描时，将上次备份的全量数据记录信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照；第二次增量扫描时，将上次扫描的全量数据信息与当前对象存储海量数据进行比对，以获取得到增量变化数据信息，并将增量变化数据信息和新扫描到的全量数据信息缓存至数据库；扫描完成后，生成一次增量数据快照，并清理上次的增量数据快照；进行增量数据备份，不再扫描当前时刻增量数据，直接读取最近一份增量数据的缓存变化数据快照，备份该快照内记录的数据，并将备份成功的数据记录到数据库中。2.根据权利要求1所述的一种基于缓存的对象存储海量数据备份方法，其特征在于，还包括以下步骤：接收并根据增量备份请求停止增量扫描。3.根据权利要求1所述的一种基于缓存的对象存储海量数据备份方法，其特征在于，还包括以下步骤：再次设定增量扫描定时器，重新定时发起增量扫描，进行循环增量扫描。4.根据权利要求1所述的一种基于缓存的对象存储海量数据备份方法，其特征在于，还包括以下步骤：当增量扫描完成后，生成最新缓存变化数据快照，并清理删除无效缓存快照信息。5.根据权利要求1所述的一种基于缓存的对象存储海量数据备份方法，其特征在于，还包括以下...

【专利技术属性】
技术研发人员：宋培毓，
申请(专利权)人：南京云信达科技有限公司，
类型：发明
国别省市：