数据同步方法以及装置、数据存储系统制造方法及图纸

技术编号:35523979 阅读:17 留言:0更新日期:2022-11-09 14:44
本说明书实施例提供数据同步方法以及装置、数据存储系统,其中所述数据同步方法包括:接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;从源数据库中获取所述数据标识对应的数据变化信息和当前数据,其中,所述数据变化信息包括数据变化时刻和变化量;根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据同步至目标数据库中。可以获取任一目标时间对应的待同步数据,提高针对不同目标时间的数据进行同步地效率,即提高同步效率;避免在源数据库中确定待同步数据,降低了源数据库的数据处理量,进而提高源数据库的服务效率。数据库的服务效率。数据库的服务效率。

【技术实现步骤摘要】
数据同步方法以及装置、数据存储系统


[0001]本说明书实施例涉及计算机
,特别涉及一种数据同步方法。

技术介绍

[0002]随着计算机技术和互联网技术的快速发展,各行各业也迎来了快速发展时期,越来越多数据随着而生。出于数据管理和使用等需求,需要对数据进行同步。在数据同步的场景中,经常需要将不同结构的源数据同步到统一的数据存储介质中,并且需要能同时获取数据的变更明细,以及获取数据的最终状态。但是直接获取源数据,在数据量大的情况下,会增大源数据库的处理压力,不利于源数据库提供稳定的服务。因此,亟需一种有效的方案以解决上述问题。

技术实现思路

[0003]有鉴于此,本说明书实施例提供了一种数据同步方法。本说明书一个或者多个实施例同时涉及一种数据同步装置,一种数据存储系统,一种计算设备,一种计算机可读存储介质以及一种计算机程序,以解决现有技术中存在的技术缺陷。
[0004]根据本说明书实施例的第一方面,提供了一种数据同步方法,包括:
[0005]接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;
[0006]从源数据库中获取所述数据标识对应的数据变化信息和当前数据,其中,所述数据变化信息包括数据变化时刻和变化量;
[0007]根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;
[0008]根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据同步至目标数据库中。
[0009]根据本说明书实施例的第二方面,提供了一种数据同步装置,包括:
[0010]接收模块,被配置为接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;
[0011]获取模块,被配置为从源数据库中获取所述数据标识对应的数据变化信息和当前数据,其中,所述数据变化信息包括数据变化时刻和变化量;
[0012]筛选模块,被配置为根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;
[0013]同步模块,被配置为根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据同步至目标数据库中。
[0014]根据本说明书实施例的第三方面,提供了一种数据存储系统,包括:
[0015]数据同步处理器、源数据库和目标数据库;
[0016]所述数据同步处理器,被配置为接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;从源数据库中获取所述数据标识对应的数据变化信息和当前数据,
其中,所述数据变化信息包括数据变化时刻和变化量;根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据发送至所述目标数据库;
[0017]所述源数据库,被配置为将所述数据标识对应的数据变化信息和当前数据发送至数据同步处理器;
[0018]所述目标数据库,被配置为接收所述待同步数据并存储。
[0019]根据本说明书实施例的第四方面,提供了一种计算设备,包括:
[0020]存储器和处理器;
[0021]所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现上述数据同步方法的步骤。
[0022]根据本说明书实施例的第五方面,提供了一种计算机可读存储介质,其存储有计算机可执行指令,该指令被处理器执行时实现上述数据同步方法的步骤。
[0023]根据本说明书实施例的第六方面,提供了一种计算机程序,其中,当所述计算机程序在计算机中执行时,令计算机执行上述数据同步方法的步骤。
[0024]本说明书提供了一种数据同步方法,接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;从源数据库中获取所述数据标识对应的数据变化信息和当前数据,其中,所述数据变化信息包括数据变化时刻和变化量;根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据同步至目标数据库中。通过对数据变化信息进行处理,可以获取任一目标时间对应的待同步数据,进而提高针对不同目标时间的数据进行同步地效率,也即提高同步效率;且采用数据变化信息的方式确定待同步数据,避免在源数据库中确定待同步数据,降低了源数据库的数据处理量,进而提高源数据库的服务效率。
附图说明
[0025]图1是本说明书一个实施例提供的一种数据同步系统下的数据同步流程图;
[0026]图2是本说明书一个实施例提供的应用于数据整合场景中的一种系统架构示意图;
[0027]图3是本说明书一个实施例提供的一种数据同步方法的流程图;
[0028]图4是本说明书一个实施例提供的另一种数据同步方法的流程图;
[0029]图5是本说明书一个实施例提供的一种数据同步方法的系统框图;
[0030]图6是本说明书一个实施例提供的一种数据同步方法的处理过程流程图;
[0031]图7是本说明书一个实施例提供的一种数据同步装置的结构示意图;
[0032]图8是本说明书一个实施例提供的一种数据存储系统的结构示意图;
[0033]图9是本说明书一个实施例提供的一种计算设备的结构框图。
具体实施方式
[0034]在下面的描述中阐述了很多具体细节以便于充分理解本说明书。但是本说明书能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本说明书内涵的情况下做类似推广,因此本说明书不受下面公开的具体实施的限制。
[0035]在本说明书一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本说明书一个或多个实施例。在本说明书一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本说明书一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
[0036]应当理解,尽管在本说明书一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本说明书一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
[0037]首先,对本说明书一个或多个实施例涉及的名词术语进行解释。
[0038]数据同步:是指把数据从一种存储空间迁移至其他存储空间。
[0039]数据快照:是指数据在某一时刻的终态数据。
[0040]大数据处理:TB(1000GB)级别的数据处理。
[0041]存储介质:是指保存数据的媒介。...

【技术保护点】

【技术特征摘要】
1.一种数据同步方法,包括:接收数据同步请求,其中,所述数据同步请求包括数据标识和目标时间;从源数据库中获取所述数据标识对应的数据变化信息和当前数据,其中,所述数据变化信息包括数据变化时刻和变化量;根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量;根据所述目标变化量和所述当前数据,确定待同步数据,并将所述待同步数据同步至目标数据库中。2.根据权利要求1所述的方法,所述数据同步请求还包括有源数据库标识;所述从源数据库中获取所述数据标识对应的数据变化信息和当前数据,包括:从所述源数据库标识对应的源数据库中获取所述数据标识对应的数据变化信息和当前数据。3.根据权利要求1所述的方法,所述数据变化时刻与所述变化量存在对应关系;所述根据所述目标时间和所述数据变化时刻,从所述数据变化信息中筛选出目标变化量,包括:将所述目标时间分别与各数据变化时刻进行匹配;将匹配通过的数据变化时刻对应的变化量确定为目标变化量。4.根据权利要求1所述的方法,所述根据所述目标变化量和所述当前数据,确定待同步数据,包括:根据所述目标变化量确定反向变化量,其中,所述反向变化量与所述目标变化量变化方向相反且变化程度相同;根据所述反向变化量对所述当前数据进行还原,得到待同步数据。5.根据权利要求4所述的方法,所述反向变化量的数量为至少两个,所述反向变化量与所述数据变化时刻存在对应关系;所述根据所述反向变化量对所述当前数据进行还原,得到待同步数据,包括:按照所述数据变化时刻从后到前的顺序,从第一个数据变化时刻对应的反向变化量开始,根据当前反向变化量对当前数据进行还原,得到初始待同步数据,将所述初始待同步数据作为当前数据,继续执行所述根据当前反向变化量对当前数据进行还原的步骤,直至最后一个数据变化时刻对应的反向变化量;根据得到的各初始待同步数据确定待同步数据。6.根据权利要求1所述的方法,所述待同步数据中的各数据携带有分组标识;所述将所述待同步数据同步至目标数据库中,包括:根据所述分组标识,将所述待同步数据分为至少一组数据;根据每组数据对应的分组标识,分别将每组数据同步至目标数据库中所述分组标识对应的存储区域。7.根据权利要求6所述的方法,所述存储区域标记有分组标签;所述根据每组数据对应的分组标识,将每组...

【专利技术属性】
技术研发人员:李猛
申请(专利权)人:浙江网商银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1