数据同步系统、方法、装置及电子设备制造方法及图纸

技术编号:35815264 阅读:17 留言:0更新日期:2022-12-03 13:38
本申请提供数据同步系统、数据同步方法、装置、电子设备以及计算机存储介质。由于在本申请的数据同步系统中,数据变更检测平台可以获取多个数据源中以异构的数据信息形式存在的发生数据变化的数据,并获取其对象标识;数据聚合表能够根据数据变更检测平台发送的查询请求以及存储操作请求,为发生数据变化的数据提供与对象标识相关联的存储位置,以存储发生数据变化的数据。进而后续具有权限的应用可以以对象标识为依据,获取发生数据变化的数据,最终使得该数据同步系统可以直接将以异构的数据信息形式存在的发生数据变化的数据同步至具有权限的应用。该数据同步系统的数据同步方式较为便捷。步方式较为便捷。步方式较为便捷。

【技术实现步骤摘要】
数据同步系统、方法、装置及电子设备


[0001]本申请涉及计算机
,具体涉及数据同步系统、数据同步方法、装置、电子设备以及计算机存储介质。

技术介绍

[0002]在数据处理领域中,大量的数据可能需要进行变更。如果变更的数据同时存储在上游应用和下游应用中,一旦上游应用对数据进行了变更,自然也需要将变更的数据提供给下游应用,进而使得下游应用及时对数据进行相应的变更,以达到对数据进行同步。
[0003]在现有的数据同步过程中,如果需要同步的数据来自多个数据源,存储数据的多个数据源可能是以异构的数据信息形式存储数据的,一般需要将异构的需要同步的数据先统一格式,再对数据进行同步。这种数据同步方式对数据同步过程要求较高,需要投入大量的维护精力对需要同步的数据统一格式,数据同步过程较为繁琐。因此,如何提供一种便捷的适用于异构数据的数据同步方法成为当前亟需解决的技术问题。

技术实现思路

[0004]本申请提供一种数据同步系统,以解决如何便捷地针对异构数据进行数据同步的技术问题。本申请还提供数据同步方法,以及与数据同步方法对应的装置、电子设备以及计算机存储介质。
[0005]本申请提供一种数据同步系统,包括:数据变更检测平台与数据聚合表:
[0006]数据变更检测平台,用于获取被监测的多个数据源中发生数据变化的数据,所述多个数据源包括异构的数据信息形式;根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识;根据所述对象标识,对所述发生数据变化的数据进行相应操作;
[0007]数据聚合表,用于接收所述数据变更检测平台的查询请求,以及根据其要求,接收对所述发生数据变化的数据的存储操作请求,为所述发生数据变化的数据提供与所述对象标识相关联的存储位置,所存储的数据能够被具有权限的应用以所述对象标识为依据进行读取。
[0008]可选的,还包括:数据变更平台;所述数据变更平台,用于接收用户针对所述多个数据源中的数据的变更操作,获得发生数据变化的数据,并将所述发生数据变化的数据提供给所述多个数据源。
[0009]可选的,所述多个数据源至少包括第一数据源与第二数据源;
[0010]所述数据变更平台在将所述发生数据变化的数据提供给所述多个数据源之前,确定所述发生数据变化的数据所属的数据源;
[0011]如果所述发生数据变化的数据属于第一数据源,则所述数据变更平台将所述发生数据变化的数据提供给所述第一数据源;
[0012]如果所述发生数据变化的数据属于第二数据源,则所述数据变更平台将所述发生
数据变化的数据提供给所述第二数据源。
[0013]可选的,所述第一数据源包括数据库表;所述第二数据源包括消息中间件。
[0014]可选的,所述数据库表中设置有第一同步插件;
[0015]所述第一同步插件,用于在检测到所述数据库表中存储了所述发生数据变化的数据后,向所述数据变更检测平台提供用于表示对数据库表中的数据进行变更的日志,所述日志中携带有所述发生数据变化的数据。
[0016]可选的,所述消息中间件中设置有第二同步插件;
[0017]所述第二同步插件,用于在检测到所述消息中间件中接收到所述发生数据变化的数据后,向所述数据变更检测平台提供包含有所述发生数据变化的数据的消息中间件。
[0018]可选的,所述根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识,包括:
[0019]如果所述发生数据变化的数据属于数据库表中的数据,则基于所述日志携带的发生数据变化的数据,以及,数据库表中对象标识与数据之间的对应关系,获得发生数据变化的数据在数据库表中的对象标识。
[0020]可选的,所述根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识,包括:
[0021]如果所述发生数据变化的数据属于消息中间件中的数据,则基于所述消息中间件中包含的发生数据变化的数据,以及,消息中间件中消息对应的数据的对象标识,获得发生数据变化的数据在消息中间件中的对象标识。
[0022]可选的,所述根据所述对象标识,对所述发生数据变化的数据进行相应操作,包括:
[0023]获得所述数据聚合表中所述对象标识对应的原有数据,在所述数据变更检测平台上,采用所述发生数据变化的数据对所述对象标识对应的原有数据进行更新操作。
[0024]可选的,所述数据聚合表还用于在与所述对象标识相关联的所述存储位置处,采用所述发生数据变化的数据对所述对象标识对应的原有数据进行更新。
[0025]可选的,所述数据聚合表在采用所述发生数据变化的数据对所述对象标识对应的原有数据进行更新之后,用于将更新成功的更新结果消息提供给所述数据变更检测平台。
[0026]可选的,所述数据聚合表,用于在接收所述数据变更检测平台的查询请求之后,查找所述对象标识对应的原有数据,将所述对象标识对应的原有数据提供给所述数据变更检测平台。
[0027]可选的,所述数据聚合表在采用所述发生数据变化的数据对所述对象标识对应的原有数据进行更新之后,以用于表示对数据聚合表中的数据进行变更的日志或者消息中间件的形式,将所述发生数据变化的数据提供给所述具有权限的应用。
[0028]本申请还提供一种数据同步方法,应用于数据变更检测平台,包括:
[0029]获取被监测的多个数据源中发生数据变化的数据,所述多个数据源包括异构的数据信息形式;
[0030]根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识;
[0031]根据所述对象标识,对所述发生数据变化的数据进行相应操作;
[0032]向数据聚合表发送用于请求在所述数据聚合表中对所述发生数据变化的数据进行存储的存储操作请求;所述数据聚合表,用于接收所述存储操作请求,为所述发生数据变化的数据提供与所述对象标识相关联的存储位置,所存储的数据能够被具有权限的应用以所述对象标识为依据进行读取。
[0033]本申请还提供一种数据同步方法,应用于数据聚合表,包括:
[0034]接收数据变更检测平台发送的用于请求查询对象标识对应的原有数据的查询请求;所述对象标识为发生数据变化的数据的对象标识,所述发生数据变化的数据为多个数据源中发生数据变化的数据,所述多个数据源包括异构的数据信息形式;
[0035]根据所述查询请求,获得与所述对象标识对应的原有数据;
[0036]接收数据变更检测平台发送的用于请求对发生数据变化的数据的进行存储的存储操作请求,基于所述存储操作请求,为所述发生数据变化的数据提供与所述对象标识相关联的存储位置;
[0037]在所述存储位置处,采用所述发生数据变化的数据对所述对象标识对应的原有数据进行更新,所存储的数据能够被具有权限的应用以所述对象标识为依据进行读取。
[003本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据同步系统,其特征在于,包括:数据变更检测平台与数据聚合表:数据变更检测平台,用于获取被监测的多个数据源中发生数据变化的数据,所述多个数据源包括异构的数据信息形式;根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识;根据所述对象标识,对所述发生数据变化的数据进行相应操作;数据聚合表,用于接收所述数据变更检测平台的查询请求,以及根据其要求,接收对所述发生数据变化的数据的存储操作请求,为所述发生数据变化的数据提供与所述对象标识相关联的存储位置,所存储的数据能够被具有权限的应用以所述对象标识为依据进行读取。2.根据权利要求1所述的数据同步系统,其特征在于,还包括:数据变更平台;所述数据变更平台,用于接收用户针对所述多个数据源中的数据的变更操作,获得发生数据变化的数据,并将所述发生数据变化的数据提供给所述多个数据源。3.根据权利要求2所述的数据同步系统,其特征在于,所述多个数据源至少包括第一数据源与第二数据源;所述数据变更平台在将所述发生数据变化的数据提供给所述多个数据源之前,确定所述发生数据变化的数据所属的数据源;如果所述发生数据变化的数据属于第一数据源,则所述数据变更平台将所述发生数据变化的数据提供给所述第一数据源;如果所述发生数据变化的数据属于第二数据源,则所述数据变更平台将所述发生数据变化的数据提供给所述第二数据源。4.根据权利要求3所述的数据同步系统,其特征在于,所述第一数据源包括数据库表;所述第二数据源包括消息中间件。5.根据权利要求4所述的数据同步系统,其特征在于,所述数据库表中设置有第一同步插件;所述第一同步插件,用于在检测到所述数据库表中存储了所述发生数据变化的数据后,向所述数据变更检测平台提供用于表示对数据库表中的数据进行变更的日志,所述日志中携带有所述发生数据变化的数据。6.根据权利要求4所述的数据同步系统,其特征在于,所述消息中间件中设置有第二同步插件;所述第二同步插件,用于在检测到所述消息中间件中接收到所述发生数据变化的数据后,向所述数据变更检测平台提供包含有所述发生数据变化的数据的消息中间件。7.根据权利要求5所述的数据同步系统,其特征在于,所述根据其数据信息形式,对所述发生数据变化的数据进行相应的解析,获得所述发生数据变化的数据的对象标识,包括:如果所述发生数据变化的数据属于数据库表中的数据,则基于所述日志携带的发生数据变化的数据,以及,数据库表中对象标识与数据之间的对应关系,获得发生数据变化的数据在数据库表中的对象标识。8.根据权利要求6所述的数据同步系统,其特征在于,所述根据其数据信息形式,对所述发生数据变化的数据...

【专利技术属性】
技术研发人员:孙海涛
申请(专利权)人:阿里巴巴中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1