【技术实现步骤摘要】
数据同步方法、装置、设备及存储介质
本专利技术实施例涉及计算机
,尤其涉及一种数据同步方法及装置。
技术介绍
随着互联网的飞速发展,数据的体量越来越大。现实场景中要经常对数据进行复制和迁移。如何将这么大体量的数据准实时的同步到各种其它存储介质,业内有各自不同的处理方式。目前,主要使用OracleGoldenGate软件进行数据迁移,它通过解析源数据库在线日志或归档日志获得数据的增量变化,再将这些变化应用到目标数据库,从而实现源数据库与目标数据库同步。具体的,通过解析mysql的binlog日志,把源库的插入、更新、删除等操作日志解析出来,并通过kafka消息队列生产出来,客户端程序获取消息,并消费消息,把消息还原成对应的sql语句执行,以达到数据迁移的目的。但是,由于消息队列的生产消息和客户端消费消息都是并行、多线程进行的,因此很多消息队列无法保证消息的严格时序性,比如同一条记录的update消息和insert消息,可能update消息比insert消息先到达客户端,这样给目标库和源库的一致性造成了极大的困扰。
技术实现思路
本专利技术实施例提供一种数据同步方法 ...
【技术保护点】
1.一种数据同步方法,其特征在于,包括:监测源数据库产生的日志文件的更新情况,所述日志文件中记录有所述源数据库的数据变更事项;在监测到所述日志文件发生更新时,根据所述数据变更事项更新目标数据库。
【技术特征摘要】
1.一种数据同步方法,其特征在于,包括:监测源数据库产生的日志文件的更新情况,所述日志文件中记录有所述源数据库的数据变更事项;在监测到所述日志文件发生更新时,根据所述数据变更事项更新目标数据库。2.根据权利要求1所述的方法,其特征在于,在所述根据所述数据变更事项更新目标数据库之前还包括:将所述日志文件记录的数据变更事项复制到与所述目标数据库相关联的中继日志文件中;相应的,所述根据所述数据变更事项更新目标数据库包括:根据所述中继日志文件中复制的数据变更事项更新目标数据库。3.一种数据同步方法,其特征在于,包括:监测源数据库的数据变更情况;在监测到所述源数据库发生数据变更时产生日志文件,并将对应的数据变更事项记录在所述日志文件中,以便后续数据迁移时根据所述数据变更事项更新目标数据库。4.一种数据同步装置,其特征在于,包括:日志更新监测模块,用于监测源数据库产生的日志文件的更新情况,所述日志文件中记录有所述源数据库的数据变更事项;数据更新模块,用于在监测到所述日志文件发生更新时,根据所述数据变更事项更新目标数据库。5.根据权利要求4所述的装置,其特征在于,所述装置还包括:复制模块,用于在所述数据更新模块根据所述数据变更事项更新目标数据库之前,将所述日志...
【专利技术属性】
技术研发人员:钟诚,黄坤,阮金平,陈宽义,王运海,陶岩,杜毓淇,
申请(专利权)人:安心财产保险有限责任公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。