数据同步方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:19903458 阅读:35 留言:0更新日期:2018-12-26 02:55
本发明专利技术公开了通过获取其中一条待同步数据作为当前待同步数据,基于kettle将当前待同步数据同步到目标数据库中,确定同步成功,将未同步的待同步数据确定为当前待同步数据,或确定同步失败,记录同步失败原因,根据同步失败原因更新目标数据库,通过基于高效稳定的kettle将源数据迅速地同步到目标数据库中,当同步成功时,获取下一条源数据信息进行同步,直到各条待同步数据均被成功同步,当同步失败时,根据同步失败的不同情况更新目标数据库,重新将同步失败对应的源数据进行同步,从而不需要人工花费时间找出同步失败的原因,加以解决同步失败的问题,进而提高了数据同步的效率。

【技术实现步骤摘要】
数据同步方法、装置、计算机设备及存储介质
本专利技术涉及金融领域,尤其涉及一种数据同步方法、装置、计算机设备及存储介质。
技术介绍
在当前大数据信息时代,数据信息对于金融公司起到至关重要的作用,金融公司常常需要对数据进行备份,当数据信息有变动时,还需要对数据信息再一次进行备份。在备份过程中,需要将一个数据库中的所有数据信息同步到另一个数据库中,但是,在同步的过程中,常常出现同步失败,一旦出现同步失败,则需要人工花费时间找出同步失败的原因,人工花费时间加以解决同步失败的问题,从而导致数据同步效率低。
技术实现思路
基于此,有必要针对上述技术问题,提供一种可以提高数据同步效率的数据同步方法、装置、计算机设备及存储介质。一种数据同步方法,包括:将源数据库中一条待同步数据作为当前待同步数据;基于kettle将当前待同步数据同步到目标数据库中,得到同步结果;检测所述同步结果是同步成功还是同步失败;若所述同步结果为同步成功,则在直到所述源数据库中所有待同步数据均被成功同步到所述目标数据库中之前将所述源数据库中的下一条待同步数据确定为新的当前待同步数据;若所述同步结果为同步失败,则记录同步失败原因,根本文档来自技高网...

【技术保护点】
1.一种数据同步方法,其特征在于,所述数据同步方法包括:将源数据库中一条待同步数据作为当前待同步数据;基于kettle将当前待同步数据同步到目标数据库中,得到同步结果;检测所述同步结果是同步成功还是同步失败;若所述同步结果为所述同步成功,则在直到所述源数据库中所有待同步数据均被成功同步到所述目标数据库中之前将所述源数据库中的下一条待同步数据确定为新的当前待同步数据;若所述同步结果为所述同步失败,则记录同步失败原因,根据所述同步失败原因更新所述目标数据库,以使所述当前待同步数据被成功同步到所述目标数据库中,并在直到所述源数据库中所有待同步数据均被成功同步到所述目标数据库中之前将所述源数据库中的下...

【技术特征摘要】
1.一种数据同步方法,其特征在于,所述数据同步方法包括:将源数据库中一条待同步数据作为当前待同步数据;基于kettle将当前待同步数据同步到目标数据库中,得到同步结果;检测所述同步结果是同步成功还是同步失败;若所述同步结果为所述同步成功,则在直到所述源数据库中所有待同步数据均被成功同步到所述目标数据库中之前将所述源数据库中的下一条待同步数据确定为新的当前待同步数据;若所述同步结果为所述同步失败,则记录同步失败原因,根据所述同步失败原因更新所述目标数据库,以使所述当前待同步数据被成功同步到所述目标数据库中,并在直到所述源数据库中所有待同步数据均被成功同步到所述目标数据库中之前将所述源数据库中的下一条待同步数据确定为新的当前待同步数据。2.如权利要求1所述的数据同步方法,其特征在于,所述同步失败原因为数据长度不对称或数据表不存在,所述根据所述同步失败原因更新所述目标数据库具体包括:若确定所述同步失败原因为所述数据长度不对称,则将所述目标数据库中同步位置的空间长度增长至目标长度,所述同步位置是指所述当前待同步数据要同步到所述目标数据库中的位置,所述目标长度大于或等于所述当前待同步数据的长度;若确定所述同步失败原因为所述数据表不存在,则在所述目标数据库中新建一个目标数据表,所述目标数据表的空间大小与所述当前待同步数据所属源表的空间大小相同。3.如权利要求1所述的数据同步方法,其特征在于,在所述基于kettle将所述当前待同步数据同步到目标数据库中之前,所述数据同步方法还包括:判断所述当前待同步数据的数据类型与所述目标数据库中的目标数据的数据类型是否一致;若不一致,则按照预设的转换方式将所述目标数据的数据类型转换成所述当前待同步数据的数据类型,得到转换后的目标数据;若一致,则将所述当前待同步数据与所述目标数据进行全量比对,得到比对结果;根据所述比对结果确定所述待同步数据对应的同步类型。4.如权利要求3所述的数据同步方法,其特征在于,所述同步类型包括数据增加、数据删除、数据不变或数据更新,所述基于kettle将所述当前待同步数据同步到目标数据库中,得到同步结果包括:若确定所述同步类型为所述数据增加,则基于kettle将所述当前待同步数据与所述目标数据相比的增量信息复制到所述目标数据库中,按照预设的拼接方式将所述目标数据与所述增量信息进行拼接处理,得到拼接后的目标数据,并确定所述同步结果为同步成功,若执行所述基于kettle将所述当前待同步数据与所述目标数据相比的增量信息复制到所述目标数据库中的步骤失败,则确定所述同步结果为同步失败;若确定所述同步类型为所述数据删除,则基于kettle将所述目标数据与所述当前待同步数据相比的增量信息删除,得到删除后的目标数据,并确定所述同步结果为同步成功,若执行所述基于kettle将所述目标数据与所述当前待同步数据相比的增量信息删除的步骤失败,则确定所述同步结果为同步失败;若所述同步类型为所述数据不变,则基于kettle保持所述目标数据不变,得到保持后的目标数据,并确定所述同步结果为同步成功,若执行所述基于kettle保持所述目标数据不变的步骤失败,则确定所述同步结果为同步失败;若所述同步类型为所述数据更新,则基于kettle将所述当...

【专利技术属性】
技术研发人员:丁家琳
申请(专利权)人:中国平安人寿保险股份有限公司
类型:发明
国别省市:广东,44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1