数据同步的处理方法、装置和计算机设备制造方法及图纸

技术编号:37971975 阅读:28 留言:0更新日期:2023-06-30 09:47
本申请涉及一种数据同步的处理方法、装置、计算机设备、存储介质和计算机程序产品,涉及人工智能技术领域。所述方法包括:获取数据同步的总控表的预设时段信息,总控制表关联至少一个分控表;若分控表的采集时刻小于或者等于总控表的当前时间节点,则控制分控表从原数据库中采集过去预设时段内的增量数据,以将增量数据写入目标数据库;若分控表的持续采集时间大于总控表的第一时间阈值,确定分控表当次采集失败,将采集失败信息写入分控表;其中,失败信息包括采集失败次数字段;根据分控表的采集信息,得到数据同步的采集报告,采集信息包括采集失败信息。将采集失败信息写入到分控表,提高了数据同步效率。提高了数据同步效率。提高了数据同步效率。

【技术实现步骤摘要】
数据同步的处理方法、装置和计算机设备


[0001]本申请涉及人工智能
,特别是涉及一种数据同步的处理方法、装置、计算机设备、存储介质和计算机程序产品。

技术介绍

[0002]随着信息技术的发展,互联网领域的业务越来越细化,在具体的业务中数据的存放方式在变化,相应的数据库的类型也在不断更新,为了方便数据库的维护,对于老旧的数据库中的数据,需要同步迁移到新的数据库中。
[0003]现有的方式中,对于数据在多个数据库中的迁移这一场景,常采用开源的数据同步工具进行,但是,使用这种方式进行数据同步,数据同步效率较低。

技术实现思路

[0004]基于此,有必要针对上述技术问题,提供一种能够提高数据同步效率的数据同步的处理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
[0005]第一方面,本申请提供了一种数据同步的处理方法,所述方法包括:
[0006]获取数据同步的总控表的预设时段信息,所述总控制表关联至少一个分控表;
[0007]若所述分控表的采集时刻小于或者等于所述总控表的当前时间节点本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据同步的处理方法,其特征在于,所述方法包括:获取数据同步的总控表的预设时段信息,所述总控制表关联至少一个分控表;若所述分控表的采集时刻小于或者等于所述总控表的当前时间节点,则控制所述分控表从原数据库中采集过去预设时段内的增量数据,以将所述增量数据写入目标数据库;若所述分控表的持续采集时间大于所述总控表的第一时间阈值,确定所述分控表当次采集失败,将采集失败信息写入所述分控表;其中,所述失败信息包括采集失败次数字段;根据所述分控表的采集信息,得到所述数据同步的采集报告,所述采集信息包括所述采集失败信息。2.根据权利要求1所述的方法,其特征在于,采集信息包括采集异常信息;所述方法还包括:若所述分控表的持续采集时间大于所述总控表的第二时间阈值,且小于等于所述第一时间阈值,确定所述分控表当次采集异常,将采集异常信息写入所述分控表;其中,所述异常信息包括采集异常次数字段,所述第二时间阈值小于或等于所述第一时间阈值。3.根据权利要求1或2所述的方法,其特征在于,采集信息包括采集成功信息;所述方法还包括:若所述分控表的持续采集时间小于等于所述总控表的第二时间阈值,确定所述分控表当次采集成功,将采集成功信息写入到所述分控表;其中,所述成功信息包括采集成功次数字段。4.根据权利要求3所述的方法,其特征在于,所述方法还包括:若在目标时段内所述原数据库的采集报告不包含采集失败信息,则计算所述采集异常信息对应的控制表的写入次数,以及计算所述采集成功信息对应的控制表的写入次数;根据所述采集异常信息对应的控制表的写入次数与所述采集成功信息对应的控制表的写入次数的比例,确定所述分控表采集状态。5.根据权利要求4所述的方法,其特征在于,所述根据所述采集异常信息对应的控制表的写入次数与所述采集成功信息对应的控制表的写入次数的比例,确定所述分控表采集状态,包括:若所述采集异常信息对应的控制表的写入次数与所述采集成功信息对应的控制表的写入次数的比例小于预设比例,则将所述分控表采集状态为正常采集状态;若所述采集异常信息对应的控制表的写入次数与所述采集成功信息对应的控制表的写入次数的比例大于等于预设比例,则将所述分控表采集状态为异常采集状态。6.根据权利要求1所述的方法,其特征在于,所述控制所述分控表从原数据库中采集过去预设时段内的增量数据,包括:控制所述分控表从原数据库中获取当前时间节点下原数据库的第一快照表;获取过去时间节点下原数据库第二快照表;其中,所述第二快照表和第一快照表在所述预设时段内互为相邻快照表;根据所述第一快照表和所述第二快照表,得到所述过去预设时段内的增量数据。7.根据权利要求6所述的方法,其特征在于,所述方法还包括:将所述过去预设时段内的增量数据写入变更档表;调整所述总控表的当前时间节点,得到总控表的最新的时间节点;
控制所述分控表从原数据库中获取最新的时间节点下原数据库的第三快照表;获取所述第一快照表;根据所述第一快照表和所述第三快照表,以及所述变更档表,得到全生命周期的目标档表。8.一种数据同步的处理装置,其特征在于,所述装置包括:获取模块,用于获取数据同步的总控表的预设时段信息,所述总控制表关联至少一个分控表;写入模块,用于若所述分控表的采集时刻小...

【专利技术属性】
技术研发人员:刘浩翔
申请(专利权)人:建信金融科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1