数据库同步方法、设备及存储介质技术

技术编号:42890102 阅读:18 留言:0更新日期:2024-09-30 15:10
本公开实施例提供一种数据库同步方法、设备及存储介质,通过读取第一数据库的增量日志流并缓存到内存中;在任一轮迭代过程中,从内存中缓存的增量日志流中的第一位置处开始依次将增量日志流中的增量日志数据发送给第二数据库,并实时标记最新发送给第二数据库的增量日志数据的第二位置;读取第一数据库任一待读取数据块,并暂停向第二数据库发送增量日志数据;根据第一位置和第二位置之间的增量日志数据以及预设过滤规则,过滤掉待读取数据块中的旧版本数据,并将经过过滤后的数据发送给第二数据库;将第一位置移动至当前第二位置处,并继续下一轮迭代过程。实现流式的全量增量一体化的CDC操作,提高了处理性能,保证上下游数据库的一致性。

【技术实现步骤摘要】

本公开实施例涉及计算机与网络通信,尤其涉及一种数据库同步方法、设备及存储介质


技术介绍

1、cdc(change-data-capture,捕获增量数据)是实时拉取数据库已提交的增量日志流(或称为变更日志流),并且将增量应用到下游数据库,保证上下游数据库数据最终一致的技术。在大部分数据库增量日志流的保留时间是有限的,增量日志流并不包含全量历史数据,要想获取上游数据所有的数据,需要执行全量数据扫描和增量日志流回放才能实现这一目的。因此全量增量一体化的cdc技术应运而生。

2、现有的全量增量一体化的cdc技术存在增量日志流的处理性能问题。


技术实现思路

1、本公开实施例提供一种数据库同步方法、设备及存储介质,以提高全量增量一体化cdc的性能。

2、第一方面,本公开实施例提供一种数据库同步方法,包括:

3、读取第一数据库的增量日志流并缓存到内存中;

4、在任一轮迭代过程中,从内存中缓存的增量日志流中的第一位置处开始依次将增量日志流中的增量日志数据发送给第二数据库,并本文档来自技高网...

【技术保护点】

1.一种数据库同步方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一位置和所述第二位置之间的增量日志数据以及预设过滤规则,过滤掉所述待读取数据块中的旧版本数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述将经过过滤后的数据发送给所述第二数据库,包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1-3任一项所述的方法,其特征在于,所述在任一轮迭代过程中,从所述增量日志流中的第...

【技术特征摘要】

1.一种数据库同步方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述第一位置和所述第二位置之间的增量日志数据以及预设过滤规则,过滤掉所述待读取数据块中的旧版本数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述将经过过滤后的数据发送给所述第二数据库,包括:

4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:

5.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:

6.根据权利要求1-3任一项所述的方法,其特征在于,所述在任一轮迭代过程中,从所述增量日志流中的第一位置处开始依次将增...

【专利技术属性】
技术研发人员:邓云何磊
申请(专利权)人:北京火山引擎科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1