基于事务日志的SQL Server增量获取方法、存储介质及设备技术

技术编号:41446475 阅读:20 留言:0更新日期:2024-05-28 20:37
本发明专利技术提供了一种基于事务日志的SQL Server增量获取方法、存储介质及设备。其中,基于事务日志的SQL Server增量获取方法包括:启动源端数据同步软件;读取SQL Server的事务日志文件并识别出数据断点;判断所述数据断点是否在在线日志中;若是,从所述数据断点开始解析所述在线日志。本发明专利技术的优点是通过直接解析事务日志,避免了常规轮询方法带来的性能损耗,可以准确跟踪数据的变化,不会因表结构的变更而导致解析错误,并且可以支持DDL和DML变更,而不仅仅是DML变更。

【技术实现步骤摘要】

本专利技术涉及数据同步,特别是涉及一种基于事务日志的sql server增量获取方法、存储介质及设备。


技术介绍

1、数据实时同步可分为三个阶段,第一阶段进行存量数据的初始化装载,获得数据同步的基础点;第二阶段以初始化数据装载建立的同步基础点为基准进行增量数据同步;第三阶段定期对数据同步的源端数据和目标数据进行比对校验,以确认在数据同步过程中没有丢失数据。其中,第二阶段和第三阶段会处于长时间并行状态。

2、在第二阶段的增量同步过程中,为了获取sql server的增量数据,通常使用sqlserver的变更数据捕获(cdc)功能。当数据在数据库的源表中发生变化(如插入、更新或删除操作)时,这些变更会被记录在事务日志中。cdc进程会定时检查并捕获这些变更数据,并将它们写入到关联的变更表中,通常称为ct表,源端数据同步软件通过定期轮询这个ct表来获取增量数据。

3、在使用sql server变更数据捕获功能进行增量解析时,如果需要监控的表在增量解析过程中被创建,需要预先为这些新表开启cdc功能,以便能够捕获新数据的变化

4、本文档来自技高网...

【技术保护点】

1.一种基于事务日志的SQL Server增量获取方法,包括:

2.根据权利要求1所述的基于事务日志的SQL Server增量获取方法,其中,从所述数据断点开始解析所述在线日志的步骤包括:

3.根据权利要求1所述的基于事务日志的SQL Server增量获取方法,其中,在启动源端同步软件的步骤之后,还包括:

4.根据权利要求3所述的基于事务日志的SQL Server增量获取方法,其中,在判断所述数据断点是否在在线日志中的步骤之后,还包括:

5.根据权利要求4所述的基于事务日志的SQL Server增量获取方法,其中,解析所述备份集中的离线日志...

【技术特征摘要】

1.一种基于事务日志的sql server增量获取方法,包括:

2.根据权利要求1所述的基于事务日志的sql server增量获取方法,其中,从所述数据断点开始解析所述在线日志的步骤包括:

3.根据权利要求1所述的基于事务日志的sql server增量获取方法,其中,在启动源端同步软件的步骤之后,还包括:

4.根据权利要求3所述的基于事务日志的sql server增量获取方法,其中,在判断所述数据断点是否在在线日志中的步骤之后,还包括:

5.根据权利要求4所述的基于事务日志的sql server增量获取方法,其中,解析所述备份集中的离线日志的步骤包括:

6.根据权利要求1所述的基于事务日志的sql server增量获取方法,其中,判断所述数据断点是否在在...

【专利技术属性】
技术研发人员:雷东王凯龙
申请(专利权)人:北京人大金仓信息技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1