一种跨数据库的数据比对方法、装置、设备及存储介质制造方法及图纸

技术编号:37999969 阅读:20 留言:0更新日期:2023-06-30 10:13
本申请公开了一种跨数据库的数据比对方法、装置、设备及存储介质,通过配置不同类型的第一数据库和第二数据库的连接信息以及数据比对任务,根据sqlA、sqlB分别查询不同类型数据库的数据,基于在sqlA以及sqlB外层拼接select count(1)对sqlA、sqlB的查询数据总量进行比对,通过分页查询以及json比对对字段查询结果进行对比,并支持自定义的预设规则,解决了现有的数据比对工具无法支持跨数据库类型的数据迁移前后的比较,导致的人工执行数据比对存在的耗时且效率低的技术问题。比对存在的耗时且效率低的技术问题。比对存在的耗时且效率低的技术问题。

【技术实现步骤摘要】
一种跨数据库的数据比对方法、装置、设备及存储介质


[0001]本申请涉及数据迁移
,尤其涉及一种跨数据库的数据比对方法、装置、设备及存储介质。

技术介绍

[0002]去ORACLE的改造项目中,原来ORACLE数据库中的数量为千万级别的表数据,首先按照一定的规则(如客户号custNo对24取模定位到分库)做分库,再迁移到MYSQL数据库的新分库表。
[0003]迁移完成后,需要对比ORACLE数据库的旧表的数据和MYSQL数据库的分库新表中的数据,确定迁移前后各个新的分库数据合计总量跟旧库对应的数据总量一致,并且每条数据的每个字段值都是一致的。
[0004]当前不同的数据库产品本身也提供了相应的工具做迁移前后的数据比较,如ORACLE的PL/SQL Developer工具,MYSQL的mysqldiff+mysqldbcompare等,都可以实现对同一种数据库类型的数据比较。
[0005]但现有的数据比对工具无法支持跨数据库类型的数据迁移前后的比较,导致了人工执行数据比对存在的耗时且效率低的技术问题。
专利本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种跨数据库的数据对比方法,其特征在于,包括:S1、数据迁移后,配置第一数据库与第二数据库的连接信息,所述第一数据库与所述第二数据库的类型不同;S2、配置数据比对任务的配置信息,所述配置信息包括sqlA、sqlA执行环境、sqlB、sqlB执行环境、忽略比对字段以及预设规则类名,所述sqlA执行环境为所述第一数据库,所述sqlB执行环境为所述第二数据库;S3、启用所述数据比对任务,在所述sqlA以及sqlB外层拼接select count(1)后,判断sqlA与sqlB的数据总量是否一致;S4、若数据总量一致,则分页查询sqlA以及sqlB的数据,将查询到的sqlA以及sqlB的每一行数据转换为json格式后按照所述预设规则类名对应预设规则进行json比对,判断sqlA以及sqlB的每一行数据字段及字段值是否一致;S5、若每一行数据字段及字段值一致,则所述数据比对任务结果为成功。2.根据权利要求1所述的跨数据库的数据比对方法,其特征在于,所述步骤S1之前还包括:S01、获取生产导数工单,并基于所述生产导数工单将生产环境中第一数据库中数据导入至测试环境中的第一数据库中;S02、执行数据迁移程序,将所述测试环境中的第一数据库中数据迁移至所述测试环境中第二数据库中。3.根据权利要求2所述的跨数据库的数据比对方法,其特征在于,所述步骤S02之前还包括:对所述测试环境中的第一数据库中的数据进行数据脱敏处理。4.根据权利要求1所述的跨数据库的数据比对方法,其特征在于,所述预设规则类名对应预设规则具体包括:判断sqlA以及sqlB的每一行数据字段及字段之前,将sqlA中所有预设字段进行删除。5.根据权利要求1所述的跨数据库的数据比对方法,其特征在于,所述预设规则类名对应预设规则具体包括:若sqlA以及sqlB的数据字段满足预设条件,即使sqlA以及sqlB的数据字段及字段值不一致,更新所述数据比对任务结果为成功。6.根据权利要求1所述的跨...

【专利技术属性】
技术研发人员:马楷泽
申请(专利权)人:平安银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1