一种数据迁移方法、装置、设备和存储介质制造方法及图纸

本发明专利技术公开了一种数据迁移方法，包括：在数据迁移过程中，确定源端数据库中的待处理字段，对源端数据库中的待处理字段进行处理，确定源端数据库中的源端数据信息；根据源端数据信息，生成源端数据库的源端数据查询语句和目的端数据库的目的端数据查询语句；根据源端数据查询语句和目的端数据查询语句对源端数据库和目的端数据库进行增量数据比对，根据比对结果确定增量迁移语句，将增量迁移语句落盘至目的端数据库中；在数据迁移完成后，根据源端数据查询语句和目的端数据查询语句对源端数据库和目的端数据库进行全量数据比对，根据比对结果确定目标迁移语句，将目标迁移语句落盘至目的端数据库中。保证了源端数据库和目的端数据库的数据一致性。数据库的数据一致性。数据库的数据一致性。

【技术实现步骤摘要】
一种数据迁移方法、装置、设备和存储介质


[0001]本专利技术实施例涉及计算机领域，尤其涉及一种数据迁移方法、装置、设备和存储介质。

技术介绍

[0002]随着信息技术的深入发展，应用系统的不断升级，数据量级不断拔高，系统之间越来越多的需要数据交互，数据迁移已经逐步成为了信息系统融合的关键部分。随着同构/异构数据库之间的数据迁移逐渐普及化和常态化，快速核实迁移前后源端数据与目的端数据的一致性，就成为了常态化需要。现阶段，在源端数据库和目的端数据库之间进行数据迁移时，往往采用导出全数据文件的方式来进行数据库之间的全量数据或增量数据比对，由于全数据文件太大，因此进行数据解析工作耗时较长，导致数据库之间的数据比对效率低。目前，在数据库之间进行数据迁移时，未考虑对增量数据进行实时比对，因此可能存在数据迁移出现误差的问题。因此，如何提高数据在源端数据库和目的端数据库之间进行数据迁移的效率和精度，是需要解决的问题。

技术实现思路

[0003]本专利技术提供了一种数据迁移方法、装置、设备和存储介质，可以提高数据在源端数据库和目的端数据库之间进行数据迁移的效率，保证源端数据库和目的端数据库的数据一致性。
[0004]根据本专利技术的一方面，提供了一种数据迁移方法，包括：
[0005]在数据迁移过程中，确定源端数据库中的待处理字段，对所述源端数据库中的待处理字段进行处理，确定源端数据库中的源端数据信息；
[0006]根据所述源端数据信息，生成所述源端数据库的源端数据查询语句和目的端数据库的目的端数据查询语句；
[0007]根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行增量数据比对，并根据增量数据比对结果确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中；
[0008]在数据迁移完成后，根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行全量数据比对，根据全量数据比对结果确定目标迁移语句，将所述目标迁移语句落盘至所述目的端数据库中。
[0009]根据本专利技术的另一方面，提供了一种数据迁移装置，该装置包括：
[0010]源端数据信息获取模块，用于在数据迁移过程中，确定源端数据库中的待处理字段，对所述源端数据库中的待处理字段进行处理，确定源端数据库中的源端数据信息；
[0011]数据查询语获取模块，用于根据所述源端数据信息，生成所述源端数据库的源端数据查询语句和目的端数据库的目的端数据查询语句；
[0012]增量数据比对模块，用于根据所述源端数据查询语句和所述目的端数据查询语句
对所述源端数据库和所述目的端数据库进行增量数据比对，并根据增量数据比对结果确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中；
[0013]全量数据比对模块，用于在数据迁移完成后，根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行全量数据比对，根据全量数据比对结果确定目标迁移语句，将所述目标迁移语句落盘至所述目的端数据库中。
[0014]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0015]至少一个处理器；以及
[0016]与所述至少一个处理器通信连接的存储器；其中，
[0017]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的数据迁移方法。
[0018]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的数据迁移方法。
[0019]本专利技术实施例的技术方案，在数据迁移过程中，确定源端数据库中的待处理字段，对源端数据库中的待处理字段进行处理，确定源端数据库中的源端数据信息；根据源端数据信息，生成源端数据库的源端数据查询语句和目的端数据库的目的端数据查询语句；根据源端数据查询语句和目的端数据查询语句对源端数据库和目的端数据库进行增量数据比对，并根据增量数据比对结果确定增量迁移语句，将增量迁移语句落盘至目的端数据库中；在数据迁移完成后，根据源端数据查询语句和目的端数据查询语句对源端数据库和目的端数据库进行全量数据比对，根据全量数据比对结果确定目标迁移语句，将目标迁移语句落盘至目的端数据库中。解决了在将数据从源端数据库迁移至目的端数据库时，仅对源端数据库和目的端数据库进行全量数据比对，而未对源端数据库和目的端数据库进行实时增量数据比对，无法保证数据迁移的实时性和有效性的问题。同时解决了在进行全量数据比对时，直接导出源端数据库和目的端数据库中的数据库表全列数据，导致导出的数据文件过大，解析数据文件耗时较长，数据迁移效率低的问题。上述方案，在确定迁移数据时，确定源端数据库中需要进行特殊处理的待处理字段，并对源端数据库中的待处理字段进行对应处理，可以提高迁移数据信息的可靠性；在将数据从源端数据库迁移至目的端数据库时，根据迁移数据信息确定数据查询语句，根据源端数据查询语句和目的端数据查询语句对源端数据库和目的端数据库进行全量数据比对，以从源端数据库中确定迁移至目的端数据库的目标迁移语句，提高了全量数据比对的效率，同时保证了数据迁移后源端数据库和目的端数据库中的数据一致性；对源端数据库和目的端数据库的增量数据进行实时比对，以确定增量迁移语句，以将增量迁移语句插入目的端数据库，保证了数据迁移的实时性和有效性。
[0020]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0021]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使
用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0022]图1为本专利技术实施例一提供的一种数据迁移方法的流程图；
[0023]图2为本专利技术实施例二提供的一种数据迁移方法的流程图；
[0024]图3为本专利技术实施例三提供的一种数据迁移方法的流程图；
[0025]图4为本专利技术实施例四提供的一种数据迁移装置的结构示意图；
[0026]图5为本专利技术实施例五提供的一种电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据迁移方法，其特征在于，包括：在数据迁移过程中，确定源端数据库中的待处理字段，对所述源端数据库中的待处理字段进行处理，确定源端数据库中的源端数据信息；根据所述源端数据信息，生成所述源端数据库的源端数据查询语句和目的端数据库的目的端数据查询语句；根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行增量数据比对，并根据增量数据比对结果确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中；在数据迁移完成后，根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行全量数据比对，根据全量数据比对结果确定目标迁移语句，将所述目标迁移语句落盘至所述目的端数据库中。2.根据权利要求1所述的方法，其特征在于，根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行增量数据比对，并根据增量数据比对结果确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中，包括：根据所述源端数据查询语句和所述目的端数据查询语句，对所述源端数据库和所述目的端数据库中的增量数据依次进行执行增量数据的首批次比对和增量数据的中间批次比对，根据比对结果确定所述源端数据库和所述目的端数据库之间的候选差异数据，并将所述候选差异数据插入增量数据的最后批次比对所要比对的数据文件中；根据所述源端数据查询语句和所述目的端数据查询语句，对所述源端数据库和所述目的端数据库进行执行增量数据的最后批次比对，根据增量数据的最后批次比对结果确定所述源端数据库中的目标差异数据，根据所述目标差异数据确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中。3.根据权利要求2所述的方法，其特征在于，根据增量数据的最后批次比对结果确定所述源端数据库中的目标差异数据，根据所述目标差异数据确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中，包括：根据增量数据的最后批次比对结果确定所述源端数据库中的目标差异数据，确定所述目标差异数据中是否存在待处理字段；若是，则对所述目标差异数据中的待处理字段进行处理，根据处理结果确定增量迁移语句，将所述增量迁移语句落盘至所述目的端数据库中。4.根据权利要求1所述的方法，其特征在于，根据所述源端数据查询语句和所述目的端数据查询语句对所述源端数据库和所述目的端数据库进行全量数据比对，根据全量数据比对结果确定目标迁移语句，将所述目标迁移语句落盘至所述目的端数据库中，包括：根据所述源端数据查询语句和所述目的端数据查询语句分别对源端数据库的全量数据和目的端数据库的全量数据进行查询，确定所述源端数据库的源端库行数据，以及所述目的端数据库的目的库行数据；获取所述源端库行数据的源端数据校验值和所述目的库行数据的目的端数据校验值，将所述源端数据校验值和所述目的端数据校验值进行一致性比对，将一致性比对结果作为全量数据比对结果；根据全量数据比对结果确定目标迁移语句，将所述目标迁移语句落盘至所述目的端数
据库中。5.根据权利要求4所述的方法，其特征在于，根据全量...

【专利技术属性】
技术研发人员：李秋锋，李从兵，沈文宽，黄健，付裕，
申请(专利权)人：金篆信科有限责任公司，
类型：发明
国别省市：