一种数据同步方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种数据同步方法、装置、电子设备及存储介质。其中，该数据同步方法，包括：获取源端数据库的源端表和目的端数据库的目的端表，根据表名将所述源端表与所述目的端表关联存储为预期同步列表；根据所述预期同步列表确定关联存储的所述源端表的第一表内容以及所述目的端表的第二表内容的比较结果，并按照所述比较结果确定同步任务集合；基于所述同步任务集合在所述源端数据库与所述目的端数据库进行数据同步。本发明专利技术实施例，通过确定源端数据库的源端表与目的端数据库的目的端表的比较结果，生成同步任务进行数据同步，在保证数据库安全可靠的条件下，减少中间文件的产生，保证在数据同步的同时不影响数据库所在集群的正常使用。集群的正常使用。集群的正常使用。

【技术实现步骤摘要】
一种数据同步方法、装置、电子设备及存储介质


[0001]本专利技术涉及数据同步
，尤其涉及一种数据同步方法、装置、电子设备及存储介质。

技术介绍

[0002]Hive是基于Hadoop构建的一套数据仓库分析系统,可以用SQL语言对大规模数据进行提取、转换、加载和分析。随着大数据技术的发展，Hive在数据库架构中扮演着重要的角色。由于互联网中数据不断增大，数据的安全和业务运行的可靠性变得越来越重要，Hive的数据备份需求也由此而来。
[0003]现有技术中，可以使用Hive的导出指令,将源端表的元数据和Hadoop分布式文件系统(Hadoop Distributed File System，HDFS)文件导出到临时目录。将临时目录复制到目的端集群Hadoop中。在目的端集群hadoop创建相关目录，创建与源端一致的表结构，在目的端将数据导入到Hive仓库中，操作比较繁琐复杂，需要经过大量的手动操作，且产生大量的中间文件，如Hive的表结构和缓存数据等，在备份时源集群占用较大的资源。故，如何减少中间文件、降低资源消耗的数据同步方法成为目前亟待解决的问题。

技术实现思路

[0004]本专利技术提供了一种数据同步方法、装置、电子设备及存储介质，以实现数据库在安全的条件下，减少中间文件的产生，保证在数据同步的同时不影响数据库所在集群的正常使用。
[0005]根据本专利技术的一方面，提供了一种数据同步方法，其中，该方法包括：
[0006]获取源端数据库的源端表和目的端数据库的目的端表，根据表名将源端表与目的端表关联存储为预期同步列表；
[0007]根据预期同步列表确定关联存储的源端表的第一表内容以及目的端表的第二表内容的比较结果，并按照比较结果确定同步任务集合；
[0008]基于同步任务集合在源端数据库与目的端数据库进行数据同步。
[0009]根据本专利技术的另一方面，提供了一种数据同步装置，其中，该装置包括：
[0010]列表生成模块，用于获取源端数据库的源端表和目的端数据库的目的端表，根据表名将源端表与目的端表关联存储为预期同步列表；
[0011]任务生成模块，用于根据预期同步列表确定关联存储的源端表的第一表内容以及目的端表的第二表内容的比较结果，并按照比较结果确定同步任务集合；
[0012]数据同步模块，用于基于同步任务集合在源端数据库与目的端数据库进行数据同步。
[0013]根据本专利技术的另一方面，提供了一种电子设备，电子设备包括：
[0014]至少一个处理器；
[0015]以及与至少一个处理器通信连接的存储器；
[0016]其中，存储器存储有可被至少一个处理器执行的计算机程序，计算机程序被至少一个处理器执行，以使至少一个处理器能够执行本专利技术任一实施例的数据同步方法。
[0017]根据本专利技术的另一方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机指令，计算机指令用于使处理器执行时实现本专利技术任一实施例的数据同步方法。
[0018]本专利技术实施例的技术方案，通过获取源端数据库的源端表和目的端数据库的目的端表，根据表名将源端表与目的端表关联存储为预期同步列表，根据预期同步列表确定关联存储的源端表的第一表内容以及目的端表的第二表内容的比较结果，并按照比较结果确定同步任务集合，基于同步任务集合在源端数据库与目的端数据库进行数据同步，实现在保证数据库安全可靠的条件下，减少中间文件的产生，保证在数据同步的同时不影响数据库所在集群的正常使用，提升用户的使用体验。
[0019]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0021]图1是根据本专利技术实施例一提供的一种数据同步方法的流程图；
[0022]图2是根据本专利技术实施例二提供的一种数据同步方法的流程图；
[0023]图3是根据本专利技术实施例三提供的一种数据同步方法的流程图；
[0024]图4是根据本专利技术实施例三提供的一种第一表内容和第二表内容的流程图；
[0025]图5是根据本专利技术实施例四提供的一种数据同步装置的结构示意图；
[0026]图6是实现本专利技术实施例的数据同步方法的电子设备的结构示意图。
具体实施方式
[0027]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0028]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0029]实施例一
[0030]图1是根据本专利技术实施例一提供的一种数据同步方法的流程图，本实施例可适用于将源端数据库数据迁移的情况，该方法可以由数据同步装置来执行，该数据同步装置可以采用硬件和/或软件的形式实现，该数据同步装置可配置于电子设备中。如图1所示，该方法包括：
[0031]S110、获取源端数据库的源端表和目的端数据库的目的端表，根据表名将源端表与目的端表关联存储为预期同步列表。
[0032]其中，源端数据库可以是指需要进行同步的数据库，目的端数据库可以是指目的同步的数据库。源端表可以是指源端数据库中存储的数据表，目的端表可以是指目的端数据库中存储的数据表。源端数据库可以和目的端数据库可以归属于不同的集群。在实际的操作过程中，源端数据库和目的端数据库是相同类型的数据库，示例性的，源端数据库和目的端数据库可以均为Hive数据库。预期同步列表可以是预先筛选的同步列表，可以将源端表和目的端表关联存储为预期同步列表。
[0033]在专利技术实施例中，可以分别获取源端数据库中的源端表和目的端数据库中的表名，分别确定源端表的表名和目的端表的表名，根据源端表的表名和目的端表的表名将源端表和目的端表关联存储为预期同步列表。在实际的操作过程中，可以通过预设数据表读取接本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据同步方法，其特征在于，包括：获取源端数据库的源端表和目的端数据库的目的端表，根据表名将所述源端表与所述目的端表关联存储为预期同步列表；根据所述预期同步列表确定关联存储的所述源端表的第一表内容以及所述目的端表的第二表内容的比较结果，并按照所述比较结果确定同步任务集合；基于所述同步任务集合在所述源端数据库与所述目的端数据库进行数据同步。2.根据权利要求1所述的方法，其特征在于，所述获取源端数据库的源端表和目的端数据库的目的端表，根据表名将所述源端表与所述目的端表关联存储为预期同步列表，包括：在所述源端数据库以及所述目的端数据库分别调用预设数据表读取接口以获取所述源端表以及所述目的端表；根据所述源端表的第一表名与所述目的端表的第二表名的匹配结果生成所述预期同步列表。3.根据权利要求2所述方法，其特征在于，根据所述源端表的第一表名与所述目的端表的第二表名的匹配结果生成所述预期同步列表，包括以下至少之一：将所述源端表的第一表名与所述目的端表的第二表名进行匹配，在所述第一表名与所述第二表名匹配时，将所述源端表与所述目的端表关联存储为所述预期同步列表的列表项；将所述源端表存储为所述预期同步列表的第一列表项，确定具有与所述源端表的第一表名匹配的第二表名的所述目的端表，将所述目的端表在所述预期同步列表存储为与所述第一列表项关联的第二列表项。4.根据权利要求1所述的方法，其特征在于，所述根据所述预期同步列表确定关联存储的所述源端表的第一表内容以及所述目的端表的第二表内容的比较结果，并按照所述比较结果确定同步任务集合，包括：将所述预期同步列表中的列表项划分到预设线程数量的切片任务，其中，所述列表项包括关联存储的所述源端表和所述目的端表；提交各所述切片任务至预设线程池以确定各所述切片任务的相同所述列表项内所述源端表的第一表内容与所述目的端表的第二表内容的比较结果；接收所述线程池输出的至少一个所述比较结果；在所述比较结果为相同时，生成所述比较结果的所述源端表和所述目的端表的同步任务，其中，所述同步任务至少包括所述源端表的第一地址、所述目的端表的第二地址以及设置为无操作任务的同步任务类型；在所述比较结果为不同时，根据对应所述比较结果的所述源端表和所述目的端表的表结构生成同步任务，其中，同步任务至少包括所述源端表的第一地址、所述目的端表的第二地址以及同步任务类型，所述同步任务类型根据所述表结构确定，所述同步任务类型包括拷贝普通表任务、拷贝分区表...

【专利技术属性】
技术研发人员：于孟奇，杜晋瑞，陈勇铨，胡军擎，
申请(专利权)人：上海英方软件股份有限公司，
类型：发明
国别省市：