【技术实现步骤摘要】
一种分布式异构数据库同步方法、电子设备及存储介质
本专利技术涉及数据库,尤其涉及一种分布式异构数据库同步方法、电子设备及存储介质。
技术介绍
目前企业主流的数据库包括Oracle、MySQL、Sybase、DB2、Access等,每个数据库都有各自的数据库导入导出工具。每个数据库的自带工具都有特定的使用场景和限制调优,人工参与度较高、操作复杂繁琐,比如用户权限、字符集不通用、时间格式不一样等问题,无法满足数据的时效性、完整性以及准确性;另外,由于每个数据库自身都有自身的定义,因此不同的数据库类型之间也不能够直接进行数据库导入导出。
技术实现思路
为了克服现有技术的不足,本专利技术的目的之一在于提供一种分布式异构数据库同步方法,其能够解决现有技术中数据库同步操作繁琐、效率低下等问题。本专利技术的目的之二在于提供一种电子设备,其能够解决现有技术中数据库同步操作繁琐、效率低下等问题。本专利技术的目的之三在于提供一种计算机可读存储介质,其能够解决现有技术中数据库同步操作繁琐、效率低下等问题。本专利技术的目的之一采用如下技术方案实现:一种分布式异构数据库同步方法,包括数据导出步 ...
【技术保护点】
1.一种分布式异构数据库同步方法,其特征在于:包括数据导出步骤、数据全量同步步骤和数据增量同步步骤,数据导出步骤:从源数据表中导出源数据生成源数据文件,和/或从目标数据表中导出目标数据生成目标数据文件;数据全量同步步骤:根据目标数据库的类型选择对应的导入命令,将源数据文件中的数据导入到对应目标数据表中;数据增量同步步骤还包括:分区步骤:根据系统预设规则分别对源数据文件、目标数据文件进行分区处理划分为多个分区文件;对比步骤:根据分区号将源数据文件的每个分区文件与目标数据文件的相同分区号的分区文件中的数据进行比较得出对应的增量文件;更新步骤:根据每个增量文件对目标数据表进行对应 ...
【技术特征摘要】
1.一种分布式异构数据库同步方法,其特征在于:包括数据导出步骤、数据全量同步步骤和数据增量同步步骤,数据导出步骤:从源数据表中导出源数据生成源数据文件,和/或从目标数据表中导出目标数据生成目标数据文件;数据全量同步步骤:根据目标数据库的类型选择对应的导入命令,将源数据文件中的数据导入到对应目标数据表中;数据增量同步步骤还包括:分区步骤:根据系统预设规则分别对源数据文件、目标数据文件进行分区处理划分为多个分区文件;对比步骤:根据分区号将源数据文件的每个分区文件与目标数据文件的相同分区号的分区文件中的数据进行比较得出对应的增量文件;更新步骤:根据每个增量文件对目标数据表进行对应数据表操作,实现目标数据表的数据更新。2.根据权利要求1所述一种分布式异构数据库同步方法,其特征在于,当目标数据库为oracle和mysql时,导入命令为load和insert预处理入库命令;所述目标数据库为sybase时,导入命令为insert批量入库命令。3.根据权利要求1所述一种分布式异构数据库同步方法,其特征在于,根据select查询语句从源数据表中导出源数据;以及根据select查询语句从目标数据表中导出目标数据。4.根据权利要求1所述一种分布式异构数据库同步方法,其特征在于,源数据文件、目标数据文件的格式为txt。5.根据权利要求1所述一种分布式异构数据库同步方法,其特征在于,所述分区步骤还包括:根据系统预设分区数,取源数据文件中每条数据的主键,并根据哈希公式计算得出每条数据的所属分区号;以及根据系统预设分区数,取目标数据文件中每条数据的主键,并根据哈希公式计算得出每条数据的所属分区号;其中哈希公式为:分区号=|主键的哈希值%系统预设分区数|。6.根据权利要求5所述一种分布式异构数据库同步方法,其特征在于,将源数据文件的分区文件与目标数据文件的相同分区号的分区文件中的数据进行比较得出增量文件的具体过程为:假设源数据文件的一个分区文件记为A,目标数据文件的一个分区文件记为B,并且分区文件A与分区文件B的分区号相同;还包括步骤S1:根据分片文件的数据量大小N将分区文件A划分为多个分片文件,依次记为:A1、A2、A3、...、An,并且对每个分片文件的数据按照主...
【专利技术属性】
技术研发人员:颜晓强,张嘉贤,杨志成,曹雄,伍建辉,樊冠群,郑小微,
申请(专利权)人:凯通科技股份有限公司,
类型:发明
国别省市:广东,44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。