针对单个源表的数据迁移方法及装置制造方法及图纸

技术编号:33072301 阅读:28 留言:0更新日期:2022-04-15 10:07
本说明书实施例提供了针对单个源表的数据迁移方法及装置。该方法可以应用于数据迁移平台中的任务拆分线程,数据迁移平台还包括任务管道和多个执行线程,任务拆分线程用于对单个源表进行多次任务拆分,其中,在对单个源表进行某次任务拆分时,该方法包括:从单个源表的主键列中确定出当前的第一主键范围,第一主键范围在单个源表中关联的数据的条数等于目标步长;生成包括第一主键范围和表标识信息的数据迁移任务,表标识信息包括单个源表和目标表各自的表标识,目标表是有待迁入单个源表中的数据的表;将所生成的数据迁移任务传输到任务管道,以使得该多个执行线程从任务管道获取并执行与单个源表有关的数据迁移任务。并执行与单个源表有关的数据迁移任务。并执行与单个源表有关的数据迁移任务。

【技术实现步骤摘要】
针对单个源表的数据迁移方法及装置


[0001]本说明书实施例涉及计算机
,具体地,涉及针对单个源表的数据迁移方法及装置。

技术介绍

[0002]目前,用户想要将源数据库的数据迁移到目标数据库上时,需要利用数据迁移工具进行数据迁移。在数据迁移过程中,源数据库中单张表(可称为单个源表)的数据量通常比较大,而且需要对单个源表进行全量数据迁移。
[0003]因此,迫切需要一种合理、可靠的方案,可以在对单个源表进行全量数据迁移时,提高数据迁移效率。

技术实现思路

[0004]本说明书实施例提供了针对单个源表的数据迁移方法及装置,可以在对单个源表进行全量数据迁移时,提高数据迁移效率。
[0005]第一方面,本说明书实施例提供了一种针对单个源表的数据迁移方法,应用于数据迁移平台中的任务拆分线程,所述数据迁移平台还包括任务管道和多个执行线程,所述任务拆分线程用于对所述单个源表进行多次任务拆分,其中,在对所述单个源表进行某次任务拆分时,所述方法包括:从所述单个源表的主键列中确定出当前的第一主键范围,所述第一主键范围在所述单个本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种针对单个源表的数据迁移方法,应用于数据迁移平台中的任务拆分线程,所述数据迁移平台还包括任务管道和多个执行线程,所述任务拆分线程用于对所述单个源表进行多次任务拆分,其中,在对所述单个源表进行某次任务拆分时,所述方法包括:从所述单个源表的主键列中确定出当前的第一主键范围,所述第一主键范围在所述单个源表中关联的数据的条数等于目标步长;生成包括所述第一主键范围和表标识信息的数据迁移任务,所述表标识信息包括所述单个源表和目标表各自的表标识,所述目标表是有待迁入所述单个源表中的数据的表;将所生成的数据迁移任务传输到所述任务管道,以使得所述多个执行线程从所述任务管道获取并执行与所述单个源表有关的数据迁移任务。2.根据权利要求1所述的方法,其中,所述单个源表中的数据已根据所述主键列升序排列;以及所述从所述单个源表的主键列中确定出当前的第一主键范围,包括:在所述主键列中确定当前的下界;从所述下界开始,查找所述下界下方第目标步长个主键值;响应于查找到所述第目标步长个主键值,将其确定为当前的第一上界;确定所述第一上界是否为位于所述主键列尾部的主键值;响应于确定结果为否,生成当前的第一主键范围,其包括所述下界但不包括所述第一上界。3.根据权利要求2所述的方法,其中,当所述某次任务拆分是第一次任务拆分时,所述在所述主键列中确定当前的下界,包括:将位于所述主键列首部的主键值确定为所述下界。4.根据权利要求2所述的方法,其中,当所述某次任务拆分不是第一次任务拆分时,所述在所述主键列中确定当前的下界,包括:将所述第一主键范围的上一主键范围的上界确定为所述下界。5.根据权利要求2所述的方法,还包括:响应于所述确定结果为是,生成当前的第二主键范围,其包括所述下界和所述第一上界;生成包括所述第二主键范围和所述表标识信息的数据迁移任务。6.根据权利要求2

5之一所述的方法,还包括:响应于未查找到所述第目标步长个主键值,将位于所述主键列尾部的主键值确定为当前的第二上界;生成当前的第三主键范围,其包括所述下界和所述第二上界;生成包括所述第三主键范围和所述表标识信息的数据迁移任务。7.根据权利要求3所述的方法,其中,所述单个源表所在的源数据库支持SQL查询语句;以及所述方法还包括:根据所述主键列的列名,所述单个源表的表名,所述下界,以及所述目标步长,生成用于查找所述第目标步长个主键值的目标SQL查询语句;所述从所述下界开始,查找所述下界下方第目标步长个主键值,包括:
利用所述目标SQL查询语句,查找所述第目标步长个主键值。8.根据权利要求7所述的方法,其中,所述目标SQL查询语句包括WHERE子句,所述WHERE子句用于根据所述主键列的列名和所述下界限定查询的起始位置。9.根据权利要求8所述的方法,其中,所述主键列为多列,所述多列包括第一主键列和第二主键列,所述第一主键列的排序优先级高于所述第二主键列,所述下界包括位于所述第一主键列首部的第一主键值,以及位于所述第二主键列首部的第二主键值;所述WHERE子句示出,所述第一主键列的第一列名大于所述第一主键值,或者所述第一列名等于所述第一主键值且所述第二主键列的第二列名大于所述第二主键值。10.根据权利要求4所述的方法,其中,所述单个...

【专利技术属性】
技术研发人员:蔡飞志庄明强余晟隽
申请(专利权)人:北京奥星贝斯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1