一种数据迁移方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:38131653 阅读:7 留言:0更新日期:2023-07-08 09:39
本申请实施例公开了一种数据迁移方法、装置、计算机设备及存储介质,本方案获取业务针对异构数据库迁移时的数据迁移需求;基于上述数据迁移需求,为预设的数据库中间件配置数据迁移策略;在上述数据库中间件上创建数据抽取进程,并通过上述数据抽取进程,从源端数据库中获取目标业务数据;在上述数据库中间件上创建数据复制进程,并通过上述数据复制进程,将上述目标业务数据按照上述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标端数据库中的对应位置,从而提高数据迁移时的效率。迁移时的效率。迁移时的效率。

【技术实现步骤摘要】
一种数据迁移方法、装置、计算机设备及存储介质


[0001]本申请涉及数据迁移
,具体涉及一种数据迁移方法、装置、计算机设备及存储介质。

技术介绍

[0002]随着社会的发展,越来越多的企业为了便于数据管理,以更好的开展相关金融业务,越来越多的企业采用异构数据库迁移的方式将数据由一源端数据库迁移至另一数据库中。
[0003]而现有的将源端数据库中的数据迁移至另一数据库的过程中,仅仅只能基于标准的协议进行迁移,但是由于企业中不同的金融业务所对应的数据的容量和类型不同,若采用特定的标准协议进行数据迁移,往往并不能很好的满足业务需求,就会导致数据迁移时的效率较低。

技术实现思路

[0004]本申请实施例提供一种可用于金融科技或其他相关领域的数据迁移方法、装置、计算机设备及存储介质,可以提高数据迁移时的效率。
[0005]本申请实施例提供了一种数据迁移方法,包括:
[0006]获取业务针对异构数据库迁移时的数据迁移需求;
[0007]基于上述数据迁移需求,为预设的数据库中间件配置数据迁移策略;
[0008]在上述数据库中间件上创建数据抽取进程,并通过上述数据抽取进程,从源端数据库中获取目标业务数据;
[0009]在上述数据库中间件上创建数据复制进程,并通过上述数据复制进程,将上述目标业务数据按照上述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标端数据库中的对应位置。
[0010]相应的,本申请实施例还提供了一种数据迁移装置,包括:
[0011]需求获取模块,用于获取业务针对异构数据库迁移时的数据迁移需求;
[0012]策略配置模块,用于基于上述数据迁移需求,为预设的数据库中间件配置数据迁移策略;
[0013]数据获取模块,用于在上述数据库中间件上创建数据抽取进程,并通过上述数据抽取进程,从源端数据库中获取目标业务数据;
[0014]数据迁移模块,用于在上述数据库中间件上创建数据复制进程,并通过上述数据复制进程,将上述目标业务数据按照上述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标端数据库中的对应位置。
[0015]相应的,本申请实施例还提供了一种计算机设备,包括存储器,处理器及存储在储存器上并可在处理器上运行的计算机程序,其中,处理器执行本申请实施例任一提供的数据迁移方法。
[0016]相应的,本申请实施例还提供了一种存储介质,存储介质存储有多条指令,指令适于处理器进行加载,以执行如上的数据迁移方法。
[0017]本申请实施例通过获取业务针对异构数据库迁移时的数据迁移需求;基于上述数据迁移需求,为预设的数据库中间件配置数据迁移策略;在上述数据库中间件上创建数据抽取进程,并通过上述数据抽取进程,从源端数据库中获取目标业务数据;在上述数据库中间件上创建数据复制进程,并通过上述数据复制进程,将上述目标业务数据按照上述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标端数据库中的对应位置,从而在将源端数据库中的数据迁移至另一数据库的过程中,设置了数据库中间件,并基于业务针对异构数据库迁移时的数据迁移需求为该数据库中间件配置了数据迁移策略,以实现在将源端数据库中的数据迁移至另一数据库时能够很好的满足业务需求,从而提高了数据迁移时的效率。
附图说明
[0018]为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0019]图1为本申请实施例提供的一种数据迁移方法的流程示意图。
[0020]图2为本申请实施例提供的一种数据迁移装置的结构框图。
[0021]图3为本申请实施例提供的计算机设备的结构示意图。
具体实施方式
[0022]下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
[0023]本申请实施例提供一种数据迁移方法、装置、存储介质及计算机设备。具体地,本申请实施例的数据迁移方法可以由计算机设备执行,其中,该计算机设备可以为服务器,也可以为终端等设备。其中,服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。终端可以是智能手机、台式计算机、笔记本电脑、平板电脑等,但并不局限于此。终端以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。
[0024]例如,该计算机设备可以是终端,该终端可以获取业务针对异构数据库迁移时的数据迁移需求;基于上述数据迁移需求,为预设的数据库中间件配置数据迁移策略;在上述数据库中间件上创建数据抽取进程,并通过上述数据抽取进程,从源端数据库中获取目标业务数据;在上述数据库中间件上创建数据复制进程,并通过上述数据复制进程,将上述目标业务数据按照上述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移
至目标端数据库中的对应位置。
[0025]基于上述问题,本申请实施例提供一种数据迁移方法、装置、计算机设备及存储介质,可以提高数据迁移时的效率。
[0026]以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
[0027]本申请实施例提供一种数据迁移方法,该方法可以由终端或服务器执行,本申请实施例以数据迁移方法由终端执行为例来进行说明。
[0028]请参阅图1,图1为本申请实施例提供的一种数据迁移方法的流程示意图。该数据迁移方法的具体流程可以如下:
[0029]101、获取业务针对异构数据库迁移时的数据迁移需求。
[0030]其中,上述数据迁移需求为不同金融业务面对异构数据库迁移时的需求,通过为不同的金融业务配置对应的数据迁移需求已满足不同的金融业务需求,例如有些金融业务的业务需求是在数据迁移过程中将迁移的数据打散,以使数据由源端数据库水平的迁移至另一数据库中。
[0031]示例性地,由于一些金融业务中存在订单号,所以上述数据迁移需求可以是基于订单号进行划分的需求,此外,还可进一步,在该数据迁移需求中设计数据迁移至另一数据库后所存储的存储空间的数量、位置等空间信息,例如将数据迁移至另一数据库后,将数据划分为两组子数据,并将划分后的两组子数据分别存储于另一数据库中的两个存储空间中。
[0032]具体地,业务对应的业务应用可以通过数据访问代理的方式分别与待迁移数据的源端数据库和将本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据迁移方法,其特征在于,所述方法包括:获取业务针对异构数据库迁移时的数据迁移需求;基于所述数据迁移需求,为预设的数据库中间件配置数据迁移策略;在所述数据库中间件上创建数据抽取进程,并通过所述数据抽取进程,从源端数据库中获取目标业务数据;在所述数据库中间件上创建数据复制进程,并通过所述数据复制进程,将所述目标业务数据按照所述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标端数据库中的对应位置。2.根据权利要求1所述的方法,其特征在于,所述数据迁移策略中包括数据分片机制和数据分片数量,所述将所述目标业务数据按照所述数据迁移策略进行数据分片,包括:将所述目标业务数据按照所述数据分片机制进行数据分片,得到所述数据分片数量的目标业务子数据;所述将分片后的各目标业务子数据迁移至目标端数据库中的对应位置,包括:基于所述数据迁移策略,将所述数据分片数量的目标业务子业务数据分别迁移至所述目标端数据库中的对应存储空间中。3.根据权利要求1所述的方法,其特征在于,所述目标业务数据包括增量业务数据和全量业务数据,所述数据抽取进程包括增量抽取进程和全量抽取进程,所述从源端数据库中获取目标业务数据,包括:通过所述增量抽取进程从所述源端数据库中获取业务对应的业务日志,并对所述业务日志进行解析处理,得到所述增量业务数据;通过所述全量抽取进程从所述源端数据库中获取业务对应的全量业务数据。4.根据权利要求3所述的方法,其特征在于,所述数据库中间件对应的消息存储中间件上包含增量数据消息集合和全量数据消息集合,还包括:为所述增量数据消息集合配置增量标识,以及为所述全量数据消息集合配置全量标识;基于所述增量标识,将所述增量业务数据存储至所述增量数据消息集合中;基于所述全量标识,将所述全量业务数据存储至所述全量数据消息集合中。5.根据权利要求4所述的方法,其特征在于,所述数据复制进程包括增量复制进程和全量复制进程,所述通过所述数据复制进程,将所述目标业务数据按照所述数据迁移策略进行数据分片,以及将分片后的各目标业务子数据迁移至目标...

【专利技术属性】
技术研发人员:李海霞
申请(专利权)人:平安银行股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1