一种数据装载方法、装置、服务器及存储介质制造方法及图纸

技术编号:23764343 阅读:19 留言:0更新日期:2020-04-11 19:02
本申请提供一种数据装载方法、装置、服务器及存储介质,对从第一数据库系统获取到的数据集进行拆分得到分别适用于第二数据库系统的每个数据分库的数据;监控将适用于数据分库的数据装载至数据分库的过程生成监控信息,以将监控信息指示的未装载成功的目标数据装载至目标数据所适用于的数据分库。本申请基于对将数据装载至数据分库的过程的监控可以获知未装载成功的目标数据,进而通过将目标数据装载至目标数据所适用于的数据分库可以达到将数据集的全部数据正确装载至第二数据库系统的目的;本申请通过设置第二数据库系统包括多个数据分库,既可以保证提供足够的数据存储空间,又可以由各个数据分库单独进行各自的数据装载,提高数据装载效率。

A data loading method, device, server and storage medium

【技术实现步骤摘要】
一种数据装载方法、装置、服务器及存储介质
本专利技术涉及数据装载
,更具体地说,涉及一种数据装载方法、装置、服务器及存储介质。
技术介绍
俗话说“兵马未动,数据先行”,数据装载对于数据库系统是至关重要的。尤其是跨数据库系统的数据装载,因为数据量大,数据装载过程中很容易出现数据丢数、数据装错的情况,如何在保证数据装载正确性的同时提高数据装载效率是必须要解决的一个难题。
技术实现思路
有鉴于此,本专利技术提出一种数据装载方法、装置、服务器及存储介质,以在保证数据装载正确性的同时提高数据装载效率。为了实现上述目的,现提出的方案如下:一种数据装载方法,包括:从第一数据库系统获取待进行数据装载的数据集;对所述数据集进行拆分得到分别适用于至少一个数据分库中每个所述数据分库的数据,所述至少一个数据分库属于同一第二数据库系统;监控将适用于所述数据分库的数据装载至所述数据分库的过程生成监控信息,所述监控信息指示未装载成功的目标数据;将所述目标数据装载至所述目标数据所适用于的所述数据分库。<本文档来自技高网...

【技术保护点】
1.一种数据装载方法,其特征在于,包括:/n从第一数据库系统获取待进行数据装载的数据集;/n对所述数据集进行拆分得到分别适用于至少一个数据分库中每个所述数据分库的数据,所述至少一个数据分库属于同一第二数据库系统;/n监控将适用于所述数据分库的数据装载至所述数据分库的过程生成监控信息,所述监控信息指示未装载成功的目标数据;/n将所述目标数据装载至所述目标数据所适用于的所述数据分库。/n

【技术特征摘要】
1.一种数据装载方法,其特征在于,包括:
从第一数据库系统获取待进行数据装载的数据集;
对所述数据集进行拆分得到分别适用于至少一个数据分库中每个所述数据分库的数据,所述至少一个数据分库属于同一第二数据库系统;
监控将适用于所述数据分库的数据装载至所述数据分库的过程生成监控信息,所述监控信息指示未装载成功的目标数据;
将所述目标数据装载至所述目标数据所适用于的所述数据分库。


2.根据权利要求1所述的方法,其特征在于,若所述数据集为全量数据,所述将适用于所述数据分库的数据装载至所述数据分库,包括:
在所述数据分库中构建第一数据表;
将适用于所述数据分库的数据的内容装载至所述第一数据表;
基于所述数据的内容在所述第一数据表中生成所述数据的索引。


3.根据权利要求1所述的方法,其特征在于,若所述数据集为增量数据,所述将适用于所述数据分库的数据装载至所述数据分库,包括:
在所述数据分库中构建第二数据表;
将适用于所述数据分库的数据装载至所述第二数据表;
将所述第二数据表中的数据融合至所述数据分库中的所述第一数据表生成所述数据分库的目标第一数据表。


4.根据权利要求3所述的方法,其特征在于,还包括:
基于QREP工具将所述第一数据库系统相对于所述第二数据库系统的变更数据下刷到所述变更数据所适用于的所述数据分库中,所述变更数据为在部署所述QREP工具后所述第一数据库系统相对于所述第二数据库系统的变更数据;
所述将所述目标数据装载至所述目标数据所适用于的所述数据分库,包括:基于所述QREP工具将所述目标数据装载至所述目标数据所适用于的所述数据分库。


5.根据权利要1所述的方法,所述监控信息还包括所述数据分库的当前数据装载状态信息,该方法还包括:
若在...

【专利技术属性】
技术研发人员:刘楠楠
申请(专利权)人:中国银行股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1