一种结转数据的方法和装置制造方法及图纸

技术编号:26970181 阅读:28 留言:0更新日期:2021-01-05 23:59
本发明专利技术公开了一种结转数据的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:获取源数据库的日志文件,分析日志文件,确定与待结转的数据主表相关联的数据从表,以及数据主表与数据从表的关联关系;根据关联关系配置数据结转信息;根据数据结转信息,查询待结转的数据并存储至存储装置中;将存储装置中的待结转的数据写入目标数据库。该实施方式通过分析源数据库的日志文件,确定相互关联的数据表,并进一步可以确定数据表之间的关联关系,基于该关联关系配置数据结转信息进行数据结转,能够避免遗漏与数据主表相关联的数据从表,保证结转后的源数据库和目标数据库的数据关系完整,便于数据维护,进而降低了人力成本。

【技术实现步骤摘要】
一种结转数据的方法和装置
本专利技术涉及计算机
,尤其涉及一种结转数据的方法和装置。
技术介绍
随着计算机应用系统的不断发展,数据库中的数据量也在持续增长,当数据库数据量达到一定数量级势必会影响到数据操作的速度,大多数的数据已经是很久很久之前的数据,早已失去活跃度,所以需要结转到其他数据库中,如历史数据库中,从而减少当前数据库的体积,降低大量无效数据对数据操作的影响。其中,数据结转主要是指将一个数据库中的部分或全部数据转移到另一个数据库中。目前,常用的数据结转的方法包括:人工结转和借助结转工具。但是,在实现本专利技术过程中,专利技术人发现现有技术中至少存在如下问题:人工结转需要研发人员和数据库管理员(DatabaseAdministrator,简称DBA)共同完成,而数据库管理员不了解实际业务,沟通成本较高,人力成本高。而且,对于不熟悉业务数据的数据库管理员,在进行数据结转时,容易遗漏相互关联的数据表或混淆数据表之间的关联关系,从而导致数据关系不完整,甚至于打乱丢失数据。大多数结转工具都是单表结转,需要为每个表创建一个结转任务,逐本文档来自技高网...

【技术保护点】
1.一种结转数据的方法,其特征在于,包括:/n获取源数据库的日志文件,分析所述日志文件,确定与待结转的数据主表相关联的数据从表,以及所述数据主表与所述数据从表的关联关系;/n基于所述关联关系,配置数据结转信息,至少包括配置结转条件和关联字段;/n根据所述结转条件和所述关联字段,从源数据库中查询待结转的数据,将查询到的待结转的数据存储至存储装置中;/n从所述存储装置中读取待结转的数据,并写入目标数据库。/n

【技术特征摘要】
1.一种结转数据的方法,其特征在于,包括:
获取源数据库的日志文件,分析所述日志文件,确定与待结转的数据主表相关联的数据从表,以及所述数据主表与所述数据从表的关联关系;
基于所述关联关系,配置数据结转信息,至少包括配置结转条件和关联字段;
根据所述结转条件和所述关联字段,从源数据库中查询待结转的数据,将查询到的待结转的数据存储至存储装置中;
从所述存储装置中读取待结转的数据,并写入目标数据库。


2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据表名,确定目标数据库中与所述数据主表和数据从表对应的目标主表和目标从表;
检测所述目标主表的结构是否与所述数据主表的结构一致,以及检测所述目标从表的结构是否与所述数据从表的结构一致;
若不一致,则以所述数据主表和所述数据为标准,更改所述目标主表和目标从表的结构。


3.根据权利要求1所述的方法,其特征在于,在将查询到的待结转的数据存储至存储单元中之后,所述方法还包括:生成写入通知;
从所述存储装置读取待结转的数据,并写入所述目标数据库包括:响应于所述写入通知,从所述存储装置中读取待结转的数据,并写入目标数据库。


4.根据权利要求1所述的方法,其特征在于,将查询到的待结转的数据存储至存储装置中包括:
根据查询到的待结转的数据,生成数据文件,所述数据文件用于记录待结转的数据;
将所述数据文件进行切分,得到多个子数据文件以及各个子数据文件的属性信息;
根据所述各个子数据文件的属性信息,生成相应的文件路径信息;
将所述多个子数据文件和相应的文件路径信息保存至存储装置;
从所述存储装置读取待结转的数据,并写入目标数据库包括:根据所述文件路径信息查询子数据文件,从查询到的子数据文件中读取待结转的数据,并写入目标数据库。


5.根据权利要求1-4任一项所述的方法,其特征在于,将查询到的待结转的数据存储至存储装置包括:根据查询到的待结转的数据,生成主键文件,所述主键文件用于记录待结转的数据的主键信息,将所述主键文件存储至存储装置;
在写入目标数据库之后,所述方法还包括:
按照预设的规则校验结转到所述目标数据库中的待结转的数据;
若校验成功,则根据所述主键文件,删除源数据库中的待结转的数据;
若校验失败,则回滚结转到所述目标数据库中的待结转的数据。


6.一种结转数据的装置,其特征在于,包括:
确定模块,用于获取源数据库的日志文件,分析所述日志文件,确定与待结转的数据主表相关联的数据从表,以及所述数据主表与所述数据从表的关联...

【专利技术属性】
技术研发人员:周振华
申请(专利权)人:北京京东振世信息技术有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1