数据归档方法、装置、电子设备、介质和程序产品制造方法及图纸

技术编号:38591010 阅读:13 留言:0更新日期:2023-08-26 23:30
本公开的实施例公开了数据归档方法、装置、电子设备、介质和程序产品。该方法的一具体实施方式包括:执行主表归档任务信息对应主表归档任务,以生成主表待归档数据,其中,所述主表归档任务信息对应的主表与子表集存在字段关联关系;生成子表集中至少一个目标子表对应的至少一个子表归档任务信息;对于归档任务信息集中每个归档任务信息,执行以下消费步骤:生成针对归档任务信息的归档消息组;对归档消息组进行消息消费,得到消费结果组;根据所得到的消费结果组集,生成针对主表和至少一个目标子表的归档信息。该实施方式与数据归档有关,利用消息的生成和消费,对主表和多个子表中的数据进行数据归档,从而提高数据归档的完整性和归档效率。整性和归档效率。整性和归档效率。

【技术实现步骤摘要】
数据归档方法、装置、电子设备、介质和程序产品


[0001]本公开的实施例涉及计算机
,具体涉及数据归档方法、装置、电子设备、介质和程序产品。

技术介绍

[0002]数据归档是对数据库中的历史数据进行数据归档,减少数据库中的数据量和提高数据库的运行性能。目前,在对数据进行归档时,通常采用的方式为:利用数据归档工具包,对单张表中的数据进行数据归档。
[0003]然而,专利技术人发现,当采用上述方式来归档数据,经常会存在如下技术问题:
[0004]对单张表中的数据进行数据归档,可能造成归档数据不完整,使得归档效率较低,进而造成归档资源消耗较大。
[0005]该
技术介绍
部分中所公开的以上信息仅用于增强对本专利技术构思的背景的理解,并因此,其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。

技术实现思路

[0006]本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
[0007]本公开的一些实施例提出了数据归档方法、装置、电子设备、介质和程序产品,来解决以上
技术介绍
部分提到的技术问题。
[0008]第一方面,本公开的一些实施例提供了一种数据归档方法,包括:执行主表归档任务信息对应主表归档任务,以生成主表待归档数据,其中,上述主表归档任务信息对应的主表与子表集存在字段关联关系;生成上述子表集中至少一个目标子表对应的至少一个子表归档任务信息,其中,上述至少一个目标子表是根据上述主表待归档数据对应属性字段得到的至少一个子表;对于归档任务信息集中每个归档任务信息,执行以下消费步骤:生成针对上述归档任务信息的归档消息组,其中,上述归档任务信息集包括:上述主表归档任务信息和上述至少一个子表归档任务信息;对上述归档消息组进行消息消费,得到消费结果组;根据所得到的消费结果组集,生成针对上述主表和上述至少一个目标子表的归档信息,其中,上述归档信息是表征上述主表待归档数据和对应至少一个子表待归档数据是否归档至目标数据库的信息。
[0009]可选地,上述生成针对上述归档任务信息的归档消息组,包括:上述生成针对上述归档任务信息的归档消息组,包括:响应于确定上述归档任务信息为子表归档任务信息,确定与上述归档任务信息对应的归档服务器;控制上述归档服务器,以执行上述归档任务信息对应子表归档任务,得到与上述子表归档任务信息对应的子表待归档数据;对上述子表待归档数据进行数据拆分,得到拆分后待归档数据集;对于上述拆分后待归档数据集中每个拆分后待归档数据,生成针对上述拆分后待归档数据的归档消息。
[0010]可选地,上述确定与上述归档任务信息对应的归档服务器,包括:确定上述归档任务信息对应的子表归档标识;响应于确定子表归档任务信息数量与归档服务器数量的比值为第一整数,确定上述子表归档标识对应的归档服务器,其中,上述子表归档任务信息数量是上述至少一个子表归档任务信息对应的数量,上述归档服务器数量是归档服务器集对应的数量。
[0011]可选地,在上述响应于确定子表归档任务信息数量与归档服务器数量的比值为第一整数,确定上述子表归档标识对应的归档服务器之后,上述方法还包括:响应于确定上述子表归档任务信息数量与上述归档服务器数量的比值不是整数,对上述比值进行取整处理,得到第二整数;将上述第二整数与上述归档服务器数量的乘积,确定为归档倍数任务信息数量;将上述子表归档任务信息数量与上述归档倍数任务信息数量的差值,确定为剩余任务信息数量;确定与上述剩余任务信息数量对应的子表归档任务信息集,作为剩余子表归档任务信息集;响应于确定上述子表归档标识位于上述剩余子表归档任务信息集对应归档标识集内,根据上述归档标识集和上述归档服务器集对应的归档服务器标识集,确定上述子表归档标识对应的归档服务器。
[0012]可选地,方法还包括:响应于确定上述归档信息是表征上述主表待归档数据和对应至少一个子表待归档数据归档至目标数据库的信息,对于上述消费结果组集中的每个消费结果,执行以下消息消费步骤:对上述消费结果对应的待归档数据进行数据校验,得到第一校验结果;获取针对上述消费结果的已归档数据;对上述已归档数据进行数据校验,得到第二校验结果;响应于确定上述第一校验结果和上述第二校验结果相同,生成针对上述待归档数据的删除消息;对上述删除消息进行消费,得到消息消费结果;根据所得到的消息消费结果组集,生成针对上述主表和上述至少一个目标子表的删除信息,其中,上述删除信息是表征上述主表待归档数据和上述子表待归档数据是否从源数据库中删除的信息。
[0013]可选地,上述对上述消费结果对应的待归档数据进行数据校验,得到第一校验结果,包括:根据预设多项式,对上述待归档数据进行拼接,得到拼接后待归档数据;对上述拼接后待归档数据进行校验,得到第一校验结果。
[0014]可选地,上述根据所得到的消费结果组集,生成针对上述主表和上述至少一个目标子表的归档信息,包括:响应于确定上述消费结果组集中存在表征归档失败的消费结果,确定表征归档失败的至少一个消费结果;对于上述至少一个消费结果中的每个消费结果,根据上述消费结果对应的归档消息,执行以下重新消费步骤:确定上述归档消息对应的已执行次数;对上述消费结果对应的归档消息重新进行消费,得到重新消费结果;响应于确定上述重新消费结果表征归档成功,结束上述重新消费步骤;响应于确定上述重新消费结果表征归档失败,并且已执行次数大于等于预设执行次数,结束上述重新消费步骤,以及将上述归档消息发送至监控终端;响应于确定上述重新消费结果表征归档失败,并且已执行次数小于上述预设执行次数,再次执行上述重新消费步骤。
[0015]可选地,上述执行主表归档任务信息对应主表归档任务,以生成主表待归档数据,包括:生成与上述主表归档任务信息对应的主表归档语句;确定与上述主表归档任务信息对应的归档服务器;控制上述归档服务器,以对上述主表归档语句进行解析,得到主表待归档数据。
[0016]第二方面,本公开的一些实施例提供了一种数据归档装置,包括:第一执行单元,
被配置成执行主表归档任务信息对应主表归档任务,以生成主表待归档数据,其中,上述主表归档任务信息对应的主表与子表集存在字段关联关系;第一生成单元,被配置成生成上述子表集中至少一个目标子表对应的至少一个子表归档任务信息,其中,上述至少一个目标子表是根据上述主表待归档数据对应属性字段得到的至少一个子表;第二执行单元,被配置成对于归档任务信息集中每个归档任务信息,执行以下消费步骤:生成针对上述归档任务信息的归档消息组,其中,上述归档任务信息集包括:上述主表归档任务信息和上述至少一个子表归档任务信息;对上述归档消息组进行消息消费,得到消费结果组;第二生成单元,被配置成根据所得到的消费结果组集,生成针对上述主表和上述至少一个目标子表的归档信息,其中,上述归档信息是表征上述主表待归档数据和对应至少一个子表待归档数据是否归档至目标数本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据归档方法,包括:执行主表归档任务信息对应主表归档任务,以生成主表待归档数据,其中,所述主表归档任务信息对应的主表与子表集存在字段关联关系;生成所述子表集中至少一个目标子表对应的至少一个子表归档任务信息,其中,所述至少一个目标子表是根据所述主表待归档数据对应属性字段得到的至少一个子表;对于归档任务信息集中每个归档任务信息,执行以下消费步骤:生成针对所述归档任务信息的归档消息组,其中,所述归档任务信息集包括:所述主表归档任务信息和所述至少一个子表归档任务信息;对所述归档消息组进行消息消费,得到消费结果组;根据所得到的消费结果组集,生成针对所述主表和所述至少一个目标子表的归档信息,其中,所述归档信息是表征所述主表待归档数据和对应至少一个子表待归档数据是否归档至目标数据库的信息。2.根据权利要求1所述的方法,其中,所述生成针对所述归档任务信息的归档消息组,包括:响应于确定所述归档任务信息为子表归档任务信息,确定与所述归档任务信息对应的归档服务器;控制所述归档服务器,以执行所述归档任务信息对应子表归档任务,得到与所述子表归档任务信息对应的子表待归档数据;对所述子表待归档数据进行数据拆分,得到拆分后待归档数据集;对于所述拆分后待归档数据集中每个拆分后待归档数据,生成针对所述拆分后待归档数据的归档消息。3.根据权利要求2所述的方法,其中,所述确定与所述归档任务信息对应的归档服务器,包括:确定所述归档任务信息对应的子表归档标识;响应于确定子表归档任务信息数量与归档服务器数量的比值为第一整数,确定所述子表归档标识对应的归档服务器,其中,所述子表归档任务信息数量是所述至少一个子表归档任务信息对应的数量,所述归档服务器数量是归档服务器集对应的数量。4.根据权利要求3所述的方法,其中,在所述响应于确定子表归档任务信息数量与归档服务器数量的比值为第一整数,确定所述子表归档标识对应的归档服务器之后,所述方法还包括:响应于确定所述子表归档任务信息数量与所述归档服务器数量的比值不是整数,对所述比值进行取整处理,得到第二整数;将所述第二整数与所述归档服务器数量的乘积,确定为归档倍数任务信息数量;将所述子表归档任务信息数量与所述归档倍数任务信息数量的差值,确定为剩余任务信息数量;确定与所述剩余任务信息数量对应的子表归档任务信息集,作为剩余子表归档任务信息集;响应于确定所述子表归档标识位于所述剩余子表归档任务信息集对应归档标识集内,根据所述归档标识集和所述归档服务器集对应的归档服务器标识集,确定所述子表归档标
识对应的归档服务器。5.根据权利要求1所述的方法,其中,所述方法还包括:响应于确定所述归档信息是表征所述主表待归档数据和对应至少一个子表待归档数据归档至目标数据库的信息,对于所述消费结果组集中的每个消费结果,执行以下消息消费步骤:对所述消费结果对应的待归档数据进行数据校验,得到第一校验结果;获取针对所述消费结果的已归档数据;对所述已归档数据进行数据校验,得到第二校验结果;响应于确定所述第一校验结果和所述第二校验结果相同,生成针对所述待归档数据的删除消息;对所述删除消息进行消费,得到消息消费结果;根据所得到的消息消费...

【专利技术属性】
技术研发人员:毛辰飞贾鹏飞
申请(专利权)人:北京京东世纪贸易有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1