一种数据导出方法、装置、电子设备及存储介质制造方法及图纸

技术编号:38603769 阅读:20 留言:0更新日期:2023-08-26 23:36
本发明专利技术实施例提供了一种数据导出方法、装置、电子设备及存储介质,通过接收所述快照元数据;当所述目标集群通过所述快照导出脚本参数导出所述待发送数据,且通过所述指定配置文件判定所述快照元数据不兼容时,基于所述指定配置文件从所述快照元数据中确定出可用快照元数据;导出所述可用快照元数据,以生成与所述可用快照元数据对应的目标待发送数据,从而实现了在元数据信息不兼容的情况下针对表数据进行快照迁移,提升了快照迁移的可用性。提升了快照迁移的可用性。提升了快照迁移的可用性。

【技术实现步骤摘要】
一种数据导出方法、装置、电子设备及存储介质


[0001]本专利技术涉及数据导出
,特别是涉及一种数据导出方法、一种数据导出装置、一种电子设备以及一种计算机可读存储介质。

技术介绍

[0002]HBase是一种大数据领域常用的分布式的、面向列的开源数据库,在HBase表数据迁移时,通常采用Snapshot迁移,又称快照迁移,快照迁移具有简单、易操作、对生产集群影响小的优势,相当于将源集群表完全拷贝一份到目标集群中,但同时,也会给某些特殊场景下的表数据迁移带来一些问题,如在跨版本和跨平台场景下,因为HBase的版本、平台和自研特性等的差异,会导致表的元数据信息不兼容,从而表数据自源集群导出后,在目标集群中不可用的情况。
[0003]因此,如何进行针对表数据的快照迁移是本领域内技术人员需要克服的问题。

技术实现思路

[0004]本专利技术实施例是提供一种数据导出方法、装置、电子设备以及计算机可读存储介质,以解决元数据信息不兼容的情况下如何进行快照迁移的问题。
[0005]本专利技术实施例公开了一种数据导出方法,应本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据导出方法,其特征在于,应用于目标集群,所述目标集群具有对应的初始集群,所述初始集群用于,确定待发送数据,以及针对所述待发送数据的快照导出脚本参数;基于所述快照导出脚本参数构建针对所述待发送数据的快照元数据;所述快照元数据包括针对用于表达所述目标集群和所述初始集群之间排他性的指定配置文件;向所述目标集群发送所述快照元数据,包括:接收所述快照元数据;当所述目标集群通过所述快照导出脚本参数导出所述待发送数据,且通过所述指定配置文件判定所述快照元数据不兼容时,基于所述指定配置文件从所述快照元数据中确定出可用快照元数据;导出所述可用快照元数据,以生成与所述可用快照元数据对应的目标待发送数据。2.根据权利要求1所述的方法,其特征在于,所述快照导出脚本参数包括:针对所述待发送数据的表名信息和认证信息,以及针对所述目标集群的互联网协议地址信息和导出路径信息。3.根据权利要求2所述的方法,其特征在于,所述快照元数据具有对应的第一快照表,所述基于所述指定配置文件从所述快照元数据中确定出可用快照元数据的步骤包括:采用所述指定配置文件和所述第一快照表构建针对所述可用快照元数据的第二快照表;基于所述第二快照表从所述快照元数据中确定出可用快照元数据。4.根据权利要求2或3所述的方法,其特征在于,还包括:基于所述导出路径信息确定针对所述快照元数据的目录层级;将所述可用快照元数据保存于所述目录层级。5.根据权利要求3所述的方法,其特征在于,所述初始集群和所述目标集群为分布式数据库HBase,所述快照元数据包括数据显示文件,还包括:当所述目标集群通过所述快照导出脚本参数导出所述待发送数据,且通过所述指定配置文件判定所述快照元数据兼容时,读取所述数据显示文件;所述数据显示文件包括区域信息region,和,针对所述待发送数据的底层数据单元文件信息HFile;基于所述区域信息region和所述底层数据单元文件信息HFile导出所述待发送数据。6.一种数据导出方法,其特征在于,应用于初始集群,所述初始集群具有对应的目标集群,包括:确定待发送数据,以及针对所述待发送数据的快照导出脚本参数;基于所述快照导出脚本参数构建针对所述待发送数据的快照元数据;所述快照元数据包括针对用于表达所述目标集群和所述初始集群之间排他性的指定配置文件;向所述目标集群发送所述快照元数据,所述目标集群用于接收所述快照元数据;当所述目标集群通过所述快照导出脚本...

【专利技术属性】
技术研发人员:宋文豪
申请(专利权)人:苏州浪潮智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1