Druid集群的迁移方法、装置及计算机设备制造方法及图纸

技术编号:25185113 阅读:41 留言:0更新日期:2020-08-07 21:13
本申请公开了一种Druid集群的迁移方法、装置及计算机设备,涉及计算机技术领域,可解决在进行Druid集群的迁移时,状态数据无法识别,且迁移周期长、工作效率低的问题。其中方法包括:获取需要进行集群迁移的待迁移Druid集群以及符合配置要求的目标Druid集群;通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群;在完成对所述状态数据的迁移后,将所述待迁移Druid集群中的元数据迁移至所述目标Druid集群;在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移。本申请适用于对Druid集群的迁移。

【技术实现步骤摘要】
Druid集群的迁移方法、装置及计算机设备
本申请涉及计算
,尤其涉及到一种Druid集群的迁移方法、装置及计算机设备。
技术介绍
Hadoop集群内部搭建一套包含多台机器的Druid集群,由于数据量的增加、任务的增多以及对集群性能要求的增加,因此之前搭建的Duird集群的机器配置完全不能满足现在的要求,从而需要更换配置更高的机器搭建新的Druid集群,以满足集群性能及业务需求。因此需要将Druid集群的服务和数据迁移到新搭建的Druid集群上。目前在进行Druid集群的迁移时,主要通过将Zookeeper里面Druid的状态数据直接用复制的方式复制到新Druid集群的机器上,远程将Druid集群的机器上本地缓存的数据迁移到新Druid集群的相同目录下或者直接启动Historical服务让其自行从HDFS上将数据下载到本地缓存。然而这种数据迁移方式会容易使迁移过去的Druid的状态数据无法识别,并且会使数据迁移的周期较长,影响工作效率。
技术实现思路
有鉴于此,本申请提供了一种Druid集群的迁移方法、装置及计本文档来自技高网...

【技术保护点】
1.一种Druid集群的迁移方法,其特征在于,包括:/n获取需要进行集群迁移的待迁移Druid集群以及符合配置要求的目标Druid集群;/n通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群;/n在完成对所述状态数据的迁移后,将所述待迁移Druid集群中的元数据迁移至所述目标Druid集群;/n在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移。/n

【技术特征摘要】
1.一种Druid集群的迁移方法,其特征在于,包括:
获取需要进行集群迁移的待迁移Druid集群以及符合配置要求的目标Druid集群;
通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群;
在完成对所述状态数据的迁移后,将所述待迁移Druid集群中的元数据迁移至所述目标Druid集群;
在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移。


2.根据权利要求1所述的方法,其特征在于,所述通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群,具体包括:
获取所述待迁移Druid集群的Zookeeper状态;
基于所述Zookeeper状态将所述目标Druid集群的Zookeeper集群扩容至所述待迁移Druid集群的Zookeeper集群中,以便将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群。


3.根据权利要求2所述的方法,其特征在于,所述基于所述Zookeeper状态将所述目标Druid集群的Zookeeper集群扩容至所述待迁移Druid集群的Zookeeper集群中,以便将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群,具体包括:
从所述目标Druid集群中提取预设数量个目标Zookeeper集群;
启动所述目标Zookeeper集群的ZooKeeper服务;
关闭所述Zookeeper状态为follower的所述原Zookeeper集群,并且将对应的配置信息和端口修改为与所述目标Zookeeper集群中的相同;
关闭所述Zookeeper状态为leader的所述原Zookeeper集群,并且将对应的配置信息和端口修改为与所述目标Zookeeper集群中的相同;
重新启动所述待迁移Druid集群中的Zookeeper服务,以便基于选举原则重新选取Zookeeper状态中的leader,进一步将所述待迁移Druid集群中的Zookeeper数据加载到所述目标Druid集群的Zookeeper上。


4.根据权利要求3所述的方法,其特征在于,在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移,具体包括:
修改所述目标Druid集群的机器配置$DRUID_HOME/conf/druid/_common/common.runtime.properties里面的druid.zk.service.host;
依次关闭所述待迁移Druid集群的Druid服务,将所述待迁移Druid集群的机器配置$DRUID_HOME/conf/druid/_common/.runtime.properties中的druid.zk.service.host修改为与所述目标Druid集群中的相同;
依次启动所述待迁移Druid集群上的Druid服务,并且启动所述目标Druid集群中的Historical服务,以便将所述待迁移Druid集群的本地缓存数据迁移到所述目标Druid集群上;
关闭所述待迁移Druid集群的broker、coordinator、overlord、middleManager服务;
开启所述目标Druid集群的c...

【专利技术属性】
技术研发人员:蔡劲万书武贺波蒋英明
申请(专利权)人:平安科技深圳有限公司
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1