【技术实现步骤摘要】
Druid集群的迁移方法、装置及计算机设备
本申请涉及计算
,尤其涉及到一种Druid集群的迁移方法、装置及计算机设备。
技术介绍
Hadoop集群内部搭建一套包含多台机器的Druid集群,由于数据量的增加、任务的增多以及对集群性能要求的增加,因此之前搭建的Duird集群的机器配置完全不能满足现在的要求,从而需要更换配置更高的机器搭建新的Druid集群,以满足集群性能及业务需求。因此需要将Druid集群的服务和数据迁移到新搭建的Druid集群上。目前在进行Druid集群的迁移时,主要通过将Zookeeper里面Druid的状态数据直接用复制的方式复制到新Druid集群的机器上,远程将Druid集群的机器上本地缓存的数据迁移到新Druid集群的相同目录下或者直接启动Historical服务让其自行从HDFS上将数据下载到本地缓存。然而这种数据迁移方式会容易使迁移过去的Druid的状态数据无法识别,并且会使数据迁移的周期较长,影响工作效率。
技术实现思路
有鉴于此,本申请提供了一种Druid集群 ...
【技术保护点】
1.一种Druid集群的迁移方法,其特征在于,包括:/n获取需要进行集群迁移的待迁移Druid集群以及符合配置要求的目标Druid集群;/n通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群;/n在完成对所述状态数据的迁移后,将所述待迁移Druid集群中的元数据迁移至所述目标Druid集群;/n在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移。/n
【技术特征摘要】
1.一种Druid集群的迁移方法,其特征在于,包括:
获取需要进行集群迁移的待迁移Druid集群以及符合配置要求的目标Druid集群;
通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群;
在完成对所述状态数据的迁移后,将所述待迁移Druid集群中的元数据迁移至所述目标Druid集群;
在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移。
2.根据权利要求1所述的方法,其特征在于,所述通过扩容Zookeeper集群将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群,具体包括:
获取所述待迁移Druid集群的Zookeeper状态;
基于所述Zookeeper状态将所述目标Druid集群的Zookeeper集群扩容至所述待迁移Druid集群的Zookeeper集群中,以便将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群。
3.根据权利要求2所述的方法,其特征在于,所述基于所述Zookeeper状态将所述目标Druid集群的Zookeeper集群扩容至所述待迁移Druid集群的Zookeeper集群中,以便将所述待迁移Druid集群中的状态数据迁移至所述目标Druid集群,具体包括:
从所述目标Druid集群中提取预设数量个目标Zookeeper集群;
启动所述目标Zookeeper集群的ZooKeeper服务;
关闭所述Zookeeper状态为follower的所述原Zookeeper集群,并且将对应的配置信息和端口修改为与所述目标Zookeeper集群中的相同;
关闭所述Zookeeper状态为leader的所述原Zookeeper集群,并且将对应的配置信息和端口修改为与所述目标Zookeeper集群中的相同;
重新启动所述待迁移Druid集群中的Zookeeper服务,以便基于选举原则重新选取Zookeeper状态中的leader,进一步将所述待迁移Druid集群中的Zookeeper数据加载到所述目标Druid集群的Zookeeper上。
4.根据权利要求3所述的方法,其特征在于,在完成对所述元数据的迁移后,通过增加Historical服务将所述待迁移Druid集群的Druid集群服务切换为所述目标Druid集群的Druid集群服务,以便实现对所述待迁移Druid集群的迁移,具体包括:
修改所述目标Druid集群的机器配置$DRUID_HOME/conf/druid/_common/common.runtime.properties里面的druid.zk.service.host;
依次关闭所述待迁移Druid集群的Druid服务,将所述待迁移Druid集群的机器配置$DRUID_HOME/conf/druid/_common/.runtime.properties中的druid.zk.service.host修改为与所述目标Druid集群中的相同;
依次启动所述待迁移Druid集群上的Druid服务,并且启动所述目标Druid集群中的Historical服务,以便将所述待迁移Druid集群的本地缓存数据迁移到所述目标Druid集群上;
关闭所述待迁移Druid集群的broker、coordinator、overlord、middleManager服务;
开启所述目标Druid集群的c...
【专利技术属性】
技术研发人员:蔡劲,万书武,贺波,蒋英明,
申请(专利权)人:平安科技深圳有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。