【技术实现步骤摘要】
基于SaltStack实现HDFS扩容的方法和装置,存储介质和电子设备
本公开涉及信息
,具体地,涉及一种基于SaltStack实现HDFS扩容的方法和装置,存储介质和电子设备。
技术介绍
大数据Hadoop平台为能够处理大量复杂数据的平台,其底层存储使用的是Hadoop分布式文件系统(HDFS),一般由名称节点(Namenode)和数据节点(Datanode)构成。其中,名称节点负责整数据管理并向外提供接口,而数据节点负责存储数据。为了能够存储TB乃至PB级别的数据,并且在Hadoop集群做数据处理时候做到数据本地化,HDFS一般配置多个数据节点,每个数据节点真正负责存储数据的一般是多块磁盘。并且,随着数据量增加,数据节点需要动态增加,且每个数据节点的磁盘也可能需要调整。然而,增加一个数据节点,需要对该数据节点的磁盘进行格式化、分区、创建文件系统、挂载到数据目录等操作,还需要在该数据节点安装HDFS服务,修改HDFS配置文件增加新数据目录。因此,对于一个大型Hadoop集群来说,配置或添加多个数据节点需要大量重复性工作,极大浪费集群运维人员时间以及成本。专 ...
【技术保护点】
1.一种基于SaltStack实现HDFS扩容的方法,其特征在于,所述方法包括:获取HDFS中的多个数据节点的磁盘的磁盘状态信息;接收用户的用户指示,所述用户指示用于指示用户根据所述磁盘状态信息从所述多个数据节点中选择的至少一个数据节点以及所述至少一个数据节点的至少一个磁盘;以及根据接收来自用户的用户指示,对所述用户所选择的所述至少一个磁盘进行挂载。
【技术特征摘要】
1.一种基于SaltStack实现HDFS扩容的方法,其特征在于,所述方法包括:获取HDFS中的多个数据节点的磁盘的磁盘状态信息;接收用户的用户指示,所述用户指示用于指示用户根据所述磁盘状态信息从所述多个数据节点中选择的至少一个数据节点以及所述至少一个数据节点的至少一个磁盘;以及根据接收来自用户的用户指示,对所述用户所选择的所述至少一个磁盘进行挂载。2.根据权利要求1所述的方法,其特征在于,所述磁盘状态信息包括磁盘的名称、类型、容量、和/或使用状态。3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:向用户呈现所获取的所述多个数据节点以及所述磁盘状态信息。4.根据权利要求3所述的方法,其特征在于,所述根据接收来自用户的用户指示,对所述用户所选择的所述至少一个磁盘进行挂载包括:获取所述至少一个磁盘的格式化磁盘脚本;在所述用户所选择的数据节点处运行所述格式化磁盘脚本;将所述数据节点或数据目录更新到HDFS配置文件中;以及将更新后的HDFS配置文件分发到HDFS中的多个数据节点。5.一种基于SaltStack实现HDFS扩容的装置,其特征在于,所述装置包括:获取模块,用于获取HDFS中的多个数据节点的磁盘的磁盘状态信息;接收模块,...
【专利技术属性】
技术研发人员:孔令熙,林文辉,张浩,邓应强,
申请(专利权)人:航天信息股份有限公司,
类型:发明
国别省市:北京,11
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。