如何增加hadoop集群中的主机新的机器的dns

如何增加hadoop集群中的主机新的机器的dns,第1张

无论是在Hadoop集群添加机器和删除机器,都无需停机,整个服务不中断。

本次 *** 作之前,Hadoop的集群情况如下:

HDFS的机器情况如下:

MR的机器情况如下:

添加机器

在集群的Master机器中,修改$HADOOP_HOME/conf/slaves文件,在其中添加需要加入集群的新机器(hp3)的主机名:

hp3

hp2

dell1

dell2

dell3

dell4

然后在Master机器中执行如下命令:

$HADOOP_HOME/bin/start-all.sh

这样 *** 作完成之后,新的机器就添加到集群中来了。

HDFS集群增加了一台新的机器:

MR集群中也新增了一台机器:

删除机器

不安全的方式

由于Hadoop集群自身具备良好的容错性,可以直接关闭相应的机器,从而达到将该机器撤除的目的。但是如果一次性 *** 作3台以上的机器,就有可能造成部分数据丢失,所以不推荐使用这种方式进行 *** 作。

安全的方式

在集群的Master机器中,新建一个文件:$HADOOP_HOME/conf/nn-excluded-list,在这个文件中指定需要删除的机器主机名(hp3):

hp3

然后,修改Master机器的配置文件:$HADOOP_HOME/conf/hdfs-site.xml,添加如下内容:

dfs.hosts.exclude

conf/nn-excluded-list

最后,在Master机器中执行如下命令:

$HADOOP_HOME/bin/hadoop

dfsadmin

-refreshNodes

这样 *** 作完成之后,可以在HDFS集群中看到,hp3机器已经处于Decommission

In

Progress状态:

但是MR机器中hp3机器依旧在运行中:

我们需要等待一定的时间,等待hp3中datanode的Decommission *** 作完成以后,再到hp3机器中关闭所有的Hadoop进程即可。

esxi加入现有集群,右键集群,添加主机,把密码什么的输入就可以了

添加进来的主机挂载共享存储,首先,确保共享存储对新主机开放了权限,san存储的话,在存储管理界面里把LUN分配给新主机的HBA卡,如果是iscsi存储,nas什么的,确保新主机有访问的权限,然后在新主机里扫描新存储,即可完成

搞不定就找我,私信.


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/bake/7988795.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-12
下一篇 2023-04-12

发表评论

登录后才能评论

评论列表(0条)

保存