ubuntu安装hadoop搭建好 怎么用

创建hadoop用户组

创建hadoop用户

sudo adduser -ingroup hadoop hadoop

回车后会提示输入新的UNIX密码，这是新建用户hadoop的密码，输入回车即可。

如果不输入密码，回车后会重新提示输入密码，即密码不能为空。

最后确认信息是否正确，如果没问题，输入 Y，回车即可。

( 增加hadoop用户组，同时在该组里增加hadoop用户，后续在涉及到hadoop *** 作时，我们使用该用户。)

为hadoop用户添加权限

输入：sudo gedit /etc/sudoers

回车，打开sudoers文件

给hadoop用户赋予和root用户同样的权限

用新增加的hadoop用户登录Ubuntu系统

安装ssh

sudo apt-get install openssh-server

安装Java环境

sudo apt-get install openjdk-7-jdk

安装hadoop

官网下载http://mirror.bit.edu.cn/apache/hadoop/common/

解压

sudo tar xzf hadoop-2.4.0.tar.gz

假如我们要把hadoop安装到/usr/local下

拷贝到/usr/local/下，文件夹为hadoop

sudo mv hadoop-2.4.0 /usr/local/hadoop

赋予用户对该文件夹的读写权限

sudo chmod 774 /usr/local/hadoop

配置~/.bashrc

查看JAVA_HOME，后面用到

update-alternatives - -config java

只取前面的部分 /usr/lib/jvm/java-7-openjdk-amd64

配置.bashrc文件

sudo gedit ~/.bashrc

在文件末尾追加下面内容，然后保存，关闭编辑窗口。

#HADOOP VARIABLES START

export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64

export HADOOP_INSTALL=/usr/local/hadoop

export PATH=$PATH:$HADOOP_INSTALL/bin

export PATH=$PATH:$HADOOP_INSTALL/sbin

export HADOOP_MAPRED_HOME=$HADOOP_INSTALL

export HADOOP_COMMON_HOME=$HADOOP_INSTALL

export HADOOP_HDFS_HOME=$HADOOP_INSTALL

export YARN_HOME=$HADOOP_INSTALL

export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_INSTALL/lib/native

export HADOOP_OPTS="-Djava.library.path=$HADOOP_INSTALL/lib"

#HADOOP VARIABLES END

使添加的环境变量生效：

source ~/.bashrc

编辑/usr/local/hadoop/etc/hadoop/hadoop-env.sh

sudo gedit /usr/local/hadoop/etc/hadoop/hadoop-env.sh

修改此变量如下

export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64

WordCount测试

单机模式安装完成，下面通过执行hadoop自带实例WordCount验证是否安装成功

执行WordCount

bin/hadoop

jar

share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.4.0-sources.jar

org.apache.hadoop.examples.WordCount input output

你好，要的。方法如下：

Ubuntu12.10交换空间4G（内存2G）。具体安装过程不赘述。

用户名统一为：hadoop；

组群:hadoop；

机器名：namenode（主节点）,datanode1（从节点1）,datanode2（从节点2）。

在Ubuntu下创建hadoop用户组和用户（也可在安装系统时通过界面配置）

1. 创建hadoop用户组

$ sudo addgroup hadoop

记下这里为 hadoop 用户设置的密码，后面使用 hadoop 用户登录时需要用到。

2. 创建hadoop用户

$ sudo adduser -ingroup hadoop hadoop

3. 给hadoop用户添加权限，打开/etc/sudoers文件

$ sudo gedit /etc/sudoers

4. 给hadoop用户赋予root用户同样的权限。

在root ALL=(ALL:ALL) ALL下添加如下内容：

hadoop ALL=(ALL:ALL) ALL

在Ubuntu下安装JDK

配置环境变量：

$ sudo gedit /etc/profile

在文件的末尾加上如下内容，保存并关闭文件

# for java

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0

export JRE_HOME=${JAVA_HOME}/jre

export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib

export PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin:$PATH

使设置生效：到此部JDK的配置就都完成了

$ source /etc/profile

为保证正确性，进行简单的测试

$ java -version

输出：

java version "1.8.0"

Java(TM) SE Runtime Environment (build 1.8.0)

Java HotSpot(TM) Server VM

修改默认JDK：

sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/jdk1.8.0/bin/java 300

sudo update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/jdk1.8.0/bin/javac 300

sudo update-alternatives --install /usr/bin/jar jar /usr/lib/jvm/jdk1.8.0/bin/jar 300

以下两句可选（最好执行）：

sudo update-alternatives --config java

sudo update-alternatives --config javac

修改机器名（这步骤可以省略）

每当ubuntu安装成功时机器名都默认为：ubuntu ，但为了以后集群中能够容易分辨各台服务器，需要给每台机器取个不同的名字。机器名由 /etc/hostname文件决定。

1. 打开/etc/hostname文件

$ sudo gedit /etc/hostname

2. 将/etc/hostname文件中的ubuntu改为对应机器，如主节点中，修改为"namenode"。 重启生效。

3.修改/etc/hosts文件

$ sudo gedit /etc/hosts

改为如下所示，并且将每台机器的IP设置为固定IP：

安装ssh服务

这里的ssh不是指三大框架:spring,struts,hibernate，而是一种远程登录协议。

ubuntu一般只是默认安装了 ssh-agent, 可以用如下命令查看：

$ sudo ps -ef | grep ssh

如果只有 ssh-agent 就需要安装openssh-server了。

$ sudo apt-get install ssh openssh-server

建立ssh无密码登录本机

首先要转换成hadoop用户，执行以下命令：

$ sudo su - hadoop

ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

1. 创建ssh-key，，这里我们采用rsa方式

$ ssh-keygen -t rsa -P ""

请注意， ssh-kengen 是用连字符连着的，千万不要分开。问题如下：

按照您的步骤执行的过程中我在ssh -keygen -t rsa -P ""这边发生的点小状况输入之後终端机显示Bad escape character "ygen"（红字部分就是问题所在，他将 ssh-keygen 分开了。）

（注：回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的）

2. 创建授权文件authorized_keys

进入~/.ssh/目录下，发现开始是没有authorized_keys文件的，可以使用以下两种方法：

(1) 将id_rsa.pub追加到authorized_keys授权文件中

$ cd ~/.ssh

$ cat id_rsa.pub >>authorized_keys

(2) 复制 id_rsa.pub 为 authorized_keys

$ cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

3. 登录localhost

$ ssh localhost

4. 执行退出命令(exit或CTRL+D)

​ 转载，仅供参考。

环境配置：

虚拟机：

vmware workstation 12

系统：

ubuntu 16.04 LTS（推荐使用原版，不要用kylin）

节点：                192.168.159.132    master                192.168.159.134    node1                192.168.159.137    node2

jdk-8u101-Linux-x64.gz (Java )hadoop-2.7.3.tar.gz (Hadoop 包)

安装步骤：

1、安装虚拟机系统，并进行准备工作（可安装一个然后克隆）

2.修改各个虚拟机的hostname和host

3.创建用户组和用户

4、配置虚拟机网络，使虚拟机系统之间以及和host主机之间可以通过相互ping通。

5.安装jdk和配置环境变量，检查是否配置成功

6、配置ssh，实现节点间的无密码登录 ssh node1/2指令验证时候成功

7、master配置hadoop，并将hadoop文件传输到node节点

8、配置环境变量，并启动hadoop，检查是否安装成功，执行wordcount检查是否成功。

1.安装虚拟机

在VM上安装下载好的Ubuntu的系统，具体过程自行百度。可以安装完一个以后克隆，但是本人安装过程中遇到很多问题，经常需要删除虚拟机，重新安装，而被克隆的虚拟机不能删除，所以本人就用了很长时候，一个一个安装。

一共3台虚拟机：分配情况和IP地址如下：

（注：查看ip地址的指令   ifconfig）

安装虚拟机时可以设置静态IP，因为过程中常常遇到网络连接问题,ifconfig找不到IPV4地址。当然，也可以不设，默认分配。

192.168.159.132    master                192.168.159.134    node1                192.168.159.137    node2

2.修改虚拟机的hostname和hosts文件

以master上机器为例，打开终端，执行如下的 *** 作，把hostname修改成master，hosts修改成如下所示的样子：

#修改hostname的指令：sudo gedit /etc/hostname

#修改hosts指令：sudo gedit /etc/hosts

#将以下内容添加到hosts中192.168.159.132    master192.168.159.134    node1192.168.159.137    node2

如下图所示:

同样地，在node1和node2机器上做相似的 *** 作，分别更改主机名为node1和node2，然后把hosts文件更改和master一样。

3.创建用户和用户组（三台机器上都要 *** 作）

1. 创建hadoop用户组

sudo addgroup hadoop

2. 创建hadoop用户

sudo adduser -ingroup hadoop hadoop

3. 给hadoop用户添加权限，打开/etc/sudoers文件

sudo gedit /etc/sudoers

按回车键后就会打开/etc/sudoers文件了，给hadoop用户赋予root用户同样的权限

在root  ALL=(ALL:ALL)  ALL下添加hadoop  ALL=(ALL:ALL)  ALL

4.检验各个主机之间能否连通

分别以刚刚创建的hadoop用户重新登录系统，以后的 *** 作都以hadoop用户登录。

ping +主机名

分别在各个主机上执行上述指令，看是否能与其他主机连通。

出现下图代表能够连通：

如果都成功ping通，进行下面的 *** 作。

5.安装jdk和配置环境变量

分别在每台主机上安装jdk，并配置环境变量。（嫌麻烦的前面可以安装完jdk后再克隆）

1）下载jdk安装包（自行百度），并将安装包拖入到虚拟机当中

2）通过cd命令进入到安装包的当前目录，利用如下命令进行解压缩。

tar -zxvf jdk.....(安装包名称)

3）利用如下命令将解压后的文件夹移到/usr目录下　

#注意，这样移动到/usr以后就没有jdk1.8...这个目录了，是将这个目录下的所有文件全部移动到/usr/java下，mv jdk1.8...(文件夹名称) /usr/java

4）配置环境变量

sudo gedit /etc/profile

在末尾加上四行：

[plain] view plain copy print?

#java

export JAVA_HOME=/usr/java

export JRE_HOME=/usr/java/jre

export CLASSPATH=$JAVA_HOME/lib

export PATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

输入如下命令使配置生效：source /etc/profile

查看配置是否成功，

出现如上信息说明java配置成功。

6.配置SSH，实现节点间的无密码登录

本人在这一步经常出错，莫名其妙的错误，网上也找不到资料。需要自己多实验几次。

下面的 1.2.3在所有主机上都要做

1..安装ssh

[plain] view plain copy print?

sudo apt-get install openssh-server

已有ssh或者安装成功了的输入命令

[plain] view plain copy print?

ps -e | grep ssh

验证SSH是否成功安装输入

[plain] view plain copy print?

ssh localhost

出现以下提示说明安装成功

3.生成密钥Pair

ssh-keygen -t rsa

输入之后一直选择enter即可。生成的秘钥位于 ~/.ssh文件夹下。可用cd 命令进入查看。

4.在master上，导入authorized_keys

cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys

5.远程无密码登录(把master上的authorized_keys拷贝到其他主机的相应目录下)

#进入master的.ssh目录,执行复制 *** 作

scp authorized_keys hadoop@node1:~/.ssh/

scp authorized_keys hadoop@node2:~/.ssh/

修改各台主机上authorized_keys文件的权限：

所有机器上，均执行命令：

chmod 600 .ssh/authorized_keys

完成之后，在master上执行下面 *** 作，检查免密码登录是否成功。

ssh node1(node2)

7.master配置hadoop,然后将master的hadoop文件传送给node节点

1）解包移动

[plain] view plain copy print?

#解压hadoop包

tar -zxvf hadoop...

#将安装包移到/usr目录下

mv hadoop... /usr/hadoop

2）新建文件夹

[plain] view plain copy print?

#在/usr/hadoop目录下新建如下目录(root)

mkdir /dfs

mkdir /dfs/name

mkdir /dfs/data

mkdir /tmp

3)配置文件：hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)

修改JAVA_HOME值（export JAVA_HOME=/usr/java）

4)配置文件：yarn-env.sh

修改JAVA_HOME值（export JAVA_HOME=/usr/java）

5)配置文件：slaves

将内容修改为：

node1

node2

6)配置文件：core-site.xml

[html] view plain copy print?

<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://master:9000</value>

</property>

<property>

<name>io.file.buffer.size</name>

<value>131072</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>file:/usr/hadoop/tmp</value>

<description>Abase for other temporary   directories.</description>

</property>

</configuration>

7)配置文件：hdfs-site.xml

[html] view plain copy print?

<configuration>

<property>

<name>dfs.namenode.secondary.http-address</name>

<value>master:9001</value>

</property>

<property>

<name>dfs.namenode.name.dir</name>

<value>file:/usr/hadoop/dfs/name</value>

</property>

<property>

<name>dfs.datanode.data.dir</name>

<value>file:/usr/hadoop/dfs/data</value>

</property>

<property>

<name>dfs.replication</name>

<value>2</value>

</property>

<property>

<name>dfs.webhdfs.enabled</name>

<value>true</value>

</property>

</configuration>

8)配置文件：mapred-site.xml

先创建然后编辑

cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml

gedit etc/hadoop/mapred-site.xml

[html] view plain copy print?

<configuration>

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

<property>

<name>mapreduce.jobhistory.address</name>

<value>master:10020</value>

</property>

<property>

<name>mapreduce.jobhistory.webapp.address</name>

<value>master:19888</value>

</property>

</configuration>

9)配置文件：yarn-site.xml

[html] view plain copy print?

<configuration>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

<property>

<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>

<value>org.apache.hadoop.mapred.ShuffleHandler</value>

</property>

<property>

<name>yarn.resourcemanager.address</name>

<value>master:8032</value>

</property>

<property>

<name>yarn.resourcemanager.scheduler.address</name>

<value>master:8030</value>

</property>

<property>

<name>yarn.resourcemanager.resource-tracker.address</name>

<value>master:8031</value>

</property>

<property>

<name>yarn.resourcemanager.admin.address</name>

<value>master:8033</value>

</property>

<property>

<name>yarn.resourcemanager.webapp.address</name>

<value>master:8088</value>

</property>

</configuration>

10)将hadoop传输到node1和node2 usr/hadoop目录,（如果传输时报错说 ：权限拒绝，先把文件传送到非/usr目录下，然后在node上把这个文件再移动到/usr/hadoop）

scp -r /usr/hadoop hadoop@node1:/usr/hadoop

7、配置环境变量，并启动hadoop，检查是否安装成功

1）配置环境变量

#编辑/etc/profilesudo gedit /etc/profile#以上已经添加过java的环境变量,在后边添加就可以#hadoop  export HADOOP_HOME=/opt/Hadoop/hadoop-2.7.2  export PATH=$PATH:$HADOOP_HOME/sbin  export PATH=$PATH:$HADOOP_HOME/bin  

执行

source /etc/profile

使文件生效。

2）启动hadoop,进入hadoop安装目录

bin/hdfs namenode -format

sbin/start-all.sh

3)启动后分别在master, node下输入jps查看进程

看到下面的结果，则表示成功。

Master:

node:

8.向hadoop集群系统提交第一个mapreduce任务(wordcount)

进入本地hadoop目录（/usr/hadoop）

1、  bin/hdfs dfs -mkdir -p /data/input在虚拟分布式文件系统上创建一个测试目录/data/input

2、  hdfs dfs -put README.txt  /data/input  将当前目录下的README.txt 文件复制到虚拟分布式文件系统中

3、  bin/hdfs dfs-ls /data/input    查看文件系统中是否存在我们所复制的文件

如图 *** 作：

3、  运行如下命令向hadoop提交单词统计任务

进入jar文件目录，执行下面的指令。

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /data/input /data/output/result

查看result，结果在result下面的part-r-00000中

hdfs dfs -cat /data/output/result/part-r-00000

自此，hadoop集群搭建成功！

---