Hadoop环境配置（11）--flume搭建配置

Hadoop环境配置（11）--flume搭建配置

1.将下载的flume安装包拖至software文件夹下

 2.将flume安装包解压到/opt/module/文件夹下

cd /opt/software/
tar -zxvf 安装包名 -C /opt/module/

3.修改系统环境变量

vi /etc/profile

在编辑面板中添加如下代码：

export FLUME_HOME=/opt/module/apache-flume-1.9.0-bin
export PATH=$PATH:$FLUME_HOME/bin

 4.重启环境配置

source /etc/profile

5.修改flume环境变量

cd /opt/module/apache-flume-1.9.0-bin/conf/

拷贝环境变量文件

cp flume-env.sh.template flume-env.sh
将flume-env.sh.template拷贝并重命名为flume-env.sh

配置flume-env.sh文件

vi flume-env.sh

在编辑面板中添加如下代码

export JAVA_HOME=/opt/module/jdk1.8.0_212

6.配置文件

（1）、拷贝配置文件

cp flume-conf.properties.template flume-client.properties

（2）、配置flume-client.properties文件

vi flume-client.properties

在编辑面板中添加如下代码：

#分别指定agent的sources，sinks, channels的名称 名称可以自定义

a1.sources = s1  

a1.sinks = k1  

a1.channels = c1  

  

#配置目录scource

a1.sources.s1.type =spooldir  

a1.sources.s1.spoolDir =/home/hadoop/logs  

a1.sources.s1.fileHeader= true  

a1.sources.s1.channels =c1  

  

#配置sink 

a1.sinks.k1.type = logger  

a1.sinks.k1.channel = c1  

  

#配置channel(内存做缓存)

a1.channels.c1.type = memory

7.启动flume

flume-ng agent -n a1 -c conf -f flume-client.properties -Dflume.root.logger=DEBUG,console
#-n:agent名称
#-c:配置文件路径conf
#-f:配置文件名称

8.将flume分发到Hadoop101和Hadoop102上

scp -r /opt/module/apache-flume-1.9.0-bin root@hadoop101:/opt/module
scp -r /opt/module/apache-flume-1.9.0-bin root@hadoop102:/opt/module

如果报错，可以配置下.bash_profile文件

vi ~/.bash_profile

 使环境变量生效

source ~/.bash_profile

然后重新启动一下flume就好了