hadoop三节点配置方案
pass
eclipse配置mapreduce
配置前的准备
下载相关文件
注意:箭头所指的ppt可下载下来进行对照配置,方框所指的文件为后续所需要的文件。
启动eclipse并添加mapreduce插件
1在Windows中解压eclipse-java-2019-03-R-linux-gtk-x86_64targz
并确定文件内容是否完整
2将eclipse文件夹拖入centos中(最好放在桌面)并确认文件夹内容是否完整
注意:之所以eclipseproduct没看到,是因为以开头的文件为隐藏文件
3将事先下载好的hadoop-eclipse-plugin-260jar文件拖入eclipse文件夹的dropins文件夹中
4运行eclipse
[root@master eclipse]# /eclipse
登录后复制
注意:箭头所指的地方,用默认已出现的路径就ok
5添加mapreduce插件
并添加hadoop的路径
注意:/usr/local/src/hadoop为个人hadoop路径
6添加mapreduce项目
双击下方图像中箭头所指的插件名称
下方箭头所指的文件名可以随便取
7打开mapreduce的窗口
可以看到mapreduce窗口
8启动master节点(一个就好)
注意:记得用root账户执行该命令
jps查看运行结果
9使用eclipse连接节点
添加前,首先关闭hadoop里面关于hdfs的安全检查
修改为下列代码
接下来,便是添加连接
1:随便写的名字
2:主机的名字,也可以写127001
3:固定写50070
4:参考hadoop目录下etc/hadoop/目录下的core-sitexml文件中的<value>hdfs://master:9000</value>
5:user name为hadoop运行时的权限用户
10加载完后,my hadoop会加载出之前创建的input、output文件夹
如果没有,建议打开终端执行以下两条命令(记得用root执行命令)
[root@master hadoop]# hdfs dfs -mkdir /input
[root@master hadoop]# hdfs dfs -mkdir /output
登录后复制
之所以这里报错,是因为我已经创建了这个文件夹
创建wordcount项目
前提:Windows中的文件能够直接复制粘贴到centos中
点击WordCountjava,右击复制
返回centos中,进入eclipse,进行粘贴
修改WordCountjava
1删除该串代码
2修改该串代码
修改后:
上传dreamtxt
将事先下载到windows中的dreamtxt复制到centos桌面
使用终端上传至hadoop中
[root@master Desktop]# hdfs dfs -put dreamtxt /input/dreamtxt
登录后复制
刷新eclipse的my Hadoop节点,查看文件
运行WordCountjava
点击进入WordCountjava,并进行下图 *** 作
配置输入输出文件
将log4jproperties复制到src中
完成
复制hadoop路径下的etc/hadoop路径下的core-sitexml、hdfs-sitexml到src中
运行WordCountjava
完成
检验是否成功,可查看output文件是否生成对应的文档
hadoop
mapreduce
0套路,限时0元领,105G绝版通用流量卡,资费永久29
中国联通
广告
eclipse运行mapreduce的插件
5下载·0评论
2018年6月14日
eclipse配置mapreduce全教程
2294阅读·0评论·4点赞
2019年10月31日
MapReduce编程入门--用eclipse创建MapReduce工程
2804阅读·0评论·1点赞
2021年10月22日
Mac下eclipse的Hadoop开发环境配置中以及windows->preferences下看不到Hadoop/MapReduce的配置项问题解决
1077阅读·0评论·4点赞
2021年10月23日
eclipse开发MapReduce
804阅读·0评论·1点赞
2018年12月22日
Hadoop——MapReduce相关eclipse配置及Api调用(图文超详细版)(内含遇到错误的解决方法)
2888阅读·4评论·9点赞
2021年11月10日
Hadoop+eclipse运行MapReduce程序
1342阅读·0评论·0点赞
2015年11月24日
hadoop-eclipse-plugin-220jar放到eclipse的plugins文件夹后,eclipse中没有map/reduce项
5359阅读·0评论·1点赞
2014年6月26日
无需安装虚拟机,Windows本地环境下使用Eclipse通过Hadoop进行MapReduce
867阅读·0评论·1点赞
2022年5月6日
Eclipse下编写hadoop的MapReduce程序
672阅读·0评论·0点赞
2019年4月28日
在Eclipse中实现MapReduce过程
870阅读·0评论·1点赞
2019年6月14日
调用MapReduce对文件中各个单词出现次数进行统计
864阅读·0评论·5点赞
2020年12月6日
Eclipse开发mapreduce程序环境搭建
3007阅读·1评论·4点赞
2019年8月30日
在Eclipse中运行第一个MapReduce程序
1736阅读·0评论·0点赞
2011年12月12日
Eclipse本地运行MapReduce
650阅读·0评论·0点赞
2018年6月3日
使用eclipse写mapreduce程序,然后打包程序到集群运行
259阅读·0评论·1点赞
2021年12月1日
使用Hadoop以及Eclipse平台,创建Hadoop项目——编写简单MapReduce程序,运行MapReduce词频统计程序,查看词频统计程序的结果。
2873阅读·0评论·0点赞
2022年4月29日
eclipse+MapReduce
41阅读·0评论·0点赞
2016年8月26日
Hadoop(MapReduce)入门 使用Eclipse开发
10W阅读·1评论·5点赞
2017年2月9日
在eclipse上搭建mapreduce开发环境及运行wordcount
9853阅读·0评论·0点赞
2017年2月8日
去首页
看看更多热门内容
写一个脚本以统计一个文本文件 wordstxt 中每个单词出现的频率。
为了简单起见,你可以假设:
wordstxt只包括小写字母和 ' ' ;
每个单词只由小写字母组成。
单词间由一个或多个空格字符分隔。
示例:
假设 wordstxt 内容如下:
the day is sunny the the the sunny is is
你的脚本应当输出(以词频降序排列):
the 4
is 3
sunny 2
day 1
测试文本:
Photo sphere panoramic camera function; keyboard gesture input function; improved lock screen function, including support for desktop pendant and direct opening camera function in lock screen state; expandable notification, allowing users to directly open the application; Gmail mail zoom display; Daydream screen saver Program; the user can zoom in on the entire display three times, and can also rotate and zoom display with two fingers, as well as voice output and gesture mode navigation designed for blind users; support Miracast wireless display sharing function; Google Now is now available Allow users to use Gamail as a new source of data, such as improved flight tracking, hotel and restaurant reservations, and music and movie recommendationsPhoto sphere panoramic camera function; keyboard gesture input function; improved lock screen function, including support for desktop pendant and direct opening camera function in lock screen state; expandable notification, allowing users to directly open the application; Gmail mail zoom display; Daydream screen saver Program; the user can zoom in on the entire display three times, and can also rotate and zoom display with two fingers, as well as voice output and gesture mode navigation designed for blind users; support Miracast wireless display sharing function
测试结果:
Hashmap [1] 存值
Hashmap [2] 取值
分割字符串 方法二:
测试文本:
同上
测试结果:
当文本为 1 KB 时,方法一 (使用 StringTokenizer )程序运行时间: 13034950ns;方法二 (使用 spit )程序运行时间: 9878808ns
StringTokenizer > spit
当文本为 24 KB 时,方法一 (使用 StringTokenizer )程序运行时间: 25411294ns;方法二 (使用 spit )程序运行时间: 28782200ns
StringTokenizer < spit
综上可知,当你需要统计词频的文本较大时,例如一本长篇小说,那么 StringTokenizer 的效率更高。
以上就是关于eclipse中mapreduce没有文件全部的内容,包括:eclipse中mapreduce没有文件、Mlog9: LeetCode -- 统计词频、等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)