java.lang.NoClassDefFoundError: orgapachehadoopfsFSDataInputStream、spark节点无法正常提交任务

java.lang.NoClassDefFoundError: orgapachehadoopfsFSDataInputStream、spark节点无法正常提交任务,第1张

java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataInputStream、spark节点无法正常提交任务 Exception in thread “main” java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataInputStream、spark节点无法正常提交任务

处理方法:
    使用CDH在当前节点新增spark-gateway节点(需重新部署客户端生效)修改spark-env.sh配置文件
处理方法2:
#编辑spark-env.sh
vim /opt/cloudera/parcels/CDH/lib/spark/conf/spark-env.sh


#文件末尾添加
export SPARK_DIST_CLASSPATH=$(/opt/cloudera/parcels/CDH/lib/hadoop/bin/hadoop classpath)

/opt/cloudera/parcels/CDH/lib/hadoop/bin/hadoop

以上路径为笔者所使用CDH-hadoop所在路径,
路径请替换为你实际安装的hadoop路径

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5720245.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-17
下一篇 2022-12-18

发表评论

登录后才能评论

评论列表(0条)

保存