bigdata

bigdata,第1张

bigdata

一丶Yarn架构设计,调度策略,等回顾

二丶访问Yarn Web UI

        Yarn-》Applications

        任务资源队列,一般一个团队用一个队列

三丶HA

          highavaliable,高可用

         如何高可用        

          多备份,        

         自动切换,zookeeper会和备份standy沟通,看把谁变成active

四丶Yarn shell应用

         直接输入yarn回车即可查看yarn的一级命令:yarn,显示出可用的命令列表

         查看版本信息:yarn  verison

         提交jar包:yarn jar jarName mainClassPath -Dk1=v1 -Dk2=v2 inputPath outputPath

         获取yarn运行时的classpath值:yarn classpath

         查看所有application列表信息: yarn application -list

         杀掉指定application  yarn application kill app-id

         查看yarn的当前资源使用情况:yarn top

使用yarn执行任务,指定任务使用的资源队列名。

  • 新建资源队列oncourse
  • 修改MapReduce代码中的Driver代码,使之可以使用yarn命令指定的系统配置参数,如指定所使用的资源队列
  • 修改yarn jar指定系统配置参数
  • 查看执行结果
  • 查看任务使用的资源队列情况

五丶hadoop组成图和调度框架图

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/4685125.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-07
下一篇 2022-11-07

发表评论

登录后才能评论

评论列表(0条)

保存