hdfs文件系统_hadoop的分布式文件系统 *** 作

hdfs文件系统_hadoop的分布式文件系统 *** 作,第1张

hdfs文件系统_hadoop的分布式文件系统 *** 作 大数据需要学习的框架有很多,而Hadoop作为大数据开发的核心模块,就需要多加了解。

HDFS是基于Java的分布式文件系统,对于理解Hadoop分布式文件系统很有帮助,今天我们就一起来深入解析大数据Hadoop中的HDFS。

一、什么是HDFS?HDFS负责数据文件的存储,为整个Hadoop生态圈提供了基础的存储服务。

提供了一个低成本、高性能、高容错、高可靠的分布式文件系统。

HDFS是一个主/从(Master/Slave)体系架构,由于分布式存储的性质,集群拥有两类节点NameNode和DataNode。

NameNode(名字节点):系统中通常只有一个,中心服务器的角色,管理存储和检索多个DataNode的实际数据所需的所有元数据。

二、HDFS的特点1、低成本:搭建HDFS主要是通过横向扩展机器数量而非花高价钱购进昂贵的服务器。

2、高性能:处理大型任务上集群处理效率,多台机器分块并行处理要比单台机器串行处理要快很多3、高容错:数据自动保存多个副本。

它通过增加副本的形式,提高容错性。

数据自动保存多个副本,副本丢失后,自动恢复。

4、高可靠:HDFS解决了单点问题,HDFS集群中心节点是非常重要的,如果中心节点宕机整个集群将无法使用,所以中心节点NameNode会有主要节点(Primary)和备份节点(Stand By)。

如果Primary出现问题Stand By可以自动接替Primary工作。

三、HDFS如何存储数据?HDFS 采用Master/Slave的架构来存储数据,这种架构主要由四个部分组成,分别为HDFS Client(客户端)、NameNode(主管、管理者)、DataNode(slave)和Secondary NameNode。

可以看看下面这张图:以上就是关于HDFS的部份解析了,希望对大家能有多帮助。

HDFS作为Hadoop主要的核心,在数据存储方面为我们提供了保证,是非常优秀的分布式文件系统。

如果想了解更多详情,请点击成都加米谷大数据官网吧!

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/tougao/649656.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-04-17
下一篇 2022-04-17

发表评论

登录后才能评论

评论列表(0条)

保存