HDFS写数据流程

1）客户端向namenode请求上传文件，namenode检查目标文件是否已存在，父目录是否存在。

2）namenode返回是否可以上传。

3）客户端请求第一个 block上传到哪几个datanode服务器上。

4）namenode返回3个datanode节点，分别为dn1、dn2、dn3。

5）客户端请求dn1上传数据，dn1收到请求会继续调用dn2，然后dn2调用dn3，将这个通信管道建立完成

6）dn1、dn2、dn3逐级应答客户端（ack响应）

7）客户端开始往dn1上传第一个block（先从磁盘读取数据放到一个本地内存缓存），以packet为单位，dn1收到一个packet就会传给dn2，dn2传给dn3；dn1每传一个packet会放入一个应答队列等待应答

8）当一个block传输完成之后，客户端再次请求namenode上传第二个block的服务器。（重复执行3-7步）

1.客户端通过调用DistributedFileSystem的create方法创建新文件。

2.DistributedFileSystem通过RPC调用namenode去创建一个没有blocks关联的新文件，创建前， namenode会做各种校验，比如文件是否存在，客户端有无权限去创建等。如果校验通过， namenode就会记录下新文件，否则就会抛出IO异常。

3.前两步结束后，会返回FSDataOutputStream的对象，与读文件的时候相似， FSDataOutputStream被封装成DFSOutputStream。DFSOutputStream可以协调namenode和 datanode。客户端开始写数据到DFSOutputStream，DFSOutputStream会把数据切成一个个小的packet，然后排成队 列data quene（数据队列）。

4.DataStreamer会去处理接受data quene，它先询问namenode这个新的block最适合存储的在哪几个datanode里（比如重复数是3，那么就找到3个最适合的 datanode），把他们排成一个pipeline。DataStreamer把packet按队列输出到管道的第一个datanode中，第一个 datanode又把packet输出到第二个datanode中，以此类推。

5.DFSOutputStream还有一个对列叫ack quene，也是由packet组成，等待datanode的收到响应，当pipeline中的所有datanode都表示已经收到的时候，这时ack quene才会把对应的packet包移除掉。

    如果在写的过程中某个datanode发生错误，会采取以下几步：

        1)pipeline被关闭掉；

        2)为了防止防止丢包ack quene里的packet会同步到data quene里；

        3)把产生错误的datanode上当前在写但未完成的block删掉；

        4)block剩下的部分被写到剩下的两个正常的datanode中；

        5)namenode找到另外的datanode去创建这个块的复制。当然，这些 *** 作对客户端来说是无感知的。

6.客户端完成写数据后调用close方法关闭写入流。

7.DataStreamer把剩余得包都刷到pipeline里，然后等待ack信息，收到最后一个ack后，通知datanode把文件标视为已完成。

注意：客户端执行write *** 作后，写完的block才是可见的(注:和下面的一致性所对应)，正在写的block对客户端

#### 网络拓扑

在本地网络中，两个节点被称为“彼此近邻”是什么意思？在海量数据处理中，其主要限制因素是节点之间数据的传输速率——带宽很稀缺。这里的想法是将两个节点间的带宽作为距离的衡量标准。

​ 节点距离：两个节点到达最近的共同祖先的距离总和。

例如，假设有数据中心d1机架r1中的节点n1。该节点可以表示为/d1/r1/n1。利用这种标记，这里给出四种距离描述。

Distance(/d1/r1/n1, /d1/r1/n1)=0（同一节点上的进程）

Distance(/d1/r1/n1, /d1/r1/n2)=2（同一机架上的不同节点）

Distance(/d1/r1/n1, /d1/r3/n2)=4（同一数据中心不同机架上的节点）

Distance(/d1/r1/n1, /d2/r4/n2)=6（不同数据中心的节点）

#### 机架感知

- 官方ip地址：

http://hadoop.apache.org/docs/r2.7.2/hadoop-project-dist/hadoop-common/RackAwareness.html

http://hadoop.apache.org/docs/r2.7.2/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html#Data_Replication

- 低版本Hadoop副本节点选择

第一个副本在client所处的节点上。如果客户端在集群外，随机选一个。

第二个副本和第一个副本位于不相同机架的随机节点上。

第三个副本和第二个副本位于相同机架，节点随机。

- 高副本节点选择

​ 第一个副本在client所处的节点上。如果客户端在集群外，随机选一个。

​ 第二个副本和第一个副本位于相同机架，随机节点。

​ 第三个副本位于不同机架，随机节点。

（1）客户端通过FileSystem.open()打开文件，相应地，在HDFS文件系统中DistributedFileSystem具体实现了FileSystem。因此，调用了open()方法后，DistributedFileSystem会创建输入流FSDataInputStream,对于HDFS而言，具体的输入流就是DFSInputStream.

（2）DFSInputStream的构造函数中，输入流通过ClientProtocal.getBloackLocations()远程调用NameNode,获得文件开始部分数据块的保存位置。对于该数据块。名称节点返回保存该数据块的锁哟数据节点的地址，同时根据距离客户端的远近对数据节点进行排序，然后DistributedFileSystem会利用DFSInputStream来实例化FSDataInputStream返回给客户端，同时返回了数据块的数据节点的地址。

（3）获得输入流FSDataInputStream后，客户端调用read()函数开始读取数据。输入流根据前面的排序结果，选择距离客户端最近的数据节点建立连接，然后读取数据。

（4）读取完毕后，关闭流，如果还有下一个数据块，就与下一个DN建立连接，读取数据块。

（1）客户端发起创建文件请求

（2）DistributedFileSystem通过RPC远程调用名称节点，在文件系统的命名空间中创建一个新的文件。名称节点会执行一些检查，比如这个文件是否存在，客户端是否有权限等。通过检查，名称节点会狗仔一个新文件，并且添加文件信息。然后返回给客户端一个输出流，客户端通过这个输出流，用它来写入数据。

（3）获得输出流FSDataOutputStream以后，客户端调用输出流的write方法想HDFS中对应的文件写入数据

客户端向输出流FSDataOutputStream中写入的数据会首先被分成一个个的分包，这些分包被放入DFSOutputStream对象的内部队列。每个包64K，包中有数据块，块是512字节，这些包被放入DFSOutputStream对象的内部队列，FSDataOutputStream向名称节点申请保存文件和副本数据块的若干数据节点。这些数据节点形成一个数据流管道，队列中的分包最后被打包成数据包，发往数据流管道第一个节点，第一个节点又复制到第二、三个节点，采用流水线复制策略（在写入磁盘时候 是每次4k往磁盘写）

（5）为保证所有数据节点的数据准备DataNode返回确认包 Client收到应答，将对应分宝从内部队列移除。开始下一个分包。

---