四.（一）HDFS优缺点

Hadoop中HDFS优缺点

HDFS的优点：

        1、处理超大文件

                这里的超大文件通常是指百MB、甚至数百TB大小的文件。目前在实际应用中，HDFS已经能用来存储管理PB级的数据了。

        2、流式的访问数据

                HDFS的设计建立在“一次写入、多次读写”任务的基础上。这意味着一个数据集一旦由数据源生成，就会被复制分发到不同的存储节点中，然后响应各种各样的数据分析任务请求。在多数情况下，分析任务都会涉及数据集中的大部分数据，也就是说，对HDFS来说，请求读取整个数据集要比读取一条记录更加高效。

        3、运行于廉价的商用机器集群上

                Hadoop设计对应急需求比较低，只须运行在低廉的商用硬件集群上，而无需在昂贵的高可用性机器上。廉价的商用机也就意味着大型集群中出现节点故障情况的概率非常高。HDFS遇到了上述故障时，被设计成能够继续运行且不让用户察觉到明显的中断。

HDFS的缺点：

        1、不适合低延迟数据访问

                如果要处理一些用户要求时间比较短的低延迟应用请求，则HDFS不适合。HDFS是为了处理大型数据集分析任务的，主要是为达到高的数据吞吐量而设计的，这就可能要求以高延迟作为代价。

改进策略：

                        对于那些有低延时要求的应用程序，HBase是一个更好的选择，通过上层数据管理项目尽可能地弥补这个不足。在性能上有了很大的提升，它的口号是goes real time。使用缓存或多个master设计可以降低Clinet的数据请求压力，以减少延时。

        2、无法高效存储大量的小文件

                因为NameNode把文件系统的元数据放置在内存中，所有文件系统所能容纳的文件数目是由NameNode的内存大小来决定。还有一个问题就是，因为MapTask的数量是由Splits来决定的，所以用MR处理大量的小文件时，就会产生过多的MapTask，线程管理开销将会增加作业时间。当Hadoop处理很多小文件(文件大小小于HDFS中Block大小)的时候，由于FileInputFormat不会对小文件进行划分，所以每一个小文件都会被当做一个Split并分配一个Map任务，导致效率底下。

                例如：一个1G的文件，会被划分成16个64MB的Split，并分配16个Map任务处理，而10000个100Kb的文件会被10000个Map任务处理。

改进策略：

                        要想让HDFS能处理好小文件，有不少方法。利用SequenceFile、MapFile、Har等方式归档小文件，这个方法的原理就是把小文件归档起来管理，HBase就是基于此的。

        3、不支持多用户写入及任意修改文件

                在HDFS的一个文件中只有一个写入者，而且写 *** 作只能在文件末尾完成，即只能执行追加 *** 作，目前HDFS还不支持多个用户对同一文件的写 *** 作，以及在文件任意位置进行修改。

scala怎么读取hdfs中的文件

前面我们介绍了很多MSI文件的内容，其实MSI并不神秘、复杂，我们自己都能制作，并且制作MSI文件的工具已经在Windows的安装盘上了。

首先，找到Windows2000的安装光盘，双击下边的这个位置的文件:valueadd\3rdparty\Mgmt\Winstleadmlemsi，

很快软件就自动安装到了电脑中。在开始菜单的所有程序里边就多了“VERITAS software”组，点击运行里边的“VERITAS discover”就可以开始制作MSI文件了。

目前HDFS支持的使用接口除了Java的还有，Thrift、C、FUSE、WebDAV、>

以上就是关于四.（一）HDFS优缺点全部的内容，包括:四.（一）HDFS优缺点、scala怎么读取hdfs中的文件、hdfs写入文件的时候能读取这个文件么等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！