Hive总结

Hive总结

什么是hive？
hive是有Facebook开源用于解决海量数据化日志的数据统计工具

hive定义？
hive是基于hadoop的一个数据仓库工具，可以将结构化数据文件映射为一张表，并提供类sql查询功能
本质是：将hql转化成MapReduce程序

hive优缺点
1．优点
1) *** 作接口采用类SQL语法，提供快速开发的能力（简单、容易上手）。
2)避免了去写MapReduce，减少开发人员的学习成本。
3)Hive的执行延迟比较高，因此Hive常用于数据分析，对实时性要求不高的场合。
4)Hive优势在于处理大数据，对于处理小数据没有优势，因为Hive的执行延迟比较高。
5)Hive支持用户自定义函数，用户可以根据自己的需求来实现自己的函数。UDF UDTF UDAF
2．缺点
1．Hive的HQL表达能力有限
（1）迭代式算法无法表达(MapReduce本身就不支持)
（2）数据挖掘方面不擅长，由于MapReduce数据处理流程的限制，效率更高的算法却无法实现
2．Hive的效率比较低
（1）Hive自动生成的MapReduce作业，通常情况下不够智能化
（2）Hive调优比较困难，粒度较粗

hive架构
1．用户接口：Client
CLI（command-line interface）、JDBC/ODBC(jdbc访问hive)、WEBUI（浏览器访问hive）
2．元数据：metastore
元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；
默认存储在自带的derby数据库中，推荐使用MySQL存储metastore
3．Hadoop
使用HDFS进行存储，使用MapReduce进行计算，运行在yarn上面。
4．驱动器：Driver
解析器（SQL Parser）：将SQL字符串转换成抽象语法树AST，这一步一般都用第三方工具库完成，比如antlr；对AST进行语法分析，比如表是否存在、字段是否存在、SQL语义是否有误。
编译器（Physical Plan）：将AST编译生成逻辑执行计划。
优化器（Query Optimizer）：对逻辑执行计划进行优化。
执行器（Execution）：把逻辑执行计划转换成可以运行的物理计划。对于Hive来说，就是MR/Spark

Hive架构原理
原理:Hive通过给用户提供的一系列交互接口，接收到用户的指令(SQL)，使用自己的Driver，结合元数据(metaStore)，
将这些指令翻译成MapReduce，提交到Hadoop中执行，最后，将执行返回的结果输出到用户交互接口。

hive和数据库的区别
4.1查询语言
由于SQL被广泛的应用在数据仓库中，因此，专门针对Hive的特性设计了类SQL的查询语言HQL。熟悉SQL开发的开发者可以很方便的使用Hive进行开发。
4.2数据存储位置
Hive 是建立在 Hadoop 之上的，所有 Hive 的数据都是存储在 HDFS 中的。而数据库则可以将数据保存在块设备或者本地文件系统中。
4.3数据更新
由于Hive是针对数据仓库应用设计的，而数据仓库的内容是读多写少的。因此，Hive中不建议对数据的改写，所有的数据都是在加载的时候确定好的。而数据库中的数据通常是需 要经常进行修改的，因此可以使用 INSERT INTO … VALUES 添加数据，使用 UPDATE … SET修改数据。
4.4执行
Hive中大多数查询的执行是通过 Hadoop 提供的 MapReduce 来实现的。而数据库通常有自己的执行引擎。
4.5执行延迟
Hive 在查询数据的时候，由于没有索引，需要扫描整个表，因此延迟较高。另外一个导致 Hive 执行延迟高的因素是 MapReduce框架。由于MapReduce 本身具有较高的延迟，因此在利用MapReduce 执行Hive查询时，也会有较高的延迟。相对的，数据库的执行延迟较低。当然，这个低是有条件的，即数据规模较小，当数据规模大到超过数据库的处理能力的时候，Hive的并行计算显然能体现出优势。
4.6可扩展性
由于Hive是建立在Hadoop之上的，因此Hive的可扩展性是和Hadoop的可扩展性是一致的（世界上最大的Hadoop 集群在 Yahoo!，2009年的规模在4000 台节点左右）。而数据库由于 ACID 语义的严格限制，扩展行非常有限。目前最先进的并行数据库 Oracle 在理论上的扩展能力也只有100台左右。
4.7数据规模
由于Hive建立在集群上并可以利用MapReduce进行并行计算，因此可以支持很大规模的数据；对应的，数据库可以支持的数据规模较小。

hive元数据包括哪些，存在哪里?
元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；
默认存储在自带的derby数据库中，推荐使用MySQL存储metastore
hive基本数据类型和复杂数据类型
基本数据类型： TINYINT,SMALINT,INT,BIGINT,BOOLEAN,FLOAT,DOUBLE,STRING,TIMESTAMP,BINARY
复杂数据类型：
STRUCT,MAP,ARRAY

数据类型
结构化数据：数据结构不会经常发生变化，指可以使用关系型数据库表示和存储，表现为二维形式的数据。一般特点是：数据以行为单位，一行数据表示一个实体的信息，每一行数据的属性是相同的
半结构化数据：半结构化数据是结构化数据的一种形式，数据的结构会经常发生变化。
非结构化数据：没有固定结构的数据。各种文档、图片、视频/音频等都属于非结构化数据。对于这类数据，我们一般直接整体进行存储，而且一般存储为二进制的数据格式。

内部表和外部表的区别？
内部表：不被EXTERNAL修饰，由Hive自身管理，删除内部表会直接删除元数据（metadata）及存储数据，对内部表的修改会将修改直接同步给元数据，
外部表：被EXTERNAL修饰，外部表创建时需要指定LOCATION，由HDFS管理，删除外部表时，数据不被删，删除外部表的元数据

Hive的存储格式
textfile：hive数据表默认格式， 不会对数据进行压缩，不支持随机读写
rcfile：数据按行分块，每块按列存储，压缩速度快，查询速度较慢，不支持模式演进
orcfile：数据按行分块，每块按照列存储，数据压缩比例最优，压缩速度快，查询速度快
Parquet： Parquet能够很好的压缩，有很好的查询性能，支持有限的模式演进。但是写速度通常比较慢。这中文件格式主要是用在，Cloudera Impala上面的。

往表中添加数据的5种方式
1 向表中装载数据（Load）
2 通过查询语句向表中插入数据（Insert）
3 查询语句中创建表并加载数据（As Select）
4 创建表时通过Location指定加载数据路径
5 import数据到指定Hive表中

往分区中添加数据的三种方式
创建文件夹后load数据到分区
上传数据后添加分区
上传数据后修复

窗口函数
LEAD :返回当前行以下n行的指定列的列值
LAG： 返回当前行以上n行的指定列的列值
FIRST_VALUE:返回当前窗口指定列的第一个值
LAST_VALUE：返回当前窗口指定列的最后一个值

order by、sort by、Distribute By、Cluster By的用法区别
Order By：全局排序，只有一个Reducer
1．使用 ORDER BY 子句排序ASC（ascend）: 升序（默认）,DESC（descend）: 降序
2．ORDER BY 子句在SELECT语句的结尾
Sort By：对于大规模的数据集order by的效率非常低。在很多情况下，并不要全局排序，此时可以使用sort by。
Distribute By： 在有些情况下，我们需要控制某个特定行应该到哪reducer，通常是为了进行后续的聚集 *** 作。distribute by 子句可以做这件事。distribute by类似MR中partition（自定义分区），进行分区，结合sort by使用。
Cluster by:当distribute by和sorts by字段相同时，可以使用cluster by方法cluster by除了具有distribute by的功能外还兼具sort by的功能。但是排序只是升序排序，不能指定排序规则为ASC或者DESC。

Hive优化
1）MapJoin
在Reduce阶段完成join。容易发生数据倾斜。可以用MapJoin把小表全部加载到内存在map端进行join，避免reducer处理。
2）行列过滤
列处理：在SELECT中，只拿需要的列，如果有，尽量使用分区过滤，少用SELECT *。
行处理：在分区剪裁中，当使用外关联时，如果将副表的过滤条件写在Where后面，那么就会先全表关联，之后再过滤。
3）列式存储
textfile：hive数据表默认格式， 不会对数据进行压缩，不支持随机读写
rcfile：数据按行分块，每块按列存储，压缩速度快，查询速度较慢，不支持模式演进
orcfile：数据按行分块，每块按照列存储，数据压缩比例最优，压缩速度快，查询速度快
Parquet： Parquet能够很好的压缩，有很好的查询性能，支持有限的模式演进。但是写速度通常比较慢。这中文件格式主要是用在，Cloudera Impala上面的。
4）采用分区技术
创建分区表，便于对数据的 *** 作
5）合理设置Map数
数据量大map数多每个map分得数据少，压力就小，map数少每个map分得数据多，压力大
6）合理设置Reduce数
Reduce个数并不是越多越好
（1）过多的启动和初始化Reduce也会消耗时间和资源；
（2）另外，有多少个Reduce，就会有多少个输出文件，如果reduce数过多也会出现小文件过多的问题，如果reduce数过少每个reduce压力大会造成运行慢，消耗时间。
7）小文件如何产生的-9
（1）动态分区插入数据，产生大量的小文件，从而导致map数量剧增；
（2）reduce数量越多，小文件也越多（reduce的个数和输出文件是对应的）；
（3）数据源本身就包含大量的小文件。
8）小文件解决方案
（1）在Map执行前合并小文件，减少Map数：CombineHiveInputFormat具有对小文件进行合并的功能（系统默认的格式）。HiveInputFormat没有对小文件合并功能。
（2）merge
// 输出合并小文件
SET hive.merge.mapfiles = true; – 默认true，在map-only任务结束时合并小文件
SET hive.merge.mapredfiles = true; – 默认false，在map-reduce任务结束时合并小文件
SET hive.merge.size.per.task = 268435456; – 默认256M
SET hive.merge.smallfiles.avgsize = 16777216; – 当输出文件的平均大小小于16m该值时，启动一个独立的map-reduce任务进行文件merge
（3）开启JVM重用
set mapreduce.job.jvm.numtasks=10
9）开启map端combiner（不影响最终业务逻辑）
set hive.map.aggr=true；
10）压缩（选择快的）
时间换空间，空间换时间
11）采用tez引擎或者spark引擎

hive如何解决数据倾斜
（1）不同数据类型关联产生数据倾斜 把表中数据类型不一致的数据转换为一致类型，避免因为数据类型不一致而导致的数据倾斜。
（2）控制空值分布
（1）group by 可以自动去重
（2）mapjoin 大表join大表：把空值处填入数据，防止因为空值导致的数据倾斜；大表join小表：把小表写入内存在map端完成reduce，不经过shuffle和reduce。
（3）开启数据倾斜时负载均衡