Hive与HBase之间的区别和联系

Hive与HBase之间的区别和联系,第1张

Hive与HBase之间的区别和联系

首先要知道Hive和Hbase两者的区别,我们必须要知道两者的作用和在大数据中扮演的角色

概念 Hive

1.Hive是hadoop数据仓库管理工具,严格来说,不是数据库,本身是不存储数据和处理数据的,其依赖于HDFS存储数据,依赖于MapReducer进行数据处理。

2.Hive的优点是学习成本低,可以通过类SQL语句(HSQL)快速实现简单的MR任务,不必开发专门的MR程序。

3.由于Hive是依赖于MapReducer处理数据的,因此有很高的延迟性,不适用于实时数据处理(数据查询,数据插入,数据分析),适用于离线数据的批处理。

Hbase

1.Hbase是一种分布式、可扩展、支持海量数据存储的NOSQL数据库

2.Hbase主要适用于海量数据的实时数据处理(随机读写

3.由于HDFS不支持随机读写,而Hbase正是为此而诞生的,弥补了HDFS的不可随机读写。

共同点

hbase与hive都是架构在hadoop之上的。都是用HDFS作为底层存储。

区别

1.Hive是建立在Hadoop之上为了减少MapReduce jobs编写工作的批处理系统,Hbase是为了支持弥补Hadoop对实时 *** 作的缺陷的项目 。总的来说,hive是适用于离线数据的批处理,hbase是适用于实时数据的处理。

2.Hive本身不存储和计算数据,它完全依赖于HDFS存储数据和MapReduce处理数据,Hive中的表纯逻辑。

3.hbase是物理表,不是逻辑表,提供一个超大的内存hash表,搜索引擎通过它来存储索引,方便查询 *** 作。

4.由于HDFS的不可随机读写,hive是不支持随机写 *** 作,而hbase支持随机写入 *** 作。

5.Hbase只支持简单的键查询,不支持复杂的条件查询

关系

在大数据架构中,Hive和Hbase是协作关系,这里就举例一种常用的协作关系,具体流程如下图:

 流程:

1.Hive创建一张外部表与Hbase表关联,因此只需对Hive表进行查询即可,Hive表会自动从关联的Hbase表中获取数据

2.采集的数据保存到Hbase表,因为Hbase表支持随机写 *** 作,这个可以根据业务需求决定

3.Hive通过HSQ语句创建MR任务去处理分析数据

3.MR将分析的结果最终存储到常用的数据库(Mysql数据库)

4.web端从数据库获取数据进行可视化

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5069204.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-11-16
下一篇 2022-11-16

发表评论

登录后才能评论

评论列表(0条)

保存