首先要知道Hive和Hbase两者的区别,我们必须要知道两者的作用和在大数据中扮演的角色
概念 Hive1.Hive是hadoop数据仓库管理工具,严格来说,不是数据库,本身是不存储数据和处理数据的,其依赖于HDFS存储数据,依赖于MapReducer进行数据处理。
2.Hive的优点是学习成本低,可以通过类SQL语句(HSQL)快速实现简单的MR任务,不必开发专门的MR程序。
3.由于Hive是依赖于MapReducer处理数据的,因此有很高的延迟性,不适用于实时数据处理(数据查询,数据插入,数据分析),适用于离线数据的批处理。
Hbase1.Hbase是一种分布式、可扩展、支持海量数据存储的NOSQL数据库
2.Hbase主要适用于海量数据的实时数据处理(随机读写)
3.由于HDFS不支持随机读写,而Hbase正是为此而诞生的,弥补了HDFS的不可随机读写。
共同点hbase与hive都是架构在hadoop之上的。都是用HDFS作为底层存储。
区别1.Hive是建立在Hadoop之上为了减少MapReduce jobs编写工作的批处理系统,Hbase是为了支持弥补Hadoop对实时 *** 作的缺陷的项目 。总的来说,hive是适用于离线数据的批处理,hbase是适用于实时数据的处理。
2.Hive本身不存储和计算数据,它完全依赖于HDFS存储数据和MapReduce处理数据,Hive中的表纯逻辑。
3.hbase是物理表,不是逻辑表,提供一个超大的内存hash表,搜索引擎通过它来存储索引,方便查询 *** 作。
4.由于HDFS的不可随机读写,hive是不支持随机写 *** 作,而hbase支持随机写入 *** 作。
5.Hbase只支持简单的键查询,不支持复杂的条件查询
关系在大数据架构中,Hive和Hbase是协作关系,这里就举例一种常用的协作关系,具体流程如下图:
流程:
1.Hive创建一张外部表与Hbase表关联,因此只需对Hive表进行查询即可,Hive表会自动从关联的Hbase表中获取数据
2.采集的数据保存到Hbase表,因为Hbase表支持随机写 *** 作,这个可以根据业务需求决定
3.Hive通过HSQ语句创建MR任务去处理分析数据
3.MR将分析的结果最终存储到常用的数据库(Mysql数据库)
4.web端从数据库获取数据进行可视化
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)