MongoDB是否适合数据仓库

今天花点时间浏览了一下MongoDB的权威指南。MongoDB几个推荐的亮点：丰富的数据模型扩展性好丰富的弄能速度快易于管理上面这几个亮点对于数据仓库而言优势不是很明显。 对于数据仓库来说可以分为两层来看，一层是做ETL运算服务器，主要要求是大数据量计算，并发要求并不是很高；另外一层就是BI的前端报表展现，虽然说前端报表的数据都是经过ETL加工处理过成品，但是有时候主要业务表的数据时不时也会有个几百万的，当然也可以在这个几百万的基础上再做一次汇总，但是就牺牲了模型的灵活性。所以这个时候就需要就需要前端展现报表服务器既有一定的计算能力，又要有一定的并发能力。 MongoDB对于ETL服务器而言显然不是很合适，它的计算能力还无法跟hadoop、Greenplum媲美，估计计算能力一般（没有测试过）。 对于前端报表展现貌似可以，速度快，支持一定计算能力，并发好。仔细想想也有很多不足，最要命的就是不能join，而且报表展现中很多情况会用到分析函数，数据分析师在分析数据时也会经常用到，这就是一个比较头大的问题，否则为了报表就要多做很多ETL工作，分析师的工作量也会增加很多。MongoDB的shell 脚本目前还无法跟sql的灵活性和易用性相提并论。 还有一点比较困难的是，现在技术人员都是学的关系型数据库，突然转变成NOsql数据库，是一个很大的成本，如果仅仅是一两个人转型还好，如果要一个团队转型难度会很大。

1，hadoop是大数据分析的完整生态系统，从数据采集，存储，分析，转运，再到页面展示，构成了整个流程采集可以用flume，存储用hbase，hdfs，mangodb就相当于hbase，分析用Mapreduce自己写算法，还有hive做数据仓库，pig做数据流处理，转储方面有sqoop，可以将hdfs中的数据转换存储到mysql，oracle等传统数据库，这就构成了一整套大数据分析的整个流程

2，mangodb只是充当存储功能，是一款nosql数据库，支持以json的格式存储

3，所以从功能上来讲，hadoop和mangodb是不一样的，hadoop中可以用mangodb替换hbase，但是mangodb不能替换hadoop，一个是完整的生态系统，一个是数据库，两个不一样的概念

4，至于选择用mangodb还是hbase，各有优劣，不过使用较多的还是hbase，mangodb社区没有hbase活跃，所以还是hbase吧

通常数据库分为关系型数据库和非关系型数据库，关系型数据库的优势到现在也是无可替代的，比如MySQL、SQLServer、Oracle、DB2、SyBase、Informix、PostgreSQL以及比较小型的Aess等等数据库，这些数据库支持复杂的SQL *** 作和事务机制，适合小量数据读写场景；但是到了大数据时代，人们更多的数据和物联网加入的数据已经超出了关系数据库的承载范围。

大数据时代初期，随着数据请求并发量大不断增大，一般都是采用的集群同步数据的方式处理，就是将数据库分成了很多的小库，每个数据库的数据内容是不变的，都是保存了源数据库的数据副本，通过同步或者异步方式保证数据的一致性，每个库设定特定的读写方式，比如主数据库负责写 *** 作，从数据库是负责读 *** 作，等等根据业务复杂程度以此类推，将业务在物理层面上进行了分离，但是这种方式依旧存在一定的负载压力的问题，企业数据在不断的扩增中，后面就采用分库分表的方式解决，对读写负载进行分离，但是这种实现依旧存在不足，且需要不断进行数据库服务器扩容。

NoSQL数据库大致分为5种类型

1、列族数据库：BigTable、HBase、Cassandra、AmazonSimpleDB、HadoopDB等，下面简单介绍几个

（1）Cassandra：Cassandra是一个列存储数据库，支持跨数据中心的数据复制。它的数据模型提供列索引，log-structured修改，支持反规范化，实体化视图和嵌入超高速缓存。

（2）HBase：ApacheHbase源于Google的Bigtable，是一个开源、分布式、面向列存储的模型。在Hadoop和HDFS之上提供了像Bigtable一样的功能。

（3）AmazonSimpleDB：AmazonSimpleDB是一个非关系型数据存储，它卸下数据库管理的工作。开发者使用Web服务请求存储和查询数据项

（4）ApacheAumulo：ApacheAumulo的有序的、分布式键值数据存储，基于Google的BigTable设计，建立在ApacheHadoop、Zookeeper和Thrift技术之上。

（5）Hypertable：Hypertable是一个开源、可扩展的数据库，模仿Bigtable，支持分片。

（6）AzureTables：WindowsAzureTableStorageService为要求大量非结构化数据存储的应用提供NoSQL性能。表能够自动扩展到TB级别，能通过REST和ManagedAPI访问。

2、键值数据库：Redis、SimpleDB、Scalaris、Memcached等，下面简单介绍几个

（1）Riak：Riak是一个开源，分布式键值数据库，支持数据复制和容错。（2）Redis：Redis是一个开源的键值存储。支持主从式复制、事务，Pub/Sub、Lua脚本，还支持给Key添加时限。

（3）Dynamo：Dynamo是一个键值分布式数据存储。它直接由亚马逊Dynamo数据库实现；在亚马逊S3产品中使用。

（4）OracleNoSQLDatabase：来自Oracle的键值NoSQL数据库。它支持事务ACID（原子性、一致性、持久性和独立性）和JSON。

（5）OracleNoSQLDatabase：具备数据备份和分布式键值存储系统。

（6）Voldemort：具备数据备份和分布式键值存储系统。

（7）Aerospike：Aerospike数据库是一个键值存储，支持混合内存架构，通过强一致性和可调一致性保证数据的完整性。

3、文档数据库：MongoDB、CouchDB、Perservere、Terrastore、RavenDB等，下面简单介绍几个

（1）MongoDB：开源、面向文档，也是当下最人气的NoSQL数据库。

（2）CounchDB：ApacheCounchDB是一个使用JSON的文档数据库，使用Javascript做MapRece查询，以及一个使用>

（3）Couchbase：NoSQL文档数据库基于JSON模型。

（4）RavenDB：RavenDB是一个基于NET语言的面向文档数据库。

（5）MarkLogic：MarkLogicNoSQL数据库用来存储基于XML和以文档为中心的信息，支持灵活的模式。

4、图数据库：Neo4J、InfoGrid、OrientDB、GraphDB，下面简单介绍几个

（1）Neo4j：Neo4j是一个图数据库；支持ACID事务（原子性、独立性、持久性和一致性）。

（2）：一个图数据库用来维持和遍历对象间的关系，支持分布式数据存储。

（3）：是结合使用了内存和磁盘，提供了高可扩展性，支持SPARQ、RDFS和Prolog推理。

5、内存数据网格：Hazelcast、OracleCoherence、TerracottaBigMemorry、GemFire、Infinispan、GridGain、GigaSpaces，下面简单介绍几个

（1）Hazelcast：HazelcastCE是一个开源数据分布平台，它允许开发者在数据库集群之上共享和分割数据。

（2）OracleCoherence：Oracle的内存数据网格解决方案提供了常用数据的快速访问能力，一致性支持事务处理能力和数据的动态划分。

（3）TerracottaBigMemory：来自Terracotta的分布式内存管理解决方案。这项产品包括一个Ehcache界面、Terracotta管理控制台和BigMemory-Hadoop连接器。

（4）GemFire：VmwarevFabricGemFire是一个分布式数据管理平台，也是一个分布式的数据网格平台，支持内存数据管理、复制、划分、数据识别路由和连续查询。

（5）Infinispan：Infinispan是一个基于Java的开源键值NoSQL数据存储，和分布式数据节点平台，支持事务，peer-to-peer及client/server架构。

（6）GridGain：分布式、面向对象、基于内存、SQLNoSQL键值数据库。支持ACID事务。

（7）GigaSpaces：GigaSpaces内存数据网格能够充当应用的记录系统，并支持各种各样的高速缓存场景。

目前大数据存储有两种方案可供选择：行存储和列存储

业界对两种存储方案有很多争持，集中焦点是:谁能够更有效地处理海量数据，且兼顾安全、可靠、完整性

从目前发展情况看，关系数据库已经不适应这种巨大的存储量和计算要求，基本是淘汰出局

在已知的几种大数据处理软件中，Hadoop的HBase采用列存储，MongoDB是文档型的行存储，Lexst是二进制型的行存储

在这里，我不讨论这些软件的技术和优缺点，只围绕机械磁盘的物理特质，分析行存储和列存储的存储特点，以及由此产生的一些问题和解决办法

大数据分析工具比较好的有Python数据分析、DataV数据分析、Cloudera数据分析、 MongoDBMongoDB数据分析、Talend数据分析等

1、Python数据分析

Python是一种面向对象、解释型计算机程序设计语言。Python语法简洁而清晰，阅读一个良好的Python程序就感觉像是在读英语一样。能够专注于解决问题而不是去搞明白语言本身。另外具有丰富和强大的类库，python能支持几乎所有统计分析和建模的工作。

2、DataV数据分析

DataV数据可视化是使用可视化大屏的方式来分析并展示庞杂数据的产品。DataV旨让更多的人看到数据可视化的魅力，帮助非专业的工程师通过图形化的界面轻松搭建专业水准的可视化应用，满足您会议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求。

3、Cloudera数据分析

Cloudera实际上是增加了一些额外服务的Hadoop，非常需要这个，因为大数据不容易搞。Cloudera的服务团队不仅可以帮助构建大数据集群，还可以帮助培训员工，更好地访问数据。

4、 MongoDBMongoDB数据分析

MongoDBMongoDB是最受欢迎的大数据数据库，因为适用于管理经常变化的数据：非结构化数据，大数据常常是非结构化数据。当下时代大数据分析是非常必要的，而MongoDBMongoDB数据分析也是做得非常好的。

5、Talend数据分析

Talend作为一家提供广泛解决方案的公司，Talend的产品围绕其集成平台而建，该平台集大数据、云、应用程序、实时数据集成、数据准备和主数据管理于一体。大数据集往往是非结构化、无组织的，因此需要某种清理或转换。当下，数据可能来自任何地方。

很多人都在知道，计算机行业的发展是非常迅速的，软件开发人员想要跟上时代的发展，最重要的就是不断挑战自己。

在学习软件开发的过程，前期学习的知识是远远不够的，需要了解更多的知识，并且挑战更多的复杂性。

现在学习Java语言不能忽略工具和框架的使用，工具和框架的构建越来越复杂。

很多人不知道学习工具和框架有什么用？下面盐城电脑培训为大家具体了解Java开发应该了解的大数据工具和框架。

一、MongoDB这是一种最受欢迎的，跨平台的，面向文档的数据库。

MongoDB的核心优势是灵活的文档模型，高可用性复制集和可扩展的碎片集群。

盐城java培训建议可以尝试以多种方式了解MongoDB，例如MongoDB工具的实时监控，内存使用和页面错误，连接，数据库 *** 作，复制集等。

二、Elasticsearch主要是能够为云构建的分布式RESTful搜索引擎。

Elasticsearch主要是使用在Lucene之中的服务器，能够进行分布式多用户能力的全文搜索引擎，并且还是使用在Java的开发中，这是现在很多企业中使用最流行的搜索引擎。

ElasticSearch不仅是一个全文搜索引擎，而且是一个分布式实时文档存储，每个字段都能够被索引并且可以被搜索。

它也是一个具有实时分析功能的分布式搜索引擎，java课程发现它还可以扩展到数百个服务器存储和处理数PB的数据。

三、Cassandra这是一个开源的分布式数据库管理系统，最初由Facebook开发，用于处理许多商用服务器上的大量数据，提供高可用性而无单点故障。

ApacheCassandra是一套开源分布式NoSQL数据库系统。

集GoogleBigTable的数据模型与AmazonDynamo的完全分布式架构于一身。

于2008开源，此后，由于Cassandra良好的可扩展性，被Digg、Twitter等Web20网站所采纳，成为了一种流行的分布式结构化数据存储方案。

四、Redis开源（BSD许可证）内存数据结构存储，用作数据库，缓存和消息代理。

Redis是一个开源的，基于日志的Key-Value数据库，用ANSIC编写，支持网络，可以基于内存持久化，并提供多种语言的API。

Redis有三个主要功能，盐城IT培训认为可以将它与许多其他竞争对手区分开来：Redis是一个将数据完全存储在内存中的数据库，仅使用磁盘用于持久性目的。

以上就是关于MongoDB是否适合数据仓库全部的内容，包括:MongoDB是否适合数据仓库、hadoop和mangoDb用作大数据分析哪个更好、大数据常用哪些数据库(什么是大数据库)等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！