大数据分析工具有哪些?

1、Hadoop

Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。

2、HPCC

HPCC，High Performance Computing and Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项目：高性能计算与 通信”的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国 实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆 比特网络技术，扩展研究和教育机构及网络连接能力。

3、Storm

Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。

4、Apache Drill

为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel

据Hadoop厂商MapR Technologies公司产品经理Tomer Shiran介绍，“Drill”已经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。

5、RapidMiner

RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。

6、Pentaho BI

Pentaho BI 平台不同于传统的BI 产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。

文 | 曾响铃

来源 | 科技 向令说（xiangling0815）

新基建浪潮下，作为底层支撑力量的数据与计算正变得越来越重要。

最近，由中国大数据与智能计算产业联盟主办，以“新算力 新基建 新经济”为主题的第二届中国超级算力大会ChinaSC在北京召开，包括国内外院士、知名学者和产业大咖在内的600多人参加，探讨了超级计算、新基建、云计算、大数据、人工智能、区块链等前沿技术进展。

这个奖项的颁出，官方给出的标准是，“能够把当前的各种技术有机的整合在一起，以满足不同应用场景下的各种综合的软硬件及系统方案，集科学性、先进性、稳定性、经济性等众多实际指标于一身，是技术转变为实际应用的关键环节。”

显然，这个权威奖项最关心的，是大数据解决方案在推动技术向实际应用转变的能力，而这也正是当下市场环境对大数据的核心需求。笔者尝试拆解鲲鹏大数据解决方案从宏观到 *** 作层面的布局，希望能给予相关从业者这方面的行业借鉴。

技术竞赛不停， 但大数据需求转向应用落地

数据的价值越来越明显，更好地释放数据价值的技术在不断演化，但是，随着更多政企组织开始着手利用大数据能力帮助现实业务提升，其需求也开始更多倾向于技术能否更好地实现应用落地，大数据解决方案正是为此而生。

以鲲鹏为案例，在推动技术落地的过程中，其大数据解决方案表现出符合时代需要的三大特征，让它在新趋势下占据领先优势，受到客户广泛欢迎并获得ChinaSC权威认可。

1、超高性能仍然是应用落地的最有力支撑

大数据解决方案要推动技术实现各种场景的落地，其前提和支撑，是底层软硬件性能本身要足够强悍，否则，再完善和深度的解决方案，没有性能支撑也只能是空中楼阁。

而也只有性能足够强悍，在应用落地阶段才能够尽可能去满足客户各类数据价值需求。

得益于底层软硬件能力的深度开发，鲲鹏大数据解决方案就拥有超高性能，为应用做好了充分的准备以及支撑。

例如，硬件方面，采用自主研发高性能鲲鹏920处理器，软件方面，则拥有在大数据场景下获得倍级性能提升的独创IO智能预取和Spark机器学习&图增强算法。

以鲲鹏与浙江移动的合作为例，2019年，浙江移动相继完成了IT云鲲鹏服务器测试，营业厅前台系统、CRM、计费、大数据、CDN等系统的验证及上线商用。这其中，浙江移动的CRM&BOSS系统在鲲鹏大数据方案支撑下，整体得到了较大提升，在规模承载网络运营支撑业务的情况下，该系统现在已经稳定运行一年。

目前，浙江移动围绕网络云，IT云和移动云，已经打造了全球首个运营商领域ICT全场景样板点。

2、全栈方案才能推动技术全面落地

解决方案本身并不是一种具体的技术，其价值在于各种技术的有效融汇，作为统一的输出方式面向政企客户。而在政企客户需求日益加深的情况下，尽可能满足多种场景、多种技术诉求的解决方案，就必须建立一套尽可能完善的全栈体系，将各种技术有机地、系统地、全面地整合在一起。

这正是华为鲲鹏大数据解决方案的体系构成，其基于鲲鹏处理器，构建了端到端打通硬件、 *** 作系统、中间件、大数据软件的全栈体系，并对应进行了全栈性能优化，推动各类技术汇聚成高性能解决方案：

可以看到，这套全栈体系，一方面通过有机整合，能够较为容易地同时满足科学性、先进性、稳定性、经济性等需求（例如，加速特性和大数据组件能够帮助方案更有效率同时成本更低）；另一方面，作为全面、完整、一体化的信息化解决方案，也更容易去适应政府、金融、电信、互联网、大企业等不同行业应用需求。

从技术到应用落地，“全栈”成为重要的中间转换环节，不但“无损”，而且“增益”。

3、符合政企个性化需求让技术落地更具现实价值

在最终面向单个客户落地时，大数据解决方案还需要真正贴合这个客户的实际需要，这是从技术到应用落地的“临门一脚”，毕竟，不论性能如何强悍，全栈体系如何完善灵活，落实到客户头上，最终还是需要符合业务实际，产生现实价值。

既要有能力，更需要契合，鲲鹏大数据解决方案就是这么做的。

2019年，江苏省基于鲲鹏架构打造了全国首个省区市县三级政务大数据，未来将有越来越多的政务系统可以由自主可靠的鲲鹏计算平台来承载；

在广西，区内首个鲲鹏产业生态云项目——“壮美广西·玉林政务云（鲲鹏云）”已于不久前上线，这是该市全面推广应用广西数字政务一体化平台的体现，而其推出的广西首个市级公共数据开放管理办法，就与鲲鹏的大数据解决方案紧密相关；

目光转到浙江，在鲲鹏生态落子浙江的过程中，浙江推动形成“用鲲鹏”的共识，城市被当成鲲鹏生态的“试验场”，杭州市政务云已经选用鲲鹏作为算力底座，基于鲲鹏技术架构的解决方案和应用在政府服务场景中得到广泛应用。

总得看来，仅有高高在上的技术而无法产生实际价值的大数据玩法已经行不通，鲲鹏大数据解决方案跨越技术与应用的鸿沟，已经在众多行业、场景和企业中实现落地。

电信行业三巨头中，中国移动已实现鲲鹏大数据解决方案规模商用，中国电信则基于鲲鹏打造了天翼云，中国联通则基于鲲鹏构建了天宫IT系统；政务方面，北京、广东、江苏、浙江、广西等政务云都出现鲲鹏身影，当下其已经成为首选技术路线；在金融行业，鲲鹏正在帮助银行系统加速完成国产化。

可以说，鲲鹏大数据解决方案有力推动了中国数字经济发展，尤其是信息技术应用创新的落地。

领先优势下， 鲲鹏三个角度出发为大数据技术落地“铺路”

1、走得更稳——回应数字时代重要的安全关切

因此，鲲鹏大数据解决方案在安全方面一直加大投入，最典型的，是在底层硬件而非软件层面进行安全保障——鲲鹏920处理器内置硬件加速、业界首创支持国密算法加速，这种CPU内置加速模块的做法，被称作“内生安全”，配合国密算法在技术上更为安全。

而与通常的大数据解决方案为了保证安全不得不让渡较多的性能随时监控系统运行不同，华为鲲鹏大数据解决方案内生安全的做法，做到了加密对业务性能的损耗低于5%——既解决安全痛点问题，也解决“为了安全需要”本身导致的痛点问题。

2、走得更顺——用兼容性保护既有数据软硬件投资

前文提到政务云大数据解决方案中，与现有的服务器的混合部署，这其中有一个十分重要的兼容性做法——由于鲲鹏大数据解决方案建立在鲲鹏处理器基础之上，而很多政企组织原有的软硬件投资都基于X86架构，所以鲲鹏要让技术的应用落地走得更顺，还需要在技术上完成对X86在部署层面的兼容，这样还能保护政企客户现有的数字化投资。

可以看到，当下的鲲鹏方案已经支持大数据组件TaiShan服务器与其他架构服务器混合部署。

以江苏电信为例，去年7月，其宣布成功上线全球首个基于鲲鹏处理器的运营商大数据平台。作为核心的业务系统，该大数据平台基于鲲鹏处理器的华为TaiShan服务器和开源Hadoop软件构建，承载着江苏电信所有生产系统的运行数据、存储及分析：

在项目进行过程中，双方携手完成基于鲲鹏处理器的开源Hadoop源代码编译，让关键的大数据业务组件在华为TaiShan服务器上的成功部署和运行，在原有集群上实现了传统架构服务器和TaiShan服务器融合部署。

这种兼容的做法，有效结合了江苏电信大数据业务特点和未来演进趋势，且充分发挥鲲鹏处理器的性能，提高了数据存储、计算等资源的使用效率。

3、走得更宽——生态开放才能让大数据拥有内生动力

鲲鹏生态的主要推动者华为一直强调的理念是“硬件开放、软件开源、使能合作伙伴”，在大数据解决方案中，这种理念同样得到了应用。

例如，在鲲鹏全栈方案中，顶层大数据平台就支持华为自研的FusionInsight大数据平台以及开源Apache、开源HDP/CDH、星环大数据平台，可以有效对接各类场景需要。今年8月，星环 科技 就发布了基于鲲鹏的大数据平台软硬件联合解决方案，由星环 科技 的TDH大数据平台提供软件层面优异的功能，由鲲鹏芯片提供硬件层面强大的性能，拥有极致性能、平滑迁移、丰富的场景支持以及快速部署多重优势，为行业创造价值。

此外，鲲鹏主导的数据虚拟化引擎openLooKeng开源，就支持跨数据格式、跨数据源、跨数据中心的海量分析，最终帮助方案的性能大幅度提升，典型的如北明数据资产管理平台V40就基于openLooKeng技术，解决了数据资产管理数据冗杂、标准不一、难以管理等痛点问题，为企业守护和挖掘数据的价值。

开放的生态，将帮助更多合作伙伴发展服务器和PC等计算产品，帮助构建高质量的基础软件生态，也让更多生态伙伴获得端、边、云的全场景开发能力，最终促进鲲鹏计算生态的繁荣，也加速大数据行业应用创新。

打好基础、做好标杆， 鲲鹏进入“强者恒强”周期

弥合技术与应用落地的鸿沟后，鲲鹏大数据解决方案拥有越来越多的政企实践，它们中大多数都是行业典型客户，本身既是大数据发展过程中的优质案例。

拥有这些客户资源的鲲鹏，实际上已经进入了强者恒强的发展周期，这不仅仅是因为它获得了诸多标杆合作案例、领先于行业，更重要的还在于，技术到应用实践的通路打通后，实践也将不断反馈技术，不断帮助鲲鹏锤炼自身的技术能力，从而形成有效的正反馈循环。

一旦这种循环形成，大数据解决方案就会进入“飞轮”式发展进程，越转越快、越难以停下，也很难以被后进者追赶，逐步成为政企客户最有竞争优势的选择。

更进一步来看，大数据服务从来都不是孤立存在的，在计算需求多样化的时代，鲲鹏计算产业生态的主要推动者华为在物联网、5G、AI等方面的能力和生态布局，无疑将帮助鲲鹏大数据解决方案有更多横向技术连接和融合的想象空间，满足更多政企客户潜在的创新业务需求。

总而言之，在以鲲鹏大数据解决方案为代表的优质案例引领下，数据与计算的时代正在加速到来，最终，“新算力”将推动“新基建”全面落地，带来“新经济”动能，更多政企客户将享受到技术带来的价值红利。

本文均来源于网络

完

曾响铃

1钛媒体、品途、人人都是产品经理等多家创投、 科技 网站年度十大作者；

2虎啸奖评委；

3作家：移动互联网+ 新常态下的商业机会等畅销书作者；

4《中国经营报》《商界》《商界评论》《销售与市场》等近十家报刊、杂志特约评论员；

5钛媒体、36kr、虎嗅、界面、澎湃新闻等近80家专栏作者；

6“脑艺人”（脑力手艺人）概念提出者，现演变为“自媒体”，成为一个行业；

7腾讯全媒派荣誉导师、多家 科技 智能公司传播顾问。

提供海量数据存储和计算的。需要java语言基础。

Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序。

Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，而MapReduce则为海量的数据提供了计算。

扩展资料

Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。能够对大量数据进行分布式处理的软件框架Hadoop 以一种可靠、高效、可伸缩的方式进行数据处理。

Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。

参考资料：

百度百科-Hadoop

---