分布式数据库的分布式数据库相对传统集中式数据库的优点

分布式数据库的分布式数据库相对传统集中式数据库的优点,第1张

数据时代,面对日益增长的海量数据,传统的集中式数据库的弊端日益显现,分布式数据库相对传统的集中式数据库有如下优点。

● 更高的数据访问速度:分布式数据库为了保证数据的高可靠性,往往采用备份的策略实现容错,所以,在读取数据的时候,客户端可以并发地从多个

备份服务器同时读取,从而提高了数据访问速度。

● 更强的可扩展性:分布式数据库可以通过增添存储节点来实现存储容量的线性扩展,而集中式数据库的可扩展性十分有限。

● 更高的并发访问量:分布式数据库由于采用多台主机组成存储集群,所以相对集中式数据库,它可以提供更高的用户并发访问量。

大数据存储与应用特点及技术路线分析

大数据时代,数据呈爆炸式增长。从存储服务的发展趋势来看,一方面,对数据的存储量的需求越来越大;另一方面,对数据的有效管理提出了更高的要求。大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求,需要充分考虑功能集成度、数据安全性、数据稳定性,系统可扩展性、性能及成本各方面因素。

大数据存储与应用的特点分析

“大数据”是由数量巨大、结构复杂、类型众多数据构成的数据集合,是基于云计算的数据处理与应用模式,通过数据的整合共享,交叉复用形成的智力资源和知识服务能力。其常见特点可以概括为3V:Volume、Velocity、Variety(规模大、速度快、多样性)。

大数据具有数据规模大(Volume)且增长速度快的特性,其数据规模已经从PB级别增长到EB级别,并且仍在不断地根据实际应用的需求和企业的再发展继续扩容,飞速向着ZB(ZETA-BYTE)的规模进军。以国内最大的电子商务企业淘宝为例,根据淘宝网的数据显示,至2011年底,淘宝网最高单日独立用户访问量超过12亿人,比2010年同期增长120%,注册用户数量超过4亿,在线商品数量达到8亿,页面浏览量达到20亿规模,淘宝网每天产生4亿条产品信息,每天活跃数据量已经超过50TB所以大数据的存储或者处理系统不仅能够满足当前数据规模需求,更需要有很强的可扩展性以满足快速增长的需求。

(1)大数据的存储及处理不仅在于规模之大,更加要求其传输及处理的响应速度快(Velocity)。

相对于以往较小规模的数据处理,在数据中心处理大规模数据时,需要服务集群有很高的吞吐量才能够让巨量的数据在应用开发人员“可接受”的时间内完成任务。这不仅是对于各种应用层面的计算性能要求,更加是对大数据存储管理系统的读写吞吐量的要求。例如个人用户在网站选购自己感兴趣的货物,网站则根据用户的购买或者浏览网页行为实时进行相关广告的推荐,这需要应用的实时反馈;又例如电子商务网站的数据分析师根据购物者在当季搜索较为热门的关键词,为商家提供推荐的货物关键字,面对每日上亿的访问记录要求机器学习算法在几天内给出较为准确的推荐,否则就丢失了其失效性;更或者是出租车行驶在城市的道路上,通过GPS反馈的信息及监控设备实时路况信息,大数据处理系统需要不断地给出较为便捷路径的选择。这些都要求大数据的应用层可以最快的速度,最高的带宽从存储介质中获得相关海量的数据。另外一方面,海量数据存储管理系统与传统的数据库管理系统,或者基于磁带的备份系统之间也在发生数据交换,虽然这种交换实时性不高可以离线完成,但是由于数据规模的庞大,较低的数据传输带宽也会降低数据传输的效率,而造成数据迁移瓶颈。因此大数据的存储与处理的速度或是带宽是其性能上的重要指标。

(2)大数据由于其来源的不同,具有数据多样性的特点。

所谓多样性,一是指数据结构化程度,二是指存储格式,三是存储介质多样性。对于传统的数据库,其存储的数据都是结构化数据,格式规整,相反大数据来源于日志、历史数据、用户行为记录等等,有的是结构化数据,而更多的是半结构化或者非结构化数据,这也正是传统数据库存储技术无法适应大数据存储的重要原因之一。所谓存储格式,也正是由于其数据来源不同,应用算法繁多,数据结构化程度不同,其格式也多种多样。例如有的是以文本文件格式存储,有的则是网页文件,有的是一些被序列化后的比特流文件等等。所谓存储介质多样性是指硬件的兼容,大数据应用需要满足不同的响应速度需求,因此其数据管理提倡分层管理机制,例如较为实时或者流数据的响应可以直接从内存或者Flash(SSD)中存取,而离线的批处理可以建立在带有多块磁盘的存储服务器上,有的可以存放在传统的SAN或者NAS网络存储设备上,而备份数据甚至可以存放在磁带机上。因而大数据的存储或者处理系统必须对多种数据及软硬件平台有较好的兼容性来适应各种应用算法或者数据提取转换与加载(ETL)。

大数据存储技术路线最典型的共有三种:

第一种是采用MPP架构的新型数据库集群,重点面向行业大数据,采用Shared Nothing架构,通过列存储、粗粒度索引等多项大数据处理技术,再结合MPP架构高效的分布式计算模式,完成对分析类应用的支撑,运行环境多为低成本 PC Server,具有高性能和高扩展性的特点,在企业分析类应用领域获得极其广泛的应用。

这类MPP产品可以有效支撑PB级别的结构化数据分析,这是传统数据库技术无法胜任的。对于企业新一代的数据仓库和结构化数据分析,目前最佳选择是MPP数据库。

第二种是基于Hadoop的技术扩展和封装,围绕Hadoop衍生出相关的大数据技术,应对传统关系型数据库较难处理的数据和场景,例如针对非结构化数据的存储和计算等,充分利用Hadoop开源的优势,伴随相关技术的不断进步,其应用场景也将逐步扩大,目前最为典型的应用场景就是通过扩展和封装 Hadoop来实现对互联网大数据存储、分析的支撑。这里面有几十种NoSQL技术,也在进一步的细分。对于非结构、半结构化数据处理、复杂的ETL流程、复杂的数据挖掘和计算模型,Hadoop平台更擅长。

第三种是大数据一体机,这是一种专为大数据的分析处理而设计的软、硬件结合的产品,由一组集成的服务器、存储设备、 *** 作系统、数据库管理系统以及为数据查询、处理、分析用途而特别预先安装及优化的软件组成,高性能大数据一体机具有良好的稳定性和纵向扩展性。

以上是小编为大家分享的关于大数据存储与应用特点及技术路线分析的相关内容,更多信息可以关注环球青藤分享更多干货

说到数据分析,其实随着大数据这几年的发展,数据被认为是物理与信息融合中的关键技术,以及核心引擎。各行各业都在马不停蹄、轰轰烈烈地迈入了大数据时代。传统行业与互联网行业的界限开始发展交集和互补、渗透,传统的制造业再也不是闷头生产+再销售的模式,而是更多地聆听市场的声音,市场需要什么,消费终端就会相对应的给予其更多的多样化、个性化。

目前来看,两者的主要区别还处在以下几点:

一: 结构化数据和非结构化数据

传统行业更多的是结构化数据, 即行数据,存储在数据库里,可以用二维表结构来逻辑表达实现的数据,像以应用oracle、Sql Server等数据库的制造型企业的ERP系统。而互联网行业更多的是非结构化数据,就是不能以二维形态描述的,例如所有格式的办公文档、文本、、XML、HTML、各类报表、图像和音频/视频信息等等,像是医疗影像系统、教育视频点播、视频监控、国土GIS、设计院、文件服务器(PDM/FTP)、媒体资源管理等具体应用。

二:数据的体量

互联网行业海量的数据,由于互联网行业的特点,每时每刻都会产生海量的数据,它的数据往往是PB级的,1个PB有多大呢?它相当于2的50次方个字节。如果你对此没有概念,那么简单来说,《史记》约有52万多汉字,1个PB能够存储至少10亿部《史记》,以百度、腾讯、阿里为代表的企业。传统的一个生产制造工厂三个月制造的数据也不到100G。这是天大的一个差别。

三:看待数据的方式及数据分析目的不同

互联网行业会对这些海量的数据做数据分析,挖掘,无论是过去的数据还是即时的数据,数据不再是静止和陈旧的,任何被遗忘在服务器中的数据,都可能被重新利用,从而发现其中与我们、与行为、与现象的相关性,比如每逢“双十一”,“剁手党”都面临痛苦的抉择:打折的商品实在太多,买什么才好呢?最终一不小心,xyk刷爆,买了一大堆自己不需要的商品,只得含泪吃半年的“康师傅”…

谷歌公司每天都会收到来自全球超过30亿条的搜索指令,经过多年数据的累计,谷歌公司建立了“咳嗽”,“发热”等搜索关键字与流感地区的联系,于是在2009年谷歌成功地在美国预测了冬季流感的传播,并且精确到地区和州等等。而传统行业则不会过多去关注过去的数据,一般月底会盘点,出一些财务的数据分析报表,历史的数据会存放于备份库里,有问题才会去查找。

四:数据查找的效率及安全性

互联网行业往往存储着用户的个人行为信息,他要求保证绝对的安全或者准确性,比如12306,每到年底,面临数亿人迁徙的购票压力,在临近春节购票高峰峰值的时候,它的要求绝对是用户打开网页的速度可以慢一点没关系,但是要保证用户购票信息的绝对安全。如果用户付款购买了一张高铁动车票,你那边没收到钱款,那面对着上亿人的购票钱款,这个绝对是要出大问题的。

而传统行业没有那么大的数据量和访问量,往往解决好并发,死锁等等问题,保证系统的高可靠性和稳定性,偶尔也会发生丢失一条采购记录或者生产记录的问题,由于一般用户都会除了系统录入以外,还会纸质的记录,那么这个也是可以被容忍的

五:大数据技术快速获取有价值的信息

基于以上互联网行业的特点,当数据量不断增大时,也随之带来了一系列的问题。

比如假设解决某一问题有算法A 和算法B。在小量数据中运行时,算法A的结果明显优于算法B。也就是说,就算法本身而言,算法A能够带来更好的结果;然而,人们发现,当数据量不断增大时,算法B在大量数据中运行的结果优于算法A在小量数据中运行的结果。这一发现给计算机学科及计算机衍生学科都带来了里程碑式的启示:当数据越来越大时,数据本身(而不是研究数据所使用的算法和模型)保证了数据分析结果的有效性。即便缺乏精准的算法,只要拥有足够多的数据,也能得到接近事实的结论。

由于能够处理多种数据结构,大数据能够在最大程度上利用互联网上记录的人类行为数据进行分析。大数据出现之前,计算机所能够处理的数据都需要前期进行结构化处理,并记录在相应的数据库中。但大数据技术对于数据结构的要求大大降低,互联网上人们留下的社交信息、地理位置信息、行为习惯信息、偏好信息等各种维度的信息都可以实时处理,立体完整地勾勒出每一个个体的各种特征。

一个公司创造的大量非结构化和半结构化数据,这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱,大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。简言之,从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。简单来说,大数据需要Hadoop=HDFS(文件系统,数据存储技术相关)+HBase(数据库)+MapReduce(数据处理)+……Others这样的分布式存储,分布式处理大数据架构,而不仅仅是传统的磁盘阵列数据存储处理方式。

互联网极大地改变了人们的生活,大量、高速、多变的信息每天都围绕在人们身边,我们需要更好的处理方式,去应对这种随时随地的变化。大数据技术将深远地改变互联网世界,改变整个生产生活的方式。随着技术的发展,大数据分析正在变得越来越容易,成本也越来越低,而且相比以前能更容易加速对业务的理解,越来越多的人开始进入大数据与数据分析行列,准备在这里干出自己的一番事业。

编辑于 2019-10-21

前端:展现层,也就是使用者能看到的东西,比如一个网页,你能看到的东西都属于前端,像文字、、布局等等。也就是展现给人们看的

后台:逻辑处理,比如你进行登录,你输入账号密码后点击登录按钮,服务器会对你输入的数据与原数据进行对比,如果一致就表示登录成功,让你的登录界面发生改变,而这个过程使用者是看不到的,使用者能看到的东西就是点登录按钮之后要么说密码错误要么登录成功。后台就是使用者看不到的数据运算

UI:User Interface,用户界面,其实就是前端

大数据:这个跟普通的编程不一样,大数据指的是海量的、不能用传统数据库软件和方法统计分析的数据集合,从事这方面需要很强的数据库知识,而这是基本的,大数据主要还是分析

前端后台都是传统意义上的编程行业,大数据着重的是数据分析处理为决策提供数据支持和建议

以上就是关于分布式数据库的分布式数据库相对传统集中式数据库的优点全部的内容,包括:分布式数据库的分布式数据库相对传统集中式数据库的优点、大数据存储与应用特点及技术路线分析、传统行业的数据分析有什么优势吗等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/10191236.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-06
下一篇 2023-05-06

发表评论

登录后才能评论

评论列表(0条)

保存