如何在海量数据环境下,搭建分布式数据库系统

如何在海量数据环境下,搭建分布式数据库系统,第1张

如果做分布式的话,首先需要对数据做个有效的划分, 可以通过地区属性或者其他类似属性做水平扩展,把不同地域的数据放在不同数据库上。 但是这种水平分割应当尽量避免跨区的访问。或者设计一个数据中心,把各个区中和报表相关的汇总数据抽取到仓库里面去,提供报表。

这样的做法在联机游戏中非常常见,比如魔兽世界,fifa on line等

或者做垂直分割,根据时间或者类似属性把数据分割到不同数据库上去,基本架构是一台在用服务器支持读写 *** 作,几台历史服务器提供数据查询,一些转储脚本定期把数据从在用服务器迁移到历史服务器上去

随着通信技术的不断发展迭代,网速更快、资费更低,手机更丰富的应用功能。计费系统的话单量以几何倍数快速增长,对于计费系统性能同步提升的要求越来越高。高速汇聚的海量信息,让计费系统面临着三大挑战:数据存取速度、并发访问难题、系统可靠性。

AntDB能够高效应对通信行业的海量业务数据,加速提升企业核心交易的数据价值,其主要的系统能力提升,可归纳为以下三点:

其一,快速处理海量数据。AntDB内存型数据库区别于传统基于磁盘的数据库系统,能够不访问磁盘直接访问数据,从而获得10至10000倍的极高存取速度。

其二,基于数字化场景的在线服务、客户管理、计费查询等OLTP类(在线事务处理)业务,对数据库的并发访问能力有较高的要求。AntDB数据库具备良好的分布式d性扩展能力,接近于1的线性扩展比,可以在普通PC上实现PB级别的数据管理,而不牺牲单机的性能。

之后,AntDB数据库通过持续的技术创新与研发投入,在高可用性与安全性方面,从业务型恢复演进到标准事务型恢复,引入了磁盘持久化与事务能力,并支持完整的分布式事务ACID特性;其内核也慢慢突破了纯内存的结构,成为一套独立的数据管理系统。

正如上述,在国土资源遥感综合调查信息中,既包含有多源、多时相、多尺度、多分辨率、多类型的遥感图像数据和基础地理数据,也包括在项目开展过程中衍生的许多观测和分析资料,数据量十分庞大。因此,根据数据共享的要求,在数据生产、管理、应用服务以及更新和维护过程中,如何组织和管理好这些海量数据,如何快速、全面有效地访问和获得所需数据,成为面临的突出问题。在这里,采用何种方式利用现有的大型商业化关系数据库系统高效地存储与管理这些数据,成为能否发挥系统最大性能的关键所在。

传统的GIS系统对空间数据(与空间位置、空间关系有关的数据)的存储与管理大多采用这些商业软件特定的文件方式,如:ArcInfo的Coverage、MapInfo的Tab、MAPGIS的WL等。如果数据量越多,这些文件就会越大,数据的处理就会越复杂,其存储、检索、管理也就越困难,而且其最大的缺点还在于不能进行多用户并发 *** 作。由此可见,用以往传统的存储机制去管理像遥感综合调查这样的海量数据,显然难以满足要求。而近年来发展起来的空间数据库引擎技术则是解决海量数据存储管理的途径之一。

本系统建设过程中,采用了空间数据库引擎ArcSDE+大型关系数据库Oracle组合技术,较理想地实现了遥感综合调查海量数据的存储、检索、查询、处理。众所周知,Oracle提供了大型数据库环境,能够很好地处理海量数据,而ArcSDE可将具有地理特征的空间数据和非空间数据统一加载到Oracle中去,因此,通过ArcSDE空间数据库引擎,可将Oracle海量数据管理功能加载到GIS系统中,并可利用Oracle的强大管理机制进行高效率的事务处理、记录锁定、并发控制等服务 *** 作。

以上就是关于如何在海量数据环境下,搭建分布式数据库系统全部的内容,包括:如何在海量数据环境下,搭建分布式数据库系统、AntDB数据库是如何应对运营商系统的海量数据,为企业提供数据价值的、 海量数据存储与管理等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/sjk/9672283.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-30
下一篇 2023-04-30

发表评论

登录后才能评论

评论列表(0条)

保存