数据库如何水平切分

数据库如何水平切分,第1张

垂直切分,比方说一个表,有100个字段,可能分成2张表,各50个字段(随便一说,具体怎么分是要根据实际情况来的。)这两张表一对一的关系。比如说User, UserProfile, UserProfileDetail.

水平切分,比方说这张表已经有1,000,000条记录了,严重影响查询速度,必须按照一定规则切分成几张表,比如说根据时间,最新的记录10,000条记录在一张表里,其他表各100,000。或者根据某个枚举字段来分都是有可能的。通常不是手动分,象Sql Server,以前自己写脚本去分。2005之后有了分区表技术。这方面你可以根据需要去看一下MSDN。

水平切分估计是指按照时间切分,垂直切分是指按照设备ID切分,这样切分后,设备的状态日志会以记录的形式存储在不同的数据文件中,数据库对这些文件的访问可以通过设备ID和时间快速地查找到。而且应用中只是存储日志数据,不需要进行频繁的实时查询和统计,所以基本上数据库的任务就是接收数据,写入到文件中,文件对应的分片满了就再创建新的分片文件。这样整体的性能没有任何变化,系统的负载也是维持在一个常量的水平。

如果要对日志进行统计和分析,则会随着日志数量增加,性能显著下降,但这里没有这样的需求,即使有,也是用另外一组离线分析服务器进行处理。

1

基本思想之什么是分库分表?

从字面上简单理解,就是把原本存储于一个库的数据分块存储到多个库上,把原本存储于一个表的数据分块存储到多个表上。

2

基本思想之为什么要分库分表?

数据库中的数据量不一定是可控的,在未进行分库分表的情况下,随着时间和业务的发展,库中的表会越来越多,表中的数据量也会越来越大,相应地,数据 *** 作,增删改查的开销也会越来越大;另外,由于无法进行分布式式部署,而一台服务器的资源(cpu、磁盘、内存、io等)是有限的,最终数据库所能承载的数据量、数据处理能力都将遭遇瓶颈。

3

分库分表的实施策略。

分库分表有垂直切分和水平切分两种。

3.1

何谓垂直切分,即将表按照功能模块、关系密切程度划分出来,部署到不同的库上。例如,我们会建立定义数据库workdb、商品数据库paydb、用户数据库userdb、日志数据库logdb等,分别用于存储项目数据定义表、商品定义表、用户数据表、日志数据表等。

3.2

何谓水平切分,当一个表中的数据量过大时,我们可以把该表的数据按照某种规则,例如userid散列,进行划分,然后存储到多个结构相同的表,和不同的库上。例如,我们的userdb中的用户数据表中,每一个表的数据量都很大,就可以把userdb切分为结构相同的多个userdb:part0db、part1db等,再将userdb上的用户数据表usertable,切分为很多usertable:usertable0、usertable1等,然后将这些表按照一定的规则存储到多个userdb上。

3.3

应该使用哪一种方式来实施数据库分库分表,这要看数据库中数据量的瓶颈所在,并综合项目的业务类型进行考虑。

如果数据库是因为表太多而造成海量数据,并且项目的各项业务逻辑划分清晰、低耦合,那么规则简单明了、容易实施的垂直切分必是首选。

而如果数据库中的表并不多,但单表的数据量很大、或数据热度很高,这种情况之下就应该选择水平切分,水平切分比垂直切分要复杂一些,它将原本逻辑上属于一体的数据进行了物理分割,除了在分割时要对分割的粒度做好评估,考虑数据平均和负载平均,后期也将对项目人员及应用程序产生额外的数据管理负担。

在现实项目中,往往是这两种情况兼而有之,这就需要做出权衡,甚至既需要垂直切分,又需要水平切分。我们的游戏项目便综合使用了垂直与水平切分,我们首先对数据库进行垂直切分,然后,再针对一部分表,通常是用户数据表,进行水平切分。

4

分库分表存在的问题。

4.1

事务问题。

在执行分库分表之后,由于数据存储到了不同的库上,数据库事务管理出现了困难。如果依赖数据库本身的分布式事务管理功能去执行事务,将付出高昂的性能代价;如果由应用程序去协助控制,形成程序逻辑上的事务,又会造成编程方面的负担。

4.2

跨库跨表的join问题。

在执行了分库分表之后,难以避免会将原本逻辑关联性很强的数据划分到不同的表、不同的库上,这时,表的关联 *** 作将受到限制,我们无法join位于不同分库的表,也无法join分表粒度不同的表,结果原本一次查询能够完成的业务,可能需要多次查询才能完成。

4.3

额外的数据管理负担和数据运算压力。

额外的数据管理负担,最显而易见的就是数据的定位问题和数据的增删改查的重复执行问题,这些都可以通过应用程序解决,但必然引起额外的逻辑运算,例如,对于一个记录用户成绩的用户数据表usertable,业务要求查出成绩最好的100位,在进行分表之前,只需一个order

by语句就可以搞定,但是在进行分表之后,将需要n个order

by语句,分别查出每一个分表的前100名用户数据,然后再对这些数据进行合并计算,才能得出结果。

上述整理于互联网


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/10032782.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-04
下一篇 2023-05-04

发表评论

登录后才能评论

评论列表(0条)

保存