Mysql学习MySQL中分页优化的实例详解

Mysql学习MySQL中分页优化的实例详解,第1张

概述介绍《Mysql学习MySQL中分页优化实例详解》开发教程,希望对您有用。

《MysqL学习MysqL中分页优化的实例详解》要点:
本文介绍了MysqL学习MysqL中分页优化的实例详解,希望对您有用。如果有疑问,可以联系我们。

通常,我们会采用ORDER BY liMIT start,offset 的方式来进行分页查询.例如下面这个sql:MysqL教程

SELECT * FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 100,10;

或者像下面这个不带任何条件的分页sql:MysqL教程

SELECT * FROM `t1` ORDER BY ID DESC liMIT 100,10;

一般而言,分页sql的耗时随着 start 值的增加而急剧增加,我们来看下面这2个不同起始值的分页sql执行耗时:MysqL教程

yejr@iMysqL.com> SELECT * FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 500,10;…10 rows in set (0.05 sec)yejr@iMysqL.com> SELECT * FROM `t1` WHERE ftype=6 ORDER BY ID DESC liMIT 935500,10;…10 rows in set (2.39 sec)

可以看到,随着分页数量的增加,SQL查询耗时也有数十倍增加,显然不科学.今天我们就来分析下,如何能优化这个分页方案. 一般滴,想要优化分页的终极方案就是:没有分页,哈哈哈~~~,不要说我讲废话,确实如此,可以把分页算法交给Sphinx、Lucence等第三方解决方案,没必要让MysqL来做它不擅长的事情. 当然了,有小伙伴说,用第三方太麻烦了,我们就想用MysqL来做这个分页,咋办呢?莫急,且待我们慢慢分析,先看下表DDL、数据量、查询sql的执行计划等信息:MysqL教程

yejr@iMysqL.com> SHOW CREATE table `t1`;CREATE table `t1` ( `ID` int(10) unsigned NOT NulL auto_INCREMENT,... `ftype` tinyint(3) unsigned NOT NulL,... PRIMARY KEY (`ID`)) ENGINE=InnoDB DEFAulT CHARSET=utf8;yejr@iMysqL.com> select count(*) from t1;+----------+| count(*) |+----------+| 994584 |+----------+yejr@iMysqL.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 500,10\G*************************** 1. row *************************** ID: 1 select_type: SIMPLE table: t1 type: indexpossible_keys: NulL key: PRIMARY key_len: 4 ref: NulL rows: 510 Extra: Using whereyejr@iMysqL.com> EXPLAIN SELECT * FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 935500,10\G*************************** 1. row *************************** ID: 1 select_type: SIMPLE table: t1 type: indexpossible_keys: NulL key: PRIMARY key_len: 4 ref: NulL rows: 935510 Extra: Using where

可以看到,虽然通过主键索引进行扫描了,但第二个sql需要扫描的记录数太大了,而且需要先扫描约935510条记录,然后再根据排序结果取10条记录,这肯定是非常慢了. 针对这种情况,我们的优化思路就比较清晰了,有两点:MysqL教程

1、尽可能从索引中直接获取数据,避免或减少直接扫描行数据的频率
2、尽可能减少扫描的记录数,也就是先确定起始的范围,再往后取N条记录即可MysqL教程

据此,我们有两种相应的改写方法:子查询、表连接,即下面这样的:MysqL教程

#采用子查询的方式优化,在子查询里先从索引获取到最大ID,然后倒序排,再取10行结果集
#注意这里采用了2次倒序排,因此在取liMIT的start值时,比原来的值加了10,即935510,否则结果将和原来的不一致
MysqL教程

yejr@iMysqL.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE ID > ( SELECT ID FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 935510,1) liMIT 10) t ORDER BY ID DESC\G*************************** 1. row *************************** ID: 1 select_type: PRIMARY table: <derived2> type: ALLpossible_keys: NulL key: NulL key_len: NulL ref: NulL rows: 10 Extra: Using filesort*************************** 2. row *************************** ID: 2 select_type: DERIVED table: t1 type: ALLpossible_keys: PRIMARY key: NulL key_len: NulL ref: NulL rows: 973192 Extra: Using where*************************** 3. row *************************** ID: 3 select_type: SUBquery table: t1 type: indexpossible_keys: NulL key: PRIMARY key_len: 4 ref: NulL rows: 935511 Extra: Using where
#采用INNER JOIN优化,JOIN子句里也优先从索引获取ID列表,然后直接关联查询获得最终结果,这里不需要加10yejr@iMysqL.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT ID FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 935500,10) t2 USING (ID)\G*************************** 1. row *************************** ID: 1 select_type: PRIMARY table: <derived2> type: ALLpossible_keys: NulL key: NulL key_len: NulL ref: NulL rows: 935510 Extra: NulL*************************** 2. row *************************** ID: 1 select_type: PRIMARY table: t1 type: eq_refpossible_keys: PRIMARY key: PRIMARY key_len: 4 ref: t2.ID rows: 1 Extra: NulL*************************** 3. row *************************** ID: 2 select_type: DERIVED table: t1 type: indexpossible_keys: NulL key: PRIMARY key_len: 4 ref: NulL rows: 973192 Extra: Using where

然后我们来对比下这2个优化后的新sql执行时间:MysqL教程

yejr@iMysqL.com> SELECT * FROM (SELECT * FROM `t1` WHERE ID > ( SELECT ID FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 935510,1) liMIT 10) T ORDER BY ID DESC;...rows in set (1.86 sec)#采用子查询优化,从profiling的结果来看,相比原来的那个sql快了:28.2%yejr@iMysqL.com> SELECT * FROM `t1` INNER JOIN ( SELECT ID FROM `t1` WHERE ftype=1 ORDER BY ID DESC liMIT 935500,10) t2 USING (ID);...10 rows in set (1.83 sec)#采用INNER JOIN优化,相比原来的那个sql快了:30.8%

我们再来看一个不带过滤条件的分页sql对比:MysqL教程

#原始sqlyejr@iMysqL.com> EXPLAIN SELECT * FROM `t1` ORDER BY ID DESC liMIT 935500,10\G*************************** 1. row ***************************      ID: 1 select_type: SIMPLE    table: t1     type: indexpossible_keys: NulL     key: PRIMARY   key_len: 4     ref: NulL     rows: 935510    Extra: NulLyejr@iMysqL.com> SELECT * FROM `t1` ORDER BY ID DESC liMIT 935500,10;...10 rows in set (2.22 sec)#采用子查询优化yejr@iMysqL.com> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE ID > ( SELECT ID FROM `t1` ORDER BY ID DESC liMIT 935510,1) liMIT 10) t ORDER BY ID DESC;*************************** 1. row ***************************      ID: 1 select_type: PRIMARY    table: <derived2>     type: ALLpossible_keys: NulL     key: NulL   key_len: NulL     ref: NulL     rows: 10    Extra: Using filesort*************************** 2. row ***************************      ID: 2 select_type: DERIVED    table: t1     type: ALLpossible_keys: PRIMARY     key: NulL   key_len: NulL     ref: NulL     rows: 973192    Extra: Using where*************************** 3. row ***************************      ID: 3 select_type: SUBquery    table: t1     type: indexpossible_keys: NulL     key: PRIMARY   key_len: 4     ref: NulL     rows: 935511    Extra: Using indexyejr@iMysqL.com> SELECT * FROM (SELECT * FROM `t1` WHERE ID > ( SELECT ID FROM `t1` ORDER BY ID DESC liMIT 935510,1) liMIT 10) t ORDER BY ID DESC;…10 rows in set (2.01 sec)#采用子查询优化,相比原来的那个sql快了:10.6%#采用INNER JOIN优化yejr@iMysqL.com> EXPLAIN SELECT * FROM `t1` INNER JOIN ( SELECT ID FROM `t1`ORDER BY ID DESC liMIT 935500,10) t2 USING (ID)\G*************************** 1. row ***************************      ID: 1 select_type: PRIMARY    table:      type: ALLpossible_keys: NulL     key: NulL   key_len: NulL     ref: NulL     rows: 935510    Extra: NulL*************************** 2. row ***************************      ID: 1 select_type: PRIMARY    table: t1     type: eq_refpossible_keys: PRIMARY     key: PRIMARY   key_len: 4     ref: t1.ID     rows: 1    Extra: NulL*************************** 3. row ***************************      ID: 2 select_type: DERIVED    table: t1     type: indexpossible_keys: NulL     key: PRIMARY   key_len: 4     ref: NulL     rows: 973192    Extra: Using indexyejr@iMysqL.com> SELECT * FROM `t1` INNER JOIN ( SELECT ID FROM `t1`ORDER BY ID DESC liMIT 935500,10) t2 USING (ID);…10 rows in set (1.70 sec)#采用INNER JOIN优化,相比原来的那个sql快了:30.2%

至此,我们看到采用子查询或者INNER JOIN进行优化后,都有大幅度的提升,这个方法也同样适用于较小的分页,虽然liMIT开始的 start 位置小了很多,sql执行时间也快了很多,但采用这种方法后,带WHERE条件的分页分别能提高查询效率:24.9%、156.5%,不带WHERE条件的分页分别提高查询效率:554.5%、11.7%,各位可以自行进行测试验证.单从提升比例说,还是挺可观的,确保这些优化方法可以适用于各种分页模式,就可以从一开始就是用. 我们来看下各种场景相应的提升比例是多少:
MysqL教程

MysqL教程

结论:这样看就和明显了,尤其是针对大分页的情况,因此我们优先推荐使用INNER JOIN方式优化分页算法.MysqL教程

上述每次测试都重启MysqLd实例,并且加了sql_NO_CACHE,以保证每次都是直接数据文件或索引文件中读取.如果数据经过预热后,查询效率会一定程度提升,但但上述相应的效率提升比例还是基本一致的.
MysqL教程

总结

以上是内存溢出为你收集整理的Mysql学习MySQL中分页优化的实例详解全部内容,希望文章能够帮你解决Mysql学习MySQL中分页优化的实例详解所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/1163216.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-01
下一篇 2022-06-01

发表评论

登录后才能评论

评论列表(0条)

保存