一、问题引入例如当前存在一张表test_user,然后往这个表里面插入3百万的数据:
create table `test_user` ( `id` int(11) not null auto_increment comment '主键id', `user_id` varchar(36) not null comment '用户id', `user_name` varchar(30) not null comment '用户名称', `phone` varchar(20) not null comment '手机号码', `lan_id` int(9) not null comment '本地网', `region_id` int(9) not null comment '区域', `create_time` datetime not null comment '创建时间', primary key (`id`), key `idx_user_id` (`user_id`)) engine=innodb auto_increment;
在数据库开发过程中我们经常会使用分页,核心技术是使用用 limit start, count 分页语句进行数据的读取。
我们分别看下从0、10000、100000、500000、1000000、1800000开始分页的执行时长(每页取100条)。
select * from test_user limit 0,100; # 0.031select * from test_user limit 10000,100; # 0.047select * from test_user limit 100000,100; # 0.109select * from test_user limit 500000,100; # 0.219select * from test_user limit 1000000,100; # 0.547sselect * from test_user limit 1800000,100; # 1.625s
我们已经看出随着起始记录的增加,时间也随着增大。改变起始记录为290万后,我们可以看到分页语句中的limit和起始页码之间存在很大的关联
select * from test_user limit 2900000,100; # 3.062s
我们惊讶的发现mysql在数据量大的情况下分页起点越大,查询速度越慢!
那么为什么会出现上述这种情况呢?
答案: 因为 limit 2900000,100 的语法实际上是mysql扫描到前2900100条数据,之后丢弃前面的3000000行,这个步骤其实是浪费掉的。
从中我们也能总结出以下两件事情:
limit语句的查询时间与起始记录的位置成正比。
mysql的limit语句是很方便,但是对记录很多的表并不适合直接使用。
二、mysql中的limit用法limit子句可以被用于强制select语句返回指定的记录数,其语法格式如下:
select * from 表名 limit m,n;select * from table limit [offset,] rows;
limit接受一个或两个数字参数,参数必须是一个整数常量,如果给定两个参数:
第一个参数指定第一个返回记录行的偏移量
第二个参数指定返回记录行的最大数目2.1 m代表从m+1条记录行开始检索,n代表取出n条数据。(m可设为0)
select * from 表名 limit 6,5;
上述sql表示从第7条记录行开始算,取出5条数据
2.2 值得注意的是,n可以被设置为-1,当n为-1时,表示从m+1行开始检索,直到取出最后一条数据
select * from 表名 limit 6,-1;
上述sql表示取出第6条记录行以后的所有数据
2.3 若只给出m,则表示从第1条记录行开始算一共取出m条
select * from 表名 limit 6;
2.4 以年龄倒序后取出前3行
select * from student order by age desc limit 3;
2.5 跳过前3行后再2取行
select * from student order by age desc limit 3,2;
三、深度分页优化策略方法一:用主键id或者唯一索引优化即先找到上次分页的最大id,然后利用id上的索引来查询:
select * from test_user where id>1000000 limit 100; # 0.047秒
使用此优化sql相比于前面的查询速度已经快了11倍。除了使用主键id,还可以运用唯一索引来快速定位特定数据,从而避免全表扫描。以下是相应的sql优化代码,读取唯一键(pk)在1000至1019范围内的数据:
select * from 表名称 where pk>=1000 order by pk asc limit 0,20
原因:索引扫描,速度会很快。
适用场景:如果数据查询出来是按照pk或者id进行排序,并且全部数据没有缺失的话则可以这样优化,否则分页操作会漏数据。
方法二:利用索引覆盖优化我们都知道,利用了索引查询的语句中如果只包含了那个索引列(也就是索引覆盖),那么这种情况会查询很快。
为什么索引覆盖查询会很快呢?
答案:因为利用索引查找有优化算法,且数据就在查询索引上面,不用再去找相关的数据地址了,这样节省了很多时间。当并发量较高时,mysql还提供了与索引相关联的缓存,充分利用此缓存可以获得更佳的效果。
由于在我们的测试表test_user中,id字段是主键,因此默认包含了主键索引。现在让我们看看利用覆盖索引的查询效果如何。
这次我们查询第1000001到1000100行的数据(利用覆盖索引,只包含id列):
select id from test_user limit 1000000,100; # 0.843秒
从这个结果中发现查询速度比全表扫描速度还要慢(当然在重复执行这条sql,多次查询之后速度还是变快了很多,几乎省了一半时间,这是由于缓存的原因), 接着使用explain命令来查看该sql的执行计划,发现该sql执行采用的普通索引 idx_user_id:
explain select id from test_user limit 1000000,100;
如果我们删除普通索引,则执行上述sql时会使用主键索引。那如果不删除普通索引的话,针对这种情况,我们要让上述sql走主键索引的话,则可以使用order by语句:
select id from test_user order by id asc limit 1000000,100; # 0.250秒
那么如果我们也要查询所有列,有两种方法,一种是id>=的形式,另一种就是利用join。
第一种写法:
select * from test_user where id >= (select id from test_user order by id asc limit 1000000,1) limit 100;
上述sql查询时间为0.281秒
第二种写法:
select * from (select id from test_user order by id asc limit 1000000,100) a left join test_user b on a.id = b.id;
上述sql查询时间为0.252秒
方法三:基于索引再排序其中pagenum表示页码,其取值从0开始;pagesize表示指的是每页多少条数据。
select * from 表名称 where id_pk > (pagenum*pagesize) order by id_pk asc limit pagesize;
适应场景:
适用于数据量多的情况
最好order by后的列对象是主键或唯一索引
id数据没有缺失,可以作为序号使用
使用order by操作能利用索引被消除,但结果集是稳定的
原因:
索引扫描,速度会很快
但mysql的排序操作,只有asc没有desc。在mysql中,索引的存储顺序是升序asc,没有降序desc的索引。这就是为什么默认情况下,order by 是按照升序排序的原因
方法四:基于索引使用prepareprepare预编译一个sql语句,并为其分配一个名称 stmt_name,以便以后引用该语句,预编译好的语句用execute执行。
prepare stmt_name from 'select * from test_user where id > ? order by id asc limit ?';set @a = 1000000;set @b = 100;execute stmt_name using @a, @b;;
上述sql查询时间为0.047秒。
对于定义好的prepare预编译语句,我们可以使用下述命令来释放该预编译语句:
deallocate prepare stmt_name;
原因:
索引扫描,速度会很快.
prepare语句又比一般的查询语句快一点。
方法五:利用"子查询+索引"快速定位数据 其中page表示页码,其取值从0开始;pagesize表示指的是每页多少条数据。
select * from your_table where id <= (select id from your_table order by id desc limit ($page-1)*$pagesize order by id desc limit $pagesize);
方法六:利用复合索引进行优化假设数据表 collect ( id, title ,info ,vtype) 就这4个字段,其中id是主键自增,title用定长,info用text, vtype是tinyint,vtype是一个普通索引。
现在往里面填充数据,填充10万条记录,数据库表占用硬1.6g。
select id,title from collect limit 1000,10;
执行上述sql速度很快,基本上0.01秒就ok。
select id,title from collect limit 90000,10;
然后再执行上述sql,就发现非常慢,基本上平均8~9秒完成。
这个时候如果我们执行下述,我们会发现速度又变的很快,0.04秒就ok。
select id from collect order by id limit 90000,10;
那么这个现象的原因是什么?
答案:因为用了id主键做索引, 这里实现了索引覆盖,当然快。
所以如果想一起查询其它列的话,可以按照索引覆盖进行优化,具体如下:
select id,title from collect where id >= (select id from collect order by id limit 90000,1) limit 10;
再看下面的语句,带上where 条件:
select id from collect where vtype=1 order by id limit 90000,10;
可以发现这个速度上也是很慢的,用了8~9秒!
这里有一个疑惑:vtype 做了索引了啊?怎么会慢呢?
vtype做了索引是不错,如果直接对vtype进行过滤:
select id from collect where vtype=1 limit 1000,10;
可以看到速度还是很快的,基本上0.05秒,如果从9万开始,那就是0.05*90=4.5秒的速度了。
其实加了 order by id 就不走索引,这样做还是全表扫描,解决的办法是:复合索引!
因此针对下述sql深度分页优化时可以加一个search_index(vtype,id)复合索引:
select id from collect where vtype=1 order by id limit 90000,10;
综上:
在进行sql查询深度分页优化时,如果对于有where条件,又想走索引用limit的,必须设计一个索引,将where放第一位,limit用到的主键放第二位,而且只能select 主键。
最后根据查询出的主键走一级索引找到对应的数据。
按这样的逻辑,百万级的limit 在0.0x秒就可以分完,完美解决了分页问题。
以上就是mysql调优之sql查询深度分页问题怎么解决的详细内容。