「优化体系」mysql数据库limit语句改写

概述

相比较Oracle分页通过rownum实现,MySQL的分页查询通常通过limit来实现。那么你知道MySQL的Limit存在性能问题吗?

「优化体系」mysql数据库limit语句改写


limit用法

SELECT * FROM table LIMIT [offset] rows | rows OFFSET offset

「优化体系」mysql数据库limit语句改写

LIMIT 子句可以被用于强制 SELECT 语句返回指定的记录数。LIMIT 接受一个或两个数字参数。参数必须是一个整数常量。如果给定两个参数,第一个参数指定第一个返回记录行的偏移量,第二个参数指定返回记录行的最大数目。初始记录行的偏移量是 0(而不是 1): 为了与 PostgreSQL 兼容,MySQL 也支持句法: LIMIT # OFFSET #。


Mysql的分页查询语句方式

MySql分页sql语句,如果和MSSQL的TOP语法相比,那么MySQL的LIMIT语法要显得优雅了许多。使用它来分页是再自然不过的事情了。

1、最基本的分页方式:

SELECT ... FROM ... WHERE ... ORDER BY ... LIMIT ...

在中小数据量的情况下,这样的SQL足够用了,唯一需要注意的问题就是确保使用了索引:

举例来说,如果实际SQL类似下面语句,那么在category_id, id两列上建立复合索引比较好:

SELECT * FROM articles WHERE category_id = 123 ORDER BY id LIMIT 50, 10

2、子查询的分页方式:

随着数据量的增加,页数会越来越多,查看后几页的SQL就可能类似:

SELECT * FROM articles WHERE category_id = 123 ORDER BY id LIMIT 10000, 10

这里就是越往后分页,LIMIT语句的偏移量就会越大,速度也会明显变慢。

此时,可以通过子查询的方式来提高分页效率,大致如下:

SELECT * FROM articles WHERE id >=
 (SELECT id FROM articles WHERE category_id = 123 ORDER BY id LIMIT 10000, 1) LIMIT 10

「优化体系」mysql数据库limit语句改写

3、JOIN分页方式

SELECT * FROM `content` AS t1 
JOIN (SELECT id FROM `content` ORDER BY id desc LIMIT ".($page-1)*$pagesize.", 1) AS t2 
WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT $pagesize

问题

对于小的偏移量,直接使用limit来查询没有什么问题,但随着数据量的增大,越往后分页,limit语句的偏移量就会越大,速度也会明显变慢。

优化思想

避免数据量大时扫描过多的记录。


解决

子查询的分页方式或者JOIN分页方式。

JOIN分页和子查询分页的效率基本在一个等级上,消耗的时间也基本一致。

下面举个例子。一般MySQL的主键是自增的数字类型,这种情况下可以使用下面的方式进行优化。

下面以真实的生产环境的80万条数据的一张表为例,比较一下优化前后的查询耗时:

-- 传统limit,文件扫描 
[SQL]SELECT * FROM tableName ORDER BY id LIMIT 500000,2; 
受影响的行: 0 
时间: 5.371s 

-- 子查询方式,索引扫描 
[SQL] SELECT * FROM tableName WHERE id >= (SELECT id FROM tableName ORDER BY id LIMIT 500000 , 1) LIMIT 2; 
受影响的行: 0 
时间: 0.274s 

-- JOIN分页方式 
[SQL] SELECT * FROM tableName AS t1 JOIN (SELECT id FROM tableName ORDER BY id desc LIMIT 500000, 1) AS t2 WHERE t1.id <= t2.id ORDER BY t1.id desc LIMIT 2; 
受影响的行: 0 
时间: 0.278s

可以看到经过优化性能提高了将近20倍。


优化原理

子查询是在索引上完成的,而普通的查询时在数据文件上完成的,通常来说,索引文件要比数据文件小得多,所以操作起来也会更有效率。因为要取出所有字段内容,第一种需要跨越大量数据块并取出,而第二种基本通过直接根据索引字段定位后,才取出相应内容,效率自然大大提升。

因此,对limit的优化,不是直接使用limit,而是首先获取到offset的id,然后直接使用limit size来获取数据。

在实际项目使用,可以利用类似策略模式的方式去处理分页,例如,每页100条数据,判断如果是100页以内,就使用最基本的分页方式,大于100,则使用子查询的分页方式。


后面会分享更多devops和DBA方面的内容,感兴趣的朋友可以关注一下~

「优化体系」mysql数据库limit语句改写

相关推荐