当前位置:网站首页> 提高MySQL深分页查询效率的三种方案
提高MySQL深分页查询效率的三种方案
2022-07-04 12:39:00 【1024问】
开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。有没有什么办法,能解决深分页的问题呢?本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。
开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。
有没有什么办法,能解决深分页的问题呢?
本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。
1. 准备数据先创建一张用户表,只在create_time字段上加索引:
CREATE TABLE `user` ( `id` int NOT NULL AUTO_INCREMENT COMMENT '主键', `name` varchar(255) DEFAULT NULL COMMENT '姓名', `create_time` timestamp NULL DEFAULT NULL COMMENT '创建时间', PRIMARY KEY (`id`), KEY `idx_create_time` (`create_time`)) ENGINE=InnoDB COMMENT='用户表';
然后往用户表中插入100万条测试数据,这里可以使用存储过程:
drop PROCEDURE IF EXISTS insertData;DELIMITER $$create procedure insertData()begin declare i int default 1; while i <= 100000 do INSERT into user (name,create_time) VALUES (CONCAT("name",i), now()); set i = i + 1; end while; end $$call insertData() $$
2. 验证深分页问题每页10条,当我们查询第一页的时候,速度很快:
select * from user where create_time>'2022-07-03' limit 0,10;
在不到0.01秒内直接返回了,所以没显示出执行时间。
当我们翻到第10000页的时候,查询效率急剧下降:
select * from user where create_time>'2022-07-03' limit 100000,10;
执行时间变成了0.16秒,性能至少下降了几十倍。
耗时主要花在哪里了?
需要扫描前10条数据,数据量较大,比较耗时
create_time是非聚簇索引,需要先查询出主键ID,再回表查询,通过主键ID查询出所有字段
画一下回表查询流程:
1. 先通过create_time查询出主键ID2. 再通过主键ID查询出表中所有字段别问为什么B+树的结构是这样的?问就是规定。
可以看一下前两篇文章。
然后我们就针对这两个耗时原因进行优化。
3. 优化查询3.1 使用子查询先用子查询查出符合条件的主键,再用主键ID做条件查出所有字段。
select * from user where id in ( select id from user where create_time>'2022-07-03' limit 100000,10);
不过这样查询会报错,说是子查询中不支持使用limit。
我们加一层子查询嵌套,就可以了:
select * from user where id in ( select id from ( select id from user where create_time>'2022-07-03' limit 100000,10 ) as t);
执行时间缩短到0.05秒,减少了0.12秒,相当于查询性能提升了3倍。
为什么先用子查询查出符合条件的主键ID,就能缩短查询时间呢?
我们用explain查看一下执行计划就明白了:
explain select * from user where id in ( select id from ( select id from user where create_time>'2022-07-03' limit 100000,10 ) as t);
可以看到Extra列显示子查询中用到Using index,表示用到了覆盖索引,所以子查询无需回表查询,加快了查询效率。
3.2 使用inner join关联查询把子查询的结果当成一张临时表,然后和原表进行关联查询。
select * from user inner join ( select id from user where create_time>'2022-07-03' limit 100000,10) as t on user.id=t.id;
查询性能跟使用子查询一样。
3.3 使用分页游标(推荐)实现方式就是:当我们查询第二页的时候,把第一页的查询结果放到第二页的查询条件中。
例如:首先查询第一页
select * from user where create_time>'2022-07-03' limit 10;
然后查询第二页,把第一页的查询结果放到第二页查询条件中:
select * from user where create_time>'2022-07-03' and id>10 limit 10;
这样相当于每次都是查询第一页,也就不存在深分页的问题了,推荐使用。
执行耗时是0秒,查询性能直接提升了几十倍。
这样的查询方式虽然好用,但是又带来一个问题,就是跳转到指定页数,只能一页页向下翻。
所以这种查询只适合特定场景,比如资讯类APP的首页。
互联网APP一般采用瀑布流的形式,比如百度首页、头条首页,都是一直向下滑动翻页,并没有跳转到制定页数的需求。
不信的话,可以看一下,这是头条的瀑布流:
传参中带了上一页的查询结果。
响应数据中,返回了下一页查询条件。
所以这种查询方式的应用场景还是挺广的,赶快用起来吧。
知识点总结:
到此这篇关于解决MySQL深分页低效率问题的文章就介绍到这了。希望对大家的学习有所帮助,也希望大家多多支持软件开发网。
边栏推荐
- 分布式事务相关概念与理论
- DGraph: 大规模动态图数据集
- Comparative study of the gods in the twilight Era
- CANN算子:利用迭代器高效实现Tensor数据切割分块处理
- Golang sets the small details of goproxy proxy proxy, which is applicable to go module download timeout and Alibaba cloud image go module download timeout
- Can Console. Clear be used to only clear a line instead of whole console?
- C language function
- 6 分钟看完 BGP 协议。
- SQL statement syntax error in test SQL statement deletion in eclipse linked database
- Understand bloomfilter in one article
猜你喜欢
Reptile exercises (I)
Master the use of auto analyze in data warehouse
CANN算子:利用迭代器高效实现Tensor数据切割分块处理
8 expansion sub packages! Recbole launches 2.0!
CVPR 2022 | transfusion: Lidar camera fusion for 3D target detection with transformer
C#/VB. Net to add text / image watermarks to PDF documents
AI painting minimalist tutorial
DGraph: 大规模动态图数据集
强化学习-学习笔记1 | 基础概念
实战:fabric 用户证书吊销操作流程
随机推荐
AI painting minimalist tutorial
runc hang 导致 Kubernetes 节点 NotReady
使用宝塔部署halo博客
读《认知觉醒》
Agile development / agile testing experience
分布式事务相关概念与理论
Annual comprehensive analysis of China's mobile reading market in 2022
敏捷开发/敏捷测试感受
Comparative study of the gods in the twilight Era
再说rsync+inotify实现数据的实时备份
强化学习-学习笔记1 | 基础概念
6 分钟看完 BGP 协议。
16. Memory usage and segmentation
[cloud native | kubernetes] in depth understanding of ingress (12)
Runc hang causes the kubernetes node notready
从0到1建设智能灰度数据体系:以vivo游戏中心为例
实战:fabric 用户证书吊销操作流程
Two dimensional code coding theory
Can Console. Clear be used to only clear a line instead of whole console?
七、软件包管理