第09章_性能分析工具
友情提示
转载须知: 以下所有文章整理于B站宋红康老师的《MySQL数据库入门到大牛》。MySQL (opens new window)
在数据库调优中,我们的目标是 响应时间更快, 吞吐量更大
。利用宏观的监控工具和微观的日志分析可以帮我们快速找到调优的思路和方式。
# 1. 数据库服务器的优化步骤
当我们遇到数据库调优问题的时候,该如何思考呢?这里把思考的流程整理成下面这张图。
整个流程划分成了 观察(Show status)
和 行动(Action)
两个部分。字母 S 的部分代表观察(会使用相应的分析工具),字母 A 代表的部分是行动(对应分析可以采取的行动)。
我们可以通过观察了解数据库整体的运行状态,通过性能分析工具可以让我们了解执行慢的SQL都有哪些,查看具体的SQL执行计划,甚至是SQL执行中的每一步的成本代价,这样才能定位问题所在,找到了问题,再采取相应的行动。
详细解释一下这张图:
① 首先在 S1 部分,我们需要观察服务器的状态是否存在周期性的波动
。如果存在周期性波动有可能是周期性节点的原因,比如双十一、促销活动等。这样的话,我们可以通过 A1 这一步骤解决,也就是加缓存,或者更改缓存失效策略。
② 如果缓存策略没有解决,或者不是周期性波动的原因,我们就需要进一步分析查询延迟和卡顿的原因
。接下来进入 S2 这一步,我们需要开启慢查询
。慢查询可以帮我们定位执行慢的 SQL 语句。我们可以通过设置long_query_time 参数定义“慢”的阈值,如果 SQL 执行时间超过了 long_query_time,则会认为是慢查询。当收集上来这些慢查询之后,我们就可以通过分析工具对慢查询日志进行分析。
③ 在 S3 这一步骤中,我们就知道了执行慢的 SQL,这样就可以针对性地用 EXPLAIN 查看对应 SQL 语句的执行计划,或者使用 show profile 查看 SQL 中每一个步骤的时间成本。这样我们就可以了解 SQL 查询慢是因为执行时间长,还是等待时间长。
④ 如果是 SQL 等待时间长,我们进入 A2 步骤。在这一步骤中,我们可以调优服务器的参数
,比如适当增加数据库缓冲池等。如果是 SQL 执行时间长,就进入 A3 步骤,这一步中我们需要考虑是索引设计的问题?还是查询关联的数据表过多?还是因为数据表的字段设计问题导致了这一现象。然后在这些维度上进行对应的调整。
⑤ 如果 A2 和 A3 都不能解决问题,我们需要考虑数据库自身的 SQL 查询性能是否已经达到了瓶颈
,如果确认没有达到性能瓶颈,就需要重新检查,重复以上的步骤。如果已经达到了性能瓶颈,进入 A4 阶段,需要考虑增加服务器,采用读写分离的架构,或者考虑对数据库进行分库分表,比如垂直分库
、垂直分表
和水平分表
等。
⑥ 以上就是数据库调优的流程思路。如果我们发现执行 SQL 时存在不规则延迟或卡顿的时候就可以采用分析工具帮我们定位有问题的 SQL,这三种分析工具你可以理解是 SQL 调优的三个步骤:慢查询、EXPLAIN
和 SHOW PROFILING
。
小结
# 2. 查看系统性能参数
(1)在MySQL中,可以使用 SHOW STATUS
语句查询一些MySQL数据库服务器的性能参数、执行频率
。SHOW STATUS语句语法如下:
-- 查询MySQL服务器的状态变量
-- GLOBAL 表示显示整个MySQL服务器的全局状态信息。
-- SESSION 表示显示当前会话的状态信息。如果不指定,默认显示 SESSION 状态
SHOW [GLOBAL|SESSION] STATUS LIKE '参数';
2
3
4
(2)一些常用的性能参数如下:
参数 | 含义 |
---|---|
Connections | 连接 MySQL 服务器的次数 |
Uptime | MySQL 服务器的上线时间 |
Slow_queries | 慢查询的次数 |
Innodb_rows_read | Select 查询返回的行数 |
Innodb_rows_inserted | 执行 INSERT 操作插入的行数 |
Innodb_rows_updated | 执行 UPDATE 操作更新的行数 |
Innodb_rows_deleted | 执行 DELETE 操作删除的行数 |
Com_select | 查询操作的次数 |
Com_insert | 插入操作的次数。对于批量插入的 INSERT 操作,只累加一次 |
Com_update | 更新操作的次数 |
Com_delete | 删除操作的次数 |
例如,查询 MySQL 服务器的连接次数,则可以执行如下语句:
SHOW STATUS LIKE 'Connections';
若查询服务器工作时间,则可以执行如下语句:
SHOW STATUS LIKE 'Uptime';
若查询MySQL服务器的慢查询次数,则可以执行如下语句:
SHOW STATUS LIKE 'Slow_queries';
慢查询次数参数可以结合慢查询日志找出慢查询语句,然后针对慢查询语句进行表结构优化
或者查询语句优化
。
再比如,如下的指令可以查看相关的指令情况:
SHOW STATUS LIKE 'Innodb_rows_%';
# 3. 统计SQL的查询成本: last_query_cost
(1)一条SQL查询语句在执行前需要查询执行计划,如果存在多种执行计划的话,MySQL会计算每个执行计划所需要的成本,从中选择成本最小
的一个作为最终执行的执行计划。
(2)如果我们想要查看某条SQL语句的查询成本,可以在执行完这条SQL语句之后,通过查看当前会话中的last_query_cost
变量值来得到当前查询的成本。它通常也是我们评价一个查询的执行效率
的一个常用指标。这个查询成本对应的是SQL 语句所需要读取的读页的数量
。
(3)我们依然使用第8章的 student_info 表为例:
CREATE TABLE `student_info` (
`id` INT(11) NOT NULL AUTO_INCREMENT, -- 主键ID,自增长
`student_id` INT NOT NULL, -- 学生ID
`name` VARCHAR(20) DEFAULT NULL, -- 学生姓名
`course_id` INT NOT NULL, -- 课程ID
`class_id` INT(11) DEFAULT NULL, -- 班级ID
`create_time` DATETIME DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP, -- 创建时间,自动记录并在更新时自动更新
PRIMARY KEY (`id`) -- 指定id为主键
) ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8; -- 使用InnoDB存储引擎,设置自增开始值为1,字符集为utf8
2
3
4
5
6
7
8
9
① 如果我们想要查询 id=900001 的记录,然后看下查询成本,我们可以直接在聚簇索引上进行查找:
SELECT student_id, class_id, NAME, create_time FROM student_info WHERE id = 900001;
运行结果(1 条记录,运行时间为 0.042s )
然后使用SHOW STATUS LIKE 'last_query_cost'
命令来查看最后一次查询的优化成本。
-- 查看最后一次查询的优化器成本
mysql> SHOW STATUS LIKE 'last_query_cost';
+-----------------+----------+
| Variable_name | Value |
+-----------------+----------+
| Last_query_cost | 1.000000 |
+-----------------+----------+
2
3
4
5
6
7
Last_query_cost
为1.000000,意味着查询优化器评估的成本很低,只需要检索一个页即可完成查询。
② 如果我们想要查询 id 在 900001 到 9000100 之间的学生记录呢?
SELECT student_id, class_id, NAME, create_time FROM student_info WHERE id BETWEEN 900001 AND 900100;
运行结果(100 条记录,运行时间为 0.046s ):
然后我们再使用SHOW STATUS LIKE 'last_query_cost'
命令来查看最后一次查询的优化成本。
-- 再次查看查询优化器的成本
mysql> SHOW STATUS LIKE 'last_query_cost';
+-----------------+-----------+
| Variable_name | Value |
+-----------------+-----------+
| Last_query_cost | 21.134453 |
+-----------------+-----------+
2
3
4
5
6
7
第二次查询的优化器成本为21.134453,意味着这次查询需要检索大约20个页面。
我们能观察到需要检索的页数量是刚才的 20 倍,但是查询的效率并没有明显的变化,实际上这两个 SQL 查询的时间基本上一样,就是因为采用了顺序读取的方式将页面一次性加载到缓冲池中,然后再进行查找。虽然页数量 (last_query_cost) 增加了不少 ,但是通过缓冲池的机制,并没有增加多少查询时间。
(4)使用场景: 它对于比较开销是非常有用的,特别是我们有好几种查询方式可选的时候。
SQL查询时一个动态的过程,从页加载的角度来看,我们可以得到以下两点结论:
位置决定效率
。如果页就在数据库缓冲池
中,那么效率是最高的,否则还需要从内存
或者磁盘
中进行读取,当然针对单个页的读取来说,如果页存在于内存中,会比在磁盘中读取效率高很多。批量决定效率
。如果我们从磁盘中对单一页进行随机读,那么效率是很低的(差不多10ms),而采用顺序读取的方式,批量对页进行读取,平均一页的读取效率就会提升很多,甚至要快于单个页面在内存中的随机读取。所以说,遇到I/O并不用担心,方法找对了,效率还是很高的。我们首先要考虑数据存放的位置,如果是进程使用的数据就要尽量放到
缓冲池
中,其次我们可以充分利用磁盘的吞吐能力,一次性批量读取数据,这样单个页的读取效率也就得到了提升。
# 4. 定位执行慢的 SQL:慢查询日志
(1)MySQL 的慢查询日志,用来记录在 MySQL 中响应时间超过阀值
的语句,具体指运行时间超过 long_query_time 值的 SQL,则会被记录到慢查询日志中。long_query_time 的默认值为 10,意思是运行 10 秒以上(不含 10 秒)的语句,认为是超出了我们的最大忍耐时间值。
(2)它的主要作用是,帮助我们发现那些执行时间特别长的 SQL 查询,并且有针对性地进行优化,从而提高系统的整体效率。当我们的数据库服务器发生阻塞、运行变慢的时候,检查一下慢查询日志,找到那些慢查询,对解决问题很有帮助。比如一条 SQL 语句执行超过 5 秒钟,我们就算慢 SQL,希望能收集超过 5 秒的 SQL 语句,结合 explain 进行全面分析。
(3)默认情况下,MySQL 数据库没有开启慢查询日志,需要我们手动来设置这个参数。如果不是调优需要的话,一般不建议启动该参数,因为开启慢查询日志会或多或少带来一定的性能影响。慢直询日志支持将日志记录写入文件。
# 4.1 开启慢查询日志参数
1. 开启 slow_query_log
在使用前,我们需要先查下慢查询是否已经开启,使用下面这条命令即可:
show variables like '%slow_query_log%';
默认 slow_query_log=OFF
,我们可以把慢查询日志打开,注意设置变量值的时候需要使用 global,否则会报错:
set global slow_query_log='ON';
然后我们再来查看下慢查询日志是否开启,以及慢查询日志文件的位置:
你能看到这时慢查询分析已经开启,同时文件保存在 /var/lib/mysql/yisu-6579123d39605-slow.log
文件中。
2. 修改 long_query_time 阈值
接下来我们来看下慢查询的时间阈值设置,使用如下命令:
show variables like '%long_query_time%';
这里如果我们想把时间缩短,比如设置为 1 秒,可以这样设置:
#测试发现:设置global的方式对只对新建立的连接有效,对当前会话(即当前数据库连接)无效。
# 如果想立即在当前会话中应用这个设置,需要执行SET long_query_time = 1;来单独为当前会话设置长查询时间阈值。
mysql > set global long_query_time = 1; -- 设置全局长查询时间阈值为1秒
mysql> show global variables like '%long_query_time%';
mysql> set long_query_time=1; -- 设置当前会话的长查询时间阈值为1秒
mysql> show variables like '%long_query_time%';
2
3
4
5
6
7
补充:配置文件中一永久设置慢查询的时间阈值
上面的方法只是临时修改,一但 MySQL 重启,上述设置又会恢复到默认值,永久修改的方法如下:
① 如果是在 windows下:在配置文件 my.ini
[mysqld] 中修改或加上:
② 如果是在 linux下:则在配置文件 /etc/my.cnf
[mysqld] 中修改或加上:
[mysqld]
slow_query_log=ON # 开启慢查询日志开关
slow_query_log_file=/var/lib/mysql/wym-low.log # 慢查询日志的目录和文件名信息
long_query_time=3 # 设置慢查询的阈值为3秒,超出此设定值的SQL即被记录到慢查询日志
log_output=FILE
2
3
4
5
如果不指定存储路径,慢查询日志默认存储到MySQL数据库的数据文件夹下。如果不指定文件名,默认文件名为hostname_slow.log。
# 4.2 查看慢查询数目
查询当前系统中有多少条慢查询记录
SHOW GLOBAL STATUS LIKE '%Slow_queries%';
# 4.3 案例演示
步骤1. 建表
CREATE TABLE `student` (
`id` INT(11) NOT NULL AUTO_INCREMENT, -- 学生ID,主键,自增
`stuno` INT NOT NULL, -- 学生编号,不允许为空
`name` VARCHAR(20) DEFAULT NULL, -- 学生姓名,允许为空
`age` INT(3) DEFAULT NULL, -- 学生年龄,允许为空
`classId` INT(11) DEFAULT NULL, -- 班级ID,允许为空
PRIMARY KEY (`id`) -- 指定id列作为主键
) ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8; -- 使用InnoDB存储引擎,设置自增起始值为1,字符集为utf8
2
3
4
5
6
7
8
步骤2:设置参数 log_bin_trust_function_creators
下面创建函数,假如报错:
This function has none of DETERMINISTIC......
- 命令开启:允许创建函数设置:
set global log_bin_trust_function_creators=1; # 不加global只是当前窗口有效。
步骤3:创建函数
随机产生字符串:(同上一章)
DELIMITER //
CREATE FUNCTION rand_string(n INT)
RETURNS VARCHAR(255) #该函数会返回一个字符串
BEGIN
DECLARE chars_str VARCHAR(100) DEFAULT
'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
DECLARE return_str VARCHAR(255) DEFAULT '';
DECLARE i INT DEFAULT 0;
WHILE i < n DO
SET return_str =CONCAT(return_str,SUBSTRING(chars_str,FLOOR(1+RAND()*52),1));
SET i = i + 1;
END WHILE;
RETURN return_str;
END //
DELIMITER ;
# 测试
SELECT rand_string(10);
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
产生随机数值:(同上一章)
DELIMITER //
CREATE FUNCTION rand_num (from_num INT ,to_num INT) RETURNS INT(11)
BEGIN
DECLARE i INT DEFAULT 0;
SET i = FLOOR(from_num +RAND()*(to_num - from_num+1)) ;
RETURN i;
END //
DELIMITER ;
#测试:
SELECT rand_num(10,100);
2
3
4
5
6
7
8
9
10
11
步骤4:创建存储过程
DELIMITER //
CREATE PROCEDURE insert_stu1( START INT , max_num INT )
BEGIN
DECLARE i INT DEFAULT 0;
SET autocommit = 0; #设置手动提交事务
REPEAT #循环
SET i = i + 1; #赋值
INSERT INTO student (stuno, NAME ,age ,classId ) VALUES
((START+i),rand_string(6),rand_num(10,100),rand_num(10,1000));
UNTIL i = max_num
END REPEAT;
COMMIT; #提交事务
END //
DELIMITER ;
2
3
4
5
6
7
8
9
10
11
12
13
14
步骤5:调用存储过程
# 调用刚刚写好的函数, 4000000条记录,从100001号开始
CALL insert_stu1(100001,4000000);
2
# 4.4 测试及分析
1. 测试百万数据的查询时间
mysql> SELECT * FROM student WHERE stuno = 3455655;
+---------+---------+--------+------+---------+
| id | stuno | name | age | classId |
+---------+---------+--------+------+---------+
| 3523633 | 3455655 | oQmLUr | 19 | 39 |
+---------+---------+--------+------+---------+
1 row in set (2.09 sec)
mysql> SELECT * FROM student WHERE name = 'oQmLUr';
+---------+---------+--------+------+---------+
| id | stuno | name | age | classId |
+---------+---------+--------+------+---------+
| 1154002 | 1243200 | OQMlUR | 266 | 28 |
| 1405708 | 1437740 | OQMlUR | 245 | 439 |
| 1748070 | 1680092 | OQMlUR | 240 | 414 |
| 2119892 | 2051914 | oQmLUr | 17 | 32 |
| 2893154 | 2825176 | OQMlUR | 245 | 435 |
| 3523633 | 3455655 | oQmLUr | 19 | 39 |
+---------+---------+--------+------+---------+
6 rows in set (2.39 sec)
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
从上面的结果可以看出来,查询学生编号为“3455655”的学生信息花费时间为2.09秒。查询学生姓名为 “oQmLUr”的学生信息花费时间为2.39秒。已经达到了秒的数量级,说明目前查询效率是比较低的,下面的小节我们分析一下原因。
2. 查看慢SQL并分析
show status like 'slow_queries'; -- 查看慢SQL
补充说明:
除了上述变量,控制慢查询日志的还有一个系统变量:min_examined_row_limit。这个变量的意思是,查询扫描过的最少记录数
。这个变量和查询执行时间,共同组成了判别一个查询是否是慢查询的条件。如果查询扫描过的记录数大于等于这个变量的值,并且查询执行时间超过long_query_time的值,那么,这个查询就被记录到慢查询日志中;反之,则不被记录到慢查询日志中。
mysql> show variables like 'min%';
+------------------------+-------+
| Variable_name | Value |
+------------------------+-------+
| min_examined_row_limit | 0 |
+------------------------+-------+
1 row in set (0.00 sec)
2
3
4
5
6
7
这个值默认是 0(保持默认状态即可)。与 long_query_time = 10 合在一起,表示只要查询的执行时间超过 10 秒钟,哪怕一个记录也没有扫描过,都要被记录到慢查询日志中。你也可以根据需要,通过修改 “my.ini" 文件,来修改查询时长,或者通过 SET 指令,用 SQL 语句修改“min_examined_row_limit"的值。
# 4.5 慢查询日志分析工具:mysqldumpslow
在生产环境中,如果要手工分析日志,查找、分析SQL,显然是个体力活,MySQL提供了日志分析工具 mysqldumpslow
使用mysqldumpslow --help
命令查看mysqldumpslow的帮助信息
[root@wym ~]# mysqldumpslow --help
Usage: mysqldumpslow [ OPTS... ] [ LOGS... ]
Parse and summarize the MySQL slow query log. Options are
--verbose verbose -- 输出更多信息
--debug debug -- 输出调试信息
--help write this text to standard output -- 显示帮助信息
-v verbose -- 输出更多信息
-d debug -- 输出调试信息
-s ORDER what to sort by (al, at, ar, c, l, r, t), 'at' is default
al: average lock time -- 平均锁定时间
ar: average rows sent -- 平均发送行数
at: average query time -- 平均查询时间
c: count -- 计数
l: lock time -- 锁定时间
r: rows sent -- 发送的行数
t: query time -- 查询时间
-r reverse the sort order (largest last instead of first) -- 反转排序顺序(最大的排在最后而不是最前)
-t NUM just show the top n queries -- 只显示前n条查询
-a don't abstract all numbers to N and strings to 'S' -- 不将所有数字抽象为N和字符串抽象为'S'
-n NUM abstract numbers with at least n digits within names -- 将名称中至少有n位数字的数字抽象化
-g PATTERN grep: only consider stmts that include this string -- grep:只考虑包含此字符串的语句
-h HOSTNAME hostname of db server for *-slow.log filename (can be wildcard),
default is '*', i.e. match all -- 数据库服务器的主机名用于*-slow.log文件名(可以是通配符),默认为'*',即匹配所有
-i NAME name of server instance (if using mysql.server startup script) -- 服务器实例的名称(如果使用mysql.server启动脚本)
-l don't subtract lock time from total time -- 不从总时间中减去锁定时间
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
mysqldumpslow 命令的具体参数如下:
- -a: 不将数字抽象成N,字符串抽象成S
- -s: 是表示按照何种方式排序:
- c: 访问次数
- l: 锁定时间
- r: 返回记录
- t: 查询时间
- al:平均锁定时间
- ar:平均返回记录数
- at:平均查询时间 (默认方式)
- ac:平均查询次数
- -t: 即为返回前面多少条的数据;
- -g: 后边搭配一个正则匹配模式,大小写不敏感的;
举例:我们想要按照查询时间排序,查看前五条 SQL 语句,这样写即可:
mysqldumpslow -s t -t 5 /var/lib/mysql/wym-slow.log
# 如果没有在配置文件中指定慢SQL日志的存储路径和文件名,默认在/var/lib/mysql/主机名-slow.log
[root@wym mysql]# mysqldumpslow -s t -t 5 /var/lib/mysql/wym-slow.log
Reading mysql slow query log from /var/lib/mysql/wym-slow.log
Count: 1 Time=1.99s (1s) Lock=0.00s (0s) Rows=1.0 (1), root[root]@localhost
SELECT * FROM student WHERE stuno = N
Count: 1 Time=1.64s (1s) Lock=0.00s (0s) Rows=8.0 (8), root[root]@localhost
SELECT * FROM student WHERE name = 'S'
Died at /usr/bin/mysqldumpslow line 162, <> chunk 2.
2
3
4
5
6
7
8
9
10
11
工作常用参考:
#得到返回记录集最多的10个SQL
mysqldumpslow -s r -t 10 /var/lib/mysql/wym-slow.log
#得到访问次数最多的10个SQL
mysqldumpslow -s c -t 10 /var/lib/mysql/wym-slow.log
#得到按照时间排序的前10条里面含有左连接的查询语句
mysqldumpslow -s t -t 10 -g "left join" /var/lib/mysql/wym-slow.log
#另外建议在使用这些命令时结合 | 和more 使用 ,否则有可能出现爆屏情况
mysqldumpslow -s r -t 10 /var/lib/mysql/wym-slow.log | more
2
3
4
5
6
7
8
9
10
11
# 4.6 关闭慢查询日志
MySQL服务器停止慢查询日志功能有两种方法:
方式1:永久性方式:vim /etc/my.cnf
[mysqld]
slow_query_log=OFF
2
或者,把slow_query_log一项注释掉 或 删除
[mysqld]
#slow_query_log =OFF
2
重启MySQL服务,执行如下语句查询慢日志功能。
systemctl restart mysqld; # 重启MySQL服务
mysql> show variables like '%slow%'; #查询慢查询日志所在目录
+-----------------------------+-----------------------------+
| Variable_name | Value |
+-----------------------------+-----------------------------+
| log_slow_admin_statements | OFF |
| log_slow_extra | OFF |
| log_slow_replica_statements | OFF |
| log_slow_slave_statements | OFF |
| slow_launch_time | 2 |
| slow_query_log | ON |
| slow_query_log_file | /var/lib/mysql/wym-slow.log |
+-----------------------------+-----------------------------+
7 rows in set (0.03 sec)
mysql> show variables like '%long_query_time%'; #查询超时时长
+-----------------+----------+
| Variable_name | Value |
+-----------------+----------+
| long_query_time | 1.000000 |
+-----------------+----------+
1 row in set (0.01 sec)
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
方式2:临时性方式
使用SET语句来设置。
(1)停止MySQL慢查询日志功能,具体SQL语句如下。
set global slow_query_log=off;
(2)重启MySQL服务,使用SHOW语句查询慢查询日志功能信息,具体SQL语句如下。
show variables like '%slow%';
#以及
show variables like '%long_query_time%';
2
3
# 4.7 删除慢查询日志
使用SHOW语句显示慢查询日志信息,具体SQL语句如下。
show variables like '%slow_query_log%';
从执行结果可以看出,慢查询日志的目录默认为MySQL的数据目录,在该目录下 手动删除慢查询日志文件
即可。
使用命令 mysqladmin -uroot -p flush-logs slow
来重新生成查询日志文件,具体命令如下,执行完毕会在数据目录下重新生成慢查询日志文件。
mysqladmin -uroot -p flush-logs slow
温馨提示
慢查询日志都是使用mysqladmin -uroot -p flush-logs slow
命令来删除重建的。使用时一定要注意,一旦执行了这个命令,慢查询日志都只存在新的日志文件中,如果需要旧的查询日志,就必须事先备份。
# 5. 查看 SQL 执行成本:show profile
show profile 在《逻辑架构》章节中讲过,这里作为复习。
show profile 是 MySQL 提供的可以用来分析当前会话中 SQL 都做了什么、执行的资源消耗工具的情况,可用于 sql 调优的测量。默认情况下处于关闭状态
,并保存最近15次的运行结果。
我们可以在会话级别开启这个功能。
# 查看show profile是否开启
show variables like 'profiling';
2
通过设置 profiling='ON' 来开启 show profile:
set profiling = 'ON';
然后执行相关的查询语句。接着看下当前会话都有哪些 profiles,使用下面这条命令:
show profiles;
可以看到当前会话一共有 14个查询。如果我们想要查看最近一次查询的开销,可以使用:
mysql> show profile; -- 查看最新Query_ID 的SQL执行开销(这里Query_ID为20)
+--------------------------------+----------+
| Status | Duration | -- 状态及其对应的持续时间
+--------------------------------+----------+
| starting | 0.000151 | -- 开始执行查询
| Executing hook on transaction | 0.000006 | -- 执行事务相关的钩子操作
| starting | 0.000012 | -- 开始阶段
| checking permissions | 0.000010 | -- 检查权限
| Opening tables | 0.000059 | -- 打开表
| init | 0.000008 | -- 初始化查询
| System lock | 0.000014 | -- 系统锁定
| optimizing | 0.000006 | -- 优化查询
| statistics | 0.000033 | -- 收集统计信息
| preparing | 0.000031 | -- 准备执行
| executing | 0.000363 | -- 执行查询
| end | 0.000007 | -- 结束查询执行
| query end | 0.000006 | -- 查询结束
| waiting for handler commit | 0.000014 | -- 等待处理器提交
| closing tables | 0.000008 | -- 关闭表
| freeing items | 0.000135 | -- 释放项目
| cleaning up | 0.000018 | -- 清理工作
+--------------------------------+----------+
17 rows in set, 1 warning (0.01 sec)
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
mysql> show profile cpu,block io for query 19; -- 查看指定Query_ID 的SQL执行开销
+--------------------------------+----------+----------+------------+--------------+---------------+
| Status | Duration | CPU_user | CPU_system | Block_ops_in | Block_ops_out |
+--------------------------------+----------+----------+------------+--------------+---------------+
| Status | 执行阶段 | 用户CPU时间 | 系统CPU时间 | 读取的块操作 | 写入的块操作 | -- 表头说明
| starting | 0.000104 | 0.000069 | 0.000028 | 0 | 0 | -- 查询开始执行
| Executing hook on transaction | 0.000004 | 0.000002 | 0.000001 | 0 | 0 | -- 执行事务相关钩子
| starting | 0.000010 | 0.000007 | 0.000003 | 0 | 0 | -- 开始阶段
| checking permissions | 0.000008 | 0.000006 | 0.000002 | 0 | 0 | -- 权限检查
| Opening tables | 0.000042 | 0.000030 | 0.000012 | 0 | 0 | -- 打开表
| init | 0.000005 | 0.000004 | 0.000002 | 0 | 0 | -- 初始化
| System lock | 0.000012 | 0.000008 | 0.000003 | 0 | 0 | -- 系统锁
| optimizing | 0.000005 | 0.000004 | 0.000001 | 0 | 0 | -- 查询优化
| statistics | 0.000019 | 0.000014 | 0.000006 | 0 | 0 | -- 统计信息收集
| preparing | 0.000026 | 0.000018 | 0.000007 | 0 | 0 | -- 准备执行
| executing | 0.001758 | 0.000567 | 0.000000 | 384 | 0 | -- 执行查询
| end | 0.000005 | 0.000004 | 0.000000 | 0 | 0 | -- 结束执行
| query end | 0.000004 | 0.000004 | 0.000000 | 0 | 0 | -- 查询结束
| waiting for handler commit | 0.000011 | 0.000011 | 0.000000 | 0 | 0 | -- 等待处理器提交
| closing tables | 0.000008 | 0.000008 | 0.000000 | 0 | 0 | -- 关闭表
| freeing items | 0.000018 | 0.000018 | 0.000000 | 0 | 0 | -- 释放资源
| cleaning up | 0.000014 | 0.000014 | 0.000000 | 0 | 0 | -- 清理工作
+--------------------------------+----------+----------+------------+--------------+---------------+
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
show profile的常用查询参数:
① ALL:显示所有的开销信息。
② BLOCK IO:显示块IO开销。
③ CONTEXT SWITCHES:上下文切换开销。
④ CPU:显示CPU开销信息。
⑤ IPC:显示发送和接收开销信息。
⑥ MEMORY:显示内存开销信 息。
⑦ PAGE FAULTS:显示页面错误开销信息。
⑧ SOURCE:显示和Source_function,Source_file, Source_line相关的开销信息。
⑨ SWAPS:显示交换次数开销信息。
日常开发需注意的结论:
① converting HEAP to MyISAM
: 查询结果太大,内存不够,数据往磁盘上搬了。
② Creating tmp table
:创建临时表。先拷贝数据到临时表,用完后再删除临时表。
③ Copying to tmp table on disk
:把内存中临时表复制到磁盘上,警惕!
④ locked
。
如果在show profile诊断结果中出现了以上4条结果中的任何一条,则sql语句需要优化。
我们还可以从 information_schema
数据库中的 profiling
数据表进行查看SQL执行成本。
-- 在profiling数据表中查询最新Query_ID的SQL执行成本 (也需要开启 show profile)
mysql> SELECT Query_ID, Seq, State, Duration FROM information_schema.profiling
WHERE Query_ID = (SELECT MAX(Query_ID)
FROM information_schema.profiling);
+----------+-----+--------------------------------+----------+
| Query_ID | Seq | State | Duration |
+----------+-----+--------------------------------+----------+
| 105 | 2 | starting | 0.000304 | -- 查询开始执行
| 105 | 3 | Executing hook on transaction | 0.000007 | -- 执行事务相关的钩子(hook)
| 105 | 4 | starting | 0.000012 | -- 重新开始一个阶段
| 105 | 5 | checking permissions | 0.000006 | -- 检查权限
| 105 | 6 | checking permissions | 0.000007 | -- 再次检查权限
| 105 | 7 | Opening tables | 0.000129 | -- 打开需要查询的表
| 105 | 8 | init | 0.000007 | -- 初始化查询
| 105 | 9 | System lock | 0.000011 | -- 系统锁定
| 105 | 10 | optimizing | 0.000022 | -- 优化查询
| 105 | 11 | statistics | 0.000024 | -- 收集统计信息
| 105 | 12 | preparing | 0.000034 | -- 准备查询
| 105 | 13 | optimizing | 0.000007 | -- 再次优化查询
| 105 | 14 | statistics | 0.000006 | -- 再次收集统计信息
| 105 | 15 | preparing | 0.000014 | -- 再次准备查询
| 105 | 16 | executing | 0.000860 | -- 执行查询
| 105 | 17 | executing | 0.000536 | -- 继续执行查询
| 105 | 18 | end | 0.000006 | -- 查询结束
| 105 | 19 | query end | 0.000016 | -- 查询彻底结束
| 105 | 20 | closing tables | 0.000006 | -- 关闭表
| 105 | 21 | freeing items | 0.000031 | -- 释放资源
| 105 | 22 | cleaning up | 0.000029 | -- 清理工作
+----------+-----+--------------------------------+----------+
21 rows in set, 2 warnings (0.01 sec)
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
注意
官方文档提醒 profiling
功能已经被标记弃用,在MySQL 5.6.7及以上版本已经不再支持 profiling
,需要手动开启。MySQL提供了更强大的 performance_schema
作为性能分析的工具,推荐使用 performance_schema
来进行详细的性能分析和调优。
# 6. 分析查询语句:EXPLAIN
# 6.1 概述
(1)定位了查询慢的 SQL 之后,我们就可以使用 EXPLAIN 或 DESCRIBE 工具做针对性的分析查询语句。DESCRIBE 语句的使用方法与 EXPLAIN 语句是一样的,并且分析结果也是一样的。
(2)MySQL 中有专门负责优化 SELECT 语句的优化器模块,主要功能:通过计算分析系统中收集到的统计信息,为客户端请求的Query 提供它认为最优的执行计划
(它认为最优的数据检索方式,但不见得是 DBA 认为是最优的,这部分最耗费时间)。
(3)这个执行计划展示了接下来具体执行查询的方式,比如多表连接的顺序是什么,对于每个表采用什么访问方法来具体执行查询等等。MySQL 为我们提供了 EXPLAIN 语句来帮助我们查看某个查询语句的具体执行计划,大家看懂 EXPLAIN 语句的各个输出项,可以有针对性的提升我们查询语句的性能。
# 6.1.1.能做什么?
- 表的读取顺序
- 数据读取操作的操作类型
- 哪些索引可以使用
- 哪些索引被实际使用
- 表之间的引用
- 每张表有多少行被优化器查询
# 6.1.2.官网介绍
(1)MySQL5.7:https://dev.mysql.com/doc/refman/5.7/en/explain-output.html (opens new window)
(2)MySQL8.0:https://dev.mysql.com/doc/refman/8.0/en/explain-output.html (opens new window)
(3)版本情况:
①
MySQL 5.6.3以前
只能 EXPLAIN SELECT ;MYSQL 5.6.3以后
就可以 EXPLAIN SELECT,UPDATE, DELETE② 在5.7以前的版本中,想要显示 partitions 需要使用 explain partitions 命令;想要显示 filtered 需要使用 explain extended 命令。
在5.7版本后
,默认explain直接显示partitions和 filtered中的信息。
# 6.2 基本语法
(1)EXPLAIN 或 DESCRIBE 语句的语法形式如下:
EXPLAIN SELECT select_options
# 或者
DESCRIBE SELECT select_options
2
3
(2)如果我们想看看某个查询的执行计划的话,可以在具体的查询语句前边加一个 EXPLAIN ,就像这样
mysql> EXPLAIN SELECT 1;
输出的上述信息就是所谓的执行计划。在这个执行计划的辅助下,我们需要知道应该怎样改进自己的查询语句以使查询执行起来更高效。其实除了以 SELECT 开头的查询语句,其余的 DELETE、INSERT、REPLACE 以及 UPDATE 语句等都可以加上 EXPLAIN,用来查看这些语句的执行计划,只是平时我们对 SELECT 语句更感兴趣。
注意:执行 EXPLAIN 时并没有真正的执行该后面的语句,因此可以安全的查看执行计划。
(3)EXPLAIN 语句输出的各个列的作用如下:
列名 | 描述 |
---|---|
id | 在一个大的查询语句中每个 SELECT 关键字都对应一个唯一的id |
select_type | SELECT关键字对应的那个查询的类型 |
table | 表名(或别名) |
partitions | 匹配的分区信息 |
type | 针对单表的访问方法 |
possible_keys | 可能用到的索引 |
key | 实际上使用的索引 |
key_len | 实际使用到的索引长度 |
ref | 当使用索引列等值查询时,与索引列进行等值匹配的对象信息 |
rows | 预估的需要读取的记录条数 |
filtered | 某个表经过搜索条件过滤后剩余记录条数的百分比 |
Extra | 一些额外的信息 |
在这里把它们都列出来知识为了描述一个轮廓,让大家有一个大致的印象。
# 6.3 数据准备
# 6.3.1.建表
USE atguigudb1;
CREATE TABLE s1 (
id INT AUTO_INCREMENT, -- 自增主键
key1 VARCHAR(100), -- 普通索引字段
key2 INT, -- 唯一索引字段
key3 VARCHAR(100), -- 普通索引字段
key_part1 VARCHAR(100), -- 联合索引的第一部分
key_part2 VARCHAR(100), -- 联合索引的第二部分
key_part3 VARCHAR(100), -- 联合索引的第三部分
common_field VARCHAR(100), -- 普通字段
PRIMARY KEY (id), -- 主键索引
INDEX idx_key1 (key1), -- 为key1字段创建普通索引
UNIQUE INDEX idx_key2 (key2), -- 为key2字段创建唯一索引
INDEX idx_key3 (key3), -- 为key3字段创建普通索引
INDEX idx_key_part(key_part1, key_part2, key_part3) -- 为key_part1, key_part2, key_part3字段创建联合索引
) ENGINE=INNODB CHARSET=utf8; -- 使用InnoDB存储引擎和UTF-8字符集
CREATE TABLE s2 (
id INT AUTO_INCREMENT, -- 自增主键
key1 VARCHAR(100), -- 普通索引字段
key2 INT, -- 唯一索引字段
key3 VARCHAR(100), -- 普通索引字段
key_part1 VARCHAR(100), -- 联合索引的第一部分
key_part2 VARCHAR(100), -- 联合索引的第二部分
key_part3 VARCHAR(100), -- 联合索引的第三部分
common_field VARCHAR(100), -- 普通字段
PRIMARY KEY (id), -- 主键索引
INDEX idx_key1 (key1), -- 为key1字段创建普通索引
UNIQUE INDEX idx_key2 (key2), -- 为key2字段创建唯一索引
INDEX idx_key3 (key3), -- 为key3字段创建普通索引
INDEX idx_key_part(key_part1, key_part2, key_part3) -- 为key_part1, key_part2, key_part3字段创建联合索引
) ENGINE=INNODB CHARSET=utf8; -- 使用InnoDB存储引擎和UTF-8字符集
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
# 6.3.2.创建相关函数
DELIMITER //
CREATE FUNCTION rand_string1(n INT)
RETURNS VARCHAR(255) #该函数会返回一个字符串
BEGIN
DECLARE chars_str VARCHAR(100) DEFAULT
'abcdefghijklmnopqrstuvwxyzABCDEFJHIJKLMNOPQRSTUVWXYZ';
DECLARE return_str VARCHAR(255) DEFAULT '';
DECLARE i INT DEFAULT 0;
WHILE i < n DO
SET return_str =CONCAT(return_str,SUBSTRING(chars_str,FLOOR(1+RAND()*52),1));
SET i = i + 1;
END WHILE;
RETURN return_str;
END //
DELIMITER ;
2
3
4
5
6
7
8
9
10
11
12
13
14
15
在创建函数时,如果报错,需开启如下命令:
# 允许创建函数设置
set global log_bin_trust_function_creators=1; # 不加 global 只是当前窗口有效。
2
# 6.3.3.创建存储过程
(1)创建往 s1 表中插入数据的存储过程:
DELIMITER //
CREATE PROCEDURE insert_s1 (IN min_num INT (10),IN max_num INT (10))
BEGIN
DECLARE i INT DEFAULT 0;
SET autocommit = 0;
REPEAT
SET i = i + 1;
INSERT INTO s1 VALUES(
(min_num + i),
rand_string1(6),
(min_num + 30 * i + 5),
rand_string1(6),
rand_string1(10),
rand_string1(5),
rand_string1(10),
rand_string1(10));
UNTIL i = max_num
END REPEAT;
COMMIT;
END //
DELIMITER ;
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
(2)创建往 s2 表中插入数据的存储过程:
DELIMITER //
CREATE PROCEDURE insert_s2 (IN min_num INT (10),IN max_num INT (10))
BEGIN
DECLARE i INT DEFAULT 0;
SET autocommit = 0;
REPEAT
SET i = i + 1;
INSERT INTO s2 VALUES(
(min_num + i),
rand_string1(6),
(min_num + 30 * i + 5),
rand_string1(6),
rand_string1(10),
rand_string1(5),
rand_string1(10),
rand_string1(10));
UNTIL i = max_num
END REPEAT;
COMMIT;
END //
DELIMITER ;
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
# 6.3.4.调用存储过程
# s1 表数据的添加:加入 1 万条记录:
CALL insert_s1(10001, 10000);
# s2 表数据的添加:加入 1 万条记录:
CALL insert_s2(10001, 10000);
2
3
4
5
# 6.4 EXPLAIN各列作用
# 1. table
不论我们的查询语句有多复杂,包含了多少个表 ,到最后也是需要对每个表进行单表访问
的,所以 MySQL 规定EXPLAIN语句输出的每条记录都对应着某个单表的访问方法,该条记录的 table 列代表着该表的表名(有时不是真实的表名字,可能是简称)。
# 查询的每一行记录都对应着一个单表
EXPLAIN SELECT * FROM s1;
2
这个查询语句只涉及对s1表的单表查询,所以 EXPLAIN
输出中只有一条记录,其中的table列的值为s1,表明这条记录是用来说明对s1表的单表访问方法的。
下边我们看一个连接查询的执行计划
# s1:驱动表 s2:被驱动表
EXPLAIN SELECT * FROM s1 INNER JOIN s2;
2
可以看出这个连接查询的执行计划中有两条记录,这两条记录的table列分别是s1和s2,这两条记录用来分别说明对s1表和s2表的访问方法是什么。
# 2. id
我们写的查询语句一般都以 SELECT 关键字开头,比较简单的查询语句里只有一个 SELECT 关键字,比如下边这个查询语句:
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a';
稍微复杂一点的连接查询中也只有一个 SELECT 关键字,比如:
SELECT * FROM s1 INNER JOIN s2
ON s1.key1 = s2.key1
WHERE s1.common_field = 'a';
2
3
但是下边两种情况下在一条查询语句中会出现多个SELECT关键字:
① 查询中包含子查询的情况,比如下边这个查询语句中就包含2个 SELECT 关键字:
explain select * from s1 where key1 in (select key3 from s2);
② 查询中包含 UNION 语句的情况,比如下边这个查询语句中也包含2个 SELECT 关键字:
explain select * from s1 union select * from s2;
查询语句中每出现一个 SELECT 关键字,MySQL就会为它分配一个唯一的 id 值。这个 id
值就是 EXPLAIN
语句的第一个列,比如下边这个查询中只有一个SELECT
关键字,所以EXPLAIN的结果中也就只有一条id列为1的记录:
mysql > EXPLAIN SELECT * FROM s1 WHERE key1 = 'a';
对于连接查询来说,一个SELECT关键字后边的FROM字句中可以跟随多个表,所以在连接查询的执行计划中,每个表都会对应一条记录,但是这些记录的id值都是相同的,比如:
mysql> EXPLAIN SELECT * FROM s1 INNER JOIN s2;
可以看到,上述连接查询中参与连接的s1和s2表分别对应一条记录,但是这两条记录对应的
id
都是1。这里需要大家记住的是,在连接查询的执行计划中,每个表都会对应一条记录,这些记录的id列的值是相同的,出现在前边的表表示驱动表
,出现在后面的表表示被驱动表
。所以从上边的EXPLAIN输出中我们可以看到,查询优化器准备让s1表作为驱动表,让s2表作为被驱动表来执行查询。对于包含子查询的查询语句来说,就可能涉及多个
SELECT
关键字,所以在包含子查询的查询语句的执行计划中,每个SELECT
关键字都会对应一个唯一的id值,比如这样:
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2) OR key3 = 'a';
从输出结果中我们可以看到,s1表在外层查询中,外层查询有一个独立的 SELECT
关键字,所以第一条记录的 id值就是 1, s2表在子查询中,子查询有一个。独立的SELECT关键字
,所以第二条记录的 id 值就是2。
但是这里大家需要特别注意,查询优化器可能对涉及子查询的查询语句进行重写,从而转换为连接查询。所以如果我们想知道查询优化器对某个包含子查询的语句是否进行了重写,直接查看执行计划就好了,比如说:
# 查询优化器可能对涉及子查询的查询语句进行重写,转变为多表查询的操作。
mysql> EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key2 FROM s2 WHERE common_field = 'a');
2
可以看到,虽然我们的查询语句是一个子查询,但是执行计划中s1和s2表对应的记录的id
值全部是1,这就表明查询优化器将子查询转换为了连接查询
。
对于包含UNION
子句的查询语句来说,每个SELECT
关键字对应一个id
值也是没错的,不过还是有点儿特别的东西,比方说下边的查询:
# Union去重
mysql> EXPLAIN SELECT * FROM s1 UNION SELECT * FROM s2;
2
分析结果集中为什么多出来了一条记录,这条记录的执行计划是什么?UNION它会把多个查询的结果集合并起来并对结果集中的记录 进行去重,怎么去重呢?MySQL使用的是内部的
临时表。正如上边的查询计划中所示,UNION子句是为了把id为 1 的查询和id为 2 的查询的结果集合并起来并去重,所以在内部创建了一个名为
<union1, 2>的临时表(就是执行计划第三条记录的table列的名称) ,
Extra 为Using temporary
表明这个临时表是为了合并两个查询的结果集而创建的。
跟UNION对比起来,,UNION ALL
就不需要为最终的结果集进行去重,它只是单纯的把多个查询的结果集中的记录合并成一个并返回给用户,所以也就不需要使用临时表。所以在包含UNION ALL
子句的查询的执行计划中,就没有那个Extra为Using temporary
的记录,如下所示:
mysql> EXPLAIN SELECT * FROM s1 UNION ALL SELECT * FROM s2;
id小结
- id如果相同,可以认为是一组,从上往下顺序执行
- 在所有组中,id值越大,优先级越高,越先执行
- 关注点:id号每个号码,表示一趟独立的查询, 一个sql的查询趟数越少越好
# 3. select_type
(1)一条大的查询语句里边可以包含若干个 SELECT 关键字,每个 SELECT 关键字代表着一个小的查询语句
,而每个 SELECT 关键字的 FROM 子句中都可以包含若干张表(这些表用来做连接查询),每一张表都对应着执行计划输出中的一条记录
,对于在同一个 SELECT 关键字中的表来说,它们的 id 值是相同的。
(2)MySQL 为每一个 SELECT 关键字代表的小查询都定义了一个称之为 select_type 的属性,意思是我们只要知道了某个小查询的select_type 属性,就知道了这个小查询在整个大查询中扮演了一个什么角色,我们看一下 select_type 都能取哪些值,请看官方文档:
名称 | 描述 |
---|---|
SIMPLE | 简单SELECT(不使用UNION或子查询) |
PRIMARY | 最外层SELECT |
UNION | UNION中的第二个或后续SELECT语句 |
UNION RESULT | UNION的结果 |
SUBQUERY | 子查询中的第一个SELECT |
DEPENDENT SUBQUERY | 子查询中的第一个SELECT,依赖于外部查询 |
DEPENDENT UNION | UNION中的第二个或后续SELECT语句,依赖于外部查询 |
DERIVED | 派生表(DERIVED TABLE) |
MATERIALIZED | 物化子查询 |
UNCACHEABLE SUBQUERY | 不能缓存结果且每次外部查询的行都必须重新评估的子查询 |
UNCACHEABLE UNION | 属于不能缓存的子查询(参见UNCACHEABLE SUBQUERY)的UNION中的第二个或后续SELECT |
(3)举例,具体分析如下
① SIMPLE:查询语句中不包含 UNION
或者子查询的查询都算作是 SIMPLE
类型。
EXPLAIN SELECT * FROM s1;
# 连接查询也算是`SIMPLE`类型
EXPLAIN SELECT * FROM s1 INNER JOIN s2;
2
3
4
② PRIMARY 与 UNION:对于包含 UNION
或者 UNION ALL
或者子查询的大查询来说,它是由几个小查询组成的,其中最左边的那个查询的 select_type
值就是 PRIMARY
,除了最左边的那个小查询以外,其余的小查询的select_type
值就是UNION
。此外,MySQL
选择使用临时表来完成 UNION
查询的去重工作,针对该临时表的查询的 select_type
就是 UNION RESULT
。
EXPLAIN SELECT * FROM s1 UNION SELECT * FROM s2;
EXPLAIN SELECT * FROM s1 UNION ALL SELECT * FROM s2;
2
3
③ SUBQUERY :如果包含子查询的查询语句不能够转为对应的 semi-join
(多表连接)的形式,并且该子查询是不相关子查询,那么该子查询的第一个 SELECT
关键字代表的那个查询的 select_type
就是 SUBQUERY
。
EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2) OR key3 = 'a';
④ DEPENDENT SUBQUERY:如果包含子查询的查询语句不能够转为对应的semi-join
的形式,并且该子查询是相关子查询,则该子查询的第一个 SELECT
关键字代表的那个查询的 select_type
就是 DEPENDENT SUBQUERY
。
# 注意:select_type为`DEPENDENT SUBQUERY`的查询可能会被执行多次。
EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2 WHERE s1.key2 = s2.key2) OR key3 = 'a';
2
⑤ DEPENDENT SUBQUERY:在包含 UNION
或者 UNION ALL
的大查询中,如果各个小查询都依赖于外层查询的话,那除了最左边的那个小查询之外,其余的小查询的 select_type
的值就是 DEPENDENT UNION
。
# 优化器有时会将 IN 替换为 EXISTS
EXPLAIN SELECT * FROM s1
WHERE key1 IN (SELECT key1 FROM s2 WHERE key1 = 'a' UNION SELECT key1 FROM s1 WHERE key1 = 'b');
2
3
⑥ DERIVED:对于包含 派生表
的查询,该派生表对应的子查询的 select_type
就是 DERIVED
。
EXPLAIN SELECT *
FROM (SELECT key1, COUNT(*) AS c FROM s1 GROUP BY key1) AS derived_s1 WHERE c > 1;
2
⑦ MATERIALIZED:当查询优化器在执行包含子查询的语句时,选择将子查询物化之后与外层查询进行连接查询时,该子查询对应的 select_type
属性就是 MATERIALIZED
。
# 子查询被转为了物化表
EXPLAIN SELECT * FROM s1 WHERE key1 IN (SELECT key1 FROM s2);
2
# 4. partition(可略)
(1)代表分区表中的命中情况,非分区表,该项为 NULL
。一般情况下我们的查询语句的执行计划的 partitions
列的值都是 NULL
。
(2)官方文档:https://dev.mysql.com/doc/refman/5.7/en/alter-table-partition-operations.html
(3)如果想详细了解,可以如下方式测试。创建分区表:
-- 创建分区表,
-- 按照id分区,id<100 p0分区,其他p1分区
CREATE TABLE user_partitions (id INT auto_increment,
NAME VARCHAR(12),PRIMARY KEY(id))
PARTITION BY RANGE(id)(
PARTITION p0 VALUES less than(100),
PARTITION p1 VALUES less than MAXVALUE
);
-- 查询id大于200(200>100,p1分区)的记录
DESC SELECT * FROM user_partitions WHERE id>200;
2
3
4
5
6
7
8
9
10
查询id大于200(200>100,p1分区)的记录,查看执行计划,partitions是p1,符合我们的分区规则
# 5. type(重要)
(1)执行计划的一条记录就代表着 MySQL 对某个表的执行查询时的访问方法,又称“访问类型”,其中的 type 列就表明了这个访问方法是什么,是较为重要的一个指标。比如,看到 type 列的值是 ref
,表明 MySQL 即将使用 ref 访问方法
来执行对 s1 表的查询。
(2)完整的访问方法如下:
- system: 这是最快的访问类型,用于只有一行的系统表(例如,使用PRIMARY KEY查询单行数据)。这意味着表只有一行或在查询中被视为只有一行。
- const: 当MySQL能够通过索引一次性确定单行数据时使用,如通过主键或唯一索引查询。这种类型通常用于比较主键或唯一索引列与常数的情况。
- eq_ref: 在连接查询中,当为每个索引键仅有一个匹配行时使用。这通常发生在使用主键或唯一索引作为连接条件时。
- ref: 这种访问方法用于使用非唯一索引,或者唯一索引的非唯一部分进行查询。对于给定的索引键值,可能会有多个符合条件的行。
- fulltext: 用于全文索引搜索。
- ref_or_null: 这个访问方法类似于ref,但它还包括对NULL值的搜索,用于查询可能同时包含具体值和NULL值的列。
- index_merge: 这种方法涉及到使用两个或更多的索引进行搜索,然后将结果合并。这通常用于处理OR条件查询。
- unique_subquery: 用于某些包含IN子句的查询,当子查询返回一个唯一值时使用。
- index_subquery: 类似于unique_subquery,但适用于子查询返回非唯一值的情况。
- range: 这种访问类型用于检索给定范围内的行,例如,使用比较操作符如
>
,<
,BETWEEN
等。这种方式比全表扫描要好,因为它只需要扫描索引中的一部分。 - index: 这个访问类型涉及到对索引的全扫描,而不是表的全扫描。这通常比全表扫描快,尤其是当索引比表小得多时。
- ALL: 这表示全表扫描,MySQL需要遍历整个表来找到匹配的行。这是最慢的访问类型,通常表明需要优化查询或索引策略。
访问类型从system
到ALL
,性能逐渐降低,了解这些访问类型可以帮助开发者和数据库管理员优化查询性能。
详细解释如下:
① system:当表中 只有一条记录
并且该表使用的存储引擎的统计数据是精确的,比如 MyISAM、Memory 等,那么对该表的访问方法就是 system
。比方说我们新建一个MyISAM
表,并为其插入一条记录:
CREATE TABLE t(i INT) ENGINE=MYISAM;
INSERT INTO t VALUES(1);
# 看一下查询这个表的执行计划
EXPLAIN SELECT * FROM t;
2
3
4
可以看到type
列的值就是system
了,
如果把表改成使用InnoDB存储引擎,试试看执行计划的type
列是什么?
# 换成 InnoDB
CREATE TABLE tt(i INT) ENGINE=INNODB;
INSERT INTO tt VALUES(1);
# 看一下查询这个表的执行计划
EXPLAIN SELECT * FROM tt;
2
3
4
5
② const:当我们根据主键或者唯一二级索引列与常数进行等值匹配时,对单表的访问方法就是 const
。
EXPLAIN SELECT * FROM s1 WHERE id = 10005;
③ eq_ref:在连接查询时,如果被驱动表是通过主键或者唯一二级索引列等值匹配的方式进行访问的(如果该主键或者唯一二级索引是联合索引的话,所有的索引列都必须进行等值比较),则对该被驱动表的访问方法就是 eq_ref
。
EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.id = s2.id;
从执行计划的结果中可以看出,MySQL打算将s2作为驱动表,s1作为被驱动表,重点关注s1的访问 方法是 eq_ref
,表明在访问s1表的时候可以 通过主键的等值匹配
来进行访问。
④ ref:当通过普通的二级索引列与常量进行等值匹配时来查询某个表,那么对该表的访问方法就可能是 ref
。
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a';
⑤ ref_or_null:当对普通二级索引进行等值匹配查询,该索引列的值也可以是 NULL
值时,那么对该表的访问方法就可能是 ref_or_null
。
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key1 IS NULL;
⑥ index_merge:一般情况下对于某个表的查询只能使用到一个索引,但单表访问方法时在某些场景下可以使用Interseation、union、Sort-Union
这三种索引合并的方式来执行查询。我们看一下执行计划中是怎么体现MySQL使用索引合并的方式来对某个表执行查询的index_merge
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key3 = 'a';
从执行计划的 type
列的值是 index_merge
就可以看出,MySQL 打算使用索引合并的方式来执行 对 s1 表的查询。
⑦ unique_subquery:unique_subquery
是针对在一些包含 IN
子查询的查询语句中,如果查询优化器决定将 IN
子查询转换为 EXISTS
子查询,而且子查询可以使用到主键进行等值匹配的话,那么该子查询执行计划的 type
列的值就是unique_subquery
。比如下边的这个查询语句:
EXPLAIN SELECT * FROM s1
WHERE key2 IN (SELECT id FROM s2 WHERE s1.key1 = s2.key1) OR key3 = 'a';
2
⑧ range:如果使用索引获取某些范围区间
的记录,那么就可能使用到 range
访问方法。
EXPLAIN SELECT * FROM s1 WHERE key1 IN ('a', 'b', 'c');
⑨ index:当我们可以使用索引覆盖,但需要扫描全部的索引记录时,该表的访问方法就是 index
。
# 要查询的字段和 WHERE 中的字段恰好都是联合索引 idx_key_part 中的一部分,所以此时干脆就使用了索引 idx_key_part
EXPLAIN SELECT key_part2 FROM s1 WHERE key_part3 = 'a';
2
上述查询中的所有列表中只有key_part2 一个列,而且搜索条件中也只有 key_part3 一个列,这两个列又恰好包含在idx_key_part这个索引中,可是搜索条件key_part3不能直接使用该索引进行ref
和range
方式的访问,只能扫描整个idx_key_part
索引的记录,所以查询计划的type
列的值就是index
。
再一次强调,对于使用InnoDB存储引擎的表来说,二级索引的记录只包含索引列和主键列的值,而聚簇索引中包含用户定义的全部列以及一些隐藏列,所以扫描二级索引的代价比直接全表扫描,也就是扫描聚簇索引的代价更低一些。
⑩ ALL :全表扫描。
EXPLAIN SELECT * FROM s1;
(3)小结
- ① 一般来说,这些访问方法中除了 ALL 这个访问方法外,其余的访问方法都能用到索引,除了 index_merge 访问方法外,其余的访问方法都最多只能用到一个索引。
- ② 结果值从最好到最坏依次是:
system > const > eq_ref > ref
> fulltext > ref_or_null > index_merge > unique_subquery > index_subquery >range > index > ALL
。 其中比较重要的几个提取出来(见上面的蓝色访问方法)。SQL 性能优化的目标:至少要达到 range 级别,要求是 ref 级别,最好是 consts级别。(阿里巴巴开发手册要求)
# 6. possible_keys 和 key
(1)在EXPLAIN语句输出的执行计划中,possible_keys
列表示在某个查询语句中,对某个列执行单表查询时可能用到的索引
有哪些。一般查询涉及到的字段上若存在索引,则该索引将被列出,但不一定被查询使用。key
列表示实际用到的索引
有哪些,如果为NULL,则没有使用索引。比方说下面这个查询:
EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND key3 = 'a';
(2)上述执行计划的possible_keys
列的值是idx_key1, idx_key3
,表示该查询可能使用到idx_key1, idx_key3
两个索引,然后key
列的值是idx_key3
,表示经过查询优化器计算使用不同索引的成本后,最后决定采用idx_key3
。
# 7. key_len(重要)
(1)key_len 指实际使用到的索引长度(单位是字节数),帮忙检查 是否充分地利用上了索引
,对于同一个索引来说,其值越大越好
。它主要针对于联合索引,有一定的参考意义。
(2)key_len 的长度计算公式:
- 整数类型(例如
int
):int
类型占据 4 个字节,不允许NULL
:key_len = 4
int
类型占据 4 个字节,允许NULL
:key_len = 5
- 字符类型(例如
varchar
、char
):- varchar(10) 变长字段且允许 NULL:
key_len = 10 * (character set:utf8 = 3, gbk = 2, latin1 = 1) + 1(NULL) + 2(变长字段) = 63
- varchar(10) 变长字段且不允许 NULL:
key_len = 10 * (character set:utf8 = 3, gbk = 2, latin1 = 1) + 2(变长字段) = 62
- char(10) 固定字段且允许 NULL:
key_len = 10 * (character set:utf8 = 3, gbk = 2, latin1 = 1) + 1(NULL) = 61
- char(10) 固定字段且不允许 NULL:
key_len = 10 * (character set:utf8 = 3, gbk = 2, latin1 = 1) = 60
- varchar(10) 变长字段且允许 NULL:
- 日期时间类型(例如
datetime
):datetime
类型占据 8 个字节:key_len = 8
- 浮点数类型(例如
float
、double
):float
类型占据 4 个字节:key_len = 4
double
类型占据 8 个字节:key_len = 8
(3)举例
EXPLAIN SELECT * FROM s1 WHERE id = 10005;
EXPLAIN SELECT * FROM s1 WHERE key2 = 10126;
EXPLAIN SELECT * FROM s1 WHERE key_part1 = 'a';
EXPLAIN SELECT * FROM s1 WHERE key_part1 = 'a' AND key_part2 = 'b';
EXPLAIN SELECT * FROM s1 WHERE key_part1 = 'a' AND key_part2 = 'b' AND key_part3 = 'c';
2
3
4
5
联合索引中可以比较,key_len=606的好于key_len=303
# 8. ref
ref:当使用索引列等值查询时,与索引列进行等值匹配的对象信息。
# 比如只是一个常数或者是某个列。
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a';
EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.id = s2.id;
EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s2.key1 = UPPER(s1.key1);
2
3
4
5
6
# 9. rows(重要)
rows:显示的是MySQL优化器预计
在执行查询过程中需要检查的记录数
,这是一个估算值,反映了为了找到查询请求的结果,数据库需要考虑多少条数据,值越小越好
。
如果rows
值接近表中的总行数,可能意味着查询需要全表扫描,这通常是效率低下的。如果rows
值较小,可能意味着查询能够有效利用索引来减少需要检查的数据量,从而提高查询性能。
EXPLAIN SELECT * FROM s1 WHERE key1 > 'z';
# 10. filtered
filtered: 显示了经过查询条件过滤后剩余记录条数的百分比。这个百分比是一个估算值,它表示在考虑了WHERE条件之后,预计有多少比例的行会被选中参与到最终的结果集中,值越大越好
。
例如,如果EXPLAIN
的结果显示rows
为1000,filtered
为50,这意味着在最初估算需要检查的1000行数据中,只有大约50%(即大约500行)预计会满足查询的WHERE条件,并被包含在最终的查询结果中。
# 如果使用的是索引执行的单表扫描,那么计算时需要估算出
# 满足除了使用到对应索引的搜索条件以外的其他搜索条件记录有多少条。
EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND common_field = 'a';
2
3
# 对于单表查询来说,这个filtered列的值没什么意义,我们更关注在连接查询中驱动表对应的执行计划记录的 filtered 值,
# 它决定了被驱动表要执行的次数(即:rows * filtered)
EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key1 WHERE s1.common_field = 'a';
2
3
从执行计划中可以看出来,查询优化器打算把s1
作为驱动表,s2
当做被驱动表。我们可以看到驱动表s1
表的执行计划的rows
列为10152
,filtered列为10.00
,这意味着驱动表s1
的扇出值就是10152 x 10.00% = 1015.2
,这说明还要对被驱动表执行大约1015
次查询。
书生小结
- 驱动表的
filtered
值:表示在考虑了所有的过滤条件(如WHERE
子句中的条件)后,预计有多少百分比的行会被选中参与到连接操作中。对于驱动表s1
,filtered
值表明了在应用common_field = 'a'
这个条件后,有多少比例的s1
表的记录满足条件。 - 对被驱动表的影响:在内连接(
INNER JOIN
)中,只有当驱动表中的记录满足连接条件时,才会去访问被驱动表s2
。因此,驱动表的filtered
值决定了MySQL需要对被驱动表执行查找的次数。具体来说,驱动表中估计的满足条件的记录数(rows
乘以filtered
的百分比)就是MySQL尝试在被驱动表中找到匹配行的次数。
# 11. Extra(重要)
顾名思义,Extra 列是用来说明一些额外信息的,包含不适合在其他列中显示但十分重要的额外信息。我们可以通过这些额外信息来更准确的理解 MySQL 到底将如何执行给定的查询语句。MySQL 提供的额外信息有好几十个,这里只挑比较重要的额外信息来介绍。
(1)No tables used:当查询语句的没有 FROM
子句时将会提示该额外信息。
EXPLAIN SELECT 1;
(2)Impossible WHERE:查询语句的 WHERE
子句永远为 FALSE
时将会提示该额外信息。
EXPLAIN SELECT * FROM s1 WHERE 1 != 1;
(3)Using where:当我们使用全表扫描来执行对某个表的查询,并且该语句的 WHERE
子句中有针对该表的搜索条件时,在Extra
列中会提示该额外信息。
EXPLAIN SELECT * FROM s1 WHERE common_field = 'a';
此外,当使用索引访问来执行对某个表的查询,并且该语句的 WHERE
子句中有除了该索引包含的列之外的其他搜索条件时,在Extra
列中也会提示上述额外信息。比如下边这个查询虽然使用 idx-key1
索引执行查询,但是搜索条件中除了包含key1的搜索条件key1 = 'a'
,还包含common_field
的搜索条件,所以Extra列会显示Using where
的提示:
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' AND common_field = 'a';
(4)No matching min/max row:当查询列表处有 MIN
或者 MAX
聚合函数,但是并没有符合 WHERE
子句中的搜索条件的记录时,将会提示该额外信息。
EXPLAIN SELECT MIN(key1) FROM s1 WHERE key1 = 'abcdefg';
(5)Using index:当我们的查询列表以及搜索条件中只包含属于某个索引的列,也就是在可以使用覆盖索引的情况下,在 Extra
列将会提示该额外信息。比方说下边这个查询中只需要用到 idx_key1
而不需要回表操作:
EXPLAIN SELECT key1 FROM s1 WHERE key1 = 'a';
(6)Using index condition:有些搜索条件中虽然出现了索引列,但却不能使用到索引。
EXPLAIN SELECT * FROM s1 WHERE key1 > 'z' AND key1 LIKE '%a';
其中的 key1 > ‘z’ 可以使用到索引,但是 key1 LIKE ‘%a’ 却无法使用到索引,在以前版本的 MySQL 中是按照下边步骤来执行这个查询的: ① 先根据 key1 > ‘z’ 这个条件,从二级索引 idx_key1 中获取到对应的二级索引记录。 ② 根据上一步骤得到的二级索引记录中的主键值进行回表,找到完整的用户记录再检测该记录是否符合 key1 LIKE ‘%a’ 这个条件,将符合条件的记录加入到最后的结果集。
但是虽然 key1 LIKE ‘%a’ 不能组成范围区间参与 range 访问方法的执行,但这个条件毕竟只涉及到了 key1 列,所以 MySQL 把上边的步骤改进了一下: ① 先根据 key1 > ‘z’ 这个条件,定位到二级索引 idx_key1 中对应的二级索引记录。 ② 对于指定的二级索引记录,先不着急回表,而是先检测一下该记录是否满足 key1 LIKE ‘%a’ 这个条件,如果这个条件不满足,则该二级索引记录压根儿就没必要回表。 ③ 对于满足 key1 LIKE ‘%a’ 这个条件的二级索引记录执行回表操作。
我们说回表操作其实是一个随机 I/O,比较耗时,所以上述修改虽然只改进了一点点,但是可以省去好多回表操作的成本。MySQL 把它们的这个改进称之为索引条件下推 (Index Condition Pushdown)。如果在查询语句的执行过程中将要使用索引条件下推这个特性,在 Extra 列中将会显示 Using index condition。
(7)Using join buffer (Block Nested Loop):在连接查询执行过程中,当被驱动表不能有效的利用索引加快访问速度,MySQL一般会为其分配一块名叫 join buffer
的内存块来加快查询速度,也就是我们所讲的 基于块的嵌套循环算法
。
EXPLAIN SELECT * FROM s1 INNER JOIN s2 ON s1.common_field = s2.common_field;
(8)Not exists:当我们使用左(外)连接时,如果 WHERE
子句中包含要求被驱动表的某个列等于 NULL
值的搜索条件,而且那个列又是不允许存储 NULL
值的,那么在该表的执行计划的 Extra 列就会提示 Not exists
额外信息。
EXPLAIN SELECT * FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1 WHERE s2.id IS NULL;
(9)Using intersect(…) 、 Using union(…) 和 Using sort_union(…):如果执行计划的Extra
列出现了 Using intersect(...)
提示,说明准备使用 Intersect
索引合并的方式执行查询,括号中的 ...
表示需要进行索引合并的索引名称;如果出现了 Using union(...)
提示,说明准备使用 Union
索引合并的方式执行查询;如果出现了 Using sort_union(...)
提示,说明准备使用 Sort-Union
索引合并的方式执行查询。
EXPLAIN SELECT * FROM s1 WHERE key1 = 'a' OR key3 = 'a';
(10)Zero limit:当 LIMIT
子句的参数为 0
时,表示不打算从表中读出任何记录,将会提示该额外信息。
EXPLAIN SELECT * FROM s1 LIMIT 0;
(11)Using filesort:很多情况下排序操作无法使用到索引,只能在内存中(记录较少的时候)或者磁盘中(记录较多的时候)进行排序,MySQL 把这种在内存中或者磁盘上进行排序的方式统称为文件排序(英文名:filesort
)。如果某个查询需要使用文件排序的方式执行查询,就会在执行计划的 Extra
列中显示 Using filesort
提示。
EXPLAIN SELECT * FROM s1 ORDER BY common_field LIMIT 10;
需要注意的是,如果查询中需要使用filesort
的方式进行排序的记录非常多,那么这个过程是很耗费性能的,我们最好想办法将使用文件排序的执行方式改为索引进行排序
。
(12)Using temporary:在许多查询的执行过程中,MySQL 可能会借助临时表来完成一些功能,比如去重、排序之类的,比如我们在执行许多包含 DISTINCT
、GROUP BY
、UNION
等子句的查询过程中,如果不能有效利用索引来完成查询,MySQL 很有可能寻求通过建立内部的临时表来执行查询。如果查询中使用到了内部的临时表,在执行计划的 Extra
列将会显示Using temporary
提示。
EXPLAIN SELECT DISTINCT common_field FROM s1;
执行计划中出现Using temporary
并不是一个好的征兆,因为建立与维护临时表要付出很大的成本的,所以我们最好能使用索引来替代掉使用临时表
,比方说下边这个包含GROUP BY
子句的查询就不需要使用临时表:
EXPLAIN SELECT key1, COUNT(*) AS amount FROM s1 GROUP BY key1;
从 Extra
的 Using index
的提示里我们可以看出,上述查询只需要扫描 idx_key1
索引就可以搞 定了,不再需要临时表了。
# 12. 小结
- EXPLAIN不考虑各种Cache
- EXPLAIN不能显示MySQL在执行查询时所作的优化工作
- EXPLAIN不会告诉你关于触发器、存储过程的信息或用户自定义函数对查询的影响情况
- 部分统计信息是估算的,并非精确值
# 7. EXPLAIN的进一步使用
# 7.1 EXPLAIN四种输出格式
这里谈谈EXPLAIN的输出格式。EXPLAIN可以输出四种格式: 传统格式
,JSON格式
, TREE格式
以及 可视化输出
。用户可以根据需要选择适用于自己的格式。
# 1. 传统格式
传统格式简单明了,输出是一个表格形式,概要说明查询计划。
EXPLAIN SELECT s1.key1, s2.key1 FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1 WHERE s2.common_field IS NOT NULL;
# 2. JSON格式
第1种格式中介绍的EXPLAIN
语句输出中缺少了一个衡量执行好坏的重要属性 —— 成本
。而JSON格式是四种格式里面输出信息最详尽
的格式,里面包含了执行的成本信息。
- JSON格式:在EXPLAIN单词和真正的查询语句中间加上 FORMAT=JSON 。
EXPLAIN FORMAT=JSON SELECT ....【省略了查询语句】
- EXPLAIN的Column与JSON的对应关系:(来源于MySQL 5.7文档)
这样我们就可以得到一个json格式的执行计划,里面包含该计划花费的成本。比如这样:
EXPLAIN FORMAT=JSON SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key2 WHERE
s1.common_field = 'a'\G
2
我们使用 # 后边跟随注释的形式为大家解释了 EXPLAIN FORMAT=JSON
语句的输出内容,但是大家可能 有疑问 "cost_info
" 里边的成本看着怪怪的,它们是怎么计算出来的?先看 s1 表的 "cost_info
" 部 分:
"cost_info": {
"read_cost": "1840.84",
"eval_cost": "193.76",
"prefix_cost": "2034.60",
"data_read_per_join": "1M"
}
2
3
4
5
6
read_cost
是由下边这两部分组成的:- IO 成本
- 检测 rows × (1 - filter) 条记录的 CPU 成本
小贴士: rows和filter都是我们前边介绍执行计划的输出列,在JSON格式的执行计划中,rows 相当于rows_examined_per_scan,filtered名称不变。
eval_cost
是这样计算的:检测 rows × filter 条记录的成本。
prefix_cost
就是单独查询 s1 表的成本,也就是:read_cost + eval_cost
data_read_per_join
表示在此次查询中需要读取的数据量。
对于 s2
表的 "cost_info
" 部分是这样的:
"cost_info": {
"read_cost": "968.80",
"eval_cost": "193.76",
"prefix_cost": "3197.16",
"data_read_per_join": "1M"
}
2
3
4
5
6
由于 s2
表是被驱动表,所以可能被读取多次,这里的read_cost
和 eval_cost
是访问多次 s2
表后累加起来的值,大家主要关注里边儿的 prefix_cost
的值代表的是整个连接查询预计的成本,也就是单次查询 s1
表和多次查询 s2
表后的成本的和,也就是:
968.80 + 193.76 + 2034.60 = 3197.16
# 3. TREE格式
TREE格式是8.0.16版本之后引入的新格式,主要根据查询的 各个部分之间的关系
和 各部分的执行顺序
来描述如何查询。
mysql> EXPLAIN FORMAT=tree SELECT * FROM s1 INNER JOIN s2 ON s1.key1 = s2.key2
WHERE s1.common_field = 'a'\G
*************************** 1. row ***************************
EXPLAIN: -> Nested loop inner join (cost=1395 rows=1015)
-> Filter: ((s1.common_field = 'a') and (s1.key1 is not null)) (cost=1039 rows=1015)
-> Table scan on s1 (cost=1039 rows=10152)
-> Single-row index lookup on s2 using idx_key2 (key2=s1.key1), with index condition: (cast(s1.key1 as double) = cast(s2.key2 as double)) (cost=0.25 rows=1)
1 row in set, 1 warning (0.00 sec)
2
3
4
5
6
7
8
9
# 4. 可视化输出
可视化输出,可以通过MySQL Workbench可视化查看MySQL的执行计划。通过点击Workbench的放大镜图标,即可生成可视化的查询计划。 MySQL Workbench 可在 MySQL 官网进行下载。
上图按从左到右的连接顺序显示表。红色框表示 全表扫描
,而绿色框表示使用 索引查找
。对于每个表, 显示使用的索引。还要注意的是,每个表格的框上方是每个表访问所发现的行数的估计值以及访问该表的成本。
# 7.2 SHOW WARNINGS的使用
(1)在我们使用EXPLAIN
语句查看了某个查询的执行计划后,紧接着还可以使用SHOW WARNINGS
语句查看与这个查询的执行计划有关的一些扩展信息,比如这样:
EXPLAIN SELECT s1.key1, s2.key1 FROM s1 LEFT JOIN s2 ON s1.key1 = s2.key1
WHERE s2.common_field IS NOT NULL;
2
SHOW WARNINGS\G
大家可以看到SHOW WARNINGS
展示出来的信息有三个字段,分别是Level、Code、Message
。
(2)我们最常见的就是Code为1003的信息,当Code值为1003时,Message字段展示的信息类似于查询优化器将我们的查询语句重写后的语句。比如我们上边的查询本来是一个左(外)连接查询,但是有一个s2.common_field IS NOT NULL的条件,这就会导致查询优化器把左(外)连接查询优化为内连接查询,从SHOW WARNINGS
的Message
字段也可以看出来,原本的LEFE JOIN已经变成了JOIN。
注意事项
我们说Message
字段展示的信息类似于查询优化器将我们的查询语句重写后的语句
,并不是等价于,也就是说Message
字段展示的信息并不是标准的查询语句,在很多情况下并不能直接拿到黑框框中运行,它只能作为帮助我们理解MySQL将如何执行查询语句的一个参考依据而已。
# 8. 分析优化器执行计划:trace
OPTIMIZER_TRACE
是 MySQL 5.6 引入的一项跟踪功能,它可以跟踪优化器做出的各种决策(比如访问表的方法、各种开销计算、各种转换等),并将跟踪结果记录到 INFORMATION_SCHEMA.OPTIMIZER_TRACE
表中。此功能默认关闭。开启 trace,并设置格式为 JSON,同时设置 trace 最大能够使用的内存大小,避免解析过程中因为默认内存过小而不能够完整展示。
SET optimizer_trace="enabled=on",end_markers_in_json=on;
set optimizer_trace_max_mem_size=1000000; -- 单位为字节
2
OPTIMIZER_TRACE
支持跟踪多种类型的SQL语句,包括SELECT
、INSERT
、REPLACE
、UPDATE
、DELETE
,以及EXPLAIN
等用于分析和调试的语句。它也支持跟踪存储过程中的SQL语句,如CALL
、DECLARE
、CASE
、IF
、RETURN
等。
测试:执行如下 SQL 语句
select * from student where id < 10;
最后, 查询 information_schema.optimizer_trace 就可以知道MySQL是如何执行SQL的 :
select * from information_schema.optimizer_trace\G
*************************** 1. row ***************************
//第1部分:查询语句
QUERY: select * from student where id < 10
//第2部分:QUERY字段对应语句的跟踪信息
TRACE: {
"steps": [
{
"join_preparation": { //预备工作
"select#": 1,
"steps": [
{
"expanded_query": "/* select#1 */ select `student`.`id` AS
`id`,`student`.`stuno` AS `stuno`,`student`.`name` AS `name`,`student`.`age` AS
`age`,`student`.`classId` AS `classId` from `student` where (`student`.`id` < 10)"
}
] /* steps */
} /* join_preparation */
},
{
"join_optimization": { //进行优化
"select#": 1,
"steps": [
{
"condition_processing": { //条件处理
"condition": "WHERE",
"original_condition": "(`student`.`id` < 10)",
"steps": [
{
"transformation": "equality_propagation",
"resulting_condition": "(`student`.`id` < 10)"
},
{
"transformation": "constant_propagation",
"resulting_condition": "(`student`.`id` < 10)"
},
{
"transformation": "trivial_condition_removal",
"resulting_condition": "(`student`.`id` < 10)"
}
] /* steps */
} /* condition_processing */
},
{
"substitute_generated_columns": { //替换生成的列
} /* substitute_generated_columns */
},
{
"table_dependencies": [ //表的依赖关系
{
"table": "`student`",
"row_may_be_null": false,
"map_bit": 0,
"depends_on_map_bits": [
] /* depends_on_map_bits */
}
] /* table_dependencies */
},
{
"ref_optimizer_key_uses": [ //使用键
] /* ref_optimizer_key_uses */
},
{
"rows_estimation": [ //行判断
{
"table": "`student`",
"range_analysis": {
"table_scan": {
"rows": 3973767,
"cost": 408558
} /* table_scan */, //扫描表
"potential_range_indexes": [ //潜在的范围索引
{
"index": "PRIMARY",
"usable": true,
"key_parts": [
"id"
] /* key_parts */
}
] /* potential_range_indexes */,
"setup_range_conditions": [ //设置范围条件
] /* setup_range_conditions */,
"group_index_range": {
"chosen": false,
"cause": "not_group_by_or_distinct"
} /* group_index_range */,
"skip_scan_range": {
"potential_skip_scan_indexes": [
{
"index": "PRIMARY",
"usable": false,
"cause": "query_references_nonkey_column"
}
] /* potential_skip_scan_indexes */
} /* skip_scan_range */,
"analyzing_range_alternatives": { //分析范围选项
"range_scan_alternatives": [
{
"index": "PRIMARY",
"ranges": [
"id < 10"
] /* ranges */,
"index_dives_for_eq_ranges": true,
"rowid_ordered": true,
"using_mrr": false,
"index_only": false,
"rows": 9,
"cost": 1.91986,
"chosen": true
}
] /* range_scan_alternatives */,
"analyzing_roworder_intersect": {
"usable": false,
"cause": "too_few_roworder_scans"
} /* analyzing_roworder_intersect */
} /* analyzing_range_alternatives */,
"chosen_range_access_summary": { //选择范围访问摘要
"range_access_plan": {
"type": "range_scan",
"index": "PRIMARY",
"rows": 9,
"ranges": [
"id < 10"
] /* ranges */
} /* range_access_plan */,
"rows_for_plan": 9,
"cost_for_plan": 1.91986,
"chosen": true
} /* chosen_range_access_summary */
} /* range_analysis */
}
] /* rows_estimation */
},
{
"considered_execution_plans": [ //考虑执行计划
{
"plan_prefix": [
] /* plan_prefix */,
"table": "`student`",
"best_access_path": { //最佳访问路径
"considered_access_paths": [
{
"rows_to_scan": 9,
"access_type": "range",
"range_details": {
"used_index": "PRIMARY"
} /* range_details */,
"resulting_rows": 9,
"cost": 2.81986,
"chosen": true
}
] /* considered_access_paths */
} /* best_access_path */,
"condition_filtering_pct": 100, //行过滤百分比
"rows_for_plan": 9,
"cost_for_plan": 2.81986,
"chosen": true
}
] /* considered_execution_plans */
},
{
"attaching_conditions_to_tables": { //将条件附加到表上
"original_condition": "(`student`.`id` < 10)",
"attached_conditions_computation": [
] /* attached_conditions_computation */,
"attached_conditions_summary": [ //附加条件概要
{
"table": "`student`",
"attached": "(`student`.`id` < 10)"
}
] /* attached_conditions_summary */
} /* attaching_conditions_to_tables */
},
{
"finalizing_table_conditions": [
{
"table": "`student`",
"original_table_condition": "(`student`.`id` < 10)",
"final_table_condition ": "(`student`.`id` < 10)"
}
] /* finalizing_table_conditions */
},
{
"refine_plan": [ //精简计划
{
"table": "`student`"
}
] /* refine_plan */
}
] /* steps */
} /* join_optimization */
},
{
"join_execution": { //执行
"select#": 1,
"steps": [
] /* steps */
} /* join_execution */
}
] /* steps */
}
//第3部分:跟踪信息过长时,被截断的跟踪信息的字节数。
MISSING_BYTES_BEYOND_MAX_MEM_SIZE: 0 //丢失的超出最大容量的字节
//第4部分:执行跟踪语句的用户是否有查看对象的权限。当不具有权限时,该列信息为1且TRACE字段为空,一般在
调用带有SQL SECURITY DEFINER的视图或者是存储过程的情况下,会出现此问题。
INSUFFICIENT_PRIVILEGES: 0 //缺失权限
1 row in set (0.00 sec)
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
# 9. MySQL监控分析视图-sys schema
关于 MySQL 的性能监控和问题诊断,我们一般都从 performance_schema 中去获取想要的数据,在 MySQL5.7.7 版本中新增 sys schema,它将 performance_schema 和 information_schema 中的数据以更容易理解的方式总结归纳为"视图”,其目的就是为了降低查询performance_schema 的复杂度,让 DBA 能够快速的定位问题。下面看看这些库中都有哪些监控表和视图,掌握了这些,在我们开发和运维的过程中就起到了事半功倍的效果。
# 9.1 Sys schema视图摘要
- 主机相关:以host_summary开头,主要汇总了IO延迟的信息。
- Innodb相关:以innodb开头,汇总了innodb buffer信息和事务等待innodb锁的信息。
- I/o相关:以io开头,汇总了等待I/O、I/O使用量情况。
- 内存使用情况:以memory开头,从主机、线程、事件等角度展示内存的使用情况
- 连接与会话信息:processlist和session相关视图,总结了会话相关信息。
- 表相关:以schema_table开头的视图,展示了表的统计信息。
- 索引信息:统计了索引的使用情况,包含冗余索引和未使用的索引情况。
- 语句相关:以statement开头,包含执行全表扫描、使用临时表、排序等的语句信息。
- 用户相关:以user开头的视图,统计了用户使用的文件I/O、执行语句统计信息。
- 等待事件相关信息:以wait开头,展示等待事件的延迟情况。
# 9.2 Sys schema视图使用场景
# 9.2.1.索引情况
#1. 查询冗余索引
select * from sys.schema_redundant_indexes;
#2. 查询未使用过的索引
select * from sys.schema_unused_indexes;
#3. 查询索引的使用情况
select index_name,rows_selected,rows_inserted,rows_updated,rows_deleted
from sys.schema_index_statistics where table_schema='dbname';
2
3
4
5
6
7
# 9.2.2.表相关
# 1. 查询表的访问量
select table_schema,table_name,sum(io_read_requests+io_write_requests) as io from
sys.schema_table_statistics group by table_schema,table_name order by io desc;
# 2. 查询占用bufferpool较多的表
select object_schema,object_name,allocated,data
from sys.innodb_buffer_stats_by_table order by allocated limit 10;
# 3. 查看表的全表扫描情况
select * from sys.statements_with_full_table_scans where db='dbname';
2
3
4
5
6
7
8
# 9.2.3.语句相关
#1. 监控SQL执行的频率
select db,exec_count,query from sys.statement_analysis
order by exec_count desc;
#2. 监控使用了排序的SQL
select db,exec_count,first_seen,last_seen,query
from sys.statements_with_sorting limit 1;
#3. 监控使用了临时表或者磁盘临时表的SQL
select db,exec_count,tmp_tables,tmp_disk_tables,query
from sys.statement_analysis where tmp_tables>0 or tmp_disk_tables >0
order by (tmp_tables+tmp_disk_tables) desc;
2
3
4
5
6
7
8
9
10
# 9.2.4.I/O 相关
#1. 查看消耗磁盘IO的文件
select file,avg_read,avg_write,avg_read+avg_write as avg_io
from sys.io_global_by_file_by_bytes order by avg_read limit 10;
2
3
# 9.2.5.Innodb 相关
#1. 行锁阻塞情况
select * from sys.innodb_lock_waits;
2
风险提示:
通过 sys 库去查询时,MySQL 会消耗大量资源去收集相关信息,严重的可能会导致业务请求被阻塞,从而引起故障。建议生产上不要频繁的去查询 sys 或者 performance_schema、information_schema 来完成监控、巡检等工作。
# 10. 小结
查询是数据库中最频繁的操作,提高查询速度可以有效地提高MySQL数据库的性能。通过对查询语句的分析可以了解查询语句的执行情况,找出查询语句执行的瓶颈,从而优化查询语句。