慢查询分析与优化

YuJia大约 8 分钟

开启并查找慢查询日志

背景:MySQL单节点负载过高,先不要盲目增加从节点来提升负载能力,应先进行SQL调优,保证单机性能的优化达到一个优秀的地步

一、先确定是否开启慢查询日志

如果没有开启,则先开启慢查询日志记录

show variables like ‘slow_query_log’;
mysql> show variables like 'slow_query_log';
+----------------+-------+
| Variable_name  | Value |
+----------------+-------+
| slow_query_log | ON    |
+----------------+-------+
1 row in set (0.01 sec)

二、查看慢查询时间阈值

show variables like 'long_query_time';
mysql> show variables like 'long_query_time';
+-----------------+----------+
| Variable_name   | Value    |
+-----------------+----------+
| long_query_time | 1.000000 |
+-----------------+----------+
1 row in set (0.00 sec)

三、查看慢查询日志存储位置

show variables like 'slow_query_log_file';
mysql> show variables like 'slow_query_log_file';
+---------------------+--------------------------+
| Variable_name       | Value                    |
+---------------------+--------------------------+
| slow_query_log_file | /data/xxx/logs/slow.log |
+---------------------+--------------------------+
1 row in set (0.00 sec)

提示

以上内容都可以通过my.cnf或者set global命令修改

四、查询慢查询日志,取出其中的SQL进行分析优化

mysqldumpslow是导出并分析慢SQL的工具,下面说一下基本参数

  • -s : 排序类型

    • t, 按查询时间或者平均查询时间排序
    • l, 按锁表时间排序
    • r, 按返回数据条目数进行排序
    • c, 按使用次数总数排序
  • -t : TopN 返回排序前N条数据

例如:

 mysqldumpslow -s c -t 10 ./slow.log > .slow-20231122.log  # 取出使用最多的10条慢查询

EXPLAIN

慢查询分析优化

EXPLAIN 结果解释

使用Explain关键字可以模拟优化器执行SQL查询语句,从而知道MySQL是如何处理你的SQL语句的。分析你的查询语句或是表结构的性能瓶颈。

通过Explain,我们可以分析出以下结果:

  • 表的读取顺序
  • 数据读取操作的类型
  • 哪些索引可以使用
  • 哪些索引被实际使用
  • 表之间的引用
  • 没张表有多少行被优化器查询

EXPLAIN + SQL语句

EXPLAIN SELECT ...

执行计划包含的信息如下:

idselect_typetablepartitionstypepossible_keyskeykey_lenrefrowsfilterdExtra
1SIMPLEt1rangeuniq_member_class_stage,idx_f_enroll_timeidx_f_enroll_time650806100.00Using index condition; Using MRR; Using temporary; Using filesort
1SIMPLEt2refidx_member_ididx_member_id9tb_prod.t1.f_member_id2100.00Using where; Using join buffer (Batched Key Access)
1SIMPLEt3refidx_member_ididx_member_id9tb_prod.t1.f_member_id2100.00Using where; Using join buffer (Batched Key Access)

字段含义:

1. id

select 查询的序号,包含一串数字,表示查询中执行select字句或操作表的顺序

id的结果共有3种情况:

  • id相同,执行顺序由上至下
  • id不同,如果是子查询,id的序号会递增,id值越大优先级越高,越先被执行
  • id有相同的也有不同的,同时存在时,id相同认为是一组,从上往下顺序执行,id不同的,值越大优先级越高

2. selec_type

常见和常用的值有以下几种:

idselect_type说明
1SIMPLE简单的select查询,查询中不包含子查询或者union
2PRIMARY查询中若包含任何复杂的子部分,最外层查询则被标记为PRIMARY
3SUBQUERY在SELECT或者WHERE列表中包含了子查询
4DERIVED在FROM列表中包含的子查询被标记为DERIVED(衍生),MySQL会递归执行把这些子查询放在临时表
5UNION如果第二个SELECT出现在UNION之后,则标记为UNION,如果UNION出现在FROM子句的子查询中,标记为DERVIED
6UNION RESULT从UNION表获取结果的SELECT

3. table

指的就是当前执行的表

4. type

type所显示的是查询使用了哪种类型,type包含的类型包括以下几种:

system > const > eq_ref > ref > range > index > all

依次从左至右表示性能高低

一般来说,得保证查询至少达到range级别,最好能达到ref

  • system表只有一行记录(等于系统表),这是const类型的特例,平时不会出现,可以忽略
  • const表示通过索引一次就找打了,const用于比较primary key或者unique索引。因为只匹配一行数据,所以很快。如果将主键置于where列表中,MySQL就能将该查询转换为一个常量。
  • eq_ref唯一性索引扫描,对于每个索引键,表中只有一条记录与之匹配。常见于主键或唯一索引扫描
  • ref非唯一性索引扫描,返回匹配某个单独值的所有行,本质上也是一种索引访问,它返回所有匹配某个单独值的行,然而,它可能会找到多个符合条件的行,所以应该属于查找和扫描的混合体
  • range只检索给定范围的行,使用一个索引来选择行,Key列显示使用了哪个索引,一般就是在where条件中出现between、>、<、in等的查询,这种范围扫描索引比全表扫描要好,它只需要开始于索引的某一点,而结束于另一点,不用扫描全部索引。
  • indexFull Index Scan,Index与All区别为index类型只遍历索引树。通常比ALL快,因为索引未见通常比数据文件小。(也就是说,虽然all和index都是读全表,但是index是从索引中读取的,而all是从硬盘读取的)
  • allFull Table Scan 将便利全表以找到匹配的行

5. possible_keys 和 key

possible_keys显示可能应用在这张表中的索引,一个或多个。查询涉及到的字段上若存在索引,则该索引将被列出,但不一定被查询实际使用

key实际使用的索引,如果为NULL,则没有使用索引(可能原因包括没有建立索引或索引失效)。若查询中使用了覆盖索引(select后要查询的字段刚好和创建的索引字段完全相同,无需回表),则该索引仅出现在key列表中

6. key_len

表示索引中使用的字节数,通过该列计算查询中使用的索引长度,在不损失精确性的情况下,长度越短越好。key_len显示的值为索引字段的最大可能长度,并非实际使用长度,即key_len是根据表定义计算而得,而不是通过表内检索出的。

7. ref

显示索引的哪一列被使用了,如果可能的话,最好是一个常数。哪些列或常量被用于查找索引列上的值。

8. rows

根据表信息及索引选用情况,大致估算出找到所需的记录所需要读取的行数,越少越好

9. Extra

包含不适合在其它列中显示但十分重要的额外信息

9.1. Using filesort(九死一生)

说明mysql会对数据使用一个外部的索引排序,而不是按照表内的索引顺序进行读取。MySQL中无法利用索引完成的排序操作称为“文件排序”。

9.2. Using temporary(十死无生)

使用了临时表保存中间结果,MySQL在对查询结果排序时使用临时表。常见于排序order by和分组查询group by。

9.3. Using index(发财了)

表示相应的select操作中使用了覆盖索引(Covering Index),避免了回表访问数据行,效率不错。如果同时出现了using where,表明索引被用来执行索引键值的查找,其它过滤条件需要回表查询;如果没有同时出现using where,表明索引用来读取而非执行查找动作。如果见到Using index condition,表示过滤条件在索引中就可以完成,无需回表。

什么是覆盖索引?

总的来说就是所有查询动作,条件过滤,排序等都无需回表,直接在索引树上就可以完成。

理解方式一:select的数据列只用从索引中就能够取得,不必读取数据行,MySQL可以利用索引返回select列表中的字段,而不必根据索引再次读取数据文件,换句话说查询列要被建立的索引覆盖

理解方式二:索引的高效找到行的一个办法,但是一般数据库也能使用索引找到一个列的数据,因此不必读取整个行。毕竟索引叶子结点存储了它们索引的数据;当能通过读取索引就可以得到想要的数据,那就不需要读取行了。一个索引包含了(或覆盖)满足查询结果的数据就叫做覆盖索引。

注意:
如果要使用覆盖索引,一定要注意select列表中只读取出需要的列,不可 select *,
如果将所有字段一起做索引会导致索引文件过大,查询性能下降

9.4. Using where

表明使用了where过滤,可以理解为回表了

9.5. Using join buffer

表明在查询返回结果,使用了临时缓存,比如在查询的时候,多表Join或者子查询数据量太大,就会出现。通过将配置文件中的缓冲区的join buffer调大一些,可以降低出现频次,但是缓冲区过大也会引起查询慢问题。

9.6. impossible where

where 字句的值总是false,不能用来获取任何数据

9.7. select tables optimized away

在没有GROUP BY子句的情况下,基于索引优化MIN/MAX操作或者对于MyLSAM存储引擎优化COUNT(*)操作,不必等到执行阶段再进行计算,查询执行计划生成的阶段即将完成优化。

9.8. distinct

优化distinct操作,在找到第一匹配的元组后即停止同样值的动作

所谓优化慢查询,就是要解决执行器在执行过程中的不利因素,为SQL执行创造有利条件,以此来达到优化SQL的目的。