定位及优化SQL语句的性能问题
⼀、EXPLAIN
做MySQL优化,我们要善⽤ EXPLAIN 查看SQL执⾏计划。
下⾯来个简单的⽰例,标注(1,2,3,4,5)我们要重点关注的数据
type列,连接类型。⼀个好的sql语句⾄少要达到range级别。杜绝出现all级别
key列,使⽤到的索引名。如果没有选择索引,值是NULL。可以采取强制索引⽅式
key_len列,索引长度
rows列,扫描⾏数。该值是个预估值
extra列,详细说明。注意常见的不太友好的值有:Using filesort, Using temporary
⼆、SQL语句中IN包含的值不应过多
MySQL对于IN做了相应的优化,即将IN中的常量全部存储在⼀个数组⾥⾯,⽽且这个数组是排好序的。但是如果数值较多,产⽣的消耗也是⽐较⼤的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能⽤ between 就不要⽤ in 了;再或者使⽤连接来替换。
三、SELECT语句务必指明字段名称
SELECT *增加很多不必要的消耗(cpu、io、内存、⽹络带宽);增加了使⽤覆盖索引的可能性;当表结构发⽣改变时,前断也需要更新。所以要求直接在select后⾯接上字段名。
四、当只需要⼀条数据的时候,使⽤limit 1
这是为了使EXPLAIN中type列达到const类型
五、如果排序字段没有⽤到索引,就尽量少排序
六、如果限制条件中其他字段没有索引,尽量少⽤or
or两边的字段中,如果有⼀个不是索引字段,⽽其他条件也不是索引字段,会造成该查询不⾛索引的情况。很多时候使⽤ union all 或者是union(必要的时候)的⽅式来代替“or”会得到更好的效果
七、尽量⽤union all代替union
union和union all的差异主要是前者需要将结果集合并后再进⾏唯⼀性过滤操作,这就会涉及到排序,增加⼤量的CPU运算,加⼤资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。
⼋、不使⽤ORDER BY RAND()
select id from `dynamic` order by rand() limit 1000;
上⾯的sql语句,可优化为
select id from `dynamic` t1 join (select rand() * (select max(id) from `dynamic`) as nid) t2 on t1.id > t2.nidlimit 1000;
九、区分in和exists, not in和not exists
select * from 表A where id in (select id from 表B)
上⾯sql语句相当于
select * from 表A where exists(select * from 表B where 表B.id=表A.id)
区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执⾏⼦查询。所以IN适合于外表⼤⽽内表⼩的情况;EXISTS适合于外表⼩⽽内表⼤的情况。
关于not in和not exists,推荐使⽤not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何⾼效的写出⼀个替代not exists的sql 语句?
原sql语句
select colname … from A表 where a.id not in (select b.id from B表)
⾼效的sql语句
select colname … from A表 Left join B表 on where a.id = b.id where b.id is null
取出的结果集如下图表⽰,A表不在B表中的数据
⼗、使⽤合理的分页⽅式以提⾼分页的效率
select id,name from product limit 866613, 20
使⽤上述sql语句做分页的时候,可能有⼈会发现,随着表数据量的增加,直接使⽤limit分页查询会越来越慢。
优化的⽅法如下:可以取前⼀页的最⼤⾏数的id,然后根据这个最⼤的id来限制下⼀页的起点。⽐如此列中,上⼀页最⼤的id是866612。sql可以采⽤如下的写法:
select id,name from product where id> 866612 limit 20
⼗⼀、分段查询
在⼀些⽤户选择页⾯中,可能⼀些⽤户选择的时间范围过⼤,造成查询缓慢。主要的原因是扫描⾏数过多。这个时候可以通过程序,分段进⾏查询,循环遍历,将结果合并处理进⾏展⽰。
如下图这个sql语句,扫描的⾏数成百万级以上的时候就可以使⽤分段查询
⼗⼆、避免在 where ⼦句中对字段进⾏ null 值判断
对于null的判断会导致引擎放弃使⽤索引⽽进⾏全表扫描。
Java架构/分布式/⾼并发:468897908
⼗三、不建议使⽤%前缀模糊查询
例如LIKE “%name”或者LIKE “%name%”,这种查询会导致索引失效⽽进⾏全表扫描。但是可以使⽤LIKE “name%”。
那如何查询%name%?
如下图所⽰,虽然给secret字段添加了索引,但在explain结果果并没有使⽤
那么如何解决这个问题呢,答案:使⽤全⽂索引
在我们查询中经常会⽤到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。这样的语句,普通索引是⽆法满⾜查询需求的。庆幸的是在MySQL中,有全⽂索引来帮助我们。
创建全⽂索引的sql语法是:
ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` (`user_name`);
使⽤全⽂索引的sql语句是:
select id,fnum,fdst from dynamic_201606 where match(user_name) against('zhangsan' in boolean mode);
注意:在需要创建全⽂索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别
⼗四、避免在where⼦句中对字段进⾏表达式操作
⽐如
select user_id,user_project from user_base where age*2=36;
中对字段就⾏了算术运算,这会造成引擎放弃使⽤索引,建议改成
select user_id,user_project from user_base where age=36/2;
⼗五、避免隐式类型转换
where ⼦句中出现 column 字段的类型和传⼊的参数类型不⼀致的时候发⽣的类型转换,建议先确定where中的参数类型
⼗六、对于联合索引来说,要遵守最左前缀法则
举列来说索引含有字段id,name,school,可以直接⽤id字段,也可以id,name这样的顺序,但是name;school都⽆法使⽤这个索引。所以在创建联合索引的时候⼀定要注意索引字段顺序,常⽤的查询字段放在最前⾯
⼗七、必要时可以使⽤force index来强制查询⾛某个索引
有的时候MySQL优化器采取它认为合适的索引来检索sql语句,但是可能它所采⽤的索引并不是我们想要的。这时就可以采⽤forceindex 来强制优化器使⽤我们制定的索引。
⼗⼋、注意范围查询语句
对于联合索引来说,如果存在范围查询,⽐如between,>,<;等条件时,会造成后⾯的索引字段失效。
⼗九、关于JOIN优化
LEFT JOIN A表为驱动表
INNER JOIN MySQL会⾃动出那个数据少的表作⽤驱动表
RIGHT JOIN B表为驱动表
注意:MySQL中没有full join,可以⽤以下⽅式来解决
select * from A left join B on B.name = A.namewhere B.name is nullunion allselect * from B;
尽量使⽤inner join,避免left join
参与联合查询的表⾄少为2张表,⼀般都存在⼤⼩之分。如果连接⽅式是inner join,在没有其他过滤条件的情况下MySQL会⾃动选择⼩表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。
合理利⽤索引
被驱动表的索引字段作为on的限制字段。
利⽤⼩表去驱动⼤表
从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO总量及CPU运算的次数。
巧⽤STRAIGHT_JOIN
inner join是由mysql选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,⽐如有group by、order by等「Using filesort」、「Using temporary」时。STRAIGHT_JOIN来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使⽤STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是inner join。其他链接不推荐使⽤STRAIGHT_JOIN,否则可能造成查询结果不准确。
这个⽅式有时可能减少3倍的时间。
执⾏计划
我们知道,不管是哪种数据库,或者是哪种数据库引擎,在对⼀条SQL语句进⾏执⾏的过程中都会做很多相关的优化,对于查询语句,最重要的优化⽅式就是使⽤索引。
⽽执⾏计划,就是显⽰数据库引擎对于SQL语句的执⾏的详细情况,其中包含了是否使⽤索引,使⽤什么索引,使⽤的索引的相关信息等。
基本语法
explain select ...
mysql的explain 命令可以⽤来分析select 语句的运⾏效果。
除此之外,explain 的extended 扩展能够在原本explain的基础上额外的提供⼀些查询优化的信息,这些信息可以通过mysql的show warnings命令得到。
mysql> explain extended select * from account;
******** 1. row ***************************
id: 1
select_type: SIMPLE
table: account
type: ALL
possible_keys: NULL
key: NULL
key_len: NULL
ref: NULL
rows: 1
filtered: 100.00
Extra:
1 row in set, 1 warning (0.00 sec)
mysql> show warnings;
*************1. row ***************************
Level: Note
Code: 1003
Message: select `dbunit`.`account`.`id` AS `id`,`dbunit`.`account`.`name` AS `name` from `dbunit`.`account`
1 row in set (0.00 sec)
另外,对于分区表的查询,需要使⽤partitions命令。
explain partitions select ...
执⾏计划包含的信息
不同版本的Mysql和不同的存储引擎执⾏计划不完全相同,但基本信息都差不多。mysql执⾏计划主要包含以下信息:
id
由⼀组数字组成。表⽰⼀个查询中各个⼦查询的执⾏顺序;
id相同执⾏顺序由上⾄下。
id不同,id值越⼤优先级越⾼,越先被执⾏。
id为null时表⽰⼀个结果集,不需要使⽤它查询,常出现在包含union等查询语句中。
select_type
每个⼦查询的查询类型,⼀些常见的查询类型。
id select_type description
1SIMPLE不包含任何⼦查询或union等查询
2PRIMARY包含⼦查询最外层查询就显⽰为 PRIMARY
3SUBQUERY在select或 where字句中包含的查询
4DERIVED from字句中包含的查询
5UNION出现在union后的查询语句中
join和in哪个查询更快
6UNION RESULT从UNION中获取结果集,例如上⽂的第三个例⼦
table
查询涉及到的数据表。
如果查询使⽤了别名,那么这⾥显⽰的是别名,如果不涉及对数据表的操作,那么这显⽰为null,如果显⽰为尖括号括起来的<derived N>就表⽰这个是临时表,后边的N就是执⾏计划中的id,表⽰结果来⾃于这个查询产⽣。如果是尖括号括起来的<union M,N>,与<derived N>类似,也是⼀个临时表,表⽰这个结果来⾃于union查询的id为M,N的结果集。
partitions
表分区、表创建的时候可以指定通过那个列进⾏表分区。 举个例⼦:
create table tmp (
id int unsigned not null AUTO_INCREMENT,
name varchar(255),
PRIMARY KEY (id)
) engine = innodb
partition by key (id) partitions 5;
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论