神奇的SQL之性能优化让SQL飞起来

写在前面

在像Web服务这样需要快速响应的应用场景中,SQL的性能直接决定了系统是否可以使用;特别在一些中小型应用中,SQL性能更是决定服务能否快速响应的唯一标准

严格地优化查询性能时,必须要了解所使用数据库的功能特点,此外,查询速度慢并不只是因为SQL语句本身,还可能是因为内存分配不佳、文件结构不合理、刷脏页等其他原因

因此本文即将介绍的优化SQL的方法不能解决所有的性能问题,但是却能处理很多因SQL写法不合理而产生的性能问题

下文将尽量介绍一些不依赖具体数据库实现,使SQL执行速度更快、消耗内存更少的优化技巧,只需调整SQL语句就能实现的通用的优化Tip

环境准备

下文所讲的内容是从SQL层面展开的,而不是针对某种特性的数据库,也就是说,下文的内容基本上适用于任何关系型数据库

但是,关系型数据库那么多,逐一来演示示例了,显然不太现实;我们以常用的MySQL来进行示例的演示

MySQL版本:5.7.30-log,存储引擎:InnoDB

准备两张表:tbl_customer和tbl_recharge_record

使用高效的查询

针对某一个查询,有时候会有多种SQL实现,例如IN、EXISTS、连接之间的互相转换

从理论上来讲,得到相同结果的不同SQL语句应该有相同的性能,但遗憾的是,查询优化器生成的执行计划很大程度上要受到外部结构的影响

因此,如果想优化查询性能,必须知道如何写SQL语句才能使优化器生成更高效的执行计划

使用EXISTS代替IN

关于IN,相信大家都比较熟悉,使用方便,也容易理解;虽说IN使用方便,但它却存在性能瓶颈

如果IN的参数是1,2,3这样的数值列表,一般还不需要特别注意,但如果参数是子查询,那么就需要注意了

在大多时候,[NOT]IN和[NOT]EXISTS返回的结果是相同的,但是两者用于子查询时,EXISTS的速度会更快一些

假设我们要查询有充值记录的顾客信息,SQL该怎么写?

相信大家第一时间想到的是IN:SELECT*FROMtbl_customerWHEREIDIN(SELECTcustomer_idFROMtbl_recharge_record);

IN使用起来确实简单,也非常好理解;我们来看下它的执行计划

我们再来看看EXISTS的执行计划:

可以看到,IN的执行计划中新产生了一张临时表:subquery2,这会导致效率变慢

通常来讲,EXISTS比IN更快的原因有两个

1、如果连接列(customer_id)上建立了索引,那么查询tbl_recharge_record时可以通过索引查询,而不是全表查询

2、使用EXISTS,一旦查到一行数据满足条件就会终止查询,不用像使用IN时一样进行扫描全表(NOTEXISTS也一样)

当IN的参数是子查询时,数据库首先会执行子查询,然后将结果存储在一张临时表里(内联视图),然后扫描整个视图,很多情况下这种做法非常耗费资源

使用EXISTS的话,数据库不会生成临时表

但是从代码的可读性上来看,IN要比EXISTS好,使用IN时的代码看起来更加一目了然,易于理解

因此,如果确信使用IN也能快速获取结果,就没有必要非得改成EXISTS了

其实有很多数据库也尝试着改善了IN的性能

Oracle数据库中,如果我们在有索引的列上使用IN,也会先扫描索引

PostgreSQL从版本7.4起也改善了使用子查询作为IN谓词参数时的查询速度

说不定在未来的某一天,无论在哪个关系型数据库上,IN都能具备与EXISTS一样的性能

关于EXISTS,更多详情可查看:神奇的SQL之谓词→难理解的EXISTS

使用连接代替IN

其实在平时工作当中,更多的是用连接代替IN来改善查询性能,而非EXISTS,不是说连接更好,而是EXISTS很难掌握

回到问题:查询有充值记录的顾客信息,如果用连接来实现,SQL改如何写?

这种写法能充分利用索引;而且,因为没有了子查询,所以数据库也不会生成中间表;所以,查询效率是不错的

至于JOIN与EXISTS相比哪个性能更好,不太好说;如果没有索引,可能EXISTS会略胜一筹,有索引的话,两者差不多

避免排序

说到SQL的排序,我们第一时间想到的肯定是:ORDERBY,通过它,我们可以按指定的某些列来顺序输出结果

但是,除了ORDERBY显示的排序,数据库内部还有很多运算在暗中进行排序;会进行排序的代表性的运算有下面这些

如果只在内存中进行排序,那么还好;但是如果因内存不足而需要在硬盘上排序,那么性能就会急剧下降

因此,尽量避免(或减少)无谓的排序,能够大大提高查询效率

灵活使用集合运算符的ALL可选项

SQL中有UNION、INTERSECT、EXCEPT三个集合运算符,分表代表这集合运算的并集、交集、差集

默认情况下,这些运算符会为了排除掉重复数据而进行排序

Usingtemporary表示进行了排序或分组,显然这个SQL没有进行分组,而是进行了排序运算

如果我们不在乎结果中是否有重复数据,或者事先知道不会有重复数据,可以使用UNIONALL代替UNION

可以看到,执行计划中没有排序运算了

对于INTERSECT和EXCEPT也是一样的,加上ALL可选项后就不会进行排序了

加上ALL可选项是一个非常有效的优化手段,但各个数据库对它的实现情况却是参差不齐,如下图所示

注意:Oracle使用MINUS代替EXCEPT;MySQL压根就没有实现INTERSECT和EXCEPT运算

使用EXISTS代替DISTINCT

为了排除重复数据,DISTINCT也会进行排序

还记得用连接代替IN的案例吗,如果不用DISTINCT

SQL:SELECTtc.*FROMtbl_recharge_recordtrrLEFTJOINtbl_customertcontrr.customer_id=tc.id

那么查出来的结果会有很多重复记录,我们改进SQL

SELECTDISTINCTtc.*FROMtbl_recharge_recordtrrLEFTJOINtbl_customertcontrr.customer_id=tc.id

会发现执行计划中有个Usingtemporary,表示用到了排序运算

我们使用EXISTS来进行优化

可以看到,已经规避了排序运算

在极值函数中使用索引

SQL语言里有两个极值函数:MAX和MIN,使用这两个函数时都会进行排序

例如:SELECTMAX(recharge_amount)FROMtbl_recharge_record

会进行全表扫描,并会进行隐式的排序,找出单笔充值最大的金额

但是如果参数字段上建有索引,则只需要扫描索引,不需要扫描整张表

例如:SELECTMAX(customer_id)FROMtbl_recharge_record;

会通过索引:idx_c_id进行扫描,找出充值记录中最大的顾客ID

这种方法并不是去掉了排序这一过程,而是优化了排序前的查找速度,从而减弱排序对整体性能的影响

能写在WHERE子句里的条件不要写在HAVING子句里

我们来看两个SQL以及其执行结果

从结果上来看,两条SQL一样;但是从性能上来看,第二条语句写法效率更高,原因有两个

减少排序的数据量

GROUPBY子句聚合时会进行排序,如果事先通过WHERE子句筛选出一部分行,就能够减轻排序的负担

有效利用索引

WHERE子句的条件里可以使用索引

HAVING子句是针对聚合后生成的视图进行筛选的,但是很多时候聚合后的视图都没有继承原表的索引结构

关于HAVING,更多详情可查看:神奇的SQL之HAVING→容易被轻视的主角

在GROUPBY子句和ORDERBY子句中使用索引

一般来说,GROUPBY子句和ORDERBY子句都会进行排序

如果GROUPBY和ORDERBY的列有索引,那么可以提高查询效率

特别是在一些数据库中,如果列上建立的是唯一索引,那么排序过程本身都会被省略掉

使用索引

使用索引是最常用的SQL优化手段,这个大家都知道,怕就怕大家不知道:明明有索引,为什么查询还是这么慢(为什么索引没用上)

关于索引未用到的情况,可查看:神奇的SQL之擦肩而过→真的用到索引了吗,本文就不做过多阐述了

总之就是:查询尽量往索引上靠,规避索引未用上的情况

减少临时表

在SQL中,子查询的结果会被看成一张新表(临时表),这张新表与原始表一样,可以通过SQL进行操作

但是,频繁使用临时表会带来两个问题

1、临时表相当于原表数据的一份备份,会耗费内存资源

2、很多时候(特别是聚合时),临时表没有继承原表的索引结构

因此,尽量减少临时表的使用也是提升性能的一个重要方法

灵活使用HAVING子句

对聚合结果指定筛选条件时,使用HAVING子句是基本原则

但是如果对HAVING不熟,我们往往找出替代它的方式来实现,就像这样

然而,对聚合结果指定筛选条件时不需要专门生成中间表,像下面这样使用HAVING子句就可以

HAVING子句和聚合操作是同时执行的,所以比起生成临时表后再执行WHERE子句,效率会更高一些,而且代码看起来也更简洁

需要对多个字段使用IN谓词时,将它们汇总到一处

SQL-92中加入了行与行比较的功能,这样一来,比较谓词=、、和IN谓词的参数就不再只是标量值了,而应是值列表了

我们来看一个示例,多个字段使用IN谓词

这段代码中用到了两个子查询,我们可以进行列汇总优化,把逻辑写在一起

这样一来,子查询不用考虑关联性,而且只执行一次就可以

还可以进一步简化,在IN中写多个字段的组合

简化后,不用担心连接字段时出现的类型转换问题,也不会对字段进行加工,因此可以使用索引

先进行连接再进行聚合

连接和聚合同时使用时,先进行连接操作可以避免产生中间表

合理地使用视图

视图是非常方便的工具,我们在日常工作中经常使用

但是,如果没有经过深入思考就定义复杂的视图,可能会带来巨大的性能问题

特别是视图的定义语句中包含以下运算的时候,SQL会非常低效,执行速度也会变得非常慢

总结

文中虽然列举了几个要点,但其实优化的核心思想只有一个,那就是找出性能瓶颈所在,然后解决它

其实不只是数据库和SQL,计算机世界里容易成为性能瓶颈的也是对硬盘,也就是文件系统的访问(因此可以通过增加内存,或者使用访问速度更快的硬盘等方法来提升性能)

不管是减少排序还是使用索引,亦或是避免临时表的使用,其本质都是为了减少对硬盘的访问

小结下文中的Tips

1、参数是子查询时,使用EXISTS或者JOIN代替IN

2、在SQL中,很多运算都会暗中进行排序,尽量规避这些运算

3、SQL的书写,尽量往索引上靠,避免用不上索引的情况

4、尽量减少使用中间表




转载请注明:http://www.aierlanlan.com/rzgz/4728.html