`

MySQL中where条件的执行分析

 
阅读更多
1、问题描述
一条SQL,在数据库中是如何执行的呢?相信很多人都会对这个问题比较感兴趣。当然,要完整描述一条SQL在数据库中的生命周期,这是一个非常巨大的问题,涵盖了SQL的词法解析、语法解析、权限检查、查询优化、SQL执行等一系列的步骤,简短的篇幅是绝对无能为力的。因此,本文挑选了其中的部分内容,也是我一直都想写的一个内容,做重点介绍:

给定一条SQL,如何提取其中的where条件?where条件中的每个子条件,在SQL执行的过程中有分别起着什么样的作用?

通过本文的介绍,希望读者能够更好地理解查询条件对于SQL语句的影响;撰写出更为优质的SQL语句;更好地理解一些术语,例如:MySQL 5.6中一个重要的优化——Index Condition Pushdown,究竟push down了什么?

本文接下来的内容,安排如下:

简单介绍关系型数据库中数据的组织形式;
给定一条SQL,如何提取其中的where条件;
最后做一个小的总结;
2、关系型数据库中的数据组织
关系型数据库中,数据组织涉及到两个最基本的结构:表与索引。表中存储的是完整记录,一般有两种组织形式:堆表(所有的记录无序存储),或者是聚簇索引表(所有的记录,按照记录主键进行排序存储)。索引中存储的是完整记录的一个子集,用于加速记录的查询速度,索引的组织形式,一般均为B+树结构。

有了这些基本知识之后,接下来让我们创建一张测试表,为表新增几个索引,然后插入几条记录,最后看看表的完整数据组织、存储结构式怎么样的。(注意:下面的实例,使用的表的结构为堆表形式,这也是Oracle/DB2/PostgreSQL等数据库采用的表组织形式,而不是InnoDB引擎所采用的聚簇索引表。其实,表结构采用何种形式并不重要,最重要的是理解下面章节的核心,在任何表结构中均适用)

create table t1 (a int primary key, b int, c int, d int, e varchar(20));

create index idx_t1_bcd on t1(b, c, d);

insert into t1 values (4,3,1,1,’d’);

insert into t1 values (1,1,1,1,’a’);

insert into t1 values (8,8,8,8,’h’):

insert into t1 values (2,2,2,2,’b’);

insert into t1 values (5,2,3,5,’e’);

insert into t1 values (3,3,2,2,’c’);

insert into t1 values (7,4,5,5,’g’);

insert into t1 values (6,6,4,4,’f’);

t1表的存储结构如下图所示(只画出了idx_t1_bcd索引与t1表结构,没有包括t1表的主键索引):


t1表的组织结构图


简单分析一下上图,idx_t1_bcd索引上有[b,c,d]三个字段(注意:若是InnoDB类的聚簇索引表,idx_t1_bcd上还会包括主键a字段),不包括[a,e]字段。idx_t1_bcd索引,首先按照b字段排序,b字段相同,则按照c字段排序,以此类推。记录在索引中按照[b,c,d]排序,但是在堆表上是乱序的,不按照任何字段排序。

3、SQL的where条件提取
在有了以上的t1表之后,接下来就可以在此表上进行SQL查询了,获取自己想要的数据。例如,考虑以下的一条SQL:

select * from t1 where b >= 2 and b < 8 and c > 1 and d != 4 and e != ‘a’;

一条比较简单的SQL,一目了然就可以发现where条件使用到了[b,c,d,e]四个字段,而t1表的idx_t1_bcd索引,恰好使用了[b,c,d]这三个字段,那么走idx_t1_bcd索引进行条件过滤,应该是一个不错的选择。接下来,让我们抛弃数据库的思想,直接思考这条SQL的几个关键性问题:

l.此SQL,覆盖索引idx_t1_bcd上的哪个范围?

起始范围:记录[2,2,2]是第一个需要检查的索引项。索引起始查找范围由b >= 2,c > 1决定。

终止范围:记录[8,8,8]是第一个不需要检查的记录,而之前的记录均需要判断。索引的终止查找范围由b < 8决定;

2.在确定了查询的起始、终止范围之后,SQL中还有哪些条件可以使用索引idx_t1_bcd过滤?

根据SQL,固定了索引的查询范围[(2,2,2),(8,8,8))之后,此索引范围中并不是每条记录都是满足where查询条件的。例如:(3,1,1)不满足c > 1的约束;(6,4,4)不满足d != 4的约束。而c,d列,均可在索引idx_t1_bcd中过滤掉不满足条件的索引记录的。

因此,SQL中还可以使用c > 1 and d != 4条件进行索引记录的过滤。

3.在确定了索引中最终能够过滤掉的条件之后,还有哪些条件是索引无法过滤的?

此问题的答案显而易见,e != ‘a’这个查询条件,无法在索引idx_t1_bcd上进行过滤,因为索引并未包含e列。e列只在堆表上存在,为了过滤此查询条件,必须将已经满足索引查询条件的记录回表,取出表中的e列,然后使用e列的查询条件e != ‘a’进行最终的过滤。

在理解以上的问题解答的基础上,做一个抽象,可总结出一套放置于所有SQL语句而皆准的where查询条件的提取规则:

所有SQL的where条件,均可归纳为3大类:Index Key (First Key & LastKey),Index Filter,Table Filter。

接下来,让我们来详细分析者3大类分别是如何定义,以及如何提取的。

l. Index Key

用于确定SQL查询在索引中的连续范围(起始范围+结束范围)的查询条件,被称之为Index Key。由于一个范围,至少包含一个起始与一个终止,因此Index Key也被拆分为Index First Key和Index Last Key,分别用于定位索引查找的起始,以及索引查询的终止条件。

Index First Key

用于确定索引查询的起始范围。提取规则:从索引的第一个键值开始,检查其在where条件中是否存在,若存在并且条件是=、>=,则将对应的条件加入Index First Key之中,继续读取索引的下一个键值,使用同样的提取规则;若存在并且条件是>,则将对应的条件加入Index First Key中,同时终止Index First Key的提取;若不存在,同样终止Index First Key的提取。

针对上面的SQL,应用这个提取规则,提取出来的Index First Key为(b >= 2, c > 1)。由于c的条件为 >,提取结束,不包括d。

Index Last Key

Index Last Key的功能与Index First Key正好相反,用于确定索引查询的终止范围。提取规则:从索引的第一个键值开始,检查其在where条件中是否存在,若存在并且条件是=、<=,则将对应条件加入到Index Last Key中,继续提取索引的下一个键值,使用同样的提取规则;若存在并且条件是 < ,则将条件加入到Index Last Key中,同时终止提取;若不存在,同样终止Index Last Key的提取。

针对上面的SQL,应用这个提取规则,提取出来的Index Last Key为(b < 8 ),由于是 < 符号,因此提取b之后结束。

2.Index Filter

在完成Index Key的提取之后,我们根据where条件固定了索引的查询范围,但是此范围中的项,并不都是满足查询条件的项。在上面的SQL用例中,(3,1,1),(6,4,4)均属于范围中,但是又均不满足SQL的查询条件。

Index Filter的提取规则:同样从索引列的第一列开始,检查其在where条件中是否存在:若存在并且where条件仅为 =,则跳过第一列继续检查索引下一列,下一索引列采取与索引第一列同样的提取规则;若where条件为 >=、>、<、<= 其中的几种,则跳过索引第一列,将其余where条件中索引相关列全部加入到Index Filter之中;若索引第一列的where条件包含 =、>=、>、<、<= 之外的条件,则将此条件以及其余where条件中索引相关列全部加入到Index Filter之中;若第一列不包含查询条件,则将所有索引相关条件均加入到Index Filter之中。

针对上面的用例SQL,索引第一列只包含 >=、< 两个条件,因此第一列可跳过,将余下的c、d两列加入到Index Filter中。因此获得的Index Filter为 c > 1 and d != 4 。

3.Table Filter

Table Filter是最简单,最易懂,也是提取最为方便的。提取规则:所有不属于索引列的查询条件,均归为Table Filter之中。

同样,针对上面的用例SQL,Table Filter就为 e != ‘a’。

3.1 Index Key/Index Filter/Table Filter小结

SQL语句中的where条件,使用以上的提取规则,最终都会被提取到Index Key (First Key & Last Key),Index Filter与Table Filter之中。

Index First Key,只是用来定位索引的起始范围,因此只在索引第一次Search Path(沿着索引B+树的根节点一直遍历,到索引正确的叶节点位置)时使用,一次判断即可;

Index Last Key,用来定位索引的终止范围,因此对于起始范围之后读到的每一条索引记录,均需要判断是否已经超过了Index Last Key的范围,若超过,则当前查询结束;

Index Filter,用于过滤索引查询范围中不满足查询条件的记录,因此对于索引范围中的每一条记录,均需要与Index Filter进行对比,若不满足Index Filter则直接丢弃,继续读取索引下一条记录;

Table Filter,则是最后一道where条件的防线,用于过滤通过前面索引的层层考验的记录,此时的记录已经满足了Index First Key与Index Last Key构成的范围,并且满足Index Filter的条件,回表读取了完整的记录,判断完整记录是否满足Table Filter中的查询条件,同样的,若不满足,跳过当前记录,继续读取索引的下一条记录,若满足,则返回记录,此记录满足了where的所有条件,可以返回给前端用户。

4、结语
在读完、理解了以上内容之后,详细大家对于数据库如何提取where中的查询条件,如何将where中的查询条件提取为Index Key,Index Filter,Table Filter有了深刻的认识。以后在撰写SQL语句时,可以对照表的定义,尝试自己提取对应的where条件,与最终的SQL执行计划对比,逐步强化自己的理解。

同时,我们也可以回答文章开始提出的一个问题:MySQL 5.6中引入的Index Condition Pushdown,究竟是将什么Push Down到索引层面进行过滤呢?对了,答案是Index Filter。在MySQL 5.6之前,并不区分Index Filter与Table Filter,统统将Index First Key与Index Last Key范围内的索引记录,回表读取完整记录,然后返回给MySQL Server层进行过滤。而在MySQL 5.6之后,Index Filter与Table Filter分离,Index Filter下降到InnoDB的索引层面进行过滤,减少了回表与返回MySQL Server层的记录交互开销,提高了SQL的执行效率。


mysql在执行一条sql语句时,无论你在这个表中建了多少个索引,只会选择一个索引(一个单个索引或组合索引)




转载于:http://www.cnblogs.com/ronli/p/4272099.html
分享到:
评论

相关推荐

    MySQL SQL执行计划分析与优化方案.pptx

    子查询是 MySQL 中的一种查询方式,通过子查询可以将一个查询结果作为另一个查询的条件。子查询有多种,包括 IN、 EXISTS、ANY、ALL 等。 例如,在以下的查询语句中,我们可以使用子查询来查找 sid 在某个范围内的...

    精确分析MySQL数据库中优化WHERE子句

    精确分析MySQL数据库中优化WHERE子句 在 MySQL 数据库中,WHERE 子句的优化是非常重要的,因为它可以极大地提高查询的效率。本文将详细分析 MySQL 数据库中优化 WHERE 子句的方法和技巧。 删除不必要的括号 在 ...

    mysql查询根据列按条件统计总数

    在统计分析中,子查询常用于先计算出中间结果,然后再基于这些结果进行进一步的处理。 ```sql SELECT * FROM ( SELECT 列1, COUNT(*) AS cnt FROM t1 GROUP BY 列1 ) AS sub UNION SELECT '总计', SUM(cnt) FROM ...

    MySQL高级优化之-查询逻辑及where条件提取.pdf

    本篇文章将深入探讨MySQL查询逻辑处理步骤以及如何有效地提取WHERE条件,以实现更高效的查询优化。 首先,MySQL的查询逻辑处理分为11个步骤,这些步骤按照顺序依次执行,从FROM操作开始,至LIMIT操作结束。每一步...

    第四节 mysql 执行计划

    本节我们将深入探讨"第四节 mysql 执行计划",主要关注如何分析和解读MySQL查询的执行计划,以及它在优化数据库操作中的作用。 首先,执行计划,也称为查询计划,是数据库管理系统在执行SQL查询时所采用的具体步骤...

    MySQL查询条件中放置on和where的区别分析

    在SQL查询中,`ON` 和 `WHERE` 子句都是用于设置筛选条件,但它们在`JOIN`操作中有着不同的作用和位置。理解这两者的区别对于编写高效的SQL语句至关重要,尤其是在处理复杂的多表查询时。 首先,我们来看一下MySQL...

    MYSQL执行计划详解.pdf

    根据提供的文件内容,我们可以从中提取出...总结来说,通过分析MySQL执行计划中的`id`、`select_type`、`table`、`type`和`Extra`等字段,我们可以获得查询的详细执行过程,从而对查询效率和潜在问题进行评估和优化。

    Mysql 执行计划解读

    Using where表示服务器在从存储引擎获取记录后,使用WHERE条件进行过滤,这通常发生在没有使用索引的情况。Using temporary表示需要使用临时表来存储中间结果,这常见于排序和分组查询。Using filesort表示MySQL无法...

    MySQL优化、问题案例分析

    ### MySQL优化、问题案例分析 #### 案例一:索引优化 ##### 问题描述 用户系统响应缓慢,数据库CPU占用率高达100%。经排查发现,数据库中有大量执行时间超过2秒的慢SQL语句。具体示例如下: ```sql SELECT uid ...

    mysql+explain实例分析

    `EXPLAIN`是MySQL提供的一种功能,用于在不实际执行查询的情况下分析SQL语句的执行计划。它帮助我们理解查询是如何工作的,包括哪些索引被使用,数据是如何获取的,以及查询的潜在性能问题。 首先,我们要知道的是...

    MySQL执行计划的深入分析

    10. **Extra列**:提供关于优化器选择的额外信息,如`Using where`表示在服务器层应用了WHERE条件。 了解并分析执行计划是优化SQL查询性能的关键步骤。通过查看执行计划,我们可以识别慢查询的问题所在,如不必要的...

    PHP-Mysql注射分析器

    PHP-Mysql注射分析器是一种专门用于检测和分析PHP应用程序与MySQL数据库交互过程中潜在安全漏洞的工具。在Web开发中,PHP与MySQL的结合是常见的选择,但如果不恰当处理用户输入,就可能导致SQL注入攻击。这种攻击...

    86以MySQL单表查询来举例,看看执行计划包含哪些内容(1)?.pdf

    总结来说,MySQL执行计划是一个强大的工具,它可以帮助开发者和数据库管理员分析和优化SQL语句。通过对执行计划中出现的不同术语的理解,我们可以快速诊断查询的性能和执行策略。通过对上述概念的深入了解,我们可以...

    MySQL 5.1中文手冊

    7.2.4. MySQL怎样优化WHERE子句 7.2.5. 范围优化 7.2.6. 索引合并优化 7.2.7. MySQL如何优化IS NULL 7.2.8. MySQL如何优化DISTINCT 7.2.9. MySQL如何优化LEFT JOIN和RIGHT JOIN 7.2.10. MySQL如何优化嵌套Join ...

    mysql 执行计划详解

    10. **Extra** - 提供关于查询的额外信息,如“Using index”表示只用到索引,“Using where”表示在存储引擎层应用了WHERE条件。 了解这些字段后,我们可以根据执行计划调整索引,优化查询语句。例如,如果看到全...

    MySql中文参考教程

    4. 删除:`DELETE FROM`用于从表中删除记录,可以配合`WHERE`子句精确指定删除条件。 六、索引与优化 索引可以显著提升查询速度。MySQL支持多种类型的索引,如B-Tree、Hash和Full-text。使用`CREATE INDEX`创建索引...

    【MySQL数据库】一条SQL语句为什么执行这么慢?

    在查询条件中对字段进行函数操作(如`DATE_FORMAT()`或`UPPER()`),会阻止MySQL使用索引,因为它无法直接比较索引值。尽量避免在WHERE子句中对字段进行函数处理,尤其是涉及索引的字段。 3. **选错索引** 即使有...

    mysql简体中文手册

    在MySQL简体中文手册中,你会找到关于SQL语法的详细解释,例如: 1. **数据查询**:使用`SELECT`语句来检索数据,你可以指定字段、表、条件等,例如`SELECT * FROM table_name WHERE condition;`。 2. **数据插入*...

Global site tag (gtag.js) - Google Analytics