mysql:索引原理与慢查询优化
<h1 class="js-evernote-checked" data-evernote-id="789"><strong class="js-evernote-checked" data-evernote-id="926">一 索引的原理
、<、between、in)、模糊查询(like)、并集查询(or)等等。数据库应该选择怎么样的方式来应对所有的问题呢?我们回想字典的例子,能不能把数据分成段,然后分段查询呢?最简单的如果1000条数据,1到100分成第一段,101到200分成第二段,201到300分成第三段......这样查第250条数据,只要找第三段就可以了,一下子去除了90%的无效数据。但如果是1千万的记录呢,分成几段比较好?稍有算法基础的同学会想到搜索树,其平均复杂度是lgN,具有不错的查询性能。但这里我们忽略了一个关键的问题,复杂度模型是基于每次相同的操作成本来考虑的。而数据库实现比较复杂,一方面数据是保存在磁盘上的,另外一方面为了提高性能,每次又可以把部分数据读入内存来计算,因为我们知道访问磁盘的成本大概是访问内存的十万倍左右,所以简单的搜索树难以满足复杂的应用场景。
,因为局部预读性原理告诉我们,当计算机访问一个地址的数据的时候,与其相邻的数据也会很快被访问到。每一次IO读取的数据我们称之为一页(page)。具体一页有多大数据跟操作系统有关,一般为4k或8k,也就是我们读取一页内的数据时候,实际上才发生了一次IO,这个理论对于索引的数据结构设计非常有帮助。
前面讲了索引的基本原理,数据库的复杂性,又讲了操作系统的相关知识,目的就是让大家了解,任何一种数据结构都不是凭空产生的,一定会有它的背景和使用场景,我们现在总结一下,我们需要这种数据结构能够做些什么,其实很简单,那就是:每次查找数据时把磁盘IO次数控制在一个很小的数量级,最好是常数数量级。那么我们就想到如果一个高度可控的多路搜索树是否能满足需求呢?就这样,b+树应运而生。 <p class="js-evernote-checked" data-evernote-id="763">如上图,是一颗b+树,关于b+树的定义可以参见B+树,这里只说一些重点,浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。真实的数据存在于叶子节点即3、5、9、10、13、15、28、29、36、60、75、79、90、99。非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。 <p class="js-evernote-checked" data-evernote-id="764">###b+树的查找过程 如图所示,如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO,在内存中用二分查找确定29在17和35之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29在26和30之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO。真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高。 <p class="js-evernote-checked" data-evernote-id="765">###b+树性质 1<strong class="js-evernote-checked" data-evernote-id="942"><span class="js-evernote-checked" data-evernote-id="943">.<span style="color: #ff0000;">索引字段要尽量的小:通过上面的分析,我们知道IO次数取决于b+数的高度h,假设当前数据表的数据为N,每个磁盘块的数据项的数量是m,则有h=㏒(m+1)N,当数据量N一定的情况下,m越大,h越小;而m = 磁盘块的大小 / 数据项的大小,磁盘块的大小也就是一个数据页的大小,是固定的,如果数据项占的空间越小,数据项的数量越多,树的高度越低。这就是为什么每个数据项,即索引字段要尽量的小,比如int占4字节,要比bigint8字节少一半。这也是为什么b+树要求把真实的数据放到叶子节点而不是内层节点,一旦放到内层节点,磁盘块的数据项会大幅度下降,导致树增高。当数据项等于1时将会退化成线性表。 2.<span style="color: #ff0000;"><strong class="js-evernote-checked" data-evernote-id="945"><span class="js-evernote-checked" data-evernote-id="946">索引的最左匹配特性:当b+树的数据项是复合的数据结构,比如(name,age,sex)的时候,b+数是按照从左到右的顺序来建立搜索树的,比如当(张三,20,F)这样的数据来检索的时候,b+树会优先比较name来确定下一步的所搜方向,如果name相同再依次比较age和sex,最后得到检索的数据;但当(20,F)这样的没有name的数据来的时候,b+树就不知道下一步该查哪个节点,因为建立搜索树的时候name就是第一个比较因子,必须要先根据name来搜索才能知道下一步去哪里查询。比如当(张三,F)这样的数据来检索时,b+树可以用name来指定搜索方向,但下一个字段age的缺失,所以只能把名字等于张三的数据都找到,然后再匹配性别是F的数据了, 这个是非常重要的性质,即索引的最左匹配特性。 <p class="js-evernote-checked" data-evernote-id="765"> <h1 class="js-evernote-checked" data-evernote-id="791"><strong class="js-evernote-checked" data-evernote-id="950">三 MySQL索引管理 <h2 class="js-evernote-checked" data-evernote-id="765"><strong class="js-evernote-checked" data-evernote-id="951"><span class="js-evernote-checked" data-evernote-id="952">1. 功能 <div class="cnblogs_code">
唯一索引:-主键索引primary key:加速查找+<span style="color: #000000;">约束(不为空、不能重复) -唯一索引unique:加速查找+<span style="color: #000000;">约束(不能重复) 联合索引(组合索引): ![]() 有下列字段: 会员编号 int 会员姓名 varchar(10<span style="color: #000000;">) 会员身份证号码 varchar(18<span style="color: #000000;">) 会员电话 varchar(10<span style="color: #000000;">) 会员住址 varchar(50<span style="color: #000000;">) 会员备注信息 text 那么这个 会员编号,作为主键,使用 primary <span style="color: #008000;">#<span style="color: #008000;">除此之外还有全文索引,即FULLTEXT <span style="color: #008000;">#<span style="color: #008000;">其他的如空间索引SPATIAL,了解即可,几乎不用 +<span style="color: #008000;">#<span style="color: #008000;">不同的存储引擎支持的索引类型也不一样InnoDB 支持事务,支持行级别锁定,支持 B-tree、Full-<span style="color: #000000;">text 等索引,不支持 Hash 索引; MyISAM 不支持事务,支持表级别锁定,支持 B-tree、Full-<span style="color: #000000;">text 等索引,不支持 Hash 索引; Memory 不支持事务,支持表级别锁定,支持 B-tree、Hash 等索引,不支持 Full-<span style="color: #000000;">text 索引; NDB 支持事务,支持行级别锁定,支持 Hash 索引,不支持 B-tree、Full-<span style="color: #000000;">text 等索引; Archive 不支持事务,支持表级别锁定,不支持 B-tree、Hash、Full-text 等索引; 1<span style="color: #008000;">#<span style="color: #008000;">方法一:创建表时-<span style="color: #000000;"> 在创建表时就创建 create table 表名 ( 字段名1 数据类型 [完整性约束条件…],字段名2 数据类型 [完整性约束条件…],[unique | fulltext | spatial ] index |<span style="color: #000000;"> key [索引名] (字段名[(长度)] [asc |<span style="color: #000000;">desc]) ); <span style="color: #008000;">#<span style="color: #008000;">例: <span style="color: #000000;"> create table s1( id int,name char(6<span style="color: #000000;">),age int,email varchar(30<span style="color: #000000;">),index(id) <span style="color: #008000;">#<span style="color: #008000;">不是约束条件,故不能直接跟在字段后面 <span style="color: #000000;"> ); <span style="color: #008000;">#<span style="color: #008000;">方法二:CREATE在已存在的表上创建索引 <span style="color: #008000;">#<span style="color: #008000;">例 - 在创建表后创建 <span style="color: #008000;">#<span style="color: #008000;">方法三:ALTER TABLE在已存在的表上创建索引 2<span style="color: #000000;"> 删除索引 <span style="color: #008000;">例:drop index id on s1; <h1 class="js-evernote-checked" data-evernote-id="792"><strong class="js-evernote-checked" data-evernote-id="962">四 测试索引 ![]() delimiter $$ <span style="color: #008000;">#<span style="color: #008000;">声明存储过程的结束符号为$$ <span style="color: #000000;">create procedure auto_insert1() BEGIN declare i int default 1<span style="color: #000000;">; <span style="color: #0000ff;">while(i<300000)do <span style="color: #008000;">#<span style="color: #008000;">插入比较慢,耗时比较长 insert into s1 values(i,concat(<span style="color: #800000;">'<span style="color: #800000;">egon<span style="color: #800000;">',i),<span style="color: #800000;">'<span style="color: #800000;">male<span style="color: #800000;">',i,<span style="color: #800000;">'<span style="color: #800000;">@oldboy<span style="color: #800000;">'<span style="color: #000000;">)); set i=i+1<span style="color: #000000;">; end <span style="color: #0000ff;">while<span style="color: #000000;">; END$$ <span style="color: #008000;">#<span style="color: #008000;">$$结束 delimiter ; <span style="color: #008000;">#<span style="color: #008000;">重新声明分号为结束符号 <span style="color: #008000;">#<span style="color: #008000;">3. 查看存储过程 <span style="color: #008000;">#<span style="color: #008000;">4. 调用存储过程 mysql> select * s1 where id=333+------+---------+--------+----------------+ | id | name | gender | email | +------+---------+--------+----------------+ | 333 | egon333 | male | egon333@oldboy | +------+---------+--------+----------------+ 1 row set (0.17mysql> select * <span style="color: #0000ff;">from s1 where email=<span style="color: #800000;">'<span style="color: #800000;">egon333@oldboy<span style="color: #800000;">'<span style="color: #000000;">;+------+---------+--------+----------------+ | id | name | gender | email | +------+---------+--------+----------------+ | 333 | egon333 | male | egon333@oldboy | +------+---------+--------+----------------+ 1 row <span style="color: #0000ff;">in set (0.15 sec) <span style="color: #008000;">#<span style="color: #008000;">2. 在表中已经有大量数据的情况下,建索引会很慢,且占用硬盘空间,插入删除更新都很慢,只有查询快 <span style="color: #008000;">#<span style="color: #008000;">3. 需要注意的是:innodb表的索引会存放于s1.ibd文件中,而myisam表的索引则会有单独的索引文件table1.MYI
<h1 class="js-evernote-checked" data-evernote-id="793">五 正确使用索引 ![]() +----------+ | count() | +----------+ | 298999 | +----------+ 1 row <span style="color: #0000ff;">in set (0.11<span style="color: #000000;"> sec) mysql> select count() <span style="color: #0000ff;">from s1 where id>1000 <span style="color: #0000ff;">and id < 2000<span style="color: #000000;">; mysql> select count() <span style="color: #0000ff;">from s1 where id>1000 <span style="color: #0000ff;">and id < 300000<span style="color: #000000;">; -//blog.itpub.net/22664653/viewspace-774667/<span style="color: #008000;">#<span style="color: #008000;">分析 <div class="cnblogs_code">
-* s1 where name=; select * s1 where name= email=; select * s1 where email=; mysql会一直向右匹配直到遇到范围查询(>、<、between、like)就停止匹配,比如a = 1 b = 2 c > 3 d = 4<span style="color: #008000;">#<span style="color: #008000;">2.=和in可以乱序,比如a = 1 and b = 2 and c = 3 建立(a,c)索引可以任意顺序,mysql的查询优化器会帮你优化成索引可以识别的形式<span style="color: #008000;">#<span style="color: #008000;">3.尽量选择区分度高的列作为索引,区分度的公式是count(distinct col)/count(*),表示字段不重复的比例,比例越大我们扫描的记录数越少,唯一键的区分度是1,而一些状态、性别字段可能在大数据面前区分度就是0,那可能有人会问,这个比例有什么经验值吗?使用场景不同,这个值也很难确定,一般需要join的字段我们都要求是0.1以上,即平均1条扫描10条记录 <span style="color: #008000;">#<span style="color: #008000;">4.索引列不能参与计算,保持列“干净”,比如from_unixtime(create_time) = ’2014-05-29’就不能使用到索引,原因很简单,b+树中存的都是数据表中的字段值,但进行检索时,需要把所有元素都应用函数才能比较,显然成本太大。所以语句应该写成create_time = unix_timestamp(’2014-05-29’); <span style="color: #008000;">#<span style="color: #008000;">5.尽量的扩展索引,不要新建索引。比如表中已经有a的索引,现在要加(a,b)的索引,那么只需要修改原来的索引即可 <div class="cnblogs_code" onclick="cnblogs_code_show('fed8dbea-9c3e-4455-8be2-bc1eac3694bf')"> <div id="cnblogs_code_open_fed8dbea-9c3e-4455-8be2-bc1eac3694bf" class="cnblogs_code_hide"> 1> select count(*) s1 where id=1000+----------+
| count(*) |
+----------+
| 1 |
+----------+
1 row set (0.12mysql> select count() <span style="color: #0000ff;">from s1 where id>1000<span style="color: #000000;">;
mysql> select * s1 where id>3 name= email= gender=0.39mysql> create index idx on s1(id,gender); <span style="color: #008000;">#<span style="color: #008000;">未遵循最左前缀Query OK,0 rows affected (15.27<span style="color: #000000;"> sec) Records: 0 Duplicates: 0 Warnings: 0 mysql> select * <span style="color: #0000ff;">from s1 where id>3 <span style="color: #0000ff;">and name=<span style="color: #800000;">'<span style="color: #800000;">egon<span style="color: #800000;">' <span style="color: #0000ff;">and email=<span style="color: #800000;">'<span style="color: #800000;">alex333@oldboy.com<span style="color: #800000;">' <span style="color: #0000ff;">and gender=<span style="color: #800000;">'<span style="color: #800000;">male<span style="color: #800000;">'<span style="color: #000000;">; mysql><span style="color: #000000;"> drop index idx on s1; mysql> create index idx on s1(name,gender,id); <span style="color: #008000;">#<span style="color: #008000;">遵循最左前缀 mysql> select * <span style="color: #0000ff;">from s1 where id>3 <span style="color: #0000ff;">and name=<span style="color: #800000;">'<span style="color: #800000;">egon<span style="color: #800000;">' <span style="color: #0000ff;">and email=<span style="color: #800000;">'<span style="color: #800000;">alex333@oldboy.com<span style="color: #800000;">' <span style="color: #0000ff;">and gender=<span style="color: #800000;">'<span style="color: #800000;">male<span style="color: #800000;">'<span style="color: #000000;">; - like * tb1 where email like -<span style="color: #000000;"> 使用函数select * <span style="color: #0000ff;">from tb1 where reverse(email) = <span style="color: #800000;">'<span style="color: #800000;">wupeiqi<span style="color: #800000;">'<span style="color: #000000;">; - <span style="color: #0000ff;">or<span style="color: #000000;">
-<span style="color: #000000;"> 类型不一致 普通索引的不等于不会走索引
<span style="color: #008000;">#<span style="color: #008000;">排序条件为索引,则select字段必须也是索引字段,否则无法命中 -<span style="color: #000000;"> 组合索引最左前缀 - count(1)或count(列)代替count(*<span style="color: #000000;">)在mysql中没有差别了 - create index xxxx on tb(title(19)) <span style="color: #008000;">#<span style="color: #008000;">text类型,必须制定长度 - 避免使用select * - count(1)或count(列) 代替 count(*----- 使用连接(JOIN)来代替子查询(Sub--- 索引散列值(重复高的)不适合建索引,例:性别不适合 六 查询优化神器-explain关于explain命令相信大家并不陌生,具体用法和字段含义可以参考官网,这里需要强调rows是核心指标,绝大部分rows小的语句执行一定很快(有例外,下面会讲到)。所以优化语句基本上都是在优化rows。 < index < range < index_merge < ref_or_null < ref < eq_ref < system/慢:
select </span>* <span style="color: #0000ff;">from</span> userinfo3 where name=<span style="color: #800000;">'</span><span style="color: #800000;">alex</span><span style="color: #800000;">'</span><span style="color: #000000;">
explain select </span>* <span style="color: #0000ff;">from</span> userinfo3 where name=<span style="color: #800000;">'</span><span style="color: #800000;">alex</span><span style="color: #800000;">'</span><span style="color: #000000;">
type: ALL(全表扫描)
select </span>* <span style="color: #0000ff;">from</span> userinfo3 limit 1<span style="color: #000000;">;
快:
select </span>* <span style="color: #0000ff;">from</span> userinfo3 where email=<span style="color: #800000;">'</span><span style="color: #800000;">alex</span><span style="color: #800000;">'</span><span style="color: #000000;">
type: const(走索引)</span></pre>
http://blog.itpub.net/29773961/viewspace-1767044/ 七 慢查询优化的基本步骤123456.观察结果,不符合预期继续从0分析八 慢日志管理- 执行时间 > 10 -- 配置:
</span>-<span style="color: #000000;"> 内存
show variables like </span><span style="color: #800000;">'</span><span style="color: #800000;">%query%</span><span style="color: #800000;">'</span><span style="color: #000000;">;
show variables like </span><span style="color: #800000;">'</span><span style="color: #800000;">%queries%</span><span style="color: #800000;">'</span><span style="color: #000000;">;
set </span><span style="color: #0000ff;">global</span> 变量名 =<span style="color: #000000;"> 值
</span>-<span style="color: #000000;"> 配置文件
mysqld </span>--defaults-file=<span style="color: #800000;">'</span><span style="color: #800000;">E:wupeiqimysql-5.7.16-winx64mysql-5.7.16-winx64my-default.ini</span><span style="color: #800000;">'</span><span style="color: #000000;">
my.conf内容:
slow_query_log </span>=<span style="color: #000000;"> ON
slow_query_log_file </span>= D:/<span style="color: #000000;">....
注意:修改配置文件之后,需要重启服务</span></pre>
<div class="cnblogs_code" onclick="cnblogs_code_show('67c81b6e-3e35-467b-8446-c425476ecd1c')"> <div id="cnblogs_code_open_67c81b6e-3e35-467b-8446-c425476ecd1c" class="cnblogs_code_hide"> ================================================================================================================-1
-bin[=
2//==13
4. 截断bin-log(产生新的bin-
5. 删除bin-
二、查询日志
<p class="js-evernote-checked" data-evernote-id="765"> (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |