Mysql索引优化
mysql索引数据结构 B+Tree
B+Tree是在BTree的基础上做的一种优化
B+Tree每个节点可以包含更多的节点.
作用:
降低树的高度.
将数据范围变为多个区间,区间越多,数据检索越快.
非叶子节点存储key,叶子节点存储key和数据,
叶子节点两两指针相互连接,顺序查找性能越高.
索引的优点
- 大大减少服务器需要扫描的数据量
- 帮助服务器避免排序和临时表
- 将随机io变成顺序io
索引的用处
- 快速查找匹配where子句的行
- 从consideration中消除行,如果可以在多个索引之间进行选择,mysql通常会使用找到最少行的索引.
- 如果表具有多列索引,则优化器可以使用索引的任何最左前缀来查找行.
- 当有表连接的时候,从其他表检索行数据.
- 查找特定索引列的min或max值
- 如果排序或分组时在可用索引的最左前缀上完成时,则对表进行排序和分组.
- 可以优化查询以检索值二无需查询数据行.
索引的分类
主键索引.(主键:唯一且非空,所以数据库建数据库并非给主键建的.而是给唯一键建的.)
唯一索引,(该列字段每行都唯一,索引类型为unique)
普通索引, 给普通列创建一个普通索引
全文索引,给字符串字段建立的索引.char,varchar,text
组合索引,将多个列合并成一个索引.由于查询的时候一般是多条件组合查询.
会涉及到多个技术名词
回表: 通过索引条件查询周到叶子节点上的值,其值为主键列的值;再通过这个值去主键的B+Tree获取其叶子节点的值.此值为该行记录的完整数据.
覆盖索引: 不存在回表的查询则为索引覆盖.当查询字段都存在于当前索引中.则不需要再去主键的B+Tree获取完整数据.最常见的是关联查询的时候查询id.
最左匹配: 在使用组合索引的时候,where要按照组合索引的顺序来写where查询.
eg: 组合索引为ename和job两个字段,则where可以为 只查询enmae或查询ename与job,或更多;但不可以没有ename查询条件,顺序无所谓,优化器会帮助优化.
小技巧: 当需要创建组合索引且又要单独建立普通索引的时候,在满足业务场景需求的情况下,选择存储量少的索引建立.
eg: age 与 name 建立索引
age_name索引 name索引
name_age索引 age索引
选用第二种,第二种索引消耗的内存少.但两者都能实现满足相同的查询.
索引下推: 对组合索引中包含的字段先做判断,过滤掉不符合条件的记录,减少回表字数。(在mysql5.6版本引入)
其他索引结构
HASH
基于哈希表的实现,只有精确匹配索引所有列的查询才有效;
在mysql中,只有memory的存储引擎显式支持哈希索引;
哈希索引自身只需存储对应的hash值,所以索引的结构十分紧凑,这让哈希索引查找的速度非常快;
限制:
- 哈希索引只包含哈希值和行指针,而不存储字段值,索引不能使用索引中的值来避免读取行.
- 哈希索引数据并不是按照索引值顺序存储的,所以无法进行排序
- 哈希索引不支持部分列匹配查找,哈希索引是使用索引列的全部内容来计算哈希值
- 哈希索引支持等值比较查询,也不支持任何范围查询
- 访问哈希索引的数据非常快,除非有很多哈希冲突,当出现哈希冲突的时候,存储引擎必须遍历链表中的所有行指针,逐行进行比较,直到找到所有符合条件的行
- 哈希冲突比较多的话,维护的代价也会很高(所以需要优秀的hash算法)
索引匹配方式
eg:
create table staffs(
id int primary key auto_increment,
name varchar(24) not null default ‘’ comment ‘姓名’,
age int not null default 0 comment ‘年龄’,
pos varchar(20) not null default ‘’ comment ‘职位’,
add_time timestamp not null default current_timestamp comment ‘入职时间’
) charset utf8 comment ‘员工记录表’;
alter table staffs add index idx_nap(name, age, pos);
全值匹配
和索引中的所有列进行匹配
eg: explain select * from staffs where name = ‘July’ and age = ‘23’ and pos = ‘dev’;
匹配最左前缀
只匹配前面几列.
explain select * from staffs where name = ‘July’ and age = ‘23’;
explain select * from staffs where name = ‘July’ ;
匹配列前缀
匹配某一列的值的开头部分
explain select * from staffs where name like ‘J%’;
explain select * from staffs where name like ‘%y’; 将进行全表扫面
匹配范围值
查找某一个范围的数据,如果为字符串则匹配字符串的hash值.
explain select * from staffs where name > ‘Mary’;
精确匹配某一列并范围匹配另一列
可以查询第一列的全部和第二列的部分
explain select * from staffs where name = ‘July’ and age > 25;
只访问索引的查询
查询的时候只需要访问索引,不需要访问数据行,本质上就是覆盖索引
explain select name,age,pos from staffs where name = ‘July’ and age = 25 and pos = ‘dev’;
聚簇索引与非聚簇索引
聚簇索引
不是单独的索引类型,而是一种数据存储方式,指的是数据行跟相邻的键值紧凑的存储在一起.innoDB属于聚簇索引.
优点:
- 可以把相关数据保存在一起
- 数据访问更快,因为索引和数据保存在同一个树中
- 使用覆盖索引扫描的查询可以直接使用页节点中的主键值
缺点:
- 聚簇数据最大限度地提高了IO密集型应用的性能,如果数据全部在内存,那么聚簇索引就没有什么优势
- 插入速度严重依赖于插入顺序,按照主键的顺序插入是最快的方式
- 更新聚簇索引列的代价很高,因为会强制将每个被更新的行移动到新的位置
- 基于聚簇索引的表在插入新行,或者主键被更新导致需要移动行的时候,可能面临页分裂的问题
- 聚簇索引可能导致全表扫描变慢,尤其是行比较稀疏,或者由于页分裂导致数据存储不连续的时候
小技巧:当导入大量数据的时候可以先将数据库表索引关闭,导入后再打开.
关闭:ALTER TABLE test DISABLE KEYS
开启:ALTER TABLE test ENABLE KEYS
查看索引信息: show INDEX FROM test
非聚簇索引
数据文件跟索引文件分开存放.MYISAM属于非聚簇索引.
索引覆盖
- 如果一个索引包含所有需要查询的字段的值,我们称之为覆盖索引
- 不是所有类型的索引都可以称为覆盖索引,覆盖索引必须要存储索引列的值
- 不同的存储实现覆盖索引的方式不同,不是所有的引擎都支持覆盖索引,memory不支持覆盖索引
优势:
- 索引条目通常远小于数据行大小,如果只需要读取索引,那么mysql就会极大的较少数据访问量
- 因为索引是按照列值顺序存储的,所以对于IO密集型的范围查询会比随机从磁盘读取每一行数据的IO要少的多
- 一些存储引擎如MYISAM在内存中只缓存索引,数据则依赖于操作系统来缓存,因此要访问数据需要一次系统调用,这可能会导致严重的性能问题
- 由于INNODB的聚簇索引,覆盖索引对INNODB表特别有用
细小优化
当使用索引列进行查询的时候尽量不要使用表达式,把计算放到业务层而不是数据库层
尽量使用主键查询,而不是其他索引,因为主键查询不会触发回表查询
使用前缀索引,给字符串类型的字段设置前缀索引,来优化查询速度.
使用索引扫描来排序,
explan中的type为index时,使用了索引扫描来做排序.
只有当索引的列顺序和order by子句的顺序完全一致,并且所有列的排序方式都一样时,mysql才能够使用索引来对结果进行排序,
如果查询需要关联多张表,则只有当orderby子句引用的字段全部为第一张表时,才能使用索引做排序。
union all,in,or都能够使用索引,但是推荐使用in.
union all : explan时会两阶段执行.(union 会去重,union all不会)
in : explan时与or相同,但show profiles时执行时间比or小.
or : explan时与in相同.但由于or需要一句一句判断,时间会比in这样集合中筛选来的慢.
范围列可以用到索引
范围条件: <,<=,>,>=,between
范围列可以用到索引,但范围列后面的列无法用到索引,索引最多用于一个范围列.
强制类型转换会全表扫描
where条件中的值类型必须与字段类型一致.
更新十分频繁,数据区分度不高的字段上不宜建立索引
- 更新会变更B+树,更新频繁的字段建议索引会大大降低数据库性能
- 类似于性别这类区分不大的属性,建立索引是没有意义的,不能有效的过滤数据,
- 一般区分度在80%以上的时候就可以建立索引,区分度可以使用 count(distinct(列名))/count(*) 来计算
创建索引的列,不允许为null,可能会得到不符合预期的结果
当需要进行表连接的时候,最好不要超过三张表,因为需要join的字段,数据类型必须一致
join的三种方式
simple nested_loop join:
index nested_loop join:
- 这个要求非驱动表上有索引,可以通过索引来减少比较,加速查询.
- 在查询时,驱动表会根据关联字段的索引进行查询,只有到匹配到索引后才进行回表查询.
block netsted_loop join:
- 如果join列没有索引,时将驱动表的所有join相关的列都缓存到joinbuffer中,然后批量匹配.
- 将第一种多次比较合并成一次,降低了非驱动表的访问频率.
- join_buffer_size默认为256K.会将select的列也存放在buffer中,如果存不下需要适当调高值.
- 在一个n个join关联的sql中,会在执行时候分配N-1个join buffer.
能使用limit的时候尽量使用limit,在明确只有一条语句的时候 带上limit1.
单表索引建议控制在5个以内,会增加树的大小,增加io量.
组合索引中,单索引字段数不超过5个,由于最左匹配原则,过多的字段需要满足的条件过多,增加了io量,还增加了限制条件.
索引监控
sql: show status like 'Handler_read%';
参数解释:
- Handler_read_first:读取索引第一个条目的次数
- Handler_read_key:通过index获取数据的次数
- Handler_read_last:读取索引最后一个条目的次数
- Handler_read_next:通过索引读取下一条数据的次数
- Handler_read_prev:通过索引读取上一条数据的次数
- Handler_read_rnd:从固定位置读取数据的次数
- Handler_read_rnd_next:从数据节点读取下一条数据的次数
只是个大致的索引信息,展示的整体索引使用情况.