1. 存储引擎

1.1 MySQL体系结构

1) 连接层

最上层是一些客户端和链接服务,包含本地sock 通信和大多数基于客户端/服务端工具实现的类似于

TCP/IP的通信。主要完成一些类似于连接处理、授权认证、及相关的安全方案。在该层上引入了线程

池的概念,为通过认证安全接入的客户端提供线程。同样在该层上可以实现基于SSL的安全链接。服务

器也会为安全接入的每个客户端验证它所具有的操作权限。
2) 服务层

第二层架构主要完成大多数的核心服务功能,如SQL接口,并完成缓存的查询,SQL的分析和优化,部分内置函数的执行。所有跨存储引擎的功能也在这一层实现,如 过程、函数等。在该层,服务器会解析查询并创建相应的内部解析树,并对其完成相应的优化如确定表的查询的顺序,是否利用索引等,最后生成相应的执行操作。如果是select语句,服务器还会查询内部的缓存,如果缓存空间足够大,这样在解决大量读操作的环境中能够很好的提升系统的性能。

3) 引擎层

存储引擎层, 存储引擎真正的负责了MySQL中数据的存储和提取,服务器通过API和存储引擎进行通信。不同的存储引擎具有不同的功能,这样我们可以根据自己的需要,来选取合适的存储引擎。数据库中的索引是在存储引擎层实现的。

4) 存储层数据存储层

主要是将数据(如: redolog、undolog、数据、索引、二进制日志、错误日志、查询日志、慢查询日志等)存储在文件系统之上,并完成与存储引擎的交互。

和其他数据库相比,MySQL有点与众不同,它的架构可以在多种不同场景中应用并发挥良好作用。主要

体现在存储引擎上,插件式的存储引擎架构,将查询处理和其他的系统任务以及数据的存储提取分离。

这种架构可以根据业务的需求和实际需要选择合适的存储引擎。

1.2 MySQL支持的存储引擎特点

1.2.1 存储引擎的使用

建表时申明使用哪个存储引擎(不申明的话默认使用InnoDB存储引擎)

CREATE TABLE 表名(
字段1 字段1类型 [ COMMENT 字段1注释 ] ,
字段n 字段n类型 [COMMENT 字段n注释 ]
) ENGINE = INNODB [ COMMENT 表注释 ] ;

查看当前数据库的存储引擎

show engines;

1.2.2 常见的三种存储引擎

InnoDB存储引擎

兼顾高可用和高性能,MySQL5.5之后是默认的存储引擎

特点:

DML操作遵循ACID模型,支持事务;

行级锁,提高并发访问性能;

支持外键FOREIGN KEY约束,保证数据的完整性和正确性;

每一个表都对应磁盘上的一个ibd文件

逻辑存储结构

表空间 : InnoDB存储引擎逻辑结构的最高层,ibd文件其实就是表空间文件,在表空间中可以包含多个Segment段。

: 表空间是由各个段组成的, 常见的段有数据段、索引段、回滚段等。InnoDB中对于段的管理,都是引擎自身完成,不需要人为对其控制,一个段中包含多个区。

: 区是表空间的单元结构,每个区的大小为1M。 默认情况下, InnoDB存储引擎页大小为16K, 即一个区中一共有64个连续的页。

: 页是组成区的最小单元,页也是InnoDB 存储引擎磁盘管理的最小单元,每个页的大小默认为 16KB。为了保证页的连续性,InnoDB 存储引擎每次从磁盘申请 4-5 个区。

: InnoDB 存储引擎是面向行的,也就是说数据是按行进行存放的,在每一行中除了定义表时所指定的字段以外,还包含两个隐藏字段(后面会详细介绍)。

MyISAM存储引擎

MySQL早期默认存储引擎

特点

不支持事务,不支持外键

支持表锁,不支持行锁

访问速度快

一个表对应磁盘上的三个文件:xxx.sdi:存储表结构信息、xxx.MYD: 存储数据、xxx.MYI: 存储索引

Memory存储引擎

Memory引擎的表数据时存储在内存中的,由于受到硬件问题、或断电问题的影响,只能将这些表作为

临时表或缓存使用。
特点

内存存放

hash索引(默认)|
一个表对应磁盘上的一个文件:xxx.sdi:存储表结构信息

1.2.3 区别和特点以及如何选择

特点

InnoDB

MyISAM

Memory

存储限制

64TB

事务安全

支持

-

-

锁机制

行锁

表锁

表锁

B+tree索引

支持

支持

支持

Hash索引

-

-

支持

全文索引

支持(5.6版本之后)

支持

-

空间使用

N/A

内存使用

中等

批量插入速度

支持外键

支持

-

-

面试题:InnoDB引擎与MyISAM引擎的区别 ?

①. InnoDB引擎, 支持事务, 而MyISAM不支持。

②. InnoDB引擎, 支持行锁和表锁, 而MyISAM仅支持表锁, 不支持行锁。

③. InnoDB引擎, 支持外键, 而MyISAM是不支持的。

2. 索引

2.1 MySQL中索引结构

2.1.1 概述

使用索引的优势和劣势

优势

劣势

提高数据检索的效率,降低数据库的IO成本

索引列也是要占用空间的。

通过索引列对数据进行排序,降低数据排序的成本,降低CPU的消耗。

索引大大提高了查询效率,同时却也降低更新表的速度,

如对表进行INSERT、UPDATE、DELETE时,效率降低。

常见的索引结构概述

索引结构

描述

B+Tree索引

最常见的索引类型,大部分引擎都支持 B+ 树索引

Hash索引

底层数据结构是用哈希表实现的, 只有精确匹配索引列的查询才有效, 不

支持范围查询

R-tree(空间索

引)

空间索引是MyISAM引擎的一个特殊索引类型,主要用于地理空间数据类

型,通常使用较少

Full-text(全文

索引)

是一种通过建立倒排索引,快速匹配文档的方式。类似于

Lucene,Solr,ES

2.1.2 二叉树

无论是二叉树还是红黑树,在大数据量的情况下都会导致树的层级较深,查找效率仍旧很慢,所以应该使用B+树

选择二叉树作为索引结构,会存在以下缺点:

顺序插入时,会形成一个链表,查询性能大大降低。

大数据量情况下,层级较深,检索速度慢。

2.1.3 B-Tree

B-Tree,B树是一种多叉路衡查找树,相对于二叉树,B树每个节点可以有多个分支,即多叉。

以一颗最大度数为5(5阶)的b-tree为例,那这个B树每个节点最多存储4个key,5个指针
特点:

5阶的B树,每一个节点最多存储4个key,对应5个指针。

一旦节点存储的key数量到达5,就会裂变,中间元素向上分裂。

在B树中,非叶子节点和叶子节点都会存放数据。

2.1.4 B+Tree

非叶子节点不存储数据,只起到索引的作用,而叶子节点上存储的才是具体的数据

B+Tree 与 B-Tree相比,主要有以下三点区别:

所有的数据都会出现在叶子节点。 

叶子节点形成一个单向链表。

非叶子节点仅仅起到索引数据作用,具体的数据都是在叶子节点存放的。

2.1.5 Hash

哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中

如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。

特点

A. Hash索引只能用于对等比较(=,in),不支持范围查询(between,>,< ,...)

B. 无法利用索引完成排序操作

C. 查询效率高,通常(不存在hash冲突的情况)只需要一次检索就可以了,效率通常要高于B+tree索引

面试题

为什么InnoDB存储引擎选择使用B+tree索引结构?
A. 相对于二叉树,层级更少,搜索效率高;

B. 对于B-tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储

的键值减少,指针跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低;

C. 相对Hash索引,B+tree支持范围匹配及排序操作

2.2 索引分类

2.2.1 MySQL有哪些常见的索引

分类

含义

特点

关键字

主键索引

针对于表中主键创建的索引

默认自动创建, 只能

有一个

PRIMARY

唯一索引

避免同一个表中某数据列中的值重复

可以有多个

UNIQUE

常规索引

快速定位特定数据

可以有多个

 

全文索引

全文索引查找的是文本中的关键词,而不是比较索引中的值

可以有多个

FULLTEXT

2.2.2 聚集索引和二级索引

而在在InnoDB存储引擎中,根据索引的存储形式,又可以分为以下两种:

分类

含义

特点

聚集索引(Clustered

Index)

将数据存储与索引放到了一块,索引结构的叶子

节点保存了行数据

必须有,而且只有一个

二级索引(Secondary

Index)

将数据与索引分开存储,索引结构的叶子节点关

联的是对应的主键

可以存在多个

聚集索引选取规则:

如果存在主键,主键索引就是聚集索引。

如果不存在主键,将使用第一个唯一(UNIQUE)索引作为聚集索引。

如果表没有主键,或没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

聚集索引和二级索引的结构:

聚集索引的叶子节点下挂的是这一行的数据 。

二级索引的叶子节点下挂的是该字段值对应的主键值。

回表查询

回表查询: 先到二级索引中查找数据,找到主键值,然后再到聚集索引中根据主键值,获取数据的方式,就称之为回表查询。

不建议使用select * 也是因为返回过多的列会导致回表发生的可能性

例如上图中的过程详细查询路径如下:

①. 由于是根据name字段进行查询,所以先根据name='Arm'到name字段的二级索引中进行匹配查找。但是在二级索引中只能查找到 Arm 对应的主键值 10。

②. 由于查询返回的数据是*,所以此时,还需要根据主键值10,到聚集索引中查找10对应的记录,最终找到10对应的行row。 

③. 最终拿到这一行的数据,直接返回即可。 

2.3 索引使用的相关语法

(1)创建索引

CREATE [ UNIQUE | FULLTEXT ] INDEX index_name ON table_name (index_col_name,... ) ;

(2)查看索引

show index from table_name

(3)删除索引

drop index index_name on table_name

2.4 SQL性能分析

2.4.1 SQL执行频率

MySQL 客户端连接成功后,通过 show [session|global] status 命令可以提供服务器状态信息。通过如下指令,可以查看当前数据库的INSERT、UPDATE、DELETE、SELECT的访问频次:

-- session 是查看当前会话 ;
-- global 是查询全局数据 ;
SHOW GLOBAL STATUS LIKE 'Com_______';

通过上述指令,我们可以查看到当前数据库到底是以查询为主,还是以增删改为主,从而为数据库优化提供参考依据。 如果是以增删改为主,我们可以考虑不对其进行索引的优化。 如果是以查询为主,那么就要考虑对数据库的索引进行优化了。

如果是以查询为主的数据库,则可以通过定位慢查询SQL、优化索引等方式提升数据库效率

如果是以增删改为主的数据,

2.4.2 慢查询日志

慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有SQL语句的日志。

MySQL的慢查询日志默认没有开启,我们可以查看一下系统变量 slow_query_log。
如果要开启慢查询日志,需要在MySQL的配置文件(/etc/my.cnf)中配置如下信息:

# 开启MySQL慢日志查询开关
slow_query_log=1
# 设置慢日志的时间为2秒,SQL语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time=2

配置完毕之后,通过以下指令重新启动MySQL服务器进行测试,查看慢日志文件中记录的信息/var/lib/mysql/localhost-slow.log。

systemctl restart mysqld

通过慢查询日志,就可以定位出执行效率比较低的SQL,从而有针对性的进行优化。

2.4.3 profile详情

show profiles 能够在做SQL优化时帮助我们了解时间都耗费到哪里去了。通过have_profiling参数,能够看到当前MySQL是否支持profile操作:

SELECT @@have_profiling ;
-- 如果查询到是关闭的,可以以下命令开启
SET profiling = 1;
-- 开启后就可以正常执行sql语句了
select * from tb_user;
select * from tb_user where id = 1;
-- 查看每一条SQL的耗时基本情况
show profiles;
-- 查看指定query_id的SQL语句各个阶段的耗时情况
show profile for query query_id;
-- 查看指定query_id的SQL语句CPU的使用情况
show profile cpu for query query_id;

2.4.4 explain的使用

EXPLAIN 或者 DESC命令获取 MySQL 如何执行 SELECT 语句的信息,包括在 SELECT 语句执行过程中表如何连接和连接的顺序。

-- 直接在select语句之前加上关键字 explain / desc
EXPLAIN SELECT 字段列表 FROM 表名 WHERE 条件 ;

Explain 执行计划中各个字段的含义:

字段

含义

id

select查询的序列号,表示查询中执行select子句或者是操作表的顺序(id相同,执行顺序从上到下;id不同,值越大,越先执行)。

select_type

表示 SELECT 的类型,常见的取值有 SIMPLE(简单表,即不使用表连接或者子查询)、PRIMARY(主查询,即外层的查询)、UNION(UNION 中的第二个或者后面的查询语句)、SUBQUERY(SELECT/WHERE之后包含了子查询)等

type

表示连接类型,性能由好到差的连接类型为NULL、system、const、eq_ref、ref、range、 index、all 。

possible_key

显示可能应用在这张表上的索引,一个或多个。

key

实际使用的索引,如果为NULL,则没有使用索引。

key_len

表示索引中使用的字节数, 该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下, 长度越短越好 

rows

MySQL认为必须要执行查询的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的。

filtered

表示返回结果的行数占需读取行数的百分比, filtered 的值越大越好。

2.5 索引使用时注意事项

2.5.1 最左前缀法则

2.5.2 索引失效的场景

为什么会导致这些场景的索引失效呢?可以写一写

(1)范围查询

(2)索引失效情况

(3)索引列运算

(4)字符串不加引号

(5)模糊查询

(6)使用or连接条件

(7)数据分布影响

2.5.3 SQL提示

2.5.4 覆盖索引

回表问题

2.5.5 前缀索引

2.5.6 单列索引和联合索引如何选择?

2.5.7 索引设计的原则

3. SQL优化