title | shortTitle | description | date | author | category | tag | head | |||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
MySQL面试题,82道MySQL八股文(1.8万字69张手绘图),面渣逆袭必看👍 |
面渣逆袭-MySQL |
下载次数超 1 万次,1.8 万字 69 张手绘图,详解 82 道 MySQL 面试高频题(让天下没有难背的八股),面渣背会这些 MySQL 八股文,这次吊打面试官,我觉得稳了(手动 dog)。 |
2024-11-04 |
三分恶 |
|
|
|
1.8 万字 101 张手绘图,详解 82 道 MySQL 面试高频题(让天下没有难背的八股),面渣背会这些 MySQL 八股文,这次吊打面试官,我觉得稳了(手动 dog)。整理:沉默王二,戳转载链接,作者:三分恶,戳原文链接。
MySQL 是一个开源的关系型数据库管理系统,现在隶属于 Oracle 旗下,也是我用得最多的一款关系型数据库。
与此同时,MySQL 也是我们国内使用频率最高的一种数据库,我在本地安装的是最新的 8.0 社区版。
在 MySQL 中,我们可以使用 DROP TABLE 来删除表,使用 CREATE TABLE 来创建表并设定主键。创建表时,可以在定义列的同时设置某一列为主键,如将 id 列设为主键:PRIMARY KEY (id)。
CREATE TABLE users (
id INT AUTO_INCREMENT,
name VARCHAR(100) NOT NULL,
email VARCHAR(100),
PRIMARY KEY (id)
);
在 SQL 中,可以使用 ORDER BY 子句来对查询结果进行升序或降序排序。默认情况下,查询结果是升序排序,也可以通过 DESC 关键字进行降序排序。
例如,如果我想对 employees 表中的数据按工资升序排序,我会使用:
SELECT id, name, salary
FROM employees
ORDER BY salary ASC;
此外,如果我需要根据多个字段进行排序,例如先按工资降序排列,再按名字升序排列,我可以使用:
SELECT id, name, salary
FROM employees
ORDER BY salary DESC, name ASC;
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:你平时用到的数据库
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:数据库用过哪些,对哪个比较熟?
- Java 面试指南(付费)收录的 360 面经同学 3 Java 后端技术一面面试原题:用过哪些数据库
- Java 面试指南(付费)收录的招商银行面经同学 6 招银网络科技面试原题:了解 MySQL、Redis 吗?
- Java 面试指南(付费)收录的国企零碎面经同学 9 面试原题:数据库用什么多(说了 Mysql 和 Redis)
- Java 面试指南(付费)收录的vivo 面经同学 10 技术一面面试原题:怎么删除/创建一张表和设定主键 ,举例用sql实现升序降序
MySQL 中的连接是通过两个或多个表之间的列进行关联,从而获取相关联的数据。连接分为内连接、外连接、交叉连接。
①、内连接(inner join):返回两个表中连接字段匹配的行。如果一个表中的行在另一个表中没有匹配的行,则这些行不会出现在查询结果中。
假设有两个表,Employees 和 Departments。
SELECT Employees.Name, Departments.DeptName
FROM Employees
INNER JOIN Departments ON Employees.DeptID = Departments.DeptID;
这个查询将返回所有员工及其所在部门的信息,但仅限于那些在 Departments 表中有对应部门的员工。
②、外连接(outer join):不仅返回两个表中匹配的行,还返回左表、右表或两者中未匹配的行。
SELECT Employees.Name, Departments.DeptName
FROM Employees
LEFT OUTER JOIN Departments ON Employees.DeptID = Departments.DeptID;
这个查询将返回所有员工的名字和他们部门的名字,即使某些员工没有分配到部门。
③、交叉连接(cross join):返回第一个表中的每一行与第二个表中的每一行的组合,这种类型的连接通常用于生成笛卡尔积。
SELECT Employees.Name, Departments.DeptName
FROM Employees
CROSS JOIN Departments;
这个查询将为 Employees 表中的每个员工与 Departments 表中的每个部门生成一个组合。
④、笛卡尔积:数学中的一个概念,例如集合 A={a,b},集合 B={0,1,2},那么 A✖️B={<a,0>,<a,1>,<a,2>,<b,0>,<b,1>,<b,2>,}
。
- Java 面试指南(付费)收录的用友面试原题:两张表怎么进行连接
MySQL 的连接主要分为内连接和外连接,外连接又可以分为左连接和右连接。
①、inner join
内连接,在两张表进行连接查询时,只保留两张表中完全匹配的结果集。
只有当两个表中都有匹配的记录时,这些记录才会出现在查询结果中。如果某一方没有匹配的记录,则该记录不会出现在结果集中。
内联可以用来找出两个表中共同的记录,相当于两个数据集的交集。
②、left join
返回左表(FROM 子句中指定的表)的所有记录,以及右表中匹配记录的记录。如果右表中没有匹配的记录,则结果中右表的部分会以 NULL 填充。
③、right join
刚好与左联相反,返回右表(FROM 子句中指定的表)的所有记录,以及左表中匹配记录的记录。如果左表中没有匹配的记录,则结果中左表的部分会以 NULL 填充。
拿我做过的技术派实战项目为例。
有三张表,一张文章表 article(主要存文章标题 title) 一张文章详情表 article_detail (主要存文章的内容 content),一张文章评论表 comment(主要存储评论 content) ,可以通过文章 id 关联。
先来看内联:
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM article a
INNER JOIN comment c ON a.id = c.article_id
LIMIT 2;
这个查询返回了至少有一条评论的文章标题和评论内容的前 20 个字符,限制结果为前 2 条记录。
再来看左联:
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM article a
LEFT JOIN comment c ON a.id = c.article_id
LIMIT 2;
这个查询返回所有文章的标题和文章评论的前 20 个字符,即使某些文章没有评论(这些情况下 CommentContent 为 NULL),限制结果为前 2 条记录。
最后来看右联:
SELECT LEFT(a.title, 20) AS ArticleTitle, LEFT(c.content, 20) AS CommentContent
FROM comment c
RIGHT JOIN article a ON a.id = c.article_id
LIMIT 2;
右联在这种情况下,其实比较别扭,因为可以直接使用左联来实现。
- Java 面试指南(付费)收录的腾讯 Java 后端实习一面原题:请说说 MySQL 的内联、左联、右联的区别。
三大范式的作用是为了减少数据冗余,提高数据完整性。
①、第一范式:确保表的每一列都是不可分割的基本数据单元,比如说用户地址,应该拆分成省、市、区、详细信息等 4 个字段。
②、第二范式:要求表中的每一列都和主键直接相关,而不能只与主键的某一部分相关。
比如在一个订单表中,可能会存在订单编号和商品编号。
这个订单表中就存在冗余数据,比如说商品名称、单位、商品价格等,应该将其拆分为订单表、订单商品关联表、商品表。
③、第三范式:非主键列应该只依赖于主键列,不依赖于其他非主键列。
比如说在设计订单信息表的时候,可以把客户名称、所属公司、联系方式等信息拆分到客户信息表中,然后在订单信息表中用客户编号进行关联。
在建表的时候,首先可以考虑表是否符合数据库范式,也就是确保字段不可再分,消除非主键依赖,确保字段仅依赖于主键。
然后在选择字段类型时,尽量选择合适的数据类型。
在字符集上,尽量选择 utf8mb4,这样不仅可以支持中文和英文,还可以支持表情符号等。
当数据量较大时(比如上千万行数据),需要考虑分表。比如订单表,可以采用水平分表的方式来分散存储压力。
- Java 面试指南(付费)收录的字节跳动面经同学 13 Java 后端二面面试原题:什么是三大范式,为什么要有三大范式,什么场景下不用遵循三大范式,举一个场景
- Java 面试指南(付费)收录的京东面经同学 5 Java 后端技术一面面试原题:建表考虑哪些问题
char:
- char 表示定长字符串,长度是固定的;
- 如果插入数据的长度小于 char 的固定长度时,则用空格填充;
- 因为长度固定,所以存取速度要比 varchar 快很多,甚至能快 50%,但正因为其长度固定,所以会占据多余的空间,是空间换时间的做法;
- 对于 char 来说,最多能存放的字符个数为 255,和编码无关
varchar:
- varchar 表示可变长字符串,长度是可变的;
- 插入的数据是多长,就按照多长来存储;
- varchar 在存取方面与 char 相反,它存取慢,因为长度不固定,但正因如此,不占据多余的空间,是时间换空间的做法;
- 对于 varchar 来说,最多能存放的字符个数为 65532
日常的设计,对于长度相对固定的字符串,可以使用 char,对于长度不确定的,使用 varchar 更合适一些。
- blob 用于存储二进制数据,而 text 用于存储大字符串。
- blob 没有字符集,text 有一个字符集,并且根据字符集的校对规则对值进行排序和比较
相同点:
- 两个数据类型存储时间的表现格式一致。均为
YYYY-MM-DD HH:MM:SS
- 两个数据类型都包含「日期」和「时间」部分。
- 两个数据类型都可以存储微秒的小数秒(秒后 6 位小数秒)
区别:
DATETIME 和 TIMESTAMP 的区别
- 日期范围:DATETIME 的日期范围是
1000-01-01 00:00:00.000000
到9999-12-31 23:59:59.999999
;TIMESTAMP 的时间范围是1970-01-01 00:00:01.000000
UTC到 ``2038-01-09 03:14:07.999999
UTC - 存储空间:DATETIME 的存储空间为 8 字节;TIMESTAMP 的存储空间为 4 字节
- 时区相关:DATETIME 存储时间与时区无关;TIMESTAMP 存储时间与时区有关,显示的值也依赖于时区
- 默认值:DATETIME 的默认值为 null;TIMESTAMP 的字段默认不为空(not null),默认值为当前时间(CURRENT_TIMESTAMP)
MySQL 中的 in 语句是把外表和内表作 hash 连接,而 exists 语句是对外表作 loop 循环,每次 loop 循环再对内表进行查询。我们可能认为 exists 比 in 语句的效率要高,这种说法其实是不准确的,要区分情景:
- 如果查询的两个表大小相当,那么用 in 和 exists 差别不大。
- 如果两个表中一个较小,一个是大表,则子查询表大的用 exists,子查询表小的用 in。
- not in 和 not exists:如果查询语句使用了 not in,那么内外表都进行全表扫描,没有用到索引;而 not extsts 的子查询依然能用到表上的索引。所以无论那个表大,用 not exists 都比 not in 要快。
货币在数据库中 MySQL 常用 Decimal 和 Numeric 类型表示,这两种类型被 MySQL 实现为同样的类型。他们被用于保存与货币有关的数据。
例如 salary DECIMAL(9,2),9(precision)代表将被用于存储值的总的小数位数,而 2(scale)代表将被用于存储小数点后的位数。存储在 salary 列中的值的范围是从-9999999.99 到 9999999.99。
DECIMAL 和 NUMERIC 值作为字符串存储,而不是作为二进制浮点数,以便保存那些值的小数精度。
之所以不使用 float 或者 double 的原因:因为 float 和 double 是以二进制存储的,所以有一定的误差。
MySQL 的 utf8 字符集仅支持最多 3 个字节的 UTF-8 字符,但是 emoji 表情(😊)是 4 个字节的 UTF-8 字符,所以在 MySQL 中存储 emoji 表情时,需要使用 utf8mb4 字符集。
ALTER TABLE mytable CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
MySQL 8.0 已经默认支持 utf8mb4 字符集,可以通过 SHOW VARIABLES WHERE Variable_name LIKE 'character\_set\_%' OR Variable_name LIKE 'collation%';
查看。
- Java 面试指南(付费)收录的字节跳动面经同学 13 Java 后端二面面试原题:mysql 怎么存 emoji,怎么编码
三者都表示删除,但是三者有一些差别:
区别 | delete | truncate | drop |
---|---|---|---|
类型 | 属于 DML | 属于 DDL | 属于 DDL |
回滚 | 可回滚 | 不可回滚 | 不可回滚 |
删除内容 | 表结构还在,删除表的全部或者一部分数据行 | 表结构还在,删除表中的所有数据 | 从数据库中删除表,所有数据行,索引和权限也会被删除 |
删除速度 | 删除速度慢,需要逐行删除 | 删除速度快 | 删除速度最快 |
因此,在不再需要一张表的时候,用 drop;在想删除部分数据行时候,用 delete;在保留表而删除所有数据的时候用 truncate。
- 如果使用 UNION,会在表链接后筛选掉重复的记录行
- 如果使用 UNION ALL,不会合并重复的记录行
- 从效率上说,UNION ALL 要比 UNION 快很多,如果合并没有刻意要删除重复行,那么就使用 UNION All
执行效果:
- count(*)包括了所有的列,相当于行数,在统计结果的时候,不会忽略列值为 NULL
- count(1)包括了忽略所有列,用 1 代表代码行,在统计结果的时候,不会忽略列值为 NULL
- count(列名)只包括列名那一列,在统计结果的时候,会忽略列值为空(这里的空不是只空字符串或者 0,而是表示 null)的计数,即某个字段值为 NULL 时,不统计。
执行速度:
- 列名为主键,count(列名)会比 count(1)快
- 列名不为主键,count(1)会比 count(列名)快
- 如果表多个列并且没有主键,则 count(1) 的执行效率优于 count(*)
- 如果有主键,则 select count(主键)的执行效率是最优的
- 如果表只有一个字段,则 select count(*)最优。
- FROM:对 FROM 子句中的左表<left_table>和右表<right_table>执行笛卡儿积(Cartesianproduct),产生虚拟表 VT1
- ON:对虚拟表 VT1 应用 ON 筛选,只有那些符合<join_condition>的行才被插入虚拟表 VT2 中
- JOIN:如果指定了 OUTER JOIN(如 LEFT OUTER JOIN、RIGHT OUTER JOIN),那么保留表中未匹配的行作为外部行添加到虚拟表 VT2 中,产生虚拟表 VT3。如果 FROM 子句包含两个以上表,则对上一个连接生成的结果表 VT3 和下一个表重复执行步骤 1)~步骤 3),直到处理完所有的表为止
- WHERE:对虚拟表 VT3 应用 WHERE 过滤条件,只有符合<where_condition>的记录才被插入虚拟表 VT4 中
- GROUP BY:根据 GROUP BY 子句中的列,对 VT4 中的记录进行分组操作,产生 VT5
- CUBE|ROLLUP:对表 VT5 进行 CUBE 或 ROLLUP 操作,产生表 VT6
- HAVING:对虚拟表 VT6 应用 HAVING 过滤器,只有符合<having_condition>的记录才被插入虚拟表 VT7 中。
- SELECT:第二次执行 SELECT 操作,选择指定的列,插入到虚拟表 VT8 中
- DISTINCT:去除重复数据,产生虚拟表 VT9
- ORDER BY:将虚拟表 VT9 中的记录按照<order_by_list>进行排序操作,产生虚拟表 VT10。11)
- LIMIT:取出指定行的记录,产生虚拟表 VT11,并返回给查询用户
2024 年 03 月 13 日增补,可以先向面试官确认一下,“您提到的常用命令是指数据库表的增删改查 SQL 吗?”得到确认答复后可以根据下面这张思维导图作答:
①、创建数据库:
CREATE DATABASE database_name;
②、删除数据库:
DROP DATABASE database_name;
③、选择数据库:
USE database_name;
①、创建表:
CREATE TABLE table_name (
column1 datatype,
column2 datatype,
...
);
②、删除表:
DROP TABLE table_name;
③、显示所有表:
SHOW TABLES;
④、查看表结构:
DESCRIBE table_name;
⑤、修改表(添加列):
ALTER TABLE table_name ADD column_name datatype;
①、插入数据:
INSERT INTO table_name (column1, column2, ...) VALUES (value1, value2, ...);
②、查询数据:
SELECT column_names FROM table_name WHERE condition;
③、更新数据:
UPDATE table_name SET column1 = value1, column2 = value2 WHERE condition;
④、删除数据:
DELETE FROM table_name WHERE condition;
①、创建索引:
CREATE INDEX index_name ON table_name (column_name);
②、添加主键约束:
ALTER TABLE table_name ADD PRIMARY KEY (column_name);
③、添加外键约束:
ALTER TABLE table_name ADD CONSTRAINT fk_name FOREIGN KEY (column_name) REFERENCES parent_table (parent_column_name);
①、创建用户:
CREATE USER 'username'@'host' IDENTIFIED BY 'password';
②、授予权限:
GRANT ALL PRIVILEGES ON database_name.table_name TO 'username'@'host';
③、撤销权限:
REVOKE ALL PRIVILEGES ON database_name.table_name FROM 'username'@'host';
④、删除用户:
DROP USER 'username'@'host';
①、开始事务:
START TRANSACTION;
②、提交事务:
COMMIT;
③、回滚事务:
ROLLBACK;
- Java 面试指南(付费)收录的用友金融一面原题:介绍一下 MySQL 的常用命令
2024 年 03 月 13 日增补
- mysql:客户端程序,用于连接 MySQL 服务器
- mysqldump:一个非常实用的 MySQL 数据库备份工具,用于创建一个或多个 MySQL 数据库级别的 SQL 转储文件,包括数据库的表结构和数据。对数据备份、迁移或恢复非常重要。
- mysqladmin:mysql 后面加上 admin 就表明这是一个 MySQL 的管理工具,它可以用来执行一些管理操作,比如说创建数据库、删除数据库、查看 MySQL 服务器的状态等。
- mysqlcheck:mysqlcheck 是 MySQL 提供的一个命令行工具,用于检查、修复、分析和优化数据库表,对数据库的维护和性能优化非常有用。
- mysqlimport:用于从文本文件中导入数据到数据库表中,非常适合用于批量导入数据。
- mysqlshow:用于显示 MySQL 数据库服务器中的数据库、表、列等信息。
- mysqlbinlog:用于查看 MySQL 二进制日志文件的内容,可以用于恢复数据、查看数据变更等。
2024 年 03 月 30 日增补
在 MySQL 中,要查询第 3 到第 10 条记录,可以使用 limit 语句,结合偏移量 offset 和行数 row_count 来实现。
limit 语句用于限制查询结果的数量,偏移量表示从哪条记录开始,行数表示返回的记录数量。
SELECT * FROM table_name LIMIT 2, 8;
- 2:偏移量,表示跳过前两条记录,从第三条记录开始。
- 8:行数,表示从偏移量开始,返回 8 条记录。
偏移量是从 0 开始的,即第一条记录的偏移量是 0;如果想从第 3 条记录开始,偏移量就应该是 2。
- Java 面试指南(付费)收录的美团面经同学 16 暑期实习一面面试原题:MySQL 第 3-10 条记录怎么查?
2024 年 04 月 12 日增补
MySQL 支持很多内置函数,包括执行计算、格式转换、日期处理等。我说一些自己常用的(挑一些自己熟悉的)。
CONCAT()
: 连接两个或多个字符串。LENGTH()
: 返回字符串的长度。SUBSTRING()
: 从字符串中提取子字符串。REPLACE()
: 替换字符串中的某部分。LOWER()
和UPPER()
: 分别将字符串转换为小写或大写。TRIM()
: 去除字符串两侧的空格或其他指定字符。
-- 连接字符串
SELECT CONCAT('沉默', ' ', '王二') AS concatenated_string;
-- 获取字符串长度
SELECT LENGTH('沉默 王二') AS string_length;
-- 提取子字符串
SELECT SUBSTRING('沉默 王二', 1, 5) AS substring;
-- 替换字符串内容
SELECT REPLACE('沉默 王二', '王二', 'MySQL') AS replaced_string;
-- 字符串转小写
SELECT LOWER('HELLO WORLD') AS lower_case;
-- 字符串转大写
SELECT UPPER('hello world') AS upper_case;
-- 去除字符串两侧的空格
SELECT TRIM(' 沉默 王二 ') AS trimmed_string;
ABS()
: 返回一个数的绝对值。CEILING()
: 返回大于或等于给定数值的最小整数。FLOOR()
: 返回小于或等于给定数值的最大整数。ROUND()
: 四舍五入到指定的小数位数。MOD()
: 返回除法操作的余数。
-- 返回绝对值
SELECT ABS(-123) AS absolute_value;
-- 向上取整
SELECT CEILING(123.45) AS ceiling_value;
-- 向下取整
SELECT FLOOR(123.45) AS floor_value;
-- 四舍五入
SELECT ROUND(123.4567, 2) AS rounded_value;
-- 余数
SELECT MOD(10, 3) AS modulus;
NOW()
: 返回当前的日期和时间。CURDATE()
: 返回当前的日期。CURTIME()
: 返回当前的时间。DATE_ADD()
和DATE_SUB()
: 在日期上加上或减去指定的时间间隔。DATEDIFF()
: 返回两个日期之间的天数。DAY()
,MONTH()
,YEAR()
: 分别返回日期的日、月、年部分。
-- 返回当前日期和时间
SELECT NOW() AS current_date_time;
-- 返回当前日期
SELECT CURDATE() AS current_date;
-- 返回当前时间
SELECT CURTIME() AS current_time;
-- 在日期上添加天数
SELECT DATE_ADD(CURDATE(), INTERVAL 10 DAY) AS date_in_future;
-- 计算两个日期之间的天数
SELECT DATEDIFF('2024-12-31', '2024-01-01') AS days_difference;
-- 返回日期的年份
SELECT YEAR(CURDATE()) AS current_year;
SUM()
: 计算数值列的总和。AVG()
: 计算数值列的平均值。COUNT()
: 计算某列的行数。MAX()
和MIN()
: 分别返回列中的最大值和最小值。GROUP_CONCAT()
: 将多个行值连接为一个字符串。
-- 创建一个表并插入数据进行聚合查询
CREATE TABLE sales (
product_id INT,
sales_amount DECIMAL(10, 2)
);
INSERT INTO sales (product_id, sales_amount) VALUES (1, 100.00);
INSERT INTO sales (product_id, sales_amount) VALUES (1, 150.00);
INSERT INTO sales (product_id, sales_amount) VALUES (2, 200.00);
-- 计算总和
SELECT SUM(sales_amount) AS total_sales FROM sales;
-- 计算平均值
SELECT AVG(sales_amount) AS average_sales FROM sales;
-- 计算总行数
SELECT COUNT(*) AS total_entries FROM sales;
-- 最大值和最小值
SELECT MAX(sales_amount) AS max_sale, MIN(sales_amount) AS min_sale FROM sales;
IF()
: 如果条件为真,则返回一个值;否则返回另一个值。CASE
: 根据一系列条件返回值。COALESCE()
: 返回参数列表中的第一个非 NULL 值。
-- IF函数
SELECT IF(1 > 0, 'True', 'False') AS simple_if;
-- CASE表达式
SELECT CASE WHEN 1 > 0 THEN 'True' ELSE 'False' END AS case_expression;
-- COALESCE函数
SELECT COALESCE(NULL, NULL, 'First Non-Null Value', 'Second Non-Null Value') AS first_non_null;
FORMAT()
: 格式化数字为格式化的字符串,通常用于货币显示。
-- 格式化数字
SELECT FORMAT(1234567.8945, 2) AS formatted_number;
CAST()
: 将一个值转换为指定的数据类型。CONVERT()
: 类似于CAST()
,用于类型转换。
-- CAST函数
SELECT CAST('2024-01-01' AS DATE) AS casted_date;
-- CONVERT函数
SELECT CONVERT('123', SIGNED INTEGER) AS converted_number;
- Java 面试指南(付费)收录的华为 OD 面经同学 1 一面面试原题:用过哪些 MySQL 函数?
- Java 面试指南(付费)收录的 小公司面经合集好未来测开面经同学 3 测开一面面试原题:知道 MySQL 的哪些函数,如 order by count()
2024 年 04 月 25 日增补
在 SQL 中,当不同数据类型的值进行运算或比较时,会发生隐式数据类型转换。
比如说,当一个整数和一个浮点数相加时,整数会被转换为浮点数,然后再进行相加。
SELECT 1 + 1.0; -- 结果为 2.0
比如说,当一个字符串和一个整数相加时,字符串会被转换为整数,然后再进行相加。
SELECT '1' + 1; -- 结果为 2
数据类型隐式转换会导致意想不到的结果,所以要尽量避免隐式转换。
可以通过显式转换来规避这种情况。
SELECT CAST('1' AS SIGNED INTEGER) + 1; -- 结果为 2
- Java 面试指南(付费)收录的小公司面经合集同学 1 Java 后端面试原题:说说 SQL 的隐式数据类型转换?
2024 年 09 月 19 日增补
语法树(或抽象语法树,AST)是 SQL 解析过程中的中间表示,它使用树形结构表示 SQL 语句的层次和逻辑。语法树由节点(Node)组成,每个节点表示 SQL 语句中的一个语法元素。
- 根节点:通常是 SQL 语句的主要操作,例如 SELECT、INSERT、UPDATE、DELETE 等。
- 内部节点:表示语句中的操作符、子查询、连接操作等。例如,WHERE 子句、JOIN 操作等。
- 叶子节点:表示具体的标识符、常量、列名、表名等。例如,users 表、id 列、常量 1 等。
以一个简单的 SQL 查询语句为例:
SELECT name, age FROM users WHERE age > 18;
这个查询语句的语法树可以表示为:
SELECT
/ \
Columns FROM
/ \ |
name age users
|
WHERE
|
age > 18
根节点:SELECT,表示这是一个查询操作。
子节点:Columns 和 FROM。
- Columns 子树表示查询的列,包含两个叶子节点:name 和 age。
- FROM 子树表示查询的数据源,包含一个叶子节点:users 表。
条件节点:WHERE 子树表示查询条件,包含条件表达式 age > 18
。
- Java 面试指南(付费)收录的字节跳动面经同学 21 抖音商城一面面试原题:sql的语法树解析
MySQL 的架构大致可以分为三层,从上到下依次是:连接层、服务层、和存储引擎层。
①、连接层主要负责客户端连接的管理,包括验证用户身份、权限校验、连接管理等。可以通过数据库连接池来提升连接的处理效率。
②、服务层是 MySQL 的核心,主要负责查询解析、优化、执行等操作。在这一层,SQL 语句会经过解析、优化器优化,然后转发到存储引擎执行,并返回结果。这一层包含查询解析器、优化器、执行计划生成器、缓存(如查询缓存)、日志模块等。
③、存储引擎层负责数据的实际存储和提取,是 MySQL 架构中与数据交互最直接的层。MySQL 支持多种存储引擎,如 InnoDB、MyISAM、Memory 等。
binlog 在服务层,负责记录 SQL 语句的变化。它记录了所有对数据库进行更改的操作,用于数据恢复、主从复制等。
- Java 面试指南(付费)收录的字节跳动面经同学 21 抖音商城一面面试原题:mysql分为几层?binlog写入在哪一层
第一步,客户端发送 SQL 查询语句到 MySQL 服务器。
第二步,MySQL 服务器的连接器开始处理这个请求,跟客户端建立连接、获取权限、管理连接。
第三步(MySQL 8.0 以后已经干掉了),连接建立后,MySQL 服务器的查询缓存组件会检查是否有缓存的查询结果。如果有,直接返回给客户端;如果没有,进入下一步。
第三步,解析器开始对 SQL 语句进行解析,检查语句是否符合 SQL 语法规则,确保引用的数据库、表和列都存在,并处理 SQL 语句中的名称解析和权限验证。
第四步,优化器负责确定 SQL 语句的执行计划,这包括选择使用哪些索引,以及决定表之间的连接顺序等。优化器会尝试找出最高效的方式来执行查询。
第五步,执行器会调用存储引擎的 API 来进行数据的读写。
第六步,MySQL 的存储引擎是插件式的,不同的存储引擎在细节上面有很大不同。例如,InnoDB 是支持事务的,而 MyISAM 是不支持的。之后,会将执行结果返回给客户端
第七步,客户端接收到查询结果,完成这次查询请求。
- Java 面试指南(付费)收录的美团面经同学 2 Java 后端技术一面面试原题:MySQL 执行语句的整个过程了解吗?
- Java 面试指南(付费)收录的美团面经同学 18 成都到家面试原题:mysql一条数据的查询过程
2024 年 04 月 26 日增补
推荐阅读:了解 MySQL的数据行、行溢出机制吗?
MySQL 是以表的形式存储数据的,而表空间的结构则由段、区、页、行组成。
①、段(Segment):表空间由多个段组成,常见的段有数据段、索引段、回滚段等。
创建索引时会创建两个段,数据段和索引段,数据段用来存储叶子阶段中的数据;索引段用来存储非叶子节点的数据。
回滚段包含了事务执行过程中用于数据回滚的旧数据。
②、区(Extent):段由一个或多个区组成,区是一组连续的页,通常包含 64 个连续的页,也就是 1M 的数据。
使用区而非单独的页进行数据分配可以优化磁盘操作,减少磁盘寻道时间,特别是在大量数据进行读写时。
③、页(Page):页是 InnoDB 存储数据的基本单元,标准大小为 16 KB,索引树上的一个节点就是一个页。
也就意味着数据库每次读写都是以 16 KB 为单位的,一次最少从磁盘中读取 16KB 的数据到内存,一次最少写入 16KB 的数据到磁盘。
④、行(Row):InnoDB 采用行存储方式,意味着数据按照行进行组织和管理,行数据可能有多个格式,比如说 COMPACT、REDUNDANT、DYNAMIC 等。
MySQL 8.0 默认的行格式是 DYNAMIC,由COMPACT 演变而来,意味着这些数据如果超过了页内联存储的限制,则会被存储在溢出页中。
可以通过 show table status like '%article%'
查看行格式。
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
MySQL 支持多种存储引擎,常见的有 MyISAM、InnoDB、MEMORY 等。MEMORY 并不常用。
我来做一个表格对比:
功能 | InnoDB | MyISAM | MEMORY |
---|---|---|---|
支持事务 | Yes | No | No |
支持全文索引 | Yes | Yes | No |
支持 B+树索引 | Yes | Yes | Yes |
支持哈希索引 | Yes | No | Yes |
支持外键 | Yes | No | No |
除此之外,我还了解到:
①、MySQL 5.5 之前,默认存储引擎是 MyISAM,5.5 之后是 InnoDB。
②、InnoDB 支持的哈希索引是自适应的,不能人为干预。
③、InnoDB 从 MySQL 5.6 开始,支持全文索引。
④、InnoDB 的最小表空间略小于 10M,最大表空间取决于页面大小(page size)。
可以通过 alter table 语句来切换 MySQL 的数据引擎。
ALTER TABLE your_table_name ENGINE=InnoDB;
不过不建议,应该提前设计好到底用哪一种存储引擎。
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:MySQL 支持哪些存储引擎?
- Java 面试指南(付费)收录的用友面试原题:innodb 引擎和 hash 引擎有什么区别
- Java 面试指南(付费)收录的国企零碎面经同学 9 面试原题:MySQL 的存储引擎
- Java 面试指南(付费)收录的京东同学 4 云实习面试原题:mysql的数据引擎有哪些, 区别(innodb,MyISAM,Memory)
- 大多数情况下,使用默认的 InnoDB 就对了,InnoDB 可以提供事务、行级锁、外键、B+ 树索引等能力。
- MyISAM 适合读更多的场景。
- MEMORY 适合临时表,数据量不大的情况。由于数据都存放在内存,所以速度非常快。
- Java 面试指南(付费)收录的快手同学 2 一面面试原题:MySQL的InnoDB特点?为什么用B+树?而不是B树,区别?
InnoDB 和 MyISAM 之间的区别主要表现在存储结构、事务支持、最小锁粒度、索引类型、主键必需、表的具体行数、外键支持等方面。
①、存储结构:
- MyISAM:用三种格式的文件来存储,.frm 文件存储表的定义;.MYD 存储数据;.MYI 存储索引。
- InnoDB:用两种格式的文件来存储,.frm 文件存储表的定义;.ibd 存储数据和索引。
②、事务支持:
- MyISAM:不支持事务。
- InnoDB:支持事务。
③、最小锁粒度:
- MyISAM:表级锁,高并发中写操作存在性能瓶颈。
- InnoDB:行级锁,并发写入性能高。
④、索引类型:
MyISAM 为非聚簇索引,索引和数据分开存储,索引保存的是数据文件的指针。
InnoDB 为聚簇索引,索引和数据不分开。
⑤、外键支持:MyISAM 不支持外键;InnoDB 支持外键。
⑥、主键必需:MyISAM 表可以没有主键;InnoDB 表必须有主键。
⑦、表的具体行数:MyISAM 表的具体行数存储在表的属性中,查询时直接返回;InnoDB 表的具体行数需要扫描整个表才能返回。
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:MyISAM 和 InnoDB 的区别有哪些?
- Java 面试指南(付费)收录的美团同学 9 一面面试原题:mysql存储的数据都是什么样的?
2024 年 11 月 04 日增补
Buffer Pool 是 InnoDB 存储引擎中的一个内存缓冲区,它会将数据以页(page)的单位保存在内存中,当查询请求需要读取数据时,优先从 Buffer Pool 获取数据,避免直接访问磁盘。
也就是说,即便我们只访问了一行数据的一个字段,InnoDB 也会将整个数据页加载到 Buffer Pool 中,以便后续的查询。
修改数据时,也会先在缓存页面中修改。当数据页被修改后,会在 Buffer Pool 中变为脏页。
脏页不会立刻写回到磁盘。
InnoDB 会定期将这些脏页刷新到磁盘,保证数据的一致性。通常采用改良的 LRU 算法来管理缓存页,也就是将最近最少使用的数据移出缓存,为新数据腾出空间。
Buffer Pool 能够显著减少对磁盘的访问,从而提升数据库的读写性能。
在调优方面,我们可以设置合理的 Buffer Pool 大小(通常为物理内存的 70%),并配置多个 Buffer Pool 实例(通过 innodb_buffer_pool_instances)来提升并发能力。此外,还可以通过调整刷新策略参数,比如 innodb_flush_log_at_trx_commit,来平衡性能和数据持久性。
- Java 面试指南(付费)收录的美团面经同学 15 点评后端技术面试原题:bufferpool
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
MySQL 的日志文件主要包括:
①、错误日志(Error Log):记录 MySQL 服务器启动、运行或停止时出现的问题。
②、慢查询日志(Slow Query Log):记录执行时间超过 long_query_time 值的所有 SQL 语句。这个时间值是可配置的,默认情况下,慢查询日志功能是关闭的。可以用来识别和优化慢 SQL。
③、一般查询日志(General Query Log):记录所有 MySQL 服务器的连接信息及所有的 SQL 语句,不论这些语句是否修改了数据。
④、二进制日志(Binary Log):记录了所有修改数据库状态的 SQL 语句,以及每个语句的执行时间,如 INSERT、UPDATE、DELETE 等,但不包括 SELECT 和 SHOW 这类的操作。
⑤、重做日志(Redo Log):记录了对于 InnoDB 表的每个写操作,不是 SQL 级别的,而是物理级别的,主要用于崩溃恢复。
⑥、回滚日志(Undo Log,或者叫事务日志):记录数据被修改前的值,用于事务的回滚。
推荐阅读:带你了解 MySQL Binlog 不为人知的秘密
binlog 是一种物理日志,会在磁盘上记录下数据库的所有修改操作,以便进行数据恢复和主从复制。
- 当发生数据丢失时,binlog 可以将数据库恢复到特定的时间点。
- 主服务器(master)上的二进制日志可以被从服务器(slave)读取,从而实现数据同步。
binlog 包括两类文件:
- 二进制索引文件(.index)
- 二进制日志文件(.00000*)
binlog 默认是没有启用的。要启用它,需要在 MySQL 的配置文件(my.cnf 或 my.ini)中设置 log_bin 参数。
log_bin = mysql-bin #开启binlog
#mysql-bin.*日志文件最大字节(单位:字节)
#设置最大100MB
max_binlog_size=104857600
#设置了只保留7天BINLOG(单位:天)
expire_logs_days = 7
#binlog日志只记录指定库的更新
#binlog-do-db=db_name
#binlog日志不记录指定库的更新
#binlog-ignore-db=db_name
#写缓冲多少次,刷一次磁盘,默认0
sync_binlog=0
简单说一下这里面参数的作用:
①、log_bin = mysql-bin
,启用 binlog,这样就可以在 MySQL 的数据目录中找到 db-bin.000001、db-bin.000002 等日志文件。
②、max_binlog_size=104857600
设置每个 binlog 文件的最大大小为 100MB(104857600 字节)。当 binlog 文件达到这个大小时,MySQL 会关闭当前文件并创建一个新的 binlog 文件。
③、expire_logs_days = 7
这条配置设置了 binlog 文件的自动过期时间为 7 天。过期的 binlog 文件将被自动删除。这有助于管理磁盘空间,防止长时间累积的 binlog 文件占用过多存储空间。
④、binlog-do-db=db_name
指定哪些数据库表的更新应该被记录。
⑤、binlog-ignore-db=db_name
指定忽略哪些数据库表的更新。
⑥、sync_binlog=0
这条配置设置了每多少次 binlog 写操作会触发一次磁盘同步操作。默认值 0 表示 MySQL 不会主动触发同步操作,而是依赖操作系统的磁盘缓存策略。
即当执行写操作时,数据会先写入操作系统的缓存,当缓存区满了再由操作系统将数据写入磁盘。
设置为 1 意味着每次 binlog 写操作后都会同步到磁盘,这可以提高数据安全性,但可能会对性能产生影响。
可以通过 show variables like '%log_bin%';
查看 binlog 是否开启。
binlog 主要用于数据恢复和主从复制。它记录了所有对数据库执行的修改操作(如 INSERT、UPDATE、DELETE),以逻辑日志的形式保存。binlog 是 MySQL Server 层提供的日志,独立于存储引擎。
redo log 主要用于数据持久化和崩溃恢复。redo log 是 InnoDB 存储引擎特有的日志,用于记录数据的物理修改,确保数据库在崩溃或异常宕机后能够恢复到一致状态。
undo log 主要用于支持事务回滚和多版本并发控制(MVCC)。undo log 是 InnoDB 存储引擎提供的逻辑日志,用于记录数据的逻辑操作,如删除、更新前的数据快照。
当一个事务在 MySQL 中执行时,redo log、undo log 和 binlog 共同协作以确保数据的可靠性和一致性:
- 事务启动时,undo log 开始记录修改前的数据快照,以便在发生错误或显式回滚时恢复数据。
- 数据被修改时,InnoDB 会将修改记录到 redo log 中,同时也会生成相应的 undo log。
- 事务提交时,InnoDB 首先将 redo log 刷入磁盘,然后再将整个事务的操作记录到 binlog 中。这一过程称为“两阶段提交”,确保 binlog 和 redo log 的一致性。
- 如果数据库发生崩溃,InnoDB 会使用 redo log 进行恢复,确保数据不会丢失。binlog 则可以用来做主从复制或数据恢复到特定时间点。
redo log 由两部分组成:ib_logfile0 和 ib_logfile1。这两个文件的总大小是固定的,默认情况下每个文件为 48MB,总共 96MB。它们以循环的方式写入,即当写满后,从头开始覆盖旧的日志。
每次修改数据时,都会生成一个新的日志序列号(Log Sequence Number),用于标记 redo log 中的日志位置,以确保数据恢复的一致性。
当一个事务对数据进行修改时,InnoDB 会首先将这些修改记录到 redo log 中,而不是直接写入磁盘的数据文件。具体步骤分为三步:
- 在缓冲池(Buffer Pool)中修改数据页。
- 将修改操作记录到 redo log buffer 中(这是内存中的一个日志缓冲区)。
- 当事务提交时,InnoDB 会将 redo log buffer 中的数据刷新到磁盘上的 redo log 文件中(ib_logfile0、ib_logfile1 等),保证事务的持久性。
- 当 MySQL 发生崩溃后,InnoDB 会在重启时读取 redo log,找到最近一次的检查点(checkpoint),然后从该检查点开始,重放(replay) redo log 中的日志记录,将所有已提交事务的修改重做一遍,恢复数据库到崩溃前的一致性状态。
WAL(Write-Ahead Logging,预写日志)的核心思想是先写日志,再写数据,即在对数据进行任何修改之前,必须先将修改的日志记录(redo log)持久化到磁盘。
通过先写日志,确保系统在发生故障时可以通过重做日志恢复数据。
- Java 面试指南(付费)收录的华为面经同学 8 技术二面面试原题:MySQL 中的 bin log 的作用是什么?
- Java 面试指南(付费)收录的美团面经同学 2 Java 后端技术一面面试原题:说说 MySQL 的三大日志?
- Java 面试指南(付费)收录的字节跳动面经同学 21 抖音商城一面面试原题:redolog undolog binlog,有了binlog为什么还要undolog redolog,redolog的工作机制,说说 WAL
binlog,即二进制日志,对所有存储引擎都可用,是 MySQL 服务器级别的日志,用于数据的复制、恢复和备份。而 redo log 主要用于保证事务的持久性,是 InnoDB 存储引擎特有的日志类型。
binlog 记录的是逻辑 SQL 语句,而 redo log 记录的是物理数据页的修改操作,不是具体的 SQL 语句。
redo log 是固定大小的,通常配置为一组文件,使用环形方式写入,旧的日志会在空间需要时被覆盖。binlog 是追加写入的,新的事件总是被添加到当前日志文件的末尾,当文件达到一定大小后,会创建新的 binlog 文件继续记录。
- Java 面试指南(付费)收录的美团同学 2 优选物流调度技术 2 面面试原题:redo log、bin log
更新语句的执行是 Server 层和引擎层配合完成,数据除了要写入表中,还要记录相应的日志。
- 执行器先找引擎获取 ID=2 这一行。ID 是主键,存储引擎检索数据,找到这一行。如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁盘读入内存,然后再返回。
- 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到新的一行数据,再调用引擎接口写入这行新数据。
- 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
- 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
- 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。
从上图可以看出,MySQL 在执行更新语句的时候,在服务层进行语句的解析和执行,在引擎层进行数据的提取和存储;同时在服务层对 binlog 进行写入,在 InnoDB 内进行 redo log 的写入。
不仅如此,在对 redo log 写入时有两个阶段的提交,一是 binlog 写入之前prepare
状态的写入,二是 binlog 写入之后commit
状态的写入。
为什么要两阶段提交呢?直接提交不行吗?
我们可以假设不采用两阶段提交的方式,而是采用“单阶段”进行提交,即要么先写入 redo log,后写入 binlog;要么先写入 binlog,后写入 redo log。这两种方式的提交都会导致原先数据库的状态和被恢复后的数据库的状态不一致。
先写入 redo log,后写入 binlog:
在写完 redo log 之后,数据此时具有crash-safe
能力,因此系统崩溃,数据会恢复成事务开始之前的状态。但是,若在 redo log 写完时候,binlog 写入之前,系统发生了宕机。此时 binlog 没有对上面的更新语句进行保存,导致当使用 binlog 进行数据库的备份或者恢复时,就少了上述的更新语句。从而使得id=2
这一行的数据没有被更新。
先写入 binlog,后写入 redo log:
写完 binlog 之后,所有的语句都被保存,所以通过 binlog 复制或恢复出来的数据库中 id=2 这一行的数据会被更新为 a=1。但是如果在 redo log 写入之前,系统崩溃,那么 redo log 中记录的这个事务会无效,导致实际数据库中id=2
这一行的数据并没有更新。
简单说,redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。
redo log 的写入不是直接落到磁盘,而是在内存中设置了一片称之为redo log buffer
的连续内存空间,也就是redo 日志缓冲区
。
什么时候会刷入磁盘?
在如下的一些情况中,log buffer 的数据会刷入磁盘:
- log buffer 空间不足时
log buffer 的大小是有限的,如果不停的往这个有限大小的 log buffer 里塞入日志,很快它就会被填满。如果当前写入 log buffer 的 redo 日志量已经占满了 log buffer 总容量的大约一半左右,就需要把这些日志刷新到磁盘上。
- 事务提交时
在事务提交时,为了保证持久性,会把 log buffer 中的日志全部刷到磁盘。注意,这时候,除了本事务的,可能还会刷入其它事务的日志。
- 后台线程输入
有一个后台线程,大约每秒都会刷新一次log buffer
中的redo log
到磁盘。
- 正常关闭服务器时
- 触发 checkpoint 规则
重做日志缓存、重做日志文件都是以块(block)的方式进行保存的,称之为重做日志块(redo log block),块的大小是固定的 512 字节。我们的 redo log 它是固定大小的,可以看作是一个逻辑上的 log group,由一定数量的log block 组成。
它的写入方式是从头到尾开始写,写到末尾又回到开头循环写。
其中有两个标记位置:
write pos
是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint
是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到磁盘。
当write_pos
追上checkpoint
时,表示 redo log 日志已经写满。这时候就不能接着往里写数据了,需要执行checkpoint
规则腾出可写空间。
所谓的checkpoint 规则,就是 checkpoint 触发后,将 buffer 中日志页都刷到磁盘。
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
推荐阅读:慢 SQL 优化一点小思路
顾名思义,慢 SQL 也就是执行时间较长的 SQL 语句,MySQL 中 long_query_time 默认值是 10 秒,也就是执行时间超过 10 秒的 SQL 语句会被记录到慢查询日志中。
可通过 show variables like 'long_query_time';
查看当前的 long_query_time 值。
不过,生产环境中,10 秒太久了,超过 1 秒的都可以认为是慢 SQL 了。
了解:
- 客户端发送 SQL 语句给 MySQL 服务器。
- 如果查询缓存打开则会优先查询缓存,缓存中有对应的结果就直接返回。不过,MySQL 8.0 已经移除了查询缓存。
- 分析器对 SQL 语句进行语法分析,判断是否有语法错误。
- 搞清楚 SQL 语句要干嘛后,MySQL 会通过优化器生成执行计划。
- 执行器调用存储引擎的接口,执行 SQL 语句。
SQL 执行过程中,优化器通过成本计算预估出执行效率最高的方式,基本的预估维度为:
- IO 成本:从磁盘读取数据到内存的开销。
- CPU 成本:CPU 处理内存中数据的开销。
基于这两个维度,可以得出影响 SQL 执行效率的因素有:
①、IO 成本
- 数据量:数据量越大,IO 成本越高。所以要避免
select *
;尽量分页查询。 - 数据从哪读取:尽量通过索引加快查询。
②、CPU 成本
- 尽量避免复杂的查询条件,如有必要,考虑对子查询结果进行过滤。
- 尽量缩减计算成本,比如说为排序字段加上索引,提高排序效率;比如说使用 union all 替代 union,减少去重处理。
首先,找到那些比较慢的 SQL,可以通过启用慢查询日志,记录那些超过指定执行时间的查询。
也可以使用 show processlist;
命令查看当前正在执行的 SQL 语句,找出执行时间较长的 SQL。
或者在业务基建中加入对慢 SQL 的监控,常见的方案有字节码插桩、连接池扩展、ORM 框架扩展。
然后,使用 EXPLAIN 查看查询执行计划,判断查询是否使用了索引,是否有全表扫描等。
EXPLAIN SELECT * FROM your_table WHERE conditions;
最后,根据分析结果,通过添加或优化索引、调整查询语句或者增加内存缓冲区来优化 SQL。
慢 SQL 日志的开启方式有多种,比如说直接编辑 MySQL 的配置文件 my.cnf 或 my.ini,设置 slow_query_log 参数为 1,设置 slow_query_log_file 参数为慢查询日志的路径,设置 long_query_time 参数为慢查询的时间阈值。
[mysqld]
slow_query_log = 1
slow_query_log_file = /var/log/mysql/slow.log
long_query_time = 2 # 记录执行时间超过2秒的查询
然后重启 MySQL 服务就好了,也可以通过 set global 命令动态设置。
SET GLOBAL slow_query_log = 'ON';
SET GLOBAL slow_query_log_file = '/var/log/mysql/slow.log';
SET GLOBAL long_query_time = 2;
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:场景题:sql 查询很慢怎么排查
- Java 面试指南(付费)收录的快手面经同学 5 面试原题:慢sql日志怎么开启?
- Java 面试指南(付费)收录的美团面经同学 3 Java 后端技术一面面试原题:如何判断sql的效率,怎样排查效率比较低的sql
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:mysql中如何定位慢查询
- Java 面试指南(付费)收录的同学 1 贝壳找房后端技术一面面试原题:慢查询怎么分析
- Java 面试指南(付费)收录的腾讯面经同学 27 云后台技术一面面试原题:如何优化慢查询语句?
我在进行 SQL 优化的时候,主要通过以下几个方面进行优化:
比如说尽量避免使用 select *
,只查询需要的列,减少数据传输量。
SELECT * FROM employees WHERE department_id = 5;
改成:
SELECT employee_id, first_name, last_name FROM employees WHERE department_id = 5;
当数据量巨大时,传统的LIMIT
和OFFSET
可能会导致性能问题,因为数据库需要扫描OFFSET + LIMIT
数量的行。
延迟关联(Late Row Lookups)和书签(Seek Method)是两种优化分页查询的有效方法。
①、延迟关联
延迟关联适用于需要从多个表中获取数据且主表行数较多的情况。它首先从索引表中检索出需要的行 ID,然后再根据这些 ID 去关联其他的表获取详细信息。
SELECT e.id, e.name, d.details
FROM employees e
JOIN department d ON e.department_id = d.id
ORDER BY e.id
LIMIT 1000, 20;
延迟关联后:
SELECT e.id, e.name, d.details
FROM (
SELECT id
FROM employees
ORDER BY id
LIMIT 1000, 20
) AS sub
JOIN employees e ON sub.id = e.id
JOIN department d ON e.department_id = d.id;
首先对employees
表进行分页查询,仅获取需要的行的 ID,然后再根据这些 ID 关联获取其他信息,减少了不必要的 JOIN 操作。
②、书签(Seek Method)
书签方法通过记住上一次查询返回的最后一行的某个值,然后下一次查询从这个值开始,避免了扫描大量不需要的行。
假设需要对用户表进行分页,根据用户 ID 升序排列。
SELECT id, name
FROM users
ORDER BY id
LIMIT 1000, 20;
书签方式:
SELECT id, name
FROM users
WHERE id > last_max_id -- 假设last_max_id是上一页最后一行的ID
ORDER BY id
LIMIT 20;
优化后的查询不再使用OFFSET
,而是直接从上一页最后一个用户的 ID 开始查询。这里的last_max_id
是上一次查询返回的最后一行的用户 ID。这种方法有效避免了不必要的数据扫描,提高了分页查询的效率。
正确地使用索引可以显著减少 SQL 的查询时间,通常可以从索引覆盖、避免使用 !=
或者 <>
操作符、适当使用前缀索引、避免列上函数运算、正确使用联合索引等方面进行优化。
①、利用覆盖索引
使用非主键索引查询数据时需要回表,但如果索引的叶节点中已经包含要查询的字段,那就不会再回表查询了,这就叫覆盖索引。
举个例子,现在要从 test 表中查询 city 为上海的 name 字段。
select name from test where city='上海'
如果仅在 city 字段上添加索引,那么这条查询语句会先通过索引找到 city 为上海的行,然后再回表查询 name 字段,这就是回表查询。
为了避免回表查询,可以在 city 和 name 字段上建立联合索引,这样查询结果就可以直接从索引中获取。
alter table test add index index1(city,name);
②、避免使用 != 或者 <> 操作符
!=
或者 <>
操作符会导致 MySQL 无法使用索引,从而导致全表扫描。
例如,可以把column<>'aaa'
,改成column>'aaa' or column<'aaa'
,就可以使用索引了。
优化策略就是尽可能使用 =
、>
、<
、BETWEEN
等操作符,它们能够更好地利用索引。
③、适当使用前缀索引
适当使用前缀索引可以降低索引的空间占用,提高索引的查询效率。
比如,邮箱的后缀一般都是固定的@xxx.com
,那么类似这种后面几位为固定值的字段就非常适合定义为前缀索引:
alter table test add index index2(email(6));
需要注意的是,MySQL 无法利用前缀索引做 order by 和 group by 操作。
④、避免列上使用函数
在 where 子句中直接对列使用函数会导致索引失效,因为数据库需要对每行的列应用函数后再进行比较,无法直接利用索引。
select name from test where date_format(create_time,'%Y-%m-%d')='2021-01-01';
可以改成:
select name from test where create_time>='2021-01-01 00:00:00' and create_time<'2021-01-02 00:00:00';
通过日期的范围查询,而不是在列上使用函数,可以利用 create_time 上的索引。
⑤、正确使用联合索引
正确地使用联合索引可以极大地提高查询性能,联合索引的创建应遵循最左前缀原则,即索引的顺序应根据列在查询中的使用频率和重要性来安排。
select * from messages where sender_id=1 and receiver_id=2 and is_read=0;
那就可以为 sender_id、receiver_id 和 is_read 这三个字段创建联合索引,但是要注意索引的顺序,应该按照查询中的字段顺序来创建索引。
alter table messages add index index3(sender_id,receiver_id,is_read);
对于 JOIN 操作,可以通过优化子查询、小表驱动大表、适当增加冗余字段、避免 join 太多表等方式来进行优化。
①、优化子查询
子查询,特别是在 select 列表和 where 子句中的子查询,往往会导致性能问题,因为它们可能会为每一行外层查询执行一次子查询。
使用子查询:
select name from A where id in (select id from B);
使用 JOIN 代替子查询:
select A.name from A join B on A.id=B.id;
②、小表驱动大表
在执行 JOIN 操作时,应尽量让行数较少的表(小表)驱动行数较多的表(大表),这样可以减少查询过程中需要处理的数据量。
比如 left join,左表是驱动表,所以 A 表应小于 B 表,这样建立连接的次数就少,查询速度就快了。
select name from A left join B;
③、适当增加冗余字段
在某些情况下,通过在表中适当增加冗余字段来避免 JOIN 操作,可以提高查询效率,尤其是在高频查询的场景下。
比如,我们有一个订单表和一个商品表,查询订单时需要显示商品名称,如果每次都通过 JOIN 操作查询商品表,会降低查询效率。这时可以在订单表中增加一个冗余字段,存储商品名称,这样就可以避免 JOIN 操作。
select order_id,product_name from orders;
④、避免使用 JOIN 关联太多的表
《阿里巴巴 Java 开发手册》上就规定,不要使用 join 关联太多的表,最多不要超过 3 张表。
因为 join 太多表会降低查询的速度,返回的数据量也会变得非常大,不利于后续的处理。
如果业务逻辑允许,可以考虑将复杂的 JOIN 查询分解成多个简单查询,然后在应用层组合这些查询的结果。
MySQL 生成有序结果的方式有两种:一种是对结果集进行排序操作,另外一种是按照索引顺序扫描得出的自然有序结果。
因此在设计索引的时候要充分考虑到排序的需求。
select id, name from users order by name;
如果 name 字段上有索引,那么 MySQL 可以直接利用索引的有序性,避免排序操作。
UNION 操作用于合并两个或者多个 SELECT 语句的结果集。
①、条件下推
条件下推是指将 where、limit 等子句下推到 union 的各个子查询中,以便优化器可以充分利用这些条件进行优化。
假设我们有两个查询分支,需要合并结果并过滤:
SELECT * FROM (
SELECT * FROM A
UNION
SELECT * FROM B
) AS sub
WHERE sub.id = 1;
可以改写成:
SELECT * FROM A WHERE id = 1
UNION
SELECT * FROM B WHERE id = 1;
通过将查询条件下推到 UNION 的每个分支中,每个分支查询都只处理满足条件的数据,减少了不必要的数据合并和过滤。
- Java 面试指南(付费)收录的腾讯面经同学 22 暑期实习一面面试原题:查询优化、联合索引、覆盖索引
- Java 面试指南(付费)收录的华为面经同学 8 技术二面面试原题:说说 SQL 该如何优化
- Java 面试指南(付费)收录的华为面经同学 6 Java 通用软件开发一面面试原题:说说 SQL 该如何优化
- Java 面试指南(付费)收录的微众银行同学 1 Java 后端一面的原题:MySQL 索引如何优化?
- Java 面试指南(付费)收录的携程面经同学 10 Java 暑期实习一面面试原题:讲一讲 MySQL 的索引,如何优化 SQL?
- Java 面试指南(付费)收录的用友面试原题:了解 mysql 怎么优化吗
explain 是 MySQL 提供的一个用于查看查询执行计划的工具,可以帮助我们分析查询语句的性能瓶颈,找出慢 SQL 的原因。
使用方式也非常简单,在 select 语句前加上 explain
关键字就可以了。
explain select * from students where id =9
explain 的输出结果中包含了很多字段,下面是一些常见的字段含义:
①、id 列:查询的标识符。
②、select_type 列:查询的类型。常见的类型有:
- SIMPLE:简单查询,不包含子查询或者 UNION 查询。
- PRIMARY:查询中如果包含子查询,则最外层查询被标记为 PRIMARY。
- SUBQUERY:子查询。
- DERIVED:派生表的 SELECT,FROM 子句的子查询。
③、table 列:查的哪个表。
④、type 列:表示 MySQL 在表中找到所需行的方式,性能从最优到最差分别为:system > const > eq_ref > ref > range > index > ALL。
- system,表只有一行,一般是系统表,往往不需要进行磁盘 IO,速度非常快
- const:表中只有一行匹配,或通过主键或唯一索引获取单行记录。通常用于使用主键或唯一索引的精确匹配查询,性能非常高。
- eq_ref:对于每个来自上一张表的记录,最多只返回一条匹配记录,通常用于多表关联且使用主键或唯一索引的查询。效率非常高,适合多表关联查询。
- ref:使用非唯一索引或前缀索引查询的情况,返回符合条件的多行记录。通常用于普通索引或联合索引查询,效率较高,但不如 const 和 eq_ref。
- range:只检索给定范围的行,使用索引来检索。在
where
语句中使用bettween...and
、<
、>
、<=
、in
等条件查询type
都是range
。 - index:全索引扫描,即扫描整个索引而不访问数据行。
- ALL:全表扫描,效率最低。
⑤、possible_keys 列:可能会用到的索引,但并不一定实际被使用。
⑥、key 列:实际使用的索引。如果为 NULL,则没有使用索引。
⑦、key_len 列:MySQL 决定使用的索引长度(以字节为单位)。当表有多个索引可用时,key_len 字段可以帮助识别哪个索引最有效。通常情况下,更短的 key_len 意味着数据库在比较键值时需要处理更少的数据。
⑧、ref 列:用于与索引列比较的值来源。
- const:表示常量,这个值是在查询中被固定的。例如在 WHERE
column = 'value'
中。 - 一个或多个列的名称,通常在 JOIN 操作中,表示 JOIN 条件依赖的字段。
- NULL,表示没有使用索引,或者查询使用的是全表扫描。
⑨、rows 列:估算查到结果集需要扫描的数据行数,原则上 rows 越少越好。
⑩、Extra 列:附加信息。
- Using index:表示只利用了索引。
- Using where:表示使用了 WHERE 过滤。
- Using temporary :表示使用了临时表来存储中间结果。
示例:
从高到低的效率排序是 system、const、eq_ref、ref、range、index 和 ALL。
一般情况下,建议 type 值达到 const、eq_ref 或 ref,因为这些类型表明查询使用了索引进行精确匹配,效率较高。
如果是范围查询,range 类型也是可以接受的。
通常要避免出现 ALL 类型,因为它表示全表扫描,性能最低。
- Java 面试指南(付费)收录的华为面经同学 8 技术二面面试原题:怎么看走没走索引,如何分析 SQL
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:key-len和key没什么区别,什么时候会用到key-len,你还会查看explain中的哪些字段,extra有哪些类型
- Java 面试指南(付费)收录的同学 1 贝壳找房后端技术一面面试原题:explain分析后, type的执行效率等级,达到什么级别比较合适
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
数据库文件是存储在磁盘上的,磁盘 I/O 是数据库操作中最耗时的部分之一。没有索引时,数据库会进行全表扫描(Sequential Scan),这意味着它必须读取表中的每一行数据来查找匹配的行(时间效率为 O(n))。当表的数据量非常大时,就会导致大量的磁盘 I/O 操作。
有了索引,就可以直接跳到索引指示的数据位置,而不必扫描整张表,从而大大减少了磁盘 I/O 操作的次数。
MySQL 的 InnoDB 存储引擎默认使用 B+ 树来作为索引的数据结构,而 B+ 树的查询效率非常高,时间复杂度为 O(logN)。
索引文件相较于数据库文件,体积小得多,查到索引之后再映射到数据库记录,查询效率就会高很多。
索引就好像书的目录,通过目录去查找对应的章节内容会比一页一页的翻书快很多。
可通过 create index
创建索引,比如:
create index idx_name on students(name);
在实际开发中,我们可以通过合理使用单字段索引、复合索引和覆盖索引来优化查询。例如,如果要加速查询 age 字段的条件,我们可以在 age 字段上创建索引。
CREATE INDEX idx_age ON users(age);
如果查询涉及多个字段 age 和 name,可以使用复合索引来提高查询效率。
CREATE INDEX idx_age_name ON users(age, name);
当我们只需要查询部分字段时 SELECT name FROM users WHERE age = 30;
,覆盖索引可以提升查询效率。
CREATE INDEX idx_age_name ON users(age, name);
由于 age 和 name 字段都在索引中,MySQL 直接从索引中获取结果,无需回表查找。
- Java 面试指南(付费)收录的腾讯面经同学 23 QQ 后台技术一面面试原题:MySQL 索引,为什么用 B+树
- Java 面试指南(付费)收录的小米面经同学 E 第二个部门 Java 后端技术一面面试原题:为什么需要索引
- Java 面试指南(付费)收录的小公司面经同学 5 Java 后端面试原题:数据库索引讲一下,然后为什么会加快查询速度,我讲到了 B+树,然后问了 B 数与 B+树区别
- Java 面试指南(付费)收录的去哪儿面经同学 1 技术二面面试原题:mysql为什么用索引
- Java 面试指南(付费)收录的 OPPO 面经同学 1 面试原题:对MySQL索引的理解
- Java 面试指南(付费)收录的vivo 面经同学 10 技术一面面试原题:索引,索引优化举例,为什么使用索引更快
- Java 面试指南(付费)收录的腾讯面经同学 27 云后台技术一面面试原题:介绍下索引?底层是啥?
MySQL 的索引可以显著提高查询的性能,可以从三个不同的维度对索引进行分类(功能、数据结构、存储位置):
①、主键索引: 表中每行数据唯一标识的索引,强调列值的唯一性和非空性。
当创建表的时候,可以直接指定主键索引:
CREATE TABLE users (
id INT AUTO_INCREMENT PRIMARY KEY,
username VARCHAR(255) NOT NULL,
email VARCHAR(255)
);
id 列被指定为主键索引,同时,MySQL 会自动为这个列创建一个聚簇索引(主键索引一定是聚簇索引)。
可以通过 show index from table_name
查看索引信息,比如前面创建的 users 表:
Non_unique
如果索引不能包含重复词,则为 0;如果可以,则为 1。这可以帮助我们区分是唯一索引还是普通索引。Key_name
索引的名称。如果索引是主键,那么这个值是 PRIMARY。Column_name
索引所包含的字段名。Index_type
索引的类型,比如 BTREE、HASH 等。
②、唯一索引: 保证数据列中每行数据的唯一性,但允许有空值。
可以通过下面的语句创建唯一索引:
CREATE UNIQUE INDEX idx_username ON users(username);
同样可以通过 show index from table_name
确认索引信息:
Non_unique
为 0,表示这是一个唯一索引。
③、普通索引: 基本的索引类型,用于加速查询。
可以通过下面的语句创建普通索引:
CREATE INDEX idx_email ON users(email);
这次我们通过下面的语句一起把三个索引的关键信息查出来:
SELECT `TABLE_NAME` AS `Table`, `NON_UNIQUE`, `INDEX_NAME` AS `Key_name`, `COLUMN_NAME` AS `Column_name`, `INDEX_TYPE` AS `Index_type`
FROM information_schema.statistics
WHERE `TABLE_NAME` = 'users' AND `TABLE_SCHEMA` = DATABASE();
可以确定 idx_email 是一个普通索引,因为 Non_unique
为 1。
④、全文索引:特定于文本数据的索引,用于提高文本搜索的效率。
假设有一个名为 articles 的表,下面这条语句在 content 列上创建了一个全文索引。
CREATE FULLTEXT INDEX idx_article_content ON articles(content);
①、B+树索引:最常见的索引类型,一种将索引值按照一定的算法,存入一个树形的数据结构中(二叉树),每次查询都从树的根节点开始,一次遍历叶子节点,找到对应的值。查询效率是 O(logN)。
也是 InnoDB 存储引擎的默认索引类型。
B+ 树是 B 树的升级版,B+ 树中的非叶子节点都不存储数据,只存储索引。叶子节点中存储了所有的数据,并且构成了一个从小到大的有序双向链表,使得在完成一次树的遍历定位到范围查询的起点后,可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。这在处理大范围的查询时特别高效。
因为 B+ 树是 InnoDB 的默认索引类型,所以创建 B+ 树的时候不需要指定索引类型。
CREATE TABLE example_btree (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255),
INDEX name_index (name)
) ENGINE=InnoDB;
②、Hash 索引:基于哈希表的索引,查询效率可以达到 O(1),但是只适合 = 和 in 查询,不适合范围查询。
Hash 索引在原理上和 Java 中的 HashMap 类似,当发生哈希冲突的时候也是通过拉链法来解决。
可以通过下面的语句创建哈希索引:
CREATE TABLE example_hash (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255),
UNIQUE HASH (name)
) ENGINE=MEMORY;
注意,我们这里创建的是 MEMORY 存储引擎,InnoDB 并不提供直接创建哈希索引的选项,因为 B+ 树索引能够很好地支持范围查询和等值查询,满足了大多数数据库操作的需要。
不过,InnoDB 存储引擎内部使用了一种名为“自适应哈希索引”(Adaptive Hash Index, AHI)的技术。
自适应哈希索引并不是由用户显式创建的,而是 InnoDB 根据数据访问的模式自动建立和管理的。当 InnoDB 发现某个索引被频繁访问时,会在内存中创建一个哈希索引,以加速对这个索引的访问。
可以通过下面的语句查看自适应哈希索引的状态:
SHOW VARIABLES LIKE 'innodb_adaptive_hash_index';
如果返回的值是 ON,说明自适应哈希索引是开启的。
①、聚簇索引:聚簇索引的叶子节点保存了一行记录的所有列信息。也就是说,聚簇索引的叶子节点中,包含了一个完整的记录行。
②、非聚簇索引:它的叶子节点只包含一个主键值,通过非聚簇索引查找记录要先找到主键,然后通过主键再到聚簇索引中找到对应的记录行,这个过程被称为回表。
InnoDB 存储引擎的主键使用的是聚簇索引,MyISAM 存储引擎不管是主键索引,还是二级索引使用的都是非聚簇索引。
想要了解 B 树和 B+树的更多区别,推荐阅读:
- GitHub:B 树和 B+树详解
- 思否:面试官问你 B 树和 B+树,就把这篇文章丢给他
- 极客时间:为什么用 B+树来做索引?
- 一颗剽悍的种子:用 16 张图就给你讲明白 MySQL 为什么要用 B+树做索引
想要了解更多聚簇索引和非聚簇索引,推荐阅读:
- Java 面试指南(付费)收录的科大讯飞非凡计划研发类面经原题:聊聊 MySQL 的索引
- Java 面试指南(付费)收录的腾讯面经同学 23 QQ 后台技术一面面试原题:MySQL 索引,为什么用 B+树
- Java 面试指南(付费)收录的携程面经同学 10 Java 暑期实习一面面试原题:讲一讲 MySQL 的索引,如何优化 SQL?
- Java 面试指南(付费)收录的阿里面经同学 5 阿里妈妈 Java 后端技术一面面试原题:索引的分类,创建索引的最佳实践
- Java 面试指南(付费)收录的 360 面经同学 3 Java 后端技术一面面试原题:mysql 的索引用过哪些
- Java 面试指南(付费)收录的用友面试原题:索引是什么?有哪些索引
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:普通索引的叶子节点存储的是什么
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:innodb底层有哪些数据结构
- Java 面试指南(付费)收录的比亚迪面经同学 12 Java 技术面试原题:索引有哪些,区别是什么
①、选择合适的列作为索引
- 经常作为查询条件(WHERE 子句)、排序条件(ORDER BY 子句)、分组条件(GROUP BY 子句)的列是建立索引的好选项。
- 区分度低的字段,例如性别,不要建索引
- 频繁更新的字段,不要建索引
②、避免过多的索引
- 因为每个索引都需要占用额外的磁盘空间。
- 更新表(INSERT、UPDATE、DELETE 操作)的时候,索引都需要被更新。
③、利用前缀索引和索引列的顺序
- 对于字符串类型的列,可以考虑使用前缀索引来减少索引大小。
- 在创建联合索引时,应该根据查询条件将最常用的放在前面,遵守最左前缀原则。
- Java 面试指南(付费)收录的用友金融一面原题:索引的作用,加索引需要注意什么
- Java 面试指南(付费)收录的京东同学 10 后端实习一面的原题:查询和更新都频繁的字段是否适合创建索引,为什么
- Java 面试指南(付费)收录的小米春招同学 K 一面面试原题:索引怎么设计才是最好的
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:MySQL 索引结构,建立索引的策略
- Java 面试指南(付费)收录的阿里面经同学 5 阿里妈妈 Java 后端技术一面面试原题:索引的分类,创建索引的最佳实践
- Java 面试指南(付费)收录的oppo 面经同学 8 后端开发秋招一面面试原题:建索引的时候应该注意什么
- Java 面试指南(付费)收录的京东面经同学 5 Java 后端技术一面面试原题:建立索引考虑哪些问题
- 在索引列上使用函数或表达式:索引可能无法使用,因为 MySQL 无法预先计算出函数或表达式的结果。例如:
SELECT * FROM table WHERE YEAR(date_column) = 2021
。 - 使用不等于(
<>
)或者 NOT 操作符:因为它们会扫描全表。 - 使用 LIKE 语句,但通配符在前面:以“%”或者“_”开头,索引也无法使用。例如:
SELECT * FROM table WHERE column LIKE '%abc'
。 - 联合索引,但 WHERE 不满足最左前缀原则,索引无法起效。例如:
SELECT * FROM table WHERE column2 = 2
,联合索引为(column1, column2)
。
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:where b =5 是否一定会命中索引?(索引失效场景)
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:索引失效的情况
- Java 面试指南(付费)收录的小公司面经合集同学 1 Java 后端面试原题:编写 SQL 语句哪些情况会导致索引失效?
- Java 面试指南(付费)收录的比亚迪面经同学 12 Java 技术面试原题:索引失效场景
- Java 面试指南(付费)收录的 OPPO 面经同学 1 面试原题:什么情况下索引失效?
- Java 面试指南(付费)收录的京东面经同学 5 Java 后端技术一面面试原题:索引失效情况
- 数据表较小:当表中的数据量很小,或者查询需要扫描表中大部分数据时,数据库优化器可能会选择全表扫描而不是使用索引。在这种情况下,维护索引的开销可能大于其带来的性能提升。
- 频繁更新的列:对于经常进行更新、删除或插入操作的列,使用索引可能会导致性能下降。因为每次数据变更时,索引也需要更新,这会增加额外的写操作负担。
性别字段通常不适合建立索引。因为性别字段的选择性(区分度)较低,独立索引效果有限。
如果性别字段又很少用于查询,表的数据规模较小,那么建立索引反而会增加额外的存储空间和维护成本。
如果性别字段确实经常用于查询条件,数据规模也比较大,可以将性别字段作为复合索引的一部分,与选择性较高的字段一起加索引,会更好一些。
区分度(Selectivity)是衡量一个字段在数据库表中唯一值的比例,用来表示该字段在索引优化中的有效性。
区分度 = 字段的唯一值数量 / 字段的总记录数;接近 1,字段值大部分是唯一的。例如,用户的唯一 ID,一般都是主键索引。接近 0,则说明字段值重复度高。
例如,一个表中有 1000 条记录,其中性别字段只有两个值(男、女),那么性别字段的区分度只有 0.002。
高区分度的字段更适合拿来作为索引,因为索引可以更有效地缩小查询范围。
在 MySQL 中,可以通过 COUNT(DISTINCT column_name)
和 COUNT(*)
的比值来计算字段的区分度。例如:
SELECT
COUNT(DISTINCT gender) / COUNT(*) AS gender_selectivity
FROM
users;
适合加索引的字段包括:
- 经常出现在 WHERE 子句中的字段,如
SELECT * FROM users WHERE age = 30
中的 age 字段,加上索引后可以快速定位到满足条件的记录。 - 经常用于 JOIN 的字段,如
SELECT * FROM users u JOIN orders o ON u.id = o.user_id
中的 user_id 字段,加上索引后可以避免多表扫描。 - 经常出现在 ORDER BY 或 GROUP BY 子句中的字段,如
SELECT * FROM users ORDER BY age
中的 age 字段。加上索引后可以避免额外的排序操作。 - 高区分度的字段,查询时可以有效减少返回的数据行,比如用户 ID、邮箱等。
对应的,不适合加索引的字段包括:
- 低区分度字段,如性别、状态等。
- 经常更新的字段,如用户的登录时间、登录次数等。
- 不经常出现在查询条件中的字段,如用户的生日、地址等。
- 使用函数、运算符的字段。
- Java 面试指南(付费)收录的字节跳动面经同学 1 技术二面面试原题:性别字段要建立索引吗?为什么?什么是区分度?MySQL查看字段区分度的命令?
- Java 面试指南(付费)收录的快手同学 2 一面面试原题:什么样的字段适合加索引?什么不适合?
当然不是。
- 索引会占据磁盘空间
- 索引虽然会提高查询效率,但是会降低更新表的效率。每次对表进行增删改操作,MySQL 不仅要更新数据,还要更新对应的索引文件。
①、选择合适的索引类型
- 如果需要等值查询和范围查询,请选择 B+树索引。
- 如果是用于处理文本数据的全文搜索,请选择全文索引。
②、创建适当的索引
- 创建组合索引时,应将查询中最常用、区分度高的列放在前面。对于查询条件
WHERE age = 18 AND gender = '女' AND city = '洛阳'
,如果 age 列的值相对较为分散,可以优先考虑将 age 放在组合索引的第一位。 - 使用 SELECT 语句时,尽量选择覆盖索引来避免不必要的回表操作,也就是说,索引中包含了查询所需的所有列;但要注意,覆盖索引的列数不宜过多,否则会增加索引的存储空间。
- Java 面试指南(付费)收录的比亚迪面经同学 12 Java 技术面试原题:索引优化的思路
- 推荐阅读:终于把 B 树搞明白了
- 推荐阅读:一篇文章讲透 MySQL 为什么要用 B+树实现索引
MySQL 的默认存储引擎是 InnoDB,它采用的是 B+树索引,是 B 树的升级版。
B 树是一种自平衡的多路查找树,和红黑树、二叉平衡树不同,B 树的每个节点可以有 m 个子节点,而红黑树和二叉平衡树都只有 2 个。
换句话说,红黑树、二叉平衡树是细高个,而 B 树是矮胖子。
内存和磁盘在进行 IO 读写的时候,有一个最小的逻辑单元,叫做页(Page),页的大小一般是 4KB。
那为了提高读写效率,从磁盘往内存中读数据的时候,一次会读取至少一页的数据,比如说读取 2KB 的数据,实际上会读取 4KB 的数据;读取 5KB 的数据,实际上会读取 8KB 的数据。我们要尽量减少读写的次数。
因为读的次数越多,效率就越低。就好比我们在工地上搬砖,一次搬 10 块砖肯定比一次搬 1 块砖的效率要高,反正我每次都搬 10 块(😁)。
对于红黑树、二叉平衡树这种细高个来说,每次搬的砖少,因为力气不够嘛,那来回跑的次数就越多。
是这个道理吧,树越高,意味着查找数据时就需要更多的磁盘 IO,因为每一层都可能需要从磁盘加载新的节点。
B 树的节点大小通常与页的大小对齐,这样每次从磁盘加载一个节点时,可以正好是一个页的大小。因为 B 树的节点可以有多个子节点,可以填充更多的信息以达到一页的大小。
B 树的一个节点通常包括三个部分:
- 键值:即表中的主键
- 指针:存储子节点的信息
- 数据:表记录中除主键外的数据
不过,正所谓“祸兮福所倚,福兮祸所伏”,正是因为 B 树的每个节点上都存了数据,就导致每个节点能存储的键值和指针变少了,因为每一页的大小是固定的,对吧?
于是 B+树就来了,B+树的非叶子节点只存储键值,不存储数据,而叶子节点存储了所有的数据,并且构成了一个有序链表。
这样做的好处是,非叶子节点上由于没有存储数据,就可以存储更多的键值对,树就变得更加矮胖了,于是就更有劲了,每次搬的砖也就更多了(😂)。
由此一来,查找数据进行的磁盘 IO 就更少了,查询的效率也就更高了。
再加上叶子节点构成了一个有序链表,范围查询时就可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。
注:在 InnoDB 存储引擎中,默认的页大小是 16KB。可以通过 show variables like 'innodb_page_size';
查看。
MySQL 的默认存储引擎是 InnoDB,它采用的是 B+树索引,B+树是一种自平衡的多路查找树,和红黑树、二叉平衡树不同,B+树的每个节点可以有 m 个子节点,而红黑树和二叉平衡树都只有 2 个。
和 B 树不同,B+树的非叶子节点只存储键值,不存储数据,而叶子节点存储了所有的数据,并且构成了一个有序链表。
这样做的好处是,非叶子节点上由于没有存储数据,就可以存储更多的键值对,再加上叶子节点构成了一个有序链表,范围查询时就可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。查询的效率会更高。
B+树的叶子节点是通过双向链表连接的,这样可以方便范围查询和反向遍历。
- 当执行范围查询时,可以从范围的开始点或结束点开始,向前或向后遍历,这使得查询更为灵活。
- 在需要对数据进行逆序处理时,双向链表非常有用。
如果需要在 B+树中从大值向小值进行检索,可以按以下步骤操作:
- 定位到最右侧节点:首先,找到包含最大值的叶子节点。这通常通过从根节点开始向右遍历树的方式实现。
- 反向遍历:一旦定位到了最右侧的叶子节点,可以利用叶节点间的双向链表向左遍历。
推荐阅读:为什么 MongoDB 索引用 B树,而 MySQL 用 B+ 树?
B树的特点是每个节点都存储数据,相邻的叶子节点之间没有指针链接。
B+树的特点是非叶子节点只存储索引,叶子节点存储数据,并且相邻的叶子节点之间有指针链接。
那么在查找单条数据时,B 树的查询效率可能会更高,因为每个节点都存储数据,所以最好情况就是 O(1)。
但由于 B 树的节点之间没有指针链接,所以并不适合做范围查询,因为范围查询需要遍历多个节点。
而 B+ 树的叶子节点之间有指针链接,所以适合做范围查询,因为可以直接通过叶子节点间的指针顺序访问整个查询范围内的所有记录,而无需对树进行多次遍历。
MySQL 属于关系型数据库,所以范围查询会比较多,所以采用了 B+树;但 MongoDB 属于非关系型数据库,在大多数情况下,只需要查询单条数据,所以 MongoDB 选择了 B 树。
- Java 面试指南(付费)收录的字节跳动商业化一面的原题:说说 B+树,为什么 3 层容纳 2000W 条,为什么 2000w 条数据查的快
- Java 面试指南(付费)收录的国企面试原题:说说 MySQL 的底层数据结构,B 树和 B+树的区别
- Java 面试指南(付费)收录的腾讯面经同学 22 暑期实习一面面试原题:MySQL 为什么选用 B+树
- Java 面试指南(付费)收录的小米面经同学 E 第二个部门 Java 后端技术一面面试原题:说一说 mysql 索引的底层机制
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:MySQL 索引结构,建立索引的策略
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:MySQL 索引结构,为什么用 B+树?
- Java 面试指南(付费)收录的小公司面经同学 5 Java 后端面试原题:数据库索引讲一下,然后为什么会加快查询速度,我讲到了 B+树,然后问了 B 数与 B+树区别
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:B+树的页是单向链表还是双向链表?如果从大值向小值检索,如何操作?
- Java 面试指南(付费)收录的得物面经同学 1 面试原题:项目索引,MySQL索引,mongoDB为什么用的B树,二者比较
- Java 面试指南(付费)收录的oppo 面经同学 8 后端开发秋招一面面试原题:Mysql索引的数据结构,为什么选择这样的数据结构
- Java 面试指南(付费)收录的京东面经同学 8 面试原题:索引
- Java 面试指南(付费)收录的美团同学 9 一面面试原题:B+树?
- Java 面试指南(付费)收录的美团面经同学 15 点评后端技术面试原题:索引的数据结构
推荐阅读:清幽之地:InnoDB 一棵 B+树可以存放多少行数据?
假如我们的主键 ID 是 bigint 类型,长度为 8 个字节。指针大小在 InnoDB 源码中设置为 6 字节,这样一共 14 字节。所以非叶子节点(一页)可以存储 16384/14=1170 个这样的单元(键值+指针)。
一个指针指向一个存放记录的页,一页可以放 16 条数据,树深度为 2 的时候,可以存放 1170*16=18720 条数据。
同理,树深度为 3 的时候,可以存储的数据为 1170*1170*16=21902400条记录。
理论上,在 InnoDB 存储引擎中,B+树的高度一般为 2-4 层,就可以满足千万级数据的存储。查找数据的时候,一次页的查找代表一次 IO,当我们通过主键索引查询的时候,最多只需要 2-4 次 IO 就可以了。
推荐阅读:Innodb 引擎中 B+树一般有几层?能容纳多少数据量?
在 MySQL 中,InnoDB 存储引擎的最小存储单元是页,默认大小是 16k,可通过参数设置。页可以用来存储 B+树叶子节点上的数据,也可以存放非叶子节点上的键值对。
在查找数据时,一次页的查找代表一次 IO,一般 B+树的高度为 2-4 层,所以通过主键索引查询时,最多只需要 2-4 次 IO 就可以了。
已知非叶子节点可以存储 1170 个键值对。
主键 ID 是 bigint 类型,长度为 8 个字节。指针大小在 InnoDB 源码中设置为 6 字节,这样一共是 14 字节。所以非叶子节点(一页)可以存储 16384/14=1170 个这样的单元(键值+指针)。
假设一行数据的大小为 1KB,那么一页的叶子节点就可以存储 16 条数据。对于 3 层的 B+树,第一层叶子节点数*第二层叶子节点数*一页能够存储的数据量 = 1170*1170*16 = 21902400 条数据。
如果有 2KW 条数据,那么这颗 B+树的高度为 3 层。
- Java 面试指南(付费)收录的字节跳动商业化一面的原题:说说 B+树,为什么 3 层容纳 2000W 条,为什么 2000w 条数据查的快
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:innodb 使用数据页存储数据?默认数据页大小 16K,我现在有一张表,有 2kw 数据,我这个 b+树的高度有几层?
- Java 面试指南(付费)收录的美团面经同学 18 成都到家面试原题:一张表最多存多少数据(我答得2kw,根据b+树的三层高度计算)
- Java 面试指南(付费)收录的得物面经同学 1 面试原题:MySQL B+树的度数越大越好吗,一般设多少
普通二叉树存在退化的情况,如果它退化成链表,就相当于全表扫描。
虽然 AVL 树是平衡二叉树,但因为只有 2 叉,高度会比较高,磁盘 I/O 次数就会非常多。
而 B+ 树是 N 叉,每一层可以存储更多的节点数据,树的高度就会降低,因此读取磁盘的次数就会下降,查询效率就快。
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:MySQL 索引为什么使用 B+树而不是用别的数据结构?
- Java 面试指南(付费)收录的腾讯面经同学 27 云后台技术一面面试原题:为什么不用二叉树?为什么不用AVL树?
B+ 树相比 B 树有几个显著优势:
首先,B+ 树的叶子节点通过链表相连,非常适合范围查询,如 ORDER BY 和 BETWEEN。
只需要找到符合条件的第一个叶子节点,顺序扫描后续的叶子节点就可以了。相比之下,B 树的每次范围查询都需要回溯到父节点,查询效率较低。
其次,B+ 树的非叶子节点不存储数据,能包含更多的键值指针,因此在相同节点容量下,B+ 树的层级更少,树的高度更低。较少的树层级意味着查找路径更短,从而减少磁盘 I/O 次数。
- Java 面试指南(付费)收录的支付宝面经同学 2 春招技术一面面试原题:聚簇索引和非聚簇索引的区别?B+树叶子节点除了存数据还有什么?
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:b 树和 b+树有什么区别
- Java 面试指南(付费)收录的百度面经同学 1 文心一言 25 实习 Java 后端面试原题:MySQL 索引为什么使用 B+树而不是用别的数据结构?
- Java 面试指南(付费)收录的字节跳动面经同学 8 Java 后端实习一面面试原题:mysql b+树和b树的区别
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:B+树有哪些优点
- Java 面试指南(付费)收录的同学 1 贝壳找房后端技术一面面试原题:为什么用b+树不用b树
- B+ 树索引可以进行范围查询,Hash 索引不能。
- B+ 树索引支持联合索引的最左侧原则,Hash 索引不支持。
- B+ 树索引支持 order by 排序,Hash 索引不支持。
- Hash 索引在等值查询上比 B+ 树索引效率更高。
- B+ 树使用 like 进行模糊查询的时候,
LIKE 'abc%'
的话可以起到索引优化的作用,Hash 索引无法进行模糊查询。
MySQL 中进行模糊查询主要使用 LIKE 语句,结合通配符 %(代表任意多个字符)和 _(代表单个字符)来实现。
SELECT * FROM table WHERE column LIKE '%xxx%';
这个查询会返回所有 column 列中包含 xxx 的记录。
但是,如果模糊查询的通配符 % 出现在搜索字符串的开始位置,如 LIKE '%xxx'
,MySQL 将无法使用索引,因为数据库必须扫描全表以匹配任意位置的字符串。
- Java 面试指南(付费)收录的美团面经同学 16 暑期实习一面面试原题:MySQL 模糊查询怎么查,什么情况下模糊查询不走索引
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:为什么不用hash索引
在 MySQL 的 InnoDB 存储引擎中,主键就是聚簇索引。聚簇索引不是一种新的索引,而是一种数据存储方式。
在聚簇索引中,表中的行是按照键值(索引)的顺序存储的。这意味着表中的实际数据行和键值之间存在物理排序的关系。因此,每个表只能有一个聚簇索引。
在非聚簇索引中,索引和数据是分开存储的,索引中的键值指向数据的实际存储位置。因此,非聚簇索引也被称为二级索引或辅助索引或非主键索引。表可以有多个非聚簇索引。
这意味着,当使用非聚簇索引检索数据时,数据库首先在索引中查找,然后通过索引中的指针去访问表中实际的数据行,这个过程称为“回表”(Bookmark Lookup)。
举例来说:
- InnoDB 采用的是聚簇索引,如果没有显式定义主键,InnoDB 会选择一个唯一的非空列作为隐式的聚簇索引;如果这样的列也不存在,InnoDB 会自动生成一个隐藏的行 ID 作为聚簇索引。这意味着数据与主键是紧密绑定的,行数据直接存储在索引的叶子节点上。
- MyISAM 采用的是非聚簇索引,表数据存储在一个地方,而索引存储在另一个地方,索引指向数据行的物理位置。
- Java 面试指南(付费)收录的小米春招同学 K 一面面试原题:mysql:聚簇索引和非聚簇索引区别
- Java 面试指南(付费)收录的支付宝面经同学 2 春招技术一面面试原题:聚簇索引和非聚簇索引的区别?B+树叶子节点除了存数据还有什么?
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:聚簇索引是什么?非聚簇索引是什么?
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:聚簇索引和非聚簇索引的区别?
- Java 面试指南(付费)收录的快手面经同学 1 部门主站技术部面试原题:Mysql 的聚簇索引和非聚簇索引的区别是什么?
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:mysql的聚簇索引是什么
回表是指在数据库查询过程中,通过非聚簇索引(secondary index)查找到记录的主键值后,再根据这个主键值到聚簇索引(clustered index)中查找完整记录的过程。
回表操作通常发生在使用非聚簇索引进行查询,但查询的字段不全在该索引中,必须通过主键进行再次查询以获取完整数据。
换句话说,数据库需要先查找索引,然后再根据索引回到数据表中去查找实际的数据。
因此,使用非聚簇索引查找数据通常比使用聚簇索引要慢,因为需要进行两次磁盘访问。当然,如果索引所在的数据页已经被加载到内存中,那么非聚簇索引的查找速度也可以非常快。
例如:select * from user where name = '张三';
,会先从辅助索引中找到 name='张三' 的主键 ID,然后再根据主键 ID 从主键索引中找到对应的数据行。
假设现在有一张用户表 users:
CREATE TABLE users (
id INT PRIMARY KEY,
name VARCHAR(50),
age INT,
email VARCHAR(50),
INDEX (name)
);
执行查询:
SELECT * FROM users WHERE name = '张三';
查询过程如下:
- MySQL 使用 name 列上的非聚簇索引查找到所有
name = '张三'
的记录,得到对应的主键 id。 - 使用主键 id 到聚簇索引中查找完整记录。
回表记录越多并不是一件好事。事实上,回表的代价是很高的,尤其在记录较多时,回表操作会显著影响查询性能。
因为每次回表操作都需要进行一次磁盘 I/O 读取操作。如果回表记录很多,会导致大量的磁盘 I/O。
索引覆盖(Covering Index)可以减少回表操作,将查询的字段都放在索引中,这样不需要回表就可以获取到查询结果了。
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:使用非聚簇索引如何查找数据?
- Java 面试指南(付费)收录的字节跳动面经同学 1 技术二面面试原题:回表记录越多好吗?(回表的代价)
覆盖索引(Covering Index)指的是一种索引能够“覆盖”查询中所涉及的所有列,换句话说,查询所需的数据全部都可以从索引中直接获取,而无需访问数据表的行数据(也就是无需回表)。
通常情况下,索引中只包含表的某些字段,数据库在通过索引查找到满足条件的记录后,还需要回到表中获取其它字段的数据,这个过程叫做“回表”。
假设有一张用户表 users,包含以下字段:id、name、email、age。执行下面的查询:
SELECT age, email FROM users WHERE name = "张三";
如果在 name 列上创建了索引,但没有在 age 和 email 列上创建索引,那么数据库引擎会:
- 使用 name 列的索引查找到满足条件的记录的 id。
- 根据 id 回表查询 age 和 email 字段的数据。
如果创建了一个覆盖索引 idx_users_name_email_age 包含 name、email、age 列:
CREATE INDEX idx_users_name_email_age ON users (age, name, email);
那么执行:
SELECT age, email FROM users WHERE name = "张三";
查询时可以直接从索引中获取 age 和 email 的值,而不需要回表。这是因为索引已经覆盖了查询所需的所有字段。
- Java 面试指南(付费)收录的作业帮面经同学 1 Java 后端一面面试原题:了解覆盖索引吗
- Java 面试指南(付费)收录的美团同学 9 一面面试原题:索引覆盖,回表?
在使用联合索引时,应当遵守最左前缀原则,或者叫最左匹配原则(最左前缀匹配原则)。
它指的是在使用联合索引时,查询条件从索引的最左列开始并且不跳过中间的列。
如果一个复合索引包含(col1, col2, col3)
,那么它可以支持 col1
、col1,col2
和 col1, col2, col3
的查询优化,但不支持只有 col2 或 col3 的查询。
也就说,在进行查询时,如果没有遵循最左前缀,那么联合索引可能不会被利用,导致查询效率降低。
比如有一个 user 表,我们给 name 和 age 建立了一个联合索引 (name, age)
。
ALTER TABLE user add INDEX comidx_name_phone (name,age);
联合索引在 B+ 树中是复合的数据结构,按照从左到右的顺序依次建立搜索树 (name 在左边,age 在右边)。
注意,name 是有序的,age 是无序的。当 name 相等的时候,age 才有序。
当我们使用 where name= '张三' and age = '20'
去查询的时候, B+ 树会优先比较 name 来确定下一步应该搜索的方向,往左还是往右。
如果 name 相同的时候再比较 age。
但如果查询条件没有 name,就不知道应该怎么查了,因为 name 是 B+树中的前置条件,没有 name,索引就派不上用场了。
不一样。
WHERE a = 1
能有效利用联合索引,因为 a 是联合索引的第一个字段,符合最左前缀匹配原则。而 WHERE b = 1
无法利用该联合索引,因为缺少 a 的匹配条件,MySQL 会选择全表扫描。
我们来验证一下,假设有一个 ab 表,建立了联合索引 (a, b)
:
CREATE TABLE ab (
a INT,
b INT,
INDEX ab_index (a, b)
);
插入数据:
INSERT INTO ab (a, b) VALUES (1, 2), (1, 3), (2, 1), (3, 3), (2, 2);
执行查询:
通过 explain 可以看到,WHERE a = 1
使用了联合索引,而 WHERE b = 1
需要全表扫描,依次检查每一行。
select * from t where a = 2 and b = 2;
select * from t where b = 2 and c = 2;
select * from t where a > 2 and b = 2;
联合索引在 MySQL 中的行为受最左前缀原则的影响。假设 t 表上有一个联合索引 (a, b, c),我们来分析一下:
第一条 SQL 语句包含条件 a = 2 和 b = 2,刚好符合联合索引的前两列。
第二条 SQL 语句由于未使用最左前缀中的 a,可能会触发全表扫描。
第三条 SQL 语句在范围条件 a > 2 之后,索引后会停止匹配,b = 2 的条件需要额外过滤。
- Java 面试指南(付费)收录的比亚迪面经同学 3 Java 技术一面面试原题:说一下数据库索引,最左匹配原则和索引的结构
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:说说最左前缀原则
- Java 面试指南(付费)收录的美团面经同学 3 Java 后端技术一面面试原题:最左匹配原则 索引失效
- Java 面试指南(付费)收录的招银网络科技面经同学 9 Java 后端技术一面面试原题:Mysql联合索引的设计原则
- Java 面试指南(付费)收录的同学 1 贝壳找房后端技术一面面试原题:联合索引 (a, b),where a = 1 和 where b = 1,效果是一样的吗
- Java 面试指南(付费)收录的腾讯面经同学 27 云后台技术一面面试原题:(联合索引)下面怎么走的索引?
索引下推(Index Condition Pushdown (ICP) )
是 MySQL 5.6 时添加的,它允许在访问索引时对数据进行过滤,从而减少回表的次数。
例如有一张 user 表,建了一个联合索引(name, age),查询语句:select * from user where name like '张%' and age=10;
,没有索引下推优化的情况下:
MySQL 会先根据 name like '张%'
查找条件匹配的数据,对于符合索引条件的每一条记录,都会去访问对应的数据行,并在 Server 层过滤 age=10
这个条件。
这样就等于说及时 age 不等于 10,MySQL 也会执行回表操作。
有索引下推的情况下,MySQL 可以在存储引擎层检查 name like '张%' and age=10
的条件,而不仅仅是 name like '张%'
。
这就意味着不符合 age = 10 条件的记录将会在索引扫描时被过滤掉,从而减少了回表的次数。
- Java 面试指南(付费)收录的美团同学 9 一面面试原题:索引下推
2024 年 03 月 15 日增补。
可以通过 EXPLAIN
关键字来查看是否使用了索引。
EXPLAIN SELECT * FROM table WHERE column = 'value';
其结果中的 key
值显示了查询是否使用索引,如果使用了索引,会显示索引的名称。比如下面这个截图就表明该查询语句使用了主键索引。
2024 年 03 月 15 日增补。
这个查询会使用到联合索引 (A,B,C)
,因为条件是按照索引列 A
、B
、C
的顺序来的,这是理想的使用场景。
-
对于
A=?
:这个条件是一个精确匹配,MySQL 会使用索引来定位到满足条件A=?
的记录。 -
对于
B IN (?, ?)
:这个条件指定了B
列可以取两个可能的值。MySQL 会利用索引来查找所有匹配A=?
且B
列为这两个值中任意一个的记录。 -
对于
C>?
:这个条件是一个范围查询。在已经根据A
和B
筛选的基础上,MySQL 会继续利用索引来查找C
列值大于指定值的记录。
来验证一下。
第一步,建表。
CREATE TABLE tbn (A INT, B INT, C INT, D TEXT);
第二步,创建索引。
CREATE INDEX idx_abc ON tbn (A, B, C);
第三步,插入数据。
INSERT INTO tbn VALUES (1, 2, 3, 'First');
INSERT INTO tbn VALUES (1, 2, 4, 'Second');
INSERT INTO tbn VALUES (1, 3, 5, 'Third');
INSERT INTO tbn VALUES (2, 2, 3, 'Fourth');
INSERT INTO tbn VALUES (2, 3, 4, 'Fifth');
第四步,执行查询。
EXPLAIN SELECT * FROM tbn WHERE A=1 AND B IN (2, 3) AND C>3\G
从 EXPLAIN
输出结果来看,我们可以得到 MySQL 是如何执行查询的一些关键信息:
- id: 查询标识符,这里是
1
。 - select_type: 查询的类型,这里是
SIMPLE
,表示这是一个简单的查询,没有使用子查询或复杂的联合查询。 - table: 正在查询的表名,这里是
tbn
。 - type: 查询类型,这里是
range
,表示 MySQL 使用了范围查找。这是因为查询条件包含了>
操作符,使得 MySQL 需要在索引中查找满足范围条件的记录。 - possible_keys: 可能被用来执行查询的索引,这里是
idx_abc
,表示 MySQL 认为idx_abc
索引可能会用于优化查询。 - key: 实际用来执行查询的索引,也是
idx_abc
,这意味着 MySQL 实际上使用了idx_abc
联合索引来优化查询。 - key_len: 使用索引的长度,这里是
15
字节,这提供了关于索引使用情况的一些信息,比如哪些列被用在了索引中。 - ref: 显示哪些列或常量被用作索引查找的参考。
- rows: MySQL 估计为了找到结果需要检查的行数,这里是
2
。 - filtered: 表示根据表的条件过滤后,剩余多少百分比的结果,这里是
100.00
%,意味着所有扫描的行都会被返回。 - Extra: 提供了关于查询执行的额外信息。
Using index condition
表示 MySQL 使用了索引条件推送(Index Condition Pushdown,ICP),这是 MySQL 的一个优化方式,它允许在索引层面过滤数据,减少访问表数据的需要。
2024 年 03 月 19 日增补
我们通过实际的 SQL 来验证一下。
示例 1(a=1,c=1):
EXPLAIN SELECT * FROM tbn WHERE A=1 AND C=1\G
key 是 idx_abc,表明 a=1,c=1 会使用联合索引。但因为缺少了 B 字段的条件,所以 MySQL 可能无法利用索引来直接定位到精确的行,而是使用索引来缩小搜索范围。
最终,MySQL 需要检查更多的行(rows: 3)来找到满足所有条件的结果集,但总体来说,使用索引明显比全表扫描要高效得多。
示例 2(b=1,c=1):
EXPLAIN SELECT * FROM tbn WHERE B=1 AND C=1\G
key 是 NULL,表明 b=1,c=1 不会使用联合索引。这是因为查询条件中涉及的字段 B 和 C 没有遵循之前定义的联合索引 idx_abc(A、B、C 顺序)的最左前缀原则。
在 idx_abc 索引中,A 是最左边的列,但是查询没有包含 A,因此 MySQL 无法利用这个索引。
示例 3(a=1,c=1,b=1):
EXPLAIN SELECT * FROM tbn WHERE A=1 AND C=1 AND B=1\G
key 是 idx_abc,表明 a=1,c=1,b=1 会使用联合索引。
并且 rows=1,因为查询条件包含了联合索引 idx_abc 中所有列的等值条件,并且条件的顺序与索引列的顺序相匹配,使得查询能够准确、快速地定位到目标数据。
2024 年 04 月 06 日增补
根据最左前缀原则,(b,c) 查询不会走索引。
因为联合索引 (a,b,c) 中,a 是最左边的列,联合索引在创建索引树的时候需要先有 a,然后才会有 b 和 c。而查询条件中没有包含 a,所以 MySQL 无法利用这个索引。
EXPLAIN SELECT * FROM tbn WHERE B=1 AND C=1\G
2024 年 04 月 08 日增补
在这个查询中,只有索引的第三列 c 被用作查询条件,而前两列 a 和 b 没有被使用。这不符合最左前缀原则,因此 MySQL 不会使用联合索引 (a,b,c)。
EXPLAIN SELECT * FROM tbn WHERE C=5\G
2024 年 11 月 04 日增补
既然遵循最左前缀匹配,说明一定是联合索引,那么查询是一定会用到索引的。
但如果查询条件中的 like 通配符 % 出现在搜索字符串的开始位置,如 age = 18 and name LIKE '%xxx'
,MySQL 会先使用联合索引 age_name 找到 age 符合条件的所有行,然后再进行 name 字段的过滤。
type: ref
表示使用索引查找匹配某个值的所有行。
rows: 3
表示预计扫描 3 行。filtered: 16.67
表示在前面的 rows 中,大约有 16.67% 的行满足 WHERE 条件。
如果是后缀通配符,如 age = 18 and name LIKE 'xxx%'
,MySQL 会直接使用联合索引 age_name 找到所有符合条件的行。
type 为 range,表示 MySQL 使用了索引范围扫描,filtered 为 100.00%
,表示在扫描的行中,所有的行都满足 WHERE 条件。
- Java 面试指南(付费)收录的字节跳动商业化一面的原题:(A,B,C) 联合索引
select * from tbn where a=? and b in (?,?) and c>?
会走索引吗?- Java 面试指南(付费)收录的京东同学 10 后端实习一面的原题:联合索引 abc,a=1,c=1/b=1,c=1/a=1,c=1,b=1 走不走索引
- Java 面试指南(付费)收录的快手面经同学 7 Java 后端技术一面面试原题:联合索引的一个场景题:(a,b,c)联合索引,(b,c)是否会走索引
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:建立联合索引(a,b,c),where c = 5 是否会用到索引?为什么?
- Java 面试指南(付费)收录的美团面经同学 15 点评后端技术面试原题:sql中使用like,如果遵循最左前缀匹配,查询是不是一定会用到索引
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
按锁粒度划分的话,MySQL 的锁有:
- 表锁:开销小,加锁快;锁定力度大,发生锁冲突概率高,并发度最低;不会出现死锁。
- 行锁:开销大,加锁慢;会出现死锁;锁定粒度小,发生锁冲突的概率低,并发度高。
- 页锁:开销和加锁速度介于表锁和行锁之间;会出现死锁;锁定粒度介于表锁和行锁之间,并发度一般。
按兼容性划分的话,MySQL 的锁有:
- 共享锁(S Lock),也叫读锁(read lock),相互不阻塞。
- 排他锁(X Lock),也叫写锁(write lock),排它锁是阻塞的,在一定时间内,只有一个请求能执行写入,并阻止其它锁读取正在写入的数据。
按加锁机制划分的话,MySQL 的锁有:
①、乐观锁
乐观锁基于这样的假设:冲突在系统中出现的频率较低,因此在数据库事务执行过程中,不会频繁地去锁定资源。相反,它在提交更新的时候才检查是否有其他事务已经修改了数据。
可以通过在数据表中使用版本号(Version)或时间戳(Timestamp)来实现,每次读取记录时,同时获取版本号或时间戳,更新时检查版本号或时间戳是否发生变化。
如果没有变化,则执行更新并增加版本号或更新时间戳;如果检测到冲突(即版本号或时间戳与之前读取的不同),则拒绝更新。
②、悲观锁
悲观锁假设冲突是常见的,因此在数据处理过程中,它会主动锁定数据,防止其他事务进行修改。
可以直接使用数据库的锁机制,如行锁或表锁,来锁定被访问的数据。常见的实现是 SELECT FOR UPDATE
语句,它在读取数据时就加上了锁,直到当前事务提交或回滚后才释放。
按照乐观锁的方式:
UPDATE inventory SET count = count - 1, version = version + 1 WHERE product_id = 1 AND version = current_version;
按照悲观锁的方式:
在事务开始时直接锁定库存记录,直到事务结束。
START TRANSACTION;
SELECT * FROM inventory WHERE product_id = 1 FOR UPDATE;
UPDATE inventory SET count = count - 1 WHERE product_id = 1;
COMMIT;
- Java 面试指南(付费)收录的小公司面经合集同学 1 Java 后端面试原题:乐观锁和悲观锁,库存的超卖问题的原因和解决方案?
- Java 面试指南(付费)收录的京东同学 4 云实习面试原题:mysql一共有哪些锁
- Java 面试指南(付费)收录的美团面经同学 15 点评后端技术面试原题:问了一下mysql的锁和MVCC
2024 年 07 月 15 日增补。
全局锁就是对整个数据库实例进行加锁,在 MySQL 中,可以使用 FLUSH TABLES WITH READ LOCK
命令来获取全局读锁。
全局锁的作用是保证在备份数据库时,数据不会发生变化【数据更新语句(增删改)、数据定义语句(建表、修改表结构等)和更新事务的提交语句】。当我们需要备份数据库时,可以先获取全局读锁,然后再执行备份操作。
表锁(Table Lock)就是锁住整个表。在 MySQL 中,可以使用 LOCK TABLES
命令来锁定表。
表锁可以分为读锁(共享锁)和写锁(排他锁)。
LOCK TABLES your_table READ;
-- 执行读操作
UNLOCK TABLES;
读锁允许多个事务同时读取被锁定的表,但不允许任何事务进行写操作。
LOCK TABLES your_table WRITE;
-- 执行写操作
UNLOCK TABLES;
写锁允许一个事务对表进行读写操作,其他事务不能对该表进行任何操作(读或写)。
在进行大规模的数据导入、导出或删除操作时,为了防止其他事务对数据进行并发操作,可以使用表锁。
或者在进行表结构变更(如添加列、修改列类型)时,为了确保变更期间没有其他事务访问或修改该表,可以使用表锁。
- Java 面试指南(付费)收录的美团面经同学 3 Java 后端技术一面面试原题:数据库中的全局锁 表锁 行级锁 每种锁的应用场景有哪些
行级锁(Row Lock)是数据库锁机制中最细粒度的锁,主要用于对单行数据进行加锁,以确保数据的一致性和完整性。
在 MySQL 中,InnoDB 存储引擎支持行级锁。通过 SELECT ... FOR UPDATE
可以加排他锁,通过 LOCK IN SHARE MODE
可以加共享锁。
比如说:
START TRANSACTION;
-- 加排他锁,锁定某一行
SELECT * FROM your_table WHERE id = 1 FOR UPDATE;
-- 对该行进行操作
UPDATE your_table SET column1 = 'new_value' WHERE id = 1;
COMMIT;
START TRANSACTION;
-- 加共享锁,锁定某一行
SELECT * FROM your_table WHERE id = 1 LOCK IN SHARE MODE;
-- 只能读取该行,不能修改
COMMIT;
在高并发环境中,行级锁能够提高系统的并发性能,因为锁定的粒度较小,只会锁住特定的行,不会影响其他行的操作。
如果查询条件使用了索引(特别是主键索引或唯一索引),SELECT FOR UPDATE 会锁定特定的行,即行级锁,这样锁的粒度较小,不会影响未涉及的行或其他并发操作。
但如果查询条件未使用索引,SELECT FOR UPDATE 可能锁定整个表或大量的行,因为查询需要执行全表扫描。
假设有一张名为 orders 的表,包含以下数据:
CREATE TABLE orders (
id INT PRIMARY KEY,
order_no VARCHAR(255),
amount DECIMAL(10,2),
status VARCHAR(50),
INDEX (order_no) -- order_no 上有索引
);
表中的数据是这样的:
id | order_no | amount | status |
---|---|---|---|
1 | 10001 | 50.00 | pending |
2 | 10002 | 75.00 | pending |
3 | 10003 | 100.00 | pending |
4 | 10004 | 150.00 | completed |
5 | 10005 | 200.00 | pending |
如果我们通过主键索引执行 SELECT FOR UPDATE,只会锁定特定的行:
START TRANSACTION;
SELECT * FROM orders WHERE id = 1 FOR UPDATE;
-- 对 id=1 的行进行操作
COMMIT;
由于 id 是主键,所以只会锁定 id=1
这行,不会影响其他行的操作。其他事务依然可以对 id = 2, 3, 4, 5 等行执行更新操作,因为它们没有被锁定。
如果使用 order_no 索引执行 SELECT FOR UPDATE,也只会锁定特定的行:
START TRANSACTION;
SELECT * FROM orders WHERE order_no = '10001' FOR UPDATE;
-- 对 order_no=10001 的行进行操作
COMMIT;
因为 order_no 上有索引,所以只会锁定 order_no=10001
这行,不会影响其他行的操作。
但如果查询 status='pending'
,而 status 上没有索引:
START TRANSACTION;
SELECT * FROM orders WHERE status = 'pending' FOR UPDATE;
-- 对 status=pending 的行进行操作
COMMIT;
查询需要执行全表扫描。在这种情况下,SELECT FOR UPDATE 可能会锁定表中所有符合条件的记录,甚至是整个表,因为 MySQL 需要检查每一行的 status。
这会影响表中的大部分记录,其他事务将无法修改这些记录,直到当前事务结束。
我们拿这么一个用户表来表示行级锁,其中插入了 4 行数据,主键值分别是 1,6,8,12,现在简化它的聚簇索引结构,只保留数据记录。
InnoDB 的行锁的主要实现如下:
①、Record Lock 记录锁
记录锁就是直接锁定某行记录。当我们使用唯一性的索引(包括唯一索引和聚簇索引)进行等值查询且精准匹配到一条记录时,此时就会直接将这条记录锁定。例如select * from t where id =6 for update;
就会将id=6
的记录锁定。
②、Gap Lock 间隙锁
间隙锁(Gap Locks) 的间隙指的是两个记录之间逻辑上尚未填入数据的部分,是一个左开右开空间。
间隙锁就是锁定某些间隙区间的。当我们使用用等值查询或者范围查询,并且没有命中任何一个record
,此时就会将对应的间隙区间锁定。例如select * from t where id =3 for update;
或者select * from t where id > 1 and id < 6 for update;
就会将(1,6)区间锁定。
③、Next-key Lock 临键锁
临键指的是间隙加上它右边的记录组成的左开右闭区间。比如上述的(1,6]、(6,8]
等。
临键锁就是记录锁(Record Locks)和间隙锁(Gap Locks)的结合,即除了锁住记录本身,还要再锁住索引之间的间隙。当我们使用范围查询,并且命中了部分record
记录,此时锁住的就是临键区间。
注意,临键锁锁住的区间会包含最后一个 record 的右边的临键区间。
例如 select * from t where id > 5 and id <= 7 for update;
会锁住(4,7]、(7,+∞)
。
MySQL 默认行锁类型就是临键锁(Next-Key Locks)
。当使用唯一性索引,等值查询匹配到一条记录的时候,临键锁(Next-Key Locks)会退化成记录锁;没有匹配到任何记录的时候,退化成间隙锁。
间隙锁(Gap Locks)
和临键锁(Next-Key Locks)
都是用来解决幻读问题的,在已提交读(READ COMMITTED)
隔离级别下,间隙锁(Gap Locks)
和临键锁(Next-Key Locks)
都会失效!
上面是行锁的三种实现算法,除此之外,在行上还存在插入意向锁。
④、Insert Intention Lock 插入意向锁
一个事务在插入一条记录时需要判断一下插入位置是不是被别的事务加了意向锁 ,如果有的话,插入操作需要等待,直到拥有 gap 锁 的那个事务提交。但是事务在等待的时候也需要在内存中生成一个 锁结构 ,表明有事务想在某个 间隙 中插入新记录,但是现在在等待。这种类型的锁命名为 Insert Intention Locks ,也就是插入意向锁 。
假如我们有个 T1 事务,给(1,6)区间加上了意向锁,现在有个 T2 事务,要插入一个数据,id 为 4,它会获取一个(1,6)区间的插入意向锁,又有有个 T3 事务,想要插入一个数据,id 为 3,它也会获取一个(1,6)区间的插入意向锁,但是,这两个插入意向锁锁不会互斥。
- Java 面试指南(付费)收录的美团面经同学 3 Java 后端技术一面面试原题:数据库中的全局锁 表锁 行级锁 每种锁的应用场景有哪些
- Java 面试指南(付费)收录的招银网络科技面经同学 9 Java 后端技术一面面试原题:select for update 加锁有什么需要注意的
意向锁是一个表级锁,不要和插入意向锁搞混。
意向锁的出现是为了支持 InnoDB 的多粒度锁,它解决的是表锁和行锁共存的问题。
当我们需要给一个表加表锁的时候,我们需要根据去判断表中有没有数据行被锁定,以确定是否能加成功。
假如没有意向锁,那么我们就得遍历表中所有数据行来判断有没有行锁;
有了意向锁这个表级锁之后,则我们直接判断一次就知道表中是否有数据行被锁定了。
有了意向锁之后,要执行的事务 A 在申请行锁(写锁)之前,数据库会自动先给事务 A 申请表的意向排他锁。当事务 B 去申请表的互斥锁时就会失败,因为表上有意向排他锁之后事务 B 申请表的互斥锁时会被阻塞。
悲观锁认为它保护的数据是非常敏感的,每时每刻都有可能被改动,一个事务在拿到悲观锁后,其他事务不能对该数据进行修改,直到它提交或回滚后。
MySQL 中的行锁、表锁都是悲观锁。
乐观锁则认为数据的变动不会太频繁。通常通过版本号(version)或者时间戳(timestamp)来实现。
事务拿到数据后,会将数据的版本号也取出来(比如说标记为 v1),当数据变动完想要更新到表中时,会将最新的版本 v2 和 v1 进行对比,如果 v1=v2,说明在数据变动期间,没有其他事务对数据进行修改。
此时,事务提交就会成功,并且 version 会加 1,以此来表明数据已变动。
如果 v1 不等于 v2,说明数据变动期间,数据被其他事务修改了,此时需要通知用户重新操作。
悲观锁是 MySQL 自带的,而乐观锁通常需要开发者自己去实现。
- Java 面试指南(付费)收录的京东面经同学 5 Java 后端技术一面面试原题:乐观锁与悲观锁
排查死锁的一般步骤是这样的:
(1)查看死锁日志 show engine innodb status;
(2)找出死锁 sql
(3)分析 sql 加锁情况
(4)模拟死锁案发
(5)分析死锁日志
(6)分析死锁结果
当然,这只是一个简单的流程说明,实际上生产中的死锁千奇百怪,排查和解决起来没那么简单。
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
事务是一条或多条 SQL 语句组成的执行单元,要么全部执行成功,要么全部失败,不会出现部分执行的情况。
事务具有四个基本特性,也就是通常所说的 ACID 特性,即原子性、一致性、隔离性和持久性。主要作用是保证数据库操作的一致性。
原子性子性意味着事务中的所有操作要么全部完成,要么全部不完成,它是不可分割的单位。如果事务中的任何一个操作失败了,整个事务都会回滚到事务开始之前的状态,如同这些操作从未被执行过一样。
一致性确保事务从一个一致的状态转换到另一个一致的状态。
比如在银行转账事务中,无论发生什么,转账前后两个账户的总金额应保持不变。假如 A 账户(100 块)给 B 账户(10 块)转了 10 块钱,不管成功与否,A 和 B 的总金额都是 110 块。
隔离性意味着并发执行的事务是彼此隔离的,一个事务的执行不会被其他事务干扰。就是事务之间是井水不犯河水的。
隔离性主要是为了解决事务并发执行时可能出现的问题,如脏读、不可重复读、幻读等。
数据库系统通过事务隔离级别(如读未提交、读已提交、可重复读、串行化)来实现事务的隔离性。
持久性确保事务一旦提交,它对数据库所做的更改就是永久性的,即使发生系统崩溃,数据库也能恢复到最近一次提交的状态。通常,持久性是通过数据库的恢复和日志机制来实现的,确保提交的事务更改不会丢失。
简短一点的回答可以是:
- 原子性:事务的所有操作要么全部提交成功,要么全部失败回滚,对于一个事务中的操作不能只执行其中一部分。
- 一致性:事务应确保数据库的状态从一个一致状态转变为另一个一致状态。一致性与业务规则有关,比如银行转账,不论事务成功还是失败,转账双方的总金额应该是不变的。
- 隔离性:多个并发事务之间需要相互隔离,即一个事务的执行不能被其他事务干扰。
- 持久性:一旦事务提交,则其所做的修改将永久保存到数据库中。即使发生系统崩溃,修改的数据也不会丢失。
- Java 面试指南(付费)收录的京东同学 10 后端实习一面的原题:事务的四个特性,怎么理解事务一致性
- Java 面试指南(付费)收录的美团面经同学 16 暑期实习一面面试原题:MySQL 事务是什么,默认隔离级别,什么是可重复读?
- Java 面试指南(付费)收录的腾讯面经同学 23 QQ 后台技术一面面试原题:MySQL 事务,隔离级别
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:什么是数据库事务?事务的作用是什么?
- Java 面试指南(付费)收录的 OPPO 面经同学 1 面试原题:对MySQL事务的理解
- Java 面试指南(付费)收录的vivo 面经同学 10 技术一面面试原题:事务的概念
- Java 面试指南(付费)收录的同学 1 贝壳找房后端技术一面面试原题:事务ACID
- Java 面试指南(付费)收录的字节跳动同学 17 后端技术面试原题:什么是事务 事务为什么要有隔离级别 幻读是什么 什么时候要解决幻读 什么时候不用解决
MySQL 通过事务、undo log、redo log 来确保 ACID。
MySQL 通过 undo log 来确保原子性(Atomicity)。
当事务开始时,MySQL 会在undo log
中记录事务开始前的旧值。如果事务执行失败,MySQL 会使用undo log
中的旧值来回滚事务开始前的状态;如果事务执行成功,MySQL 会在某个时间节点将undo log
删除。
如果其他三个特性都得到了保证,那么一致性就自然而然得到保证了。
MySQL 定义了多种隔离级别,通过 MVCC 来确保每个事务都有专属自己的数据版本,从而实现隔离性(Isolation)。
在 MVCC 中,每行记录都有一个版本号,当事务尝试读取记录时,会根据事务的隔离级别和记录的版本号来决定是否可以读取。
redo log 是一种物理日志,当执行写操作时,MySQL 会先将更改记录到 redo log 中。当 redo log 填满时,MySQL 再将这些更改写入数据文件中。
如果 MySQL 在写入数据文件时发生崩溃,可以通过 redo log 来恢复数据文件,从而确保持久性(Durability)。
- Java 面试指南(付费)收录的美团同学 2 优选物流调度技术 2 面面试原题:MySQL ACID 哪些机制来保证
事务的隔离级别定了一个事务可能受其他事务影响的程度,MySQL 支持的四种隔离级别分别是:读未提交、读已提交、可重复读和串行化。
读未提交是最低的隔离级别,在这个级别,当前事务可以读取未被其他事务提交的数据,以至于会出现“脏读”、“不可重复读”和“幻读”的问题。
在读已提交级别,当前事务只能读取已经被其他事务提交的数据,可以避免“脏读”现象。但不可重复读和幻读问题仍然存在。
可重复读能够确保在同一事务中多次读取相同记录的结果是一致的,即使其他事务对这条记录进行了修改,也不会影响到当前事务。
可重复读是 MySQL 默认的隔离级别,避免了“脏读”和“不可重复读”,但可能会出现幻读。
串行化是最高的隔离级别,通过强制事务串行执行来避免并发问题,可以解决“脏读”、“不可重复读”和“幻读”问题。
但会导致大量的超时和锁竞争问题。
在 MySQL 的默认隔离级别(可重复读)下,如果事务 A 修改了数据但未提交,事务 B 将看到修改之前的数据。
这是因为在可重复读隔离级别下,MySQL 将通过多版本并发控制(MVCC)机制来保证一个事务不会看到其他事务未提交的数据,从而确保读一致性。
使用 SET SESSION TRANSACTION ISOLATION LEVEL
可以修改当前连接的隔离级别,只影响当前会话。
使用 SET GLOBAL TRANSACTION ISOLATION LEVEL
可以修改全局隔离级别,影响新的连接,但不会改变现有会话。
- Java 面试指南(付费)收录的美团面经同学 16 暑期实习一面面试原题:MySQL 事务是什么,默认隔离级别,什么是可重复读?
- Java 面试指南(付费)收录的腾讯面经同学 23 QQ 后台技术一面面试原题:MySQL 事务,隔离级别
- Java 面试指南(付费)收录的快手面经同学 7 Java 后端技术一面面试原题:说一下事务的四大隔离级别,分别解决什么问题
- Java 面试指南(付费)收录的字节跳动面经同学 1 Java 后端技术一面面试原题:MySQL 默认隔离级别?
- Java 面试指南(付费)收录的美团面经同学 2 Java 后端技术一面面试原题:说说 MySQL 事务的隔离级别,如何实现?
- Java 面试指南(付费)收录的小公司面经合集同学 1 Java 后端面试原题:MySQL 的四个隔离级别以及默认隔离级别?
- Java 面试指南(付费)收录的 360 面经同学 3 Java 后端技术一面面试原题:数据库隔离级别有哪些?mysql 是属于哪个隔离级别
- Java 面试指南(付费)收录的联想面经同学 7 面试原题:Mysql 四个隔离级别,MVCC 实现
- Java 面试指南(付费)收录的oppo 面经同学 8 后端开发秋招一面面试原题:讲讲Mysql的四个隔离级别
- Java 面试指南(付费)收录的比亚迪面经同学 12 Java 技术面试原题:mysql的隔离级别有哪些
- Java 面试指南(付费)收录的腾讯面经同学 27 云后台技术一面面试原题:事务的隔离级别?这些隔离级别是怎么保证数据的一致性的?默认的事务隔离级别是啥?(MVCC)怎么更改事务的隔离级别?
脏读指的是一个事务能够读取另一个事务尚未提交的数据。如果读到的数据在之后被回滚了,那么第一个事务读取到的就是无效的数据。
-- 事务 A
START TRANSACTION;
UPDATE employees SET salary = 5000 WHERE id = 1;
-- 事务 B
START TRANSACTION;
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 5000 (脏读)
ROLLBACK;
不可重复读指的是在同一事务中执行相同的查询时,返回的结果集不同。这是由于在事务过程中,另一个事务修改了数据并提交。
比如说事务 A 在第一次读取某个值后,事务 B 修改了这个值并提交,事务 A 再次读取时,发现值已经改变。
-- 事务 A
START TRANSACTION;
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 3000
-- 事务 B
START TRANSACTION;
UPDATE employees SET salary = 5000 WHERE id = 1;
COMMIT;
-- 事务 A 再次读取
SELECT salary FROM employees WHERE id = 1; -- 读取到 salary = 5000 (不可重复读)
COMMIT;
幻读指的是在同一事务中执行相同的查询时,返回的结果集中出现了之前没有的数据行。这是因为在事务执行过程中,另外一个事务插入了新的数据。
比如说事务 A 在第一次查询某个条件范围的数据行后,事务 B 插入了一条新数据且符合条件范围,事务 A 再次查询时,发现多了一条数据。
-- 事务 A
START TRANSACTION;
SELECT * FROM employees WHERE department = 'HR'; -- 读取到 10 条记录
-- 事务 B
START TRANSACTION;
INSERT INTO employees (id, name, department) VALUES (11, 'John Doe', 'HR');
COMMIT;
-- 事务 A 再次查询
SELECT * FROM employees WHERE department = 'HR'; -- 读取到 11 条记录 (幻读)
COMMIT;
需要解决幻读的场景一般是对数据一致性要求较高的业务,例如银行转账、库存管理等,而在一些只要求最终一致性的应用场景中(如统计功能),可以忽略幻读问题。
隔离级别 | 脏读 | 不可重复读 | 幻读 |
---|---|---|---|
Read Uncommited 读取未提交 | 是 | 是 | 是 |
Read Commited 读取已提交 | 否 | 是 | 是 |
Repeatable Read 可重复读 | 否 | 否 | 是 |
Serialzable 可串行化 | 否 | 否 | 否 |
- Java 面试指南(付费)收录的京东面经同学 7 京东到家面试原题:mysql事务隔离级别,默认隔离级别,如何避免幻读
不提供任何锁机制来保护读取的数据,允许读取未提交的数据(即脏读)。
读已提交和可重复读通过 MVCC 机制中的 ReadView 来实现。
- READ COMMITTED:每次读取数据前都生成一个 ReadView,保证每次读操作都是最新的数据。
- REPEATABLE READ:只在第一次读操作时生成一个 ReadView,后续读操作都使用这个 ReadView,保证事务内读取的数据是一致的。
事务在读操作时,必须先加表级共享锁,直到事务结束才释放;事务在写操作时,必须先加表级排他锁,直到事务结束才释放。
- Java 面试指南(付费)收录的美团面经同学 2 Java 后端技术一面面试原题:说说 MySQL 事务的隔离级别,如何实现?
MVCC 指的是多版本并发控制,主要用来解决数据库的并发问题。
当多个用户同时访问数据时,每个用户都可以看到一个在某一时间点之前的数据库快照,并且能够无阻塞地执行查询和修改操作,而不会相互干扰。
MVCC 允许读操作访问数据的一个旧版本快照,同时写操作创建一个新的版本,这样读写操作就可以并行进行,不必等待对方完成。
在 MySQL 中,特别是 InnoDB 存储引擎,MVCC 是通过版本链和 ReadView 机制来实现的。
在 InnoDB 中,每一行数据都有两个隐藏的列:一个是 DB_TRX_ID,另一个是 DB_ROLL_PTR。
DB_TRX_ID
,保存创建这个版本的事务 ID。DB_ROLL_PTR
,指向 undo 日志记录的指针,这个记录包含了该行的前一个版本的信息。通过这个指针,可以访问到该行数据的历史版本。
假设有一张hero
表,表中有一行记录 name 为张三,city 为帝都,插入这行记录的事务 id 是 80。此时,DB_TRX_ID
的值就是 80,DB_ROLL_PTR
的值就是指向这条 insert undo 日志的指针。
接下来,如果有两个DB_TRX_ID
分别为100
、200
的事务对这条记录进行了update
操作,那么这条记录的版本链就会变成下面这样:
当事务更新一行数据时,InnoDB 不会直接覆盖原有数据,而是创建一个新的数据版本,并更新 DB_TRX_ID 和 DB_ROLL_PTR,使得它们指向前一个版本和相关的 undo 日志。这样,老版本的数据不会丢失,可以通过版本链找到。
由于 undo 日志会记录每一次的 update,并且新插入的行数据会记录上一条 undo 日志的指针,所以可以通过这个指针找到上一条记录,这样就形成了一个版本链。
ReadView(读视图)是 InnoDB 为了实现一致性读(Consistent Read)而创建的数据结构,它用于确定在特定事务中哪些版本的行记录是可见的。
ReadView 主要用来处理隔离级别为"可重复读"(REPEATABLE READ)和"读已提交"(READ COMMITTED)的情况。因为在这两个隔离级别下,事务在读取数据时,需要保证读取到的数据是一致的,即读取到的数据是在事务开始时的一个快照。
当事务开始执行时,InnoDB 会为该事务创建一个 ReadView,这个 ReadView 会记录 4 个重要的信息:
- creator_trx_id:创建该 ReadView 的事务 ID。
- m_ids:所有活跃事务的 ID 列表,活跃事务是指那些已经开始但尚未提交的事务。
- min_trx_id:所有活跃事务中最小的事务 ID。它是 m_ids 数组中最小的事务 ID。
- max_trx_id :事务 ID 的最大值加一。换句话说,它是下一个将要生成的事务 ID。
当一个事务读取某条数据时,InnoDB 会根据 ReadView 中的信息来判断该数据的某个版本是否可见。
①、如果某个数据版本的 DB_TRX_ID 小于 min_trx_id,则该数据版本在生成 ReadView 之前就已经提交,因此对当前事务是可见的。
②、如果某个数据版本的 DB_TRX_ID 大于 max_trx_id,则表示创建该数据版本的事务在生成 ReadView 之后开始,因此对当前事务是不可见的。
③、如果某个数据版本的 DB_TRX_ID 在 min_trx_id 和 max_trx_id 之间,需要判断 DB_TRX_ID 是否在 m_ids 列表中:
- 不在,表示创建该数据版本的事务在生成 ReadView 之后已经提交,因此对当前事务也是可见的。
- 在,则表示创建该数据版本的事务仍然活跃,或者在当前事务生成 ReadView 之后开始,因此对当前事务是不可见的。
上面这种方式有点绕,我讲一个简单的记忆规则。
读事务开启了一个 ReadView,这个 ReadView 里面记录了当前活跃事务的 ID 列表(444、555、665),以及最小事务 ID(444)和最大事务 ID(666)。当然还有自己的事务 ID 520,也就是 creator_trx_id。
它要读的这行数据的写事务 ID 是 x,也就是 DB_TRX_ID。
- 如果 x = 110,显然在 ReadView 生成之前就提交了,所以这行数据是可见的。
- 如果 x = 667,显然是未知世界,所以这行数据对读操作是不可见的。
- 如果 x = 519,虽然 519 大于 444 小于 666,但是 519 不在活跃事务列表里,所以这行数据是可见的。因为 519 是在 520 生成 ReadView 之前就提交了。
- 如果 x = 555,虽然 555 大于 444 小于 666,但是 555 在活跃事务列表里,所以这行数据是不可见的。因为 555 不确定有没有提交。
可重复读(REPEATABLE READ)和读已提交(READ COMMITTED)的区别在于生成 ReadView 的时机不同。
- 可重复读:在第一次读取数据时生成一个 ReadView,这个 ReadView 会一直保持到事务结束,这样可以保证在事务中多次读取同一行数据时,读取到的数据是一致的。
- 读已提交:每次读取数据前都生成一个 ReadView,这样就能保证每次读取的数据都是最新的。
当两个事务 A 和 B 并发修改同一个变量时,A 事务读取到的值取决于多个因素,包括事务的隔离级别、事务的开始时间和提交时间等。
- 读未提交:在这个级别下,事务可以看到其他事务尚未提交的更改。如果 B 更改了一个变量但尚未提交,A 可以读到这个更改的值。
- 读提交:A 只能看到 B 提交后的更改。如果 B 还没提交,A 将看到更改前的值。
- 可重复读:在事务开始后,A 总是读取到变量的相同值,即使 B 在这期间提交了更改。这是通过 MVCC 机制实现的。
- 可串行化:A 和 B 的操作是串行执行的,如果 A 先执行,那么 A 读到的值就是 B 提交前的值;如果 B 先执行,那么 A 读到的值就是 B 提交后的值。
- Java 面试指南(付费)收录的美团面经同学 2 Java 后端技术一面面试原题:说说 MVCC,解决了什么问题?
- Java 面试指南(付费)收录的小公司面经合集同学 1 Java 后端面试原题:了解的 MVCC 吗?
- Java 面试指南(付费)收录的联想面经同学 7 面试原题:Mysql 四个隔离级别,MVCC 实现,如果两个AB事务并发修改一个变量,那么A读到的值是什么,怎么分析,快照读的原理,读已提交和可重复读区别,具体原理是什么。
- Java 面试指南(付费)收录的oppo 面经同学 8 后端开发秋招一面面试原题:讲讲Mysql的MVCC机制
- Java 面试指南(付费)收录的快手同学 2 一面面试原题:事务隔离级别?MVCC机制介绍下?(版本链)版本链通过什么控制
- Java 面试指南(付费)收录的美团面经同学 15 点评后端技术面试原题:问了一下mysql的锁和MVCC
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
读写分离的基本原理是将数据库读写操作分散到不同的节点上,下面是基本架构图:
读写分离的基本实现是:
- 数据库服务器搭建主从集群,一主一从、一主多从都可以。
- 数据库主机负责读写操作,从机只负责读操作。
- 数据库主机通过复制将数据同步到从机,每台数据库服务器都存储了所有的业务数据。
- 业务服务器将写操作发给数据库主机,将读操作发给数据库从机。
将读写操作区分开来,然后访问不同的数据库服务器,一般有两种方式:程序代码封装和中间件封装。
- 程序代码封装
程序代码封装指在代码中抽象一个数据访问层(所以有的文章也称这种方式为 "中间层封装" ) ,实现读写操作分离和数据库服务器连接的管理。例如,基于 Hibernate 进行简单封装,就可以实现读写分离:
目前开源的实现方案中,淘宝的 TDDL (Taobao Distributed Data Layer, 外号:头都大了)是比较有名的。
- 中间件封装
中间件封装指的是独立一套系统出来,实现读写操作分离和数据库服务器连接的管理。中间件对业务服务器提供 SQL 兼容的协议,业务服务器无须自己进行读写分离。
对于业务服务器来说,访问中间件和访问数据库没有区别,事实上在业务服务器看来,中间件就是一个数据库服务器。
其基本架构是:
MySQL 的主从复制(Master-Slave Replication)是一种数据同步机制,用于将数据从一个主数据库(master)复制到一个或多个从数据库(slave)。
广泛用于数据备份、灾难恢复和数据分析等场景。
复制过程的主要步骤有:
- 在主服务器上,所有修改数据的语句(如 INSERT、UPDATE、DELETE)会被记录到二进制日志中。
- 主服务器上的一个线程(二进制日志转储线程)负责读取二进制日志的内容并发送给从服务器。
- 从服务器接收到二进制日志数据后,会将这些数据写入自己的中继日志(Relay Log)。中继日志是从服务器上的一个本地存储。
- 从服务器上有一个 SQL 线程会读取中继日志,并在本地数据库上执行,从而将更改应用到从数据库中,完成同步。
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:MySQL 的主从复制过程
主从同步延迟的原因
一个服务器开放N个链接给客户端来连接的,这样有会有大并发的更新操作, 但是从服务器的里面读取 binlog 的线程仅有一个,当某个 SQL 在从服务器上执行的时间稍长 或者由于某个 SQL 要进行锁表就会导致,主服务器的 SQL 大量积压,未被同步到从服务器里。这就导致了主从不一致, 也就是主从延迟。
主从同步延迟的解决办法
解决主从复制延迟有几种常见的方法:
- 写操作后的读操作指定发给数据库主服务器
例如,注册账号完成后,登录时读取账号的读操作也发给数据库主服务器。这种方式和业务强绑定,对业务的侵入和影响较大,如果哪个新来的程序员不知道这样写代码,就会导致一个 bug。
- 读从机失败后再读一次主机
这就是通常所说的 "二次读取" ,二次读取和业务无绑定,只需要对底层数据库访问的 API 进行封装即可,实现代价较小,不足之处在于如果有很多二次读取,将大大增加主机的读操作压力。例如,黑客暴力破解账号,会导致大量的二次读取操作,主机可能顶不住读操作的压力从而崩溃。
- 关键业务读写操作全部指向主机,非关键业务采用读写分离
例如,对于一个用户管理系统来说,注册 + 登录的业务读写操作全部访问主机,用户的介绍、爰好、等级等业务,可以采用读写分离,因为即使用户改了自己的自我介绍,在查询时却看到了自我介绍还是旧的,业务影响与不能登录相比就小很多,还可以忍受。
分库分表是为了解决单库单表数据量过大导致数据库性能下降的一种解决方案。
分库的策略有两种:
①、垂直分库:按照业务模块将不同的表拆分到不同的库中,例如,用户表、订单表、商品表等分到不同的库中。
②、水平分库:按照一定的策略将一个表中的数据拆分到多个库中,例如,按照用户 id 的 hash 值将用户表拆分到不同的库中。
- Java 面试指南(付费)收录的快手面经同学 7 Java 后端技术一面面试原题:分库分表了解吗
- Java 面试指南(付费)收录的华为面经同学 8 技术二面面试原题:说说分库分表的准则
当单表数据增量过快,业界流传的说法是超过 500 万的数据量就要考虑分表了。
在技术派实战项目中,我们将文章表和文章详情表做了分表处理,因为文章的详情数据量会比较大,而文章的基本信息数据量会比较小。
垂直拆分可以减轻只查询文章基本数据,不需要附带文章详情时的查询压力。
当然了,当表的数据量过大时,仍然要考虑水平分表,将一个表的数据分散到多个表中,以减轻单表的查询压力。
比如说我们将文章表拆分成多个表,如 article_0、article_9999、article_19999 等。
- Java 面试指南(付费)收录的快手面经同学 7 Java 后端技术一面面试原题:分库分表了解吗
- Java 面试指南(付费)收录的华为面经同学 8 技术二面面试原题:说说分库分表的准则
为了实现水平分表,需要设计合适的路由策略来确定数据应该存储在哪个表中,具体哪个表,由分片键(Sharding Key)来决定,分片键的选择应满足以下条件:
- 高区分度:分片键的值应尽量均匀分布,以避免数据倾斜。
- 查询频率高:选择经常在查询条件中使用的字段作为分片键,有助于提高查询效率。
- 写入频率高:选择经常被写入的字段,可以均匀分布写入负载。
那常见的路由策略有三种,分别是范围路由、Hash 路由和配置路由。
范围路由是根据某个字段的值范围进行分表。这种方式适用于分片键具有顺序性或连续性的场景。
范围路由的优点是实现简单,可以随着数据的增加平滑地扩充新的表。适用于按时间或按顺序增长的字段(如时间戳、订单号等)。缺点是可能出现数据倾斜问题,导致某些表的数据量明显大于其他表。
哈希路由是通过对分片键进行哈希计算,然后取模来确定数据存储的表。哈希值决定了数据分布,通常能较好地平衡数据量。
假如我们一开始规划好了 4 个数据表,那么路由算法可以简单地通过取模来实现:
public String getTableNameByHash(long userId) {
int tableIndex = (int) (userId % 4);
return "user_" + tableIndex;
}
哈希路由的优点是数据可以均匀分布,避免了数据倾斜,但范围查询时可能会涉及多个表,性能较差。
配置路由是通过配置表来确定数据存储的表,适用于分片键不规律的场景。
比如说我们可以通过 order_router 表来确定订单数据存储在哪个表中:
order_id | table_id |
---|---|
1 | table_1 |
2 | table_2 |
3 | table_3 |
配置路由的优点是可以根据实际情况灵活配置。缺点是需要额外的配置表,维护成本较高。
- Java 面试指南(付费)收录的腾讯面经同学 24 面试原题:项目中的水平分表是怎么做的?分片键具体是怎么设置的?
实际上,不停机扩容,实操起来是个非常麻烦而且很有风险的操作,当然,面试回答起来就简单很多。
- 第一阶段:在线双写,查询走老库
- 建立好新的库表结构,数据写入久库的同时,也写入拆分的新库
- 数据迁移,使用数据迁移程序,将旧库中的历史数据迁移到新库
- 使用定时任务,新旧库的数据对比,把差异补齐
- 第二阶段:在线双写,查询走新库
- 完成了历史数据的同步和校验
- 把对数据的读切换到新库
- 第三阶段:旧库下线
- 旧库不再写入新的数据
- 经过一段时间,确定旧库没有请求之后,就可以下线老库
- sharding-jdbc
- Mycat
从分库的角度来讲:
- 事务的问题
使用关系型数据库,有很大一点在于它保证事务完整性。
而分库之后单机事务就用不上了,必须使用分布式事务来解决。
- 跨库 JOIN 问题
在一个库中的时候我们还可以利用 JOIN 来连表查询,而跨库了之后就无法使用 JOIN 了。
此时的解决方案就是在业务代码中进行关联,也就是先把一个表的数据查出来,然后通过得到的结果再去查另一张表,然后利用代码来关联得到最终的结果。
这种方式实现起来稍微比较复杂,不过也是可以接受的。
还有可以适当的冗余一些字段。比如以前的表就存储一个关联 ID,但是业务时常要求返回对应的 Name 或者其他字段。这时候就可以把这些字段冗余到当前表中,来去除需要关联的操作。
还有一种方式就是数据异构,通过 binlog 同步等方式,把需要跨库 join 的数据异构到 ES 等存储结构中,通过 ES 进行查询。
从分表的角度来看:
- 跨节点的 count,order by,group by 以及聚合函数问题
只能由业务代码来实现或者用中间件将各表中的数据汇总、排序、分页然后返回。
- 数据迁移,容量规划,扩容等问题
数据的迁移,容量如何规划,未来是否可能再次需要扩容,等等,都是需要考虑的问题。
- ID 问题
数据库表被切分后,不能再依赖数据库自身的主键生成机制,所以需要一些手段来保证全局主键唯一。
- 还是自增,只不过自增步长设置一下。比如现在有三张表,步长设置为 3,三张表 ID 初始值分别是 1、2、3。这样第一张表的 ID 增长是 1、4、7。第二张表是 2、5、8。第三张表是 3、6、9,这样就不会重复了。
- UUID,这种最简单,但是不连续的主键插入会导致严重的页分裂,性能比较差。
- 分布式 ID,比较出名的就是 Twitter 开源的 sonwflake 雪花算法
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。
关于索引:由于索引需要额外的维护成本,因为索引文件是单独存在的文件,所以当我们对数据的增加,修改,删除,都会产生额外的对索引文件的操作,这些操作需要消耗额外的 IO,会降低增/改/删的执行效率。
所以,在我们删除数据库百万级别数据的时候,查询 MySQL 官方手册得知删除数据的速度和创建的索引数量是成正比的。
- 所以我们想要删除百万数据的时候可以先删除索引
- 然后删除其中无用数据
- 删除完成后重新创建索引创建索引也非常快
当线上的数据库数据量到达几百万、上千万的时候,加一个字段就没那么简单,因为可能会长时间锁表。
大表添加字段,通常有这些做法:
- 通过中间表转换过去
创建一个临时的新表,把旧表的结构完全复制过去,添加字段,再把旧表数据复制过去,删除旧表,新表命名为旧表的名称,这种方式可能回丢掉一些数据。
- 用 pt-online-schema-change
pt-online-schema-change
是 percona 公司开发的一个工具,它可以在线修改表结构,它的原理也是通过中间表。
- 先在从库添加 再进行主从切换
如果一张表数据量大且是热表(读写特别频繁),则可以考虑先在从库添加,再进行主从切换,切换后再将其他几个节点上添加字段。
排查过程:
(1)使用 top 命令观察,确定是 mysqld 导致还是其他原因。
(2)如果是 mysqld 导致的,show processlist,查看 session 情况,确定是不是有消耗资源的 sql 在运行。
(3)找出消耗高的 sql,看看执行计划是否准确, 索引是否缺失,数据量是否太大。
处理:
(1)kill 掉这些线程 (同时观察 cpu 使用率是否下降),
(2)进行相应的调整 (比如说加索引、改 sql、改内存参数)
(3)重新跑这些 SQL。
其他情况:
也有可能是每个 sql 消耗资源并不多,但是突然之间,有大量的 session 连进来导致 cpu 飙升,这种情况就需要跟应用一起来分析为何连接数会激增,再做出相应的调整,比如说限制连接数等
这是一道 SQL 题,主要考察 SQL 的基本语法。建议大家直接在本地建表,然后实操一下。 2024 年 04 月 11 日增补。
第一步,建表:
CREATE TABLE students (
id INT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(50),
age INT,
sex CHAR(1),
class VARCHAR(50)
);
第二步,插入数据:
INSERT INTO students (name, age, sex, class) VALUES
('沉默王二', 18, '女', '三年二班'),
('沉默王一', 20, '男', '三年二班'),
('沉默王三', 19, '男', '三年三班'),
('沉默王四', 17, '男', '三年三班'),
('沉默王五', 20, '女', '三年四班'),
('沉默王六', 21, '男', '三年四班'),
('沉默王七', 18, '女', '三年四班');
①、所有年龄为 18 的人的名字
SELECT name FROM students WHERE age = 18;
这条 SQL 语句从表中选择age
等于 18 的所有记录,并返回这些记录的name
字段。
②、找到每个班年龄大于 18 有多少人
SELECT class, COUNT(*) AS number_of_students
FROM students
WHERE age > 18
GROUP BY class;
这条 SQL 语句先筛选出年龄大于 18 的记录,然后按class
分组,并计算每个班的学生数。
③、找到每个班年龄排前两名的人
这个查询稍微复杂一些,需要使用子查询和COUNT
函数。
SELECT a.class, a.name, a.age
FROM students a
WHERE (
SELECT COUNT(DISTINCT b.age)
FROM students b
WHERE b.class = a.class AND b.age > a.age
) < 2
ORDER BY a.class, a.age DESC;
这条 SQL 语句首先从students
表中选择class
、name
和age
字段,然后使用子查询计算每个班级中年龄排前两名的学生。
- Java 面试指南(付费)收录的奇安信面经同学 1 Java 技术一面面试原题:一张表:id,name,age,sex,class,sql 语句:所有年龄为 18 的人的名字?找到每个班年龄大于 18 有多少人?找到每个班年龄排前两名的人?
如果 orders 表是大表(比如 1000 万条记录),而 users 表是相对较小的表(比如几千条记录)。
①、为关联字段建立索引,确保两个表中用于 JOIN 操作的字段都有索引。这是最基本的优化策略,避免数据库进行全表扫描,可以大幅度减少查找匹配行的时间。
CREATE INDEX idx_user_id ON users(user_id);
CREATE INDEX idx_user_id ON orders(user_id);
②、小表驱动大表,在执行 JOIN 操作时,先过滤小表中的数据,这样可以减少后续与大表进行 JOIN 时需要处理的数据量,从而提高查询效率。
SELECT u.*, o.*
FROM (
SELECT user_id
FROM users
WHERE some_condition -- 这里是对小表进行过滤的条件
) AS filtered_users
JOIN orders o ON filtered_users.user_id = o.user_id
WHERE o.some_order_condition; -- 如果需要,可以进一步过滤大表
- Java 面试指南(付费)收录的京东面经同学 1 Java 技术一面面试原题:有一个查询需求,MySQL 中有两个表,一个表 1000W 数据,另一个表只有几千数据,要做一个关联查询,如何优化
talk is cheap,show me the code。
先创建一个表,然后创建索引,然后执行插入语句,来看看执行时间(100 万数据在我本机上执行时间比较长,我们就用 10 万条数据来测试)。
CREATE TABLE test_table (
id BIGINT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255) NOT NULL,
email VARCHAR(255) NOT NULL,
created_at DATETIME NOT NULL
);
CREATE INDEX idx_name ON test_table(name);
DELIMITER //
CREATE PROCEDURE insert_data()
BEGIN
DECLARE i INT DEFAULT 0;
WHILE i < 1000000 DO
INSERT INTO test_table(name, email, created_at)
VALUES (CONCAT('wanger',i), CONCAT('email', i, '@example.com'), NOW());
SET i = i + 1;
END WHILE;
END //
DELIMITER ;
CALL insert_data();
这是一个完整的测试过程,通过存储过程来执行插入操作,然后查看总的执行时间。
在实际的开发工作中,可能涉及到持久层框架,还有批量插入。
总的时间 13.93+0.01+0.01+0.01=13.96 秒。
接下来,我们再创建一个表,然后执行插入操作,最后再创建索引。
CREATE TABLE test_table_no_index (
id BIGINT AUTO_INCREMENT PRIMARY KEY,
name VARCHAR(255) NOT NULL,
email VARCHAR(255) NOT NULL,
created_at DATETIME NOT NULL
);
DELIMITER //
CREATE PROCEDURE insert_data_no_index()
BEGIN
DECLARE i INT DEFAULT 0;
WHILE i < 1000000 DO
INSERT INTO test_table_no_index(name, email, created_at)
VALUES (CONCAT('wanger', i), CONCAT('email', i, '@example.com'), NOW());
SET i = i + 1;
END WHILE;
END //
DELIMITER ;
CALL insert_data_no_index();
CREATE INDEX idx_name_no_index ON test_table_no_index(name);
来看一下总的时间,0.01+0.00+13.08+0.18=13.27 秒。
先插入数据再创建索引的方式(13.27 秒)比先创建索引再插入数据(13.96 秒)要快一些。这个结果虽然显示时间差异不是非常大,但它确实反映了数据库处理大量数据插入时的性能特点。
- 先插入数据再创建索引:在没有索引的情况下插入数据,数据库不需要在每次插入时更新索引,这会减少插入操作的开销。之后一次性创建索引通常比逐条记录更新索引更快。
- 先创建索引再插入数据:这种情况下,数据库需要在每次插入新记录时维护索引结构,随着数据量的增加,索引的维护可能会导致额外的性能开销。
在 InnoDB 中,如果表定义了主键,那么主键索引就是聚簇索引。如果没有明确指定主键,InnoDB 会自动选择一个唯一索引作为聚簇索引。如果表没有任何唯一索引,InnoDB 将自动生成一个隐藏的行 ID 作为聚簇索引。
这意味着当插入新数据时,InnoDB 首先将数据插入到聚簇索引中。这一步骤实质上是创建索引的一部分,因为数据存放在索引结构中。
对于非主键的其他索引(次级索引),在插入数据到聚簇索引后,InnoDB 还需要更新表的所有次级索引。这些索引中的每一个都包含指向聚簇索引记录的指针。
所以在 InnoDB 中,数据插入和索引创建(更新)是密不可分的。从数据库的视角看,插入操作包括向聚簇索引添加记录和更新所有相关的次级索引。这些步骤在一个事务中原子地执行,以确保数据的一致性和完整性。
- Java 面试指南(付费)收录的农业银行面经同学 7 Java 后端面试原题:数据库是先建立索引还是先插入数据
深分页指的是在分页查询中,请求的页数非常大,例如请求第 100 万页的数据。在这种情况下,数据库需要跳过前 999999 页的数据,会消耗大量的 CPU 和 I/O 资源,导致查询性能下降。
select * from tbn limit 1000000000
正是一个深分页查询。
- 如果表的数据量非常大,那么这个查询可能会消耗大量的内存和 CPU 资源,甚至可能导致数据库崩溃。
- 如果表的数据量非常小,比如说只有 100 条,那就会返回这前 100 条,虽然没什么性能影响,但这个查询本身没什么意义。
- Java 面试指南(付费)收录的字节跳动面经同学 13 Java 后端二面面试原题:什么是深分页,select * from tbn limit 1000000000 这个有什么问题,如果表大或者表小分别什么问题
索引的建立应当基于查询中的过滤条件(WHERE 子句)以及查询的选择列(SELECT 子句)。
由于查询条件是name='paicoding'
,所以应当为name
字段建立索引。
CREATE INDEX idx_name ON tblname(name);
查询中选择了age
、id
和name
字段,如果这三列经常一起使用,可以考虑建立包含这些字段的联合索引。可以将查询条件中的字段放在联合索引的首位,这样查询时可以利用索引覆盖,直接从索引中获取数据,而不需要再去查找数据行。
CREATE INDEX idx_name_age_id ON tblname (name, age, id);
可以创建组合索引 (name, age),这可以利用 name 和 age 的双重条件来高效地进行查询。
- Java 面试指南(付费)收录的字节跳动面经同学 13 Java 后端二面面试原题:一个表(name, sex,age,id),select age,id,name from tblname where name='paicoding';怎么建索引
这是一个典型的 SQL 题,主要考察 SQL 的基本语法和分组查询。
第一步,建表:
CREATE TABLE student_scores (
student_name VARCHAR(100),
class VARCHAR(50),
score INT
);
第二步,插入数据:
INSERT INTO student_scores (student_name, class, score) VALUES
('沉默王二', '三年二班', 88),
('沉默王三', '三年二班', 92),
('沉默王四', '三年二班', 87),
('沉默王五', '三年二班', 85),
('沉默王六', '三年二班', 90),
('沉默王七', '三年二班', 95),
('沉默王八', '三年二班', 82),
('沉默王九', '三年二班', 78),
('沉默王十', '三年二班', 91),
('沉默王十一', '三年二班', 79),
('沉默王十二', '三年三班', 84),
('沉默王十三', '三年三班', 81),
('沉默王十四', '三年三班', 90),
('沉默王十五', '三年三班', 88),
('沉默王十六', '三年三班', 87),
('沉默王十七', '三年三班', 93),
('沉默王十八', '三年三班', 89),
('沉默王十九', '三年三班', 85),
('沉默王二十', '三年三班', 92),
('沉默王二十一', '三年三班', 84);
第三步,查询各班前十名:
SET @cur_class = NULL, @cur_rank = 0;
SELECT student_name, class, score
FROM (
SELECT
student_name,
class,
score,
@cur_rank := IF(@cur_class = class, @cur_rank + 1, 1) AS rank,
@cur_class := class
FROM student_scores
ORDER BY class, score DESC
) AS ranked
WHERE ranked.rank <= 10;
使用 @cur_class
和 @cur_rank
来跟踪当前行的班级和排名。
在 SELECT 语句中,通过检查当前班级(@cur_class
)是否与上一行相同来决定排名。如果相同,则增加排名;如果不同,则重置排名为 1。
然后通过 ORDER BY 子句确保在计算排名前按班级和分数排序。
- Java 面试指南(付费)收录的腾讯云智面经同学 16 一面面试原题:SQL 题:一个学生成绩表,字段有学生姓名、班级、成绩,求各班前十名
图文详解 82 道 MySQL 面试高频题,这次吊打面试官,我觉得稳了(手动 dog)。整理:沉默王二,戳转载链接,作者:三分恶,戳原文链接。
没有什么使我停留——除了目的,纵然岸旁有玫瑰、有绿荫、有宁静的港湾,我是不系之舟。
系列内容:
- 面渣逆袭 Java SE 篇 👍
- 面渣逆袭 Java 集合框架篇 👍
- 面渣逆袭 Java 并发编程篇 👍
- 面渣逆袭 JVM 篇 👍
- 面渣逆袭 Spring 篇 👍
- 面渣逆袭 Redis 篇 👍
- 面渣逆袭 MyBatis 篇 👍
- 面渣逆袭 MySQL 篇 👍
- 面渣逆袭操作系统篇 👍
- 面渣逆袭计算机网络篇 👍
- 面渣逆袭 RocketMQ 篇 👍
- 面渣逆袭分布式篇 👍
- 面渣逆袭微服务篇 👍
- 面渣逆袭设计模式篇 👍
GitHub 上标星 10000+ 的开源知识库《二哥的 Java 进阶之路》第一版 PDF 终于来了!包括 Java 基础语法、数组&字符串、OOP、集合框架、Java IO、异常处理、Java 新特性、网络编程、NIO、并发编程、JVM 等等,共计 32 万余字,500+张手绘图,可以说是通俗易懂、风趣幽默……详情戳:太赞了,GitHub 上标星 10000+ 的 Java 教程
微信搜 沉默王二 或扫描下方二维码关注二哥的原创公众号沉默王二,回复 222 即可免费领取。