文章來源于碼海 ,作者碼海
前言
上篇 SQL 進(jìn)階技巧(下)中提到使用以下 sql 會導(dǎo)致慢查詢
SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable
原因是會造成全表掃描难衰,有位讀者說這種說法是有問題的互捌,實(shí)際上針對無 where_clause 的 COUNT()*赵颅,MySQL 是有優(yōu)化的诱渤,優(yōu)化器會選擇成本最小的輔助索引查詢計(jì)數(shù),其實(shí)反而性能最高匾嘱,這位讀者的說法對不對呢
針對這個(gè)疑問斤斧,我首先去生產(chǎn)上找了一個(gè)千萬級別的表使用 EXPLAIN 來查詢了一下執(zhí)行計(jì)劃
EXPLAIN SELECT COUNT(*) FROM SomeTable
結(jié)果如下
如圖所示: 發(fā)現(xiàn)確實(shí)此條語句在此例中用到的并不是主鍵索引,而是輔助索引霎烙,實(shí)際上在此例中我試驗(yàn)了撬讽,不管是 COUNT(1)蕊连,還是 COUNT(),MySQL 都會用成本最小的輔助索引查詢方式來計(jì)數(shù)锐秦,也就是使用 COUNT() 由于 MySQL 的優(yōu)化已經(jīng)保證了它的查詢性能是最好的!隨帶提一句盗忱,COUNT()是 SQL92 定義的標(biāo)準(zhǔn)統(tǒng)計(jì)行數(shù)的語法酱床,并且效率高,所以請直接使用COUNT()查詢表的行數(shù)趟佃!
所以這位讀者的說法確實(shí)是對的扇谣。但有個(gè)前提,在 MySQL 5.6 之后的版本中才有這種優(yōu)化闲昭。
那么這個(gè)成本最小該怎么定義呢罐寨,有時(shí)候在 WHERE 中指定了多個(gè)條件,為啥最終 MySQL 執(zhí)行的時(shí)候卻選擇了另一個(gè)索引序矩,甚至不選索引鸯绿?
本文將會給你答案,本文將會從以下兩方面來分析
- SQL 選用索引的執(zhí)行成本如何計(jì)算
- 實(shí)例說明
SQL 選用索引的執(zhí)行成本如何計(jì)算
就如前文所述簸淀,在有多個(gè)索引的情況下瓶蝴, 在查詢數(shù)據(jù)前,MySQL 會選擇成本最小原則來選擇使用對應(yīng)的索引租幕,這里的成本主要包含兩個(gè)方面舷手。
- IO 成本: 即從磁盤把數(shù)據(jù)加載到內(nèi)存的成本,默認(rèn)情況下劲绪,讀取數(shù)據(jù)頁的 IO 成本是 1男窟,MySQL 是以頁的形式讀取數(shù)據(jù)的,即當(dāng)用到某個(gè)數(shù)據(jù)時(shí)贾富,并不會只讀取這個(gè)數(shù)據(jù)歉眷,而會把這個(gè)數(shù)據(jù)相鄰的數(shù)據(jù)也一起讀到內(nèi)存中,這就是有名的程序局部性原理颤枪,所以 MySQL 每次會讀取一整頁姥芥,一頁的成本就是 1。所以 IO 的成本主要和頁的大小有關(guān)
- CPU 成本:將數(shù)據(jù)讀入內(nèi)存后汇鞭,還要檢測數(shù)據(jù)是否滿足條件和排序等 CPU 操作的成本凉唐,顯然它與行數(shù)有關(guān),默認(rèn)情況下霍骄,檢測記錄的成本是 0.2台囱。
實(shí)例說明
為了根據(jù)以上兩個(gè)成本來算出使用索引的最終成本,我們先準(zhǔn)備一個(gè)表(以下操作基于 MySQL 5.7.18)
CREATE TABLE `person` (
`id` bigint(20) NOT NULL AUTO_INCREMENT,
`name` varchar(255) NOT NULL,
`score` int(11) NOT NULL,
`create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
PRIMARY KEY (`id`),
KEY `name_score` (`name`(191),`score`),
KEY `create_time` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
這個(gè)表除了主鍵索引之外读整,還有另外兩個(gè)索引, name_score 及 create_time簿训。然后我們在此表中插入 10 w 行數(shù)據(jù),只要寫一個(gè)存儲過程調(diào)用即可,如下:
CREATE PROCEDURE insert_person()
begin
declare c_id integer default 1;
while c_id<=100000 do
insert into person values(c_id, concat('name',c_id), c_id+100, date_sub(NOW(), interval c_id second));
set c_id=c_id+1;
end while;
end
插入之后我們現(xiàn)在使用 EXPLAIN 來計(jì)算下統(tǒng)計(jì)總行數(shù)到底使用的是哪個(gè)索引
EXPLAIN SELECT COUNT(*) FROM person
從結(jié)果上看它選擇了 create_time 輔助索引强品,顯然 MySQL 認(rèn)為使用此索引進(jìn)行查詢成本最小膘侮,這也是符合我們的預(yù)期,使用輔助索引來查詢確實(shí)是性能最高的的榛!
我們再來看以下 SQL 會使用哪個(gè)索引
SELECT * FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'
用了全表掃描琼了!理論上應(yīng)該用 name_score 或者 create_time 索引才對,從 WHERE 的查詢條件來看確實(shí)都能命中索引夫晌,那是否是使用 **SELECT *** 造成的回表代價(jià)太大所致呢雕薪,我們改成覆蓋索引的形式試一下
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18'
結(jié)果 MySQL 依然選擇了全表掃描!這就比較有意思了晓淀,理論上采用了覆蓋索引的方式進(jìn)行查找性能肯定是比全表掃描更好的所袁,為啥 MySQL 選擇了全表掃描呢,既然它認(rèn)為全表掃描比使用覆蓋索引的形式性能更好凶掰,那我們分別用這兩者執(zhí)行來比較下查詢時(shí)間吧
-- 全表掃描執(zhí)行時(shí)間: 4.0 ms
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'
-- 使用覆蓋索引執(zhí)行時(shí)間: 2.0 ms
SELECT create_time FROM person force index(create_time) WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'
從實(shí)際執(zhí)行的效果看使用覆蓋索引查詢比使用全表掃描執(zhí)行的時(shí)間快了一倍燥爷!說明 MySQL 在查詢前做的成本估算不準(zhǔn)!我們先來看看 MySQL 做全表掃描的成本有多少懦窘。
前面我們說了成本主要 IO 成本和 CPU 成本有關(guān)局劲,對于全表掃描來說也就是分別和聚簇索引占用的頁面數(shù)和表中的記錄數(shù)。執(zhí)行以下命令
SHOW TABLE STATUS LIKE 'person'
可以發(fā)現(xiàn)
行數(shù)是 100264奶赠,我們不是插入了 10 w 行的數(shù)據(jù)了嗎鱼填,怎么算出的數(shù)據(jù)反而多了,其實(shí)這里的計(jì)算是估算毅戈,也有可能這里的行數(shù)統(tǒng)計(jì)出來比 10 w 少了苹丸,估算方式有興趣大家去網(wǎng)上查找,這里不是本文重點(diǎn)苇经,就不展開了赘理。得知行數(shù),那我們知道 CPU 成本是 100264 * 0.2 = 20052.8扇单。
數(shù)據(jù)長度是 5783552商模,InnoDB 每個(gè)頁面的大小是 16 KB,可以算出頁面數(shù)量是 353蜘澜。
也就是說全表掃描的成本是 20052.8 + 353 = 20406施流。
這個(gè)結(jié)果對不對呢,我們可以用一個(gè)工具驗(yàn)證一下鄙信。在 MySQL 5.6 及之后的版本中瞪醋,我們可以用 optimizer trace 功能來查看優(yōu)化器生成計(jì)劃的整個(gè)過程 ,它列出了選擇每個(gè)索引的執(zhí)行計(jì)劃成本以及最終的選擇結(jié)果装诡,我們可以依賴這些信息來進(jìn)一步優(yōu)化我們的 SQL银受。
optimizer_trace 功能使用如下
SET optimizer_trace="enabled=on";
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18';
SELECT * FROM information_schema.OPTIMIZER_TRACE;
SET optimizer_trace="enabled=off";
執(zhí)行之后我們主要觀察使用 name_score践盼,create_time 索引及全表掃描的成本。
先來看下使用 name_score 索引執(zhí)行的的預(yù)估執(zhí)行成本:
{
"index": "name_score",
"ranges": [
"name84059 <= name"
],
"index_dives_for_eq_ranges": true,
"rows": 25372,
"cost": 30447
}
可以看到執(zhí)行成本為 30447宾巍,高于我們之前算出來的全表掃描成本:20406咕幻。所以沒選擇此索引執(zhí)行
注意:這里的 30447 是查詢二級索引的 IO 成本和 CPU 成本之和,再加上回表查詢聚簇索引的 IO 成本和 CPU 成本之和顶霞。
再來看下使用 create_time 索引執(zhí)行的的預(yù)估執(zhí)行成本:
{
"index": "create_time",
"ranges": [
"0x5ec8c516 < create_time"
],
"index_dives_for_eq_ranges": true,
"rows": 50132,
"cost": 60159,
"cause": "cost"
}
可以看到成本是 60159,遠(yuǎn)大于全表掃描成本 20406肄程,自然也沒選擇此索引。
再來看計(jì)算出的全表掃描成本:
{
"considered_execution_plans": [
{
"plan_prefix": [
],
"table": "`person`",
"best_access_path": {
"considered_access_paths": [
{
"rows_to_scan": 100264,
"access_type": "scan",
"resulting_rows": 100264,
"cost": 20406,
"chosen": true
}
]
},
"condition_filtering_pct": 100,
"rows_for_plan": 100264,
"cost_for_plan": 20406,
"chosen": true
}
]
}
注意看 cost:20406确丢,與我們之前算出來的完全一樣绷耍!這個(gè)值在以上三者算出的執(zhí)行成本中最小吐限,所以最終 MySQL 選擇了用全表掃描的方式來執(zhí)行此 SQL鲜侥。
實(shí)際上 optimizer trace 詳細(xì)列出了覆蓋索引,回表的成本統(tǒng)計(jì)情況诸典,有興趣的可以去研究一下描函。
從以上分析可以看出, MySQL 選擇的執(zhí)行計(jì)劃未必是最佳的狐粱,原因有挺多舀寓,就比如上文說的行數(shù)統(tǒng)計(jì)信息不準(zhǔn),再比如 MySQL 認(rèn)為的最優(yōu)跟我們認(rèn)為不一樣肌蜻,我們可以認(rèn)為執(zhí)行時(shí)間短的是最優(yōu)的互墓,但 MySQL 認(rèn)為的成本小未必意味著執(zhí)行時(shí)間短。
總結(jié)
本文通過一個(gè)例子深入剖析了 MySQL 的執(zhí)行計(jì)劃是如何選擇的蒋搜,以及為什么它的選擇未必是我們認(rèn)為的最優(yōu)的篡撵,這也提醒我們,在生產(chǎn)中如果有多個(gè)索引的情況豆挽,使用 WHERE 進(jìn)行過濾未必會選中你認(rèn)為的索引育谬,我們可以提前使用 EXPLAIN, optimizer trace 來優(yōu)化我們的查詢語句。