我說 SELECT COUNT(*) 會造成全表掃描,面試官讓我回去等通知

文章來源于碼海 ,作者碼海

前言

上篇 SQL 進(jìn)階技巧(下)中提到使用以下 sql 會導(dǎo)致慢查詢

SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable

原因是會造成全表掃描难衰,有位讀者說這種說法是有問題的互捌,實(shí)際上針對無 where_clause 的 COUNT()*赵颅,MySQL 是有優(yōu)化的诱渤,優(yōu)化器會選擇成本最小的輔助索引查詢計(jì)數(shù),其實(shí)反而性能最高匾嘱,這位讀者的說法對不對呢

針對這個(gè)疑問斤斧,我首先去生產(chǎn)上找了一個(gè)千萬級別的表使用 EXPLAIN 來查詢了一下執(zhí)行計(jì)劃

EXPLAIN SELECT COUNT(*) FROM SomeTable

結(jié)果如下

image.png

如圖所示: 發(fā)現(xiàn)確實(shí)此條語句在此例中用到的并不是主鍵索引,而是輔助索引霎烙,實(shí)際上在此例中我試驗(yàn)了撬讽,不管是 COUNT(1)蕊连,還是 COUNT(),MySQL 都會用成本最小的輔助索引查詢方式來計(jì)數(shù)锐秦,也就是使用 COUNT() 由于 MySQL 的優(yōu)化已經(jīng)保證了它的查詢性能是最好的!隨帶提一句盗忱,COUNT()是 SQL92 定義的標(biāo)準(zhǔn)統(tǒng)計(jì)行數(shù)的語法酱床,并且效率高,所以請直接使用COUNT()查詢表的行數(shù)趟佃!

所以這位讀者的說法確實(shí)是對的扇谣。但有個(gè)前提,在 MySQL 5.6 之后的版本中才有這種優(yōu)化闲昭。

那么這個(gè)成本最小該怎么定義呢罐寨,有時(shí)候在 WHERE 中指定了多個(gè)條件,為啥最終 MySQL 執(zhí)行的時(shí)候卻選擇了另一個(gè)索引序矩,甚至不選索引鸯绿?

本文將會給你答案,本文將會從以下兩方面來分析

  • SQL 選用索引的執(zhí)行成本如何計(jì)算
  • 實(shí)例說明

SQL 選用索引的執(zhí)行成本如何計(jì)算

就如前文所述簸淀,在有多個(gè)索引的情況下瓶蝴, 在查詢數(shù)據(jù)前,MySQL 會選擇成本最小原則來選擇使用對應(yīng)的索引租幕,這里的成本主要包含兩個(gè)方面舷手。

  • IO 成本: 即從磁盤把數(shù)據(jù)加載到內(nèi)存的成本,默認(rèn)情況下劲绪,讀取數(shù)據(jù)頁的 IO 成本是 1男窟,MySQL 是以頁的形式讀取數(shù)據(jù)的,即當(dāng)用到某個(gè)數(shù)據(jù)時(shí)贾富,并不會只讀取這個(gè)數(shù)據(jù)歉眷,而會把這個(gè)數(shù)據(jù)相鄰的數(shù)據(jù)也一起讀到內(nèi)存中,這就是有名的程序局部性原理颤枪,所以 MySQL 每次會讀取一整頁姥芥,一頁的成本就是 1。所以 IO 的成本主要和頁的大小有關(guān)
  • CPU 成本:將數(shù)據(jù)讀入內(nèi)存后汇鞭,還要檢測數(shù)據(jù)是否滿足條件和排序等 CPU 操作的成本凉唐,顯然它與行數(shù)有關(guān),默認(rèn)情況下霍骄,檢測記錄的成本是 0.2台囱。

實(shí)例說明

為了根據(jù)以上兩個(gè)成本來算出使用索引的最終成本,我們先準(zhǔn)備一個(gè)表(以下操作基于 MySQL 5.7.18)

CREATE TABLE `person` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT,
  `name` varchar(255) NOT NULL,
  `score` int(11) NOT NULL,
  `create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP,
  PRIMARY KEY (`id`),
  KEY `name_score` (`name`(191),`score`),
  KEY `create_time` (`create_time`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;

這個(gè)表除了主鍵索引之外读整,還有另外兩個(gè)索引, name_score 及 create_time簿训。然后我們在此表中插入 10 w 行數(shù)據(jù),只要寫一個(gè)存儲過程調(diào)用即可,如下:

CREATE PROCEDURE insert_person()
begin
    declare c_id integer default 1;
    while c_id<=100000 do
    insert into person values(c_id, concat('name',c_id), c_id+100, date_sub(NOW(), interval c_id second));
    set c_id=c_id+1;
    end while;
end

插入之后我們現(xiàn)在使用 EXPLAIN 來計(jì)算下統(tǒng)計(jì)總行數(shù)到底使用的是哪個(gè)索引

EXPLAIN SELECT COUNT(*) FROM person
image

從結(jié)果上看它選擇了 create_time 輔助索引强品,顯然 MySQL 認(rèn)為使用此索引進(jìn)行查詢成本最小膘侮,這也是符合我們的預(yù)期,使用輔助索引來查詢確實(shí)是性能最高的的榛!

我們再來看以下 SQL 會使用哪個(gè)索引

SELECT * FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'
image

用了全表掃描琼了!理論上應(yīng)該用 name_score 或者 create_time 索引才對,從 WHERE 的查詢條件來看確實(shí)都能命中索引夫晌,那是否是使用 **SELECT *** 造成的回表代價(jià)太大所致呢雕薪,我們改成覆蓋索引的形式試一下

SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18'

結(jié)果 MySQL 依然選擇了全表掃描!這就比較有意思了晓淀,理論上采用了覆蓋索引的方式進(jìn)行查找性能肯定是比全表掃描更好的所袁,為啥 MySQL 選擇了全表掃描呢,既然它認(rèn)為全表掃描比使用覆蓋索引的形式性能更好凶掰,那我們分別用這兩者執(zhí)行來比較下查詢時(shí)間吧

-- 全表掃描執(zhí)行時(shí)間: 4.0 ms
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18' 

-- 使用覆蓋索引執(zhí)行時(shí)間: 2.0 ms
SELECT create_time FROM person force index(create_time) WHERE NAME >'name84059' AND create_time>'2020-05-23 14:39:18'

從實(shí)際執(zhí)行的效果看使用覆蓋索引查詢比使用全表掃描執(zhí)行的時(shí)間快了一倍燥爷!說明 MySQL 在查詢前做的成本估算不準(zhǔn)!我們先來看看 MySQL 做全表掃描的成本有多少懦窘。

前面我們說了成本主要 IO 成本和 CPU 成本有關(guān)局劲,對于全表掃描來說也就是分別和聚簇索引占用的頁面數(shù)和表中的記錄數(shù)。執(zhí)行以下命令

SHOW TABLE STATUS LIKE 'person'
image

可以發(fā)現(xiàn)

  1. 行數(shù)是 100264奶赠,我們不是插入了 10 w 行的數(shù)據(jù)了嗎鱼填,怎么算出的數(shù)據(jù)反而多了,其實(shí)這里的計(jì)算是估算毅戈,也有可能這里的行數(shù)統(tǒng)計(jì)出來比 10 w 少了苹丸,估算方式有興趣大家去網(wǎng)上查找,這里不是本文重點(diǎn)苇经,就不展開了赘理。得知行數(shù),那我們知道 CPU 成本是 100264 * 0.2 = 20052.8扇单。

  2. 數(shù)據(jù)長度是 5783552商模,InnoDB 每個(gè)頁面的大小是 16 KB,可以算出頁面數(shù)量是 353蜘澜。

也就是說全表掃描的成本是 20052.8 + 353 = 20406施流。

這個(gè)結(jié)果對不對呢,我們可以用一個(gè)工具驗(yàn)證一下鄙信。在 MySQL 5.6 及之后的版本中瞪醋,我們可以用 optimizer trace 功能來查看優(yōu)化器生成計(jì)劃的整個(gè)過程 ,它列出了選擇每個(gè)索引的執(zhí)行計(jì)劃成本以及最終的選擇結(jié)果装诡,我們可以依賴這些信息來進(jìn)一步優(yōu)化我們的 SQL银受。

optimizer_trace 功能使用如下

SET optimizer_trace="enabled=on";
SELECT create_time FROM person WHERE NAME >'name84059' AND create_time > '2020-05-23 14:39:18';
SELECT * FROM information_schema.OPTIMIZER_TRACE;
SET optimizer_trace="enabled=off";

執(zhí)行之后我們主要觀察使用 name_score践盼,create_time 索引及全表掃描的成本。

先來看下使用 name_score 索引執(zhí)行的的預(yù)估執(zhí)行成本:

{
    "index": "name_score",
    "ranges": [
      "name84059 <= name"
    ],
    "index_dives_for_eq_ranges": true,
    "rows": 25372,
    "cost": 30447
}

可以看到執(zhí)行成本為 30447宾巍,高于我們之前算出來的全表掃描成本:20406咕幻。所以沒選擇此索引執(zhí)行

注意:這里的 30447 是查詢二級索引的 IO 成本和 CPU 成本之和,再加上回表查詢聚簇索引的 IO 成本和 CPU 成本之和顶霞。

再來看下使用 create_time 索引執(zhí)行的的預(yù)估執(zhí)行成本:

{
    "index": "create_time",
    "ranges": [
      "0x5ec8c516 < create_time"
    ],
    "index_dives_for_eq_ranges": true,
    "rows": 50132,
    "cost": 60159,
    "cause": "cost"
}

可以看到成本是 60159,遠(yuǎn)大于全表掃描成本 20406肄程,自然也沒選擇此索引。

再來看計(jì)算出的全表掃描成本:

{
    "considered_execution_plans": [
      {
        "plan_prefix": [
        ],
        "table": "`person`",
        "best_access_path": {
          "considered_access_paths": [
            {
              "rows_to_scan": 100264,
              "access_type": "scan",
              "resulting_rows": 100264,
              "cost": 20406,
              "chosen": true
            }
          ]
        },
        "condition_filtering_pct": 100,
        "rows_for_plan": 100264,
        "cost_for_plan": 20406,
        "chosen": true
      }
    ]
}

注意看 cost:20406确丢,與我們之前算出來的完全一樣绷耍!這個(gè)值在以上三者算出的執(zhí)行成本中最小吐限,所以最終 MySQL 選擇了用全表掃描的方式來執(zhí)行此 SQL鲜侥。

實(shí)際上 optimizer trace 詳細(xì)列出了覆蓋索引,回表的成本統(tǒng)計(jì)情況诸典,有興趣的可以去研究一下描函。

從以上分析可以看出, MySQL 選擇的執(zhí)行計(jì)劃未必是最佳的狐粱,原因有挺多舀寓,就比如上文說的行數(shù)統(tǒng)計(jì)信息不準(zhǔn),再比如 MySQL 認(rèn)為的最優(yōu)跟我們認(rèn)為不一樣肌蜻,我們可以認(rèn)為執(zhí)行時(shí)間短的是最優(yōu)的互墓,但 MySQL 認(rèn)為的成本小未必意味著執(zhí)行時(shí)間短。

總結(jié)

本文通過一個(gè)例子深入剖析了 MySQL 的執(zhí)行計(jì)劃是如何選擇的蒋搜,以及為什么它的選擇未必是我們認(rèn)為的最優(yōu)的篡撵,這也提醒我們,在生產(chǎn)中如果有多個(gè)索引的情況豆挽,使用 WHERE 進(jìn)行過濾未必會選中你認(rèn)為的索引育谬,我們可以提前使用 EXPLAIN, optimizer trace 來優(yōu)化我們的查詢語句。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末帮哈,一起剝皮案震驚了整個(gè)濱河市膛檀,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌娘侍,老刑警劉巖咖刃,帶你破解...
    沈念sama閱讀 218,607評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異憾筏,居然都是意外死亡僵缺,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,239評論 3 395
  • 文/潘曉璐 我一進(jìn)店門踩叭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來磕潮,“玉大人翠胰,你說我怎么就攤上這事∽愿” “怎么了之景?”我有些...
    開封第一講書人閱讀 164,960評論 0 355
  • 文/不壞的土叔 我叫張陵,是天一觀的道長膏潮。 經(jīng)常有香客問我锻狗,道長,這世上最難降的妖魔是什么焕参? 我笑而不...
    開封第一講書人閱讀 58,750評論 1 294
  • 正文 為了忘掉前任轻纪,我火速辦了婚禮,結(jié)果婚禮上叠纷,老公的妹妹穿的比我還像新娘刻帚。我一直安慰自己,他們只是感情好涩嚣,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,764評論 6 392
  • 文/花漫 我一把揭開白布崇众。 她就那樣靜靜地躺著,像睡著了一般航厚。 火紅的嫁衣襯著肌膚如雪顷歌。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,604評論 1 305
  • 那天幔睬,我揣著相機(jī)與錄音眯漩,去河邊找鬼。 笑死麻顶,一個(gè)胖子當(dāng)著我的面吹牛赦抖,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播澈蚌,決...
    沈念sama閱讀 40,347評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼摹芙,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了宛瞄?” 一聲冷哼從身側(cè)響起浮禾,我...
    開封第一講書人閱讀 39,253評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎份汗,沒想到半個(gè)月后盈电,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,702評論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡杯活,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,893評論 3 336
  • 正文 我和宋清朗相戀三年匆帚,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片旁钧。...
    茶點(diǎn)故事閱讀 40,015評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡吸重,死狀恐怖互拾,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情嚎幸,我是刑警寧澤颜矿,帶...
    沈念sama閱讀 35,734評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站嫉晶,受9級特大地震影響骑疆,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜替废,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,352評論 3 330
  • 文/蒙蒙 一箍铭、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧椎镣,春花似錦诈火、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,934評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽闸氮。三九已至剪况,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間蒲跨,已是汗流浹背译断。 一陣腳步聲響...
    開封第一講書人閱讀 33,052評論 1 270
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留或悲,地道東北人孙咪。 一個(gè)月前我還...
    沈念sama閱讀 48,216評論 3 371
  • 正文 我出身青樓,卻偏偏與公主長得像巡语,于是被迫代替她去往敵國和親翎蹈。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,969評論 2 355