MySQL NOT EXISTS 真的不走索引么阴孟,如何優(yōu)化 NOT EXISTS晌纫?

作者:夜風_BLOG
來源:https://blog.csdn.net/guanfengliang1988/article/details/92814376

在一些業(yè)務場景中,會使用NOT EXISTS語句確保返回數(shù)據(jù)不存在于特定集合永丝,部分同事會發(fā)現(xiàn)NOT EXISTS有些場景性能較差锹漱,甚至有些網(wǎng)上謠言說”NOT EXISTS不走索引”,哪對于NOT EXISTS語句慕嚷,我們如何優(yōu)化呢哥牍?

以今天優(yōu)化的SQL為例,優(yōu)化前SQL為:

SELECT count(1)

FROM t_monitor m

WHERE NOT exists

(SELECT 1

FROM t_alarm_realtime AS a

WHERE a.resource_id=m.resource_id

AND a.resource_type=m.resource_type

AND a.monitor_name=m.monitor_name)

我們使用LEFT JOIN方式進行優(yōu)化喝检,優(yōu)化后SQL為:

SELECT count(1)

FROM t_monitor m

LEFT JOIN t_alarm_realtime AS a

ON a.resource_id=m.resource_id

AND a.resource_type=m.resource_type

AND a.monitor_name=m.monitor_name

WHERE a.resource_id is NULL

優(yōu)化效果:

優(yōu)化前執(zhí)行時間29秒以上嗅辣,優(yōu)化后1.2秒,優(yōu)化提升25倍

那NOT EXISTS真的不走索引么挠说?

查看兩種SQL的執(zhí)行計劃:

使用NOT EXIST方式的執(zhí)行計劃

image

使用LEFT JOIN方式的執(zhí)行計劃:

image

從執(zhí)行計劃來看澡谭,兩個表都使用了索引,區(qū)別在于NOT EXISTS使用DEPENDENT SUBQUERY方式损俭,而LEFT JOIN使用普通表關聯(lián)的方式蛙奖。

通過MySQL提供的Profiling方式來查看兩種方式的執(zhí)行過程

使用NOT EXIST方式的執(zhí)行過程

image

使用LEFT JOIN方式的執(zhí)行過程:

image

從執(zhí)行過程來看,LEFT JOIN方式的主要消耗在Sending data一項上(1.2s)杆兵,而NOT EXISTS方式主要消耗在executeing和Sending data兩項上雁仲,受限于Profiling只存放100行記錄緣故,從Profiling中只能看到47個” executeing和Sending data”的組合項(每個組合項約50us)琐脏,通過執(zhí)行計劃看出攒砖,外表t_monitor的數(shù)據(jù)量為578436行,忽略統(tǒng)計信息不準情況下日裙,使用NOT EXISTS方式應該會產(chǎn)生578436個” executeing和Sending data”的組合項吹艇,總計消耗時間=50μs*578436=28921800us=28.92s。

從上面執(zhí)行過程可以推斷出阅签,使用NOT EXISTS方式的執(zhí)行性能嚴重依賴于NOT EXISTS子查詢的執(zhí)行次數(shù)即外層查詢結果集的數(shù)據(jù)量掐暮。

  • 當外層查詢結果集的數(shù)據(jù)量N較小時執(zhí)行性能較好,如有N=10執(zhí)行時間為50μs*10=500us=0.005s政钟,再加上一些額外消耗路克,執(zhí)行結果也能在0.01秒或10毫秒內范圍,這個響應時間應該能被大部分應用程序接受养交。

  • 當外層程勛結果集的數(shù)據(jù)量N較大甚至上千萬數(shù)據(jù)量時精算,NOT EXISTS的查詢性能會變得非常糟糕,甚至會大量消耗服務器IO和CPU資源從而影響其他業(yè)務正常運行碎连。

除上述問題外灰羽,在優(yōu)化過程中發(fā)現(xiàn)本應該存儲相同數(shù)據(jù)的resource_id列在兩個表中定義不同,一表為VARCHAR而另外一表為BIGINT,外部結果集的字段類型和NOT EXIST字表中字段類型不同導致NOT EXISTS子查詢中無法使用索引廉嚼,使得子查詢性能較差玫镐,最終影響整個查詢的執(zhí)行性能。京東商城也曾出現(xiàn)過大量類似案例怠噪,一些表使用VARCHAR來存放訂單號恐似,而另一些表使用BIGINT來存放,在兩表進行管理時性能極差傍念,希望研發(fā)同事引以為戒矫夷。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市憋槐,隨后出現(xiàn)的幾起案子双藕,更是在濱河造成了極大的恐慌,老刑警劉巖阳仔,帶你破解...
    沈念sama閱讀 218,204評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件忧陪,死亡現(xiàn)場離奇詭異,居然都是意外死亡驳概,警方通過查閱死者的電腦和手機赤嚼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,091評論 3 395
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來顺又,“玉大人更卒,你說我怎么就攤上這事≈烧眨” “怎么了蹂空?”我有些...
    開封第一講書人閱讀 164,548評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長果录。 經(jīng)常有香客問我上枕,道長,這世上最難降的妖魔是什么弱恒? 我笑而不...
    開封第一講書人閱讀 58,657評論 1 293
  • 正文 為了忘掉前任辨萍,我火速辦了婚禮,結果婚禮上返弹,老公的妹妹穿的比我還像新娘锈玉。我一直安慰自己,他們只是感情好义起,可當我...
    茶點故事閱讀 67,689評論 6 392
  • 文/花漫 我一把揭開白布拉背。 她就那樣靜靜地躺著,像睡著了一般默终。 火紅的嫁衣襯著肌膚如雪椅棺。 梳的紋絲不亂的頭發(fā)上犁罩,一...
    開封第一講書人閱讀 51,554評論 1 305
  • 那天,我揣著相機與錄音两疚,去河邊找鬼床估。 笑死,一個胖子當著我的面吹牛鬼雀,可吹牛的內容都是我干的顷窒。 我是一名探鬼主播,決...
    沈念sama閱讀 40,302評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼源哩,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了鸦做?” 一聲冷哼從身側響起励烦,我...
    開封第一講書人閱讀 39,216評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎泼诱,沒想到半個月后坛掠,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,661評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡治筒,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 37,851評論 3 336
  • 正文 我和宋清朗相戀三年屉栓,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片耸袜。...
    茶點故事閱讀 39,977評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡友多,死狀恐怖,靈堂內的尸體忽然破棺而出堤框,到底是詐尸還是另有隱情域滥,我是刑警寧澤,帶...
    沈念sama閱讀 35,697評論 5 347
  • 正文 年R本政府宣布蜈抓,位于F島的核電站启绰,受9級特大地震影響,放射性物質發(fā)生泄漏沟使。R本人自食惡果不足惜委可,卻給世界環(huán)境...
    茶點故事閱讀 41,306評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望腊嗡。 院中可真熱鬧着倾,春花似錦、人聲如沸叽唱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,898評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽棺亭。三九已至虎眨,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背嗽桩。 一陣腳步聲響...
    開封第一講書人閱讀 33,019評論 1 270
  • 我被黑心中介騙來泰國打工岳守, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人碌冶。 一個月前我還...
    沈念sama閱讀 48,138評論 3 370
  • 正文 我出身青樓湿痢,卻偏偏與公主長得像,于是被迫代替她去往敵國和親扑庞。 傳聞我的和親對象是個殘疾皇子譬重,可洞房花燭夜當晚...
    茶點故事閱讀 44,927評論 2 355