一條SQL查詢語句是如何執(zhí)行的葫男?

今天簡單聊聊 MySQL 的基礎(chǔ)架構(gòu)抱冷。我們經(jīng)常說,看一個(gè)事兒千萬不要直接陷入細(xì)節(jié)里梢褐,你應(yīng)該先看看總體旺遮,這樣能夠幫助你從高緯度理解問題。同樣盈咳,對于 MySQL 的學(xué)習(xí)也是這樣耿眉。平時(shí)我們使用數(shù)據(jù)庫,看到的通常都是一個(gè)整體鱼响。比如鸣剪,你有個(gè)最簡單的表,表里只有一個(gè) ID 字段丈积,在執(zhí)行下面這個(gè)查詢語句時(shí):

SELECT * FROM A WHERE ID = '404';

我們看到的只是輸入一條語句筐骇,返回一個(gè)結(jié)果,卻不知道這條語句在 MySQL 內(nèi)部的執(zhí)行過程江滨。

所以今天我想和你一起把 MySQL 拆解一下铛纬,看看里面都有哪些“零件”,希望借由這個(gè)拆解過程唬滑,讓你對 MySQL 有更深入的理解告唆。這樣當(dāng)我們碰到 MySQL 的一些異彻妆祝或者問題時(shí),就能夠直戳本質(zhì)擒悬,更為快速地定位并解決問題模她。

下面我給出的是 MySQL 的基本架構(gòu)示意圖,從中你可以清楚地看到 SQL 語句在 MySQL 的各個(gè)功能模塊中的執(zhí)行過程懂牧。


大體來說缝驳,MySQL 可以分為 Server 層和存儲(chǔ)引擎層兩部分。

Server層包括連接器归苍、查詢緩存用狱、分析器、優(yōu)化器拼弃、執(zhí)行器等,涵蓋 MySQL的大多數(shù)核心服務(wù)

能,以及所有的內(nèi)置函數(shù)(如日期夏伊、時(shí)間、數(shù)學(xué)和加密函數(shù)等),所有跨存儲(chǔ)引擎的功能都在

這一層實(shí)現(xiàn),比如存儲(chǔ)過程吻氧、觸發(fā)器溺忧、視圖等。

而存儲(chǔ)引擎層負(fù)責(zé)數(shù)據(jù)的存儲(chǔ)和提取盯孙。其架構(gòu)模式是插件式的,支持 InnoDB鲁森、 MyISAM、

Memory等多個(gè)存儲(chǔ)引擎≌穸瑁現(xiàn)在最常用的存儲(chǔ)引擎是IoDB,它從 MySQL5.5.5版本開始成

為了默認(rèn)存儲(chǔ)引擎歌溉。

也就是說,你執(zhí)行 create table建表的時(shí)候,如果不指定引孳類型,默認(rèn)使用的就是 InnoDB。

不過,你也可以通過指定存儲(chǔ)引擎的類型來選擇別的引擎,比如在 create table語句中使用

engine= memory,來指定使用內(nèi)存引擎創(chuàng)建表骑晶。不同存儲(chǔ)引擎的表數(shù)據(jù)存取方式不同,支持的

功能也不同,在后面的文章中,我們會(huì)討論到引擎的選擇

從圖中不難看出,不同的存儲(chǔ)引擎共用—個(gè) Server層,也就是從連接器到執(zhí)行器的部分痛垛。你可以

先對每個(gè)組件的名字有個(gè)印象,接下來我會(huì)結(jié)合開頭提到的那條SQL語句,帶你走一遍整個(gè)執(zhí)行

流程,依次看下每個(gè)組件的作用

連接器第一步,你會(huì)先連接到這個(gè)數(shù)據(jù)庫上桶蛔,這時(shí)候接待你的就是連接匙头、獲取權(quán)限、維持和管理連接仔雷。命令一般是這么寫的:

mysql -h$ip -P$port -u$user -p

輸完命令之后蹂析,你就需要在交互對話里面輸入密碼。雖然密碼也可以直接跟在 -p 后面寫在命令行中碟婆,但這樣可能會(huì)導(dǎo)致你的密碼泄露电抚。如果你連的是生產(chǎn)服務(wù)器,強(qiáng)烈建議你不要這么做脑融。

連接命令中的 mysql 是客戶端工具喻频,用來跟服務(wù)端建立連接。在完成經(jīng)典的 TCP 握手后肘迎,連接器就要開始認(rèn)證你的身份甥温,這個(gè)時(shí)候用的就是你輸入的用戶名和密碼锻煌。

  • 如果用戶名或密碼不對,你就會(huì)收到一個(gè)"Access denied for user"的錯(cuò)誤姻蚓,然后客戶端程序結(jié)束執(zhí)行宋梧。
  • 如果用戶名密碼認(rèn)證通過,連接器會(huì)到權(quán)限表里面查出你擁有的權(quán)限狰挡。之后捂龄,這個(gè)連接里面的權(quán)限判斷邏輯,都將依賴于此時(shí)讀到的權(quán)限加叁。

這就意味著倦沧,一個(gè)用戶成功建立連接后,即使你用管理員賬號對這個(gè)用戶的權(quán)限做了修改它匕,也不會(huì)影響已經(jīng)存在連接的權(quán)限展融。修改完成后,只有再新建的連接才會(huì)使用新的權(quán)限設(shè)置豫柬。

連接完成后告希,如果你沒有后續(xù)的動(dòng)作,這個(gè)連接就處于空閑狀態(tài)烧给,你可以在 show processlist 命令中看到它燕偶。文本中這個(gè)圖是 show processlist 的結(jié)果,其中的 Command 列顯示為“Sleep”的這一行础嫡,就表示現(xiàn)在系統(tǒng)里面有一個(gè)空閑連接指么。

客戶端如果太長時(shí)間沒動(dòng)靜,連接器就會(huì)自動(dòng)將它斷開驰吓。這個(gè)時(shí)間是由參數(shù) wait_timeout 控制的涧尿,默認(rèn)值是 8 小時(shí)。

如果在連接被斷開之后檬贰,客戶端再次發(fā)送請求的話,就會(huì)收到一個(gè)錯(cuò)誤提醒: Lost connection to MySQL server during query缺亮。這時(shí)候如果你要繼續(xù)翁涤,就需要重連,然后再執(zhí)行請求了萌踱。

數(shù)據(jù)庫里面葵礼,長連接是指連接成功后,如果客戶端持續(xù)有請求并鸵,則一直使用同一個(gè)連接鸳粉。短連接則是指每次執(zhí)行完很少的幾次查詢就斷開連接,下次查詢再重新建立一個(gè)园担。

建立連接的過程通常是比較復(fù)雜的届谈,所以我建議你在使用中要盡量減少建立連接的動(dòng)作枯夜,也就是盡量使用長連接。

但是全部使用長連接后艰山,你可能會(huì)發(fā)現(xiàn)湖雹,有些時(shí)候 MySQL 占用內(nèi)存漲得特別快,這是因?yàn)?MySQL 在執(zhí)行過程中臨時(shí)使用的內(nèi)存是管理在連接對象里面的曙搬。這些資源會(huì)在連接斷開的時(shí)候才釋放摔吏。所以如果長連接累積下來,可能導(dǎo)致內(nèi)存占用太大纵装,被系統(tǒng)強(qiáng)行殺掉(OOM)征讲,從現(xiàn)象看就是 MySQL 異常重啟了。

怎么解決這個(gè)問題呢橡娄?你可以考慮以下兩種方案稳诚。

  1. 定期斷開長連接。使用一段時(shí)間瀑踢,或者程序里面判斷執(zhí)行過一個(gè)占用內(nèi)存的大查詢后扳还,斷開連接,之后要查詢再重連橱夭。

  2. 如果你用的是 MySQL 5.7 或更新版本氨距,可以在每次執(zhí)行一個(gè)比較大的操作后,通過執(zhí)行 mysql_reset_connection 來重新初始化連接資源棘劣。這個(gè)過程不需要重連和重新做權(quán)限驗(yàn)證俏让,但是會(huì)將連接恢復(fù)到剛剛創(chuàng)建完時(shí)的狀態(tài)。

查詢緩存

連接建立完成后茬暇,你就可以執(zhí)行 select 語句了首昔。執(zhí)行邏輯就會(huì)來到第二步:查詢緩存。

MySQL 拿到一個(gè)查詢請求后糙俗,會(huì)先到查詢緩存看看勒奇,之前是不是執(zhí)行過這條語句。之前執(zhí)行過的語句及其結(jié)果可能會(huì)以 key-value 對的形式巧骚,被直接緩存在內(nèi)存中赊颠。key 是查詢的語句,value 是查詢的結(jié)果劈彪。如果你的查詢能夠直接在這個(gè)緩存中找到 key竣蹦,那么這個(gè) value 就會(huì)被直接返回給客戶端。

如果語句不在查詢緩存中沧奴,就會(huì)繼續(xù)后面的執(zhí)行階段痘括。執(zhí)行完成后,執(zhí)行結(jié)果會(huì)被存入查詢緩存中滔吠。你可以看到纲菌,如果查詢命中緩存挠日,MySQL 不需要執(zhí)行后面的復(fù)雜操作,就可以直接返回結(jié)果驰后,這個(gè)效率會(huì)很高肆资。

但是大多數(shù)情況下我會(huì)建議你不要使用查詢緩存,為什么呢灶芝?因?yàn)椴樵兙彺嫱状笥诶?/strong>

查詢緩存的失效非常頻繁郑原,只要有對一個(gè)表的更新,這個(gè)表上所有的查詢緩存都會(huì)被清空夜涕。因此很可能你費(fèi)勁地把結(jié)果存起來犯犁,還沒使用呢,就被一個(gè)更新全清空了女器。對于更新壓力大的數(shù)據(jù)庫來說酸役,查詢緩存的命中率會(huì)非常低。除非你的業(yè)務(wù)就是有一張靜態(tài)表驾胆,很長時(shí)間才會(huì)更新一次涣澡。比如,一個(gè)系統(tǒng)配置表丧诺,那這張表上的查詢才適合使用查詢緩存入桂。

好在 MySQL 也提供了這種“按需使用”的方式。你可以將參數(shù) query_cache_type 設(shè)置成 DEMAND驳阎,這樣對于默認(rèn)的 SQL 語句都不使用查詢緩存抗愁。而對于你確定要使用查詢緩存的語句,可以用 SQL_CACHE 顯式指定呵晚,像下面這個(gè)語句一樣:

mysql> select SQL_CACHE * from T where ID = 10

需要注意的是蜘腌,MySQL 8.0 版本直接將查詢緩存的整塊功能了。

分析器

如果沒有命中查詢緩存饵隙,就要開始真正執(zhí)行語句了撮珠。首先,MySQL 需要知道你要做什么癞季,因此需要對 SQL 語句做解析劫瞳。

分析器先會(huì)做“詞法分析”。你輸入的是由多個(gè)字符串和空格組成的一條 SQL 語句绷柒,MySQL 需要識(shí)別出里面的字符串分別是什么,代表什么涮因。

MySQL 從你輸入的"select"這個(gè)關(guān)鍵字識(shí)別出來废睦,這是一個(gè)查詢語句。它也要把字符串“T”識(shí)別成“表名 T”养泡,把字符串“ID”識(shí)別成“列 ID”嗜湃。

做完了這些識(shí)別以后奈应,就要做“語法分析”。根據(jù)詞法分析的結(jié)果购披,語法分析器會(huì)根據(jù)語法規(guī)則杖挣,判斷你輸入的這個(gè) SQL 語句是否滿足 MySQL 語法。

如果你的語句不對刚陡,就會(huì)收到“You have an error in your SQL syntax”的錯(cuò)誤提醒惩妇,比如下面這個(gè)語句 select 少打了開頭的字母“s”。

mysql> elect * from t where ID=1;

ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1

一般語法錯(cuò)誤會(huì)提示第一個(gè)出現(xiàn)錯(cuò)誤的位置筐乳,所以你要關(guān)注的是緊接“use near”的內(nèi)容歌殃。

優(yōu)化器

經(jīng)過了分析器,MySQL 就知道你要做什么了蝙云。在開始執(zhí)行之前氓皱,還要先經(jīng)過優(yōu)化器的處理。

優(yōu)化器是在表里面有多個(gè)索引的時(shí)候勃刨,決定使用哪個(gè)索引波材;或者在一個(gè)語句有多表關(guān)聯(lián)(join)的時(shí)候,決定各個(gè)表的連接順序身隐。比如你執(zhí)行下面這樣的語句廷区,這個(gè)語句是執(zhí)行兩個(gè)表的 join:

mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;

  • 既可以先從表 t1 里面取出 c=10 的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到表 t2抡医,再判斷 t2 里面 d 的值是否等于 20躲因。
  • 也可以先從表 t2 里面取出 d=20 的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到 t1忌傻,再判斷 t1 里面 c 的值是否等于 10大脉。
  • 這兩種執(zhí)行方法的邏輯結(jié)果是一樣的,但是執(zhí)行的效率會(huì)有不同水孩,而優(yōu)化器的作用就是決定選擇使用哪一個(gè)方案镰矿。

    優(yōu)化器階段完成后,這個(gè)語句的執(zhí)行方案就確定下來了俘种,然后進(jìn)入執(zhí)行器階段秤标。如果你還有一些疑問,比如優(yōu)化器是怎么選擇索引的宙刘,有沒有可能選擇錯(cuò)等等苍姜,沒關(guān)系,我會(huì)在后面的文章中單獨(dú)展開說明優(yōu)化器的內(nèi)容悬包。

    執(zhí)行器

    MySQL 通過分析器知道了你要做什么衙猪,通過優(yōu)化器知道了該怎么做,于是就進(jìn)入了執(zhí)行器階段,開始執(zhí)行語句垫释。

    開始執(zhí)行的時(shí)候丝格,要先判斷一下你對這個(gè)表 T 有沒有執(zhí)行查詢的權(quán)限,如果沒有棵譬,就會(huì)返回沒有權(quán)限的錯(cuò)誤显蝌,如下所示 (在工程實(shí)現(xiàn)上,如果命中查詢緩存订咸,會(huì)在查詢緩存返回結(jié)果的時(shí)候曼尊,做權(quán)限驗(yàn)證。查詢也會(huì)在優(yōu)化器之前調(diào)用 precheck 驗(yàn)證權(quán)限)算谈。

    mysql> select * from T where ID=10;

    ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'

    如果有權(quán)限涩禀,就打開表繼續(xù)執(zhí)行。打開表的時(shí)候然眼,執(zhí)行器就會(huì)根據(jù)表的引擎定義艾船,去使用這個(gè)引擎提供的接口。

    比如我們這個(gè)例子中的表 T 中高每,ID 字段沒有索引屿岂,那么執(zhí)行器的執(zhí)行流程是這樣的:

    1. 調(diào)用 InnoDB 引擎接口取這個(gè)表的第一行,判斷 ID 值是不是 10鲸匿,如果不是則跳過爷怀,如果是則將這行存在結(jié)果集中;

    2. 調(diào)用引擎接口取“下一行”带欢,重復(fù)相同的判斷邏輯运授,直到取到這個(gè)表的最后一行。

    3. 執(zhí)行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結(jié)果集返回給客戶端乔煞。

    至此吁朦,這個(gè)語句就執(zhí)行完成了。

    對于有索引的表渡贾,執(zhí)行的邏輯也差不多逗宜。第一次調(diào)用的是“取滿足條件的第一行”這個(gè)接口,之后循環(huán)取“滿足條件的下一行”這個(gè)接口空骚,這些接口都是引擎中已經(jīng)定義好的纺讲。

    你會(huì)在數(shù)據(jù)庫的慢查詢?nèi)罩局锌吹揭粋€(gè) rows_examined 的字段,表示這個(gè)語句執(zhí)行過程中掃描了多少行囤屹。這個(gè)值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時(shí)候累加的熬甚。

    在有些場景下,執(zhí)行器調(diào)用一次肋坚,在引擎內(nèi)部則掃描了多行则涯,因此引擎掃描行數(shù)跟 rows_examined 并不是完全相同的复局。我們后面會(huì)專門有一篇文章來講存儲(chǔ)引擎的內(nèi)部機(jī)制冲簿,里面會(huì)有詳細(xì)的說明粟判。

    小結(jié)

    今天我給你介紹了 MySQL 的邏輯架構(gòu),希望你對一個(gè) SQL 語句完整執(zhí)行流程的各個(gè)階段有了一個(gè)初步的印象峦剔。由于篇幅的限制档礁,我只是用一個(gè)查詢的例子將各個(gè)環(huán)節(jié)過了一遍。如果你還對每個(gè)環(huán)節(jié)的展開細(xì)節(jié)存有疑問吝沫,也不用擔(dān)心呻澜,后續(xù)在實(shí)戰(zhàn)章節(jié)中我還會(huì)再提到它們。

    我給你留一個(gè)問題吧惨险,如果表 T 中沒有字段 k羹幸,而你執(zhí)行了這個(gè)語句 select * from T where k=1, 那肯定是會(huì)報(bào)“不存在這個(gè)列”的錯(cuò)誤: “Unknown column ‘k’ in ‘where clause’”。你覺得這個(gè)錯(cuò)誤是在我們上面提到的哪個(gè)階段報(bào)出來的呢辫愉?

    感謝你的收聽栅受,歡迎你給我留言,也歡迎分享給更多的朋友一起閱讀恭朗。

    ?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
    • 序言:七十年代末屏镊,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子痰腮,更是在濱河造成了極大的恐慌而芥,老刑警劉巖,帶你破解...
      沈念sama閱讀 223,002評論 6 519
    • 序言:濱河連續(xù)發(fā)生了三起死亡事件膀值,死亡現(xiàn)場離奇詭異棍丐,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)沧踏,發(fā)現(xiàn)死者居然都...
      沈念sama閱讀 95,357評論 3 400
    • 文/潘曉璐 我一進(jìn)店門歌逢,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人悦冀,你說我怎么就攤上這事趋翻。” “怎么了盒蟆?”我有些...
      開封第一講書人閱讀 169,787評論 0 365
    • 文/不壞的土叔 我叫張陵踏烙,是天一觀的道長。 經(jīng)常有香客問我历等,道長讨惩,這世上最難降的妖魔是什么? 我笑而不...
      開封第一講書人閱讀 60,237評論 1 300
    • 正文 為了忘掉前任寒屯,我火速辦了婚禮荐捻,結(jié)果婚禮上黍少,老公的妹妹穿的比我還像新娘。我一直安慰自己处面,他們只是感情好厂置,可當(dāng)我...
      茶點(diǎn)故事閱讀 69,237評論 6 398
    • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著魂角,像睡著了一般昵济。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上野揪,一...
      開封第一講書人閱讀 52,821評論 1 314
    • 那天访忿,我揣著相機(jī)與錄音,去河邊找鬼斯稳。 笑死海铆,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的挣惰。 我是一名探鬼主播卧斟,決...
      沈念sama閱讀 41,236評論 3 424
    • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼通熄!你這毒婦竟也來了唆涝?” 一聲冷哼從身側(cè)響起,我...
      開封第一講書人閱讀 40,196評論 0 277
    • 序言:老撾萬榮一對情侶失蹤唇辨,失蹤者是張志新(化名)和其女友劉穎廊酣,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體赏枚,經(jīng)...
      沈念sama閱讀 46,716評論 1 320
    • 正文 獨(dú)居荒郊野嶺守林人離奇死亡亡驰,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
      茶點(diǎn)故事閱讀 38,794評論 3 343
    • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了饿幅。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片凡辱。...
      茶點(diǎn)故事閱讀 40,928評論 1 353
    • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖栗恩,靈堂內(nèi)的尸體忽然破棺而出透乾,到底是詐尸還是另有隱情,我是刑警寧澤磕秤,帶...
      沈念sama閱讀 36,583評論 5 351
    • 正文 年R本政府宣布乳乌,位于F島的核電站,受9級特大地震影響市咆,放射性物質(zhì)發(fā)生泄漏汉操。R本人自食惡果不足惜,卻給世界環(huán)境...
      茶點(diǎn)故事閱讀 42,264評論 3 336
    • 文/蒙蒙 一蒙兰、第九天 我趴在偏房一處隱蔽的房頂上張望磷瘤。 院中可真熱鬧芒篷,春花似錦、人聲如沸采缚。這莊子的主人今日做“春日...
      開封第一講書人閱讀 32,755評論 0 25
    • 文/蒼蘭香墨 我抬頭看了看天上的太陽仰担。三九已至糊识,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間摔蓝,已是汗流浹背。 一陣腳步聲響...
      開封第一講書人閱讀 33,869評論 1 274
    • 我被黑心中介騙來泰國打工愉耙, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留贮尉,地道東北人。 一個(gè)月前我還...
      沈念sama閱讀 49,378評論 3 379
    • 正文 我出身青樓朴沿,卻偏偏與公主長得像猜谚,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子赌渣,可洞房花燭夜當(dāng)晚...
      茶點(diǎn)故事閱讀 45,937評論 2 361

    推薦閱讀更多精彩內(nèi)容