作為一個程序員,幾乎所有人都使用過 SQL 語言够话,無論是在命令行執(zhí)行蓝翰、程序調(diào)用,還是在 SQL 工具里女嘲,你都做過這樣的事:寫一個規(guī)范的 SQL 語句畜份,然后等待數(shù)據(jù)庫返回的結(jié)果,然后再基于結(jié)果做各種邏輯處理澡为。但是,你知道這條 SQL 語句是咋執(zhí)行的嗎景埃?我打賭你并不是很清楚媒至,讀完全文,你會有完全不同的感受谷徙。
我們經(jīng)常說拒啰,看一個事兒千萬不要直接陷入細(xì)節(jié)里,你應(yīng)該先鳥瞰其全貌完慧,這樣能夠幫助你從高維度理解問題谋旦。同樣,對于 MySQL 的學(xué)習(xí)也是這樣屈尼。平時我們使用數(shù)據(jù)庫册着,看到的通常都是一個整體。比如脾歧,你有個最簡單的表甲捏,表里只有一個 ID 字段,在執(zhí)行下面這個查詢語句時:
mysql> select * from T where ID=10;
我們看到的只是輸入一條語句司顿,返回一個結(jié)果,卻不知道這條語句在 MySQL 內(nèi)部的執(zhí)行過程兄纺。
今天我們就把 MySQL 拆解一下,看看里面都有哪些“零件”估脆,希望借由這個拆解過程,讓你對 MySQL 有更深入的理解。這樣當(dāng)我們碰到 MySQL 的一些異诚撬眨或者問題時,就能夠直擊本質(zhì)伞租,更為快速地定位并解決問題。
下面我給出的是MySQL的基本架構(gòu)示意圖葵诈,從中你可以清楚地看到SQL語句在MySQL的各個功能模塊中的執(zhí)行過程裸弦。
MySQL的邏輯架構(gòu)圖
大體來說作喘,MySQL 可以分為 Server 層和存儲引擎層兩部分理疙。
Server層包括連接器、查詢緩存泞坦、分析器窖贤、優(yōu)化器、執(zhí)行器等贰锁,涵蓋MySQL的大多數(shù)核心服務(wù)功能赃梧,以及所有的內(nèi)置函數(shù)(如日期、時間豌熄、數(shù)學(xué)和加密函數(shù)等)授嘀,所有跨存儲引擎的功能都在這一層實(shí)現(xiàn),比如存儲過程锣险、觸發(fā)器蹄皱、視圖等。
而存儲引擎層負(fù)責(zé)數(shù)據(jù)的存儲和提取芯肤。其架構(gòu)模式是插件式的巷折,支持 InnoDB、MyISAM崖咨、Memory 等多個存儲引擎】福現(xiàn)在最常用的存儲引擎是 InnoDB,它從 MySQL 5.5.5版本開始成為了默認(rèn)存儲引擎掩幢。
也就是說逊拍,你執(zhí)行 create table 建表的時候,如果不指定引擎類型际邻,默認(rèn)使用的就是 InnoDB芯丧。不過,你也可以通過指定存儲引擎的類型來選擇別的引擎世曾,比如在 create table 語句中使用 engine=memory 來指定使用內(nèi)存引擎創(chuàng)建表缨恒。不同存儲引擎的表數(shù)據(jù)存取方式不同谴咸,支持的功能也不同,在后面的文章中骗露,我們會討論到引擎的選擇岭佳。
從圖中不難看出,不同的存儲引擎共用一個 Server 層萧锉,也就是從連接器到執(zhí)行器的部分珊随。你可以先對每個組件的名字有個印象,接下來我會結(jié)合開頭提到的那條SQL語句柿隙,帶你走一遍整個執(zhí)行流程叶洞,依次看下每個組件的作用。
連接器
第一步衩辟,你會先連接到這個數(shù)據(jù)庫上艺晴,這時候接待你的就是連接器掸屡。連接器負(fù)責(zé)跟客戶端建立連接、獲取權(quán)限钥星、維持和管理連接满着。連接命令一般是這么寫的:
mysql -h$ip -P$port -u$user -p
輸完命令之后风喇,你就需要在交互對話里面輸入密碼缕探。雖然密碼也可以直接跟在 -p 后面寫在命令行中,但這樣可能會導(dǎo)致你的密碼泄露耙考。如果你連的是生產(chǎn)服務(wù)器倦始,強(qiáng)烈建議你不要這么做山卦。
連接命令中的 mysql 是客戶端工具,用來跟服務(wù)端建立連接枚碗。在完成經(jīng)典的TCP握手后,連接器就要開始認(rèn)證你的身份遵堵,這個時候用的就是你輸入的用戶名和密碼鄙早。
如果用戶名或密碼不對椅亚,你就會收到一個 “Access denied for user” 的錯誤,然后客戶端程序結(jié)束執(zhí)行弥虐。
如果用戶名密碼認(rèn)證通過霜瘪,連接器會到權(quán)限表里面查出你擁有的權(quán)限惧磺。之后,這個連接里面的權(quán)限判斷邏輯缤底,都將依賴于此時讀到的權(quán)限番捂。
這就意味著,一個用戶成功建立連接后徙歼,即使你用管理員賬號對這個用戶的權(quán)限做了修改魄梯,也不會影響已經(jīng)存在連接的權(quán)限宾符。修改完成后,只有再新建的連接才會使用新的權(quán)限設(shè)置允扇。
連接完成后,如果你沒有后續(xù)的動作狭园,這個連接就處于空閑狀態(tài)糊治,你可以在 show processlist 命令中看到它。文本中這個圖是 show processlist 的結(jié)果绎谦,其中的 Command 列顯示為 “Sleep” 的這一行窃肠,就表示現(xiàn)在系統(tǒng)里面有一個空閑連接刷允。
客戶端如果太長時間沒動靜,連接器就會自動將它斷開泊窘。這個時間是由參數(shù) wait_timeout 控制的像寒,默認(rèn)值是 8 小時。
如果在連接被斷開之后吴叶,客戶端再次發(fā)送請求的話序臂,就會收到一個錯誤提醒: Lost connection to MySQL server during query奥秆。這時候如果你要繼續(xù)咸灿,就需要重連,然后再執(zhí)行請求了悼瘾。
數(shù)據(jù)庫里面,長連接是指連接成功后卸勺,如果客戶端持續(xù)有請求烫扼,則一直使用同一個連接。短連接則是指每次執(zhí)行完很少的幾次查詢就斷開連接悟狱,下次查詢再重新建立一個堰氓。
建立連接的過程通常是比較復(fù)雜的双絮,所以我建議你在使用中要盡量減少建立連接的動作,也就是盡量使用長連接白胀。
但是全部使用長連接后抚岗,你可能會發(fā)現(xiàn),有些時候 MySQL 占用內(nèi)存漲得特別快向抢,這是因?yàn)?MySQL 在執(zhí)行過程中臨時使用的內(nèi)存是管理在連接對象里面的挟鸠。這些資源會在連接斷開的時候才釋放亩冬。所以如果長連接累積下來,可能導(dǎo)致內(nèi)存占用太大覆享,被系統(tǒng)強(qiáng)行殺掉(OOM)营袜,從現(xiàn)象看就是MySQL異常重啟了。
怎么解決這個問題呢凤壁?你可以考慮以下兩種方案。
1祟峦、定期斷開長連接徙鱼。使用一段時間,或者程序里面判斷執(zhí)行過一個占用內(nèi)存的大查詢后厌衙,斷開連接婶希,之后要查詢再重連蓬衡。
2、如果你用的是 MySQL 5.7 或更新版本筒饰,可以在每次執(zhí)行一個比較大的操作后壁晒,通過執(zhí)行 mysql_reset_connection 來重新初始化連接資源。這個過程不需要重連和重新做權(quán)限驗(yàn)證谬晕,但是會將連接恢復(fù)到剛剛創(chuàng)建完時的狀態(tài)攒钳。
查詢緩存
連接建立完成后雷滋,你就可以執(zhí)行 select 語句了。執(zhí)行邏輯就會來到第二步:查詢緩存燎孟。
MySQL 拿到一個查詢請求后尸昧,會先到查詢緩存看看烹俗,之前是不是執(zhí)行過這條語句。之前執(zhí)行過的語句及其結(jié)果可能會以 key-value 對的形式幢妄,被直接緩存在內(nèi)存中。key 是查詢的語句乎赴,value 是查詢的結(jié)果潮尝。如果你的查詢能夠直接在這個緩存中找到 key,那么這個 value 就會被直接返回給客戶端羹蚣。
如果語句不在查詢緩存中顽素,就會繼續(xù)后面的執(zhí)行階段徒蟆。執(zhí)行完成后,執(zhí)行結(jié)果會被存入查詢緩存中划鸽。你可以看到戚哎,如果查詢命中緩存型凳,MySQL 不需要執(zhí)行后面的復(fù)雜操作,就可以直接返回結(jié)果埂蕊,這個效率會很高疏唾。
但是大多數(shù)情況下我會建議你不要使用查詢緩存,為什么呢喉童?因?yàn)椴樵兙彺嫱状笥诶?/p>
查詢緩存的失效非常頻繁堂氯,只要有對一個表的更新,這個表上所有的查詢緩存都會被清空咽白。因此很可能你費(fèi)勁地把結(jié)果存起來,還沒使用呢排抬,就被一個更新全清空了授段。對于更新壓力大的數(shù)據(jù)庫來說畴蒲,查詢緩存的命中率會非常低。除非你的業(yè)務(wù)就是有一張靜態(tài)表咖祭,很長時間才會更新一次蔫骂。比如,一個系統(tǒng)配置表浩嫌,那這張表上的查詢才適合使用查詢緩存补胚。
好在 MySQL 也提供了這種“按需使用”的方式。你可以將參數(shù) query_cache_type 設(shè)置成 DEMAND溶其,這樣對于默認(rèn)的SQL語句都不使用查詢緩存。而對于你確定要使用查詢緩存的語句束铭,可以用 SQL_CACHE 顯式指定厢绝,像下面這個語句一樣:
mysql> select SQL_CACHE * from T where ID=10昔汉;
需要注意的是,MySQL 8.0 版本直接將查詢緩存的整塊功能刪掉了钞速,也就是說 8.0 開始徹底沒有這個功能了嫡秕。
分析器
如果沒有命中查詢緩存,就要開始真正執(zhí)行語句了驾凶。首先调违,MySQL 需要知道你要做什么泻轰,因此需要對 SQL 語句做解析。
分析器先會做“詞法分析”虚婿。你輸入的是由多個字符串和空格組成的一條 SQL 語句泳挥,MySQL 需要識別出里面的字符串分別是什么,代表什么剧浸。
MySQL 從你輸入的 “select” 這個關(guān)鍵字識別出來唆香,這是一個查詢語句吨艇。它也要把字符串 “T” 識別成 “表名T”,把字符串 “ID” 識別成 “列ID”虑凛。
做完了這些識別以后软啼,就要做“語法分析”祸挪。根據(jù)詞法分析的結(jié)果,語法分析器會根據(jù)語法規(guī)則雹仿,判斷你輸入的這個SQL語句是否滿足 MySQL 語法。
如果你的語句不對峻仇,就會收到 “You have an error in your SQL syntax” 的錯誤提醒邑商,比如下面這個語句 select 少打了開頭的字母 “s”人断。
mysql> elect * from t where ID=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1
一般語法錯誤會提示第一個出現(xiàn)錯誤的位置,所以你要關(guān)注的是緊挨著 “use near” 的內(nèi)容涩金。
優(yōu)化器
經(jīng)過了分析器步做,MySQL就知道你要做什么了熔吗。在開始執(zhí)行之前,還要先經(jīng)過優(yōu)化器的處理讼载。
優(yōu)化器是在表里面有多個索引的時候中跌,決定使用哪個索引;或者在一個語句有多表關(guān)聯(lián)(join)的時候一喘,決定各個表的連接順序嗜暴。比如你執(zhí)行下面這樣的語句,這個語句是執(zhí)行兩個表的 join:
mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
1萎战、既可以先從表 t1 里面取出 c=10 的記錄的 ID 值蚂维,再根據(jù) ID 值關(guān)聯(lián)到表 t2,再判斷 t2 里面 d 的值是否等于 20虫啥。
2、也可以先從表 t2 里面取出 c=20 的記錄的 ID 值涂籽,再根據(jù) ID 值關(guān)聯(lián)到 t1又活,再判斷 t1 里面 c 的值是否等于 10锰悼。
這兩種執(zhí)行方法的邏輯結(jié)果是一樣的,但是執(zhí)行的效率會有不同箕般,而優(yōu)化器的作用就是決定選擇使用哪一個方案丝里。
優(yōu)化器階段完成后,這個語句的執(zhí)行方案就確定下來了臼婆,然后進(jìn)入執(zhí)行器階段幌绍。如果你還有一些疑問,比如優(yōu)化器是怎么選擇索引的颁独,有沒有可能選擇錯等等矮锈,沒關(guān)系,我會在后面的文章中單獨(dú)展開說明優(yōu)化器的內(nèi)容貌亭。
執(zhí)行器
MySQL 通過分析器知道了你要做什么靠柑,通過優(yōu)化器知道了該怎么做歼冰,于是就進(jìn)入了執(zhí)行器階段骄瓣,開始執(zhí)行語句耍攘。
開始執(zhí)行的時候蕾各,要先判斷一下你對這個表 T 有沒有執(zhí)行查詢的權(quán)限庆揪,如果沒有,就會返回沒有權(quán)限的錯誤吝羞,如下所示钧排。
mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'
如果有權(quán)限均澳,就打開表繼續(xù)執(zhí)行。打開表的時候糟袁,優(yōu)化器就會根據(jù)表的引擎定義躺盛,去使用這個引擎提供的接口。
比如我們這個例子中的表 T 中周叮,ID 字段沒有索引则吟,那么執(zhí)行器的執(zhí)行流程是這樣的:
1、調(diào)用 InnoDB 引擎接口取這個表的第一行氓仲,判斷ID值是不是10敬扛,如果不是則跳過朝抖,如果是則將這行存在結(jié)果集中;
2急侥、調(diào)用引擎接口取“下一行”,重復(fù)相同的判斷邏輯坏怪,直到取到這個表的最后一行。
3打掘、執(zhí)行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結(jié)果集返回給客戶端。
至此尊蚁,這個語句就執(zhí)行完成了横朋。
對于有索引的表惜纸,執(zhí)行的邏輯也差不多绝骚。第一次調(diào)用的是 “取滿足條件的第一行” 這個接口,之后循環(huán)取 “滿足條件的下一行” 這個接口粪牲,這些接口都是引擎中已經(jīng)定義好的止剖。
你會在數(shù)據(jù)庫的慢查詢?nèi)罩局锌吹揭粋€ rows_examined 的字段穿香,表示這個語句執(zhí)行過程中掃描了多少行。這個值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時候累加的焙蚓。
在有些場景下洒宝,執(zhí)行器調(diào)用一次雁歌,在引擎內(nèi)部則掃描了多行,因此引擎掃描行數(shù)跟 rows_examined 并不是完全相同的比庄。我們后面會專門有一篇文章來講存儲引擎的內(nèi)部機(jī)制,里面會有詳細(xì)的說明扒最。