一、MySQL一條SQL語句查詢語句是怎么執(zhí)行的查排?
本文整理自個人訂閱的極客時間《mysql實戰(zhàn)45講》的筆記凳枝。
我們經(jīng)常說,看一個事兒千萬不要直接陷入細(xì)節(jié)里跋核,你應(yīng)該先鳥瞰其全貌岖瑰,這樣能夠幫助你從高維度理解問題。
同樣砂代,對于MySQL的學(xué)習(xí)也是這樣蹋订。平時我們使用數(shù)據(jù)庫,看到的通常都是一個整體刻伊。
比如露戒,你有個最簡單的表,表里只有一個ID字段捶箱,在執(zhí)行下面這個查詢語句時:
mysql>:
select * from user where id = 10;
我們看到的只是輸入一條語句智什,返回一個結(jié)果,卻不知道這條語句在MySQL內(nèi)部的執(zhí)行過程丁屎。
今天來把MySQL拆解一下荠锭,看看里面都有哪些“零件”,希望這個拆解過程晨川,讓你對MySQL有更深入的理解证九。這樣當(dāng)我們碰到MySQL的一些異常或者問題時共虑,就能夠直戳本質(zhì)愧怜,更為快速地定位并解決問題。
下面我是MySQL的基本架構(gòu)示意圖看蚜,從中你可以清楚地看到SQL語句在MySQL的各個功能模塊中的執(zhí)行過程泛粹。
大體來說涣达,MySQL可以分為Server層和存儲引擎層兩部分悍手。
Server層包括連接器妙啃、查詢緩存、分析器音诫、優(yōu)化器惨奕、執(zhí)行器
等,涵蓋MySQL的大多數(shù)核心服務(wù)功能竭钝,以及所有的內(nèi)置函數(shù)(如日期梨撞、時間、數(shù)學(xué)和加密函數(shù)等)香罐,所有跨存儲引擎的功能都在這一層實現(xiàn)卧波,比如存儲過程、觸發(fā)器庇茫、視圖等
而存儲引擎層負(fù)責(zé)數(shù)據(jù)的存儲和提取
港粱。其架構(gòu)模式是插件式的,支持InnoDB旦签、MyISAM查坪、Memory
等多個存儲引擎。現(xiàn)在最常用的存儲引擎是InnoDB宁炫,它從MySQL 5.5.5版本開始成為了默認(rèn)存儲引擎偿曙。
也就是說,你執(zhí)行create table建表的時候羔巢,如果不指定引擎類型望忆,默認(rèn)使用的就是InnoDB。
不過朵纷,你也可以通過指定存儲引擎的類型來選擇別的引擎炭臭,比如在create table語句中使用engine=memory, 來指定使用內(nèi)存引擎創(chuàng)建表。不同存儲引擎的表數(shù)據(jù)存取方式不同袍辞,支持的功能也不同鞋仍。
從圖中不難看出,不同的存儲引擎共用一個Server層搅吁,也就是從連接器到執(zhí)行器的部分威创。你可以先對每個組件的名字有個印象,接下來我會結(jié)合開頭提到的那條SQL語句谎懦,帶你走一遍整個執(zhí)行流程肚豺,依次看下每個組件的作用。
1.連接器
第一步界拦,你會先連接到這個數(shù)據(jù)庫上吸申,這時候接待你的就是連接器。連接器負(fù)責(zé)跟客戶端建立連接、獲取權(quán)限截碴、維持和管理連接梳侨。
連接命令一般是這么寫的:mysql -h$ip -P$port -u$user -p
輸完命令之后,你就需要在交互對話里面輸入密碼日丹。雖然密碼也可以直接跟在-p后面寫在命令行中走哺,但這樣可能會導(dǎo)致你的密碼泄露。如果你連的是生產(chǎn)服務(wù)器哲虾,強烈建議你不要這么做丙躏。
連接命令中的mysql是客戶端工具,用來跟服務(wù)端建立連接束凑。在完成經(jīng)典的TCP握手后晒旅,連接器就要開始認(rèn)證你的身份,這個時候用的就是你輸入的用戶名和密碼汪诉。
- 如果用戶名或密碼不對敢朱,你就會收到一個"Access denied for user"的錯誤,然后客戶端程序結(jié)束執(zhí)行摩瞎。
- 如果用戶名密碼認(rèn)證通過拴签,連接器會到權(quán)限表里面查出你擁有的權(quán)限。之后旗们,這個連接里面的權(quán)限判斷邏輯蚓哩,都將依賴于此時讀到的權(quán)限。
這就意味著上渴,一個用戶成功建立連接后岸梨,即使你用管理員賬號對這個用戶的權(quán)限做了修改,也不會影響已經(jīng)存在連接的權(quán)限稠氮。修改完成后曹阔,只有再新建的連接才會使用新的權(quán)限設(shè)置。
連接完成后隔披,如果你沒有后續(xù)的動作赃份,這個連接就處于空閑狀態(tài),你可以在show processlist命令中看到它奢米。文本中這個圖是show processlist的結(jié)果抓韩,其中的Command列顯示為“Sleep”的這一行,就表示現(xiàn)在系統(tǒng)里面有一個空閑連接鬓长。
客戶端如果太長時間沒動靜谒拴,連接器就會自動將它斷開。這個時間是由參數(shù)wait_timeout控制的涉波,默認(rèn)值是8小時英上。
如果在連接被斷開之后炭序,客戶端再次發(fā)送請求的話,就會收到一個錯誤提醒: Lost connection to MySQL server during query苍日。這時候如果你要繼續(xù)少态,就需要重連,然后再執(zhí)行請求了易遣。
數(shù)據(jù)庫里面,長連接是指連接成功后嫌佑,如果客戶端持續(xù)有請求豆茫,則一直使用同一個連接。短連接則是指每次執(zhí)行完很少的幾次查詢就斷開連接屋摇,下次查詢再重新建立一個揩魂。
建立連接的過程通常是比較復(fù)雜的,所以我建議你在使用中要盡量減少建立連接的動作炮温,也就是盡量使用長連接火脉。
但是全部使用長連接后,你可能會發(fā)現(xiàn)柒啤,有些時候MySQL占用內(nèi)存漲得特別快倦挂,這是因為MySQL在執(zhí)行過程中臨時使用的內(nèi)存是管理在連接對象里面的。
這些資源會在連接斷開的時候才釋放担巩。所以如果長連接累積下來方援,可能導(dǎo)致內(nèi)存占用太大,被系統(tǒng)強行殺掉(OOM)涛癌,從現(xiàn)象看就是MySQL異常重啟了犯戏。
怎么解決這個問題呢?你可以考慮以下兩種方案拳话。
1.定期斷開長連接先匪。使用一段時間,或者程序里面判斷執(zhí)行過一個占用內(nèi)存的大查詢后弃衍,斷開連接呀非,之后要查詢再重連。
2.如果你用的是MySQL 5.7或更新版本镜盯,可以在每次執(zhí)行一個比較大的操作后姜钳,通過執(zhí)行 mysql_reset_connection來重新初始化連接資源。這個過程不需要重連和重新做權(quán)限驗證形耗,但是會將連接恢復(fù)到剛剛創(chuàng)建完時的狀態(tài)哥桥。
2.查詢緩存
連接建立完成后,你就可以執(zhí)行select語句了激涤。執(zhí)行邏輯就會來到第二步:查詢緩存拟糕。
MySQL拿到一個查詢請求后判呕,會先到查詢緩存看看,之前是不是執(zhí)行過這條語句送滞。之前執(zhí)行過的語句及其結(jié)果可能會以key-value對的形式侠草,被直接緩存在內(nèi)存中。key是查詢的語句犁嗅,value是查詢的結(jié)果边涕。如果你的查詢能夠直接在這個緩存中找到key,那么這個value就會被直接返回給客戶端褂微。
如果語句不在查詢緩存中功蜓,就會繼續(xù)后面的執(zhí)行階段。執(zhí)行完成后宠蚂,執(zhí)行結(jié)果會被存入查詢緩存中式撼。你可以看到,如果查詢命中緩存求厕,MySQL不需要執(zhí)行后面的復(fù)雜操作著隆,就可以直接返回結(jié)果,這個效率會很高呀癣。
但是大多數(shù)情況下我會建議你不要使用查詢緩存美浦,為什么呢?因為查詢緩存往往弊大于利项栏。
查詢緩存的失效非常頻繁抵代,只要有對一個表的更新,這個表上所有的查詢緩存都會被清空忘嫉。因此很可能你費勁地把結(jié)果存起來荤牍,還沒使用呢,就被一個更新全清空了庆冕。對于更新壓力大的數(shù)據(jù)庫來說康吵,查詢緩存的命中率會非常低。除非你的業(yè)務(wù)就是有一張靜態(tài)表访递,很長時間才會更新一次晦嵌。比如,一個系統(tǒng)配置表拷姿,那這張表上的查詢才適合使用查詢緩存惭载。
好在MySQL也提供了這種“按需使用”的方式。你可以將參數(shù)query_cache_type設(shè)置成DEMAND响巢,這樣對于默認(rèn)的SQL語句都不使用查詢緩存描滔。而對于你確定要使用查詢緩存的語句,可以用SQL_CACHE顯式指定踪古。
像下面這個語句一樣:mysql>: select * from user where id = 10;
需要注意的是含长,MySQL 8.0版本直接將查詢緩存的整塊功能刪掉了券腔,也就是說8.0開始徹底沒有這個功能了。
3.分析器
如果沒有命中查詢緩存拘泞,就要開始真正執(zhí)行語句了纷纫。首先,MySQL需要知道你要做什么陪腌,因此需要對SQL語句做解析辱魁。
分析器先會做“詞法分析”。你輸入的是由多個字符串和空格組成的一條SQL語句诗鸭,MySQL需要識別出里面的字符串分別是什么染簇,代表什么。
MySQL從你輸入的"select"這個關(guān)鍵字識別出來只泼,這是一個查詢語句。它也要把字符串“user”識別成“表名user”卵洗,把字符串“ID”識別成“列ID”请唱。
做完了這些識別以后,就要做“語法分析”过蹂。根據(jù)詞法分析的結(jié)果十绑,語法分析器會根據(jù)語法規(guī)則,判斷你輸入的這個SQL語句是否滿足MySQL語法酷勺。
如果你的語句不對本橙,就會收到“You have an error in your SQL syntax”的錯誤提醒,比如下面這個語句select少打了開頭的字母“s”脆诉。
mysql> elect * from user where ID=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from user where ID=1' at line 1
一般語法錯誤會提示第一個出現(xiàn)錯誤的位置甚亭,所以你要關(guān)注的是緊接“use near”的內(nèi)容。
4.優(yōu)化器
經(jīng)過了分析器击胜,MySQL就知道你要做什么了亏狰。在開始執(zhí)行之前,還要先經(jīng)過優(yōu)化器的處理偶摔。
優(yōu)化器是在表里面有多個索引的時候暇唾,決定使用哪個索引;或者在一個語句有多表關(guān)聯(lián)(join)的時候辰斋,決定各個表的連接順序策州。比如你執(zhí)行下面這樣的語句,這個語句是執(zhí)行兩個表的join:
mysql> select * from user1 join uesr2 using(ID) where uesr1.c=10 and user2.d=20;
- 既可以先從表user1里面取出c=10的記錄的ID值宫仗,再根據(jù)ID值關(guān)聯(lián)到表user2够挂,再判斷user2里面d的值是否等于20。
- 也可以先從表user2里面取出d=20的記錄的ID值藕夫,再根據(jù)ID值關(guān)聯(lián)到表user1下硕,再判斷t1里面c的值是否等于10丁逝。
這兩種執(zhí)行方法的邏輯結(jié)果是一樣的,但是執(zhí)行的效率會有不同梭姓,而優(yōu)化器的作用就是決定選擇使用哪一個方案霜幼。
優(yōu)化器階段完成后,這個語句的執(zhí)行方案就確定下來了誉尖,然后進(jìn)入執(zhí)行器階段罪既。如果你還有一些疑問,比如優(yōu)化器是怎么選擇索引的铡恕,有沒有可能選擇錯等等琢感,沒關(guān)系,我會在后面的文章中單獨展開說明優(yōu)化器的內(nèi)容探熔。
5.執(zhí)行器
MySQL通過分析器知道了你要做什么驹针,通過優(yōu)化器知道了該怎么做,于是就進(jìn)入了執(zhí)行器階段诀艰,開始執(zhí)行語句柬甥。
開始執(zhí)行的時候,要先判斷一下你對這個表user有沒有執(zhí)行查詢的權(quán)限其垄,如果沒有苛蒲,就會返回沒有權(quán)限的錯誤,如下所示(在工程實現(xiàn)上绿满,如果命中查詢緩存臂外,會在查詢緩存放回結(jié)果的時候,做權(quán)限驗證喇颁。查詢也會在優(yōu)化器之前調(diào)用precheck驗證權(quán)限)漏健。
mysql> select * from user where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'user'
如果有權(quán)限,就打開表繼續(xù)執(zhí)行橘霎。打開表的時候漾肮,執(zhí)行器就會根據(jù)表的引擎定義,去使用這個引擎提供的接口
比如我們這個例子中的表user中茎毁,ID字段沒有索引克懊,那么執(zhí)行器的執(zhí)行流程是這樣的:
1.調(diào)用InnoDB引擎接口取user表的第一行,判斷ID值是不是10七蜘,如果不是則跳過谭溉,如果是則將這行存在結(jié)果集中;
2.調(diào)用引擎接口取“下一行”橡卤,重復(fù)相同的判斷邏輯扮念,直到取到這個user的最后一行。
3.執(zhí)行器將上述遍歷過程中所有滿足條件的行組成的記錄集作為結(jié)果集返回給客戶端碧库。
至此柜与,這個語句就執(zhí)行完成了巧勤。
對于有索引的表,執(zhí)行的邏輯也差不多弄匕。第一次調(diào)用的是“取滿足條件的第一行”這個接口颅悉,之后循環(huán)取“滿足條件的下一行”這個接口,這些接口都是引擎中已經(jīng)定義好的迁匠。
你會在數(shù)據(jù)庫的慢查詢?nèi)罩局锌吹揭粋€rows_examined的字段剩瓶,表示這個語句執(zhí)行過程中掃描了多少行。這個值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時候累加的城丧。
在有些場景下延曙,執(zhí)行器調(diào)用一次,在引擎內(nèi)部則掃描了多行亡哄,因此引擎掃描行數(shù)跟rows_examined并不是完全相同的枝缔。我們后面會專門有一篇文章來講存儲引擎的內(nèi)部機(jī)制,里面會有詳細(xì)的說明蚊惯。
6.小結(jié)
本文介紹了MySQL的邏輯架構(gòu)愿卸,讓你對一個SQL語句完整執(zhí)行流程的各個階段有了一個初步的印象。
7.問題回顧
如果表user中沒有字段k拣挪,而你執(zhí)行了這個語句 select * from user where k=1
, 那肯定是會報“不存在這個列”的錯誤: “Unknown column ‘k’ in ‘where clause’”擦酌。你覺得這個錯誤是在我上面提到的哪個階段報出來的呢俱诸?