MySQL系列(2):一條SQL更新語句是如何執(zhí)行的

在上一篇文章里其掂,我介紹了MySQL執(zhí)行SQL查詢語句的流程以及MySQL內(nèi)部各個組件的作用嗅定。相信你還記得,一條查詢語句的執(zhí)行過程一般是經(jīng)過連接器番捂、分析器个唧、優(yōu)化器、執(zhí)行器等功能模塊设预,最后到達存儲引擎徙歼。這里我再把那張MySQL的架構圖拿過來回顧下。
MySQL基本架構圖

你可能聽DBA說過鳖枕,MySQL 可以恢復到半個月內(nèi)任意一秒的狀態(tài)魄梯,驚嘆的同時,你是不是心中也會不免會好奇耕魄,這是怎樣做到的呢画恰?

本文會帶你探討這個問題,不過開始之前吸奴,我們需要先了解:一條更新語句的執(zhí)行流程是怎樣的允扇。

我們以一條SQL更新語句為例:

mysql> update T set c=c+1 where ID=2;

首先,可以確定的說则奥,查詢語句的那一套流程考润,更新語句也是同樣會走一遍。

執(zhí)行更新語句前要先連接數(shù)據(jù)庫读处,這是連接器的工作糊治。

前面我們說過,在一個表上有更新的時候罚舱,跟這個表有關的查詢緩存會失效井辜,所以這條語句就會把表 T 上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因管闷。

接下來粥脚,分析器會通過詞法和語法解析知道這是一條更新語句。優(yōu)化器決定要使用 ID 這個索引包个。然后刷允,執(zhí)行器負責具體執(zhí)行,找到這一行,然后更新树灶。

與查詢流程不一樣的是纤怒,更新流程還涉及兩個重要的日志模塊,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)天通。

重要的日志模塊:redo log

不知道你還記不記得《孔乙己》這篇文章泊窘,酒店掌柜有一個粉板,專門用來記錄客人的賒賬記錄土砂。如果賒賬的人不多州既,那么他可以把顧客名和賬目寫在板上。但如果賒賬的人多了萝映,粉板總會有記不下的時候吴叶,這個時候掌柜還有一個專門記錄賒賬的賬本。

如果有人要賒賬或者還賬的話序臂,掌柜一般有兩種做法:

  • 一種做法是直接把賬本翻出來蚌卤,把這次賒的賬加上去或者扣除掉;
  • 另一種做法是先在粉板上記下這次的賬奥秆,等打烊以后再把賬本翻出來核算逊彭。

在生意紅火柜臺很忙時,掌柜一定會選擇后者构订,因為前者需要在密密麻麻的賬本里找賒賬記錄侮叮,還要打著算盤做計算,操作實在是太麻煩了悼瘾。

同樣囊榜,在 MySQL 里也有這個問題,如果每一次的更新操作都需要寫進磁盤亥宿,然后磁盤也要找到對應的那條記錄卸勺,然后再更新,整個過程 IO 成本烫扼、查找成本都很高曙求。為了解決這個問題,MySQL 的設計者就用了類似酒店掌柜粉板的思路來提升更新效率映企。

而粉板和賬本配合的整個過程悟狱,其實就是 MySQL 里經(jīng)常說到的 WAL 技術,WAL 的全稱是 Write-Ahead Logging堰氓,它的關鍵點就是先寫日志挤渐,再寫磁盤,也就是先寫粉板豆赏,等不忙的時候再寫賬本。

具體來說,當有一條記錄需要更新的時候掷邦,InnoDB 引擎就會先把記錄寫到 redo log(粉板)里面白胀,并更新內(nèi)存,這個時候更新就算完成了抚岗。同時或杠,InnoDB 引擎會在適當?shù)臅r候,將這個操作記錄更新到磁盤里面宣蔚,而這個更新往往是在系統(tǒng)比較空閑的時候做向抢,這就像打烊以后掌柜做的事。

如果今天賒賬的不多胚委,掌柜可以等打烊后再整理挟鸠。但如果某天賒賬的特別多,粉板寫滿了亩冬,這個時候掌柜只好放下手中的活兒艘希,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉硅急,為記新賬騰出空間覆享。

與此類似,InnoDB 的 redo log 是固定大小的营袜,比如可以配置為一組 4 個文件撒顿,每個文件的大小是 1GB,那么這塊“粉板”總共就可以記錄 4GB 的操作荚板。從頭開始寫凤壁,寫到末尾就又回到開頭循環(huán)寫,如下面這個圖所示啸驯。

write pos 是當前記錄的位置客扎,一邊寫一邊后移,寫到第 3 號文件末尾后就回到 0 號文件開頭罚斗。checkpoint 是當前要擦除的位置徙鱼,也是往后推移并且循環(huán)的,擦除記錄前要把記錄更新到數(shù)據(jù)文件针姿。

write pos 和 checkpoint 之間的是“粉板”上還空著的部分袱吆,可以用來記錄新的操作。如果 write pos 追上 checkpoint距淫,表示“粉板”滿了绞绒,這時候不能再執(zhí)行新的更新,得停下來先擦掉一些記錄榕暇,把 checkpoint 推進一下蓬衡。

有了 redo log喻杈,InnoDB 就可以保證即使數(shù)據(jù)庫發(fā)生異常重啟,之前提交的記錄都不會丟失狰晚,這個能力稱為 crash-safe筒饰。

要理解 crash-safe 這個概念,可以想想我們前面賒賬記錄的例子壁晒。只要賒賬記錄記在了粉板上或寫在了賬本上瓷们,之后即使掌柜忘記了,比如突然停業(yè)幾天秒咐,恢復生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目谬晕。

重要的日志模塊:binlog

前面我們講過,MySQL 整體來看携取,其實就有兩塊:一塊是 Server 層攒钳,它主要做的是 MySQL 功能層面的事情;還有一塊是引擎層歹茶,負責存儲相關的具體事宜夕玩。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志,而 Server 層也有自己的日志惊豺,稱為 binlog(歸檔日志)燎孟。

我想你肯定會問,為什么會有兩份日志呢尸昧?

因為最開始 MySQL 里并沒有 InnoDB 引擎揩页。MySQL 自帶的引擎是 MyISAM,但是 MyISAM 沒有 crash-safe 的能力烹俗,binlog 日志只能用于歸檔爆侣。而 InnoDB 是另一個公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的幢妄,所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實現(xiàn) crash-safe 能力兔仰。

這兩種日志有以下三點不同。

  1. redo log 是 InnoDB 引擎特有的蕉鸳;binlog 是 MySQL 的 Server 層實現(xiàn)的乎赴,所有引擎都可以使用。
  2. redo log 是物理日志潮尝,物理日志就是說 redo log 保存的是某一行數(shù)據(jù)修改之后的值榕吼,比如把ID=2這行的字段 c 的值由1改成2,redo log 記錄的就是這個2勉失;binlog 是邏輯日志羹蚣,記錄的是這個語句的原始邏輯,其中一種形式是記錄的原始sql語句乱凿,比如“update T set c = c +1 where ID = 2”顽素。
  3. redo log 是循環(huán)寫的咽弦,空間固定會用完;binlog 是可以追加寫入的胁出±牖#“追加寫”是指 binlog 文件寫到一定大小后會切換到下一個,并不會覆蓋以前的日志划鸽。

有了對這兩個日志的概念性理解,我們再來看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個簡單的 update 語句時的內(nèi)部流程戚哎。

  1. 執(zhí)行器先找引擎取 ID=2 這一行裸诽。ID 是主鍵,引擎直接用樹搜索找到這一行型凳。如果 ID=2 這一行所在的數(shù)據(jù)頁本來就在內(nèi)存中丈冬,就直接返回給執(zhí)行器;否則甘畅,需要先從磁盤讀入內(nèi)存埂蕊,然后再返回。
  2. 執(zhí)行器拿到引擎給的行數(shù)據(jù)疏唾,把這個值加上 1蓄氧,比如原來是 N,現(xiàn)在就是 N+1槐脏,得到新的一行數(shù)據(jù)喉童,再調用引擎接口寫入這行新數(shù)據(jù)。
  3. 引擎將這行新數(shù)據(jù)更新到內(nèi)存中顿天,同時將這個更新操作記錄到 redo log 里面堂氯,此時 redo log 處于 prepare 狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了牌废,隨時可以提交事務咽白。
  4. 執(zhí)行器生成這個操作的 binlog,并把 binlog 寫入磁盤鸟缕。
  5. 執(zhí)行器調用引擎的提交事務接口晶框,引擎把剛剛寫入的 redo log 改成提交(commit)狀態(tài),更新完成叁扫。

這里我給出這個 update 語句的執(zhí)行流程圖三妈,圖中淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的,深色框表示是在執(zhí)行器中執(zhí)行的莫绣。
update更新語句執(zhí)行流程

你可能注意到了畴蒲,最后三步看上去有點“繞”,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit对室,這就是"兩階段提交"模燥。

兩階段提交

為什么必須有“兩階段提交”呢咖祭?這是為了讓 redo log 與 binlog 兩份日志之間的邏輯一致。

要說明這個問題蔫骂,我們得從文章開頭的那個問題說起:怎樣讓數(shù)據(jù)庫恢復到半個月內(nèi)任意一秒的狀態(tài)?

前面我們說過了么翰,binlog 會記錄所有的邏輯操作,并且是采用“追加寫”的形式辽旋。如果你的 DBA 承諾說半個月內(nèi)可以恢復浩嫌,那么備份系統(tǒng)中一定會保存最近半個月的所有 binlog,同時系統(tǒng)會定期做整庫備份补胚。這里的“定期”取決于系統(tǒng)的重要性码耐,可以是一天一備,也可以是一周一備溶其。

當需要恢復到指定的某一秒時骚腥,比如某天下午兩點發(fā)現(xiàn)中午十二點有一次誤刪表,需要找回數(shù)據(jù)瓶逃,那你可以這么做:

  • 首先束铭,找到最近的一次全量備份,如果你運氣好厢绝,可能就是昨天晚上的一個備份契沫,從這個備份恢復到臨時庫;
  • 然后昔汉,從備份的時間點開始埠褪,將備份的 binlog 依次取出來,重放到中午誤刪表之前的那個時刻挤庇。

這樣你的臨時庫就跟誤刪之前的線上庫一樣了钞速,然后你可以把表數(shù)據(jù)從臨時庫取出來,按需要恢復到線上庫去嫡秕。

好了渴语,說完了數(shù)據(jù)恢復過程,我們回來說說昆咽,為什么日志需要“兩階段提交”驾凶。這里不妨用反證法來進行解釋。

由于 redo log 和 binlog 是兩個獨立的邏輯掷酗,如果不用兩階段提交调违,要么就是先寫完 redo log 再寫 binlog,或者采用反過來的順序泻轰。我們看看這兩種方式會有什么問題技肩。

仍然用前面的 update 語句來做例子。假設當前 ID=2 的行浮声,字段 c 的值是 0虚婿,再假設執(zhí)行 update 語句過程中在寫完第一個日志后旋奢,第二個日志還沒有寫完期間發(fā)生了 crash,會出現(xiàn)什么情況呢然痊?

  1. 先寫 redo log 后寫 binlog至朗。假設在 redo log 寫完,binlog 還沒有寫完的時候剧浸,MySQL 進程異常重啟锹引。由于我們前面說過的,redo log 寫完之后唆香,系統(tǒng)即使崩潰粤蝎,仍然能夠把數(shù)據(jù)恢復回來,所以恢復后這一行 c 的值是 1袋马。但是由于 binlog 沒寫完就 crash 了,這時候 binlog 里面就沒有記錄這個語句秸应。因此虑凛,之后備份日志的時候,存起來的 binlog 里面就沒有這條語句软啼。然后你會發(fā)現(xiàn)桑谍,如果需要用這個 binlog 來恢復臨時庫的話,由于這個語句的 binlog 丟失祸挪,這個臨時庫就會少了這一次更新锣披,恢復出來的這一行 c 的值就是 0,與原庫的值不同贿条。
  2. 先寫 binlog 后寫 redo log雹仿。如果在 binlog 寫完之后 crash,由于 redo log 還沒寫整以,崩潰恢復以后這個事務無效胧辽,所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個日志公黑。所以邑商,在之后用 binlog 來恢復的時候就多了一個事務出來,恢復出來的這一行 c 的值就是 1凡蚜,與原庫的值不同人断。

可以看到,如果不使用“兩階段提交”朝蜘,那么數(shù)據(jù)庫的狀態(tài)就有可能和用它的日志恢復出來的庫的狀態(tài)不一致恶迈。

因此,兩階段提交的流程是:

  1. 完成 redo log 的寫入谱醇,處于 prepare 階段蝉绷。
  2. 寫 binlog鸭廷。
  3. 提交事務,處于 commit 狀態(tài)熔吗。

現(xiàn)在我們康康在各個階段數(shù)據(jù)庫異常崩潰時辆床,MySQL如何保證重啟恢復和備份恢復的邏輯一致:

  1. 當在2之前崩潰時:
    • 重啟恢復:發(fā)現(xiàn)沒有 commit,回滾桅狠。
    • 備份恢復:沒有 binlog 讼载。
  2. 當在3之前崩潰時:
    • 重啟恢復:雖沒有 commit,但滿足 prepare 和 binlog 完整中跌,所以重啟后會自動 commit咨堤。
    • 備份恢復:有 binlog。

你可以看到漩符,在兩階段提交的任何階段發(fā)生數(shù)據(jù)庫崩潰一喘,redo log 和 binlog 的邏輯狀態(tài)都能保持一致。

你可能會說嗜暴,這個概率是不是很低凸克,平時也沒有什么動不動就需要恢復臨時庫的場景呀?其實不是的闷沥,不只是誤操作后需要用這個過程來恢復數(shù)據(jù)萎战。當你需要擴容的時候,也就是需要再多搭建一些備庫來增加系統(tǒng)的讀能力的時候舆逃,現(xiàn)在常見的做法也是用全量備份加上應用 binlog 來實現(xiàn)的蚂维,這個“不一致”就會導致你的線上出現(xiàn)主從數(shù)據(jù)庫不一致的情況。

簡單說路狮,redo log 和 binlog 都可以用于表示事務的提交狀態(tài)虫啥,而兩階段提交就是讓這兩個狀態(tài)保持邏輯上的一致。

小結

本文介紹了MySQL更新語句的執(zhí)行過程奄妨,并重點介紹了redo log和binlog的作用以及兩階段提交的意義孝鹊。

  • redo log:保證即使數(shù)據(jù)庫發(fā)生異常重啟,之前提交的記錄都不會丟失展蒂。
  • binlog:可將數(shù)據(jù)內(nèi)容恢復到某個具體時刻又活。
  • 兩階段提交:用于保證 redo log和 binlog 的邏輯一致性。

希望你對MySQL的 redo log和 binlog 有一個大致的了解锰悼。

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末柳骄,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子箕般,更是在濱河造成了極大的恐慌耐薯,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,692評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異曲初,居然都是意外死亡体谒,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,482評論 3 392
  • 文/潘曉璐 我一進店門臼婆,熙熙樓的掌柜王于貴愁眉苦臉地迎上來抒痒,“玉大人,你說我怎么就攤上這事颁褂」氏欤” “怎么了?”我有些...
    開封第一講書人閱讀 162,995評論 0 353
  • 文/不壞的土叔 我叫張陵颁独,是天一觀的道長彩届。 經(jīng)常有香客問我,道長誓酒,這世上最難降的妖魔是什么樟蠕? 我笑而不...
    開封第一講書人閱讀 58,223評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮靠柑,結果婚禮上寨辩,老公的妹妹穿的比我還像新娘。我一直安慰自己病往,他們只是感情好,可當我...
    茶點故事閱讀 67,245評論 6 388
  • 文/花漫 我一把揭開白布骄瓣。 她就那樣靜靜地躺著停巷,像睡著了一般。 火紅的嫁衣襯著肌膚如雪榕栏。 梳的紋絲不亂的頭發(fā)上畔勤,一...
    開封第一講書人閱讀 51,208評論 1 299
  • 那天,我揣著相機與錄音扒磁,去河邊找鬼庆揪。 笑死,一個胖子當著我的面吹牛妨托,可吹牛的內(nèi)容都是我干的缸榛。 我是一名探鬼主播,決...
    沈念sama閱讀 40,091評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼兰伤,長吁一口氣:“原來是場噩夢啊……” “哼内颗!你這毒婦竟也來了?” 一聲冷哼從身側響起敦腔,我...
    開封第一講書人閱讀 38,929評論 0 274
  • 序言:老撾萬榮一對情侶失蹤均澳,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體找前,經(jīng)...
    沈念sama閱讀 45,346評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡糟袁,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,570評論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了躺盛。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片项戴。...
    茶點故事閱讀 39,739評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖颗品,靈堂內(nèi)的尸體忽然破棺而出肯尺,到底是詐尸還是另有隱情,我是刑警寧澤躯枢,帶...
    沈念sama閱讀 35,437評論 5 344
  • 正文 年R本政府宣布则吟,位于F島的核電站,受9級特大地震影響锄蹂,放射性物質發(fā)生泄漏氓仲。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,037評論 3 326
  • 文/蒙蒙 一得糜、第九天 我趴在偏房一處隱蔽的房頂上張望敬扛。 院中可真熱鬧,春花似錦朝抖、人聲如沸啥箭。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,677評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽急侥。三九已至,卻和暖如春侮邀,著一層夾襖步出監(jiān)牢的瞬間坏怪,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,833評論 1 269
  • 我被黑心中介騙來泰國打工绊茧, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留铝宵,地道東北人。 一個月前我還...
    沈念sama閱讀 47,760評論 2 369
  • 正文 我出身青樓华畏,卻偏偏與公主長得像鹏秋,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子亡笑,可洞房花燭夜當晚...
    茶點故事閱讀 44,647評論 2 354