前面我們系統(tǒng)了解了一個查詢語句的執(zhí)行流程,并介紹了執(zhí)行過程中涉及的處理模塊其徙。相信你還記得,一條查詢語句的執(zhí)行過程一般是經(jīng)過連接器、分析器躬审、優(yōu)化器、執(zhí)行器等功能模塊溯捆,最后到達存儲引擎仲墨。
那么,一條更新語句的執(zhí)行流程又是怎樣的呢疏遏?
之前你可能經(jīng)常聽 DBA 同事說脉课,MySQL 可以恢復到半個月內任意一秒的狀態(tài),驚嘆的同時财异,你是不是心中也會不免會好奇倘零,這是怎樣做到的呢?
我們還是從一個表的一條更新語句說起戳寸,下面是這個表的創(chuàng)建語句呈驶,這個表有一個主鍵 ID 和一個整型字段 c:
mysql> create table T(ID int primary key, c int);
如果要將 ID=2 這一行的值加 1,SQL 語句就會這么寫:
mysql> update T set c=c+1 where ID=2;
前面我有跟你介紹過 SQL 語句基本的執(zhí)行鏈路疫鹊,這里我再把那張圖拿過來袖瞻,你也可以先簡單看看這個圖回顧下。首先拆吆,可以確定的說聋迎,查詢語句的那一套流程,更新語句也是同樣會走一遍枣耀。
你執(zhí)行語句前要先連接數(shù)據(jù)庫霉晕,這是連接器的工作。
前面我們說過,在一個表上有更新的時候娄昆,跟這個表有關的查詢緩存會失效佩微,所以這條語句就會把表 T 上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因萌焰。
接下來哺眯,分析器會通過詞法和語法解析知道這是一條更新語句。優(yōu)化器決定要使用 ID 這個索引扒俯。然后奶卓,執(zhí)行器負責具體執(zhí)行,找到這一行撼玄,然后更新夺姑。
與查詢流程不一樣的是,更新流程還涉及兩個重要的日志模塊掌猛,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)盏浙。如果接觸 MySQL,那這兩個詞肯定是繞不過的荔茬,我后面的內容里也會不斷地和你強調废膘。不過話說回來,redo log 和 binlog 在設計上有很多有意思的地方慕蔚,這些設計思路也可以用到你自己的程序里丐黄。
重要的日志模塊:redo log
不知道你還記不記得《孔乙己》這篇文章,酒店掌柜有一個粉板孔飒,專門用來記錄客人的賒賬記錄灌闺。如果賒賬的人不多,那么他可以把顧客名和賬目寫在板上坏瞄。但如果賒賬的人多了桂对,粉板總會有記不下的時候,這個時候掌柜一定還有一個專門記錄賒賬的賬本鸠匀。
如果有人要賒賬或者還賬的話蕉斜,掌柜一般有兩種做法:
- 一種做法是直接把賬本翻出來,把這次賒的賬加上去或者扣除掉狮崩;
- 另一種做法是先在粉板上記下這次的賬蛛勉,等打烊以后再把賬本翻出來核算。
在生意紅火柜臺很忙時睦柴,掌柜一定會選擇后者诽凌,因為前者操作實在是太麻煩了。首先坦敌,你得找到這個人的賒賬總額那條記錄侣诵。你想想痢法,密密麻麻幾十頁,掌柜要找到那個名字杜顺,可能還得帶上老花鏡慢慢找财搁,找到之后再拿出算盤計算,最后再將結果寫回到賬本上躬络。
這整個過程想想都麻煩尖奔。相比之下,還是先在粉板上記一下方便穷当。你想想提茁,如果掌柜沒有粉板的幫助,每次記賬都得翻賬本馁菜,效率是不是低得讓人難以忍受茴扁?
同樣,在 MySQL 里也有這個問題汪疮,如果每一次的更新操作都需要寫進磁盤峭火,然后磁盤也要找到對應的那條記錄,然后再更新智嚷,整個過程 IO 成本卖丸、查找成本都很高。為了解決這個問題纤勒,MySQL 的設計者就用了類似酒店掌柜粉板的思路來提升更新效率坯苹。
而粉板和賬本配合的整個過程隆檀,其實就是 MySQL 里經(jīng)常說到的 WAL 技術摇天,WAL 的全稱是 Write-Ahead Logging,它的關鍵點就是先寫日志恐仑,再寫磁盤泉坐,也就是先寫粉板,等不忙的時候再寫賬本裳仆。
具體來說腕让,當有一條記錄需要更新的時候,InnoDB 引擎就會先把記錄寫到 redo log(粉板)里面歧斟,并更新內存纯丸,這個時候更新就算完成了。同時静袖,InnoDB 引擎會在適當?shù)臅r候觉鼻,將這個操作記錄更新到磁盤里面,而這個更新往往是在系統(tǒng)比較空閑的時候做队橙,這就像打烊以后掌柜做的事坠陈。
如果今天賒賬的不多萨惑,掌柜可以等打烊后再整理。但如果某天賒賬的特別多仇矾,粉板寫滿了庸蔼,又怎么辦呢?這個時候掌柜只好放下手中的活兒贮匕,把粉板中的一部分賒賬記錄更新到賬本中姐仅,然后把這些記錄從粉板上擦掉,為記新賬騰出空間刻盐。
與此類似萍嬉,InnoDB 的 redo log 是固定大小的,比如可以配置為一組 4 個文件隙疚,每個文件的大小是 1GB壤追,那么這塊“粉板”總共就可以記錄 4GB 的操作。從頭開始寫供屉,寫到末尾就又回到開頭循環(huán)寫行冰,如下面這個圖所示。
write pos 是當前記錄的位置伶丐,一邊寫一邊后移悼做,寫到第 3 號文件末尾后就回到 0 號文件開頭。checkpoint 是當前要擦除的位置哗魂,也是往后推移并且循環(huán)的肛走,擦除記錄前要把記錄更新到數(shù)據(jù)文件。
write pos 和 checkpoint 之間的是“粉板”上還空著的部分录别,可以用來記錄新的操作朽色。如果 write pos 追上 checkpoint,表示“粉板”滿了组题,這時候不能再執(zhí)行新的更新葫男,得停下來先擦掉一些記錄,把 checkpoint 推進一下崔列。
有了 redo log梢褐,InnoDB 就可以保證即使數(shù)據(jù)庫發(fā)生異常重啟,之前提交的記錄都不會丟失赵讯,這個能力稱為crash-safe盈咳。
要理解 crash-safe 這個概念,可以想想我們前面賒賬記錄的例子边翼。只要賒賬記錄記在了粉板上或寫在了賬本上鱼响,之后即使掌柜忘記了,比如突然停業(yè)幾天讯私,恢復生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目热押。
重要的日志模塊:binlog
前面我們講過西傀,MySQL 整體來看,其實就有兩塊:一塊是 Server 層桶癣,它主要做的是 MySQL 功能層面的事情拥褂;還有一塊是引擎層,負責存儲相關的具體事宜牙寞。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志饺鹃,而 Server 層也有自己的日志,稱為 binlog(歸檔日志)间雀。
我想你肯定會問悔详,為什么會有兩份日志呢?
因為最開始 MySQL 里并沒有 InnoDB 引擎惹挟。MySQL 自帶的引擎是 MyISAM茄螃,但是 MyISAM 沒有 crash-safe 的能力,binlog 日志只能用于歸檔连锯。而 InnoDB 是另一個公司以插件形式引入 MySQL 的归苍,既然只依靠 binlog 是沒有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實現(xiàn) crash-safe 能力运怖。
這兩種日志有以下三點不同拼弃。
redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 層實現(xiàn)的摇展,所有引擎都可以使用吻氧。
redo log 是物理日志,記錄的是“在某個數(shù)據(jù)頁上做了什么修改”咏连;binlog 是邏輯日志盯孙,記錄的是這個語句的原始邏輯,比如“給 ID=2 這一行的 c 字段加 1 ”捻勉。
redo log 是循環(huán)寫的镀梭,空間固定會用完刀森;binlog 是可以追加寫入的踱启。“追加寫”是指 binlog 文件寫到一定大小后會切換到下一個研底,并不會覆蓋以前的日志埠偿。
有了對這兩個日志的概念性理解,我們再來看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個簡單的 update 語句時的內部流程榜晦。
執(zhí)行器先找引擎取 ID=2 這一行冠蒋。ID 是主鍵,引擎直接用樹搜索找到這一行乾胶。如果 ID=2 這一行所在的數(shù)據(jù)頁本來就在內存中抖剿,就直接返回給執(zhí)行器朽寞;否則,需要先從磁盤讀入內存斩郎,然后再返回脑融。
執(zhí)行器拿到引擎給的行數(shù)據(jù),把這個值加上 1缩宜,比如原來是 N肘迎,現(xiàn)在就是 N+1,得到新的一行數(shù)據(jù)锻煌,再調用引擎接口寫入這行新數(shù)據(jù)妓布。
引擎將這行新數(shù)據(jù)更新到內存中,同時將這個更新操作記錄到 redo log 里面宋梧,此時 redo log 處于 prepare 狀態(tài)匣沼。然后告知執(zhí)行器執(zhí)行完成了,隨時可以提交事務捂龄。
執(zhí)行器生成這個操作的 binlog肛著,并把 binlog 寫入磁盤。
執(zhí)行器調用引擎的提交事務接口跺讯,引擎把剛剛寫入的 redo log 改成提交(commit)狀態(tài)枢贿,更新完成。
這里我給出這個 update 語句的執(zhí)行流程圖刀脏,圖中淺色框表示是在 InnoDB 內部執(zhí)行的局荚,深色框表示是在執(zhí)行器中執(zhí)行的。
你可能注意到了愈污,最后三步看上去有點“繞”耀态,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit,這就是"兩階段提交"暂雹。
兩階段提交
為什么必須有“兩階段提交”呢首装?這是為了讓兩份日志之間的邏輯一致。要說明這個問題杭跪,我們得從文章開頭的那個問題說起:怎樣讓數(shù)據(jù)庫恢復到半個月內任意一秒的狀態(tài)仙逻?
前面我們說過了,binlog 會記錄所有的邏輯操作涧尿,并且是采用“追加寫”的形式系奉。如果你的 DBA 承諾說半個月內可以恢復,那么備份系統(tǒng)中一定會保存最近半個月的所有 binlog姑廉,同時系統(tǒng)會定期做整庫備份缺亮。這里的“定期”取決于系統(tǒng)的重要性,可以是一天一備桥言,也可以是一周一備萌踱。
當需要恢復到指定的某一秒時葵礼,比如某天下午兩點發(fā)現(xiàn)中午十二點有一次誤刪表,需要找回數(shù)據(jù)并鸵,那你可以這么做:
- 首先章咧,找到最近的一次全量備份,如果你運氣好能真,可能就是昨天晚上的一個備份赁严,從這個備份恢復到臨時庫;
- 然后粉铐,從備份的時間點開始疼约,將備份的 binlog 依次取出來,重放到中午誤刪表之前的那個時刻蝙泼。
這樣你的臨時庫就跟誤刪之前的線上庫一樣了程剥,然后你可以把表數(shù)據(jù)從臨時庫取出來,按需要恢復到線上庫去汤踏。
好了织鲸,說完了數(shù)據(jù)恢復過程,我們回來說說溪胶,為什么日志需要“兩階段提交”搂擦。這里不妨用反證法來進行解釋。
由于 redo log 和 binlog 是兩個獨立的邏輯哗脖,如果不用兩階段提交瀑踢,要么就是先寫完 redo log 再寫 binlog,或者采用反過來的順序才避。我們看看這兩種方式會有什么問題橱夭。
仍然用前面的 update 語句來做例子。假設當前 ID=2 的行桑逝,字段 c 的值是 0棘劣,再假設執(zhí)行 update 語句過程中在寫完第一個日志后,第二個日志還沒有寫完期間發(fā)生了 crash楞遏,會出現(xiàn)什么情況呢茬暇?
先寫 redo log 后寫 binlog。假設在 redo log 寫完橱健,binlog 還沒有寫完的時候而钞,MySQL 進程異常重啟。由于我們前面說過的拘荡,redo log 寫完之后,系統(tǒng)即使崩潰撬陵,仍然能夠把數(shù)據(jù)恢復回來珊皿,所以恢復后這一行 c 的值是 1网缝。
但是由于 binlog 沒寫完就 crash 了,這時候 binlog 里面就沒有記錄這個語句蟋定。因此粉臊,之后備份日志的時候,存起來的 binlog 里面就沒有這條語句驶兜。
然后你會發(fā)現(xiàn)扼仲,如果需要用這個 binlog 來恢復臨時庫的話,由于這個語句的 binlog 丟失抄淑,這個臨時庫就會少了這一次更新屠凶,恢復出來的這一行 c 的值就是 0,與原庫的值不同肆资。先寫 binlog 后寫 redo log矗愧。如果在 binlog 寫完之后 crash,由于 redo log 還沒寫郑原,崩潰恢復以后這個事務無效唉韭,所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個日志犯犁。所以属愤,在之后用 binlog 來恢復的時候就多了一個事務出來,恢復出來的這一行 c 的值就是 1酸役,與原庫的值不同春塌。
可以看到,如果不使用“兩階段提交”簇捍,那么數(shù)據(jù)庫的狀態(tài)就有可能和用它的日志恢復出來的庫的狀態(tài)不一致只壳。
你可能會說,這個概率是不是很低暑塑,平時也沒有什么動不動就需要恢復臨時庫的場景呀吼句?
其實不是的,不只是誤操作后需要用這個過程來恢復數(shù)據(jù)事格。當你需要擴容的時候惕艳,也就是需要再多搭建一些備庫來增加系統(tǒng)的讀能力的時候,現(xiàn)在常見的做法也是用全量備份加上應用 binlog 來實現(xiàn)的驹愚,這個“不一致”就會導致你的線上出現(xiàn)主從數(shù)據(jù)庫不一致的情況远搪。
簡單說,redo log 和 binlog 都可以用于表示事務的提交狀態(tài)逢捺,而兩階段提交就是讓這兩個狀態(tài)保持邏輯上的一致谁鳍。
小結
介紹了 MySQL 里面最重要的兩個日志,即物理日志 redo log 和邏輯日志 binlog。
redo log 用于保證 crash-safe 能力倘潜。innodb_flush_log_at_trx_commit 這個參數(shù)設置成 1 的時候绷柒,表示每次事務的 redo log 都直接持久化到磁盤。這個參數(shù)我建議你設置成 1涮因,這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失废睦。
sync_binlog 這個參數(shù)設置成 1 的時候,表示每次事務的 binlog 都持久化到磁盤养泡。這個參數(shù)我也建議你設置成 1嗜湃,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。
我還跟你介紹了與 MySQL 日志系統(tǒng)密切相關的“兩階段提交”澜掩。兩階段提交是跨系統(tǒng)維持數(shù)據(jù)邏輯一致性時常用的一個方案购披,即使你不做數(shù)據(jù)庫內核開發(fā),日常開發(fā)中也有可能會用到输硝。
個思考題吧今瀑。前面我說到定期全量備份的周期“取決于系統(tǒng)重要性,有的是一天一備点把,有的是一周一備”橘荠。那么在什么場景下,一天一備會比一周一備更有優(yōu)勢呢郎逃?或者說哥童,它影響了這個數(shù)據(jù)庫系統(tǒng)的哪個指標?