- 前面我們系統(tǒng)了解了一個查詢語句的執(zhí)行流程啦粹，并介紹了執(zhí)行過程中涉及的處理模塊。相信你還記得晕讲，一條查詢語句的執(zhí)行過程一般是經(jīng)過連接器贵白、分析器、優(yōu)化器倍谜、執(zhí)行器等功能模塊迈螟，最后到達存儲引擎。
- 那么尔崔，一條更新語句的執(zhí)行流程又是怎樣的呢答毫？
- 之前你可能經(jīng)常聽 DBA 同事說，MySQL 可以恢復(fù)到半個月內(nèi)任意一秒的狀態(tài)您旁，驚嘆的同時烙常，你是不是心中也會不免會好奇，這是怎樣做到的呢？
- 我們還是從一個表的一條更新語句說起蚕脏，下面是這個表的創(chuàng)建語句侦副，這個表有一個主鍵 ID 和一個整型字段 c：
mysql> create table T(ID int primary key, c int);
- 如果要將 ID=2 這一行的值加 1，SQL 語句就會這么寫：
mysql> update T set c=c+1 where ID=2;
- 前面我有跟你介紹過 SQL 語句基本的執(zhí)行鏈路驼鞭，這里我再把那張圖拿過來秦驯，你也可以先簡單看看這個圖回顧下。首先挣棕，可以確定的說译隘，查詢語句的那一套流程，更新語句也是同樣會走一遍洛心。
MySQL 的邏輯架構(gòu)圖 - 你執(zhí)行語句前要先連接數(shù)據(jù)庫固耘，這是連接器的工作。
- 前面我們說過词身，在一個表上有更新的時候厅目，跟這個表有關(guān)的查詢緩存會失效，所以這條語句就會把表 T 上所有緩存結(jié)果都清空法严。這也就是我們一般不建議使用查詢緩存的原因损敷。
- 接下來，分析器會通過詞法和語法解析知道這是一條更新語句深啤。優(yōu)化器決定要使用 ID 這個索引拗馒。然后，執(zhí)行器負責具體執(zhí)行溯街，找到這一行诱桂，然后更新。
- 與查詢流程不一樣的是苫幢，更新流程還涉及兩個重要的日志模塊访诱，它們正是我們今天要討論的主角：redo log（重做日志）和 binlog（歸檔日志）。如果接觸 MySQL韩肝，那這兩個詞肯定是繞不過的触菜，我后面的內(nèi)容里也會不斷地和你強調(diào)。不過話說回來哀峻，redo log 和 binlog 在設(shè)計上有很多有意思的地方涡相，這些設(shè)計思路也可以用到你自己的程序里。
重要的日志模塊：redo log
不知道你還記不記得《孔乙己》這篇文章剩蟀，酒店掌柜有一個粉板催蝗，專門用來記錄客人的賒賬記錄。如果賒賬的人不多育特，那么他可以把顧客名和賬目寫在板上丙号。但如果賒賬的人多了先朦，粉板總會有記不下的時候，這個時候掌柜一定還有一個專門記錄賒賬的賬本犬缨。
如果有人要賒賬或者還賬的話喳魏，掌柜一般有兩種做法：
一種做法是直接把賬本翻出來，把這次賒的賬加上去或者扣除掉怀薛；
另一種做法是先在粉板上記下這次的賬刺彩，等打烊以后再把賬本翻出來核算。
在生意紅火柜臺很忙時枝恋，掌柜一定會選擇后者创倔，因為前者操作實在是太麻煩了。首先焚碌，你得找到這個人的賒賬總額那條記錄畦攘。你想想，密密麻麻幾十頁呐能，掌柜要找到那個名字念搬，可能還得帶上老花鏡慢慢找，找到之后再拿出算盤計算摆出，最后再將結(jié)果寫回到賬本上。
這整個過程想想都麻煩首妖。相比之下偎漫，還是先在粉板上記一下方便。你想想有缆，如果掌柜沒有粉板的幫助象踊，每次記賬都得翻賬本，效率是不是低得讓人難以忍受棚壁？
- 同樣杯矩，在 MySQL 里也有這個問題，如果每一次的更新操作都需要寫進磁盤袖外，然后磁盤也要找到對應(yīng)的那條記錄史隆，然后再更新，整個過程 IO 成本曼验、查找成本都很高泌射。為了解決這個問題，MySQL 的設(shè)計者就用了類似酒店掌柜粉板的思路來提升更新效率鬓照。
- 而粉板和賬本配合的整個過程熔酷，其實就是 MySQL 里經(jīng)常說到的 WAL 技術(shù)，WAL 的全稱是 Write-Ahead Logging豺裆，它的關(guān)鍵點就是先寫日志拒秘，再寫磁盤，也就是先寫粉板，等不忙的時候再寫賬本躺酒。
- 具體來說咙轩，當有一條記錄需要更新的時候，InnoDB 引擎就會先把記錄寫到 redo log（粉板）里面阴颖，并更新內(nèi)存活喊，這個時候更新就算完成了。同時量愧，InnoDB 引擎會在適當?shù)臅r候钾菊，將這個操作記錄更新到磁盤里面，而這個更新往往是在系統(tǒng)比較空閑的時候做偎肃，這就像打烊以后掌柜做的事煞烫。
- 如果今天賒賬的不多，掌柜可以等打烊后再整理累颂。但如果某天賒賬的特別多滞详，粉板寫滿了，又怎么辦呢紊馏？這個時候掌柜只好放下手中的活兒料饥，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉朱监，為記新賬騰出空間岸啡。
-
與此類似，InnoDB 的 redo log 是固定大小的赫编，比如可以配置為一組 4 個文件巡蘸，每個文件的大小是 1GB，那么這塊“粉板”總共就可以記錄 4GB 的操作擂送。從頭開始寫悦荒，寫到末尾就又回到開頭循環(huán)寫，如下面這個圖所示嘹吨。
循環(huán)隊列 - write pos 是當前記錄的位置搬味，一邊寫一邊后移，寫到第 3 號文件末尾后就回到 0 號文件開頭躺苦。checkpoint 是當前要擦除的位置身腻，也是往后推移并且循環(huán)的，擦除記錄前要把記錄更新到數(shù)據(jù)文件匹厘。
- write pos 和 checkpoint 之間的是“粉板”上還空著的部分嘀趟，可以用來記錄新的操作。如果 write pos 追上 checkpoint愈诚，表示“粉板”滿了她按，這時候不能再執(zhí)行新的更新牛隅，得停下來先擦掉一些記錄，把 checkpoint 推進一下酌泰。
- 有了 redo log媒佣，InnoDB 就可以保證即使數(shù)據(jù)庫發(fā)生異常重啟，之前提交的記錄都不會丟失陵刹，這個能力稱為 crash-safe默伍。
- 要理解 crash-safe 這個概念，可以想想我們前面賒賬記錄的例子衰琐。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上也糊，之后即使掌柜忘記了，比如突然停業(yè)幾天羡宙，恢復(fù)生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目狸剃。
重要的日志模塊：binlog
- 前面我們講過，MySQL 整體來看狗热，其實就有兩塊：一塊是 Server 層钞馁，它主要做的是 MySQL 功能層面的事情；還有一塊是引擎層匿刮，負責存儲相關(guān)的具體事宜僧凰。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志，而 Server 層也有自己的日志僻焚，稱為 binlog（歸檔日志）允悦。
- Binlog有兩種模式，statement 格式的話是記sql語句虑啤， row格式會記錄行的內(nèi)容，記兩條架馋，更新前和更新后都有狞山。 如何查看 binlog： https://zhuanlan.zhihu.com/p/33504555 1. 搜索 log 名稱：show variables like '%log_bin%'; 2. 查看 log 內(nèi)容：show binlog events in 'binlog.000009’ 或 使用命令行工具：mysqlbinlog binlog.000009。
- 我想你肯定會問叉寂，為什么會有兩份日志呢萍启？
- 因為最開始 MySQL 里并沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM屏鳍，但是 MyISAM 沒有 crash-safe 的能力勘纯，binlog 日志只能用于歸檔。而 InnoDB 是另一個公司以插件形式引入 MySQL 的钓瞭，既然只依靠 binlog 是沒有 crash-safe 能力的驳遵，所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實現(xiàn) crash-safe 能力。
- 這兩種日志有以下三點不同山涡。
- redo log 是 InnoDB 引擎特有的堤结；binlog 是 MySQL 的 Server 層實現(xiàn)的唆迁，所有引擎都可以使用。
- redo log 是物理日志竞穷，記錄的是“在某個數(shù)據(jù)頁上做了什么修改”唐责；binlog 是邏輯日志，記錄的是這個語句的原始邏輯瘾带，比如“給 ID=2 這一行的 c 字段加 1 ”鼠哥。
- redo log 是循環(huán)寫的，空間固定會用完看政；binlog 是可以追加寫入的朴恳。“追加寫”是指 binlog 文件寫到一定大小后會切換到下一個帽衙，并不會覆蓋以前的日志菜皂。
- 有了對這兩個日志的概念性理解，我們再來看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個簡單的 update 語句時的內(nèi)部流程厉萝。
- 執(zhí)行器先找引擎取 ID=2 這一行恍飘。ID 是主鍵，引擎直接用樹搜索找到這一行谴垫。如果 ID=2 這一行所在的數(shù)據(jù)頁本來就在內(nèi)存中章母，就直接返回給執(zhí)行器；否則翩剪，需要先從磁盤讀入內(nèi)存乳怎，然后再返回。
- 執(zhí)行器拿到引擎給的行數(shù)據(jù)前弯，把這個值加上 1蚪缀，比如原來是 N，現(xiàn)在就是 N+1恕出，得到新的一行數(shù)據(jù)询枚，再調(diào)用引擎接口寫入這行新數(shù)據(jù)。
- 引擎將這行新數(shù)據(jù)更新到內(nèi)存中浙巫，同時將這個更新操作記錄到 redo log 里面金蜀，此時 redo log 處于 prepare 狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了的畴，隨時可以提交事務(wù)渊抄。
- 執(zhí)行器生成這個操作的 binlog，并把 binlog 寫入磁盤丧裁。
- 執(zhí)行器調(diào)用引擎的提交事務(wù)接口护桦，引擎把剛剛寫入的 redo log 改成提交（commit）狀態(tài)，更新完成渣慕。
-
這里我給出這個 update 語句的執(zhí)行流程圖嘶炭，圖中淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的抱慌，深色框表示是在執(zhí)行器中執(zhí)行的。
update 語句執(zhí)行流程 - 你可能注意到了眨猎，最后三步看上去有點“繞”抑进，將 redo log 的寫入拆成了兩個步驟：prepare 和 commit，這就是"兩階段提交"睡陪。
兩階段提交
- 為什么必須有“兩階段提交”呢寺渗？這是為了讓兩份日志之間的邏輯一致。要說明這個問題兰迫，我們得從文章開頭的那個問題說起：怎樣讓數(shù)據(jù)庫恢復(fù)到半個月內(nèi)任意一秒的狀態(tài)信殊？
- 前面我們說過了，binlog 會記錄所有的邏輯操作汁果，并且是采用“追加寫”的形式涡拘。如果你的 DBA 承諾說半個月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會保存最近半個月的所有 binlog据德，同時系統(tǒng)會定期做整庫備份鳄乏。這里的“定期”取決于系統(tǒng)的重要性，可以是一天一備棘利，也可以是一周一備橱野。
- 當需要恢復(fù)到指定的某一秒時，比如某天下午兩點發(fā)現(xiàn)中午十二點有一次誤刪表善玫，需要找回數(shù)據(jù)水援，那你可以這么做：
- 首先，找到最近的一次全量備份茅郎，如果你運氣好蜗元，可能就是昨天晚上的一個備份，從這個備份恢復(fù)到臨時庫系冗；
- 然后许帐，從備份的時間點開始，將備份的 binlog 依次取出來毕谴，重放到中午誤刪表之前的那個時刻。
- 這樣你的臨時庫就跟誤刪之前的線上庫一樣了距芬，然后你可以把表數(shù)據(jù)從臨時庫取出來涝开，按需要恢復(fù)到線上庫去。
- 好了框仔，說完了數(shù)據(jù)恢復(fù)過程舀武，我們回來說說，為什么日志需要“兩階段提交”离斩。這里不妨用反證法來進行解釋银舱。
- 由于 redo log 和 binlog 是兩個獨立的邏輯瘪匿，如果不用兩階段提交，要么就是先寫完 redo log 再寫 binlog寻馏，或者采用反過來的順序棋弥。我們看看這兩種方式會有什么問題。
- 仍然用前面的 update 語句來做例子诚欠。假設(shè)當前 ID=2 的行顽染，字段 c 的值是 0，再假設(shè)執(zhí)行 update 語句過程中在寫完第一個日志后轰绵，第二個日志還沒有寫完期間發(fā)生了 crash粉寞，會出現(xiàn)什么情況呢？
- 先寫 redo log 后寫 binlog左腔。假設(shè)在 redo log 寫完唧垦，binlog 還沒有寫完的時候，MySQL 進程異常重啟液样。由于我們前面說過的振亮，redo log 寫完之后，系統(tǒng)即使崩潰蓄愁，仍然能夠把數(shù)據(jù)恢復(fù)回來双炕，所以恢復(fù)后這一行 c 的值是 1。但是由于 binlog 沒寫完就 crash 了撮抓，這時候 binlog 里面就沒有記錄這個語句妇斤。因此，之后備份日志的時候丹拯，存起來的 binlog 里面就沒有這條語句站超。然后你會發(fā)現(xiàn)，如果需要用這個 binlog 來恢復(fù)臨時庫的話乖酬，由于這個語句的 binlog 丟失死相，這個臨時庫就會少了這一次更新，恢復(fù)出來的這一行 c 的值就是 0咬像，與原庫的值不同算撮。
- 先寫 binlog 后寫 redo log。如果在 binlog 寫完之后 crash县昂，由于 redo log 還沒寫肮柜，崩潰恢復(fù)以后這個事務(wù)無效，所以這一行 c 的值是 0倒彰。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個日志审洞。所以，在之后用 binlog 來恢復(fù)的時候就多了一個事務(wù)出來待讳，恢復(fù)出來的這一行 c 的值就是 1芒澜，與原庫的值不同仰剿。
- 可以看到，如果不使用“兩階段提交”痴晦，那么數(shù)據(jù)庫的狀態(tài)就有可能和用它的日志恢復(fù)出來的庫的狀態(tài)不一致南吮。
- 你可能會說，這個概率是不是很低阅酪，平時也沒有什么動不動就需要恢復(fù)臨時庫的場景呀旨袒？
- 其實不是的，不只是誤操作后需要用這個過程來恢復(fù)數(shù)據(jù)术辐。當你需要擴容的時候砚尽，也就是需要再多搭建一些備庫來增加系統(tǒng)的讀能力的時候，現(xiàn)在常見的做法也是用全量備份加上應(yīng)用 binlog 來實現(xiàn)的辉词，這個“不一致”就會導致你的線上出現(xiàn)主從數(shù)據(jù)庫不一致的情況必孤。
- 簡單說，redo log 和 binlog 都可以用于表示事務(wù)的提交狀態(tài)瑞躺，而兩階段提交就是讓這兩個狀態(tài)保持邏輯上的一致敷搪。
小結(jié)
- 今天，我介紹了 MySQL 里面最重要的兩個日志幢哨，即物理日志 redo log 和邏輯日志 binlog赡勘。
- redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數(shù)設(shè)置成 1 的時候捞镰，表示每次事務(wù)的 redo log 都直接持久化到磁盤闸与。這個參數(shù)我建議你設(shè)置成 1，這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失岸售。
- sync_binlog 這個參數(shù)設(shè)置成 1 的時候践樱，表示每次事務(wù)的 binlog 都持久化到磁盤。這個參數(shù)我也建議你設(shè)置成 1凸丸，這樣可以保證 MySQL 異常重啟之后 binlog 不丟失拷邢。
- 我還跟你介紹了與 MySQL 日志系統(tǒng)密切相關(guān)的“兩階段提交”。兩階段提交是跨系統(tǒng)維持數(shù)據(jù)邏輯一致性時常用的一個方案屎慢，即使你不做數(shù)據(jù)庫內(nèi)核開發(fā)瞭稼，日常開發(fā)中也有可能會用到。
又下雨了腻惠。弛姜。。
