02 - MySQL日志系統(tǒng)工作基礎(chǔ)

更新語(yǔ)句執(zhí)行過(guò)程

  • 本文我們來(lái)看看一條更新語(yǔ)句的執(zhí)行流程又是怎樣的呢乳讥?
    看如下語(yǔ)句:
mysql> create table T(ID int primary key, c int);
  • 如果要將 ID=2 這一行的值加 1,SQL 語(yǔ)句就會(huì)這么寫(xiě):
mysql> update T set c=c+1 where ID=2;
  • 前面聊了查詢語(yǔ)句的那一套流程,更新語(yǔ)句也是同樣會(huì)走一遍谈况。
MySQL邏輯架構(gòu)圖
  • 你執(zhí)行語(yǔ)句前要先連接數(shù)據(jù)庫(kù)嫩海,這是連接器的工作。
  • 前面我們說(shuō)過(guò)谣拣,在一個(gè)表上有更新的時(shí)候募寨,跟這個(gè)表有關(guān)的查詢緩存會(huì)失效,所以這條語(yǔ)句就會(huì)把表 T 上所有緩存結(jié)果都清空森缠。這也就是我們一般不建議使用查詢緩存的原因拔鹰。
  • 接下來(lái),分析器會(huì)通過(guò)詞法和語(yǔ)法解析知道這是一條更新語(yǔ)句贵涵。優(yōu)化器決定要使用 ID 這個(gè)索引列肢。然后,執(zhí)行器負(fù)責(zé)具體執(zhí)行宾茂,找到這一行瓷马,然后更新。
  • 與查詢流程不一樣的是跨晴,更新流程還涉及兩個(gè)重要的日志模塊欧聘,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)。如果接觸 MySQL端盆,那這兩個(gè)詞肯定是繞不過(guò)的怀骤,我后面的內(nèi)容里也會(huì)不斷地和你強(qiáng)調(diào)。不過(guò)話說(shuō)回來(lái)焕妙,redo log 和 binlog 在設(shè)計(jì)上有很多有意思的地方蒋伦,這些設(shè)計(jì)思路也可以用到你自己的程序里。

重要的日志模塊:redo log

  • 如果有人要賒賬或者還賬的話访敌,老板一般有兩種做法:
    • 一種做法是直接把賬本翻出來(lái)凉敲,把這次賒的賬加上去或者扣除掉;
    • 另一種做法是先在粉板上記下這次的賬寺旺,等打烊以后再把賬本翻出來(lái)核算爷抓。
  • 在生意紅火柜臺(tái)很忙時(shí),老板一定會(huì)選擇后者阻塑,因?yàn)榍罢卟僮鲗?shí)在是太麻煩了蓝撇。首先,你得找到這個(gè)人的賒賬總額那條記錄陈莽。你想想渤昌,密密麻麻幾十頁(yè)虽抄,老板要找到那個(gè)名字,可能還得帶上老花鏡慢慢找独柑,找到之后再拿出算盤(pán)計(jì)算迈窟,最后再將結(jié)果寫(xiě)回到賬本上。
  • 這整個(gè)過(guò)程想想都麻煩忌栅。相比之下车酣,還是先在粉板上記一下方便。你想想索绪,如果沒(méi)有粉板的幫助湖员,每次記賬都得翻賬本,效率是不是低得讓人難以忍受瑞驱?
  • 同樣娘摔,在 MySQL 里也有這個(gè)問(wèn)題,如果每一次的更新操作都需要寫(xiě)進(jìn)磁盤(pán)唤反,然后磁盤(pán)也要找到對(duì)應(yīng)的那條記錄凳寺,然后再更新,整個(gè)過(guò)程 IO 成本拴袭、查找成本都很高读第。為了解決這個(gè)問(wèn)題,MySQL 的設(shè)計(jì)者就用了類(lèi)似粉板的思路來(lái)提升更新效率拥刻。
  • 而粉板和賬本配合的整個(gè)過(guò)程怜瞒,其實(shí)就是 MySQL 里經(jīng)常說(shuō)到的 WAL 技術(shù),WAL 的全稱是 Write-Ahead Logging般哼,它的關(guān)鍵點(diǎn)就是先寫(xiě)日志吴汪,再寫(xiě)磁盤(pán),也就是先寫(xiě)粉板蒸眠,等不忙的時(shí)候再寫(xiě)賬本漾橙。
  • 具體來(lái)說(shuō),當(dāng)有一條記錄需要更新的時(shí)候楞卡,InnoDB 引擎就會(huì)先把記錄寫(xiě)到 redo log(粉板)里面霜运,并更新內(nèi)存,這個(gè)時(shí)候更新就算完成了蒋腮。同時(shí)淘捡,InnoDB 引擎會(huì)在適當(dāng)?shù)臅r(shí)候,將這個(gè)操作記錄更新到磁盤(pán)里面池摧,而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做焦除,這就像打烊以后老板做的事。
  • 如果今天賒賬的不多作彤,老板可以等打烊后再整理膘魄。但如果某天賒賬的特別多乌逐,粉板寫(xiě)滿了,又怎么辦呢创葡?這個(gè)時(shí)候老板只好放下手中的活兒浙踢,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉灿渴,為記新賬騰出空間成黄。
  • 與此類(lèi)似,InnoDB 的 redo log 是固定大小的逻杖,比如可以配置為一組 4 個(gè)文件,每個(gè)文件的大小是 1GB思瘟,那么這塊“粉板”總共就可以記錄 4GB 的操作荸百。從頭開(kāi)始寫(xiě),寫(xiě)到末尾就又回到開(kāi)頭循環(huán)寫(xiě)滨攻,如下面這個(gè)圖所示够话。
redo log示意圖
  • write pos 是當(dāng)前記錄的位置,一邊寫(xiě)一邊后移光绕,寫(xiě)到第 3 號(hào)文件末尾后就回到 0 號(hào)文件開(kāi)頭女嘲。checkpoint 是當(dāng)前要擦除的位置,也是往后推移并且循環(huán)的诞帐,擦除記錄前要把記錄更新到數(shù)據(jù)文件欣尼。
  • write pos 和 checkpoint 之間的是“粉板”上還空著的部分,可以用來(lái)記錄新的操作停蕉。如果 write pos 追上 checkpoint愕鼓,表示“粉板”滿了,這時(shí)候不能再執(zhí)行新的更新慧起,得停下來(lái)先擦掉一些記錄菇晃,把 checkpoint 推進(jìn)一下。
  • 有了 redo log蚓挤,InnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟磺送,之前提交的記錄都不會(huì)丟失,這個(gè)能力稱為 crash-safe灿意。
  • 要理解 crash-safe 這個(gè)概念估灿,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上脾歧,之后即使老板忘記了甲捏,比如突然停業(yè)幾天,恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目鞭执。

重要的日志模塊:binlog

  • 前面我們講過(guò)司顿,MySQL 整體來(lái)看芒粹,其實(shí)就有兩塊:一塊是 Server 層,它主要做的是 MySQL 功能層面的事情大溜;還有一塊是引擎層化漆,負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志钦奋,而 Server 層也有自己的日志座云,稱為 binlog(歸檔日志)。
  • 為什么會(huì)有兩份日志呢付材?
  • 因?yàn)樽铋_(kāi)始 MySQL 里并沒(méi)有 InnoDB 引擎朦拖。MySQL 自帶的引擎是 MyISAM,但是 MyISAM 沒(méi)有 crash-safe 的能力厌衔,binlog 日志只能用于歸檔璧帝。而 InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒(méi)有 crash-safe 能力的富寿,所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來(lái)實(shí)現(xiàn) crash-safe 能力睬隶,有以下幾點(diǎn)不同:
    1. redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 層實(shí)現(xiàn)的页徐,所有引擎都可以使用苏潜。
    2. redo log 是物理日志,記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”变勇;binlog 是邏輯日志恤左,記錄的是這個(gè)語(yǔ)句的原始邏輯,比如“給 ID=2 這一行的 c 字段加 1 ”搀绣。
    3. redo log 是循環(huán)寫(xiě)的赃梧,空間固定會(huì)用完;binlog 是可以追加寫(xiě)入的豌熄∈卩郑“追加寫(xiě)”是指 binlog 文件寫(xiě)到一定大小后會(huì)切換到下一個(gè),并不會(huì)覆蓋以前的日志锣险。
  • 有了對(duì)這兩個(gè)日志的概念性理解蹄皱,我們?cè)賮?lái)看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個(gè)簡(jiǎn)單的 update 語(yǔ)句時(shí)的內(nèi)部流程。
    1. 執(zhí)行器先找引擎取 ID=2 這一行芯肤。ID 是主鍵巷折,引擎直接用樹(shù)搜索找到這一行。如果 ID=2 這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中崖咨,就直接返回給執(zhí)行器锻拘;否則,需要先從磁盤(pán)讀入內(nèi)存,然后再返回署拟。
    2. 執(zhí)行器拿到引擎給的行數(shù)據(jù)婉宰,把這個(gè)值加上 1,比如原來(lái)是 N推穷,現(xiàn)在就是 N+1心包,得到新的一行數(shù)據(jù),再調(diào)用引擎接口寫(xiě)入這行新數(shù)據(jù)馒铃。
    3. 引擎將這行新數(shù)據(jù)更新到內(nèi)存中蟹腾,同時(shí)將這個(gè)更新操作記錄到 redo log 里面,此時(shí) redo log 處于 prepare 狀態(tài)区宇。然后告知執(zhí)行器執(zhí)行完成了娃殖,隨時(shí)可以提交事務(wù)。
    4. 執(zhí)行器生成這個(gè)操作的 binlog议谷,并把 binlog 寫(xiě)入磁盤(pán)珊随。
    5. 執(zhí)行器調(diào)用引擎的提交事務(wù)接口,引擎把剛剛寫(xiě)入的 redo log 改成提交(commit)狀態(tài)柿隙,更新完成。
  • 這里給出這個(gè) update 語(yǔ)句的執(zhí)行流程圖鲫凶,圖中淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的禀崖,深色框表示是在執(zhí)行器中執(zhí)行的。
update語(yǔ)句執(zhí)行流程
  • 你可能注意到了螟炫,最后三步看上去有點(diǎn)“繞”波附,將 redo log 的寫(xiě)入拆成了兩個(gè)步驟:prepare 和 commit,這就是"兩階段提交"昼钻。

兩階段提交

  • 為什么必須有“兩階段提交”呢掸屡?這是為了讓兩份日志之間的邏輯一致。要說(shuō)明這個(gè)問(wèn)題然评,我們思考一個(gè)問(wèn)題:怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)仅财?
  • 前面我們說(shuō)過(guò)了,binlog 會(huì)記錄所有的邏輯操作碗淌,并且是采用“追加寫(xiě)”的形式盏求。如果你的 DBA 承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù),那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有 binlog亿眠,同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份碎罚。這里的“定期”取決于系統(tǒng)的重要性,可以是一天一備纳像,也可以是一周一備荆烈。
  • 當(dāng)需要恢復(fù)到指定的某一秒時(shí),比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表竟趾,需要找回?cái)?shù)據(jù)憔购,那你可以這么做:
    • 首先宫峦,找到最近的一次全量備份,如果你運(yùn)氣好倦始,可能就是昨天晚上的一個(gè)備份斗遏,從這個(gè)備份恢復(fù)到臨時(shí)庫(kù);
    • 然后鞋邑,從備份的時(shí)間點(diǎn)開(kāi)始诵次,將備份的 binlog 依次取出來(lái),重放到中午誤刪表之前的那個(gè)時(shí)刻枚碗。
  • 這樣你的臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了逾一,然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來(lái),按需要恢復(fù)到線上庫(kù)去肮雨。
  • 好了遵堵,說(shuō)完了數(shù)據(jù)恢復(fù)過(guò)程,我們回來(lái)說(shuō)說(shuō)怨规,為什么日志需要“兩階段提交”陌宿。這里不妨用反證法來(lái)進(jìn)行解釋。
  • 由于 redo log 和 binlog 是兩個(gè)獨(dú)立的邏輯波丰,如果不用兩階段提交壳坪,要么就是先寫(xiě)完 redo log 再寫(xiě) binlog,或者采用反過(guò)來(lái)的順序掰烟。我們看看這兩種方式會(huì)有什么問(wèn)題爽蝴。
  • 仍然用前面的 update 語(yǔ)句來(lái)做例子。假設(shè)當(dāng)前 ID=2 的行纫骑,字段 c 的值是 0蝎亚,再假設(shè)執(zhí)行 update 語(yǔ)句過(guò)程中在寫(xiě)完第一個(gè)日志后,第二個(gè)日志還沒(méi)有寫(xiě)完期間發(fā)生了 crash先馆,會(huì)出現(xiàn)什么情況呢发框?
    1. 先寫(xiě) redo log 后寫(xiě) binlog。假設(shè)在 redo log 寫(xiě)完煤墙,binlog 還沒(méi)有寫(xiě)完的時(shí)候缤底,MySQL 進(jìn)程異常重啟。由于我們前面說(shuō)過(guò)的番捂,redo log 寫(xiě)完之后个唧,系統(tǒng)即使崩潰,仍然能夠把數(shù)據(jù)恢復(fù)回來(lái)设预,所以恢復(fù)后這一行 c 的值是 1徙歼。
      但是由于 binlog 沒(méi)寫(xiě)完就 crash 了,這時(shí)候 binlog 里面就沒(méi)有記錄這個(gè)語(yǔ)句。因此魄梯,之后備份日志的時(shí)候桨螺,存起來(lái)的 binlog 里面就沒(méi)有這條語(yǔ)句。
      然后你會(huì)發(fā)現(xiàn)酿秸,如果需要用這個(gè) binlog 來(lái)恢復(fù)臨時(shí)庫(kù)的話灭翔,由于這個(gè)語(yǔ)句的 binlog 丟失,這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新辣苏,恢復(fù)出來(lái)的這一行 c 的值就是 0肝箱,與原庫(kù)的值不同。
    2. 先寫(xiě) binlog 后寫(xiě) redo log稀蟋。如果在 binlog 寫(xiě)完之后 crash煌张,由于 redo log 還沒(méi)寫(xiě),崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效退客,所以這一行 c 的值是 0骏融。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個(gè)日志。所以萌狂,在之后用 binlog 來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái)档玻,恢復(fù)出來(lái)的這一行 c 的值就是 1,與原庫(kù)的值不同茫藏。
  • 可以看到误趴,如果不使用“兩階段提交”,那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來(lái)的庫(kù)的狀態(tài)不一致刷允。
  • 不只是誤操作后需要用這個(gè)過(guò)程來(lái)恢復(fù)數(shù)據(jù)。當(dāng)你需要擴(kuò)容的時(shí)候碧囊,也就是需要再多搭建一些備庫(kù)來(lái)增加系統(tǒng)的讀能力的時(shí)候树灶,現(xiàn)在常見(jiàn)的做法也是用全量備份加上應(yīng)用 binlog 來(lái)實(shí)現(xiàn)的,這個(gè)“不一致”就會(huì)導(dǎo)致你的線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況糯而。
  • 簡(jiǎn)單說(shuō)天通,redo log 和 binlog 都可以用于表示事務(wù)的提交狀態(tài),而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致熄驼。

小結(jié)

  • 本文介紹了 MySQL 里面最重要的兩個(gè)日志像寒,即物理日志 redo log 和邏輯日志 binlog。
  • redo log 用于保證 crash-safe 能力瓜贾。innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候诺祸,表示每次事務(wù)的 redo log 都直接持久化到磁盤(pán)。這個(gè)參數(shù)我建議你設(shè)置成 1祭芦,這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失筷笨。
  • sync_binlog 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候,表示每次事務(wù)的 binlog 都持久化到磁盤(pán)。這個(gè)參數(shù)我也建議你設(shè)置成 1胃夏,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失轴或。
  • 還介紹了與 MySQL 日志系統(tǒng)密切相關(guān)的“兩階段提交”。兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案仰禀,即使你不做數(shù)據(jù)庫(kù)內(nèi)核開(kāi)發(fā)照雁,日常開(kāi)發(fā)中也有可能會(huì)用到。
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末答恶,一起剝皮案震驚了整個(gè)濱河市饺蚊,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌亥宿,老刑警劉巖卸勺,帶你破解...
    沈念sama閱讀 222,729評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異烫扼,居然都是意外死亡曙求,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,226評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)映企,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)悟狱,“玉大人,你說(shuō)我怎么就攤上這事堰氓〖方ィ” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,461評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵双絮,是天一觀的道長(zhǎng)浴麻。 經(jīng)常有香客問(wèn)我,道長(zhǎng)囤攀,這世上最難降的妖魔是什么软免? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,135評(píng)論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮焚挠,結(jié)果婚禮上膏萧,老公的妹妹穿的比我還像新娘。我一直安慰自己蝌衔,他們只是感情好榛泛,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,130評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著噩斟,像睡著了一般曹锨。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上剃允,一...
    開(kāi)封第一講書(shū)人閱讀 52,736評(píng)論 1 312
  • 那天艘希,我揣著相機(jī)與錄音硼身,去河邊找鬼。 笑死覆享,一個(gè)胖子當(dāng)著我的面吹牛佳遂,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播撒顿,決...
    沈念sama閱讀 41,179評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼丑罪,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了凤壁?” 一聲冷哼從身側(cè)響起吩屹,我...
    開(kāi)封第一講書(shū)人閱讀 40,124評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎拧抖,沒(méi)想到半個(gè)月后煤搜,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,657評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡唧席,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,723評(píng)論 3 342
  • 正文 我和宋清朗相戀三年擦盾,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片淌哟。...
    茶點(diǎn)故事閱讀 40,872評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡迹卢,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出徒仓,到底是詐尸還是另有隱情腐碱,我是刑警寧澤,帶...
    沈念sama閱讀 36,533評(píng)論 5 351
  • 正文 年R本政府宣布掉弛,位于F島的核電站症见,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏殃饿。R本人自食惡果不足惜谋作,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,213評(píng)論 3 336
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望壁晒。 院中可真熱鬧瓷们,春花似錦业栅、人聲如沸秒咐。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,700評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)携取。三九已至,卻和暖如春帮孔,著一層夾襖步出監(jiān)牢的瞬間雷滋,已是汗流浹背不撑。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,819評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留晤斩,地道東北人焕檬。 一個(gè)月前我還...
    沈念sama閱讀 49,304評(píng)論 3 379
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像澳泵,于是被迫代替她去往敵國(guó)和親实愚。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,876評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容