MySQL 主從同步那點(diǎn)事兒

一、前言

關(guān)于mysql主從同步富雅,相信大家都不陌生,隨著系統(tǒng)應(yīng)用訪問量逐漸增大肛搬,單臺(tái)數(shù)據(jù)庫讀寫訪問壓力也隨之增大没佑,當(dāng)讀寫訪問達(dá)到一定瓶頸時(shí),將數(shù)據(jù)庫的讀寫效率驟然下降温赔,甚至不可用蛤奢;為了解決此類問題,通常會(huì)采用mysql集群陶贼,當(dāng)主庫宕機(jī)后啤贩,集群會(huì)自動(dòng)將一個(gè)從庫升級(jí)為主庫,繼續(xù)對(duì)外提供服務(wù)拜秧;那么主庫和從庫之間的數(shù)據(jù)是如何同步的呢痹屹?本文針對(duì)MySQL 5.7版本進(jìn)行下面的分析,下面隨筆者一起探究一下mysql主從是如何同步的枉氮。

二志衍、MySQL主從復(fù)制原理

為了減輕主庫的壓力暖庄,應(yīng)該在系統(tǒng)應(yīng)用層面做讀寫分離,寫操作走主庫足画,讀操作走從庫雄驹,下圖為MySQL官網(wǎng)給出的主從復(fù)制的原理圖佃牛,從圖中可以簡單的了解讀寫分離及主從同步的過程淹辞,分散了數(shù)據(jù)庫的訪問壓力,提升整個(gè)系統(tǒng)的性能和可用性俘侠,降低了大訪問量引發(fā)數(shù)據(jù)庫宕機(jī)的故障率象缀。

image

三、binlog簡介

MySQL主從同步是基于binlog文件主從復(fù)制實(shí)現(xiàn)爷速,為了更好的理解主從同步過程央星,這里簡單介紹一下binlog日志文件。

binlog日志用于記錄所有更新了數(shù)據(jù)或者已經(jīng)潛在更新了數(shù)據(jù)(例如惫东,沒有匹配任何行的一個(gè)DELETE)的所有語句莉给。語句以“事件”的形式保存,它描述數(shù)據(jù)更改廉沮,它是以二進(jìn)制的形式保存在磁盤中颓遏。我們可以通過mysql提供的查看工具mysqlbinlog查看文件中的內(nèi)容,例如 mysqlbinlog mysql-bin.00001 | more滞时,這里注意一下binlog文件的后綴名00001叁幢,binlog文件大小和個(gè)數(shù)會(huì)不斷的增加,當(dāng)MySQL停止或重啟時(shí)坪稽,會(huì)產(chǎn)生一個(gè)新的binlog文件曼玩,后綴名會(huì)按序號(hào)遞增,例如mysql-bin.00002窒百、mysql-bin.00003黍判,并且當(dāng)binlog文件大小超過 max_binlog_size系統(tǒng)變量配置時(shí)也會(huì)產(chǎn)生新的binlog文件。

(一)binlog日志格式

(1) statement : 記錄每一條更改數(shù)據(jù)的sql;

  • 優(yōu)點(diǎn):binlog文件較小篙梢,節(jié)約I/O样悟,性能較高。

  • 缺點(diǎn):不是所有的數(shù)據(jù)更改都會(huì)寫入binlog文件中庭猩,尤其是使用MySQL中的一些特殊函數(shù)(如LOAD_FILE()窟她、UUID()等)和一些不確定的語句操作,從而導(dǎo)致主從數(shù)據(jù)無法復(fù)制的問題蔼水。

(2) row : 不記錄sql震糖,只記錄每行數(shù)據(jù)的更改細(xì)節(jié)

  • 優(yōu)點(diǎn):詳細(xì)的記錄了每一行數(shù)據(jù)的更改細(xì)節(jié),這也意味著不會(huì)由于使用一些特殊函數(shù)或其他情況導(dǎo)致不能復(fù)制的問題趴腋。

  • 缺點(diǎn):由于row格式記錄了每一行數(shù)據(jù)的更改細(xì)節(jié)吊说,會(huì)產(chǎn)生大量的binlog日志內(nèi)容论咏,性能不佳,并且會(huì)增大主從同步延遲出現(xiàn)的幾率颁井。

(3) mixed:一般的語句修改使用statment格式保存binlog厅贪,如一些函數(shù),statement無法完成主從復(fù)制的操作雅宾,則采用row格式保存binlog养涮,MySQL會(huì)根據(jù)執(zhí)行的每一條具體的sql語句來區(qū)分對(duì)待記錄的日志形式,也就是在Statement和Row之間選擇一種眉抬。

(二)binlog日志內(nèi)容

mysqlbinlog命令查看的內(nèi)容如下:

image

根據(jù)事件類型查看的binlog內(nèi)容:

image

(三)binlog事件類型

MySQL binlog記錄的所有操作實(shí)際上都有對(duì)應(yīng)的事件類型的贯吓,譬如STATEMENT格式中的DML操作對(duì)應(yīng)的是QUERY_EVENT類型,ROW格式下的DML操作對(duì)應(yīng)的是ROWS_EVENT類型蜀变,如果想了解更多請(qǐng)參考官方文檔悄谐,有關(guān)binlog日志內(nèi)容不在這里過多贅述,簡單介紹一下是為了更好的理解主從復(fù)制的細(xì)節(jié)库北,下面我們進(jìn)入正題爬舰。

四、MySQL主從復(fù)制原理

mysql主從復(fù)制需要三個(gè)線程寒瓦,master(binlog dump thread)情屹、slave(I/O thread 、SQL thread)孵构。

master

(1)binlog dump線程:當(dāng)主庫中有數(shù)據(jù)更新時(shí)屁商,那么主庫就會(huì)根據(jù)按照設(shè)置的binlog格式,將此次更新的事件類型寫入到主庫的binlog文件中颈墅,此時(shí)主庫會(huì)創(chuàng)建log dump線程通知slave有數(shù)據(jù)更新蜡镶,當(dāng)I/O線程請(qǐng)求日志內(nèi)容時(shí),會(huì)將此時(shí)的binlog名稱和當(dāng)前更新的位置同時(shí)傳給slave的I/O線程恤筛。

slave

(2)I/O線程:該線程會(huì)連接到master官还,向log dump線程請(qǐng)求一份指定binlog文件位置的副本,并將請(qǐng)求回來的binlog存到本地的relay log中毒坛,relay log和binlog日志一樣也是記錄了數(shù)據(jù)更新的事件望伦,它也是按照遞增后綴名的方式,產(chǎn)生多個(gè)relay log( host_name-relay-bin.000001)文件煎殷,slave會(huì)使用一個(gè)index文件( host_name-relay-bin.index)來追蹤當(dāng)前正在使用的relay log文件屯伞。

(3)SQL線程:該線程檢測到relay log有更新后,會(huì)讀取并在本地做redo操作豪直,將發(fā)生在主庫的事件在本地重新執(zhí)行一遍劣摇,來保證主從數(shù)據(jù)同步。此外弓乙,如果一個(gè)relay log文件中的全部事件都執(zhí)行完畢末融,那么SQL線程會(huì)自動(dòng)將該relay log 文件刪除掉钧惧。

下面是整個(gè)復(fù)制過程的原理圖:

image

四、主從同步延遲

mysql的主從復(fù)制都是單線程的操作勾习,主庫對(duì)所有DDL和DML產(chǎn)生binlog浓瞪,binlog是順序?qū)懀孕屎芨咔缮簦瑂lave的I/O線程到主庫取日志乾颁,效率也比較高,但是粹舵,slave的SQL線程將主庫的DDL和DML操作在slave實(shí)施钮孵。DML和DDL的IO操作是隨即的骂倘,不是順序的眼滤,成本高很多,還可能存在slave上的其他查詢產(chǎn)生lock爭用的情況历涝,由于SQL也是單線程的诅需,所以一個(gè)DDL卡住了,需要執(zhí)行很長一段事件荧库,后續(xù)的DDL線程會(huì)等待這個(gè)DDL執(zhí)行完畢之后才執(zhí)行堰塌,這就導(dǎo)致了延時(shí)。當(dāng)主庫的TPS并發(fā)較高時(shí)分衫,產(chǎn)生的DDL數(shù)量超過slave一個(gè)sql線程所能承受的范圍场刑,延時(shí)就產(chǎn)生了,除此之外蚪战,還有可能與slave的大型query語句產(chǎn)生了鎖等待導(dǎo)致牵现。

由于主從同步延遲是客觀存在的,我們只能從我們自己的架構(gòu)上進(jìn)行設(shè)計(jì)邀桑, 盡量讓主庫的DDL快速執(zhí)行瞎疼。下面列出幾種常見的解決方案:

  1. 業(yè)務(wù)的持久化層的實(shí)現(xiàn)采用分庫架構(gòu),mysql服務(wù)可平行擴(kuò)展壁畸,分散壓力贼急。

  2. 服務(wù)的基礎(chǔ)架構(gòu)在業(yè)務(wù)和mysql之間加入memcache或者Redis的cache層。降低mysql的讀壓力捏萍;

  3. 使用比主庫更好的硬件設(shè)備作為slave太抓;

  4. sync_binlog在slave端設(shè)置為0;

  5. –logs-slave-updates 從服務(wù)器從主服務(wù)器接收到的更新不記入它的二進(jìn)制日志令杈。

  6. 禁用slave的binlog

五调衰、參考資料

https://dev.mysql.com/doc/refman/5.7/en/replication.html

http://www.linuxidc.com/Linux/2014-05/101450.htm

http://blog.csdn.net/xiongping_/article/details/49907095

http://www.cnblogs.com/martinzhang/p/3454358.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市罩驻,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌影斑,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件机打,死亡現(xiàn)場離奇詭異矫户,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)残邀,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門皆辽,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人芥挣,你說我怎么就攤上這事驱闷。” “怎么了空免?”我有些...
    開封第一講書人閱讀 153,443評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵空另,是天一觀的道長。 經(jīng)常有香客問我蹋砚,道長扼菠,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評(píng)論 1 279
  • 正文 為了忘掉前任坝咐,我火速辦了婚禮循榆,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘墨坚。我一直安慰自己秧饮,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評(píng)論 5 374
  • 文/花漫 我一把揭開白布泽篮。 她就那樣靜靜地躺著盗尸,像睡著了一般。 火紅的嫁衣襯著肌膚如雪咪辱。 梳的紋絲不亂的頭發(fā)上振劳,一...
    開封第一講書人閱讀 49,185評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音油狂,去河邊找鬼历恐。 笑死,一個(gè)胖子當(dāng)著我的面吹牛专筷,可吹牛的內(nèi)容都是我干的弱贼。 我是一名探鬼主播,決...
    沈念sama閱讀 38,451評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼磷蛹,長吁一口氣:“原來是場噩夢啊……” “哼吮旅!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,112評(píng)論 0 261
  • 序言:老撾萬榮一對(duì)情侶失蹤庇勃,失蹤者是張志新(化名)和其女友劉穎檬嘀,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體责嚷,經(jīng)...
    沈念sama閱讀 43,609評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡鸳兽,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了罕拂。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片揍异。...
    茶點(diǎn)故事閱讀 38,163評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖爆班,靈堂內(nèi)的尸體忽然破棺而出衷掷,到底是詐尸還是另有隱情,我是刑警寧澤柿菩,帶...
    沈念sama閱讀 33,803評(píng)論 4 323
  • 正文 年R本政府宣布戚嗅,位于F島的核電站,受9級(jí)特大地震影響碗旅,放射性物質(zhì)發(fā)生泄漏渡处。R本人自食惡果不足惜镜悉,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評(píng)論 3 307
  • 文/蒙蒙 一祟辟、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧侣肄,春花似錦旧困、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至矩距,卻和暖如春拗盒,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背锥债。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評(píng)論 1 261
  • 我被黑心中介騙來泰國打工陡蝇, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人哮肚。 一個(gè)月前我還...
    沈念sama閱讀 45,636評(píng)論 2 355
  • 正文 我出身青樓登夫,卻偏偏與公主長得像,于是被迫代替她去往敵國和親允趟。 傳聞我的和親對(duì)象是個(gè)殘疾皇子恼策,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容