redis主從同步

面試官常問:Redis主從是如何同步的省店?

程序員圣經(jīng)

3天前

作者:七淅

來源:公眾號不只Java

今天想和大家分享有關(guān) Redis 主從同步(也稱「復(fù)制」)的內(nèi)容糠排。

我們知道潘拱,當(dāng)有多臺 Redis 服務(wù)器時,肯定就有一臺主服務(wù)器和多臺從服務(wù)器寡喝。一般來說圆仔,主服務(wù)器進(jìn)行寫操作,從服務(wù)器進(jìn)行讀操作甩十。

那么這里有存在一個問題:從服務(wù)器如何和主服務(wù)器進(jìn)行數(shù)據(jù)同步的呢船庇?

這個問題,就是通過今天的內(nèi)容:主從同步來解決的侣监。

文章內(nèi)容依舊比較干鸭轮,一共 3k+ 字,建議大家靜下心來專心看橄霉,文末會給大家做個簡單總結(jié)歸納窃爷。

一、如何進(jìn)行主從同步

假如姓蜂,現(xiàn)在有 2 臺 Redis 服務(wù)器按厘,地址分別是 127.0.0.1:6379 和 127.0.0.1:12345

我們在 127.0.0.1:12345 的客戶端輸入命令:

127.0.0.1:12345> SLAVEOF 127.0.0.6379

如此 127.0.0.1:12345 服務(wù)器就會去復(fù)制 127.0.0.1:6379 的數(shù)據(jù)。即前者是從服務(wù)器钱慢,后者為主服務(wù)器逮京。

除了以上方式進(jìn)行復(fù)制之外,還可以通過配置文件中的 slaveof 選項進(jìn)行設(shè)置束莫。

可能造虏,求知欲爆棚的你會想知道,Redis 是怎么進(jìn)行主從同步的麦箍?

ok,下面我們繼續(xù)了解一下陶珠。

二挟裂、主從同步的實現(xiàn)過程

主從同步分為 2 個步驟:同步和命令傳播

同步:將從服務(wù)器的數(shù)據(jù)庫狀態(tài)更新成主服務(wù)器當(dāng)前的數(shù)據(jù)庫狀態(tài)。

命令傳播:當(dāng)主服務(wù)器數(shù)據(jù)庫狀態(tài)被修改后揍诽,導(dǎo)致主從服務(wù)器數(shù)據(jù)庫狀態(tài)不一致诀蓉,此時需要讓主從數(shù)據(jù)同步到一致的過程栗竖。

上面就是主從同步 2 個步驟的作用,下面我打算稍微細(xì)說這兩個步驟的實現(xiàn)過程渠啤。

這里需要提前說明一下:在 Redis 2.8 版本之前狐肢,進(jìn)行主從復(fù)制時一定會順序執(zhí)行上述兩個步驟,而從 2.8 開始則可能只需要執(zhí)行命令傳播即可沥曹。在下文也會解釋為什么會這樣份名?

1、同步

從服務(wù)器對主服務(wù)的同步操作妓美,需要通過 sync 命令來實現(xiàn)僵腺,以下是 sync 命令的執(zhí)行步驟:

1. 從服務(wù)器向主服務(wù)器發(fā)送 sync 命令

2. 收到 sync 命令后,主服務(wù)器執(zhí)行 bgsave 命令壶栋,用來生成 rdb 文件辰如,并在一個緩沖區(qū)中記錄從現(xiàn)在開始執(zhí)行的寫命令。

3. bgsave 執(zhí)行完成后贵试,將生成的 rdb 文件發(fā)送給從服務(wù)器琉兜,用來給從服務(wù)器更新數(shù)據(jù)

4. 主服務(wù)器再將緩沖區(qū)記錄的寫命令發(fā)送給從服務(wù)器,從服務(wù)器執(zhí)行完這些寫命令后毙玻,此時的數(shù)據(jù)庫狀態(tài)便和主服務(wù)器一致了豌蟋。

用圖表示就是這樣的:

2、命令傳播

經(jīng)過同步操作淆珊,此時主從的數(shù)據(jù)庫狀態(tài)其實已經(jīng)一致了夺饲,但這種一致的狀態(tài)的并不是一成不變的。

在完成同步之后施符,也許主服務(wù)器馬上就接受到了新的寫命令往声,執(zhí)行完該命令后,主從的數(shù)據(jù)庫狀態(tài)又不一致戳吝。

為了再次讓主從數(shù)據(jù)庫狀態(tài)一致浩销,主服務(wù)器就需要向從服務(wù)器執(zhí)行命令傳播操作 ,即把剛才造成不一致的寫命令听哭,發(fā)送給從服務(wù)器去執(zhí)行慢洋。從服務(wù)器執(zhí)行完成之后,主從數(shù)據(jù)庫狀態(tài)就又恢復(fù)一致了陆盘。

這里插播一個疑問:

不知道有沒有的讀者覺得普筹,當(dāng)發(fā)生上述不一致的情況后,Redis 再執(zhí)行同步操作不就 ok 了嗎隘马?

從效果上來說太防,的確是可以恢復(fù)同步,但其實沒有必要酸员。原因是實現(xiàn)同步的 sync 命令是一個非常消耗資源的操作蜒车,看完下圖的說明讳嘱,相信你肯定理解的。

既然同步是一個非常消耗資源的操作酿愧,那 Redis 有沒有什么優(yōu)化方法呢沥潭?答案當(dāng)然是有的。

3嬉挡、優(yōu)化版同步操作

還記得上面說的內(nèi)容嗎 —— 2.8 版本開始钝鸽,進(jìn)行主從同步可能只需要執(zhí)行命令傳播即可。這個也是因為 sync 比較耗資源棘伴,從而采取的優(yōu)化寞埠。

那什么時候可以這么做呢?我們先看下前提條件:

主從同步實際分 2 種情況:

初次復(fù)制:從服務(wù)器第一次復(fù)制當(dāng)前主服務(wù)器(PS:主服務(wù)器是有可能更換的)

斷線后重復(fù)制:處于命令傳播階段的主從服務(wù)器焊夸,因為網(wǎng)絡(luò)問題而中斷復(fù)制仁连,從服務(wù)器通過自動重連,重新連接上主服務(wù)器并繼續(xù)復(fù)制阱穗。

在斷線后重復(fù)制的情況下饭冬,在 2.8 版本之前,會再次執(zhí)行同步(sync 命令)和命令傳播揪阶。

如果說昌抠,在斷線期間,主服務(wù)器(已有上萬鍵值對)只執(zhí)行了幾個寫命令鲁僚,為了讓從服務(wù)器彌補這幾個命令炊苫,卻要重新執(zhí)行 sync 來生成新的 rdb 文件,這也是非常低效的冰沙。

為了解決這個問題侨艾,2.8 開始就使用 psync 命令來代替 sync 命令去執(zhí)行同步操作。

psync 具有完整重同步和部分重同步兩種模式:

完整重同步:用于初次復(fù)制情況拓挥,執(zhí)行過程同 sync唠梨,在這不贅述了。

部分重同步:用于斷線后重復(fù)制情況侥啤,如果滿足一定條件当叭,主服務(wù)器只需要將斷線期間執(zhí)行的寫命令發(fā)送給從服務(wù)器即可。

因此很明顯盖灸,當(dāng)主從同步出現(xiàn)斷線后重復(fù)制的情況蚁鳖,psync 的部分重同步模式可以解決 sync 的低效情況。

上面的介紹中赁炎,出現(xiàn)了「滿足一定條件」才睹,那又是鬼什么條件呢?—— 其實就是一個偏移量的比較,具體可以繼續(xù)往下看琅攘。

4、 部分重同步的實現(xiàn)

部分重同步功能由以下 3 部分組成:

主從服務(wù)器的復(fù)制偏移量

主服務(wù)器的復(fù)制積壓緩沖區(qū)

服務(wù)器的運行 id(run id)

1) 復(fù)制偏移量

執(zhí)行復(fù)制的主從服務(wù)器都會分別維護(hù)各自的復(fù)制偏移量:

主服務(wù)器每次向從服務(wù)器傳播 n 個字節(jié)數(shù)據(jù)時松邪,都會將自己的復(fù)制偏移量加 n坞琴。

從服務(wù)器接受主服務(wù)器傳來的數(shù)據(jù)時,也會將自己的復(fù)制偏移量加 n

舉個例子:

若當(dāng)前主服務(wù)器的復(fù)制偏移量為 10000逗抑,此時向從服務(wù)器傳播 30 個字節(jié)數(shù)據(jù)剧辐,結(jié)束后復(fù)制偏移量為 10030。

這時邮府,從服務(wù)器還沒接收這 30 個字節(jié)數(shù)據(jù)就斷線了荧关,然后重新連接上之后,該從服務(wù)器的復(fù)制偏移量依舊為 10000褂傀,說明主從數(shù)據(jù)不一致忍啤,此時會向主服務(wù)器發(fā)送 psync 命令。

那么主服務(wù)器應(yīng)該對從服務(wù)器執(zhí)行完整重同步還是部分重同步呢仙辟?如果執(zhí)行部分重同步的話同波,主服務(wù)器又如何知道同步哪些數(shù)據(jù)給從服務(wù)器呢?

以下答案都和復(fù)制積壓緩沖區(qū)有關(guān)

2) 復(fù)制積壓緩沖區(qū)

首先叠国,復(fù)制積壓緩沖區(qū)是一個固定長度未檩,先進(jìn)先出的隊列,默認(rèn) 1MB粟焊。

當(dāng)主服務(wù)器進(jìn)行命令傳播時冤狡,不僅會將命令發(fā)送給從服務(wù)器,還會發(fā)送給這個緩沖區(qū)项棠。

因此復(fù)制積壓緩沖區(qū)的構(gòu)造是這樣的:

當(dāng)從服務(wù)器向主服務(wù)器發(fā)送 psync 命令時悲雳,還需要將自己的復(fù)制偏移量帶上,主服務(wù)器就可以通過這個復(fù)制偏移量和復(fù)制積壓緩沖區(qū)的偏移量進(jìn)行對比沾乘。

若復(fù)制積壓緩沖區(qū)存在從服務(wù)器的復(fù)制偏移量 + 1 后的數(shù)據(jù)怜奖,則進(jìn)行部分重同步,否則進(jìn)行完整重同步翅阵。

3) run id

運行 id 是在進(jìn)行初次復(fù)制時歪玲,主服務(wù)器將會將自己的運行 id 發(fā)送給從服務(wù)器,讓其保存起來掷匠。

當(dāng)從服務(wù)器斷線重連后滥崩,從服務(wù)器會將這個運行 id 發(fā)送給剛連接上的主服務(wù)器。

若當(dāng)前服務(wù)器的運行 id 與之相同讹语,說明從服務(wù)器斷線前復(fù)制的服務(wù)器就是當(dāng)前服務(wù)器钙皮,主服務(wù)器可以嘗試執(zhí)行部分同步;

若不同則說明從服務(wù)器斷線前復(fù)制的服務(wù)器不是當(dāng)前服務(wù)器,主服務(wù)器直接執(zhí)行完整重同步短条。

花了很多筆墨导匣,終于把部分重同步的實現(xiàn)寫完了,最后補充一個輔助功能

5茸时、心跳檢測

剛才提到贡定,主從同步有同步和命令傳播 2 個步驟。

當(dāng)完成了同步之后可都,主從服務(wù)器就會進(jìn)入命令傳播階段缓待,此時從服務(wù)器會以每秒 1 次的頻率,向主服務(wù)器發(fā)送命令:REPLCONF ACK <replication_offset> 渠牲,其中 replication_offset 是從服務(wù)器當(dāng)前的復(fù)制偏移量

發(fā)送這個命令主要有三個作用:

檢測主從服務(wù)器的網(wǎng)絡(luò)狀態(tài)

輔助實現(xiàn) min-slaves 選項

檢測命令丟失(若丟失旋炒,主服務(wù)器會將丟失的寫命令重新發(fā)給從服務(wù)器)

三、總結(jié)

終于到總結(jié)了签杈,我們來總結(jié)一下瘫镇,紀(jì)念下我這一個下午的時間。

發(fā)送 SLAVEOF 命令可以進(jìn)行主從同步芹壕,比如:SLAVEOF 127.0.0.6379

主從同步有同步和命令傳播 2 個步驟汇四。

同步:將從服務(wù)器的數(shù)據(jù)庫狀態(tài)更新成主服務(wù)器當(dāng)前的數(shù)據(jù)庫狀態(tài)(一個消耗資源的操作)

命令傳播:當(dāng)主服務(wù)器數(shù)據(jù)庫狀態(tài)被修改后,導(dǎo)致主從服務(wù)器數(shù)據(jù)庫狀態(tài)不一致踢涌,此時需要讓主從數(shù)據(jù)同步到一致的過程

主從同步分初次復(fù)制和斷線后重復(fù)制兩種情況

從 2.8 版本開始通孽,在出現(xiàn)斷線后重復(fù)制情況時,主服務(wù)器會根據(jù)復(fù)制偏移量睁壁、復(fù)制積壓緩沖區(qū)和 run id背苦,來確定執(zhí)行完整重同步還是部分重同步

2.8 版本使用 psync 命令來代替 sync 命令去執(zhí)行同步操作。目的是為了解決同步(sync 命令)的低效操作

1645閱讀

搜索

60道redis面試題

redis深度面試題

redis一致性hash算法

mongodb和redis哪個好

redis分布式鎖

mongodb+redis面試題

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末潘明,一起剝皮案震驚了整個濱河市行剂,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌钳降,老刑警劉巖厚宰,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異遂填,居然都是意外死亡铲觉,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進(jìn)店門吓坚,熙熙樓的掌柜王于貴愁眉苦臉地迎上來撵幽,“玉大人,你說我怎么就攤上這事礁击⊙卧樱” “怎么了逗载?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長链烈。 經(jīng)常有香客問我厉斟,道長,這世上最難降的妖魔是什么测垛? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任捏膨,我火速辦了婚禮,結(jié)果婚禮上食侮,老公的妹妹穿的比我還像新娘。我一直安慰自己目胡,他們只是感情好锯七,可當(dāng)我...
    茶點故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著誉己,像睡著了一般眉尸。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上巨双,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天噪猾,我揣著相機(jī)與錄音,去河邊找鬼筑累。 笑死袱蜡,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的慢宗。 我是一名探鬼主播坪蚁,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼镜沽!你這毒婦竟也來了敏晤?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤缅茉,失蹤者是張志新(化名)和其女友劉穎嘴脾,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蔬墩,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡译打,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了筹我。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片冈涧。...
    茶點故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖贮尉,靈堂內(nèi)的尸體忽然破棺而出奕枝,到底是詐尸還是另有隱情哥谷,我是刑警寧澤,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布麻献,位于F島的核電站们妥,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏勉吻。R本人自食惡果不足惜监婶,卻給世界環(huán)境...
    茶點故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望齿桃。 院中可真熱鬧惑惶,春花似錦、人聲如沸短纵。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽香到。三九已至鱼冀,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間悠就,已是汗流浹背千绪。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留梗脾,地道東北人荸型。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像藐唠,于是被迫代替她去往敵國和親帆疟。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,901評論 2 355

推薦閱讀更多精彩內(nèi)容