淺談Redis主從復(fù)制

2013.09.27 11:27:00 來(lái)源: 京東 作者:張成遠(yuǎn) ( 0 條評(píng)論 )

Redis是一個(gè)開(kāi)源的嫉入，遵守BSD許可協(xié)議的key/value緩存系統(tǒng)，并由其高效的響應(yīng)速度以及豐富的數(shù)據(jù)結(jié)構(gòu)而聞名觉至。Redis在京東的使用也是非常普遍的剔应，包括很多關(guān)鍵業(yè)務(wù)上的使用，由于Redis官方集群還未發(fā)布康谆，在使用Redis的過(guò)程中需要面對(duì)Redis的單點(diǎn)問(wèn)題领斥，京東采用的是一種比較通用的解決方案即由主從備份再加相應(yīng)的主從切換（在一些場(chǎng)景下可能進(jìn)行讀寫(xiě)分離），使主Redis出現(xiàn)失效的時(shí)候可以快速的切換到從Redis上沃暗。但Redis目前存在的一個(gè)問(wèn)題是主從復(fù)制在遇到網(wǎng)絡(luò)不穩(wěn)定的情況下，Slave和Master斷開(kāi)（包括閃斷）會(huì)導(dǎo)致Master需要將內(nèi)存中的數(shù)據(jù)全部重新生成rdb文件（快照文件）何恶，然后傳輸給Slave孽锥。Slave接收完Master傳遞過(guò)來(lái)的rdb文件以后會(huì)將自身的內(nèi)存清空，把rdb文件重新加載到內(nèi)存中细层。這種方式效率比較低下惜辑，尤其是在數(shù)據(jù)量大的情況下，畢竟網(wǎng)絡(luò)閃斷未必丟數(shù)據(jù)或者說(shuō)丟的數(shù)據(jù)只是少部分疫赎，但卻要為此付出將整個(gè)內(nèi)存數(shù)據(jù)都重新傳輸一次的代價(jià)盛撑。如果能夠?qū)㈤W斷過(guò)程的更新數(shù)據(jù)傳遞給Slave，那么就不需要將Master內(nèi)存中的所有數(shù)據(jù)都傳遞給Slave了捧搞。Redis作者在2.8的候選版（以下簡(jiǎn)稱(chēng)Redis2.8）中已經(jīng)將這個(gè)部分復(fù)制的思路實(shí)現(xiàn)了抵卫。
那么Redis2.4.16的全量復(fù)制與Redis2.8的部分復(fù)制是如何實(shí)現(xiàn)的呢?如下圖所示,這5個(gè)狀態(tài)是Slave在主從復(fù)制過(guò)程涉及到的幾個(gè)狀態(tài)狮荔，其中REDIS_REPL_NONE是Redis啟動(dòng)時(shí)候默認(rèn)的狀態(tài)。圖1-2所示的四個(gè)狀態(tài)表示站在Master的角度來(lái)看介粘，Slave所處于的狀態(tài)殖氏，因?yàn)镾lave在Master端看來(lái)就是一個(gè)特殊的client（同理Master在Slave端看來(lái)也是一個(gè)特殊的client）。
/* Slave replication state – Slave side */

define REDIS_REPL_NONE 0 /* No active replication */

define REDIS_REPL_CONNECT 1 /* Must connect to Master */

define REDIS_REPL_CONNECTING 2 /* Connecting to Master */

define REDIS_REPL_TRANSFER 3 /* Receiving .rdb from Master */

define REDIS_REPL_CONNECTED 4 /* Connected to Master */

Slave自身的狀態(tài)

define REDIS_REPL_WAIT_BGSAVE_START 3 /* Master waits bgsave to start feeding it */

define REDIS_REPL_WAIT_BGSAVE_END 4 /* Master waits bgsave to start bulk DB transmission */

define REDIS_REPL_SEND_BULK 5 /* Master is sending the bulk DB */

define REDIS_REPL_ONLINE 6 /* bulk DB already transmitted, receive updates */

Master端的Slave狀態(tài)
Redis在接收到“slaveof ip port”命令以后姻采，首先會(huì)將自身的狀態(tài)置為REDIS_REPL_CONNECT雅采，表示需要與自己的Master連接，此時(shí)Slave并沒(méi)有與Master做連接慨亲。Redis每隔100ms會(huì)調(diào)用serverCron()函數(shù)一次婚瓜，每10次serverCron()的調(diào)用會(huì)調(diào)用replicationCron()一次，即每1s會(huì)調(diào)用一次replication()函數(shù)刑棵。在replication()函數(shù)中巴刻，會(huì)檢查Slave的狀態(tài)，如果是處于REDIS_REPL_CONNECT狀態(tài)铐望，就會(huì)建立syncWithMaster()的事件處理函數(shù)冈涧，并將Slave的狀態(tài)改成REDIS_REPL_CONNECTING。syncWithMaster()函數(shù)主要是向Master發(fā)送sync命令正蛙，當(dāng)該事件處理函數(shù)被觸發(fā)以后會(huì)將Slave的狀態(tài)改成REDIS_REPL_TRANSFER督弓，表示Slave已經(jīng)準(zhǔn)備就緒要接收Master生成的rdb文件。
回到Master的角色乒验，Master發(fā)現(xiàn)有一個(gè)Slave連接上來(lái)愚隧，如果此時(shí)的Master一個(gè)Slave都沒(méi)有且沒(méi)有后臺(tái)快照進(jìn)程，則啟動(dòng)一個(gè)后臺(tái)進(jìn)程將當(dāng)前內(nèi)存中的數(shù)據(jù)生成一個(gè)rdb文件锻全，同時(shí)將Slave的狀態(tài)置為REDIS_REPL_WAIT_BGSAVE_END狀態(tài)狂塘，表示該Slave等待Master的快照進(jìn)程結(jié)束。在后臺(tái)進(jìn)行生成rdb文件的時(shí)候鳄厌，如果有對(duì)redis的更新命令荞胡，Master會(huì)將這些更新命令存到該Slave的buffer中，如果buffer滿(mǎn)了會(huì)另外開(kāi)辟list來(lái)存儲(chǔ)這些更新命令了嚎。當(dāng)后臺(tái)快照進(jìn)程結(jié)束泪漂，Master會(huì)將該Slave的狀態(tài)改為REDIS_REPL_SEND_BULK，同時(shí)注冊(cè)sendBulkToSlave()事件處理函數(shù)用于將生成的rdb文件傳輸給Slave歪泳。等rdb傳輸結(jié)束以后萝勤，sendBulkToSlave()事件函數(shù)會(huì)被刪除，Slave的狀態(tài)會(huì)被更改為REDIS_REPL_ONLINE呐伞，另外再注冊(cè)sendReplyToClient()事件函數(shù)敌卓，將Master在快照內(nèi)過(guò)程中的所有更新操作（Slave的buffer里存的命令）發(fā)給Slave。
再回到Slave的角色伶氢，當(dāng)Master向Slave傳輸完rdb文件以后趟径，Slave自身會(huì)將狀態(tài)改為REDIS_REPL_CONNECTED瘪吏，表示復(fù)制已完成，處于與Master保持實(shí)時(shí)同步的狀態(tài)舵抹。
上述描述的狀態(tài)轉(zhuǎn)換如圖1-3所示肪虎，由圖中可知，站在Slave角色看惧蛹，當(dāng)出現(xiàn)網(wǎng)絡(luò)中斷的時(shí)候不管Slave本身是處于REDIS_REPL_CONNECTING扇救、REDIS_REPL_REPL_TRANSFER還是REDIS_REPL_CONNECTED，都會(huì)調(diào)用相應(yīng)的處理函數(shù)使Slave進(jìn)入REDIS_REPL_CONNECT狀態(tài)香嗓，這就意味著Slave需要重新向Master發(fā)送sync命令迅腔，重新進(jìn)行一次全量同步過(guò)程。圖中的REDIS_REPL_WAIT_BGSAVE_START狀態(tài)是在Slave連接上Master的時(shí)候（站在Master的角色看）靠娱，當(dāng)時(shí)Master剛好后臺(tái)有快照進(jìn)程且該快照進(jìn)程生成的rdb不適合直接傳給該Slave時(shí)出現(xiàn)的狀態(tài)沧烈，則將Slave的狀態(tài)置為REDIS_REPL_WAIT_BGSAVE_START。如果此時(shí)有快照進(jìn)程且找到了另外的發(fā)起快照進(jìn)程的Slave像云，只需要將另外的Slave的buffer內(nèi)容拷貝到該Slave的buffer中锌雀，然后直接進(jìn)入REDIS_REPL_WAIT_BGSAVE_END狀態(tài)。如果此時(shí)沒(méi)有后臺(tái)快照進(jìn)程迅诬，Slave直接進(jìn)入REDIS_REPL_WAIT_BGSAVE_END狀態(tài)腋逆，同時(shí)啟動(dòng)一個(gè)后臺(tái)快照進(jìn)程。