一、Redis的持久化
Redis 提供了不同級(jí)別的持久化方式:
RDB持久化方式能夠在指定的時(shí)間間隔能對(duì)你的數(shù)據(jù)進(jìn)行快照存儲(chǔ).
AOF持久化方式記錄每次對(duì)服務(wù)器寫(xiě)的操作,當(dāng)服務(wù)器重啟的時(shí)候會(huì)重新執(zhí)行這些命令來(lái)恢復(fù)原始的數(shù)據(jù),AOF命令以redis協(xié)議追加保存每次寫(xiě)的操作到文件末尾.
Redis還能對(duì)AOF文件進(jìn)行后臺(tái)重寫(xiě),使得AOF文件的體積不至于過(guò)大.
如果你只希望你的數(shù)據(jù)在服務(wù)器運(yùn)行的時(shí)候存在,你也可以不使用任何持久化方式.
你也可以同時(shí)開(kāi)啟兩種持久化方式, 在這種情況下, 當(dāng)redis重啟的時(shí)候會(huì)優(yōu)先載入AOF文件來(lái)恢復(fù)原始的數(shù)據(jù),因?yàn)樵谕ǔG闆r下AOF文件保存的數(shù)據(jù)集要比RDB文件
保存的數(shù)據(jù)集要完整.
二杉武、RDB的優(yōu)缺點(diǎn)
1矢赁、RDB的優(yōu)點(diǎn)
RDB是一個(gè)非常緊湊的文件,它保存了某個(gè)時(shí)間點(diǎn)得數(shù)據(jù)集,非常適用于數(shù)據(jù)集的備份,比如你可以在每個(gè)小時(shí)報(bào)保存一下過(guò)去24小時(shí)內(nèi)的數(shù)據(jù),同時(shí)每天保存過(guò)去30天的數(shù)據(jù),
這樣即使出了問(wèn)題你也可以根據(jù)需求恢復(fù)到不同版本的數(shù)據(jù)集.
RDB是一個(gè)緊湊的單一文件,很方便傳送到另一個(gè)遠(yuǎn)端數(shù)據(jù)中心或者亞馬遜的S3(可能加密),非常適用于災(zāi)難恢復(fù).
RDB在保存RDB文件時(shí)父進(jìn)程唯一需要做的就是fork出一個(gè)子進(jìn)程,接下來(lái)的工作全部由子進(jìn)程來(lái)做邮辽,父進(jìn)程不需要再做其他IO操作,所以RDB持久化方式可以最大化redis的性能.
與AOF相比,在恢復(fù)大的數(shù)據(jù)集的時(shí)候,RDB方式會(huì)更快一些.
2镐躲、RDB的缺點(diǎn)
如果你希望在redis意外停止工作(例如電源中斷)的情況下丟失的數(shù)據(jù)最少的話,那么RDB不適合你.雖然你可以配置不同的save時(shí)間點(diǎn)(例如每隔5分鐘并且對(duì)數(shù)據(jù)集有100個(gè)寫(xiě)的操作),
是Redis要完整的保存整個(gè)數(shù)據(jù)集是一個(gè)比較繁重的工作,你通常會(huì)每隔5分鐘或者更久做一次完整的保存,萬(wàn)一在Redis意外宕機(jī),你可能會(huì)丟失幾分鐘的數(shù)據(jù).
RDB 需要經(jīng)常fork子進(jìn)程來(lái)保存數(shù)據(jù)集到硬盤(pán)上,當(dāng)數(shù)據(jù)集比較大的時(shí)候,fork的過(guò)程是非常耗時(shí)的,可能會(huì)導(dǎo)致Redis在一些毫秒級(jí)內(nèi)不能響應(yīng)客戶端的請(qǐng)求.
如果數(shù)據(jù)集巨大并且CPU性能不是很好的情況下,這種情況會(huì)持續(xù)1秒,AOF也需要fork,但是你可以調(diào)節(jié)重寫(xiě)日志文件的頻率來(lái)提高數(shù)據(jù)集的耐久度.
三侍筛、AOF的優(yōu)缺點(diǎn)
1萤皂、AOF 優(yōu)點(diǎn)
使用AOF 會(huì)讓你的Redis更加耐久: 你可以使用不同的fsync策略:無(wú)fsync,每秒fsync,每次寫(xiě)的時(shí)候fsync.使用默認(rèn)的每秒fsync策略,
Redis的性能依然很好(fsync是由后臺(tái)線程進(jìn)行處理的,主線程會(huì)盡力處理客戶端請(qǐng)求),一旦出現(xiàn)故障,你最多丟失1秒的數(shù)據(jù).
AOF文件是一個(gè)只進(jìn)行追加的日志文件,所以不需要寫(xiě)入seek,即使由于某些原因(磁盤(pán)空間已滿匣椰,寫(xiě)的過(guò)程中宕機(jī)等等)未執(zhí)行完整的寫(xiě)入命令,你也也可使用redis-check-aof工具修復(fù)這些問(wèn)題.
Redis 可以在 AOF 文件體積變得過(guò)大時(shí)裆熙,自動(dòng)地在后臺(tái)對(duì) AOF 進(jìn)行重寫(xiě): 重寫(xiě)后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。 整個(gè)重寫(xiě)操作是絕對(duì)安全的禽笑,
因?yàn)?Redis 在創(chuàng)建新 AOF 文件的過(guò)程中入录,會(huì)繼續(xù)將命令追加到現(xiàn)有的 AOF 文件里面,即使重寫(xiě)過(guò)程中發(fā)生停機(jī)蒲每,現(xiàn)有的 AOF 文件也不會(huì)丟失纷跛。 而一旦新 AOF 文件創(chuàng)建完畢,Redis 就會(huì)從舊 AOF 文件切換到新 AOF 文件邀杏,并開(kāi)始對(duì)新 AOF 文件進(jìn)行追加操作贫奠。
AOF 文件有序地保存了對(duì)數(shù)據(jù)庫(kù)執(zhí)行的所有寫(xiě)入操作, 這些寫(xiě)入操作以 Redis 協(xié)議的格式保存望蜡, 因此 AOF 文件的內(nèi)容非常容易被人讀懂唤崭, 對(duì)文件進(jìn)行分析(parse)也很輕松。 導(dǎo)出(export) AOF 文件也非常簡(jiǎn)單:
舉個(gè)例子脖律, 如果你不小心執(zhí)行了 FLUSHALL 命令谢肾, 但只要 AOF 文件未被重寫(xiě), 那么只要停止服務(wù)器小泉, 移除 AOF 文件末尾的 FLUSHALL 命令芦疏, 并重啟 Redis , 就可以將數(shù)據(jù)集恢復(fù)到 FLUSHALL 執(zhí)行之前的狀態(tài)微姊。
2酸茴、AOF 缺點(diǎn)
對(duì)于相同的數(shù)據(jù)集來(lái)說(shuō),AOF 文件的體積通常要大于 RDB 文件的體積兢交。
根據(jù)所使用的 fsync 策略薪捍,AOF 的速度可能會(huì)慢于 RDB 。 在一般情況下, 每秒 fsync 的性能依然非常高酪穿, 而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快凳干,
即使在高負(fù)荷之下也是如此。 不過(guò)在處理巨大的寫(xiě)入載入時(shí)被济,RDB 可以提供更有保證的最大延遲時(shí)間(latency)救赐。
三、如何選擇使用哪種持久化方式只磷?
一般來(lái)說(shuō)净响, 如果想達(dá)到足以媲美 PostgreSQL 的數(shù)據(jù)安全性, 你應(yīng)該同時(shí)使用兩種持久化功能喳瓣。
如果你非常關(guān)心你的數(shù)據(jù)馋贤, 但仍然可以承受數(shù)分鐘以內(nèi)的數(shù)據(jù)丟失, 那么你可以只使用 RDB 持久化畏陕。
有很多用戶都只使用 AOF 持久化配乓, 但我們并不推薦這種方式: 因?yàn)槎〞r(shí)生成 RDB 快照(snapshot)非常便于進(jìn)行數(shù)據(jù)庫(kù)備份, 并且 RDB 恢復(fù)數(shù)據(jù)集的速度也要比 AOF 恢復(fù)的速度要快惠毁, 除此之外犹芹, 使用 RDB 還可以避免之前提到的 AOF 程序的 bug 。
Note: 因?yàn)橐陨咸岬降姆N種原因鞠绰, 未來(lái)我們可能會(huì)將 AOF 和 RDB 整合成單個(gè)持久化模型腰埂。 (這是一個(gè)長(zhǎng)期計(jì)劃。) 接下來(lái)的幾個(gè)小節(jié)將介紹 RDB 和 AOF 的更多細(xì)節(jié)蜈膨。
快照
在默認(rèn)情況下屿笼, Redis 將數(shù)據(jù)庫(kù)快照保存在名字為 dump.rdb的二進(jìn)制文件中。你可以對(duì) Redis 進(jìn)行設(shè)置翁巍, 讓它在“ N 秒內(nèi)數(shù)據(jù)集至少有 M 個(gè)改動(dòng)”這一條件被滿足時(shí)驴一, 自動(dòng)保存一次數(shù)據(jù)集。你也可以通過(guò)調(diào)用 SAVE或者 BGSAVE 灶壶, 手動(dòng)讓 Redis 進(jìn)行數(shù)據(jù)集保存操作肝断。
比如說(shuō), 以下設(shè)置會(huì)讓 Redis 在滿足“ 60 秒內(nèi)有至少有 1000 個(gè)鍵被改動(dòng)”這一條件時(shí)驰凛, 自動(dòng)保存一次數(shù)據(jù)集:
save 60 1000
這種持久化方式被稱(chēng)為快照 snapshotting
四胸懈、工作方式
當(dāng) Redis 需要保存 dump.rdb 文件時(shí), 服務(wù)器執(zhí)行以下操作:
Redis 調(diào)用forks. 同時(shí)擁有父進(jìn)程和子進(jìn)程恰响。
子進(jìn)程將數(shù)據(jù)集寫(xiě)入到一個(gè)臨時(shí) RDB 文件中趣钱。
當(dāng)子進(jìn)程完成對(duì)新 RDB 文件的寫(xiě)入時(shí),Redis 用新 RDB 文件替換原來(lái)的 RDB 文件渔隶,并刪除舊的 RDB 文件羔挡。
這種工作方式使得 Redis 可以從寫(xiě)時(shí)復(fù)制(copy-on-write)機(jī)制中獲益。
只追加操作的文件(Append-only file间唉,AOF)
快照功能并不是非常耐久(dura ble): 如果 Redis 因?yàn)槟承┰蚨斐晒收贤C(jī)绞灼, 那么服務(wù)器將丟失最近寫(xiě)入、且仍未保存到快照中的那些數(shù)據(jù)呈野。 從 1.1 版本開(kāi)始低矮, Redis 增加了一種完全耐久的持久化方式: AOF 持久化。
你可以在配置文件中打開(kāi)AOF方式:
appendonly yes
從現(xiàn)在開(kāi)始被冒, 每當(dāng) Redis 執(zhí)行一個(gè)改變數(shù)據(jù)集的命令時(shí)(比如 SET)军掂, 這個(gè)命令就會(huì)被追加到 AOF 文件的末尾。這樣的話昨悼, 當(dāng) Redis 重新啟時(shí)蝗锥, 程序就可以通過(guò)重新執(zhí)行 AOF 文件中的命令來(lái)達(dá)到重建數(shù)據(jù)集的目的。
五率触、日志重寫(xiě)
因?yàn)?AOF 的運(yùn)作方式是不斷地將命令追加到文件的末尾终议, 所以隨著寫(xiě)入命令的不斷增加, AOF 文件的體積也會(huì)變得越來(lái)越大葱蝗。舉個(gè)例子穴张, 如果你對(duì)一個(gè)計(jì)數(shù)器調(diào)用了 100 次 INCR , 那么僅僅是為了保存這個(gè)計(jì)數(shù)器的當(dāng)前值两曼, AOF 文件就需要使用 100 條記錄(entry)皂甘。然而在實(shí)際上, 只使用一條 SET 命令已經(jīng)足以保存計(jì)數(shù)器的當(dāng)前值了悼凑, 其余 99 條記錄實(shí)際上都是多余的偿枕。
為了處理這種情況, Redis 支持一種有趣的特性: 可以在不打斷服務(wù)客戶端的情況下户辫, 對(duì) AOF 文件進(jìn)行重建(rebuild)益老。執(zhí)行 BGREWRITEAOF 命令, Redis 將生成一個(gè)新的 AOF 文件寸莫, 這個(gè)文件包含重建當(dāng)前數(shù)據(jù)集所需的最少命令捺萌。Redis 2.2 需要自己手動(dòng)執(zhí)行 BGREWRITEAOF 命令; Redis 2.4 則可以自動(dòng)觸發(fā) AOF 重寫(xiě)膘茎, 具體信息請(qǐng)查看 2.4 的示例配置文件桃纯。
六、AOF有多耐用?
你可以配置 Redis 多久才將數(shù)據(jù) fsync 到磁盤(pán)一次披坏。有三種方式:
每次有新命令追加到 AOF 文件時(shí)就執(zhí)行一次 fsync :非常慢态坦,也非常安全
每秒 fsync 一次:足夠快(和使用 RDB 持久化差不多),并且在故障時(shí)只會(huì)丟失 1 秒鐘的數(shù)據(jù)棒拂。
從不 fsync :將數(shù)據(jù)交給操作系統(tǒng)來(lái)處理伞梯。更快玫氢,也更不安全的選擇。
推薦(并且也是默認(rèn))的措施為每秒 fsync 一次谜诫, 這種 fsync 策略可以兼顧速度和安全性漾峡。
七、如果AOF文件損壞了怎么辦喻旷?
服務(wù)器可能在程序正在對(duì) AOF 文件進(jìn)行寫(xiě)入時(shí)停機(jī)生逸, 如果停機(jī)造成了 AOF 文件出錯(cuò)(corrupt), 那么 Redis 在重啟時(shí)會(huì)拒絕載入這個(gè) AOF 文件且预, 從而確保數(shù)據(jù)的一致性不會(huì)被破壞槽袄。當(dāng)發(fā)生這種情況時(shí), 可以用以下方法來(lái)修復(fù)出錯(cuò)的 AOF 文件:
為現(xiàn)有的 AOF 文件創(chuàng)建一個(gè)備份锋谐。
使用 Redis 附帶的 redis-check-aof 程序遍尺,對(duì)原來(lái)的 AOF 文件進(jìn)行修復(fù):
$ redis-check-aof –fix
(可選)使用 diff -u 對(duì)比修復(fù)后的 AOF 文件和原始 AOF 文件的備份,查看兩個(gè)文件之間的不同之處涮拗。
重啟 Redis 服務(wù)器狮鸭,等待服務(wù)器載入修復(fù)后的 AOF 文件,并進(jìn)行數(shù)據(jù)恢復(fù)多搀。
工作原理
AOF 重寫(xiě)和 RDB 創(chuàng)建快照一樣歧蕉,都巧妙地利用了寫(xiě)時(shí)復(fù)制機(jī)制:
Redis 執(zhí)行 fork() ,現(xiàn)在同時(shí)擁有父進(jìn)程和子進(jìn)程康铭。
子進(jìn)程開(kāi)始將新 AOF 文件的內(nèi)容寫(xiě)入到臨時(shí)文件惯退。
對(duì)于所有新執(zhí)行的寫(xiě)入命令,父進(jìn)程一邊將它們累積到一個(gè)內(nèi)存緩存中从藤,一邊將這些改動(dòng)追加到現(xiàn)有 AOF 文件的末尾,這樣樣即使在重寫(xiě)的中途發(fā)生停機(jī)催跪,現(xiàn)有的 AOF 文件也還是安全的。
當(dāng)子進(jìn)程完成重寫(xiě)工作時(shí)夷野,它給父進(jìn)程發(fā)送一個(gè)信號(hào)懊蒸,父進(jìn)程在接收到信號(hào)之后,將內(nèi)存緩存中的所有數(shù)據(jù)追加到新 AOF 文件的末尾悯搔。
搞定骑丸!現(xiàn)在 Redis 原子地用新文件替換舊文件,之后所有命令都會(huì)直接追加到新 AOF 文件的末尾妒貌。
八通危、怎樣從RDB方式切換為AOF方式
在 Redis 2.2 或以上版本,可以在不重啟的情況下灌曙,從 RDB 切換到 AOF :
為最新的 dump.rdb 文件創(chuàng)建一個(gè)備份菊碟。
將備份放到一個(gè)安全的地方。
執(zhí)行以下兩條命令:
redis-cli config set appendonly yes
redis-cli config set save “”
確保寫(xiě)命令會(huì)被正確地追加到 AOF 文件的末尾在刺。
執(zhí)行的第一條命令開(kāi)啟了 AOF 功能: Redis 會(huì)阻塞直到初始 AOF 文件創(chuàng)建完成為止逆害, 之后 Redis 會(huì)繼續(xù)處理命令請(qǐng)求空免, 并開(kāi)始將寫(xiě)入命令追加到 AOF 文件末尾吓歇。
執(zhí)行的第二條命令用于關(guān)閉 RDB 功能望艺。 這一步是可選的紊扬, 如果你愿意的話, 也可以同時(shí)使用 RDB 和 AOF 這兩種持久化功能梅垄。
重要:別忘了在 redis.conf 中打開(kāi) AOF 功能! 否則的話输玷, 服務(wù)器重啟之后队丝, 之前通過(guò) CONFIG SET 設(shè)置的配置就會(huì)被遺忘, 程序會(huì)按原來(lái)的配置來(lái)啟動(dòng)服務(wù)器欲鹏。
九机久、AOF和RDB之間的相互作用
在版本號(hào)大于等于 2.4 的 Redis 中, BGSAVE 執(zhí)行的過(guò)程中赔嚎, 不可以執(zhí)行 BGREWRITEAOF 膘盖。 反過(guò)來(lái)說(shuō), 在 BGREWRITEAOF 執(zhí)行的過(guò)程中尤误, 也不可以執(zhí)行 BGSAVE侠畔。這可以防止兩個(gè) Redis 后臺(tái)進(jìn)程同時(shí)對(duì)磁盤(pán)進(jìn)行大量的 I/O 操作。
如果 BGSAVE 正在執(zhí)行损晤, 并且用戶顯示地調(diào)用 BGREWRITEAOF 命令软棺, 那么服務(wù)器將向用戶回復(fù)一個(gè) OK 狀態(tài), 并告知用戶尤勋, BGREWRITEAOF 已經(jīng)被預(yù)定執(zhí)行: 一旦 BGSAVE 執(zhí)行完畢喘落, BGREWRITEAOF 就會(huì)正式開(kāi)始。 當(dāng) Redis 啟動(dòng)時(shí)最冰, 如果 RDB 持久化和 AOF 持久化都被打開(kāi)了瘦棋, 那么程序會(huì)優(yōu)先使用 AOF 文件來(lái)恢復(fù)數(shù)據(jù)集, 因?yàn)?AOF 文件所保存的數(shù)據(jù)通常是最完整的暖哨。
十赌朋、備份redis數(shù)據(jù)
在閱讀這個(gè)小節(jié)前, 請(qǐng)牢記下面這句話: 確保你的數(shù)據(jù)由完整的備份. 磁盤(pán)故障篇裁, 節(jié)點(diǎn)失效箕慧, 諸如此類(lèi)的問(wèn)題都可能讓你的數(shù)據(jù)消失不見(jiàn), 不進(jìn)行備份是非常危險(xiǎn)的茴恰。
Redis 對(duì)于數(shù)據(jù)備份是非常友好的颠焦, 因?yàn)槟憧梢栽诜?wù)器運(yùn)行的時(shí)候?qū)?RDB 文件進(jìn)行復(fù)制: RDB 文件一旦被創(chuàng)建, 就不會(huì)進(jìn)行任何修改往枣。 當(dāng)服務(wù)器要?jiǎng)?chuàng)建一個(gè)新的 RDB 文件時(shí)伐庭, 它先將文件的內(nèi)容保存在一個(gè)臨時(shí)文件里面粉渠, 當(dāng)臨時(shí)文件寫(xiě)入完畢時(shí), 程序才使用 rename(2) 原子地用臨時(shí)文件替換原來(lái)的 RDB 文件圾另。
這也就是說(shuō)霸株, 無(wú)論何時(shí), 復(fù)制 RDB 文件都是絕對(duì)安全的集乔。
創(chuàng)建一個(gè)定期任務(wù)(cron job)去件, 每小時(shí)將一個(gè) RDB 文件備份到一個(gè)文件夾, 并且每天將一個(gè) RDB 文件備份到另一個(gè)文件夾扰路。
確庇攘铮快照的備份都帶有相應(yīng)的日期和時(shí)間信息, 每次執(zhí)行定期任務(wù)腳本時(shí)汗唱, 使用 find 命令來(lái)刪除過(guò)期的快照: 比如說(shuō)宫莱, 你可以保留最近 48 小時(shí)內(nèi)的每小時(shí)快照, 還可以保留最近一兩個(gè)月的每日快照哩罪。
至少每天一次授霸, 將 RDB 備份到你的數(shù)據(jù)中心之外, 或者至少是備份到你運(yùn)行 Redis 服務(wù)器的物理機(jī)器之外际插。