redis持久化RDB和AOF

Redis持久化:

提供了多種不同級別的持久化方式:一種是RDB,另一種是AOF.

RDB 持久化可以在指定的時間間隔內(nèi)生成數(shù)據(jù)集的時間點(diǎn)快照(point-in-time snapshot)。

AOF 持久化記錄服務(wù)器執(zhí)行的所有寫操作命令炫欺,并在服務(wù)器啟動時狡忙,通過重新執(zhí)行這些命令來還原數(shù)據(jù)集丛楚。 AOF 文件中的命令全部以 Redis 協(xié)議的格式來保存,新命令會被追加到文件的末尾畅哑。 Redis 還可以在后臺對 AOF 文件進(jìn)行重寫(rewrite)打洼,使得 AOF 文件的體積不會超出保存數(shù)據(jù)集狀態(tài)所需的實(shí)際大小。Redis 還可以同時使用 AOF 持久化和 RDB 持久化奴曙。 在這種情況下, 當(dāng) Redis 重啟時草讶, 它會優(yōu)先使用 AOF 文件來還原數(shù)據(jù)集洽糟, 因?yàn)?AOF 文件保存的數(shù)據(jù)集通常比 RDB 文件所保存的數(shù)據(jù)集更完整。你甚至可以關(guān)閉持久化功能堕战,讓數(shù)據(jù)只在服務(wù)器運(yùn)行時存在脊框。

了解 RDB 持久化和 AOF 持久化之間的異同是非常重要的, 以下幾個小節(jié)將詳細(xì)地介紹這這兩種持久化功能践啄, 并對它們的相同和不同之處進(jìn)行說明。

RDB 的優(yōu)點(diǎn):

RDB 是一個非常緊湊(compact)的文件沉御,它保存了 Redis 在某個時間點(diǎn)上的數(shù)據(jù)集屿讽。 這種文件非常適合用于進(jìn)行備份: 比如說,你可以在最近的 24 小時內(nèi)吠裆,每小時備份一次 RDB 文件伐谈,并且在每個月的每一天,也備份一個 RDB 文件试疙。 這樣的話诵棵,即使遇上問題,也可以隨時將數(shù)據(jù)集還原到不同的版本祝旷。RDB 非常適用于災(zāi)難恢復(fù)(disaster recovery):它只有一個文件履澳,并且內(nèi)容都非常緊湊,可以(在加密后)將它傳送到別的數(shù)據(jù)中心怀跛,或者亞馬遜 S3 中距贷。RDB 可以最大化 Redis 的性能:父進(jìn)程在保存 RDB 文件時唯一要做的就是 fork 出一個子進(jìn)程,然后這個子進(jìn)程就會處理接下來的所有保存工作吻谋,父進(jìn)程無須執(zhí)行任何磁盤 I/O 操作忠蝗。RDB 在恢復(fù)大數(shù)據(jù)集時的速度比 AOF 的恢復(fù)速度要快。

RDB 的缺點(diǎn):

如果你需要盡量避免在服務(wù)器故障時丟失數(shù)據(jù)漓拾,那么 RDB 不適合你阁最。 雖然 Redis 允許你設(shè)置不同的保存點(diǎn)(save point)來控制保存 RDB 文件的頻率戒祠, 但是, 因?yàn)镽DB 文件需要保存整個數(shù)據(jù)集的狀態(tài)速种, 所以它并不是一個輕松的操作姜盈。 因此你可能會至少 5 分鐘才保存一次 RDB 文件。 在這種情況下哟旗, 一旦發(fā)生故障停機(jī)贩据, 你就可能會丟失好幾分鐘的數(shù)據(jù)。每次保存 RDB 的時候闸餐,Redis 都要 fork() 出一個子進(jìn)程饱亮,并由子進(jìn)程來進(jìn)行實(shí)際的持久化工作。 在數(shù)據(jù)集比較龐大時舍沙, fork() 可能會非常耗時近上,造成服務(wù)器在某某毫秒內(nèi)停止處理客戶端; 如果數(shù)據(jù)集非常巨大拂铡,并且 CPU 時間非常緊張的話壹无,那么這種停止時間甚至可能會長達(dá)整整一秒。 雖然 AOF 重寫也需要進(jìn)行 fork() 感帅,但無論 AOF 重寫的執(zhí)行間隔有多長斗锭,數(shù)據(jù)的耐久性都不會有任何損失。

AOF 的優(yōu)點(diǎn):

使用 AOF 持久化會讓 Redis 變得非常耐久(much more durable):你可以設(shè)置不同的 fsync 策略失球,比如無 fsync 岖是,每秒鐘一次 fsync ,或者每次執(zhí)行寫入命令時 fsync 实苞。 AOF 的默認(rèn)策略為每秒鐘 fsync 一次豺撑,在這種配置下,Redis 仍然可以保持良好的性能黔牵,并且就算發(fā)生故障停機(jī)聪轿,也最多只會丟失一秒鐘的數(shù)據(jù)( fsync 會在后臺線程執(zhí)行,所以主線程可以繼續(xù)努力地處理命令請求)猾浦。AOF 文件是一個只進(jìn)行追加操作的日志文件(append only log)陆错, 因此對 AOF 文件的寫入不需要進(jìn)行 seek , 即使日志因?yàn)槟承┰蚨宋磳懭胪暾拿睿ū热鐚懭霑r磁盤已滿金赦,寫入中途停機(jī)危号,等等), redis-check-aof 工具也可以輕易地修復(fù)這種問題素邪。

Redis 可以在 AOF 文件體積變得過大時外莲,自動地在后臺對 AOF 進(jìn)行重寫: 重寫后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。 整個重寫操作是絕對安全的,因?yàn)?Redis 在創(chuàng)建新 AOF 文件的過程中偷线,會繼續(xù)將命令追加到現(xiàn)有的 AOF 文件里面磨确,即使重寫過程中發(fā)生停機(jī),現(xiàn)有的 AOF 文件也不會丟失声邦。 而一旦新 AOF 文件創(chuàng)建完畢乏奥,Redis 就會從舊 AOF 文件切換到新 AOF 文件,并開始對新 AOF 文件進(jìn)行追加操作亥曹。AOF 文件有序地保存了對數(shù)據(jù)庫執(zhí)行的所有寫入操作邓了, 這些寫入操作以 Redis 協(xié)議的格式保存, 因此 AOF 文件的內(nèi)容非常容易被人讀懂媳瞪, 對文件進(jìn)行分析(parse)也很輕松骗炉。 導(dǎo)出(export) AOF 文件也非常簡單: 舉個例子, 如果你不小心執(zhí)行了 FLUSHALL 命令蛇受, 但只要 AOF 文件未被重寫句葵, 那么只要停止服務(wù)器, 移除 AOF 文件末尾的 FLUSHALL 命令兢仰, 并重啟 Redis 乍丈, 就可以將數(shù)據(jù)集恢復(fù)到 FLUSHALL 執(zhí)行之前的狀態(tài)。

AOF 的缺點(diǎn):

對于相同的數(shù)據(jù)集來說把将,AOF 文件的體積通常要大于 RDB 文件的體積轻专。根據(jù)所使用的 fsync 策略,AOF 的速度可能會慢于 RDB 察蹲。 在一般情況下铭若, 每秒 fsync 的性能依然非常高, 而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快递览, 即使在高負(fù)荷之下也是如此。 不過在處理巨大的寫入載入時瞳腌,RDB 可以提供更有保證的最大延遲時間(latency)绞铃。AOF 在過去曾經(jīng)發(fā)生過這樣的 bug : 因?yàn)閭€別命令的原因,導(dǎo)致 AOF 文件在重新載入時嫂侍,無法將數(shù)據(jù)集恢復(fù)成保存時的原樣儿捧。 (舉個例子,阻塞命令 BRPOPLPUSH 就曾經(jīng)引起過這樣的 bug 挑宠。)測試套件里為這種情況添加了測試: 它們會自動生成隨機(jī)的菲盾、復(fù)雜的數(shù)據(jù)集, 并通過重新載入這些數(shù)據(jù)來確保一切正常各淀。 雖然這種 bug 在 AOF 文件中并不常見懒鉴, 但是對比來說, RDB 幾乎是不可能出現(xiàn)這種 bug 的。

RDB 和 AOF ,我應(yīng)該用哪一個临谱?

一般來說,如果想達(dá)到足以媲美 PostgreSQL 的數(shù)據(jù)安全性璃俗, 你應(yīng)該同時使用兩種持久化功能。如果你非常關(guān)心你的數(shù)據(jù),但仍然可以承受數(shù)分鐘以內(nèi)的數(shù)據(jù)丟失悉默, 那么你可以只使用 RDB 持久化城豁。有很多用戶都只使用 AOF 持久化, 但我們并不推薦這種方式: 因?yàn)槎〞r生成 RDB 快照(snapshot)非常便于進(jìn)行數(shù)據(jù)庫備份抄课, 并且 RDB 恢復(fù)數(shù)據(jù)集的速度也要比 AOF 恢復(fù)的速度要快唱星, 除此之外, 使用 RDB 還可以避免之前提到的 AOF 程序的 bug 跟磨。因?yàn)橐陨咸岬降姆N種原因间聊, 未來我們可能會將 AOF 和 RDB 整合成單個持久化模型。 (這是一個長期計(jì)劃吱晒。)

RDB 快照:

在默認(rèn)情況下甸饱, Redis 將數(shù)據(jù)庫快照保存在名字為 dump.rdb 的二進(jìn)制文件中。你可以對 Redis 進(jìn)行設(shè)置仑濒, 讓它在“ N 秒內(nèi)數(shù)據(jù)集至少有 M 個改動”這一條件被滿足時叹话, 自動保存一次數(shù)據(jù)集。你也可以通過調(diào)用 SAVE 或者 BGSAVE 墩瞳, 手動讓 Redis 進(jìn)行數(shù)據(jù)集保存操作驼壶。比如說, 以下設(shè)置會讓 Redis 在滿足“ 60 秒內(nèi)有至少有 1000 個鍵被改動”這一條件時喉酌, 自動保存一次數(shù)據(jù)集:

save 60 1000

這種持久化方式被稱為快照(snapshot)热凹。

快照的運(yùn)作方式:

當(dāng) Redis 需要保存 dump.rdb 文件時, 服務(wù)器執(zhí)行以下操作:

Redis 調(diào)用 fork() 泪电,同時擁有父進(jìn)程和子進(jìn)程般妙。

子進(jìn)程將數(shù)據(jù)集寫入到一個臨時 RDB 文件中。

當(dāng)子進(jìn)程完成對新 RDB 文件的寫入時相速,Redis 用新 RDB 文件替換原來的 RDB 文件碟渺,并刪除舊的 RDB 文件。

這種工作方式使得 Redis 可以從寫時復(fù)制(copy-on-write)機(jī)制中獲益突诬。

只進(jìn)行追加操作的文件(append-only file苫拍,AOF)

快照功能并不是非常耐久(durable): 如果 Redis 因?yàn)槟承┰蚨斐晒收贤C(jī), 那么服務(wù)器將丟失最近寫入旺隙、且仍未保存到快照中的那些數(shù)據(jù)绒极。盡管對于某些程序來說, 數(shù)據(jù)的耐久性并不是最重要的考慮因素蔬捷, 但是對于那些追求完全耐久能力(full durability)的程序來說垄提, 快照功能就不太適用了。

從 1.1 版本開始, Redis 增加了一種完全耐久的持久化方式: AOF 持久化塔淤。

你可以通過修改配置文件來打開 AOF 功能:

appendonly yes

從現(xiàn)在開始摘昌, 每當(dāng) Redis 執(zhí)行一個改變數(shù)據(jù)集的命令時(比如 SET), 這個命令就會被追加到 AOF 文件的末尾高蜂。

這樣的話聪黎, 當(dāng) Redis 重新啟時, 程序就可以通過重新執(zhí)行 AOF 文件中的命令來達(dá)到重建數(shù)據(jù)集的目的备恤。

AOF 重寫:

因?yàn)?AOF 的運(yùn)作方式是不斷地將命令追加到文件的末尾稿饰, 所以隨著寫入命令的不斷增加, AOF 文件的體積也會變得越來越大露泊。舉個例子喉镰, 如果你對一個計(jì)數(shù)器調(diào)用了 100 次 INCR , 那么僅僅是為了保存這個計(jì)數(shù)器的當(dāng)前值惭笑, AOF 文件就需要使用 100 條記錄(entry)侣姆。然而在實(shí)際上, 只使用一條 SET 命令已經(jīng)足以保存計(jì)數(shù)器的當(dāng)前值了沉噩, 其余 99 條記錄實(shí)際上都是多余的捺宗。為了處理這種情況, Redis 支持一種有趣的特性: 可以在不打斷服務(wù)客戶端的情況下川蒙, 對 AOF 文件進(jìn)行重建(rebuild)蚜厉。執(zhí)行 BGREWRITEAOF 命令, Redis 將生成一個新的 AOF 文件畜眨, 這個文件包含重建當(dāng)前數(shù)據(jù)集所需的最少命令昼牛。

AOF 有多耐久?

你可以配置 Redis 多久才將數(shù)據(jù) fsync 到磁盤一次康聂。

有三個選項(xiàng):

每次有新命令追加到 AOF 文件時就執(zhí)行一次 fsync :非常慢贰健,也非常安全。

每秒 fsync 一次:足夠快(和使用 RDB 持久化差不多)恬汁,并且在故障時只會丟失 1 秒鐘的數(shù)據(jù)伶椿。

從不 fsync :將數(shù)據(jù)交給操作系統(tǒng)來處理。更快蕊连,也更不安全的選擇。

推薦(并且也是默認(rèn))的措施為每秒 fsync 一次游昼, 這種 fsync 策略可以兼顧速度和安全性甘苍。

總是 fsync 的策略在實(shí)際使用中非常慢, 即使在 Redis 2.0 對相關(guān)的程序進(jìn)行了改進(jìn)之后仍是如此 —— 頻繁調(diào)用 fsync 注定了這種策略不可能快得起來烘豌。

如果 AOF 文件出錯了载庭,怎么辦?

服務(wù)器可能在程序正在對 AOF 文件進(jìn)行寫入時停機(jī), 如果停機(jī)造成了 AOF 文件出錯(corrupt)囚聚, 那么 Redis 在重啟時會拒絕載入這個 AOF 文件靖榕, 從而確保數(shù)據(jù)的一致性不會被破壞。

當(dāng)發(fā)生這種情況時顽铸, 可以用以下方法來修復(fù)出錯的 AOF 文件:

為現(xiàn)有的 AOF 文件創(chuàng)建一個備份茁计。

使用 Redis 附帶的 redis-check-aof 程序,對原來的 AOF 文件進(jìn)行修復(fù)谓松。

$ redis-check-aof --fix

(可選)使用 diff -u 對比修復(fù)后的 AOF 文件和原始 AOF 文件的備份星压,查看兩個文件之間的不同之處。

重啟 Redis 服務(wù)器鬼譬,等待服務(wù)器載入修復(fù)后的 AOF 文件娜膘,并進(jìn)行數(shù)據(jù)恢復(fù)。

AOF 的運(yùn)作方式

AOF 重寫和 RDB 創(chuàng)建快照一樣优质,都巧妙地利用了寫時復(fù)制機(jī)制竣贪。

以下是 AOF 重寫的執(zhí)行步驟:

Redis 執(zhí)行 fork() ,現(xiàn)在同時擁有父進(jìn)程和子進(jìn)程巩螃。

子進(jìn)程開始將新 AOF 文件的內(nèi)容寫入到臨時文件演怎。對于所有新執(zhí)行的寫入命令,父進(jìn)程一邊將它們累積到一個內(nèi)存緩存中牺六,一邊將這些改動追加到現(xiàn)有 AOF 文件的末尾: 這樣即使在重寫的中途發(fā)生停機(jī)颤枪,現(xiàn)有的 AOF 文件也還是安全的。當(dāng)子進(jìn)程完成重寫工作時淑际,它給父進(jìn)程發(fā)送一個信號畏纲,父進(jìn)程在接收到信號之后,將內(nèi)存緩存中的所有數(shù)據(jù)追加到新 AOF 文件的末尾〈郝疲現(xiàn)在 Redis 原子地用新文件替換舊文件盗胀,之后所有命令都會直接追加到新 AOF 文件的末尾。

為最新的 dump.rdb 文件創(chuàng)建一個備份锄贼。

將備份放到一個安全的地方票灰。

執(zhí)行以下兩條命令:

redis-cli> CONFIG SET appendonly yes

redis-cli> CONFIG SET save ""

確保命令執(zhí)行之后,數(shù)據(jù)庫的鍵的數(shù)量沒有改變宅荤。

確保寫命令會被正確地追加到 AOF 文件的末尾屑迂。

步驟 3 執(zhí)行的第一條命令開啟了 AOF 功能: Redis 會阻塞直到初始 AOF 文件創(chuàng)建完成為止, 之后 Redis 會繼續(xù)處理命令請求冯键, 并開始將寫入命令追加到 AOF 文件末尾惹盼。

步驟 3 執(zhí)行的第二條命令用于關(guān)閉 RDB 功能。 這一步是可選的惫确, 如果你愿意的話手报, 也可以同時使用 RDB 和 AOF 這兩種持久化功能蚯舱。

別忘了在 redis.conf 中打開 AOF 功能! 否則的話掩蛤, 服務(wù)器重啟之后枉昏, 之前通過 CONFIG SET 設(shè)置的配置就會被遺忘, 程序會按原來的配置來啟動服務(wù)器揍鸟。

RDB 和 AOF 之間的相互作用:

在版本號大于等于 2.4 的 Redis 中兄裂, BGSAVE 執(zhí)行的過程中, 不可以執(zhí)行 BGREWRITEAOF 蜈亩。 反過來說懦窘, 在 BGREWRITEAOF 執(zhí)行的過程中, 也不可以執(zhí)行 BGSAVE 稚配。

這可以防止兩個 Redis 后臺進(jìn)程同時對磁盤進(jìn)行大量的 I/O 操作畅涂。

如果 BGSAVE 正在執(zhí)行, 并且用戶顯示地調(diào)用 BGREWRITEAOF 命令道川, 那么服務(wù)器將向用戶回復(fù)一個 OK 狀態(tài)午衰, 并告知用戶, BGREWRITEAOF 已經(jīng)被預(yù)定執(zhí)行: 一旦 BGSAVE 執(zhí)行完畢冒萄, BGREWRITEAOF 就會正式開始臊岸。當(dāng) Redis 啟動時, 如果 RDB 持久化和 AOF 持久化都被打開了尊流, 那么程序會優(yōu)先使用 AOF 文件來恢復(fù)數(shù)據(jù)集帅戒, 因?yàn)?AOF 文件所保存的數(shù)據(jù)通常是最完整的。

備份 Redis 數(shù)據(jù):

Redis 對于數(shù)據(jù)備份是非常友好的崖技, 因?yàn)槟憧梢栽诜?wù)器運(yùn)行的時候?qū)?RDB 文件進(jìn)行復(fù)制: RDB 文件一旦被創(chuàng)建逻住, 就不會進(jìn)行任何修改。 當(dāng)服務(wù)器要創(chuàng)建一個新的 RDB 文件時迎献, 它先將文件的內(nèi)容保存在一個臨時文件里面瞎访, 當(dāng)臨時文件寫入完畢時, 程序才使用 ?原子地用臨時文件替換原來的 RDB 文件吁恍。這也就是說扒秸, 無論何時, 復(fù)制 RDB 文件都是絕對安全的冀瓦。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末伴奥,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子翼闽,更是在濱河造成了極大的恐慌拾徙,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,496評論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件肄程,死亡現(xiàn)場離奇詭異锣吼,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)蓝厌,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評論 3 392
  • 文/潘曉璐 我一進(jìn)店門玄叠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人拓提,你說我怎么就攤上這事读恃。” “怎么了代态?”我有些...
    開封第一講書人閱讀 162,632評論 0 353
  • 文/不壞的土叔 我叫張陵寺惫,是天一觀的道長。 經(jīng)常有香客問我蹦疑,道長西雀,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,180評論 1 292
  • 正文 為了忘掉前任歉摧,我火速辦了婚禮艇肴,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘叁温。我一直安慰自己再悼,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,198評論 6 388
  • 文/花漫 我一把揭開白布膝但。 她就那樣靜靜地躺著冲九,像睡著了一般。 火紅的嫁衣襯著肌膚如雪跟束。 梳的紋絲不亂的頭發(fā)上莺奸,一...
    開封第一講書人閱讀 51,165評論 1 299
  • 那天,我揣著相機(jī)與錄音泳炉,去河邊找鬼憾筏。 笑死,一個胖子當(dāng)著我的面吹牛花鹅,可吹牛的內(nèi)容都是我干的氧腰。 我是一名探鬼主播,決...
    沈念sama閱讀 40,052評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼刨肃,長吁一口氣:“原來是場噩夢啊……” “哼古拴!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起真友,我...
    開封第一講書人閱讀 38,910評論 0 274
  • 序言:老撾萬榮一對情侶失蹤黄痪,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后盔然,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體桅打,經(jīng)...
    沈念sama閱讀 45,324評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡是嗜,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,542評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了挺尾。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鹅搪。...
    茶點(diǎn)故事閱讀 39,711評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖遭铺,靈堂內(nèi)的尸體忽然破棺而出丽柿,到底是詐尸還是另有隱情,我是刑警寧澤魂挂,帶...
    沈念sama閱讀 35,424評論 5 343
  • 正文 年R本政府宣布甫题,位于F島的核電站,受9級特大地震影響涂召,放射性物質(zhì)發(fā)生泄漏坠非。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,017評論 3 326
  • 文/蒙蒙 一果正、第九天 我趴在偏房一處隱蔽的房頂上張望麻顶。 院中可真熱鬧,春花似錦舱卡、人聲如沸辅肾。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,668評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽矫钓。三九已至,卻和暖如春舍杜,著一層夾襖步出監(jiān)牢的瞬間新娜,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,823評論 1 269
  • 我被黑心中介騙來泰國打工既绩, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留概龄,地道東北人。 一個月前我還...
    沈念sama閱讀 47,722評論 2 368
  • 正文 我出身青樓饲握,卻偏偏與公主長得像私杜,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子救欧,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,611評論 2 353

推薦閱讀更多精彩內(nèi)容