Checkpoints

原文鏈接


概述

Checkpoint通過允許從狀態(tài)和相應(yīng)流的位置進(jìn)行恢復(fù)多糠,從而使Flink中的狀態(tài)具備容錯(cuò)能力懦尝,從而使應(yīng)用程序具有與無故障執(zhí)行相同的語義知纷。

為你的程序如何開啟和配置checkpoint見Checkpointing for how to enable and configure checkpoints for your program.

Externalized Checkpoints

默認(rèn)情況下,checkpoint不是持久化的陵霉,只用于從故障中恢復(fù)作業(yè)琅轧。當(dāng)程序被取消時(shí),它們會(huì)被刪除踊挠。但是你可以配置checkpoint被周期性持久化到外部乍桂,類似于savepoints冲杀。這些外部的checkpoints將它們的元數(shù)據(jù)輸出到外部持久化存儲(chǔ)并且當(dāng)作業(yè)失敗時(shí)不會(huì)自動(dòng)清除。這樣睹酌,如果你的工作失敗了权谁,你就會(huì)有一個(gè)checkpoint來恢復(fù)。

CheckpointConfig config = env.getCheckpointConfig();
config.enableExternalizedCheckpoints(ExternalizedCheckpointCleanup.RETAIN_ON_CANCELLATION);

ExternalizedCheckpointCleanup模式配置當(dāng)你取消作業(yè)時(shí)外部checkpoint會(huì)產(chǎn)生什么行為:

  • ExternalizedCheckpointCleanup.RETAIN_ON_CANCELLATION: 當(dāng)作業(yè)被取消時(shí)憋沿,保留外部的checkpoint旺芽。注意,在此情況下辐啄,您必須手動(dòng)清理checkpoint狀態(tài)采章。

  • ExternalizedCheckpointCleanup.DELETE_ON_CANCELLATION: 當(dāng)作業(yè)被取消時(shí),刪除外部化的checkpoint壶辜。只有當(dāng)作業(yè)失敗時(shí)悯舟,檢查點(diǎn)狀態(tài)才可用。

目錄結(jié)構(gòu)

類似于savepoints, 一個(gè)外部的checkpoint由一個(gè)元數(shù)據(jù)文件和一些額外的數(shù)據(jù)文件(依賴于狀態(tài)后端)組成砸民。外部的checkpoint的元數(shù)據(jù)文件的目標(biāo)目錄由配置state.checkpoints.dir決定抵怎,當(dāng)前只能通過配置文件設(shè)值。

state.checkpoints.dir: hdfs:///checkpoints/

這個(gè)目錄包含恢復(fù)checkpoint所需要的checkpoint元數(shù)據(jù)阱洪。對(duì)于 MemoryStateBackend便贵,它的元數(shù)據(jù)文件是自包含的,不需要更多的文件冗荸。

FsStateBackendRocksDBStateBackend 寫?yīng)毩⒌臄?shù)據(jù)文件承璃,只將這些文件的目錄寫入到元數(shù)據(jù)文件中。這些數(shù)據(jù)文件存儲(chǔ)在構(gòu)建作業(yè)時(shí)為狀態(tài)后端指定的路徑中蚌本。

env.setStateBackend(new RocksDBStateBackend("hdfs:///checkpoints-data/");

與Savepoints的差異

外部的checkpoints與savepoints有一些差異盔粹。 它們

  • 使用狀態(tài)后端特定的(low-level)的數(shù)據(jù)格式,
  • 可能是增量的,
  • 不支持Flink特定的功能,例如rescaling

從一個(gè)外部的checkpoint恢復(fù)

一個(gè)作業(yè)就像從一個(gè)savepoint一樣(見savepoint restore guide)程癌,可能會(huì)通過使用checkpoint的元數(shù)據(jù)文件舷嗡,從一個(gè)外部的checkpoint恢復(fù)。注意嵌莉,如果元數(shù)據(jù)文件不是自包含的进萄,jobmanager需要訪問它引用的元數(shù)據(jù)文件(見上述的目錄結(jié)構(gòu))。

$ bin/flink run -s :checkpointMetaDataPath [:runArgs]

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末锐峭,一起剝皮案震驚了整個(gè)濱河市中鼠,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌沿癞,老刑警劉巖援雇,帶你破解...
    沈念sama閱讀 218,941評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異椎扬,居然都是意外死亡惫搏,警方通過查閱死者的電腦和手機(jī)具温,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來筐赔,“玉大人铣猩,你說我怎么就攤上這事〈剑” “怎么了剂习?”我有些...
    開封第一講書人閱讀 165,345評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)较沪。 經(jīng)常有香客問我鳞绕,道長(zhǎng),這世上最難降的妖魔是什么尸曼? 我笑而不...
    開封第一講書人閱讀 58,851評(píng)論 1 295
  • 正文 為了忘掉前任们何,我火速辦了婚禮,結(jié)果婚禮上控轿,老公的妹妹穿的比我還像新娘冤竹。我一直安慰自己,他們只是感情好茬射,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,868評(píng)論 6 392
  • 文/花漫 我一把揭開白布鹦蠕。 她就那樣靜靜地躺著,像睡著了一般在抛。 火紅的嫁衣襯著肌膚如雪钟病。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,688評(píng)論 1 305
  • 那天刚梭,我揣著相機(jī)與錄音肠阱,去河邊找鬼。 笑死朴读,一個(gè)胖子當(dāng)著我的面吹牛屹徘,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播衅金,決...
    沈念sama閱讀 40,414評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼噪伊,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了氮唯?” 一聲冷哼從身側(cè)響起酥宴,我...
    開封第一講書人閱讀 39,319評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎您觉,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體授滓,經(jīng)...
    沈念sama閱讀 45,775評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡琳水,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年肆糕,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片在孝。...
    茶點(diǎn)故事閱讀 40,096評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡诚啃,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出私沮,到底是詐尸還是另有隱情始赎,我是刑警寧澤,帶...
    沈念sama閱讀 35,789評(píng)論 5 346
  • 正文 年R本政府宣布仔燕,位于F島的核電站造垛,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏晰搀。R本人自食惡果不足惜五辽,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,437評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望外恕。 院中可真熱鬧杆逗,春花似錦、人聲如沸鳞疲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,993評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽尚洽。三九已至悔橄,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間翎朱,已是汗流浹背橄维。 一陣腳步聲響...
    開封第一講書人閱讀 33,107評(píng)論 1 271
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留拴曲,地道東北人争舞。 一個(gè)月前我還...
    沈念sama閱讀 48,308評(píng)論 3 372
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像澈灼,于是被迫代替她去往敵國和親竞川。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,037評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 每天進(jìn)步一點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)點(diǎn)~~從開始只能寫幾句話叁熔、模仿別人的觀點(diǎn)委乌,到現(xiàn)...
    一個(gè)帥氣的名字呀閱讀 18,102評(píng)論 4 31
  • Android 自定義View的各種姿勢(shì)1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,167評(píng)論 25 707
  • 各種機(jī)器學(xué)習(xí)的應(yīng)用場(chǎng)景分別是什么?例如荣回,k近鄰,貝葉斯遭贸,決策樹,svm心软,邏輯斯蒂回歸和最大熵模型壕吹。 如何評(píng)價(jià)Pyt...
    hzyido閱讀 1,414評(píng)論 0 7
  • 沒有想到天公這樣作美著蛙,備受孩子們期待的太陽山谷森林學(xué)校開學(xué)的第一天竟然涼風(fēng)習(xí)習(xí)!整個(gè)山谷清涼耳贬、濕潤(rùn)踏堡,像一個(gè)憨笑...
    丁凡13閱讀 458評(píng)論 0 0
  • 前一陣子顷蟆,June問我是否看過【似水年華】,我說記不清了腐魂。對(duì)于過去的記憶帐偎,我似乎在很長(zhǎng)一段時(shí)間里都處于懵懂期,至今...
    貓貓以斯帖閱讀 545評(píng)論 0 0