NomeNode的fsimage與editlog

Namenode主要維護(hù)兩個(gè)文件退客,一個(gè)是 fsimage骏融,一個(gè)是 editlog。

fsimage保存了最新的元數(shù)據(jù)檢查點(diǎn)萌狂,包含了整個(gè)HDFS文件系統(tǒng)的所有目錄和文件的信息档玻。對(duì)于文件來(lái)說(shuō)包括了數(shù)據(jù)塊描述信息、修改時(shí)間茫藏、訪問(wèn)時(shí)間等误趴;對(duì)于目錄來(lái)說(shuō)包括修改時(shí)間、訪問(wèn)權(quán)限控制信息(目錄所屬用戶务傲,所在組)等凉当。

editlog主要是在NameNode已經(jīng)啟動(dòng)情況下對(duì)HDFS進(jìn)行的各種更新操作進(jìn)行記錄,HDFS客戶端執(zhí)行所有的寫操作都會(huì)被記錄到editlog中售葡。

簡(jiǎn)單來(lái)想看杭,NameNode維護(hù)了文件與數(shù)據(jù)塊的映射表以及數(shù)據(jù)塊與數(shù)據(jù)節(jié)點(diǎn)的映射表,什么意思呢挟伙?就是一個(gè)文件楼雹,它切分成了幾個(gè)數(shù)據(jù)塊,以及這些數(shù)據(jù)塊分別存儲(chǔ)在哪些datanode上尖阔,namenode一清二楚贮缅。Fsimage就是在某一時(shí)刻,整個(gè)hdfs的快照介却,就是這個(gè)時(shí)刻hdfs上所有的文件塊和目錄谴供,分別的狀態(tài),位于哪些個(gè)datanode筷笨,各自的權(quán)限,各自的副本個(gè)數(shù)。然后客戶端對(duì)hdfs所有的更新操作胃夏,比如說(shuō)移動(dòng)數(shù)據(jù)轴或,或者刪除數(shù)據(jù),都會(huì)記錄在editlog中仰禀。

為了避免editlog不斷增大照雁,secondary namenode會(huì)周期性合并fsimage和edits成新的fsimage,新的操作記錄會(huì)寫入新的editlog中答恶,這個(gè)周期可以自己設(shè)置(editlog到達(dá)一定大小或者定時(shí))饺蚊。

checkpoint流程:

第一步:將hdfs更新記錄寫入一個(gè)新的文件——edits.new。

第二步:將fsimage和editlog通過(guò)http協(xié)議發(fā)送至secondary namenode悬嗓。

第三步:將fsimage與editlog合并污呼,生成一個(gè)新的文件——fsimage.ckpt。這步之所以要在secondary namenode中進(jìn)行包竹,是因?yàn)楸容^耗時(shí)燕酷,如果在namenode中進(jìn)行或?qū)е抡麄€(gè)系統(tǒng)卡頓。

第四步:將生成的fsimage.ckpt通過(guò)http協(xié)議發(fā)送至namenode周瞎。

第五步:重命名fsimage.ckpt為fsimage苗缩,edits.new為edits。

所以如果namenode宕機(jī)声诸,其實(shí)secondary namenode還保存這一份不久前的fsimage酱讶,還能挽回一些損失吧。

一旦有datanode掛掉了(宕機(jī)或者是網(wǎng)絡(luò)阻塞)彼乌,namenode能很快感知到泻肯,并且將宕機(jī)的節(jié)點(diǎn)上的數(shù)據(jù)塊轉(zhuǎn)移至其余空閑節(jié)點(diǎn)。這點(diǎn)是因?yàn)閔dfs中心跳機(jī)制(heartbeat)囤攀。

心跳機(jī)制默認(rèn)3s中一次软免,datanode會(huì)向namenode發(fā)送一次一跳,告知namenode當(dāng)前節(jié)點(diǎn)上存放的數(shù)據(jù)文件是什么焚挠。如果namenode中記錄的是該datanode存放了文件A的兩個(gè)數(shù)據(jù)塊和文件B的一個(gè)數(shù)據(jù)塊膏萧,但是心跳中只有文件A的一個(gè)數(shù)據(jù)塊信息,namenode就會(huì)知道該datanode數(shù)據(jù)塊損壞了蝌衔,會(huì)把損壞的數(shù)據(jù)塊在別的datanode上補(bǔ)充榛泛。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市噩斟,隨后出現(xiàn)的幾起案子曹锨,更是在濱河造成了極大的恐慌,老刑警劉巖剃允,帶你破解...
    沈念sama閱讀 218,858評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件沛简,死亡現(xiàn)場(chǎng)離奇詭異齐鲤,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)椒楣,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,372評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門给郊,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人捧灰,你說(shuō)我怎么就攤上這事淆九。” “怎么了毛俏?”我有些...
    開封第一講書人閱讀 165,282評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵炭庙,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我煌寇,道長(zhǎng)焕蹄,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,842評(píng)論 1 295
  • 正文 為了忘掉前任唧席,我火速辦了婚禮擦盾,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘淌哟。我一直安慰自己迹卢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,857評(píng)論 6 392
  • 文/花漫 我一把揭開白布徒仓。 她就那樣靜靜地躺著腐碱,像睡著了一般。 火紅的嫁衣襯著肌膚如雪掉弛。 梳的紋絲不亂的頭發(fā)上症见,一...
    開封第一講書人閱讀 51,679評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音殃饿,去河邊找鬼谋作。 笑死,一個(gè)胖子當(dāng)著我的面吹牛乎芳,可吹牛的內(nèi)容都是我干的遵蚜。 我是一名探鬼主播,決...
    沈念sama閱讀 40,406評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼奈惑,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼吭净!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起肴甸,我...
    開封第一講書人閱讀 39,311評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤寂殉,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后原在,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體友扰,經(jīng)...
    沈念sama閱讀 45,767評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡彤叉,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了村怪。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片姆坚。...
    茶點(diǎn)故事閱讀 40,090評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖实愚,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情兔辅,我是刑警寧澤腊敲,帶...
    沈念sama閱讀 35,785評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站维苔,受9級(jí)特大地震影響碰辅,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜介时,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,420評(píng)論 3 331
  • 文/蒙蒙 一没宾、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧沸柔,春花似錦循衰、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,988評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至工三,卻和暖如春迁酸,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背俭正。 一陣腳步聲響...
    開封第一講書人閱讀 33,101評(píng)論 1 271
  • 我被黑心中介騙來(lái)泰國(guó)打工奸鬓, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人掸读。 一個(gè)月前我還...
    沈念sama閱讀 48,298評(píng)論 3 372
  • 正文 我出身青樓串远,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親寺枉。 傳聞我的和親對(duì)象是個(gè)殘疾皇子抑淫,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,033評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 問(wèn)題:1.job的本質(zhì)是什么? 2.任務(wù)的本質(zhì)是什么姥闪? 3.文件系統(tǒng)的Namespace由誰(shuí)來(lái)管理始苇,Namespa...
    時(shí)待吾閱讀 2,294評(píng)論 0 0
  • HDFS的工作機(jī)制 概述 HDFS集群分為兩大角色:NameNode、DataNode NameNode負(fù)責(zé)管理整...
    張魚貓閱讀 2,040評(píng)論 0 8
  • 跟夏天說(shuō)完告別 轉(zhuǎn)眼秋葉滿地 今日的天空沒(méi)有白云無(wú)際 低聲說(shuō)再見筐喳,再也不見 跟無(wú)情說(shuō)再見 跟矯情說(shuō)不見 讀書催式、聽琴...
    蘭風(fēng)蕙露閱讀 668評(píng)論 4 5
  • 剛剛做完了自己的畢業(yè)設(shè)計(jì)函喉,畢業(yè)前的最后一個(gè)作業(yè)。 半年的時(shí)間荣月,雖然一直斷斷續(xù)續(xù)管呵,但還是完成了自己的畢業(yè)設(shè)計(jì)。也許是...
    方博兒閱讀 318評(píng)論 0 0
  • 格子衫哺窄,暖暖的洋洋灑灑的夕陽(yáng)捐下,溫暖的金黃,淺淺的微笑… 走出冰冷的黑暗萌业,在晝夜的交接處眺望… 眺望那永不交匯的天空...
    靈邈_米野閱讀 99評(píng)論 0 0