經(jīng)典漫畫講解HDFS存儲機制與運行原理

image.png

根據(jù)Maneesh Varshney的漫畫改編,以簡潔易懂的漫畫形式講解HDFS的存儲機制與運行原理座柱。
1迷帜、構成部分
HDFS存儲相關角及功能如下:
Client:客戶端,系統(tǒng)使用者色洞,調用HDFS API操作文件;與NN交互獲取文件元數(shù)據(jù);與DN交互進行數(shù)據(jù)讀寫戏锹。

Namenode:元數(shù)據(jù)節(jié)點,是系統(tǒng)唯一的管理者火诸。負責元數(shù)據(jù)的管理;與client交互進行提供元數(shù)據(jù)查詢;分配數(shù)據(jù)存儲節(jié)點等锦针。

Datanode:數(shù)據(jù)存儲節(jié)點,負責數(shù)據(jù)塊的存儲與冗余備份;執(zhí)行數(shù)據(jù)塊的讀寫操作等。

2伞插、寫數(shù)據(jù)過程
HDFS中的存儲單元是block割粮。文件通常被分成64或128M一塊的數(shù)據(jù)塊進行存儲。與普通文件系統(tǒng)不同的是媚污,在HDFS中舀瓢,如果一個文件大小小于一個數(shù)據(jù)塊的大小,它是不需要占用整個數(shù)據(jù)塊的存儲空間的耗美。


3京髓、讀取數(shù)據(jù)過程
HDFS采用的是“一次寫入多次讀取”的文件訪問模型。一個文件經(jīng)過創(chuàng)建商架、寫入和關閉之后就不需要改變堰怨。這一假設簡化了數(shù)據(jù)一致性問題,并且使高吞吐量的數(shù)據(jù)訪問成為可能蛇摸。

4备图、容錯第一部分:故障類型及其檢測方法(namenode 故障、網(wǎng)絡故障和臟數(shù)據(jù)問題)


5赶袄、容錯第二部分:讀寫容錯

6揽涮、容錯第三部分:dataNode 失效

7、備份規(guī)則
數(shù)據(jù)塊的第一個副本優(yōu)先放在寫入數(shù)據(jù)塊的客戶端所在的節(jié)點上饿肺,但是如果這個客戶端上的數(shù)據(jù)節(jié)點空間不足或者是當前負載過重蒋困,則應該從該數(shù)據(jù)節(jié)點所在的機架中選擇一個合適的數(shù)據(jù)節(jié)點作為本地節(jié)點。

如果客戶端上沒有一個數(shù)據(jù)節(jié)點的話敬辣,則從整個集群中隨機選擇一個合適的數(shù)據(jù)節(jié)點作為此時這個數(shù)據(jù)塊的本地節(jié)點雪标。
HDFS的存放策略是將一個副本存放在本地機架節(jié)點上,另外兩個副本放在不同機架的不同節(jié)點上溉跃。

這樣集群可在完全失去某一機架的情況下還能存活村刨。同時,這種策略減少了機架間的數(shù)據(jù)傳輸撰茎,提高了寫操作的效率烹困,因為數(shù)據(jù)塊只存放在兩個不同的機架上,減少了讀取數(shù)據(jù)時需要的網(wǎng)絡傳輸總帶寬乾吻。這樣在一定程度上兼顧了數(shù)據(jù)安全和網(wǎng)絡傳輸?shù)拈_銷。

8拟蜻、結束語

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末绎签,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子酝锅,更是在濱河造成了極大的恐慌诡必,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,222評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異爸舒,居然都是意外死亡蟋字,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,455評論 3 385
  • 文/潘曉璐 我一進店門扭勉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來鹊奖,“玉大人,你說我怎么就攤上這事涂炎≈揖郏” “怎么了?”我有些...
    開封第一講書人閱讀 157,720評論 0 348
  • 文/不壞的土叔 我叫張陵唱捣,是天一觀的道長两蟀。 經(jīng)常有香客問我,道長震缭,這世上最難降的妖魔是什么赂毯? 我笑而不...
    開封第一講書人閱讀 56,568評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮拣宰,結果婚禮上党涕,老公的妹妹穿的比我還像新娘。我一直安慰自己徐裸,他們只是感情好遣鼓,可當我...
    茶點故事閱讀 65,696評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著重贺,像睡著了一般骑祟。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上气笙,一...
    開封第一講書人閱讀 49,879評論 1 290
  • 那天次企,我揣著相機與錄音,去河邊找鬼潜圃。 笑死缸棵,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的谭期。 我是一名探鬼主播堵第,決...
    沈念sama閱讀 39,028評論 3 409
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼隧出!你這毒婦竟也來了踏志?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 37,773評論 0 268
  • 序言:老撾萬榮一對情侶失蹤胀瞪,失蹤者是張志新(化名)和其女友劉穎针余,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,220評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡圆雁,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,550評論 2 327
  • 正文 我和宋清朗相戀三年忍级,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片伪朽。...
    茶點故事閱讀 38,697評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡轴咱,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出驱负,到底是詐尸還是另有隱情嗦玖,我是刑警寧澤,帶...
    沈念sama閱讀 34,360評論 4 332
  • 正文 年R本政府宣布跃脊,位于F島的核電站宇挫,受9級特大地震影響,放射性物質發(fā)生泄漏酪术。R本人自食惡果不足惜器瘪,卻給世界環(huán)境...
    茶點故事閱讀 40,002評論 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望绘雁。 院中可真熱鬧橡疼,春花似錦、人聲如沸庐舟。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,782評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽挪略。三九已至历帚,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間杠娱,已是汗流浹背挽牢。 一陣腳步聲響...
    開封第一講書人閱讀 32,010評論 1 266
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留摊求,地道東北人禽拔。 一個月前我還...
    沈念sama閱讀 46,433評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像室叉,于是被迫代替她去往敵國和親睹栖。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 43,587評論 2 350

推薦閱讀更多精彩內(nèi)容