Hadoop HDFS

產(chǎn)生背景:分布式文件管理系統(tǒng),源自于Google的GFS(Goole File System)論文埋市,GFS的開(kāi)源克隆版

重點(diǎn):分布式掘宪,易擴(kuò)展(增加機(jī)器來(lái)增加存儲(chǔ)量搏恤,多副本)

HDFS架構(gòu)

1.master(主節(jié)點(diǎn) NameNode/NN)和多個(gè)salve(副節(jié)點(diǎn) DataNode/DN)

一個(gè)文件按照一定規(guī)則拆分成多個(gè)Block (一般為128M為一塊)

NN:(1)負(fù)責(zé)客戶(hù)端請(qǐng)求的響應(yīng)

?? ?? (2)負(fù)責(zé)元數(shù)據(jù)的管理【名稱(chēng),副本系數(shù)舶赔,Block存放的DN】

DN:(1)存儲(chǔ)用戶(hù)的文件隊(duì)形的數(shù)據(jù)塊(Block)

?? ?? (2)定期向NN發(fā)送信息扫倡,匯報(bào)其本身和所有Block,狀態(tài)

經(jīng)典部署:NameNode+N個(gè)DataNode

副本存放策略:本Rack(機(jī)架)放置一個(gè),另一機(jī)架放置在不同節(jié)點(diǎn)分別放置(不作要求總共為3份)

優(yōu)點(diǎn):

? ? 數(shù)據(jù)冗余,硬件容錯(cuò)(block,多副本)

? ? 適合批處理

? ? 處理流式的數(shù)據(jù)訪問(wèn)

? ? 適合存儲(chǔ)大文件

? ? 可構(gòu)建在廉價(jià)機(jī)器

缺點(diǎn):

? ? 不適合低延遲的數(shù)據(jù)訪問(wèn)

? ? 不適合小文件存儲(chǔ)

? ? 并發(fā)寫(xiě)入撵溃、文件隨機(jī)修改(只支持append追加)

組成結(jié)構(gòu):

? ? Client:客戶(hù)端用戶(hù)程序

?? ??? ??? ??? ??? ?切分文件成數(shù)據(jù)塊

?? ??? ??? ??? ?? ? 與NameNode交互疚鲤,獲取文件的位置信息

?? ??? ??? ??? ?? ? 與DataNode交互,讀取對(duì)應(yīng)數(shù)據(jù)塊

?? ??? ??? ??? ?? ? 管理和訪問(wèn)HDFS

? ? NameNode(Master):集群管理者缘挑,負(fù)責(zé)者

?? ??? ??? ??? ??? ??? ??? ?? ???? ??? ?管理HDFS名稱(chēng)空間

?? ??? ??? ??? ??? ??? ??? ?? ? ?? ??? ?管理數(shù)據(jù)塊的映射關(guān)系

?? ??? ??? ??? ??? ??? ??? ?? ? ?? ??? ?配合副本策略

?? ??? ??? ??? ??? ??? ??? ?? ? ?? ??? ?客戶(hù)端的讀寫(xiě)請(qǐng)求

? ? SecondaryNameNode:輔助NameNode

?? ??? ??? ??? ??? ??? ??? ??? ??? ??? ??? ?? ? 分擔(dān)工作量

?? ??? ??? ??? ??? ??? ??? ??? ??? ??? ??? ?? ? 定期合并image鏡像文件和edits日志文件集歇,并推送給NameNode

?? ??? ??? ??? ??? ??? ??? ??? ??? ??? ??? ?? ? 緊急情況恢復(fù)NameNode

? ? DataNode(Slave):實(shí)際存儲(chǔ)數(shù)據(jù)

?? ??? ??? ??? ??? ??? ?? ? ?? ??? ?存儲(chǔ)實(shí)際的數(shù)據(jù)塊

?? ??? ??? ??? ??? ??? ??? ??? ?? ? 執(zhí)行數(shù)據(jù)塊的讀寫(xiě)操作?

解決NameNode單點(diǎn)故障:

?? ?namdNode(active)與nameNode(standby(備用))數(shù)據(jù)的共享存儲(chǔ)(zoookeeper解決兩者之間同步問(wèn)題)

?? ?jnNode(日志,鏡像文件(fsimage))

?? ?zoookeeper接收nameNode的心跳语淘,調(diào)控nameNode接替工作

?? ?HA架構(gòu)擴(kuò)展nameNode

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末诲宇,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子惶翻,更是在濱河造成了極大的恐慌姑蓝,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,590評(píng)論 6 517
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件吕粗,死亡現(xiàn)場(chǎng)離奇詭異纺荧,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)颅筋,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,157評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門(mén)宙暇,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人议泵,你說(shuō)我怎么就攤上這事客给。” “怎么了肢簿?”我有些...
    開(kāi)封第一講書(shū)人閱讀 169,301評(píng)論 0 362
  • 文/不壞的土叔 我叫張陵靶剑,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我池充,道長(zhǎng)桩引,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 60,078評(píng)論 1 300
  • 正文 為了忘掉前任收夸,我火速辦了婚禮坑匠,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘卧惜。我一直安慰自己厘灼,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,082評(píng)論 6 398
  • 文/花漫 我一把揭開(kāi)白布咽瓷。 她就那樣靜靜地躺著设凹,像睡著了一般。 火紅的嫁衣襯著肌膚如雪茅姜。 梳的紋絲不亂的頭發(fā)上闪朱,一...
    開(kāi)封第一講書(shū)人閱讀 52,682評(píng)論 1 312
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼奋姿。 笑死锄开,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的称诗。 我是一名探鬼主播萍悴,決...
    沈念sama閱讀 41,155評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼寓免!你這毒婦竟也來(lái)了癣诱?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 40,098評(píng)論 0 277
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤再榄,失蹤者是張志新(化名)和其女友劉穎狡刘,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體困鸥,經(jīng)...
    沈念sama閱讀 46,638評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡嗅蔬,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,701評(píng)論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了疾就。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片澜术。...
    茶點(diǎn)故事閱讀 40,852評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖猬腰,靈堂內(nèi)的尸體忽然破棺而出鸟废,到底是詐尸還是另有隱情,我是刑警寧澤姑荷,帶...
    沈念sama閱讀 36,520評(píng)論 5 351
  • 正文 年R本政府宣布盒延,位于F島的核電站,受9級(jí)特大地震影響鼠冕,放射性物質(zhì)發(fā)生泄漏添寺。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,181評(píng)論 3 335
  • 文/蒙蒙 一懈费、第九天 我趴在偏房一處隱蔽的房頂上張望计露。 院中可真熱鬧,春花似錦憎乙、人聲如沸票罐。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,674評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)该押。三九已至,卻和暖如春繁堡,著一層夾襖步出監(jiān)牢的瞬間沈善,已是汗流浹背乡数。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,788評(píng)論 1 274
  • 我被黑心中介騙來(lái)泰國(guó)打工椭蹄, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留闻牡,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 49,279評(píng)論 3 379
  • 正文 我出身青樓绳矩,卻偏偏與公主長(zhǎng)得像罩润,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子翼馆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,851評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容

  • hadoop HDFS原理解析01 HDFS架構(gòu)?NameNode?DataNode?Sencondary Nam...
    白菜青蘿卜閱讀 2,733評(píng)論 2 30
  • 先思考問(wèn)題 我們處在一個(gè)大數(shù)據(jù)的時(shí)代已經(jīng)是不爭(zhēng)的事實(shí)割以,這主要表現(xiàn)在數(shù)據(jù)源多且大,如互聯(lián)網(wǎng)數(shù)據(jù)应媚,人們也認(rèn)識(shí)到數(shù)據(jù)里往...
    墻角兒的花閱讀 7,380評(píng)論 0 9
  • 目錄 HDFS的工作機(jī)制 概述 HDFS 寫(xiě)數(shù)據(jù)流程 HDFS 讀數(shù)據(jù)流程 NameNode的工作機(jī)制 NameN...
    Singer_Au閱讀 9,877評(píng)論 0 5
  • 簡(jiǎn)介:HDFS(Hadoop Distributed File System )Hadoop分布式文件系統(tǒng)严沥。是根據(jù)...
    先生_呂閱讀 618評(píng)論 0 2
  • 《愛(ài)樂(lè)之城》用歌舞劇來(lái)演繹一段夢(mèng)想與愛(ài)情的故事。作為新年過(guò)后看的第一部電影中姜,影片使用大量的經(jīng)典影片場(chǎng)景橋段消玄,爵士樂(lè)...
    roli八說(shuō)閱讀 518評(píng)論 0 1