Hadoop 集群管理-HDFS

1. Hadoop 數(shù)據(jù)管理

Hadoop 的數(shù)據(jù)管理玖详,主要包括 Hadoop 的分布式文件系統(tǒng) HDFS分布式數(shù)據(jù)庫(kù) HBase數(shù)據(jù)倉(cāng)庫(kù)工具 Hive

(1)HDFS 的數(shù)據(jù)管理

HDFS 通過(guò)三個(gè)重要的角色來(lái)進(jìn)行文件系統(tǒng)的管理:NameNode轧邪、 DataNode 和 Clien

NameNode 可以看做是分布式文件系統(tǒng)中的管理者寇荧,主要負(fù)責(zé)管理文件系統(tǒng)的命名空間举庶、集群配置信息和存儲(chǔ)塊的復(fù)制等。 ? ? ? ?? NameNode 會(huì)將文件系統(tǒng)的 Metadata 存儲(chǔ)在內(nèi)存中揩抡,這些信 息主要包括文件信息户侥、每一個(gè)文件對(duì)應(yīng)的文件塊的信息和每一個(gè)文件塊在 DataNode 中的信息等

DataNode 是文件存儲(chǔ)的基本單元,它將 文件(Block)存儲(chǔ)在本地文件系統(tǒng)中峦嗤,保存了所有 Block 的Metadata蕊唐,同時(shí)周期性地將所有存在的 Block 信息發(fā)送給 NameNode。

Client 就是需要獲取分布式文件系統(tǒng)文件的應(yīng)用程序烁设。

文件寫(xiě)入

1)Client 向 NameNode 發(fā)起文件寫(xiě)入的請(qǐng)求替梨。

2)NameNode 根據(jù)文件大小和文件塊配置情況,返回給 Client 所管理的 DataNode 的信息

3)Client 將文件劃分為多個(gè) Block装黑,根據(jù) DataNode 的地址信息副瀑,按順序?qū)⑵鋵?xiě)入到每一個(gè) DataNode 塊中。


寫(xiě)流程

文件讀取

1)Client 向 NameNode 發(fā)起文件讀取的請(qǐng)求恋谭。

2)NameNode 返回文件存儲(chǔ)的 DataNode 信息糠睡。

3)Client 讀取文件信息。

讀流程


文件塊(Block)復(fù)制

1)NameNode 發(fā)現(xiàn)部分文件的 Block 不符合最小復(fù)制數(shù)這一要求或部分 DataNode 失效箕别。

2)通知 DataNode 相互復(fù)制 Block铜幽。

3)DataNode 開(kāi)始直接相互復(fù)制。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末串稀,一起剝皮案震驚了整個(gè)濱河市除抛,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌母截,老刑警劉巖到忽,帶你破解...
    沈念sama閱讀 216,402評(píng)論 6 499
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異清寇,居然都是意外死亡喘漏,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,377評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén)华烟,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)翩迈,“玉大人,你說(shuō)我怎么就攤上這事盔夜「核牵” “怎么了堤魁?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,483評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)返十。 經(jīng)常有香客問(wèn)我妥泉,道長(zhǎng),這世上最難降的妖魔是什么洞坑? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,165評(píng)論 1 292
  • 正文 為了忘掉前任盲链,我火速辦了婚禮,結(jié)果婚禮上迟杂,老公的妹妹穿的比我還像新娘刽沾。我一直安慰自己,他們只是感情好逢慌,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,176評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布悠轩。 她就那樣靜靜地躺著,像睡著了一般攻泼。 火紅的嫁衣襯著肌膚如雪火架。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,146評(píng)論 1 297
  • 那天忙菠,我揣著相機(jī)與錄音何鸡,去河邊找鬼。 笑死牛欢,一個(gè)胖子當(dāng)著我的面吹牛骡男,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播傍睹,決...
    沈念sama閱讀 40,032評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼隔盛,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了拾稳?” 一聲冷哼從身側(cè)響起吮炕,我...
    開(kāi)封第一講書(shū)人閱讀 38,896評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎访得,沒(méi)想到半個(gè)月后龙亲,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,311評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡悍抑,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,536評(píng)論 2 332
  • 正文 我和宋清朗相戀三年鳄炉,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片搜骡。...
    茶點(diǎn)故事閱讀 39,696評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡拂盯,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出记靡,到底是詐尸還是另有隱情磕仅,我是刑警寧澤珊豹,帶...
    沈念sama閱讀 35,413評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站榕订,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏蜕便。R本人自食惡果不足惜劫恒,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,008評(píng)論 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望轿腺。 院中可真熱鬧两嘴,春花似錦、人聲如沸族壳。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)仿荆。三九已至贰您,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間拢操,已是汗流浹背锦亦。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,815評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留令境,地道東北人杠园。 一個(gè)月前我還...
    沈念sama閱讀 47,698評(píng)論 2 368
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像舔庶,于是被迫代替她去往敵國(guó)和親抛蚁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,592評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容