HDFS海量數(shù)據(jù)存儲(chǔ)-Hadoop分布式文件存儲(chǔ)系統(tǒng)

HDFS的幾個(gè)角色

1.NameNode老大:它有兩個(gè)狀態(tài)active(活動(dòng)的),standby(備份狀態(tài))漓拾。它負(fù)責(zé)記錄元數(shù)據(jù)-描述數(shù)據(jù)的數(shù)據(jù)油湖。它保存了文件名,文件切了多少塊,每塊備份了多少份鲤拿,每一份放在哪臺(tái)機(jī)器上胶台。

2.DataNode小弟:存儲(chǔ)數(shù)據(jù)并記錄文件塊位置歼疮。

3.Block文件塊:
hadoop1.0:64MB hadoop2.0:128MB(這個(gè)值是固定的,不會(huì)高于這個(gè)值)

4SecondaryNameNode
NameNode的小秘诈唬,幫助NameNode干一些其他的事情韩脏。分擔(dān)NameNode的壓力。(在正式安裝完全分布式就不需要它)

HDFS的優(yōu)點(diǎn)

可以存儲(chǔ)超大文件(無限拓展)
高容錯(cuò)铸磅,支持?jǐn)?shù)據(jù)丟失的自動(dòng)恢復(fù)
可以構(gòu)建在廉價(jià)機(jī)上

HDFS缺點(diǎn)

1不適合存大量小文件:存進(jìn)一個(gè)文件赡矢,一定會(huì)記錄一條元數(shù)據(jù)信息杭朱。文件又小又多會(huì)導(dǎo)致NameNode的元數(shù)據(jù)信息特別多,壓力變大〈瞪ⅲ現(xiàn)在的Hadoop對(duì)文件進(jìn)行了優(yōu)化弧械,不記錄小文件的信息,只記錄小文件所在的文件夾的目錄空民。
2做不到低延遲訪問刃唐。
3不支持超強(qiáng)事務(wù)。
4不支持行級(jí)別的增刪改:這樣會(huì)導(dǎo)致所有節(jié)點(diǎn)重新調(diào)整大小界轩。

SecondaryNameNode的作用

幫NameNode合并fsimage和edits唁桩。
以后不用SecondaryNameNode。用雙機(jī)熱備耸棒,不用SecondaryNameNode荒澡。

紅色表示活動(dòng)active狀態(tài),綠色表示備份狀態(tài)standby与殃,他倆不是同時(shí)工作单山,同時(shí)工作會(huì)發(fā)生腦裂。
主機(jī)把edits和fsimage這兩個(gè)文件發(fā)給熱備機(jī)幅疼,熱備機(jī)不但監(jiān)聽主機(jī)的死活米奸,也替代SecondaryNameNode做一部分合并工作。
官方圖

Block備份如何放置

第一塊放在某一機(jī)架爽篷,第二塊放在相鄰機(jī)架悴晰,第三塊放在第二塊的同一機(jī)架

第一份:如果該文件本身從Hadoop集群中的某個(gè)節(jié)點(diǎn)上傳,那么第一份存放在上傳節(jié)點(diǎn)中逐工,如果從Hadoop集群之外上傳铡溪,那么存放在相對(duì)不太忙,負(fù)載較小的節(jié)點(diǎn)上泪喊。
第二份:放在與第一份所放置的節(jié)點(diǎn)相鄰機(jī)架上的某個(gè)節(jié)點(diǎn)上棕硫。
第三份:放在與第二份所在節(jié)點(diǎn)的機(jī)架上的另外一臺(tái)機(jī)器上。
三份以上袒啼,放置在負(fù)載相對(duì)較小的節(jié)點(diǎn)上哈扮。

第一塊是主要訪問節(jié)點(diǎn),只要它不死蚓再,直接從它拿數(shù)據(jù)滑肉。存好了、備份之后就不必再占用它了摘仅。讓其他機(jī)架的空閑機(jī)器復(fù)制到自己的機(jī)器上靶庙。

HDFS基本Shell操作

創(chuàng)建文件夾(不支持多級(jí)創(chuàng)建):

hadoop fs -mkdir /xxx

查看目錄:

hadoop fs -ls /xxx

遞歸查看多級(jí)目錄:

hadoop fs -lsr /xxx

上傳文件到HDFS:

hadoop fs -put xxx.txt /xxx

下載文件到本地當(dāng)前目錄:

hadoop fs -get /xxx/xxx/xxx.txt

刪除文件:

hadoop fs -rm /xxx/xxx/xxx.txt

刪除文件夾(文件夾必須為空):

hadoop fs -rmdir /xxx/xxx

強(qiáng)制刪除文件夾或文件

Hadoop fs -rm -r /xxx
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市实檀,隨后出現(xiàn)的幾起案子惶洲,更是在濱河造成了極大的恐慌按声,老刑警劉巖,帶你破解...
    沈念sama閱讀 222,252評(píng)論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件恬吕,死亡現(xiàn)場(chǎng)離奇詭異签则,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)铐料,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,886評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門渐裂,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人钠惩,你說我怎么就攤上這事柒凉。” “怎么了篓跛?”我有些...
    開封第一講書人閱讀 168,814評(píng)論 0 361
  • 文/不壞的土叔 我叫張陵膝捞,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我愧沟,道長(zhǎng)蔬咬,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,869評(píng)論 1 299
  • 正文 為了忘掉前任沐寺,我火速辦了婚禮林艘,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘混坞。我一直安慰自己狐援,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,888評(píng)論 6 398
  • 文/花漫 我一把揭開白布究孕。 她就那樣靜靜地躺著啥酱,像睡著了一般。 火紅的嫁衣襯著肌膚如雪蚊俺。 梳的紋絲不亂的頭發(fā)上懈涛,一...
    開封第一講書人閱讀 52,475評(píng)論 1 312
  • 那天,我揣著相機(jī)與錄音泳猬,去河邊找鬼。 笑死宇植,一個(gè)胖子當(dāng)著我的面吹牛得封,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播指郁,決...
    沈念sama閱讀 41,010評(píng)論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼忙上,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了闲坎?” 一聲冷哼從身側(cè)響起疫粥,我...
    開封第一講書人閱讀 39,924評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤茬斧,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后梗逮,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體项秉,經(jīng)...
    沈念sama閱讀 46,469評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,552評(píng)論 3 342
  • 正文 我和宋清朗相戀三年慷彤,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了娄蔼。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,680評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡底哗,死狀恐怖岁诉,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情跋选,我是刑警寧澤涕癣,帶...
    沈念sama閱讀 36,362評(píng)論 5 351
  • 正文 年R本政府宣布,位于F島的核電站前标,受9級(jí)特大地震影響属划,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜候生,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,037評(píng)論 3 335
  • 文/蒙蒙 一同眯、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧唯鸭,春花似錦须蜗、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,519評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至缭付,卻和暖如春柿估,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背陷猫。 一陣腳步聲響...
    開封第一講書人閱讀 33,621評(píng)論 1 274
  • 我被黑心中介騙來泰國打工秫舌, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人绣檬。 一個(gè)月前我還...
    沈念sama閱讀 49,099評(píng)論 3 378
  • 正文 我出身青樓足陨,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國和親娇未。 傳聞我的和親對(duì)象是個(gè)殘疾皇子墨缘,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,691評(píng)論 2 361