HDFS學(xué)習(xí)

HDFS是設(shè)計成一次寫入,多次讀取的場景飘弧,且不支持文件的修改

HDFS通常 位于 /hadoop-2.6.4/temp/dfs目錄下

修改時間統(tǒng)一

date -s "2017-03-15 20:14:00"

namenode

目錄結(jié)構(gòu)及文件分塊位置的信息(元數(shù)據(jù))的管理

datanode

文件的各個block的存儲管理


shell命令操作

統(tǒng)一: ? ? ? hadoop fs ? ?

-ls:顯示目錄信息 ? ? ? hadoop fs -ls / ? ? ? ? ? ?顯示根目錄信息

-mkdir (-p多級目錄):創(chuàng)建目錄 ? ? ? ?hadoop fs -mkdir /bbb ? ? ?根目錄上創(chuàng)建一個bbb的文件夾

-moveFromLocal:從本地剪貼到hdfs上 ? hadoop fs -moveFromlocal /root/app/a.txt(本地路徑) /a(服務(wù)器路徑)

-moveToLocal:從服務(wù)器剪貼到本地 ? ?hadoop fs -moveToLocal /aa/bb/1.txt服務(wù)器路徑) /root/aaa(本地路徑)?

-appendToFile:追加一個文件到已經(jīng)存在的文件末尾 hadoop fs -appendToFile /a.txt(本地路徑) /b.txt(服務(wù)器路徑)

-copyFromLocal:從本地拷貝

-copyToLocal:從服務(wù)器拷貝


-cat:顯示文件內(nèi)容 ?hadoop fs -cat /aaa/bbb/hellow.txt

-tail:顯示一個文件的末尾 hadoop fs -tail /aaa/bbb/hellow.txt

-text:以字符形式打印一個文件內(nèi)容 ? hadoop fs -text /aaa/bbb/hellow.txt

-chmod:更改文件權(quán)限 ? hadoop fs -chmod 666 /aaa/bbb/a.txt

-chown:更改所屬組 ? ? ?hadoop fs -chown someuse:someGroup /aaa/bb/a.txt

-cp:從hdfs的一個路徑拷貝到hdfs的另一個路徑 ?hadoop fs -cp /aaa/bbb/a.txt /aaa/ccc/c.txt

-mv:hdfs路徑上的剪貼


-get:等同于 -copyToLocal

-put:等同于 -copyFromLocal

-rm:刪除 ?hadoop fs -rm -r /aaa/bbb


-df:統(tǒng)計文件系統(tǒng)的可用空間信息 ? hadoop fs -df -h /

-du:統(tǒng)計文件夾的大小信息 ? hadoop fs -du /aaa

-count:統(tǒng)計指定目錄下文件節(jié)點的數(shù)量個數(shù) hadoop fs -count /aaa

-setrep:設(shè)置hdfs中文件的副本數(shù)量 ? hadoop fs -setrep 3 /aaa/jdk.tar.gz ?(注意這個命令不是立即執(zhí)行的)

可以查看官網(wǎng)APIhadoop.apache.org/docs/r2.6.5/

hdfs dfsadmin -report ? ?查看hdfs集群的工作狀態(tài)榄笙、

HDFS寫入數(shù)據(jù)流程


1.HDFS客戶端向namdenode請求邪狞,namenode會檢測目錄樹中是否存在一樣的結(jié)構(gòu)樹

2.namenode檢測完結(jié)構(gòu)樹中是否存在相同的結(jié)構(gòu)樹,就會通知HDFS客戶端是否可以上傳文件

3.可以上傳文件就跟namenode通知需要上傳文件,

4.HDFS客戶端上傳文件

5.namenode就會查詢datanode信息池中挑選可用的節(jié)點以供上傳(根據(jù)就近原則 a.首先就近挑選一臺機器 b.優(yōu)先選擇另一個機架上的namenode c.本機架在挑選一臺)

6.服務(wù)端返回可用的datanode給HDFS客戶端(d1,d2,d3有備份)

7.HDFS客戶端向datanode發(fā)出數(shù)據(jù)請求建立pipline的請求

8.datanode1向datanode2茅撞,datanode2又向datanode3建立pipline請求帆卓。

9.piplien請求建立好通知HDFS客戶端巨朦。

10,客戶端將文件分成每個小包,通過socketStream進行數(shù)據(jù)傳輸

11.datanode1創(chuàng)建目錄存儲數(shù)據(jù)剑令。

12.然后將備份至datanode2糊啡,datanode3

13.通知HDFS客戶端一個小包傳輸完畢,進行下一個小包的傳輸吁津。


HDFS讀取數(shù)據(jù)


1.與namenode通信查詢元數(shù)據(jù)悔橄,找到文件所在的datanode服務(wù)。namenode返回文件信息

2.挑選一臺datanode(就近原則腺毫,然后隨機)服務(wù)器癣疟,請求建立socket流

3.datanode開始發(fā)送數(shù)據(jù)(從磁盤中讀取數(shù)據(jù)放入流中,以packet為單位來校驗)

4.客戶端以packet為單位接收潮酒,先在本地緩存睛挚,然后寫入目標(biāo)文件


NAMENODE職責(zé)

負責(zé)客戶端的請求與響應(yīng)

元數(shù)據(jù)的管理(查詢,修改)


元數(shù)據(jù)的額管理



最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末急黎,一起剝皮案震驚了整個濱河市扎狱,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌勃教,老刑警劉巖淤击,帶你破解...
    沈念sama閱讀 217,542評論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異故源,居然都是意外死亡污抬,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,822評論 3 394
  • 文/潘曉璐 我一進店門绳军,熙熙樓的掌柜王于貴愁眉苦臉地迎上來印机,“玉大人,你說我怎么就攤上這事门驾∩淙” “怎么了?”我有些...
    開封第一講書人閱讀 163,912評論 0 354
  • 文/不壞的土叔 我叫張陵奶是,是天一觀的道長楣责。 經(jīng)常有香客問我,道長聂沙,這世上最難降的妖魔是什么秆麸? 我笑而不...
    開封第一講書人閱讀 58,449評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮逐纬,結(jié)果婚禮上蛔屹,老公的妹妹穿的比我還像新娘。我一直安慰自己豁生,他們只是感情好兔毒,可當(dāng)我...
    茶點故事閱讀 67,500評論 6 392
  • 文/花漫 我一把揭開白布漫贞。 她就那樣靜靜地躺著,像睡著了一般育叁。 火紅的嫁衣襯著肌膚如雪迅脐。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,370評論 1 302
  • 那天豪嗽,我揣著相機與錄音谴蔑,去河邊找鬼。 笑死龟梦,一個胖子當(dāng)著我的面吹牛隐锭,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播计贰,決...
    沈念sama閱讀 40,193評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼钦睡,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了躁倒?” 一聲冷哼從身側(cè)響起荞怒,我...
    開封第一講書人閱讀 39,074評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎秧秉,沒想到半個月后褐桌,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,505評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡象迎,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,722評論 3 335
  • 正文 我和宋清朗相戀三年荧嵌,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片挖帘。...
    茶點故事閱讀 39,841評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡完丽,死狀恐怖恋技,靈堂內(nèi)的尸體忽然破棺而出拇舀,到底是詐尸還是另有隱情,我是刑警寧澤蜻底,帶...
    沈念sama閱讀 35,569評論 5 345
  • 正文 年R本政府宣布骄崩,位于F島的核電站,受9級特大地震影響薄辅,放射性物質(zhì)發(fā)生泄漏要拂。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,168評論 3 328
  • 文/蒙蒙 一站楚、第九天 我趴在偏房一處隱蔽的房頂上張望脱惰。 院中可真熱鬧,春花似錦窿春、人聲如沸拉一。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,783評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蔚润。三九已至磅氨,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間嫡纠,已是汗流浹背烦租。 一陣腳步聲響...
    開封第一講書人閱讀 32,918評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留除盏,地道東北人叉橱。 一個月前我還...
    沈念sama閱讀 47,962評論 2 370
  • 正文 我出身青樓挂据,卻偏偏與公主長得像迹淌,于是被迫代替她去往敵國和親牲剃。 傳聞我的和親對象是個殘疾皇子疙咸,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,781評論 2 354

推薦閱讀更多精彩內(nèi)容