常用的HDFS操作

1.向HDFS中上傳任意文本文件技掏,如果指定的文件在HDFS中已經(jīng)存在,由用戶指定是追加到原有文件末尾還是覆蓋原有的文件兴溜;

  • 命令如下
#創(chuàng)建存放該次作業(yè)目錄
hadoop fs -mkdir /zhouqi
 #創(chuàng)建一個(gè)文本
touch zhouqi1.txt zhouqi2.txt
#隨便寫(xiě)入內(nèi)容
echo "hello world1" > zhouqi1.txt
echo "hello world2" > zhouqi2.txt
##判斷指定文件是否在hdfs存在
hadoop fs -test -e /zhouqi/zhouqi1.txt  #-e 判斷路徑是否存在侦厚,如果路徑存在,則返回0拙徽。
echo $? #shell中的特殊變量,用來(lái)查看上一個(gè)命令執(zhí)行后的退出狀態(tài)刨沦,0表示成功
#上傳到HDFS
hadoop fs -put zhouqi1.txt  /zhouqi
#查看上傳后的文件內(nèi)容
hadoop fs -text /zhouqi/zhouqi1.txt   #cat也可以
#追加到原有文件末尾
hadoop fs -appendToFile  zhouqi2.txt  /zhouqi/zhouqi1.txt
#查看追加后的文件內(nèi)容
hadoop fs -text /zhouqi/zhouqi1.txt
#覆蓋原有的文件
hadoop fs -put -f zhouqi2.txt /zhouqi/zhouqi1.txt
#查看覆蓋后的文件內(nèi)容
hadoop fs -text /zhouqi/zhouqi1.txt
  • 結(jié)果如下


    image.png
    image.png

2.從HDFS中下載指定文件,如果本地文件與要下載的文件名稱(chēng)相同膘怕,則自動(dòng)對(duì)下載的文件重命名想诅;

  • 命令如下
vim 2.sh
#寫(xiě)入以下內(nèi)容
#!/bin/bash
if [ -f ~/zhouqi1.txt ]
then 
hadoop fs -get /zhouqi/zhouqi1.txt ./zhouqi3.txt
else
hadoop fs -get /zhouqi/zhouqi1.txt ./zhouqi1.txt
#給腳本加執(zhí)行權(quán)限
chmod +x 2.sh
#執(zhí)行腳本
sh 2.h
  • 結(jié)果如下


    image.png

3.將HDFS中指定文件的內(nèi)容輸出到終端中岛心;

  • 命令如下
hadoop fs -text /zhouqi/zhouqi1.txt
#或者
hadoop fs -cat /zhouqi/zhouqi1.txt
  • 結(jié)果如下


    image.png

4.顯示HDFS中指定的文件的讀寫(xiě)權(quán)限来破、大小、創(chuàng)建時(shí)間忘古、路徑等信息徘禁;

  • 命令如下
hadoop fs -ls /zhouqi/zhouqi1.txt
hadoop fs -ls  -h /zhouqi/zhouqi1.txt  # -h 以人類(lèi)可讀的格式設(shè)置文件大小 (kb,Mb等)
hadoop fs -ls  -t /zhouqi/zhouqi1.txt  # -t 按修改時(shí)間對(duì)輸出進(jìn)行排序(最新的優(yōu)先)
hadoop fs -ls  -S/zhouqi/zhouqi1.txt   #按文件大小排序輸出。
  • 結(jié)果如下


    image.png

5.給定HDFS中某一個(gè)目錄存皂,輸出該目錄下的所有文件的讀寫(xiě)權(quán)限、大小、創(chuàng)建時(shí)間旦袋、路徑等信息骤菠,如果該文件是目錄,則遞歸輸出該目錄下所有文件相關(guān)信息疤孕;

  • 命令如下
hadoop fs -mkdir -p /zhouqi/1/2/3/4 #-p 遞歸創(chuàng)建
hadoop fs -ls -R /zhouqi
  • 結(jié)果如下


    image.png

6.提供一個(gè)HDFS內(nèi)的文件的路徑商乎,對(duì)該文件進(jìn)行創(chuàng)建和刪除操作。如果文件所在目錄不存在祭阀,則自動(dòng)創(chuàng)建目錄鹉戚;

  • 命令如下
vim 6.sh
#寫(xiě)入以下內(nèi)容
#!/bin/bash
hadoop fs -test -d /zhouqi/6
if  [ "$?" == "0" ]
then 
hadoop fs -touchz /zhouqi/6/6.txt
else
hadoop fs -mkdir -p  /zhouqi/6/6.txt
fi
#給腳本加執(zhí)行權(quán)限
chmod +x 6.sh
#執(zhí)行腳本
sh 6.sh
#查看運(yùn)行結(jié)果
hadoop fs -ls -R /zhouqi
#刪除文件
hadoop fs -rm /zhouqi/6/6.txt
#查看運(yùn)行結(jié)果
hadoop fs -ls -R /zhouqi
  • 結(jié)果如下


    image.png

7.提供一個(gè)HDFS的目錄的路徑,對(duì)該目錄進(jìn)行創(chuàng)建和刪除操作专控。創(chuàng)建目錄時(shí)抹凳,如果目錄文件所在目錄不存在則自動(dòng)創(chuàng)建相應(yīng)目錄;刪除目錄時(shí)伦腐,由用戶指定當(dāng)該目錄不為空時(shí)是否還刪除該目錄赢底;

  • 命令如下
vim 7.sh
#寫(xiě)入以下內(nèi)容
#!/bin/bash
hadoop fs -test -d /zhouqi/7
if  [ "$?" != "0" ]
then 
hadoop fs -mkdir   /zhouqi/7
fi
#給腳本加執(zhí)行權(quán)限
chmod +x 7.sh
#執(zhí)行腳本
sh 7.sh
#查看運(yùn)行結(jié)果
hadoop fs -ls -R /zhouqi
#刪除目錄
hadoop fs -rmdir /zhouqi/7 
#如果上一個(gè)指令執(zhí)行不成功,顯示目錄下有文件
hadoop fs rm -r /zhouqi/7
#查看運(yùn)行結(jié)果
hadoop fs -ls -R /zhouqi
  • 結(jié)果如下


    image.png

8.向HDFS中指定的文件追加內(nèi)容柏蘑,由用戶指定內(nèi)容追加到原有文件的開(kāi)頭或結(jié)尾幸冻;

  • 命令如下
#指定內(nèi)容追加到原有文件的開(kāi)頭
hadoop fs -get -f /zhouqi/zhouqi1.txt ./
cat zhouqi1.txt >> zhouqi2.txt
hadoop fs -put -f zhouqi2.txt /zhouqi/zhouqi1.txt
hadoop fs -cat /zhouqi/zhouqi1.txt
#指定內(nèi)容追加到原有文件的尾頭
hadoop fs -appendToFile  zhouqi2.txt  /zhouqi/zhouqi1.txt
hadoop fs -cat /zhouqi/zhouqi1.txt
image.png
image.png

9.刪除HDFS中指定的文件;

  • 命令如下
hadoop fs -ls -R /zhouqi
hadoop fs -rm /zhouqi/zhouqi1.txt
hadoop fs -ls -R /zhouqi
  • 結(jié)果如下


    image.png

10.刪除HDFS中指定的目錄咳焚,由用戶指定目錄中如果存在文件時(shí)是否刪除目錄洽损;

  • 命令如下
hadoop fs -ls -R /zhouqi
hadoop fs -rmdir /zhouqi/7
hadoop fs -ls -R /zhouqi
#如果刪除不成功,表示目錄下有文件
hadoop fs -rm -r /zhouqi/7
  • 結(jié)果如下


    image.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末革半,一起剝皮案震驚了整個(gè)濱河市碑定,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌督惰,老刑警劉巖不傅,帶你破解...
    沈念sama閱讀 218,122評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異赏胚,居然都是意外死亡访娶,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,070評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)觉阅,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)崖疤,“玉大人,你說(shuō)我怎么就攤上這事典勇〗俸撸” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,491評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵割笙,是天一觀的道長(zhǎng)权烧。 經(jīng)常有香客問(wèn)我眯亦,道長(zhǎng),這世上最難降的妖魔是什么般码? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,636評(píng)論 1 293
  • 正文 為了忘掉前任妻率,我火速辦了婚禮,結(jié)果婚禮上板祝,老公的妹妹穿的比我還像新娘宫静。我一直安慰自己,他們只是感情好券时,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,676評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布孤里。 她就那樣靜靜地躺著,像睡著了一般橘洞。 火紅的嫁衣襯著肌膚如雪捌袜。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,541評(píng)論 1 305
  • 那天震檩,我揣著相機(jī)與錄音琢蛤,去河邊找鬼。 笑死抛虏,一個(gè)胖子當(dāng)著我的面吹牛博其,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播迂猴,決...
    沈念sama閱讀 40,292評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼慕淡,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了沸毁?” 一聲冷哼從身側(cè)響起峰髓,我...
    開(kāi)封第一講書(shū)人閱讀 39,211評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎息尺,沒(méi)想到半個(gè)月后携兵,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,655評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡搂誉,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,846評(píng)論 3 336
  • 正文 我和宋清朗相戀三年徐紧,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片炭懊。...
    茶點(diǎn)故事閱讀 39,965評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡并级,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出侮腹,到底是詐尸還是另有隱情嘲碧,我是刑警寧澤,帶...
    沈念sama閱讀 35,684評(píng)論 5 347
  • 正文 年R本政府宣布父阻,位于F島的核電站愈涩,受9級(jí)特大地震影響望抽,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜履婉,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,295評(píng)論 3 329
  • 文/蒙蒙 一糠聪、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧谐鼎,春花似錦、人聲如沸趣惠。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,894評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)味悄。三九已至草戈,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間侍瑟,已是汗流浹背唐片。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,012評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留涨颜,地道東北人费韭。 一個(gè)月前我還...
    沈念sama閱讀 48,126評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像庭瑰,于是被迫代替她去往敵國(guó)和親星持。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,914評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容