通過NFS將HDFS映射到本地文件系統(tǒng)

  • hdfs是分布式文件系統(tǒng),要想訪問hdfs上的文件终娃,可以用java api或者h(yuǎn)adoop shell等工具服傍,如果想操作hdfs文件系統(tǒng)就像操作本地文件系統(tǒng)一樣的便捷,可以將hdfs文件系統(tǒng)掛載到本地的一個目錄上节猿,可以通過nfs掛載--apache hadoop2.x以后的版本中自帶了一個nfs3的插件服務(wù)票从,下面將詳細(xì)講解nfs掛載的方式漫雕。

  • 官方介紹

    http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html
    
  • 配置core-site.xml

    <property>
        <name>hadoop.proxyuser.nfsserver.groups</name>
        <value>*</value>
        <description>允許所有用戶組用戶代理</description>
    </property>
    <property>
        <name>hadoop.proxyuser.nfsserver.hosts</name>
        <value>localhost</value>
        <description>允許掛載的主機域名</description>
    </property>
    </property>
    
  • 修改hdfs-site.xml

    <property>
        <name>nfs.dump.dir</name>
        <value>/tmp/.hdfs-nfs</value>
    </property>
    <property>
        <name>nfs.rtmax</name>
        <value>1048576</value>
        <description>This is the maximum size in bytes of a READ request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's rsize(add rsize= # of bytes to the mount directive).</description>
    </property>
    <property>
        <name>nfs.wtmax</name>
        <value>65536</value>
        <description>This is the maximum size in bytes of a WRITE request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's wsize(add wsize= # of bytes to the mount directive).</description>
    </property>
    <property>
        <name>nfs.exports.allowed.hosts</name>
        <value>* rw</value>
        <description>允許所有主機對文件有rw權(quán)限</description>
    </property>
    
  • 重啟hadoop集群服務(wù)

  • 關(guān)閉本機的nfs以及rpcbind服務(wù)

  • 啟動hadoop portmap和nfs3,需要root權(quán)限

    [root@master ~]# /home/hadoop/hadoop-2.7.3/sbin/hadoop-daemon.sh start portmap
    [root@master ~]# /home/hadoop/hadoop-2.7.3/sbin/hadoop-daemon.sh start nfs3
    
  • 查看本機掛載狀況

    [root@master ~]# showmount -e localhost
    Export list for localhost:
    / *
    
    
  • 可以在其他未安裝HDFS的機器上通過nfs掛載hdfs目錄

    # mount -t nfs -o vers=3,proto=tcp 10.10.18.229:/ /mnt
    # ls /mnt/user
    hadoop  hive  spark
    
  • 測試速度
    大概每秒40M,感覺不理想

    [root@localhost brute_force]# time cp /mnt/shegong.txt .
    
    real    6m23.823s
    user    0m0.014s
    sys 0m23.255s
    [root@localhost brute_force]# du -msh /mnt/shegong.txt 
    15G /mnt/shegong.txt
    [root@localhost brute_force]# du -msh /mnt/shegong.txt ./shegong.txt 
    15G /mnt/shegong.txt
    15G ./shegong.txt
    
    
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末峰鄙,一起剝皮案震驚了整個濱河市浸间,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌吟榴,老刑警劉巖魁蒜,帶你破解...
    沈念sama閱讀 221,635評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異吩翻,居然都是意外死亡兜看,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評論 3 399
  • 文/潘曉璐 我一進(jìn)店門狭瞎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來细移,“玉大人,你說我怎么就攤上這事熊锭』≡” “怎么了?”我有些...
    開封第一講書人閱讀 168,083評論 0 360
  • 文/不壞的土叔 我叫張陵碗殷,是天一觀的道長精绎。 經(jīng)常有香客問我,道長锌妻,這世上最難降的妖魔是什么捺典? 我笑而不...
    開封第一講書人閱讀 59,640評論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮从祝,結(jié)果婚禮上襟己,老公的妹妹穿的比我還像新娘。我一直安慰自己牍陌,他們只是感情好擎浴,可當(dāng)我...
    茶點故事閱讀 68,640評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著毒涧,像睡著了一般贮预。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上契讲,一...
    開封第一講書人閱讀 52,262評論 1 308
  • 那天仿吞,我揣著相機與錄音,去河邊找鬼捡偏。 笑死唤冈,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的银伟。 我是一名探鬼主播你虹,決...
    沈念sama閱讀 40,833評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼绘搞,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了傅物?” 一聲冷哼從身側(cè)響起夯辖,我...
    開封第一講書人閱讀 39,736評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎董饰,沒想到半個月后蒿褂,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,280評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡卒暂,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,369評論 3 340
  • 正文 我和宋清朗相戀三年啄栓,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片介却。...
    茶點故事閱讀 40,503評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖块茁,靈堂內(nèi)的尸體忽然破棺而出齿坷,到底是詐尸還是另有隱情,我是刑警寧澤数焊,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布永淌,位于F島的核電站,受9級特大地震影響佩耳,放射性物質(zhì)發(fā)生泄漏遂蛀。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,870評論 3 333
  • 文/蒙蒙 一干厚、第九天 我趴在偏房一處隱蔽的房頂上張望李滴。 院中可真熱鬧,春花似錦蛮瞄、人聲如沸所坯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,340評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽芹助。三九已至,卻和暖如春闲先,著一層夾襖步出監(jiān)牢的瞬間状土,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,460評論 1 272
  • 我被黑心中介騙來泰國打工伺糠, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蒙谓,地道東北人。 一個月前我還...
    沈念sama閱讀 48,909評論 3 376
  • 正文 我出身青樓训桶,卻偏偏與公主長得像彼乌,于是被迫代替她去往敵國和親泻肯。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,512評論 2 359

推薦閱讀更多精彩內(nèi)容

  • ###大數(shù)據(jù)介紹 1 大數(shù)據(jù)的由來 計算機技術(shù)的發(fā)展慰照,互聯(lián)網(wǎng)普及灶挟,信息積累,呈現(xiàn)爆炸式增長毒租,收集稚铣,檢索,統(tǒng)...
    一個心情記錄者閱讀 481評論 0 0
  • Pathname lookup in Linux. This write-up is based on three...
    朔飛閱讀 664評論 0 0
  • 各版本hadoop文檔地址 Hadoop的框架最核心的設(shè)計就是:HDFS(Hadoop Distributed F...
    MicoCube閱讀 998評論 0 2
  • 往日樹林墅垮,鳥語花香惕医,山上流水,樂曲歌唱算色。 今夕一片抬伺,孤獨之鳥,樹樁之上灾梦,充滿惆悵峡钓。
    快樂的Alina閱讀 368評論 14 17
  • 早上起來疼的要死,估計是感冒了若河,得請假拿藥去能岩,想想就來氣,還不是因為霞的“入住”讓我陷入水深火熱中萧福,哎拉鹃!頭都快...
    谷之言閱讀 217評論 0 1