hdfs是分布式文件系統(tǒng),要想訪問hdfs上的文件终娃,可以用java api或者h(yuǎn)adoop shell等工具服傍,如果想操作hdfs文件系統(tǒng)就像操作本地文件系統(tǒng)一樣的便捷,可以將hdfs文件系統(tǒng)掛載到本地的一個目錄上节猿,可以通過nfs掛載--apache hadoop2.x以后的版本中自帶了一個nfs3的插件服務(wù)票从,下面將詳細(xì)講解nfs掛載的方式漫雕。
-
官方介紹
http://hadoop.apache.org/docs/r2.5.2/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html
-
配置core-site.xml
<property> <name>hadoop.proxyuser.nfsserver.groups</name> <value>*</value> <description>允許所有用戶組用戶代理</description> </property> <property> <name>hadoop.proxyuser.nfsserver.hosts</name> <value>localhost</value> <description>允許掛載的主機域名</description> </property> </property>
-
修改hdfs-site.xml
<property> <name>nfs.dump.dir</name> <value>/tmp/.hdfs-nfs</value> </property> <property> <name>nfs.rtmax</name> <value>1048576</value> <description>This is the maximum size in bytes of a READ request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's rsize(add rsize= # of bytes to the mount directive).</description> </property> <property> <name>nfs.wtmax</name> <value>65536</value> <description>This is the maximum size in bytes of a WRITE request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's wsize(add wsize= # of bytes to the mount directive).</description> </property> <property> <name>nfs.exports.allowed.hosts</name> <value>* rw</value> <description>允許所有主機對文件有rw權(quán)限</description> </property>
重啟hadoop集群服務(wù)
關(guān)閉本機的nfs以及rpcbind服務(wù)
-
啟動hadoop portmap和nfs3,需要root權(quán)限
[root@master ~]# /home/hadoop/hadoop-2.7.3/sbin/hadoop-daemon.sh start portmap [root@master ~]# /home/hadoop/hadoop-2.7.3/sbin/hadoop-daemon.sh start nfs3
-
查看本機掛載狀況
[root@master ~]# showmount -e localhost Export list for localhost: / *
-
可以在其他未安裝HDFS的機器上通過nfs掛載hdfs目錄
# mount -t nfs -o vers=3,proto=tcp 10.10.18.229:/ /mnt # ls /mnt/user hadoop hive spark
-
測試速度
大概每秒40M,感覺不理想[root@localhost brute_force]# time cp /mnt/shegong.txt . real 6m23.823s user 0m0.014s sys 0m23.255s [root@localhost brute_force]# du -msh /mnt/shegong.txt 15G /mnt/shegong.txt [root@localhost brute_force]# du -msh /mnt/shegong.txt ./shegong.txt 15G /mnt/shegong.txt 15G ./shegong.txt
通過NFS將HDFS映射到本地文件系統(tǒng)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門狭瞎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來细移,“玉大人,你說我怎么就攤上這事熊锭』≡” “怎么了?”我有些...
- 文/不壞的土叔 我叫張陵碗殷,是天一觀的道長精绎。 經(jīng)常有香客問我,道長锌妻,這世上最難降的妖魔是什么捺典? 我笑而不...
- 正文 為了忘掉前任,我火速辦了婚禮从祝,結(jié)果婚禮上襟己,老公的妹妹穿的比我還像新娘。我一直安慰自己牍陌,他們只是感情好擎浴,可當(dāng)我...
- 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著毒涧,像睡著了一般贮预。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上契讲,一...
- 文/蒼蘭香墨 我猛地睜開眼绘搞,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了傅物?” 一聲冷哼從身側(cè)響起夯辖,我...
- 正文 年R本政府宣布永淌,位于F島的核電站,受9級特大地震影響佩耳,放射性物質(zhì)發(fā)生泄漏遂蛀。R本人自食惡果不足惜,卻給世界環(huán)境...
- 文/蒙蒙 一干厚、第九天 我趴在偏房一處隱蔽的房頂上張望李滴。 院中可真熱鬧,春花似錦蛮瞄、人聲如沸所坯。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽芹助。三九已至,卻和暖如春闲先,著一層夾襖步出監(jiān)牢的瞬間状土,已是汗流浹背。 一陣腳步聲響...
推薦閱讀更多精彩內(nèi)容
- ###大數(shù)據(jù)介紹 1 大數(shù)據(jù)的由來 計算機技術(shù)的發(fā)展慰照,互聯(lián)網(wǎng)普及灶挟,信息積累,呈現(xiàn)爆炸式增長毒租,收集稚铣,檢索,統(tǒng)...
- 各版本hadoop文檔地址 Hadoop的框架最核心的設(shè)計就是:HDFS(Hadoop Distributed F...