掛載HDFS(HDFS NFS Gateway)

0. 安裝依賴包

yum install -y showmount

1. 修改配置文件

修改core-site.xml

<property>
    <name>hadoop.proxyuser.root.groups</name>
    <value>*</value>
    <description>
         The 'nfsserver' user is allowed to proxy all members of the 'users-group1' and
         'users-group2' groups. Note that in most cases you will need to include the
         group "root" because the user "root" (which usually belonges to "root" group) will
         generally be the user that initially executes the mount on the NFS client system.
         Set this to '*' to allow nfsserver user to proxy any group.
    </description>
    </property>
    <property>
    <name>hadoop.proxyuser.root.hosts</name>
    <value>*</value>
    <description>
         This is the host where the nfs gateway is running. Set this to '*' to allow
         requests from any hosts to be proxied.
    </description>
    </property>

修改hdfs-site.xml

<property>
        <name>nfs.dump.dir</name>
        <value>/tmp/.hdfs-nfs</value>
    </property>
    <property>
        <name>nfs.rtmax</name>
        <value>1048576</value>
        <description>This is the maximum size in bytes of a READ request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's rsize(add rsize= # of bytes to the mount directive).</description>
    </property>
    <property>
        <name>nfs.wtmax</name>
        <value>65536</value>
        <description>This is the maximum size in bytes of a WRITE request supported by the NFS gateway. If you change this, make sure you also update the nfs mount's wsize(add wsize= # of bytes to the mount directive).</description>
    </property>
    <property>
        <name>nfs.exports.allowed.hosts</name>
        <value>* rw</value>
        <description>允許所有主機(jī)對文件有rw權(quán)限</description>
    </property>

2. 重啟hadoop集群服務(wù)

sbin/stop-all.sh
sbin/start-all.sh
#上述方法提示廢棄幌墓,可使用
sbin/stop-dfs.sh
sbin/stop-yarn.sh
sbin/start-dfs.sh
sbin/start-yarn.sh

3. 啟動(dòng)hadoop nfs

systemctl stop rpcbind
systemctl stop nfs
#這里需要重啟主機(jī)横堡,否則portmap會(huì)啟動(dòng)失敗,原因是111端口還是在被使用
sbin/hadoop-daemon.sh --script bin/hdfs start portmap
sbin/hadoop-daemon.sh --script bin/hdfs start nfs3

4. 掛載

mount -t nfs -o vers=3,proto=tcp,nolock,noacl,sync ceph-1:/  /mnt/hdfs

注意:

  1. slave節(jié)點(diǎn)不需要按照上面修改配置文件寇钉,只需要按照指定的yum包搏恤,然后直接掛載即可

References

  1. http://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末违寿,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子熟空,更是在濱河造成了極大的恐慌藤巢,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件息罗,死亡現(xiàn)場離奇詭異掂咒,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)迈喉,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進(jìn)店門绍刮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人挨摸,你說我怎么就攤上這事孩革。” “怎么了得运?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵膝蜈,是天一觀的道長。 經(jīng)常有香客問我澈圈,道長,這世上最難降的妖魔是什么帆啃? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任瞬女,我火速辦了婚禮,結(jié)果婚禮上努潘,老公的妹妹穿的比我還像新娘诽偷。我一直安慰自己,他們只是感情好疯坤,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布报慕。 她就那樣靜靜地躺著,像睡著了一般压怠。 火紅的嫁衣襯著肌膚如雪眠冈。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機(jī)與錄音蜗顽,去河邊找鬼布卡。 笑死,一個(gè)胖子當(dāng)著我的面吹牛雇盖,可吹牛的內(nèi)容都是我干的忿等。 我是一名探鬼主播,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼崔挖,長吁一口氣:“原來是場噩夢啊……” “哼贸街!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起狸相,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤薛匪,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后卷哩,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蛋辈,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年将谊,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了冷溶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,690評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡尊浓,死狀恐怖逞频,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情栋齿,我是刑警寧澤苗胀,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布,位于F島的核電站瓦堵,受9級特大地震影響基协,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜菇用,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一澜驮、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧惋鸥,春花似錦杂穷、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至滤港,卻和暖如春廊蜒,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工劲藐, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留八堡,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓聘芜,卻偏偏與公主長得像兄渺,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子汰现,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容