OushuDB 安裝與升級(jí)之安裝 HDFS

安裝HDFS
由于hadoop依賴(lài)于特定版本的snappy晌涕,請(qǐng)先卸載snappy確保安裝的順利進(jìn)行:
hawq ssh -f hostfile -e 'yum remove -y snappy'
HAWQ的HDFS采用HA的方式進(jìn)行安裝配置。安裝Hadoop可執(zhí)行文件敞贡。
hawq ssh -f hostfile -e 'yum install -y hadoop hadoop-hdfs'
配置NameNode目錄授滓,需要配置的節(jié)點(diǎn)有兩個(gè),oushum1 和 oushum2。創(chuàng)建nnhostfile揩抡,類(lèi)似前文hostfile:
touch nnhostfile
配置nnhostfile內(nèi)容為hadoop的NameNode節(jié)點(diǎn)hostname:
oushum1oushum2
創(chuàng)建DataNode主機(jī)文件dnhostfile,類(lèi)似前文nnhostfile:
touch dnhostfile
配置dnhostfile內(nèi)容為hadoop的DataNode節(jié)點(diǎn)hostname:
oushus1oushus2
創(chuàng)建NameNode目錄:
hawq ssh -f nnhostfile -e 'mkdir -p /data1/hdfs/namenode'hawq ssh -f nnhostfile -e 'chmod -R 755 /data1/hdfs'hawq ssh -f nnhostfile -e 'chown -R hdfs:hadoop /data1/hdfs'
創(chuàng)建DataNode目錄:
hawq ssh -f dnhostfile -e 'mkdir -p /data1/hdfs/datanode'hawq ssh -f dnhostfile -e 'mkdir -p /data2/hdfs/datanode'hawq ssh -f dnhostfile -e 'chmod -R 755 /data1/hdfs'hawq ssh -f dnhostfile -e 'chmod -R 755 /data2/hdfs'hawq ssh -f dnhostfile -e 'chown -R hdfs:hadoop /data1/hdfs'hawq ssh -f dnhostfile -e 'chown -R hdfs:hadoop /data2/hdfs'
復(fù)制下列文件到oushum1上的/etc/hadoop/conf/中,
http://www.oushu.com/docs/ch/_downloads/908bee114673dff44292d2b51ed5a1ce/core-site.xml.
http://www.oushu.com/docs/ch/_downloads/a57b214c41f418570548204fdf5089b3/hdfs-site.xml.
http://www.oushu.com/docs/ch/_downloads/5caeda7d6d35f2ab18438c8994e855c1/hadoop-env.sh.
修改hadoop配置文件, 根據(jù)各個(gè)節(jié)點(diǎn)的自身配置決定的础倍,可以參考下面內(nèi)容進(jìn)行修改 崭篡,主要是/etc/hadoop/conf目錄下的core-site.xml入蛆、hdfs-site.xml、hadoop-env.xml和slaves
修改oushum1上的配置文件/etc/hadoop/conf/core-site.xml 首先需要打開(kāi)HA烁设,即去掉如下所示的HA注釋?zhuān)?/p>

去掉下面的內(nèi)容:
<property><name>fs.defaultFS</name><value>hdfs://hdfs-nn:9000</value></property>
修改下面的內(nèi)容:
<configuration><property><name>fs.defaultFS</name><value>hdfs://oushu</value></property><property><name>ha.zookeeper.quorum</name><value>oushum1:2181,oushum2:2181,oushus1:2181</value></property>...<property><name>ipc.server.listen.queue.size</name><value>3300</value></property>...<configuration>
修改oushum1上的配置文件/etc/hadoop/conf/hdfs-site.xml 首先打開(kāi)HA,即去掉如下所示的兩行注釋?zhuān)?/p>

HA打開(kāi)后钓试,修改內(nèi)容如下:
<configuration><property><name>dfs.name.dir</name><value>file:/data1/hdfs/namenode</value><final>true</final></property><property><name>dfs.data.dir</name><value>file:/data1/hdfs/datanode,file:/data2/hdfs/datanode</value><final>true</final></property>...<property><name>dfs.block.local-path-access.user</name><value>gpadmin</value></property>...<property><name>dfs.domain.socket.path</name><value>/var/lib/hadoop-hdfs/dn_socket</value></property>...<property><name>dfs.block.access.token.enable</name><value>true</value><description>If "true", access tokens are used as capabilities for accessingdatanodes.If "false", no access tokens are checked on accessing datanodes.</description></property>...<property><name>dfs.nameservices</name><value>oushu</value></property><property><name>dfs.ha.namenodes.oushu</name><value>nn1,nn2</value></property><property><name>dfs.namenode.rpc-address.oushu.nn1</name><value>oushum2:9000</value></property><property><name>dfs.namenode.http-address.oushu.nn1</name><value>oushum2:50070</value></property><property><name>dfs.namenode.rpc-address.oushu.nn2</name><value>oushum1:9000</value></property><property><name>dfs.namenode.http-address.oushu.nn2</name><value>oushum1:50070</value></property><property><name>dfs.namenode.shared.edits.dir</name><value>qjournal://oushum1:8485;oushum2:8485;oushus1:8485/oushu</value></property><property><name>dfs.ha.automatic-failover.enabled.oushu</name><value>true</value></property><property><name>dfs.client.failover.proxy.provider.oushu</name><value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value></property><property><name>dfs.journalnode.edits.dir</name><value>/data1/hdfs/journaldata</value></property>...
修改oushum1上/etc/hadoop/conf/hadoop-env.sh:
...
export JAVA_HOME="/usr/java/default"
...
export HADOOP_CONF_DIR="/etc/hadoop/conf"
...
export HADOOP_NAMENODE_OPTS="-Xmx6144m -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70"
export HADOOP_DATANODE_OPTS="-Xmx2048m -Xss256k"
...
export HADOOP_LOG_DIR=/var/log/hadoop/$USER
...

修改oushum1上/etc/hadoop/conf/slaves 將所有DataNode的HostName寫(xiě)入該文件:
oushus1oushus2
拷貝oushum1上/etc/hadoop/conf中的配置文件到所有節(jié)點(diǎn):
hawq scp -r -f hostfile /etc/hadoop/conf =:/etc/hadoop/
在oushum1節(jié)點(diǎn)装黑,格式化ZKFailoverController
sudo -u hdfs hdfs zkfc -formatZK
在配置journal的所有節(jié)點(diǎn)上副瀑,啟動(dòng)journalnode。創(chuàng)建jhostfile曹体,類(lèi)似前文hostfile俗扇,內(nèi)容為配置journal的節(jié)點(diǎn)hostname:
oushum1oushum2oushus1
使用下面的命令,啟動(dòng)journalnode:
hawq ssh -f jhostfile -e 'sudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start journalnode'
格式化并啟動(dòng)oushum1上的NameNode:
sudo -u hdfs hdfs namenode -format -clusterId sssudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start namenode
在另一個(gè)NameNode oushum2中進(jìn)行同步操作箕别,并啟動(dòng)NameNode:
hawq ssh -h oushum2 -e 'sudo -u hdfs hdfs namenode -bootstrapStandby'hawq ssh -h oushum2 -e 'sudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start namenode'
通過(guò)hawq ssh啟動(dòng)所有datanode節(jié)點(diǎn):
hawq ssh -f dnhostfile -e 'sudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start datanode'
通過(guò)hawq ssh啟動(dòng)oushum2上的zkfc進(jìn)程铜幽,使其成為active namenode:
hawq ssh -h oushum2 -e 'sudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start zkfc'
通過(guò)hawq ssh啟動(dòng)oushum1上的zkfc進(jìn)程,使其成為standby namenode:
hawq ssh -h oushum1 -e 'sudo -u hdfs /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh start zkfc'
檢查hdfs是否成功運(yùn)行:
su - hdfshdfs dfsadmin -reporthdfs dfs -mkdir /testnodehdfs dfs -put /usr/hdp/current/hadoop-client/sbin/hadoop-daemon.sh /testnode/hdfs dfs -ls -R /
你也可以查看HDFS web界面:http://oushum1:50070/

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末串稀,一起剝皮案震驚了整個(gè)濱河市除抛,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌母截,老刑警劉巖到忽,帶你破解...
    沈念sama閱讀 211,265評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異清寇,居然都是意外死亡喘漏,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門(mén)华烟,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)翩迈,“玉大人,你說(shuō)我怎么就攤上這事盔夜「核牵” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,852評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵喂链,是天一觀的道長(zhǎng)返十。 經(jīng)常有香客問(wèn)我,道長(zhǎng)椭微,這世上最難降的妖魔是什么洞坑? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,408評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮蝇率,結(jié)果婚禮上检诗,老公的妹妹穿的比我還像新娘。我一直安慰自己瓢剿,他們只是感情好逢慌,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著间狂,像睡著了一般攻泼。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,772評(píng)論 1 290
  • 那天忙菠,我揣著相機(jī)與錄音何鸡,去河邊找鬼。 笑死牛欢,一個(gè)胖子當(dāng)著我的面吹牛骡男,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播傍睹,決...
    沈念sama閱讀 38,921評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼隔盛,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了拾稳?” 一聲冷哼從身側(cè)響起吮炕,我...
    開(kāi)封第一講書(shū)人閱讀 37,688評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎访得,沒(méi)想到半個(gè)月后龙亲,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,130評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡悍抑,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評(píng)論 2 325
  • 正文 我和宋清朗相戀三年鳄炉,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片搜骡。...
    茶點(diǎn)故事閱讀 38,617評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡迎膜,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出浆兰,到底是詐尸還是另有隱情,我是刑警寧澤珊豹,帶...
    沈念sama閱讀 34,276評(píng)論 4 329
  • 正文 年R本政府宣布簸呈,位于F島的核電站,受9級(jí)特大地震影響店茶,放射性物質(zhì)發(fā)生泄漏蜕便。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評(píng)論 3 312
  • 文/蒙蒙 一贩幻、第九天 我趴在偏房一處隱蔽的房頂上張望轿腺。 院中可真熱鬧,春花似錦丛楚、人聲如沸族壳。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,740評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)仿荆。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間拢操,已是汗流浹背锦亦。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,967評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留令境,地道東北人杠园。 一個(gè)月前我還...
    沈念sama閱讀 46,315評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像舔庶,于是被迫代替她去往敵國(guó)和親抛蚁。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • 快速入手 本節(jié)將通過(guò)RPM安裝物理機(jī)版本的一個(gè)Centos/Redhat 7.x單節(jié)點(diǎn)集群栖茉。假設(shè)我們安裝的服務(wù)器h...
    北漂一號(hào)閱讀 406評(píng)論 0 1
  • 文章目錄 前言[https://editor.csdn.net/md/?articleId=110263981#_...
    充電了么閱讀 1,657評(píng)論 0 0
  • 一 NameNode和SecondaryNameNode 1??NN和2NN工作機(jī)制思考:NameNode中的元數(shù)...
    十丈_紅塵閱讀 495評(píng)論 0 1
  • 8.1 HA概述 1)所謂HA(high available)篮绿,即高可用(7*24小時(shí)不中斷服務(wù))。 2)實(shí)現(xiàn)高可...
    碼農(nóng)GG閱讀 264評(píng)論 0 0
  • 0. 普通分布式文件系統(tǒng)設(shè)計(jì)思路 文件以多副本的方式吕漂,整個(gè)文件存放到單機(jī)中亲配。 缺點(diǎn):文件不管有多大都存儲(chǔ)在一個(gè)節(jié)點(diǎn)...
    Peacenloves閱讀 517評(píng)論 0 3