Hadoop 2.6.0分布式環(huán)境安裝

0x00 ? ?準(zhǔn)備工作

hadoop-2.6.0.tar.gz以及zookeeper-3.4.8.tar.gz

Apache網(wǎng)站上提供的Hadoop包是32位的淮菠,關(guān)于如何在64位機(jī)器上如何重新編譯Hadoop,請參考我的上一篇文章:編譯Hadoop2.6.0

說明:Hadoop和Zookeeper的工作目錄分別為:

/opt/hadoop-2.6.0

/opt/zookeeper-3.4.8

下圖是關(guān)于Hadoop HDFS2.x HA整個架構(gòu)的描述:

HDFS 2.x HA

關(guān)于Hadoop1.x和Hadoop2.x的異同荤堪,這里不再描述合陵,不懂的話請自行Google或參考Apache官方文檔


0x01 ? ?安裝環(huán)境介紹

我們用5個節(jié)點來完成Hadoop2.6.0的分布式安裝澄阳。如下圖:

nodename-hostmae-ipaddress

我們用1來表示每個節(jié)點所擁有的角色拥知。

architecture

NN: NameNode ? ?DN: DataNode ? ?JN: JournalNode ? ?ZK: Zookeeper

ZKFC: DFSZKFailoverController

RM: ResourceManager ? ?NM: NodeManager


0x02 ? ?安裝

--安裝前準(zhǔn)備

[1] 修改主機(jī)的hostname

修改hostname,只修改一處就行碎赢![/etc/sysconfig/network]

這里糾正一下上一篇文章里提到的修改hostname的問題低剔。如果按照上次修改hostname的方法,到最后運(yùn)行Hadoop的時候揩抡,會遇到各種問題户侥。因此hostname這個地方還是非常重要的!

[2] 修改hosts文件(/etc/hosts)

添加以下記錄:

192.168.187.128? nn.athrob.com

192.168.187.129? snn.athrob.com

192.168.187.130? dn1.athrob.com

192.168.187.131? dn2.athrob.com

192.168.187.132? dn3.athrob.com

[3] JDK環(huán)境變量設(shè)置

這個不多說峦嗤,不會請百度或Google。


--文件配置

關(guān)于一些配置文件內(nèi)容的理解屋摔,可以參考hadoop的user guide烁设。

我們采用在一臺機(jī)器上修改好相應(yīng)的配置文件,然后遠(yuǎn)程拷貝到其他機(jī)器的方法來完成Hadoop2.6.0的完全分布式安裝钓试。

以下所有的配置装黑,均在Node1這個節(jié)點上配置,然后在遠(yuǎn)程拷貝到相應(yīng)的其他節(jié)點上去弓熏。

[1] 修改 hadoop-env.sh恋谭,yarn-env.sh中的JAVA_HOME

[2] 修改hdfs-site.xml,配置如下:

hdfs-site.xml

[3] 修改core-site.xml挽鞠,配置如下:

core-site.xml

[4] 修改mapred-site.xml疚颊,配置如下:

mapred-site.xml

[5]? 修改yarn-site.xml,配置如下:

yarn-site.xml

[6] 修改slaves信认,配置如下:

slaves

--Zookeeper配置

從前面可以看到材义,Zookeeper節(jié)點在Node1,Node2,Node3上。因此我們也是在Node1上配置好之后嫁赏,再遠(yuǎn)程拷貝到Node2和Node3上其掂。

首先加上Zookeeper環(huán)境變量

export ZK_HOME=/opt/zookeeper-2.4.8

export PATH=$PATH:$ZK_HOME/bin

關(guān)于Zookeeper的配置內(nèi)容理解,可以參考zookeeper的guide潦蝇。

zookeeper的配置目錄為:zookeeper-3.4.8/conf

配置文件為:zoo.cfg

解壓好的zookeeper沒有zoo.cfg這個文件款熬,但是有zoo_sample.cfg深寥,因此我們復(fù)制它就OK。

cp zoo_sample.cfg zoo.cfg

注釋掉dataDir=/tmp/zookeeper

添加

dataDir=/opt/zookeeper

server.1=nn.athrob.com:2888:3888

server.2=snn.athrob.com:2888:3888

server.3=dn1.athrob.com:2888:3888

由于/opt/zookeeper這個文件夾不存在贤牛,因此惋鹅,我們要創(chuàng)建一個。

mkdir /opt/zookeeper

zoo-myid

從zookeeper的文檔我們可以看到盔夜,在它的工作目錄下负饲,需要一個myid的文件,但是這個文件現(xiàn)在是沒有的喂链,因此我們要創(chuàng)建一個返十。

touch /opt/zookeeper/myid

文件內(nèi)容添加server的ID:1

因此,我們把zookeeper的配置文件從Node1拷貝到Node2椭微,Node3之后洞坑,也要對應(yīng)的修改myid文件中的內(nèi)容。

由于前面我們配置的是:

【server.2=snn.athrob.com:2888:3888 】 ? --對應(yīng)Node2】

【server.3=dn1.athrob.com:2888:3888 】 ? --對應(yīng)Node3】

所以,Node2中myid文件內(nèi)容是2;相應(yīng)的Node3中myid文件內(nèi)容就是3跛蛋。


--運(yùn)行

$在運(yùn)行之前问麸,我們需要吧Hadoop整個目錄從Node1拷貝到Node2,Node3,Node4,Node5.

scp -r hadoop-2.6.0 root@snn.athrob.com:/opt/

scp -r hadoop-2.6.0 root@dn1.athrob.com:/opt/

scp -r hadoop-2.6.0 root@dn2.athrob.com:/opt/

scp -r hadoop-2.6.0 root@dn3.athrob.com:/opt/

$以及拷貝Zookeeper和相應(yīng)的配置目錄

scp -r /opt/zookeeper-3.4.8 root@snn.athrob.com:/opt/

scp -r /opt/zookeeper-3.4.8 root@dn1.athrob.com:/opt/

注:拷貝zookeeper的安裝目錄

scp -r /opt/zookeeper/ root@snn.athrob.com:/opt/

scp -r /opt/zookeeper/ root@snn.athrob.com:/opt/

注:拷貝zookeeper的dataDir,不要忘記在Node2,Node3上修改myid文件中的內(nèi)容猎唁!

$在Node1,Node2,Node3節(jié)點上啟動Zookeeper

zkServer.sh start

$在Node3,Node4,Node5節(jié)點上啟動JournalNode

/opt/hadoop-2.6.0/sbin/hadoop-daemon.sh start journalnode

$在Node1節(jié)點上格式化NameNode

/opt/hadoop-2.6.0/bin/hadoop namenode -format

$然后啟動該NameNode

/opt/hadoop-2.6.0/sbin/hadoop-daemon.sh start namenode

$在沒有格式化NameNode的Node2節(jié)點上復(fù)制Node1節(jié)點的fsimage

/opt/hadoop-2.6.0/bin/hdfs namenode -bootstrapStandby

注:在執(zhí)行-bootstrapStandby之前請確保Node1節(jié)點上的NameNode已經(jīng)正常啟動!

$然后在其中一個NameNode節(jié)點(Node1或Node2)上初始化zkfc

/opt/hadoop-2.6.0/bin/hdfs zkfc -formatZK

如果沒有初始化zkfc,啟動完成后發(fā)現(xiàn)log日志里報這樣一個錯誤:

org.apache.hadoop.ha.ZKFailoverController: Unable to start failover controller. Parent znode does not exist.Run with -formatZK flag to initialize ZooKeeper.

#############################################################

如果沒有任何問題的話监氢,hadoop就能順利啟動運(yùn)行了!

/opt/hadoop-2.6.0/sbin/start-dfs.sh

/opt/hadoop-2.6.0/sbin/start-yarn.sh

#############################################################

zkServer.sh start
start-dfs.sh
start-yarn.sh
netstat - Node1
jps in Node1
jps in Node2
jps in Node3
jps in Node4
jps in Node5
Active NameNode
Standby NameNode
Web ResouceManager

不足之處藤违,請批評指正浪腐。

如有問題,請私信聯(lián)系顿乒。

謝謝议街!

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市璧榄,隨后出現(xiàn)的幾起案子特漩,更是在濱河造成了極大的恐慌,老刑警劉巖犹菱,帶你破解...
    沈念sama閱讀 207,113評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件拾稳,死亡現(xiàn)場離奇詭異,居然都是意外死亡腊脱,警方通過查閱死者的電腦和手機(jī)访得,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評論 2 381
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人悍抑,你說我怎么就攤上這事鳄炉。” “怎么了搜骡?”我有些...
    開封第一講書人閱讀 153,340評論 0 344
  • 文/不壞的土叔 我叫張陵拂盯,是天一觀的道長。 經(jīng)常有香客問我记靡,道長谈竿,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,449評論 1 279
  • 正文 為了忘掉前任摸吠,我火速辦了婚禮空凸,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘寸痢。我一直安慰自己呀洲,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,445評論 5 374
  • 文/花漫 我一把揭開白布啼止。 她就那樣靜靜地躺著道逗,像睡著了一般。 火紅的嫁衣襯著肌膚如雪献烦。 梳的紋絲不亂的頭發(fā)上滓窍,一...
    開封第一講書人閱讀 49,166評論 1 284
  • 那天,我揣著相機(jī)與錄音巩那,去河邊找鬼贰您。 笑死,一個胖子當(dāng)著我的面吹牛拢操,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播舶替,決...
    沈念sama閱讀 38,442評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼令境,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了顾瞪?” 一聲冷哼從身側(cè)響起舔庶,我...
    開封第一講書人閱讀 37,105評論 0 261
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎陈醒,沒想到半個月后惕橙,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,601評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡钉跷,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,066評論 2 325
  • 正文 我和宋清朗相戀三年弥鹦,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,161評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡彬坏,死狀恐怖朦促,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情栓始,我是刑警寧澤务冕,帶...
    沈念sama閱讀 33,792評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站幻赚,受9級特大地震影響禀忆,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜落恼,卻給世界環(huán)境...
    茶點故事閱讀 39,351評論 3 307
  • 文/蒙蒙 一箩退、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧领跛,春花似錦乏德、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,352評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至矢棚,卻和暖如春郑什,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蒲肋。 一陣腳步聲響...
    開封第一講書人閱讀 31,584評論 1 261
  • 我被黑心中介騙來泰國打工蘑拯, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人兜粘。 一個月前我還...
    沈念sama閱讀 45,618評論 2 355
  • 正文 我出身青樓申窘,卻偏偏與公主長得像,于是被迫代替她去往敵國和親孔轴。 傳聞我的和親對象是個殘疾皇子剃法,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,916評論 2 344

推薦閱讀更多精彩內(nèi)容

  • 1. Zookeeper介紹: 1.基本介紹: Zookeeper: 為分布式應(yīng)用提供分布式協(xié)作(協(xié)調(diào))服務(wù)。使用...
    奉先閱讀 4,550評論 0 10
  • 版權(quán)聲明:本文為博主原創(chuàng)文章路鹰,未經(jīng)博主允許不得轉(zhuǎn)載贷洲。 目錄-[-]1 先決條件2 實驗環(huán)境搭建 21 準(zhǔn)備工...
    三三At你閱讀 825評論 0 3
  • 一、Spark集群部署 1晋柱、軟件版本 OS版本:Ubuntu 14.04 Hadoop版本:Hadoop 2.6....
    ZyZhu閱讀 1,223評論 1 2
  • 1 準(zhǔn)備工作 服務(wù)器信息: 192.168.91.221 (elasticsearch-node1) 192.16...
    淺色的嗥嘯閱讀 2,824評論 2 9
  • 墓志銘 一個旅人 枝椏與黃昏 移動的黑色標(biāo)點 不是句號 河面上長長的落日背影 公路上沒有里程碑 狹長的監(jiān)獄 自由的...
    瓦爾登野人閱讀 202評論 0 1