hadoop-ha完全分布式高可用

機(jī)器配置:

10.33.101.243 master

10.33.101.244 slave01

10.33.101.247 slave02

1聚至、創(chuàng)建賬號(hào)

#以root用戶(hù)創(chuàng)建hadoop用戶(hù)和組創(chuàng)建hadoop用戶(hù)和組

groupadd hadoop

useradd -g hadoop hadoop

#修改用戶(hù)密碼

passwd hadoop

2、配置ssh免密书幕。

#首先切換到上面的hadoop用戶(hù),這里我是在master機(jī)器上操作

#生成非對(duì)稱(chēng)公鑰和私鑰,這個(gè)在集群中所有節(jié)點(diǎn)機(jī)器都必須執(zhí)行,一直回車(chē)就行

ssh-keygen -t rsa

#通過(guò)ssh登錄遠(yuǎn)程機(jī)器時(shí),本機(jī)會(huì)默認(rèn)將當(dāng)前用戶(hù)目錄下的.ssh/authorized_keys帶到遠(yuǎn)程機(jī)器進(jìn)行驗(yàn)證,這里是/home/hadoop/.ssh/authorized_keys中公鑰(來(lái)自其他機(jī)器上的/home/hadoop/.ssh/id_rsa.pub.pub),以下代碼只在主節(jié)點(diǎn)執(zhí)行就可以做到主從節(jié)點(diǎn)之間SSH免密碼登錄

cd /home/hadoop/.ssh/

#首先將Master節(jié)點(diǎn)的公鑰添加到authorized_keys

cat id_rsa.pub>>authorized_keys

#其次將Slaves節(jié)點(diǎn)的公鑰添加到authorized_keys弓千,這里我是在Hadoop31機(jī)器上操作的

ssh hadoop@slave01 cat /home/hadoop/.ssh/id_rsa.pub>> authorized_keys

ssh hadoop@slave02 cat /home/hadoop/.ssh/id_rsa.pub>> authorized_keys

#必須設(shè)置修改/home/hadoop/.ssh/authorized_keys權(quán)限

chmod700~/.ssh

chmod600~/.ssh/authorized_keys

#這里將Master節(jié)點(diǎn)的authorized_keys分發(fā)到其他slaves節(jié)點(diǎn)

scp -r /home/hadoop/.ssh/authorized_keys hadoop@slave01:/home/hadoop/.ssh/

scp -r /home/hadoop/.ssh/authorized_keys hadoop@slave02:/home/hadoop/.ssh/

3、配置JDK環(huán)境變量献起。

4洋访、zookeeper安裝(版本3.4.6)

再master,slave01,slave02 上解壓zk

修改conf文件夾下 zoo_sample.cfg 為zoo.cfg

配置修改:

dataDir=/opt/zkData

server.1=master:2888:3888

server.2=slave01:2888:3888

server.3=slave02:2888:3888

再每臺(tái)機(jī)器上創(chuàng)建機(jī)器標(biāo)識(shí)(echo 1 對(duì)應(yīng)server.1)

master :echo "1" > /opt/zkData/myid

slave01:echo "2" > /opt/zkData/myid

slave02:echo "3" > /opt/zkData/myid

再master上將zk分發(fā)到 slave01谴餐、slave02上

scp -r /home/hadoop/zookeeper-3.4.6 hadoop@slave01:/home/hadoop/

scp -r /home/hadoop/zookeeper-3.4.6 hadoop@slave02:/home/hadoop/

再master姻政、slave01、slave02 上分別啟動(dòng)zk

cd /home/hadoop/zookeeper-3.4.6/bin

./zkServer.sh start

啟動(dòng)三臺(tái)后 可以用?./zkServer.sh status? 查看當(dāng)前zk節(jié)點(diǎn)狀態(tài)

5岂嗓、現(xiàn)在要開(kāi)始配置hadoop-ha集群汁展。(使用解壓版hadoop)

解壓hadoop

修改hadoop-2.7.5/etc/hadoop下文件

core-site.xml

修改hdfs-site.xml


修改mapred-site.xml


修改?yarn-site.xml


修改?slaves

master

slave01

slave02

修改hadoop-env.sh和yarn-env.sh

export JAVA_HOME=/home/hadoop/java/jdk1.7.0_65

分發(fā)hadoop文件到slave01 、slave02

scp -r /home/hadoop/hadoop-2.7.1 hadoop@slave01:/home/hadoop/

scp -r /home/hadoop/hadoop-2.7.1 hadoop@slave02:/home/hadoop/


正式啟動(dòng)hadoop-ha

1、格式化zookeeper上hadoop-ha目錄

bin/hdfs zkfc –formatZK

2食绿、啟動(dòng)namenode日志同步服務(wù)journalnode(3臺(tái)全要)

sbin/hadoop-daemon.sh start journalnode

3侈咕、格式化namenode

#這步操作只能在namenode服務(wù)節(jié)點(diǎn)master或者slave01執(zhí)行中一臺(tái)上執(zhí)行

bin/hdfs namenode -format

4、啟動(dòng)namenode器紧、同步備用namenode耀销、啟動(dòng)備用namenode

#啟動(dòng)namenode

ssh master

sbin/hadoop-daemon.sh start namenode

#同步備用namenode、啟動(dòng)備用namenode

ssh slave01

bin/hdfs namenode -bootstrapStandby

sbin/hadoop-daemon.sh start namenode

5铲汪、啟動(dòng)DFSZKFailoverController(namnode節(jié)點(diǎn)上)

sbin/hadoop-daemon.sh start zkfc

6熊尉、啟動(dòng)datanode(只需要再master執(zhí)行,會(huì)自動(dòng)ssh其他機(jī)器啟動(dòng))

sbin/hadoop-daemons.sh start datanode

7掌腰、啟動(dòng)yarn

ssh master

sbin/start-yarn.sh

#在slave01上啟動(dòng)備用resouremanager

ssh slave01

sbin/yarn-daemon.sh start resourcemanager


訪(fǎng)問(wèn)頁(yè)面 master:50070 查看hadoop高可用狀態(tài)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末帽揪,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子辅斟,更是在濱河造成了極大的恐慌,老刑警劉巖芦拿,帶你破解...
    沈念sama閱讀 211,042評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件士飒,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡蔗崎,警方通過(guò)查閱死者的電腦和手機(jī)酵幕,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)缓苛,“玉大人芳撒,你說(shuō)我怎么就攤上這事∥辞牛” “怎么了笔刹?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,674評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀(guān)的道長(zhǎng)冬耿。 經(jīng)常有香客問(wèn)我舌菜,道長(zhǎng),這世上最難降的妖魔是什么亦镶? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,340評(píng)論 1 283
  • 正文 為了忘掉前任日月,我火速辦了婚禮,結(jié)果婚禮上缤骨,老公的妹妹穿的比我還像新娘爱咬。我一直安慰自己,他們只是感情好绊起,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布精拟。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪串前。 梳的紋絲不亂的頭發(fā)上瘫里,一...
    開(kāi)封第一講書(shū)人閱讀 49,749評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音荡碾,去河邊找鬼谨读。 笑死,一個(gè)胖子當(dāng)著我的面吹牛坛吁,可吹牛的內(nèi)容都是我干的劳殖。 我是一名探鬼主播,決...
    沈念sama閱讀 38,902評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼拨脉,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼哆姻!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起玫膀,我...
    開(kāi)封第一講書(shū)人閱讀 37,662評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤矛缨,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后帖旨,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體箕昭,經(jīng)...
    沈念sama閱讀 44,110評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年解阅,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了落竹。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,577評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡货抄,死狀恐怖述召,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情蟹地,我是刑警寧澤积暖,帶...
    沈念sama閱讀 34,258評(píng)論 4 328
  • 正文 年R本政府宣布,位于F島的核電站怪与,受9級(jí)特大地震影響呀酸,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜琼梆,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評(píng)論 3 312
  • 文/蒙蒙 一性誉、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧茎杂,春花似錦错览、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,726評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)轧邪。三九已至,卻和暖如春羞海,著一層夾襖步出監(jiān)牢的瞬間忌愚,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,952評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工却邓, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留硕糊,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,271評(píng)論 2 360
  • 正文 我出身青樓腊徙,卻偏偏與公主長(zhǎng)得像简十,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子撬腾,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • 看到題目有沒(méi)有一種高大上的感覺(jué)螟蝙?毛線(xiàn),當(dāng)前是個(gè)人民傻、是個(gè)公司都在說(shuō)自己搞大數(shù)據(jù)胰默,每天沒(méi)有幾個(gè)PB的數(shù)據(jù)入庫(kù),每天沒(méi)有...
    丁小晶的晶小丁閱讀 4,454評(píng)論 0 50
  • 1 目的將hadoop 2.7.1 安裝到 166漓踢、167初坠、168 三臺(tái)機(jī)器上2 提供環(huán)境練習(xí)環(huán)境192.168....
    灼灼2015閱讀 3,390評(píng)論 4 40
  • 簡(jiǎn)述 hadoop 集群一共有4種部署模式,詳見(jiàn)《hadoop 生態(tài)圈介紹》彭雾。完全分布式模式將hadoop部署在至...
    mtide閱讀 4,123評(píng)論 0 10
  • 簡(jiǎn)述 hadoop 集群一共有4種部署模式,詳見(jiàn)《hadoop 生態(tài)圈介紹》锁保。HA模式的集群里面會(huì)部署兩臺(tái)NN(最...
    mtide閱讀 6,970評(píng)論 0 10
  • 1.Linux安裝前的配置 1.1.關(guān)閉防火墻 本站文檔是假定「服務(wù)器在防火墻以?xún)?nèi)」的前提下編纂的薯酝,在這個(gè)前提下...
    lao男孩閱讀 3,312評(píng)論 0 4