搭建Hadoop-HA + ZooKeeper環(huán)境

前提:搭建Hadoop-HA環(huán)境

node01 node02 node03 node04
NameNode01 NameNode02 NameNode03
DataNode01 DataNode02 DataNode03
JournalNode01 JournalNode02 JournalNode03
ZooKeeper01 ZooKeeper02 ZooKeeper03
ZooKeeperFailoverController01 ZooKeeperFailoverController02 ZooKeeperFailoverController03
  1. 配置node01芝囤、node02笔宿、node03律姨、node04上的Hadoop

在node01上修改/opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml
vim /opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml
添加:

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://automaticHACluster</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/opt/hadoop/data/tmp/automatic_ha</value>
  </property>
  <property>
    <name>ha.zookeeper.quorum</name>
    <value>node02:2181,node03:2181,node04:2181</value>
  </property>
</configuration>

在node01上修改/opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml
vim /opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml
添加:

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>2</value>
  </property>
  <property>
    <name>dfs.nameservices</name>
    <value>automaticHACluster</value>
  </property>
  <property>
    <name>dfs.ha.namenodes.automaticHACluster</name>
    <value>NN01,NN02,NN03</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.automaticHACluster.NN01</name>
    <value>node01:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.automaticHACluster.NN02</name>
    <value>node02:8020</value>
  </property>
  <property>
    <name>dfs.namenode.rpc-address.automaticHACluster.NN03</name>
    <value>node03:8020</value>
  </property>
  <property>
    <name>dfs.namenode.shared.edits.dir</name>
    <value>qjournal://node01:8485;node02:8485;node03:8485/automaticHACluster</value>
  </property>
  <property>
    <name>dfs.client.failover.proxy.provider.automaticHACluster</name>
    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>
  </property>
  <property>
    <name>dfs.ha.fencing.methods</name>
    <value>sshfence</value>
  </property>
  <property>
    <name>dfs.ha.fencing.ssh.private-key-files</name>
    <value>/root/.ssh/id_rsa</value>
  </property>
  <property>
    <name>dfs.journalnode.edits.dir</name>
    <value>/opt/hadoop/data/tmp/automatic_ha</value>
  </property>
  <property>
    <name>dfs.ha.automatic-failover.enabled</name>
    <value>true</value>
  </property>
</configuration>

將node01上的/opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml米苹、/opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml拷貝到node02限寞、node03忍啸、node04:
scp /opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml /opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml node02:/opt/hadoop/hadoop-3.1.1/etc/hadoop/ && scp /opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml /opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml node03:/opt/hadoop/hadoop-3.1.1/etc/hadoop/ && scp /opt/hadoop/hadoop-3.1.1/etc/hadoop/core-site.xml /opt/hadoop/hadoop-3.1.1/etc/hadoop/hdfs-site.xml node04:/opt/hadoop/hadoop-3.1.1/etc/hadoop/

  1. 安裝node02、node03昆烁、node04上的ZooKeeper

tar -zxvf zookeeper-3.4.9.tar.gz -C /opt/zookeeper/

  1. 配置node02吊骤、node03、node04上的ZooKeeper

在node02上修改/opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg
cp /opt/zookeeper/zookeeper-3.4.9/conf/zoo_sample.cfg /opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg
vim /opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg
修改:

dataDir=/opt/zookeeper/data/tmp

添加:

server.1=192.168.163.192:2881:3881
server.2=192.168.163.193:2881:3881
server.3=192.168.163.194:2881:3881

將node02上的/opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg拷貝到node03静尼、node04:
scp /opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg node03:/opt/zookeeper/zookeeper-3.4.9/conf/ && scp /opt/zookeeper/zookeeper-3.4.9/conf/zoo.cfg node04:/opt/zookeeper/zookeeper-3.4.9/conf/
在node02上執(zhí)行:
mkdir -p /opt/zookeeper/data/tmp && echo 1 > /opt/zookeeper/data/tmp/myid
在node03上執(zhí)行:
mkdir -p /opt/zookeeper/data/tmp && echo 2 > /opt/zookeeper/data/tmp/myid
在node04上執(zhí)行:
mkdir -p /opt/zookeeper/data/tmp && echo 3 > /opt/zookeeper/data/tmp/myid

  1. 配置node01白粉、node02传泊、node03、node04上的環(huán)境變量

在node01上修改/etc/profile
vim /etc/profile
添加:

export HDFS_ZKFC_USER=root

在node02上修改/etc/profile
vim /etc/profile
添加:

export ZOOKEEPER_PREFIX=/opt/zookeeper/zookeeper-3.4.9
export PATH=$PATH:$ZOOKEEPER_PREFIX/bin
export HDFS_ZKFC_USER=root

在node03上修改/etc/profile
vim /etc/profile
添加:

export ZOOKEEPER_PREFIX=/opt/zookeeper/zookeeper-3.4.9
export PATH=$PATH:$ZOOKEEPER_PREFIX/bin
export HDFS_ZKFC_USER=root

在node04上修改/etc/profile
vim /etc/profile
添加:

export ZOOKEEPER_PREFIX=/opt/zookeeper/zookeeper-3.4.9
export PATH=$PATH:$ZOOKEEPER_PREFIX/bin

在node01鸭巴、node02眷细、node03、node04上運(yùn)行:
. /etc/profile

  1. 啟動(dòng)JournalNode

在node01鹃祖、node02溪椎、node03上運(yùn)行:
hdfs --daemon start journalnode

  1. 格式化Hadoop

在node01上運(yùn)行:
hdfs namenode -format

  1. 啟動(dòng)NameNode

在node01上運(yùn)行:
hdfs --daemon start namenode
在node02、node03上運(yùn)行:
hdfs namenode -bootstrapStandby

  1. 格式化ZooKeeper

在node1上執(zhí)行:
hdfs zkfc -formatZK

  1. 啟動(dòng)ZooKeeper

在node02恬口、node03校读、node04上運(yùn)行:
zkServer.sh start

  1. 啟動(dòng)Hadoop

在node01/node02/node03/node04上運(yùn)行:
start-dfs.sh

  1. 查看進(jìn)程

在node01、node02祖能、node03歉秫、node04上運(yùn)行:
jps

  1. 訪問網(wǎng)頁

NameNode01:http://192.168.163.191:9870
NameNode02:http://192.168.163.192:9870
NameNode03:http://192.168.163.193:9870
DataNode01:http://192.168.163.192:9864
DataNode02:http://192.168.163.193:9864
DataNode03:http://192.168.163.194:9864

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市养铸,隨后出現(xiàn)的幾起案子雁芙,更是在濱河造成了極大的恐慌,老刑警劉巖钞螟,帶你破解...
    沈念sama閱讀 219,188評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件兔甘,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡鳞滨,警方通過查閱死者的電腦和手機(jī)洞焙,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,464評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來拯啦,“玉大人闽晦,你說我怎么就攤上這事√岵恚” “怎么了仙蛉?”我有些...
    開封第一講書人閱讀 165,562評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長碱蒙。 經(jīng)常有香客問我荠瘪,道長,這世上最難降的妖魔是什么赛惩? 我笑而不...
    開封第一講書人閱讀 58,893評(píng)論 1 295
  • 正文 為了忘掉前任哀墓,我火速辦了婚禮,結(jié)果婚禮上喷兼,老公的妹妹穿的比我還像新娘篮绰。我一直安慰自己,他們只是感情好季惯,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,917評(píng)論 6 392
  • 文/花漫 我一把揭開白布吠各。 她就那樣靜靜地躺著臀突,像睡著了一般。 火紅的嫁衣襯著肌膚如雪贾漏。 梳的紋絲不亂的頭發(fā)上候学,一...
    開封第一講書人閱讀 51,708評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音纵散,去河邊找鬼梳码。 笑死,一個(gè)胖子當(dāng)著我的面吹牛伍掀,可吹牛的內(nèi)容都是我干的掰茶。 我是一名探鬼主播,決...
    沈念sama閱讀 40,430評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼蜜笤,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼符匾!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起瘩例,我...
    開封第一講書人閱讀 39,342評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎甸各,沒想到半個(gè)月后垛贤,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,801評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡趣倾,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,976評(píng)論 3 337
  • 正文 我和宋清朗相戀三年聘惦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片儒恋。...
    茶點(diǎn)故事閱讀 40,115評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡善绎,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出诫尽,到底是詐尸還是另有隱情禀酱,我是刑警寧澤,帶...
    沈念sama閱讀 35,804評(píng)論 5 346
  • 正文 年R本政府宣布牧嫉,位于F島的核電站剂跟,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏酣藻。R本人自食惡果不足惜曹洽,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,458評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望辽剧。 院中可真熱鬧送淆,春花似錦、人聲如沸怕轿。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,008評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至环凿,卻和暖如春梧兼,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背智听。 一陣腳步聲響...
    開封第一講書人閱讀 33,135評(píng)論 1 272
  • 我被黑心中介騙來泰國打工羽杰, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人到推。 一個(gè)月前我還...
    沈念sama閱讀 48,365評(píng)論 3 373
  • 正文 我出身青樓考赛,卻偏偏與公主長得像,于是被迫代替她去往敵國和親莉测。 傳聞我的和親對(duì)象是個(gè)殘疾皇子颜骤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,055評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 終極算法 關(guān)注微信號(hào)每天收聽我們的消息終極算法為您推送精品閱讀 前言 Hadoop 在大數(shù)據(jù)技術(shù)體系中的地位至關(guān)...
    Yespon閱讀 129,955評(píng)論 12 168
  • 1. Zookeeper介紹: 1.基本介紹: Zookeeper: 為分布式應(yīng)用提供分布式協(xié)作(協(xié)調(diào))服務(wù)。使用...
    奉先閱讀 4,575評(píng)論 0 10
  • Hadoop HA集群搭建文檔.............................................
    鐘敏_1788閱讀 1,458評(píng)論 0 0
  • 首先還是先說一下Zookeeper在Hadoop集群的作用捣卤,以前我們學(xué)習(xí)Hadoop偽分布式的時(shí)候沒有用到Zook...
    文子軒閱讀 868評(píng)論 0 2
  • 生活并不是短跑忍抽,而是一場(chǎng)馬拉松,投資亦是如此董朝。 1鸠项、盤面一覽 周四大盤小幅低開后直接放量突破前期高點(diǎn),隨后震...
    阿凱古閱讀 396評(píng)論 0 2