2轴脐、zookeeper環(huán)境搭建-3臺(tái)機(jī)器

上一節(jié)我們介紹了kafka涉及到的相關(guān)概念,大家對(duì)kafka服務(wù)的基本結(jié)構(gòu)也有了初步的印象。這一節(jié)里我們要做的豁辉,就是動(dòng)手將上一節(jié)的kafka服務(wù)結(jié)構(gòu)部署到我們的機(jī)器上令野,搭建kafka基本的服務(wù)環(huán)境,其中會(huì)涉及到具體的zookeeper和kafka配置信息徽级,我們會(huì)進(jìn)行講解介紹气破。

在動(dòng)手部署kafka服務(wù)之前,我們先對(duì)服務(wù)器環(huán)境做一個(gè)規(guī)劃餐抢,包括kafka機(jī)器分配现使、安裝路徑和日志路徑約定等。

我們將要模擬的是3臺(tái)機(jī)器上的分布式部署旷痕,如果手頭沒(méi)有這么多機(jī)器的話碳锈,可以在同一個(gè)機(jī)器上,根據(jù)不同的端口來(lái)模擬不同機(jī)器欺抗,當(dāng)然大家也可以使用VMware虛擬機(jī)來(lái)模擬售碳。我采用了不同端口模擬的方式。

另外上一節(jié)我們提到過(guò)绞呈,Kafka集群的管理贸人,是通過(guò)zookeeper來(lái)實(shí)現(xiàn)的,我們?cè)诎惭bkafka服務(wù)前佃声,需要先安裝zookeeper服務(wù)艺智。kafka提供了內(nèi)嵌的zookeeper,實(shí)際生產(chǎn)環(huán)境下圾亏,我們通常不會(huì)使用內(nèi)嵌的zookeeper十拣,而是單獨(dú)部署一套環(huán)境。

這里我也是采用了不同端口模擬的方式志鹃。

一夭问、zookeeper服務(wù)環(huán)境搭建

先來(lái)講一下部署zookeeper環(huán)境的配置。

zookeeper環(huán)境分三臺(tái)機(jī)器曹铃,端口分配分別是:

localhost:2181甲喝;

localhost:2182;

localhost:2183铛只;

在每臺(tái)機(jī)器的相同路徑下下載安裝zookeeper。我的zookeeper版本是:zookeeper-3.4.9糠溜,安裝路徑是:/Users/cmcc/hadoop/zookeeper-1/zookeeper-3.4.9/

如果你也在本地模擬三臺(tái)機(jī)器淳玩,那么我建議路徑盡量都保持一致。我的三個(gè)zookeeper服務(wù)路徑分別為:

/Users/cmcc/hadoop/zookeeper-1/zookeeper-3.4.9

/Users/cmcc/hadoop/zookeeper-2/zookeeper-3.4.9

/Users/cmcc/hadoop/zookeeper-3/zookeeper-3.4.9

zookeeper的數(shù)據(jù)(與日志)路徑分別為:

/Users/cmcc/hadoop/tmp/zk1/data(日志路徑為log)

/Users/cmcc/hadoop/tmp/zk2/data(日志路徑為log)

/Users/cmcc/hadoop/tmp/zk3/data(日志路徑為log)

在數(shù)據(jù)路徑下提前新建一個(gè)名為myid的文件非竿,存儲(chǔ)zookeeper機(jī)器的編號(hào)(1蜕着,2,3…),這個(gè)編號(hào)用于唯一標(biāo)識(shí)一個(gè)zookeeper節(jié)點(diǎn)承匣,一定要是全局唯一的蓖乘,不能重復(fù)。

zookeeper的配置文件是/conf/zoo.cfg韧骗。以zk-1節(jié)點(diǎn)為例嘉抒,其配置內(nèi)容:

##########################################

# The number of milliseconds of each tick。

#這個(gè)時(shí)間是作為Zookeeper服務(wù)器之間或客戶端與服務(wù)器之間維持心跳的時(shí)間間隔袍暴,每隔這個(gè)時(shí)間些侍,就會(huì)發(fā)送一個(gè)心跳

tickTime=2000

# The number of ticks that the initial?synchronization phase can take。

#Zookeeper中Leader接收Follower服務(wù)器初始化連接時(shí)最長(zhǎng)能忍受多少個(gè)心跳時(shí)間間隔數(shù)

initLimit=10

# The number of ticks that can pass between?sending a request and getting an acknowledgement政模。

#標(biāo)識(shí)Leader與Follower之間發(fā)送消息岗宣,請(qǐng)求和應(yīng)答時(shí)間長(zhǎng)度,最長(zhǎng)不能超過(guò)多少個(gè)心跳時(shí)間

syncLimit=5

# the directory where the snapshot is stored.

#zookeeper的數(shù)據(jù)和日志存儲(chǔ)路徑淋样,需要手動(dòng)創(chuàng)建好耗式。日志不會(huì)自動(dòng)清除,需要手動(dòng)處理趁猴。

dataDir=/Users/cmcc/hadoop/tmp/zk1/data

dataLogDir=/Users/cmcc/hadoop/tmp/zk1/log

# the port at which the clients will connect

#zookeeper client連接的端口刊咳。如果多個(gè)zk部署在同一個(gè)機(jī)器,那么每個(gè)zk的Port必須不同躲叼,否則啟動(dòng)時(shí)會(huì)提示端口沖突芦缰。

#本例中zookeeper-1、2枫慷、3的clientPort分別是:2181让蕾、2182、2183

clientPort=2181

#同一臺(tái)機(jī)器上或听,這里的兩個(gè)port必須跟上面的clientPort不同探孝,因?yàn)槿齻€(gè)port的用途都不一樣。

#下面第一個(gè)端口號(hào)表示這個(gè)zk節(jié)點(diǎn)與集群Leader信息交換的端口誉裆,第二個(gè)端口用于leader掛掉后重新選舉的信息交換端口顿颅。

#server.后面的數(shù)字(1,2,3)表示zk節(jié)點(diǎn)的編號(hào),內(nèi)容與上個(gè)步驟提到的myid文件的內(nèi)容需保持一致足丢。

server.1=localhost:2287:3387

server.2=localhost:2288:3388

server.3=localhost:2289:3389

# the maximum number of client connections.

#對(duì)于一個(gè)zk節(jié)點(diǎn)允許的最大zk-client客戶端的連接數(shù)限制粱腻,默認(rèn)是60

#maxClientCnxns=60

# The number of snapshots to retain in dataDir

#保留多少個(gè)snapshots

#autopurge.snapRetainCount=3

# Purge task interval in hours,Set to "0" to disable auto purge feature

# 每隔多少小時(shí)清理一次snapshots

#autopurge.purgeInterval=1

##########################################

zookeeper服務(wù)啟動(dòng)腳本:

sh ./zookeeper-1/zookeeper-3.4.9/bin/zkServer.sh start &

echo "zookeeper-1 starting..."

sh ./zookeeper-2/zookeeper-3.4.9/bin/zkServer.sh start &

echo "zookeeper-2 starting..."

sh ./zookeeper-3/zookeeper-3.4.9/bin/zkServer.sh start &

echo "zookeeper-3 starting..."

查看節(jié)點(diǎn)的狀態(tài)屬性:

./bin/zkServer.sh status

也可以編輯一個(gè)狀態(tài)查看腳本show_status.sh斩跌,輸入節(jié)點(diǎn)id 來(lái)查看指定節(jié)點(diǎn)的狀態(tài):

################################

#!/bin/bash

index=$1

echo "show zookeeper-$index status..."

sh ./zookeeper-$index/zookeeper-3.4.9/bin/zkServer.sh status

################################

zookeeper啟動(dòng)過(guò)程中绍些,會(huì)在三個(gè)機(jī)器之間選舉出一個(gè)leader,其他作為follower耀鸦,并在leader和follower之間進(jìn)行數(shù)據(jù)同步柬批,保持?jǐn)?shù)據(jù)一致性啸澡。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市氮帐,隨后出現(xiàn)的幾起案子嗅虏,更是在濱河造成了極大的恐慌,老刑警劉巖上沐,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件皮服,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡奄容,警方通過(guò)查閱死者的電腦和手機(jī)冰更,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)昂勒,“玉大人蜀细,你說(shuō)我怎么就攤上這事「暧” “怎么了奠衔?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)塘娶。 經(jīng)常有香客問(wèn)我归斤,道長(zhǎng),這世上最難降的妖魔是什么刁岸? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任脏里,我火速辦了婚禮,結(jié)果婚禮上虹曙,老公的妹妹穿的比我還像新娘迫横。我一直安慰自己,他們只是感情好酝碳,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開(kāi)白布矾踱。 她就那樣靜靜地躺著,像睡著了一般疏哗。 火紅的嫁衣襯著肌膚如雪呛讲。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,287評(píng)論 1 301
  • 那天返奉,我揣著相機(jī)與錄音贝搁,去河邊找鬼。 笑死芽偏,一個(gè)胖子當(dāng)著我的面吹牛雷逆,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播哮针,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了十厢?” 一聲冷哼從身側(cè)響起等太,我...
    開(kāi)封第一講書(shū)人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎蛮放,沒(méi)想到半個(gè)月后缩抡,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡包颁,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年瞻想,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片娩嚼。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡蘑险,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出岳悟,到底是詐尸還是另有隱情佃迄,我是刑警寧澤,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布贵少,位于F島的核電站呵俏,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏滔灶。R本人自食惡果不足惜普碎,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望录平。 院中可真熱鬧麻车,春花似錦、人聲如沸萄涯。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)涝影。三九已至枣察,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間燃逻,已是汗流浹背序目。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留伯襟,地道東北人猿涨。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像姆怪,于是被迫代替她去往敵國(guó)和親叛赚。 傳聞我的和親對(duì)象是個(gè)殘疾皇子澡绩,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容