Kafka 3nodes集群部署步驟

一. 準(zhǔn)備工作:

? ? 1. 準(zhǔn)備3臺(tái)機(jī)器,IP地址分別為:

? ? ? ? ? 192.168.3.230(master)
? ? ? ? ? 192.168.3.233(slave1)
? ? ? ? ? 192.168.3.234(slave2)

? ? 2. 下載kafka穩(wěn)定版本,我的版本為:Scala 2.11? - kafka_2.11-0.9.0.0.tgz

? ? ? ? http://kafka.apache.org/downloads.html

? ? 3. 分別解壓放入到想安裝的目錄下,我的目錄為:/home/rasa 解壓命令為:

? ? ? ? tar -xzf *.tgz


二盔然、搭建zookeeper集群

? ? 1. 分別修改三臺(tái)機(jī)器的hosts,加入

?????192.168.3.230 master

?????192.168.3.233 slave1

?????192.168.3.234 slave2

? ? 2. 進(jìn)入解壓后的目錄/home/rasa/kafka_2.11-0.9.0.0

? ? 2. 進(jìn)入config目錄下,修改zookeeper.properties文件(所有機(jī)器相同)

??????? tickTime?=2000

??????? dataDir?=/data/zookeeper/

??????? clientPort?=2181

??????? initLimit?=5

??????? syncLimit?=2

??????? server.1?=master:2888:3888

??????? server.2?=slave1:2888:3888

??????? server.3?=slave2:2888:3888


? ? 3.在dataDir目錄/data/zookeeper/下寫(xiě)一個(gè)myid文件持偏,命令如下:

? ? ? ? echo 1 >myid

? ? ? ? 注意:這個(gè)id是zookeeper的主機(jī)標(biāo)示蹂喻,每個(gè)主機(jī)id不同第二臺(tái)是2 第三臺(tái)是3。


? ? 4.逐次啟動(dòng)3臺(tái)機(jī)器的zookeeper 構(gòu)成一個(gè)集群:

? ? ? ? > bin/zookeeper-server-start.sh config/zookeeper.properties &

? ? ? ? 由于ZooKeeper集群?jiǎn)?dòng)的時(shí)候开泽,每個(gè)結(jié)點(diǎn)都試圖去連接集群中的其它結(jié)點(diǎn)牡拇,先啟動(dòng)的肯定連不上后面還沒(méi)啟動(dòng)的,所以打印出來(lái)的部分的異常是可以忽略的穆律。集群在選出一個(gè)Leader后惠呼,最后穩(wěn)定了。其他結(jié)點(diǎn)可能也出現(xiàn)類似問(wèn)題峦耘,屬于正常剔蹋。


三、搭建kafka集群

? ? 1.進(jìn)入config目錄辅髓,修改server.properties(逐個(gè)機(jī)器修改)

??????? broker.id?=1(其他機(jī)器為?2/3)

??????? port?=9092

??????? zookeeper.connect=master:2181,slave1:2181,slave2:2181

??????? log.dirs?=/home/rasa/kafka-logs

??????? host.name?=192.168.3.230

??????? advertised.host.name?=192.168.3.230

? ? 2.啟動(dòng)每臺(tái)服務(wù)器的kafka:

? ? ? ? > bin/kafka-server-start.sh config/server.properties &


四泣崩、測(cè)試集群

? ? 1.創(chuàng)建一個(gè)topic

? ? ? ? > bin/kafka-topics.sh --create --zookeeper 192.168.3.230:2181 --replication-factor 3 --partitions 1

? ? ? ? ? ? --topic test-topic


? ? 2.查看創(chuàng)建的topic

? ? ? ? > bin/kafka-topics.sh --describe --zookeeper 192.168.3.230:2181 --topic test-topic

? ? ? ? ? ? Topic:test-replicated-topic? ? PartitionCount:1? ? ReplicationFactor:3? ? Configs:

? ? ? ? ? ? Topic: test-replicated-topic? ? Partition: 0? ? Leader: 1? ? Replicas: 1,2,0? ? Isr: 1,2,0


? ? ?3.查看topic列表

? ? ? ? ? > bin/kafka-topics.sh --list --zookeeper 192.168.3.230 :2181?

    test

    test-topic

?   查看列表及具體信息

? ? ? ? ? > bin/kafka-topics.sh --zookeeper localhost --describe


? ? 4.查看集群情況:

? ? ? ? >bin/kafka-topics.sh --describe --zookeeper 192.168.3.233:2181 --topic test-topic

? ? ? ? >bin/kafka-topics.sh --describe --zookeeper 192.168.3.234:2181 --topic test-topic

? ? ? ? 發(fā)現(xiàn)都能看到test-topic。


? ? ?5.生產(chǎn)消息

? ??????? > bin/kafka-console-producer.sh --broker-list 192.168.3.234:9092 -topic test-topic

? ? ?6.消費(fèi)消息

? ? ? ? ? > bin/kafka-console-consumer.sh --zookeeper 192.168.3.234:2181 --from-beginning --topic test-topic

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末洛口,一起剝皮案震驚了整個(gè)濱河市矫付,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌第焰,老刑警劉巖买优,帶你破解...
    沈念sama閱讀 211,265評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異挺举,居然都是意外死亡杀赢,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門(mén)湘纵,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)脂崔,“玉大人,你說(shuō)我怎么就攤上這事瞻佛⊥迅荩” “怎么了娇钱?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,852評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵伤柄,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我文搂,道長(zhǎng)适刀,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,408評(píng)論 1 283
  • 正文 為了忘掉前任煤蹭,我火速辦了婚禮笔喉,結(jié)果婚禮上取视,老公的妹妹穿的比我還像新娘。我一直安慰自己常挚,他們只是感情好作谭,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著奄毡,像睡著了一般折欠。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上吼过,一...
    開(kāi)封第一講書(shū)人閱讀 49,772評(píng)論 1 290
  • 那天锐秦,我揣著相機(jī)與錄音,去河邊找鬼盗忱。 笑死酱床,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的趟佃。 我是一名探鬼主播扇谣,決...
    沈念sama閱讀 38,921評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼揖闸!你這毒婦竟也來(lái)了揍堕?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,688評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤汤纸,失蹤者是張志新(化名)和其女友劉穎衩茸,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體贮泞,經(jīng)...
    沈念sama閱讀 44,130評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡楞慈,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了啃擦。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片囊蓝。...
    茶點(diǎn)故事閱讀 38,617評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖令蛉,靈堂內(nèi)的尸體忽然破棺而出聚霜,到底是詐尸還是另有隱情,我是刑警寧澤珠叔,帶...
    沈念sama閱讀 34,276評(píng)論 4 329
  • 正文 年R本政府宣布蝎宇,位于F島的核電站,受9級(jí)特大地震影響祷安,放射性物質(zhì)發(fā)生泄漏姥芥。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評(píng)論 3 312
  • 文/蒙蒙 一汇鞭、第九天 我趴在偏房一處隱蔽的房頂上張望凉唐。 院中可真熱鬧庸追,春花似錦、人聲如沸台囱。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,740評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)簿训。三九已至血筑,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間煎楣,已是汗流浹背豺总。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,967評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留择懂,地道東北人喻喳。 一個(gè)月前我還...
    沈念sama閱讀 46,315評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像困曙,于是被迫代替她去往敵國(guó)和親表伦。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容