zookeeper + kafka 集群搭建

今天版本已提測(cè)肚邢,有些空余時(shí)間可以拿到折騰诈铛,剛好手里有一臺(tái)云服務(wù)器,最近也溫習(xí)了下zk+kafka的相關(guān)資料谐岁,于是決定動(dòng)手搭一套zk集群+kafka集群醋奠,畢竟只有一臺(tái)機(jī)器,可以理解是個(gè)偽集群翰铡,但搭建的方式是差不多的钝域。

軟件準(zhǔn)備

JDK 8

下載地址:https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html

Zookeeper

下載地址:https://archive.apache.org/dist/zookeeper/
選了一個(gè)比較新的版本,3.4.10

Kafka

下載地址:http://kafka.apache.org/downloads
選了一個(gè)比較老的版本锭魔,0.11.0.3 (隨意選的)

軟件安裝

JDK 8

很簡(jiǎn)單例证,下載后解壓到指定目錄(建議放在/usr/local/目錄下),然后配置下環(huán)境變量迷捧。
解壓命令:tar zxvf xxxx.tar.gz
配置生效命令:source /etc/profile

Zookeeper集群搭建

因?yàn)閗afka依賴zookeeper织咧,所以先搭建zookeeper。
解壓下載的壓縮包到指定目錄漠秋,并將解壓目錄復(fù)制兩份笙蒙,因zk要求>n/2個(gè)節(jié)點(diǎn)存活才能提供服務(wù),所以至少要部署3個(gè)節(jié)點(diǎn)庆锦,預(yù)留1個(gè)容錯(cuò)節(jié)點(diǎn)捅位。

  • 目錄結(jié)構(gòu)


    zk.png
  • 核心配置1({ZK_HOME}/conf/zoo.cfg)

# 數(shù)據(jù)和日志目錄
dataDir=/usr/local/zookeeper/zookeeper-3.4.10/data
dataLogDir=/usr/local/zookeeper/zookeeper-3.4.10/logs
# 端口
clientPort=2181
#設(shè)置集群的服務(wù)id,myid文件中的數(shù)字
server.1=127.0.0.1:2888:3888
server.2=127.0.0.1:2889:3889
server.3=127.0.0.1:2890:3890
  • 核心配置2 (${dataDir}/myid)
# 比如server.1的則為1
${serverId} 
  • 啟動(dòng)&校驗(yàn)
    啟動(dòng):
    ${ZK_HOME}/bin/zkServer.sh start
    校驗(yàn):
    ps -ef | grep "zookeeper" (查看進(jìn)程是否起來(lái)) 或者 netstat -anp | grep "${port}" (查看端口號(hào)是否綁定)
    查看狀態(tài):
    ${ZK_HOME}/bin/zkServer.sh status
    停止:
    ${ZK_HOME}/bin/zkServer.sh stop

KafKa集群搭建

kafka自帶zookeeper搂抒,這里我們不使用自帶的艇搀,解壓和復(fù)制步驟同zookeeper。

  • 目錄結(jié)構(gòu)


    kafka.png
  • 核心配置(${KAFKA_HOME}/config/server.properties)
# broker id
broker.id=1
# 內(nèi)網(wǎng)訪問(wèn),${port}需修改
listeners=PLAINTEXT://0.0.0.0:${port}
# 提供給外網(wǎng)訪問(wèn)求晶,優(yōu)先級(jí)高于listeners配置焰雕,${IP}${port}需要根據(jù)真實(shí)IP修改
advertised.listeners=PLAINTEXT://${IP}:${port}
# zookeeper集群
zookeeper.connect=127.0.0.1:2181,127.0.0.1:2182,127.0.0.1:2183
# 日志目錄
log.dirs=/tmp/kafka-logs1
  • 啟動(dòng)&校驗(yàn)

    啟動(dòng):
    .${KAFKA_HOME}/bin/kafka-server-start.sh -daemon ${${KAFKA_HOME}}/config/server.properties
    校驗(yàn):
    ps -ef | grep "kafka" (查看進(jìn)程是否起來(lái)) 或者 netstat -anp | grep "${port}" (查看端口號(hào)是否綁定)
    停止:
    .${KAFKA_HOME}/bin/kafka-server-stop.sh
  • 官網(wǎng)文檔地址

Java Client訪問(wèn)

框架:spring boot + kafka

本來(lái)自己新建了一個(gè)項(xiàng)目引入了spring-boot相關(guān)jar包,結(jié)果啟動(dòng)出現(xiàn)了部分兼容性問(wèn)題芳杏,為節(jié)約時(shí)間矩屁,直接在github上拿了一個(gè)小哥哥的項(xiàng)目驗(yàn)證,順帶貼下他的文章地址:https://blog.csdn.net/C1041067258/article/details/90721545爵赵,改下配置就能啟動(dòng)吝秕。

結(jié)尾彩帶

推薦幾個(gè)軟件
kafka GUI:kafka tool
zookeeper GUI:idea插件zoolytic

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市空幻,隨后出現(xiàn)的幾起案子郭膛,更是在濱河造成了極大的恐慌,老刑警劉巖氛悬,帶你破解...
    沈念sama閱讀 211,194評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件则剃,死亡現(xiàn)場(chǎng)離奇詭異耘柱,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)棍现,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,058評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門调煎,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人己肮,你說(shuō)我怎么就攤上這事士袄。” “怎么了谎僻?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,780評(píng)論 0 346
  • 文/不壞的土叔 我叫張陵娄柳,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我艘绍,道長(zhǎng)赤拒,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,388評(píng)論 1 283
  • 正文 為了忘掉前任诱鞠,我火速辦了婚禮挎挖,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘航夺。我一直安慰自己蕉朵,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,430評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布阳掐。 她就那樣靜靜地躺著始衅,像睡著了一般。 火紅的嫁衣襯著肌膚如雪缭保。 梳的紋絲不亂的頭發(fā)上觅闽,一...
    開(kāi)封第一講書(shū)人閱讀 49,764評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音涮俄,去河邊找鬼。 笑死尸闸,一個(gè)胖子當(dāng)著我的面吹牛彻亲,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播吮廉,決...
    沈念sama閱讀 38,907評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼苞尝,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了宦芦?” 一聲冷哼從身側(cè)響起宙址,我...
    開(kāi)封第一講書(shū)人閱讀 37,679評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎调卑,沒(méi)想到半個(gè)月后抡砂,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體大咱,經(jīng)...
    沈念sama閱讀 44,122評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,459評(píng)論 2 325
  • 正文 我和宋清朗相戀三年注益,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了碴巾。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,605評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡丑搔,死狀恐怖厦瓢,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情啤月,我是刑警寧澤煮仇,帶...
    沈念sama閱讀 34,270評(píng)論 4 329
  • 正文 年R本政府宣布,位于F島的核電站谎仲,受9級(jí)特大地震影響浙垫,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜强重,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,867評(píng)論 3 312
  • 文/蒙蒙 一绞呈、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧间景,春花似錦佃声、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,734評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至封拧,卻和暖如春志鹃,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背泽西。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,961評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工曹铃, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人捧杉。 一個(gè)月前我還...
    沈念sama閱讀 46,297評(píng)論 2 360
  • 正文 我出身青樓陕见,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親味抖。 傳聞我的和親對(duì)象是個(gè)殘疾皇子评甜,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,472評(píng)論 2 348