Kafka 系列(一)之集群搭建(基于docker-compose搭建)

周末花了兩天時間入門學(xué)習(xí)一下 Kafka 的基本概念和使用侦镇。在學(xué)習(xí)Kafka之前醉鳖,首先搭建Kafka需要的環(huán)境以便于之后的學(xué)習(xí)和項(xiàng)目準(zhǔn)備旋恼。

docker和docker-compose的搭建和使用我就默認(rèn)你都會了哈昼牛!如果不清楚的先了解一下...

集群搭建

廢話不多說泛鸟,上代碼蝠咆!

version: '3.1'
services:
  zookeeper1:
    image: zookeeper:3.4.13
    container_name: zookeeper1
    restart: always
    hostname: zookeeper1
    ports:
      - 2181:2181
    environment:
      ZOO_MY_ID: 1
      ZOO_SERVERS: server.1=zookeeper1:2888:3888 server.2=zookeeper2:2888:3888 server.3=zookeeper3:2888:3888
  zookeeper2:
    image: zookeeper:3.4.13
    container_name: zookeeper2
    restart: always
    hostname: zookeeper2
    ports:
      - 2182:2181
    environment:
      ZOO_MY_ID: 2
      ZOO_SERVERS: server.1=zookeeper1:2888:3888 server.2=zookeeper2:2888:3888 server.3=zookeeper3:2888:3888
  zookeeper3:
    image: zookeeper:3.4.13
    container_name: zookeeper3
    restart: always
    hostname: zookeeper3
    ports:
      - 2183:2181
    environment:
      ZOO_MY_ID: 3
      ZOO_SERVERS: server.1=zookeeper1:2888:3888 server.2=zookeeper2:2888:3888 server.3=zookeeper3:2888:3888
  kafka1:
    image: xuxiangwork/kafka
    container_name: kafka1
    ports:
      - "9092:9092"
      - "1099:1099"
    depends_on:
      - zookeeper1
      - zookeeper2
      - zookeeper3
    environment:
      KAFKA_BROKER_ID: 1
      KAFKA_ADVERTISED_HOST_NAME: 172.28.0.1
      KAFKA_ZOOKEEPER_CONNECT: zookeeper1:2181,zookeeper2:2182,zookeeper3:2183
      CUSTOM_JMX_PORT: "1099"
      JVM_XMS: "256M"
      JVM_XMX: "512M"
    volumes:
      - E:\kafka1:/kafka
    restart: always
  kafka2:
    image: xuxiangwork/kafka
    container_name: kafka2
    ports:
      - "9093:9092"
      - "1100:1100"
    depends_on:
      - zookeeper1
      - zookeeper2
      - zookeeper3
    environment:
      KAFKA_BROKER_ID: 2
      KAFKA_ADVERTISED_HOST_NAME: 172.28.0.2
      KAFKA_ZOOKEEPER_CONNECT: zookeeper1:2181,zookeeper2:2182,zookeeper3:2183
      CUSTOM_JMX_PORT: "1100"
      JVM_XMS: "256M"
      JVM_XMX: "512M"
    volumes:
      - E:\kafka2:/kafka
    restart: always
  kafka3:
    image: xuxiangwork/kafka
    container_name: kafka3
    ports:
      - "9094:9092"
      - "1101:1101"
    depends_on:
      - zookeeper1
      - zookeeper2
      - zookeeper3
    environment:
      KAFKA_BROKER_ID: 3
      KAFKA_ADVERTISED_HOST_NAME: 172.28.0.3
      KAFKA_ZOOKEEPER_CONNECT: zookeeper1:2181,zookeeper2:2182,zookeeper3:2183
      CUSTOM_JMX_PORT: "1101"
      JVM_XMS: "256M"
      JVM_XMX: "512M"
    volumes:
      - E:\kafka3:/kafka
    restart: always
  kafka-manager:
    container_name: kafka-manager
    image: xuxiangwork/kafka-manager
    ports:
      - "9000:9000"
    depends_on:
      - zookeeper1
      - zookeeper2
      - zookeeper3
    environment:
      ZK_HOSTS: zookeeper1:2181
      APPLICATION_SECRET: letmein
      KAFKA_MANAGER_AUTH_ENABLED: "true"
      KAFKA_MANAGER_USERNAME: 你的控制臺帳號
      KAFKA_MANAGER_PASSWORD: 控制臺密碼
    restart: always

ps.本地環(huán)境為Window10的環(huán)境,所以文件映射的路徑和linux上搭建不一樣北滥,如果搭建在Linux系統(tǒng)或MacOS系統(tǒng)刚操,修改映射文件就可以啦。
值得注意的是再芋,如果為了能夠快速將zookeeper和kafka集群搭建起來菊霜,建議直接使用以上代碼。因?yàn)楝F(xiàn)在使用最新的zookeeper版本好像會搭建失敗济赎,具體原因沒有細(xì)看鉴逞,看到網(wǎng)上的說法是有可能新版本zookeeper鏡像里的文件和之前不太一樣,可能需要修改一些配置才可以司训,但我的目的是快速搭建環(huán)境學(xué)習(xí)Kafka构捡,就不花那么多時間研究版本的問題...

另外,我還加上kafka-manager服務(wù)壳猜,這個是一個可視化平臺勾徽,可以方便的管理kafka節(jié)點(diǎn)的情況,訪問地址為:http://localhost:9000 统扳。至于如何操作管理平臺喘帚,可參考 kafka-manager使用

使用docker ps命令查看是否搭建成功

查看zookeeper節(jié)點(diǎn)的狀態(tài):

  1. 進(jìn)入zookeeper服務(wù):docker exec -it zookeeper1 /bin/bash
  2. 執(zhí)行 ./bin/zkServer.sh status

由Mode可知畅姊,zookeeper1角色是leader,可以依照相似的命令查看其它zookeeper的角色和判斷是否啟動成功吹由!

查看kafka節(jié)點(diǎn)的狀態(tài):

  1. 查看kafka啟動日志:docker logs -f kafka1
  1. 通過kafka-manager管理平臺查看






如果覺得文章不錯的話涡匀,麻煩點(diǎn)個贊哈!對于文章有哪里不清楚或者有誤的地方溉知,歡迎在評論區(qū)留言~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末陨瘩,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子级乍,更是在濱河造成了極大的恐慌舌劳,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件玫荣,死亡現(xiàn)場離奇詭異甚淡,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)捅厂,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進(jìn)店門贯卦,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人焙贷,你說我怎么就攤上這事撵割。” “怎么了辙芍?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵啡彬,是天一觀的道長。 經(jīng)常有香客問我故硅,道長庶灿,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任吃衅,我火速辦了婚禮往踢,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘徘层。我一直安慰自己峻呕,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布惑灵。 她就那樣靜靜地躺著山上,像睡著了一般。 火紅的嫁衣襯著肌膚如雪英支。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天哮伟,我揣著相機(jī)與錄音干花,去河邊找鬼妄帘。 笑死,一個胖子當(dāng)著我的面吹牛池凄,可吹牛的內(nèi)容都是我干的抡驼。 我是一名探鬼主播,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼肿仑,長吁一口氣:“原來是場噩夢啊……” “哼致盟!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起尤慰,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤馏锡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后伟端,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體杯道,經(jīng)...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年责蝠,在試婚紗的時候發(fā)現(xiàn)自己被綠了党巾。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡霜医,死狀恐怖齿拂,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情肴敛,我是刑警寧澤创肥,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站值朋,受9級特大地震影響叹侄,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜昨登,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一趾代、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧丰辣,春花似錦撒强、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至琐凭,卻和暖如春芽隆,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工胚吁, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留牙躺,地道東北人。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓腕扶,卻偏偏與公主長得像孽拷,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子半抱,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內(nèi)容