搭建單機(jī)版的kafka

Kafka介紹

Kafka已經(jīng)不僅僅是一個(gè)消息系統(tǒng)钓株,它還是一個(gè)存儲(chǔ)系統(tǒng)和流處理平臺(tái)。因?yàn)槠涓呖捎媚敖伤綌U(kuò)展轴合,可持久化,可處理流數(shù)據(jù)而被大數(shù)據(jù)領(lǐng)域廣泛使用碗短。

資源準(zhǔn)備

linux centos7服務(wù)器
最近騰訊云在搞618活動(dòng)
【騰訊云】618云聚惠受葛,百款云產(chǎn)品限量搶購,1核2G云服務(wù)器首年95元
https://cloud.tencent.com/act/cps/redirect?redirect=1059&cps_key=4af64fef8b27cbf2ed77ea881690abbd&from=console

kafka下載
http://kafka.apache.org/downloads

百度網(wǎng)盤下載
鏈接:https://pan.baidu.com/s/1i-PviRc4im4Osa23EPRkqA
提取碼:obr1

zookeeper下載(高版本的kafka安裝包里面已經(jīng)集成了zookeeper偎谁,本文還是采用外部的zookeeper)
https://zookeeper.apache.org/releases.html

百度網(wǎng)盤下載
鏈接:https://pan.baidu.com/s/1mOmiI0UXsPaeOBfv9tYFBg
提取碼:b7zs

Zookeeper配置和啟動(dòng)

把安裝包上傳到opt目錄并解壓

  • tar zxvf kafka_2.12-2.5.0.tgz


    image.png
  • tar zxvf apache-zookeeper-3.6.1-bin.tar.gz


    image.png

Zookeeper配置和啟動(dòng)

  • 進(jìn)入zookeeper的conf目錄总滩,將zoo-samples.cfg文件重命名為zoo.cfg:
    mv zoo-samples.cfg zoo.cfg

  • 編輯zoo.cfg文件:
    vi zoo.cfg

  • 我就直接貼出我的配置了

# zookeeper服務(wù)器心跳時(shí)間,單位為ms
tickTime=2000

# 投票選舉新leader的初始化時(shí)間
initLimit=10

# leader與follower心跳檢測最大容忍時(shí)間,響應(yīng)超過tickTime * syncLimit, leader認(rèn)為follower死掉, 從服務(wù)器列表中剔除該follower
syncLimit=5

# 數(shù)據(jù)目錄
dataDir=/tmp/zookeeper/data

# 日志目錄
dataLogDir=/tmp/zookeeper/log

# zookeeper對(duì)外服務(wù)端口
clientPort=2181

其中dataDir和dataLogDir分別配置數(shù)據(jù)目錄和日志目錄巡雨,這兩個(gè)目錄需要事先建好

  • 啟動(dòng)zookeeper
    ./bin/zkServer.sh start

  • 查看zookeeper狀態(tài)
    ./bin/zkServer.sh status


    image.png

Kafka配置和啟動(dòng)

進(jìn)入kafka的config目錄闰渔,編輯server.properties文件

主要需要配置的有:

  • broker.id


    image.png

如果是集群的話,保證每個(gè)kafka實(shí)例的broker.id唯一

  • listeners


    image.png

配置kafka對(duì)外提供服務(wù)的地址

  • log.dirs


    image.png

kafka日志地址铐望,需要先把目錄建好

  • zookeeper.connect


    image.png

kafka注冊的zookeeper地址

啟動(dòng)kafka

./bin/kafka-server-start.sh -daemon config/server.properties

測試kafka啟動(dòng)沒有


image.png

創(chuàng)建一個(gè)topic并制定分區(qū)和副本集

./bin/kafka-topics.sh --zookeeper localhost:2181/kafka --create --topic topic-example --replication-factor 1 --partitions 1

image.png

創(chuàng)建消費(fèi)者

./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topic-example

image.png

創(chuàng)建生產(chǎn)者

./bin/kafka-console-producer.sh --broker-list localhost:9092 --topic topic-example

image.png

測試輸入一些內(nèi)容:


image.png

然后查看消費(fèi)者是否有收到消息


image.png

ok冈涧,消費(fèi)者也收到消息了!

查看topic詳情

./bin/kafka-topics.sh --zookeeper localhost:2181/kafka --describe --topic topic-example

image.png

可以看到很多信息蝌以,比如分區(qū)數(shù),分區(qū)副本數(shù)何之,ISR集合跟畅,是否leader等。溶推。徊件。

參考

https://weread.qq.com/web/reader/e9a32a0071848698e9a39b8k8f132430178f14e45fce0f7
https://www.cnblogs.com/alinainai/p/12951619.html
https://www.cnblogs.com/alinainai/p/12952227.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市蒜危,隨后出現(xiàn)的幾起案子虱痕,更是在濱河造成了極大的恐慌,老刑警劉巖辐赞,帶你破解...
    沈念sama閱讀 212,816評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件部翘,死亡現(xiàn)場離奇詭異,居然都是意外死亡响委,警方通過查閱死者的電腦和手機(jī)新思,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,729評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來赘风,“玉大人夹囚,你說我怎么就攤上這事⊙裕” “怎么了荸哟?”我有些...
    開封第一講書人閱讀 158,300評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我鞍历,道長舵抹,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,780評(píng)論 1 285
  • 正文 為了忘掉前任堰燎,我火速辦了婚禮掏父,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘秆剪。我一直安慰自己赊淑,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,890評(píng)論 6 385
  • 文/花漫 我一把揭開白布仅讽。 她就那樣靜靜地躺著陶缺,像睡著了一般。 火紅的嫁衣襯著肌膚如雪洁灵。 梳的紋絲不亂的頭發(fā)上饱岸,一...
    開封第一講書人閱讀 50,084評(píng)論 1 291
  • 那天,我揣著相機(jī)與錄音徽千,去河邊找鬼苫费。 笑死,一個(gè)胖子當(dāng)著我的面吹牛双抽,可吹牛的內(nèi)容都是我干的百框。 我是一名探鬼主播,決...
    沈念sama閱讀 39,151評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼牍汹,長吁一口氣:“原來是場噩夢啊……” “哼铐维!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起慎菲,我...
    開封第一講書人閱讀 37,912評(píng)論 0 268
  • 序言:老撾萬榮一對(duì)情侶失蹤嫁蛇,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后露该,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體睬棚,經(jīng)...
    沈念sama閱讀 44,355評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,666評(píng)論 2 327
  • 正文 我和宋清朗相戀三年解幼,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了闸拿。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,809評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡书幕,死狀恐怖新荤,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情台汇,我是刑警寧澤苛骨,帶...
    沈念sama閱讀 34,504評(píng)論 4 334
  • 正文 年R本政府宣布篱瞎,位于F島的核電站,受9級(jí)特大地震影響痒芝,放射性物質(zhì)發(fā)生泄漏俐筋。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,150評(píng)論 3 317
  • 文/蒙蒙 一严衬、第九天 我趴在偏房一處隱蔽的房頂上張望澄者。 院中可真熱鬧,春花似錦请琳、人聲如沸粱挡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽询筏。三九已至,卻和暖如春竖慧,著一層夾襖步出監(jiān)牢的瞬間嫌套,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,121評(píng)論 1 267
  • 我被黑心中介騙來泰國打工圾旨, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留踱讨,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,628評(píng)論 2 362
  • 正文 我出身青樓砍的,卻偏偏與公主長得像痹筛,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子挨约,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,724評(píng)論 2 351