kafka--quick strat

一杨名、單broker

1.下載解壓并進(jìn)入目錄

????$ cd /Users/didi/Softwres/kafka_2.11-0.11.0.2

2.啟動(dòng)服務(wù)

? ? 啟動(dòng)zookeeper:$ bin/zookeeper-server-start.sh config/zookeeper.properties

? ? 啟動(dòng)kafka:$ bin/kafka-server-start.sh config/server.properties

3.創(chuàng)建一個(gè)主題(名稱為test布疼,只有一個(gè)分區(qū)贞瞒,一份復(fù)制)

????$ bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

4.檢查是否創(chuàng)建成功

????$ bin/kafka-topics.sh --list --zookeeper localhost:2181

5.向kafka集群發(fā)送一些信息

? ? 啟動(dòng)producer,并發(fā)送一些信息

????$ bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test? ??

>This is a message

>This is another message

>

6.啟動(dòng)一個(gè)consumer并消費(fèi)發(fā)送的信息

? ??$ bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

This is a message

This is another message

二、啟動(dòng)多個(gè)broker詳見(jiàn):https://kafka.apache.org/quickstart#quickstart_multibroker

?1.? broker.id屬性是集群中每個(gè)節(jié)點(diǎn)的唯一標(biāo)識(shí),由于集群?jiǎn)?dòng)在單一電腦上踊餐,cp配置文件并修改

$ cp server.properties server-1.properties

$ cp config/server.properties config/server-2.properties

修改如下:

? ??config/server-1.properties:

????broker.id=1

????listeners=PLAINTEXT://:9093

????log.dirs=/tmp/kafka-logs-1

-------------------------------------------------------------


????config/server-2.properties:

????broker.id=2

????listeners=PLAINTEXT://:9094

????log.dirs=/tmp/kafka-logs-2

2.啟動(dòng)這兩個(gè)server

? ? ? ? $?bin/kafka-server-start.sh config/server-1.properties

? ? ? ? $? bin/kafka-server-start.sh config/server-2.properties

目前有三個(gè)server啟動(dòng)

3.創(chuàng)建一個(gè)新的topic(my-replicated-topic)?

三分復(fù)制,三個(gè)分區(qū)

? ?$ bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3 --partitions 3 --topic my-replicated-topic

查看現(xiàn)在有的主題:

? ? $ bin/kafka-topics.sh --list --zookeeper localhost:2181

? ??????__consumer_offsets

????????my-replicated-topic

????????test

4. 查看這個(gè)主題的描述信息:

? ? $ bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-replicated-topic

? ??????Topic:my-replicated-topic PartitionCount:3 ReplicationFactor:3 Configs:(注:總的描述诺擅,下面三行為每一個(gè)分區(qū)的信息)

????????????Topic: my-replicated-topic Partition: 0 Leader: 2 Replicas: 2,0,1 Isr: 2,0,1

????????????Topic: my-replicated-topic Partition: 1 Leader: 0 Replicas: 0,1,2 Isr: 0,1,2

????????????Topic: my-replicated-topic Partition: 2 Leader: 1 Replicas: 1,2,0 Isr: 1,2,0

? ? Leader:負(fù)責(zé)該分區(qū)的數(shù)據(jù)讀寫(xiě)

????Replicas:分區(qū)的復(fù)制所在的三個(gè)節(jié)點(diǎn)

? ? 5.向kafka集群發(fā)送一些信息

? ??????$ bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-replicated-topic

? ? ? ? ? ? >my test message 1

????????????>my test message 2

????????????>

6.消費(fèi)信息

? ??$ bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic my-replicated-topic

????my test message 2

????my test message 1

????my test message 3

7.容錯(cuò)能力測(cè)試

? ? 查看server1的進(jìn)程號(hào)市袖,并把它殺死

? ??$ ps aux | grep server-1.properties

? ??????kill -9 9485

? ? 可以看到控制臺(tái)server1被殺死

重新查看描述,發(fā)現(xiàn)server1是leader的已經(jīng)不存在:

? ?$ bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-replicated-topic

? ? ? Topic:my-replicated-topic PartitionCount:3 ReplicationFactor:3 Configs:

? ? ? Topic: my-replicated-topic Partition: 0 Leader: 2 Replicas: 2,0,1 Isr: 2,0

? ? ? Topic: my-replicated-topic Partition: 1 Leader: 0 Replicas: 0,1,2 Isr: 0,2

? ? ? Topic: my-replicated-topic Partition: 2 Leader: 2 Replicas: 1,2,0 Isr: 2,0

8.重新啟動(dòng),producer和consumer苍碟,繼續(xù)發(fā)送消息酒觅,沒(méi)有影響

三、使用kafka輸入輸出信息

1.生成一個(gè)文件

? ??$ echo -e "foo\nbar">test.txt

2.啟動(dòng)connector

$ bin/connect-standalone.sh config/connect-standalone.properties config/connect-file-source.properties config/connect-file-sink.properties

以上配置文件(詳見(jiàn)配置文件信息):默認(rèn)topic:connect-test

? ? ? ? ? ? ? ? ? ? 默認(rèn)文件:安裝目錄下:test.txt

? ? ? ? ? ? ? ? ? ? 默認(rèn)輸出:安裝目錄下:test.sink.txt

3.?$ bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic connect-test --from-beginning

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末微峰,一起剝皮案震驚了整個(gè)濱河市舷丹,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌蜓肆,老刑警劉巖颜凯,帶你破解...
    沈念sama閱讀 219,270評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異仗扬,居然都是意外死亡症概,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門(mén)早芭,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)彼城,“玉大人,你說(shuō)我怎么就攤上這事退个∧己荆” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 165,630評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵语盈,是天一觀的道長(zhǎng)舱馅。 經(jīng)常有香客問(wèn)我,道長(zhǎng)刀荒,這世上最難降的妖魔是什么代嗤? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,906評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮照棋,結(jié)果婚禮上资溃,老公的妹妹穿的比我還像新娘武翎。我一直安慰自己烈炭,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,928評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布宝恶。 她就那樣靜靜地躺著符隙,像睡著了一般。 火紅的嫁衣襯著肌膚如雪垫毙。 梳的紋絲不亂的頭發(fā)上霹疫,一...
    開(kāi)封第一講書(shū)人閱讀 51,718評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音综芥,去河邊找鬼丽蝎。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的屠阻。 我是一名探鬼主播红省,決...
    沈念sama閱讀 40,442評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼国觉!你這毒婦竟也來(lái)了吧恃?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,345評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤麻诀,失蹤者是張志新(化名)和其女友劉穎痕寓,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體蝇闭,經(jīng)...
    沈念sama閱讀 45,802評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡呻率,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,984評(píng)論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了呻引。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片筷凤。...
    茶點(diǎn)故事閱讀 40,117評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖苞七,靈堂內(nèi)的尸體忽然破棺而出藐守,到底是詐尸還是另有隱情,我是刑警寧澤蹂风,帶...
    沈念sama閱讀 35,810評(píng)論 5 346
  • 正文 年R本政府宣布卢厂,位于F島的核電站,受9級(jí)特大地震影響惠啄,放射性物質(zhì)發(fā)生泄漏慎恒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,462評(píng)論 3 331
  • 文/蒙蒙 一撵渡、第九天 我趴在偏房一處隱蔽的房頂上張望融柬。 院中可真熱鬧,春花似錦趋距、人聲如沸粒氧。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,011評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)外盯。三九已至,卻和暖如春翼雀,著一層夾襖步出監(jiān)牢的瞬間饱苟,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,139評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工狼渊, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留箱熬,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,377評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像城须,于是被迫代替她去往敵國(guó)和親护锤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,060評(píng)論 2 355