十一惹骂、Linux(CentOS7) 搭建Kafka集群

一苏携、環(huán)境準(zhǔn)備:

??首先準(zhǔn)備好三臺CentOS系統(tǒng)的主機做瞪,設(shè)置ip為:172.16.20.220对粪、172.16.20.221、172.16.20.222装蓬。
??Kafka會使用大量文件和網(wǎng)絡(luò)socket著拭,Linux默認(rèn)配置的File descriptors(文件描述符)不能夠滿足Kafka高吞吐量的要求,所以這里需要調(diào)整(更多性能優(yōu)化牍帚,請查看Kafka官方文檔):

vi /etc/security/limits.conf 
# 在最后加入儡遮,修改完成后,重啟系統(tǒng)生效暗赶。
*                soft    nofile          131072
*                hard   nofile          131072

??新建kafka的日志目錄和zookeeper數(shù)據(jù)目錄鄙币,因為這兩項默認(rèn)放在tmp目錄肃叶,而tmp目錄中內(nèi)容會隨重啟而丟失,所以我們自定義以下目錄:

 mkdir /data/zookeeper
 mkdir /data/zookeeper/data
 mkdir /data/zookeeper/logs

 mkdir /data/kafka
 mkdir /data/kafka/data
 mkdir /data/kafka/logs

二、zookeeper.properties配置

vi /usr/local/kafka/config/zookeeper.properties

修改如下:

# 修改為自定義的zookeeper數(shù)據(jù)目錄
dataDir=/data/zookeeper/data

# 修改為自定義的zookeeper日志目錄
dataLogDir=/data/zookeeper/logs

# 端口
clientPort=2181

# 注釋掉
#maxClientCnxns=0

# 設(shè)置連接參數(shù)十嘿,添加如下配置
# 為zk的基本時間單元因惭,毫秒
tickTime=2000
# Leader-Follower初始通信時限 tickTime*10
initLimit=10
# Leader-Follower同步通信時限 tickTime*5
syncLimit=5

# 設(shè)置broker Id的服務(wù)地址,本機ip一定要用0.0.0.0代替
server.1=0.0.0.0:2888:3888
server.2=172.16.20.221:2888:3888
server.3=172.16.20.222:2888:3888

三绩衷、在各臺服務(wù)器的zookeeper數(shù)據(jù)目錄/data/zookeeper/data添加myid文件蹦魔,寫入服務(wù)broker.id屬性值

在data文件夾中新建myid文件,myid文件的內(nèi)容為1(一句話創(chuàng)建:echo 1 > myid)

cd /data/zookeeper/data

vi myid

#添加內(nèi)容:1 其他兩臺主機分別配置 2和3
1

四咳燕、kafka配置勿决,進(jìn)入config目錄下,修改server.properties文件

vi /usr/local/kafka/config/server.properties
# 每臺服務(wù)器的broker.id都不能相同
broker.id=1
# 是否可以刪除topic
delete.topic.enable=true
# topic 在當(dāng)前broker上的分片個數(shù)招盲,與broker保持一致
num.partitions=3
# 每個主機地址不一樣:
listeners=PLAINTEXT://172.16.20.220:9092
advertised.listeners=PLAINTEXT://172.16.20.220:9092
# 具體一些參數(shù)
log.dirs=/data/kafka/kafka-logs
# 設(shè)置zookeeper集群地址與端口如下:
zookeeper.connect=172.16.20.220:2181,172.16.20.221:2181,172.16.20.222:2181

五低缩、Kafka啟動

kafka啟動時先啟動zookeeper,再啟動kafka宪肖;關(guān)閉時相反表制,先關(guān)閉kafka,再關(guān)閉zookeeper控乾。
1么介、zookeeper啟動命令

./zookeeper-server-start.sh ../config/zookeeper.properties &

后臺運行啟動命令:

nohup ./zookeeper-server-start.sh ../config/zookeeper.properties >/data/zookeeper/logs/zookeeper.log 2>1 &

或者

./zookeeper-server-start.sh -daemon ../config/zookeeper.properties &

查看集群狀態(tài):

./zookeeper-server-start.sh status ../config/zookeeper.properties

2、kafka啟動命令

./kafka-server-start.sh ../config/server.properties &

后臺運行啟動命令:

nohup bin/kafka-server-start.sh ../config/server.properties >/data/kafka/logs/kafka.log 2>1 &

或者

 ./kafka-server-start.sh -daemon ../config/server.properties &

3蜕衡、創(chuàng)建topic壤短,最新版本已經(jīng)不需要使用zookeeper參數(shù)創(chuàng)建。

./kafka-topics.sh --create --replication-factor 2 --partitions 1 --topic test --bootstrap-server 172.16.20.220:9092

參數(shù)解釋:
復(fù)制兩份
  --replication-factor 2
創(chuàng)建1個分區(qū)
  --partitions 1
topic 名稱
  --topic test

4慨仿、查看已經(jīng)存在的topic(三臺設(shè)備都執(zhí)行時可以看到)

./kafka-topics.sh --list --bootstrap-server 172.16.20.220:9092

5久脯、啟動生產(chǎn)者:

./kafka-console-producer.sh --broker-list 172.16.20.220:9092 --topic test

6、啟動消費者:

./kafka-console-consumer.sh --bootstrap-server 172.16.20.221:9092 --topic test
./kafka-console-consumer.sh --bootstrap-server 172.16.20.222:9092 --topic test

添加參數(shù) --from-beginning 從開始位置消費镰吆,不是從最新消息

./kafka-console-consumer.sh --bootstrap-server 172.16.20.221 --topic test --from-beginning

7帘撰、測試:在生產(chǎn)者輸入test,可以在消費者的兩臺服務(wù)器上看到同樣的字符test万皿,說明Kafka服務(wù)器集群已搭建成功摧找。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市牢硅,隨后出現(xiàn)的幾起案子蹬耘,更是在濱河造成了極大的恐慌,老刑警劉巖减余,帶你破解...
    沈念sama閱讀 212,454評論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件综苔,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機如筛,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,553評論 3 385
  • 文/潘曉璐 我一進(jìn)店門堡牡,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事∥鱿裕” “怎么了因俐?”我有些...
    開封第一講書人閱讀 157,921評論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么浇借? 我笑而不...
    開封第一講書人閱讀 56,648評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮怕品,結(jié)果婚禮上妇垢,老公的妹妹穿的比我還像新娘。我一直安慰自己肉康,他們只是感情好闯估,可當(dāng)我...
    茶點故事閱讀 65,770評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著吼和,像睡著了一般涨薪。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上炫乓,一...
    開封第一講書人閱讀 49,950評論 1 291
  • 那天刚夺,我揣著相機與錄音,去河邊找鬼末捣。 笑死侠姑,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的箩做。 我是一名探鬼主播莽红,決...
    沈念sama閱讀 39,090評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼邦邦!你這毒婦竟也來了安吁?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,817評論 0 268
  • 序言:老撾萬榮一對情侶失蹤圃酵,失蹤者是張志新(化名)和其女友劉穎柳畔,沒想到半個月后馍管,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體郭赐,經(jīng)...
    沈念sama閱讀 44,275評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,592評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了捌锭。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片俘陷。...
    茶點故事閱讀 38,724評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖观谦,靈堂內(nèi)的尸體忽然破棺而出拉盾,到底是詐尸還是另有隱情,我是刑警寧澤豁状,帶...
    沈念sama閱讀 34,409評論 4 333
  • 正文 年R本政府宣布捉偏,位于F島的核電站,受9級特大地震影響泻红,放射性物質(zhì)發(fā)生泄漏夭禽。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 40,052評論 3 316
  • 文/蒙蒙 一谊路、第九天 我趴在偏房一處隱蔽的房頂上張望讹躯。 院中可真熱鬧,春花似錦缠劝、人聲如沸潮梯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,815評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽秉馏。三九已至,卻和暖如春脱羡,著一層夾襖步出監(jiān)牢的瞬間沃饶,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,043評論 1 266
  • 我被黑心中介騙來泰國打工轻黑, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留糊肤,地道東北人。 一個月前我還...
    沈念sama閱讀 46,503評論 2 361
  • 正文 我出身青樓氓鄙,卻偏偏與公主長得像馆揉,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子抖拦,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,627評論 2 350

推薦閱讀更多精彩內(nèi)容