kafka安裝

hosts sy1,sy2,sy3

broker.id 0,1,2


1.安裝好jdk

2.安裝好zookeeper

3.下載安裝kafka

apache官網(wǎng)推薦鏡像下載kafka霹俺,我這邊選擇了2.11版本

wget http://apache.opencas.org/kafka/0.9.0.1/kafka_2.11-0.9.0.1.tgz

tar -zxvf

kafka_2.11-0.9.0.1.tgz

解壓到對應(yīng)文件夾下

4.修改配置文件

修改kafka_2.12-2.1.1/config下的server.properties

broker.id=0? #當(dāng)前機(jī)器在集群中的唯一標(biāo)識,和zookeeper的myid性質(zhì)一樣

port=9092 #當(dāng)前kafka對外提供服務(wù)的端口默認(rèn)是9092

host.name=sy1 #這個參數(shù)默認(rèn)是關(guān)閉的,在0.8.1有個bug,DNS解析問題,失敗率的問題洋魂。

num.network.threads=3 #這個是borker進(jìn)行網(wǎng)絡(luò)處理的線程數(shù)

num.io.threads=8 #這個是borker進(jìn)行I/O處理的線程數(shù)

log.dirs=/opt/kafka/kafkalogs/ #消息存放的目錄,這個目錄可以配置為“,”逗號分割的表達(dá)式珊佣,上面的num.io.threads要大于這個目錄的個數(shù)這個目錄,如果配置多個目錄披粟,新創(chuàng)建的topic他把消息持久化的地方是咒锻,當(dāng)前以逗號分割的目錄中,那個分區(qū)數(shù)最少就放那一個

socket.send.buffer.bytes=102400 #發(fā)送緩沖區(qū)buffer大小守屉,數(shù)據(jù)不是一下子就發(fā)送的惑艇,先回存儲到緩沖區(qū)了到達(dá)一定的大小后在發(fā)送,能提高性能

socket.receive.buffer.bytes=102400

#kafka接收緩沖區(qū)大小拇泛,當(dāng)數(shù)據(jù)到達(dá)一定大小后在序列化到磁盤

socket.request.max.bytes=104857600 #這個參數(shù)是向kafka請求消息或者向kafka發(fā)送消息的請請求的最大數(shù)滨巴,這個值不能超過java的堆棧大小

num.partitions=1 #默認(rèn)的分區(qū)數(shù),一個topic默認(rèn)1個分區(qū)數(shù)

log.retention.hours=168 #默認(rèn)消息的最大持久化時間碰镜,168小時兢卵,7天

message.max.byte=5242880? #消息保存的最大值5M

default.replication.factor=2? #kafka保存消息的副本數(shù),如果一個副本失效了绪颖,另一個還可以繼續(xù)提供服務(wù)

replica.fetch.max.bytes=5242880? #取消息的最大直接數(shù)

log.segment.bytes=1073741824 #這個參數(shù)是:因?yàn)閗afka的消息是以追加的形式落地到文件秽荤,當(dāng)超過這個值的時候,kafka會新起一個文件

log.retention.check.interval.ms=300000

#每隔300000毫秒去檢查上面配置的log失效時間(log.retention.hours=168)柠横,到目錄查看是否有過期的消息如果有窃款,刪除

log.cleaner.enable=false #是否啟用log壓縮,一般不用啟用牍氛,啟用的話可以提高性能

zookeeper.connect=sy1:2181,sy2:2181,sy3:2181

#設(shè)置zookeeper的連接端口

三臺節(jié)點(diǎn)上都對應(yīng)修改晨继,注意broker.id不能相同

5.啟動kafka

kafka_2.12-2.1.1/bin/kafka-server-start.sh

-daemon kafka_2.12-2.1.1/config/server.properties

檢查服務(wù)是否啟動

jps

25301 Jps

23800 Kafka

21257 QuorumPeerMain

到此kafka安裝成功

6.配置環(huán)境變量

我這邊將zk和kafka的命令加入環(huán)境變量

寫入文件/etc/bashrc中

echo "export

KAFKA_HOME=/opt/kafka/kafka_2.12-2.1.1" >> /etc/bashrc

echo "export ZK_HOME=/opt/zookeeper/zookeeper-3.4.14"

>> /etc/bashrc

echo "export

PATH=$PATH:$KAFKA_HOME/bin:$ZK_HOME/bin" >>

/etc/bashrc

生效環(huán)境變量

source /etc/bashrc

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市搬俊,隨后出現(xiàn)的幾起案子紊扬,更是在濱河造成了極大的恐慌,老刑警劉巖唉擂,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件餐屎,死亡現(xiàn)場離奇詭異,居然都是意外死亡玩祟,警方通過查閱死者的電腦和手機(jī)腹缩,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人藏鹊,你說我怎么就攤上這事润讥。” “怎么了盘寡?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵楚殿,是天一觀的道長。 經(jīng)常有香客問我宴抚,道長勒魔,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任菇曲,我火速辦了婚禮冠绢,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘常潮。我一直安慰自己弟胀,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布喊式。 她就那樣靜靜地躺著孵户,像睡著了一般。 火紅的嫁衣襯著肌膚如雪岔留。 梳的紋絲不亂的頭發(fā)上夏哭,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天,我揣著相機(jī)與錄音献联,去河邊找鬼竖配。 笑死,一個胖子當(dāng)著我的面吹牛里逆,可吹牛的內(nèi)容都是我干的进胯。 我是一名探鬼主播,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼原押,長吁一口氣:“原來是場噩夢啊……” “哼胁镐!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起诸衔,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤盯漂,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后笨农,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體就缆,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年磁餐,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡诊霹,死狀恐怖羞延,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情脾还,我是刑警寧澤伴箩,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站鄙漏,受9級特大地震影響嗤谚,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜怔蚌,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一巩步、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧桦踊,春花似錦椅野、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至杖狼,卻和暖如春炼蛤,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蝶涩。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工理朋, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人子寓。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓暗挑,卻偏偏與公主長得像,于是被迫代替她去往敵國和親斜友。 傳聞我的和親對象是個殘疾皇子炸裆,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,901評論 2 355