Kafka集群搭建

1抛姑、集群規(guī)劃

IP地址 系統(tǒng) 環(huán)境
192.168.150.101 CentOS7 jdk8诫睬,Zookeeper 3.4.14
192.168.150.102 CentOS7 jdk8梅猿,Zookeeper 3.4.14
192.168.150.103 CentOS7 jdk8仍稀,Zookeeper 3.4.14

2夺荒、下載安裝

2.1统诺、下載

下載地址:http://kafka.apache.org/downloads

根據(jù)自己的需求歪脏,選擇相對應的版本,我這是用的是kafka_2.11-1.1.1粮呢。

解釋:kafka_2.11-1.1.1中有兩個版本號婿失,2.11表示Scala的版本號,1.1.1表示Kafka的版本號啄寡。

2.2豪硅、安裝

將下載好的壓縮包,解壓到自己指定的路徑下挺物,例如:

tar -zxvf kafka_2.11-1.1.1.tgz -C /opt/module/

3懒浮、配置文件參數(shù)說明

進入到 config/ 目錄下,里面有一個 server.properties 文件识藤,這個就是 kafka 的配置文件砚著。這里只介紹部分參數(shù),其他參數(shù)請看 http://kafka.apache.org/documentation/#brokerconfigs

參數(shù)名 默認值 描述
broker.id -1 表示該節(jié)點在Kafka集群中broker的唯一標識痴昧。
listeners 表示broker 監(jiān)聽客戶端連接的地址列表稽穆。配置格式為:protocol://hostname:port。其中protocol 表示協(xié)議類型赶撰,hostname表示主機名舌镶,port表示端口號。
log.dirs /tmp/kafka-logs 表示用來配置Kafka日志文件存放的根目錄豪娜。并且可以配置多個根目錄(以逗號分隔)餐胀。
num.partitions 1 表示主題的分區(qū)數(shù)。
log.retention.hours 168 表示日志文件的留存時間瘤载,單位為小時否灾。
log.segment.bytes 1073741824 表示日志分段文件的最大值,超過這個值會強制創(chuàng)建一個新的日志分段惕虑。
zookeeper.connect 表示連接的Zookeeper集群地址坟冲,表示多個地址時用逗號分隔磨镶。并且可以配置chroot路徑,即指定節(jié)點為根路徑健提。例如:192.168.150.101:2181,192.168.150.102:2181, 192.168.150.103:2181/kafka
zookeeper.connection.timeout.ms 6000 表示連接 Zookeeper 集群的超時時間琳猫。
delete.topic.enable true 表示是否開啟刪除主題。

4私痹、修改配置

4.1脐嫂、修改配置文件

修改以下參數(shù):

broker.id=0
listeners=PLAINTEXT://192.168.0.10:9092
log.dirs=/data/kafka/data
zookeeper.connect=192.168.150.101:2181,192.168.150.102:2181,192.168.150.103:2181/kafka

注意:這里只進行了簡單的配置,請根據(jù)自己的業(yè)務需求進行修改紊遵。

4.2账千、創(chuàng)建數(shù)據(jù)目錄

根據(jù)配置文件中的 log.dirs 參數(shù)創(chuàng)建對應的目錄。

5暗膜、配置其他機器

根據(jù)上面的步驟在其他兩臺機器上進行配置匀奏。

注意:一定要根據(jù)不同服務器修改 broker.id 和 listeners 參數(shù)。

6学搜、啟動與關閉服務

在根目錄中有一個 /bin 文件夾娃善,Kafka中所有的腳本工具都在這個目錄下。

6.1瑞佩、啟動服務

在 kafka 根目錄下執(zhí)行如下命令:

bin/kafka-server-start.sh -daemon config/server.properties
  • -daemon: 表示指定服務后臺運行聚磺。

注意:在啟動 kafka 集群之前,要先啟動 Zookeeper 集群炬丸。

6.2瘫寝、關閉服務

在 kafka 根目錄下執(zhí)行如下命令:

bin/kafka-server-stop.sh
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市稠炬,隨后出現(xiàn)的幾起案子焕阿,更是在濱河造成了極大的恐慌,老刑警劉巖酸纲,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件捣鲸,死亡現(xiàn)場離奇詭異,居然都是意外死亡闽坡,警方通過查閱死者的電腦和手機栽惶,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來疾嗅,“玉大人外厂,你說我怎么就攤上這事〈校” “怎么了汁蝶?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我掖棉,道長墓律,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任幔亥,我火速辦了婚禮耻讽,結果婚禮上,老公的妹妹穿的比我還像新娘帕棉。我一直安慰自己针肥,他們只是感情好,可當我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布香伴。 她就那樣靜靜地躺著慰枕,像睡著了一般。 火紅的嫁衣襯著肌膚如雪即纲。 梳的紋絲不亂的頭發(fā)上具帮,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天,我揣著相機與錄音崇裁,去河邊找鬼匕坯。 笑死,一個胖子當著我的面吹牛拔稳,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播锹雏,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼巴比,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了礁遵?” 一聲冷哼從身側響起轻绞,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎佣耐,沒想到半個月后政勃,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡兼砖,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年奸远,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片讽挟。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡懒叛,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出耽梅,到底是詐尸還是另有隱情薛窥,我是刑警寧澤,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布眼姐,位于F島的核電站诅迷,受9級特大地震影響佩番,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜罢杉,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一答捕、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧屑那,春花似錦拱镐、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至蜘欲,卻和暖如春益眉,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背姥份。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工郭脂, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人澈歉。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓展鸡,卻偏偏與公主長得像,于是被迫代替她去往敵國和親埃难。 傳聞我的和親對象是個殘疾皇子莹弊,可洞房花燭夜當晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容