環(huán)境準(zhǔn)備
Centos7.0
kafka_2.11-1.0.0
JDK1.8
一、簡(jiǎn)介
Kafka是由Apache軟件基金會(huì)開發(fā)的一個(gè)開源流處理平臺(tái)吵瞻,由Scala和Java編寫。Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng)甘磨,它可以處理消費(fèi)者在網(wǎng)站中的所有動(dòng)作流數(shù)據(jù)。 這種動(dòng)作(網(wǎng)頁(yè)瀏覽眯停,搜索和其他用戶的行動(dòng))是在現(xiàn)代網(wǎng)絡(luò)上的許多社會(huì)功能的一個(gè)關(guān)鍵因素济舆。 這些數(shù)據(jù)通常是由于吞吐量的要求而通過處理日志和日志聚合來(lái)解決。 對(duì)于像Hadoop一樣的日志數(shù)據(jù)和離線分析系統(tǒng)莺债,但又要求實(shí)時(shí)處理的限制滋觉,這是一個(gè)可行的解決方案。Kafka的目的是通過Hadoop的并行加載機(jī)制來(lái)統(tǒng)一線上和離線的消息處理齐邦,也是為了通過集群來(lái)提供實(shí)時(shí)的消息椎侠。
官網(wǎng)說的好處,咱就不一一列舉了措拇,想了解更多的我纪,直接看官網(wǎng)
二、安裝kafka
2.1丐吓、命令下載
wget http://mirrors.shuosc.org/apache/kafka/1.0.0/kafka_2.11-1.0.0.tgz
2.2浅悉、官網(wǎng)直接下載,然后上傳到Linux環(huán)境上
https://kafka.apache.org/downloads
因本人網(wǎng)絡(luò)問題券犁,我直接選擇的是第二種方法术健,QAQ
2.3、解壓安裝包
tar -zxvf kafka_2.11-1.0.0.tgz
2.4粘衬、修改配置文件
cd kafka_2.11-1.0.0/config
vi server.properties
修改如下內(nèi)容
broker.id=1
log.dir=/root/data/kafka/logs
三荞估、服務(wù)啟動(dòng)
3.1、啟動(dòng)zookeeper
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties
3.2稚新、啟動(dòng)kafka服務(wù)
bin/kafka-server-start.sh config/server.properties
四勘伺、功能測(cè)試
4.1、創(chuàng)建topic
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic xiby_demo
4.2枷莉、查看topic列表
bin/kafka-topics.sh --list --zookeeper localhost:2181
4.3娇昙、在生產(chǎn)者中產(chǎn)生消息
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic xiby_demo
4.4、在消費(fèi)者中查看信息
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic xiby_demo --from-beginning
今天就介紹到這里了笤妙,kafka集群模式有時(shí)間再進(jìn)行詳細(xì)的介紹
參考文獻(xiàn):http://kafka.apache.org/quickstart