ubuntu 14.04 安裝kafka

kafka.png

Apache Kafka是一種流行的分布式消息代理得湘,設(shè)計(jì)用于高效處理大量實(shí)時(shí)數(shù)據(jù)。 Kafka集群不僅具有高度可擴(kuò)展性和容錯(cuò)性领追,而且與其他消息代理(例如ActiveMQ和RabbitMQ)相比慌随,還具有高得多的吞吐量真朗。 雖然它通常用作pub / sub消息傳遞系統(tǒng),但是很多組織也將其用于日志聚合燃领,因?yàn)樗鼮橐寻l(fā)布的消息提供持久存儲(chǔ)士聪。

1.安裝zookeeper

Apache ZooKeeper是一種開源服務(wù),用于協(xié)調(diào)和同步屬于分布式系統(tǒng)的節(jié)點(diǎn)的配置信息猛蔽。 Kafka集群依賴于ZooKeeper來執(zhí)行操作剥悟,例如檢測(cè)失敗的節(jié)點(diǎn)和選擇領(lǐng)導(dǎo)者。

由于ZooKeeper的包是在Ubuntu的默認(rèn)軟件倉(cāng)庫(kù)曼库,使用安裝它apt-get 区岗。

sudo apt-get install zookeeperd

安裝完成后,ZooKeeper將作為后臺(tái)程序自動(dòng)啟動(dòng)凉泄。 默認(rèn)情況下躏尉,它會(huì)偵聽端口2181。

為了確保它是工作后众,通過Telnet連接到它:

telnet localhost 2181

在Telnet提示符處胀糜,鍵入ruok ,然后按ENTER 蒂誉。

如果一切正常教藻,動(dòng)物園管理員會(huì)說imok并結(jié)束Telnet會(huì)話。

2.安裝kafka

這里是下載并解壓縮Kafka二進(jìn)制文件右锨,首先括堤,創(chuàng)建一個(gè)叫做Downloads來存儲(chǔ)所有您的下載。

mkdir -p ~/Downloads

使用wget下載Kafka二進(jìn)制文件。

wget "http://mirror.cc.columbia.edu/pub/software/apache/kafka/0.8.2.1/kafka_2.11-0.8.2.1.tgz" -O ~/Downloads/kafka.tgz

創(chuàng)建一個(gè)目錄叫kafka 悄窃,并切換到該目錄讥电。 這將是Kafka安裝的基本目錄。

mkdir -p ~/kafka && cd ~/kafka

解壓縮您下載使用存檔tar命令轧抗。

tar -xvzf ~/Downloads/kafka.tgz --strip 1

3.配置Kafka Server

下一步是配置Kakfa服務(wù)器恩敌。

打開server.properties使用vim :

vim ~/kafka/config/server.properties

默認(rèn)情況下,Kafka不允許您刪除主題横媚。 要能夠刪除主題纠炮,請(qǐng)?jiān)谖募┪蔡砑右韵滦校?/p>

delete.topic.enable = true

保存文件,并退出vim

4.啟動(dòng)Kafka服務(wù)器

運(yùn)行kafka-server-start.sh使用腳本nohup啟動(dòng)Kafka服務(wù)器(也稱為Kafka經(jīng)紀(jì)人)作為后臺(tái)進(jìn)程是獨(dú)立的shell會(huì)話灯蝴。

nohup ~/kafka/bin/kafka-server-start.sh ~/kafka/config/server.properties > ~/kafka/kafka.log 2>&1 &

等待幾秒鐘恢口,它開始。 你可以肯定穷躁,當(dāng)你看到下面的消息服務(wù)器已成功啟動(dòng)~/kafka/kafka.log :

摘錄自?/ kafka / kafka.log

...

[2017-03-29 06:02:41,736] INFO New leader is 0 (kafka.server.ZookeeperLeaderElector$LeaderChangeListener)
[2017-03-29 06:02:41,776] INFO [Kafka Server 0], started (kafka.server.KafkaServer)

你現(xiàn)在有它在端口9092監(jiān)聽Kafka服務(wù)器耕肩。

5.測(cè)試安裝:

現(xiàn)在讓我們發(fā)布和使用一個(gè)“Hello World”的消息,以確保Kafka服務(wù)器正常運(yùn)作折砸。

要發(fā)布消息看疗,您應(yīng)該創(chuàng)建一個(gè)Kafka生產(chǎn)者。 您可以輕松地創(chuàng)建一個(gè)使用該命令行kafka-console-producer.sh腳本睦授。 它期望Kafka服務(wù)器的主機(jī)名和端口两芳,以及主題名稱作為其參數(shù)。

在下面的輸入發(fā)布字符串“你好去枷,世界”到一個(gè)叫做TutorialTopic話題:

echo "Hello, World" | ~/kafka/bin/kafka-console-producer.sh --broker-list localhost:9092 --topic TutorialTopic > /dev/null

由于主題不存在怖辆,Kafka將自動(dòng)創(chuàng)建。

使用消息删顶,您可以創(chuàng)建使用Kafka消費(fèi)者kafka-console-consumer.sh腳本竖螃。 它期望ZooKeeper服務(wù)器的主機(jī)名和端口,以及主題名稱作為其參數(shù)逗余。

以下命令使用我們發(fā)布到的主題的消息特咆。 注意使用的--from-beginning的標(biāo)志,因?yàn)槲覀円南M(fèi)者開始之前公布的消息录粱,其存在腻格。

~/kafka/bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic TutorialTopic --from-beginning

如果沒有配置問題,你應(yīng)該看到Hello, World現(xiàn)在在輸出中,如下:

vagrant@vagrant-ubuntu-trusty-64:~/kafka$ ~/kafka/bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic TutorialTopic --from-beginning
Hello, World

腳本將繼續(xù)運(yùn)行啥繁,等待更多消息發(fā)布到主題菜职。 隨意打開一個(gè)新的終端,并開始一個(gè)制作人發(fā)布更多的消息旗闽。 你應(yīng)該能夠立即在消費(fèi)者的輸出中看到它們酬核。

完成測(cè)試后蜜另,請(qǐng)按CTRL + C停止使用者腳本。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末嫡意,一起剝皮案震驚了整個(gè)濱河市举瑰,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌蔬螟,老刑警劉巖嘶居,帶你破解...
    沈念sama閱讀 211,042評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異促煮,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)整袁,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門菠齿,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人坐昙,你說我怎么就攤上這事绳匀。” “怎么了炸客?”我有些...
    開封第一講書人閱讀 156,674評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵疾棵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我痹仙,道長(zhǎng)是尔,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,340評(píng)論 1 283
  • 正文 為了忘掉前任开仰,我火速辦了婚禮拟枚,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘众弓。我一直安慰自己恩溅,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評(píng)論 5 384
  • 文/花漫 我一把揭開白布谓娃。 她就那樣靜靜地躺著脚乡,像睡著了一般。 火紅的嫁衣襯著肌膚如雪滨达。 梳的紋絲不亂的頭發(fā)上奶稠,一...
    開封第一講書人閱讀 49,749評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音弦悉,去河邊找鬼窒典。 笑死,一個(gè)胖子當(dāng)著我的面吹牛稽莉,可吹牛的內(nèi)容都是我干的瀑志。 我是一名探鬼主播,決...
    沈念sama閱讀 38,902評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼劈猪!你這毒婦竟也來了昧甘?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,662評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤战得,失蹤者是張志新(化名)和其女友劉穎充边,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體常侦,經(jīng)...
    沈念sama閱讀 44,110評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡浇冰,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了聋亡。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片肘习。...
    茶點(diǎn)故事閱讀 38,577評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖坡倔,靈堂內(nèi)的尸體忽然破棺而出漂佩,到底是詐尸還是另有隱情,我是刑警寧澤罪塔,帶...
    沈念sama閱讀 34,258評(píng)論 4 328
  • 正文 年R本政府宣布投蝉,位于F島的核電站,受9級(jí)特大地震影響征堪,放射性物質(zhì)發(fā)生泄漏瘩缆。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評(píng)論 3 312
  • 文/蒙蒙 一佃蚜、第九天 我趴在偏房一處隱蔽的房頂上張望咳榜。 院中可真熱鬧,春花似錦爽锥、人聲如沸涌韩。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽臣樱。三九已至,卻和暖如春腮考,著一層夾襖步出監(jiān)牢的瞬間雇毫,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評(píng)論 1 264
  • 我被黑心中介騙來泰國(guó)打工踩蔚, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留棚放,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,271評(píng)論 2 360
  • 正文 我出身青樓馅闽,卻偏偏與公主長(zhǎng)得像飘蚯,于是被迫代替她去往敵國(guó)和親馍迄。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理局骤,服務(wù)發(fā)現(xiàn)攀圈,斷路器,智...
    卡卡羅2017閱讀 134,628評(píng)論 18 139
  • Kafka官網(wǎng):http://kafka.apache.org/入門1.1 介紹Kafka? 是一個(gè)分布式流處理系...
    it_zzy閱讀 3,885評(píng)論 3 53
  • ** 今天看了一下kafka官網(wǎng)峦甩,嘗試著在自己電腦上安裝和配置赘来,然后學(xué)一下官方document。** Introd...
    RainChang閱讀 4,993評(píng)論 1 30
  • kafka的定義:是一個(gè)分布式消息系統(tǒng)凯傲,由LinkedIn使用Scala編寫员凝,用作LinkedIn的活動(dòng)流(Act...
    時(shí)待吾閱讀 5,309評(píng)論 1 15
  • 本文轉(zhuǎn)載自http://dataunion.org/?p=9307 背景介紹Kafka簡(jiǎn)介Kafka是一種分布式的...
    Bottle丶Fish閱讀 5,461評(píng)論 0 34