Kafka設(shè)計(jì)解析(五)- Kafka性能測(cè)試方法及Benchmark報(bào)告

Kafka設(shè)計(jì)解析(五)- Kafka性能測(cè)試方法及Benchmark報(bào)告

原創(chuàng)文章孤页,轉(zhuǎn)載請(qǐng)務(wù)必將下面這段話置于文章開頭處望薄。(已授權(quán)InfoQ中文站發(fā)布
本文轉(zhuǎn)發(fā)自技術(shù)世界图筹,原文鏈接 http://www.jasongj.com/2015/12/31/KafkaColumn5_kafka_benchmark

簡(jiǎn)述

本文主要介紹了如何利用Kafka自帶的性能測(cè)試腳本及Kafka Manager測(cè)試Kafka的性能瓣戚,以及如何使用Kafka Manager監(jiān)控Kafka的工作狀態(tài)球碉,最后給出了Kafka的性能測(cè)試報(bào)告撞蜂。

性能測(cè)試及集群監(jiān)控工具

Kafka性能測(cè)試腳本

  • $KAFKA_HOME/bin/kafka-producer-perf-test.sh 該腳本被設(shè)計(jì)用于測(cè)試Kafka Producer的性能盲镶,主要輸出4項(xiàng)指標(biāo),總共發(fā)送消息量(以MB為單位)蝌诡,每秒發(fā)送消息量(MB/second)溉贿,發(fā)送消息總數(shù),每秒發(fā)送消息數(shù)(records/second)送漠。除了將測(cè)試結(jié)果輸出到標(biāo)準(zhǔn)輸出外顽照,該腳本還提供CSV Reporter,即將結(jié)果以CSV文件的形式存儲(chǔ)闽寡,便于在其它分析工具中使用該測(cè)試結(jié)果
  • $KAFKA_HOME/bin/kafka-consumer-perf-test.sh 該腳本用于測(cè)試Kafka Consumer的性能代兵,測(cè)試指標(biāo)與Producer性能測(cè)試腳本一樣
kafka-producer-perf-test.sh:測(cè)試Kafka Producer的性能
kafka-consumer-perf-test.sh:測(cè)試Kafka Consumer的性能

Kafka Metrics

Kafka使用Yammer Metrics來報(bào)告服務(wù)端和客戶端的Metric信息。Yammer Metrics 3.1.0提供6種形式的Metrics收集——Meters爷狈,Gauges植影,Counters,Histograms涎永,Timers思币,Health Checks鹿响。與此同時(shí),Yammer Metrics將Metric的收集與報(bào)告(或者說發(fā)布)分離谷饿,可以根據(jù)需要自由組合惶我。目前它支持的Reporter有Console Reporter,JMX Reporter博投,HTTP Reporter绸贡,CSV Reporter,SLF4J Reporter毅哗,Ganglia Reporter听怕,Graphite Reporter。因此虑绵,Kafka也支持通過以上幾種Reporter輸出其Metrics信息尿瞭。

使用JConsole查看單服務(wù)器Metrics

? 使用JConsole通過JMX,是在不安裝其它工具(既然已經(jīng)安裝了Kafka翅睛,就肯定安裝了Java声搁,而JConsole是Java自帶的工具)的情況下查看Kafka服務(wù)器Metrics的最簡(jiǎn)單最方便的方法之一。

通過Kafka Manager查看整個(gè)集群的Metrics

? Kafka Manager是Yahoo開源的Kafka管理工具捕发。

Kafka Benchmark

Producer Only

Producer Number VS. Throughput

Message Size VS. Throughput

Partition Number VS. Throughput

Replica Number VS. Throughput

Consumer Only

Producer Consumer pair

Kafka系列文章

Kafka設(shè)計(jì)解析(一)- Kafka簡(jiǎn)介及架構(gòu)介紹
Kafka設(shè)計(jì)解析(二)- Kafka High Availability (上)
Kafka設(shè)計(jì)解析(三)- Kafka High Availability (下)
Kafka設(shè)計(jì)解析(四)- Kafka Consumer設(shè)計(jì)解析
Kafka設(shè)計(jì)解析(五)- Kafka性能測(cè)試方法及Benchmark報(bào)告
Kafka設(shè)計(jì)解析(六)- Kafka高性能架構(gòu)之道
Kafka設(shè)計(jì)解析(七)- Kafka Stream

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末酥艳,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子爬骤,更是在濱河造成了極大的恐慌充石,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,482評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件霞玄,死亡現(xiàn)場(chǎng)離奇詭異骤铃,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)坷剧,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門惰爬,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人惫企,你說我怎么就攤上這事撕瞧。” “怎么了狞尔?”我有些...
    開封第一講書人閱讀 152,762評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵丛版,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我偏序,道長(zhǎng)页畦,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,273評(píng)論 1 279
  • 正文 為了忘掉前任研儒,我火速辦了婚禮豫缨,結(jié)果婚禮上独令,老公的妹妹穿的比我還像新娘。我一直安慰自己好芭,他們只是感情好燃箭,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,289評(píng)論 5 373
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著舍败,像睡著了一般遍膜。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上瓤湘,一...
    開封第一講書人閱讀 49,046評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音恩尾,去河邊找鬼弛说。 笑死,一個(gè)胖子當(dāng)著我的面吹牛翰意,可吹牛的內(nèi)容都是我干的木人。 我是一名探鬼主播,決...
    沈念sama閱讀 38,351評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼冀偶,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼醒第!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起进鸠,我...
    開封第一講書人閱讀 36,988評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤稠曼,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后客年,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體霞幅,經(jīng)...
    沈念sama閱讀 43,476評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,948評(píng)論 2 324
  • 正文 我和宋清朗相戀三年量瓜,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了司恳。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,064評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡绍傲,死狀恐怖扔傅,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情烫饼,我是刑警寧澤猎塞,帶...
    沈念sama閱讀 33,712評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站杠纵,受9級(jí)特大地震影響邢享,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜淡诗,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,261評(píng)論 3 307
  • 文/蒙蒙 一骇塘、第九天 我趴在偏房一處隱蔽的房頂上張望伊履。 院中可真熱鬧,春花似錦款违、人聲如沸唐瀑。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,264評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)哄辣。三九已至,卻和暖如春赠尾,著一層夾襖步出監(jiān)牢的瞬間力穗,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,486評(píng)論 1 262
  • 我被黑心中介騙來泰國(guó)打工气嫁, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留当窗,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,511評(píng)論 2 354
  • 正文 我出身青樓寸宵,卻偏偏與公主長(zhǎng)得像崖面,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子梯影,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,802評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容