Kafka設(shè)計(jì)解析(五)- Kafka性能測(cè)試方法及Benchmark報(bào)告
原創(chuàng)文章孤页,轉(zhuǎn)載請(qǐng)務(wù)必將下面這段話置于文章開頭處望薄。(已授權(quán)InfoQ中文站發(fā)布)
本文轉(zhuǎn)發(fā)自技術(shù)世界图筹,原文鏈接 http://www.jasongj.com/2015/12/31/KafkaColumn5_kafka_benchmark
簡(jiǎn)述
本文主要介紹了如何利用Kafka自帶的性能測(cè)試腳本及Kafka Manager測(cè)試Kafka的性能瓣戚,以及如何使用Kafka Manager監(jiān)控Kafka的工作狀態(tài)球碉,最后給出了Kafka的性能測(cè)試報(bào)告撞蜂。
性能測(cè)試及集群監(jiān)控工具
Kafka性能測(cè)試腳本
-
$KAFKA_HOME/bin/kafka-producer-perf-test.sh
該腳本被設(shè)計(jì)用于測(cè)試Kafka Producer的性能盲镶,主要輸出4項(xiàng)指標(biāo),總共發(fā)送消息量(以MB為單位)蝌诡,每秒發(fā)送消息量(MB/second)溉贿,發(fā)送消息總數(shù),每秒發(fā)送消息數(shù)(records/second)送漠。除了將測(cè)試結(jié)果輸出到標(biāo)準(zhǔn)輸出外顽照,該腳本還提供CSV Reporter,即將結(jié)果以CSV文件的形式存儲(chǔ)闽寡,便于在其它分析工具中使用該測(cè)試結(jié)果 -
$KAFKA_HOME/bin/kafka-consumer-perf-test.sh
該腳本用于測(cè)試Kafka Consumer的性能代兵,測(cè)試指標(biāo)與Producer性能測(cè)試腳本一樣
kafka-producer-perf-test.sh:測(cè)試Kafka Producer的性能
kafka-consumer-perf-test.sh:測(cè)試Kafka Consumer的性能
Kafka Metrics
Kafka使用Yammer Metrics來報(bào)告服務(wù)端和客戶端的Metric信息。Yammer Metrics 3.1.0提供6種形式的Metrics收集——Meters爷狈,Gauges植影,Counters,Histograms涎永,Timers思币,Health Checks鹿响。與此同時(shí),Yammer Metrics將Metric的收集與報(bào)告(或者說發(fā)布)分離谷饿,可以根據(jù)需要自由組合惶我。目前它支持的Reporter有Console Reporter,JMX Reporter博投,HTTP Reporter绸贡,CSV Reporter,SLF4J Reporter毅哗,Ganglia Reporter听怕,Graphite Reporter。因此虑绵,Kafka也支持通過以上幾種Reporter輸出其Metrics信息尿瞭。
使用JConsole查看單服務(wù)器Metrics
? 使用JConsole通過JMX,是在不安裝其它工具(既然已經(jīng)安裝了Kafka翅睛,就肯定安裝了Java声搁,而JConsole是Java自帶的工具)的情況下查看Kafka服務(wù)器Metrics的最簡(jiǎn)單最方便的方法之一。
通過Kafka Manager查看整個(gè)集群的Metrics
? Kafka Manager是Yahoo開源的Kafka管理工具捕发。
Kafka Benchmark
Producer Only
Producer Number VS. Throughput
Message Size VS. Throughput
Partition Number VS. Throughput
Replica Number VS. Throughput
Consumer Only
Producer Consumer pair
Kafka系列文章
Kafka設(shè)計(jì)解析(一)- Kafka簡(jiǎn)介及架構(gòu)介紹
Kafka設(shè)計(jì)解析(二)- Kafka High Availability (上)
Kafka設(shè)計(jì)解析(三)- Kafka High Availability (下)
Kafka設(shè)計(jì)解析(四)- Kafka Consumer設(shè)計(jì)解析
Kafka設(shè)計(jì)解析(五)- Kafka性能測(cè)試方法及Benchmark報(bào)告
Kafka設(shè)計(jì)解析(六)- Kafka高性能架構(gòu)之道
Kafka設(shè)計(jì)解析(七)- Kafka Stream