用Kafka自帶腳本實現(xiàn)Kafka消費情況實時監(jiān)控

查看consumer組內(nèi)消費的offset

在${KAFKA_HOME}/bin下
./kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper host:2181 --group [消費者組名] --topic [topic名]

其中的group可去zookeeper中查看:
[hadoop@h71 zookeeper-3.4.5-cdh5.5.2]$ bin/zkCli.sh
[zk: localhost:2181(CONNECTED) 2] ls /consumers
[console-consumer-74653, WordcountConsumerGroup]

注:(console-consumer-74653這個組當我在另一個窗口啟動消費者[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-console-consumer.sh --zookeeper h71:2181,h72:2181,h73:2181 --topic test --from-beginning時才會有沦童,關(guān)閉消費者進程該組會自動消失)

我們在使用kafka消費信息的過程中泉粉,不同group的consumer是可以消費相同的信息的胆数,group是在創(chuàng)建consumer時指定的冷尉,如果group不存在倒源,會自動創(chuàng)建评也。其實簡單點說就是每個group都會在zk中注冊遵湖,區(qū)別就是注冊過還是沒注冊過塑娇。每個group內(nèi)的consumer只能消費在group注冊過之后生產(chǎn)的信息。
執(zhí)行結(jié)果如下:列出了所有消費者組的所有信息形庭,包括Group(消費者組)铅辞、Topic、Pid(分區(qū)id)萨醒、Offset(當前已消費的條數(shù))斟珊、LogSize(總條數(shù))、Lag(未消費的條數(shù))富纸、Owner

[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper 192.168.8.71:2181,192.168.8.72:2181,192.168.8.73:2181 --group WordcountConsumerGroup --topic test
或者:
[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper=192.168.8.71:2181,192.168.8.72:2181,192.168.8.73:2181 --group=WordcountConsumerGroup --topic=test
再或者:
[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper=h71:2181 --group=WordcountConsumerGroup
Group           Topic                          Pid Offset          logSize         Lag             Owner
test-consumer-group test                           0   4               40              36              none
test-consumer-group test                           1   14              57              43              none

[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper 192.168.8.71:2181,192.168.8.72:2181,192.168.8.73:2181 --group=WordcountConsumerGroup
Group           Topic                          Pid Offset          logSize         Lag             Owner
WordcountConsumerGroup test                           0   9               40              31              none
WordcountConsumerGroup test                           1   21              57              36              none
[hadoop@h71 kafka_2.10-0.8.2.0]$ bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper 192.168.8.71:2181,192.168.8.72:2181,192.168.8.73:2181 --group=console-consumer-42639
Group           Topic                          Pid Offset          logSize         Lag             Owner
console-consumer-42639 test                           0   40              40              0               console-consumer-42639_h71-1498000434797-f1c703cf-0
console-consumer-42639 test                           1   57              57              0               console-consumer-42639_h71-1498000434797-f1c703cf-0

kafka-run-class.sh腳本囤踩,它是調(diào)用了ConsumerOffsetChecker的main方法,所以晓褪,我們也可以通過java代碼來訪問scala的ConsumerOffsetChecker類堵漱,代碼如下:

import kafka.tools.ConsumerOffsetChecker;   
public class hui 
{
    public static void main(String[] args)  
    {
        //適用于kafka0.8.2.0
        String[] arr = new String[]{"--zookeeper=h71:2181,h72:2181,h73:2181","--group=test-consumer-group"};
        //適用于kafka0.8.1
//      String[] arr = new String[]{"--zkconnect=h71:2181,h72:2181,h73:2181","--group=test-consumer-group"};
        ConsumerOffsetChecker.main(arr); 
    }
}

運行結(jié)果如下:


跟通過kafa-run-class.sh執(zhí)行的結(jié)果是一樣的

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市涣仿,隨后出現(xiàn)的幾起案子勤庐,更是在濱河造成了極大的恐慌,老刑警劉巖好港,帶你破解...
    沈念sama閱讀 219,589評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件埃元,死亡現(xiàn)場離奇詭異,居然都是意外死亡媚狰,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,615評論 3 396
  • 文/潘曉璐 我一進店門阔拳,熙熙樓的掌柜王于貴愁眉苦臉地迎上來崭孤,“玉大人,你說我怎么就攤上這事糊肠”娉瑁” “怎么了?”我有些...
    開封第一講書人閱讀 165,933評論 0 356
  • 文/不壞的土叔 我叫張陵货裹,是天一觀的道長嗤形。 經(jīng)常有香客問我,道長弧圆,這世上最難降的妖魔是什么赋兵? 我笑而不...
    開封第一講書人閱讀 58,976評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮搔预,結(jié)果婚禮上霹期,老公的妹妹穿的比我還像新娘。我一直安慰自己拯田,他們只是感情好历造,可當我...
    茶點故事閱讀 67,999評論 6 393
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般吭产。 火紅的嫁衣襯著肌膚如雪侣监。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,775評論 1 307
  • 那天臣淤,我揣著相機與錄音橄霉,去河邊找鬼。 笑死荒典,一個胖子當著我的面吹牛酪劫,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播寺董,決...
    沈念sama閱讀 40,474評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼覆糟,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了遮咖?” 一聲冷哼從身側(cè)響起滩字,我...
    開封第一講書人閱讀 39,359評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎御吞,沒想到半個月后麦箍,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,854評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡陶珠,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,007評論 3 338
  • 正文 我和宋清朗相戀三年挟裂,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片揍诽。...
    茶點故事閱讀 40,146評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡诀蓉,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出暑脆,到底是詐尸還是另有隱情渠啤,我是刑警寧澤,帶...
    沈念sama閱讀 35,826評論 5 346
  • 正文 年R本政府宣布添吗,位于F島的核電站沥曹,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏碟联。R本人自食惡果不足惜妓美,卻給世界環(huán)境...
    茶點故事閱讀 41,484評論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望鲤孵。 院中可真熱鬧部脚,春花似錦、人聲如沸裤纹。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,029評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至锡移,卻和暖如春呕童,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背淆珊。 一陣腳步聲響...
    開封第一講書人閱讀 33,153評論 1 272
  • 我被黑心中介騙來泰國打工夺饲, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人施符。 一個月前我還...
    沈念sama閱讀 48,420評論 3 373
  • 正文 我出身青樓往声,卻偏偏與公主長得像,于是被迫代替她去往敵國和親戳吝。 傳聞我的和親對象是個殘疾皇子浩销,可洞房花燭夜當晚...
    茶點故事閱讀 45,107評論 2 356

推薦閱讀更多精彩內(nèi)容

  • 大致可以通過上述情況進行排除 1.kafka服務器問題 查看日志是否有報錯,網(wǎng)絡訪問問題等听哭。 2. kafka p...
    生活的探路者閱讀 7,590評論 0 10
  • 一慢洋、入門1、簡介Kafka is a distributed,partitioned,replicated com...
    HxLiang閱讀 3,350評論 0 9
  • kafka安裝目錄下的bin目錄包含了很多運維可操作的shell腳本陆盘,列舉如下: 接下來詳細說明每個腳本的使用方法...
    阿飛的博客閱讀 9,782評論 5 15
  • Kafka提供的主要功能 生產(chǎn)者 ——>消息隊列 <——消費者 所謂消息對象普筹,本質(zhì)上就是由生產(chǎn)者向消息隊列不斷發(fā)送...
    leofight閱讀 1,643評論 0 5
  • 春雨相思著大地悄悄來到了人間倚靠在一棵樹上默默地守在大地的身邊感受著大地的呼吸卻始終沒有說出對大地的愛慕之情一日日...
    白開吧閱讀 230評論 0 0