Kafka三款監(jiān)控工具比較(轉(zhuǎn)載)

轉(zhuǎn)自:http://top.jobbole.com/31084/

在之前的博客中,介紹了Kafka Web Console這個監(jiān)控工具,在生產(chǎn)環(huán)境中使用,運行一段時間后,發(fā)現(xiàn)該工具會和Kafka生產(chǎn)者翻具、消費者、ZooKeeper建立大量連接回还,從而導(dǎo)致網(wǎng)絡(luò)阻塞裆泳。并且這個Bug也在其他使用者中出現(xiàn)過,看來使用開源工具要慎重柠硕!該Bug暫未得到修復(fù)工禾,不得已,只能研究下其他同類的Kafka監(jiān)控軟件蝗柔。

通過研究闻葵,發(fā)現(xiàn)主流的三種kafka監(jiān)控程序分別為:

Kafka Web Conslole

Kafka Manager

KafkaOffsetMonitor

現(xiàn)在依次介紹以上三種工具:

Kafka Web Conslole

使用Kafka Web Console,可以監(jiān)控:

Brokers列表

Kafka 集群中 Topic列表癣丧,及對應(yīng)的Partition槽畔、LogSiz e等信息

點擊Topic,可以瀏覽對應(yīng)的Consumer Groups胁编、Offset厢钧、Lag等信息

生產(chǎn)和消費流量圖鳞尔、消息預(yù)覽…

程序運行后,會定時去讀取kafka集群分區(qū)的日志長度早直,讀取完畢后寥假,連接沒有正常釋放,一段時間后產(chǎn)生大量的socket連接霞扬,導(dǎo)致網(wǎng)絡(luò)堵塞糕韧。

Kafka Manager

雅虎開源的Kafka集群管理工具:

管理幾個不同的集群

監(jiān)控集群的狀態(tài)(topics, brokers, 副本分布, 分區(qū)分布)

產(chǎn)生分區(qū)分配(Generate partition assignments)基于集群的當(dāng)前狀態(tài)

重新分配分區(qū)

KafkaOffsetMonitor

KafkaOffsetMonitor可以實時監(jiān)控:

Kafka集群狀態(tài)

Topic、Consumer Group列表

圖形化展示topic和consumer之間的關(guān)系

圖形化展示consumer的Offset祥得、Lag等信息

總結(jié)

通過使用,個人總結(jié)以上三種監(jiān)控程序的優(yōu)缺點:

Kafka Web Console:監(jiān)控功能較為全面蒋得,可以預(yù)覽消息级及,監(jiān)控Offset、Lag等信息额衙,但存在bug饮焦,不建議在生產(chǎn)環(huán)境中使用。

Kafka Manager:偏向Kafka集群管理窍侧,若操作不當(dāng)县踢,容易導(dǎo)致集群出現(xiàn)故障。對Kafka實時生產(chǎn)和消費消息是通過JMX實現(xiàn)的伟件。沒有記錄Offset硼啤、Lag等信息。

KafkaOffsetMonitor:程序一個jar包的形式運行斧账,部署較為方便谴返。只有監(jiān)控功能,使用起來也較為安全咧织。

若只需要監(jiān)控功能嗓袱,推薦使用KafkaOffsetMonito,若偏重Kafka集群管理习绢,推薦使用Kafka Manager渠抹。

因為都是開源程序,穩(wěn)定性欠缺闪萄。故需先了解清楚目前已存在哪些Bug梧却,多測試一下,避免出現(xiàn)類似于Kafka Web Console的問題败去。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末篮幢,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子为迈,更是在濱河造成了極大的恐慌三椿,老刑警劉巖缺菌,帶你破解...
    沈念sama閱讀 211,042評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異搜锰,居然都是意外死亡伴郁,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評論 2 384
  • 文/潘曉璐 我一進店門蛋叼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來焊傅,“玉大人,你說我怎么就攤上這事狈涮『ィ” “怎么了?”我有些...
    開封第一講書人閱讀 156,674評論 0 345
  • 文/不壞的土叔 我叫張陵歌馍,是天一觀的道長握巢。 經(jīng)常有香客問我,道長松却,這世上最難降的妖魔是什么暴浦? 我笑而不...
    開封第一講書人閱讀 56,340評論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮晓锻,結(jié)果婚禮上歌焦,老公的妹妹穿的比我還像新娘。我一直安慰自己砚哆,他們只是感情好独撇,可當(dāng)我...
    茶點故事閱讀 65,404評論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著躁锁,像睡著了一般券勺。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上灿里,一...
    開封第一講書人閱讀 49,749評論 1 289
  • 那天关炼,我揣著相機與錄音,去河邊找鬼匣吊。 笑死儒拂,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的色鸳。 我是一名探鬼主播社痛,決...
    沈念sama閱讀 38,902評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼命雀!你這毒婦竟也來了蒜哀?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,662評論 0 266
  • 序言:老撾萬榮一對情侶失蹤吏砂,失蹤者是張志新(化名)和其女友劉穎撵儿,沒想到半個月后乘客,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,110評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡淀歇,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,451評論 2 325
  • 正文 我和宋清朗相戀三年易核,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片浪默。...
    茶點故事閱讀 38,577評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡牡直,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出纳决,到底是詐尸還是另有隱情碰逸,我是刑警寧澤,帶...
    沈念sama閱讀 34,258評論 4 328
  • 正文 年R本政府宣布阔加,位于F島的核電站饵史,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏掸哑。R本人自食惡果不足惜约急,卻給世界環(huán)境...
    茶點故事閱讀 39,848評論 3 312
  • 文/蒙蒙 一零远、第九天 我趴在偏房一處隱蔽的房頂上張望苗分。 院中可真熱鬧,春花似錦牵辣、人聲如沸摔癣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽择浊。三九已至,卻和暖如春逾条,著一層夾襖步出監(jiān)牢的瞬間琢岩,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評論 1 264
  • 我被黑心中介騙來泰國打工师脂, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留担孔,地道東北人。 一個月前我還...
    沈念sama閱讀 46,271評論 2 360
  • 正文 我出身青樓吃警,卻偏偏與公主長得像糕篇,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子酌心,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,452評論 2 348

推薦閱讀更多精彩內(nèi)容