Kafka可視化管理工具-EFAK

一、什么是EFAK

EFAK(Eagle For Apache Kafka,以前稱為 Kafka Eagle)EFAK是開源可視化和管理軟件崩侠。可以查詢坷檩、可視化却音、監(jiān)控kafka集群,是將 kafka 的集群數(shù)據(jù)轉(zhuǎn)換為圖形可視化的工具矢炼。

二系瓢、為什么要用EFAK

  • Apache Kafka 沒有正式提供監(jiān)控系統(tǒng)或頁面。

  • 開源Kafka監(jiān)控系統(tǒng)功能太少或暫停維護句灌。

  • 現(xiàn)有的監(jiān)控系統(tǒng)難以配置和使用夷陋。

  • 一些監(jiān)控系統(tǒng)無法滿足與現(xiàn)有IM的集成,如微信胰锌、釘釘?shù)取?/p>

三 骗绕、安裝

3.1 下載

可以在 GitHub 上下載EFAK源代碼自行編譯安裝,也可以下載二進制 .tar.gz 文件资昧。

ps:推薦使用官方編譯的二進制安裝包

3.2 安裝JDK

如果Linux服務(wù)器上有JDK環(huán)境酬土,這一步可以忽略,繼續(xù)下一步的安裝榛搔。如果沒有JDK诺凡,請先到Oracle官網(wǎng)下載JDK东揣。

JAVA_HOME 配置
將二進制安裝包解壓到指定目錄:

cd /usr/java
tar -zxvf jdk-xxxx.tar.gz
mv jdk-xxxx jdk1.8
vi /etc/profile

export JAVA_HOME=/usr/java/jdk1.8
export PATH=$PATH:$JAVA_HOME/bin

然后践惑,我們使用. /etc/profile使配置立即生效。

3.3 提取 EFAK

這里我們解壓到/data/soft/new目錄并解壓

tar -zxvf efak-xxx-bin.tar.gz

如果之前安裝過版本嘶卧,刪除修改后的版本尔觉,重命名當前版本

rm -rf efakmv efak-xxx efak

然后,配置 EFAK 配置文件

vi /etc/profileexport KE_HOME=/data/soft/new/efakexport PATH=$PATH:$KE_HOME/bin

最后芥吟,我們使用. /etc/profile使配置立即生效侦铜。

配置EFAK系統(tǒng)文件:
根據(jù)自身Kafka集群的實際情況配置EFAK,例如zookeeper地址钟鸵、Kafka集群的版本類型(zk為低版本钉稍,kafka為高版本)、開啟安全認證的Kafka集群等棺耍。

cd ${KE_HOME}/conf
vi system-config.properties

# Multi zookeeper&kafka cluster list -- The client connection address of the Zookeeper cluster is set here
efak.zk.cluster.alias=cluster1,cluster2
cluster1.zk.list=tdn1:2181,tdn2:2181,tdn3:2181
cluster2.zk.list=xdn1:2181,xdn2:2181,xdn3:2181

# Add zookeeper acl
cluster1.zk.acl.enable=false
cluster1.zk.acl.schema=digest
cluster1.zk.acl.username=test
cluster1.zk.acl.password=test123

# Kafka broker nodes online list
cluster1.efak.broker.size=10
cluster2.efak.broker.size=20

# Zkcli limit -- Zookeeper cluster allows the number of clients to connect to
# If you enable distributed mode, you can set value to 4 or 8
kafka.zk.limit.size=16

# EFAK webui port -- WebConsole port access address
efak.webui.port=8048

######################################
# EFAK enable distributed
######################################
efak.distributed.enable=false
# master worknode set status to master, other node set status to slave
efak.cluster.mode.status=slave
# deploy efak server address
efak.worknode.master.host=localhost
efak.worknode.port=8085

# Kafka offset storage -- Offset stored in a Kafka cluster, if stored in the zookeeper, you can not use this option
cluster1.efak.offset.storage=kafka
cluster2.efak.offset.storage=kafka

# Whether the Kafka performance monitoring diagram is enabled
efak.metrics.charts=false

# EFAK keeps data for 30 days by default
efak.metrics.retain=30

# If offset is out of range occurs, enable this property -- Only suitable for kafka sql
efak.sql.fix.error=false
efak.sql.topic.records.max=5000

# Delete kafka topic token -- Set to delete the topic token, so that administrators can have the right to delete
efak.topic.token=keadmin

# Kafka sasl authenticate
cluster1.efak.sasl.enable=false
cluster1.efak.sasl.protocol=SASL_PLAINTEXT
cluster1.efak.sasl.mechanism=SCRAM-SHA-256
cluster1.efak.sasl.jaas.config=org.apache.kafka.common.security.scram.ScramLoginModule required username="admin" password="admin-secret";
# If not set, the value can be empty
cluster1.efak.sasl.client.id=
# Add kafka cluster cgroups
cluster1.efak.sasl.cgroup.enable=false
cluster1.efak.sasl.cgroup.topics=kafka_ads01,kafka_ads02

cluster2.efak.sasl.enable=true
cluster2.efak.sasl.protocol=SASL_PLAINTEXT
cluster2.efak.sasl.mechanism=PLAIN
cluster2.efak.sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="admin" password="admin-secret";
cluster2.efak.sasl.client.id=
cluster2.efak.sasl.cgroup.enable=false
cluster2.efak.sasl.cgroup.topics=kafka_ads03,kafka_ads04

# Default use sqlite to store data
efak.driver=org.sqlite.JDBC
# It is important to note that the '/hadoop/kafka-eagle/db' path must be exist.
efak.url=jdbc:sqlite:/hadoop/kafka-eagle/db/ke.db
efak.username=root
efak.password=smartloli

# (Optional) set mysql address
#efak.driver=com.mysql.jdbc.Driver
#efak.url=jdbc:mysql://127.0.0.1:3306/ke?useUnicode=true&characterEncoding=UTF-8&zeroDateTimeBehavior=convertToNull
#efak.username=root
#efak.password=smartloli
3.4 啟動EFAK服務(wù)器(獨立)

在$KE_HOME/bin目錄中贡未,有一個ke.sh腳本文件

cd ${KE_HOME}/binchmod +x ke.sh ke.sh start

之后,當 EFAK 服務(wù)器重新啟動或停止時,執(zhí)行以下命令

ke.sh restartke.sh stop
3.5 啟動EFAK服務(wù)器(分布式)

在$KE_HOME/bin目錄中俊卤,有一個ke.sh腳本文件嫩挤。執(zhí)行啟動命令如下

cd ${KE_HOME}/bin
# sync efak package to other worknode node
# if $KE_HOME is /data/soft/new/efak
for i in `cat $KE_HOME/conf/works`;do scp -r $KE_HOME $i:/data/soft/new;done

# sync efak server .bash_profile environment
for i in `cat $KE_HOME/conf/works`;do scp -r ~/.bash_profile $i:~/;done

chmod +x ke.sh
ke.sh cluster start

之后,當 EFAK 服務(wù)器重新啟動或停止時消恍,執(zhí)行以下命令

ke.sh cluster restart
ke.sh cluster stop

四岂昭、使用

4.1 儀表盤

查看Kafka brokers、topics狠怨、consumer 约啊、Zookeepers信息等

1
4.2 創(chuàng)建主題
2
4.3 列出主題

該模塊跟蹤Kafka集群中的所有Topic,包括分區(qū)數(shù)取董、創(chuàng)建時間棍苹、修改Topic,如下圖所示:

3
4.4 主題詳情
4
4.5 消費情況
5
4.6 數(shù)據(jù)預(yù)警

配置下郵件服務(wù)器的用戶名和密碼茵汰,就可以看到相應(yīng)的預(yù)警數(shù)據(jù)了

6
4.7 以及最后的大屏展示
7

五枢里、補充

推薦Kafka另外一個可視化管理工具kafka-ui,代碼優(yōu)雅但是功能沒這個強

轉(zhuǎn)載自:EFAK - 最好用的Kafka可視化管理工具

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蹂午,一起剝皮案震驚了整個濱河市栏豺,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌豆胸,老刑警劉巖奥洼,帶你破解...
    沈念sama閱讀 218,941評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異晚胡,居然都是意外死亡灵奖,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評論 3 395
  • 文/潘曉璐 我一進店門估盘,熙熙樓的掌柜王于貴愁眉苦臉地迎上來瓷患,“玉大人,你說我怎么就攤上這事遣妥∩帽啵” “怎么了?”我有些...
    開封第一講書人閱讀 165,345評論 0 356
  • 文/不壞的土叔 我叫張陵箫踩,是天一觀的道長爱态。 經(jīng)常有香客問我,道長境钟,這世上最難降的妖魔是什么锦担? 我笑而不...
    開封第一講書人閱讀 58,851評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮慨削,結(jié)果婚禮上洞渔,老公的妹妹穿的比我還像新娘鱼的。我一直安慰自己,他們只是感情好痘煤,可當我...
    茶點故事閱讀 67,868評論 6 392
  • 文/花漫 我一把揭開白布凑阶。 她就那樣靜靜地躺著,像睡著了一般衷快。 火紅的嫁衣襯著肌膚如雪宙橱。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,688評論 1 305
  • 那天蘸拔,我揣著相機與錄音师郑,去河邊找鬼。 笑死调窍,一個胖子當著我的面吹牛宝冕,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播邓萨,決...
    沈念sama閱讀 40,414評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼地梨,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了缔恳?” 一聲冷哼從身側(cè)響起宝剖,我...
    開封第一講書人閱讀 39,319評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎歉甚,沒想到半個月后万细,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,775評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡纸泄,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,945評論 3 336
  • 正文 我和宋清朗相戀三年赖钞,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片聘裁。...
    茶點故事閱讀 40,096評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡雪营,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出咧虎,到底是詐尸還是另有隱情卓缰,我是刑警寧澤计呈,帶...
    沈念sama閱讀 35,789評論 5 346
  • 正文 年R本政府宣布砰诵,位于F島的核電站,受9級特大地震影響捌显,放射性物質(zhì)發(fā)生泄漏茁彭。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,437評論 3 331
  • 文/蒙蒙 一扶歪、第九天 我趴在偏房一處隱蔽的房頂上張望理肺。 院中可真熱鬧摄闸,春花似錦、人聲如沸妹萨。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,993評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽乎完。三九已至熏兄,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間树姨,已是汗流浹背摩桶。 一陣腳步聲響...
    開封第一講書人閱讀 33,107評論 1 271
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留帽揪,地道東北人硝清。 一個月前我還...
    沈念sama閱讀 48,308評論 3 372
  • 正文 我出身青樓,卻偏偏與公主長得像转晰,于是被迫代替她去往敵國和親芦拿。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,037評論 2 355

推薦閱讀更多精彩內(nèi)容