Flume監(jiān)控幾種方式

Flume主要有以下集中監(jiān)控方式:

1.JMX監(jiān)控

配置 {$FLUME_HOME}/flume-env.sh

cd $FLUME_HOME
vi flume-env.sh

JAVA_OPTS="-Dcom.sun.management.jmxremote \
    -Dcom.sun.management.jmxremote.authenticate=false \
    -Dcom.sun.management.jmxremote.ssl=false \
    -Dcom.sun.management.jmxremote.port=54321 \
    -Dcom.sun.management.jmxremote.rmi.port=54322
    -Djava.rmi.server.hostname=192.168.16.214"

之后啟動(dòng)flume

bin/flume-ng agent -c . -f conf/exec-tail.conf -n a1 -Dflume.root.logger=INFO,console

在圖形界面的系統(tǒng)(windows、mac、linux圖形)和jdk的環(huán)境下啟動(dòng)jconsole

jconsole

連接jmx端口.jpg
jmx監(jiān)控控制臺(tái).jpg

可以看到flume應(yīng)用所使用的內(nèi)存莫换、線(xiàn)程拉岁、類(lèi)喊暖、CPU等使用情況撕瞧。

2.HTTP監(jiān)控

Flume可以通過(guò)HTTP以JSON形式報(bào)告metrics,啟用HTTP監(jiān)控巩掺,F(xiàn)lume需要配置一個(gè)端口。

配置一個(gè)簡(jiǎn)單的打印conf文件

vi conf/exec-tail.conf

a1.sources = r1
a1.sinks = k1
a1.channels = c1
# Describe/configure the source
a1.sources.r1.type = exec
a1.sources.r1.channels = c1
a1.sources.r1.command = tail -F /tmp/test
# Describe the sink
a1.sinks.k1.type = logger
# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

啟動(dòng)flume并指定http監(jiān)控形式和端口

bin/flume-ng agent -c . -f conf/exec-tail.conf -n a1 -Dflume.root.logger=INFO,console -Dflume.monitoring.type=http -Dflume.monitoring.port=1234

查看metric監(jiān)控

用瀏覽器或者GET方式打開(kāi)
http://ip:1234/metrics

獲得數(shù)據(jù)如下:

http監(jiān)控metric.jpg

CURL方式:

http://localhost:1234/metrics 2>/dev/null|sed -e 's/([,])\s*/\1\n/g' -e 's/[{}]/\n/g' -e 's/[“,]//g'

獲得數(shù)據(jù)如下:

"CHANNEL.c1":
"ChannelCapacity":"1000"
"ChannelFillPercentage":"0.0"
"Type":"CHANNEL"
"EventTakeSuccessCount":"10"
"ChannelSize":"0"
"EventTakeAttemptCount":"12"
"StartTime":"1476166839656"
"EventPutAttemptCount":"10"
"EventPutSuccessCount":"10"
"StopTime":"0"

"SOURCE.r1":
"EventReceivedCount":"10"
"AppendBatchAcceptedCount":"0"
"Type":"SOURCE"
"AppendReceivedCount":"0"
"EventAcceptedCount":"10"
"StartTime":"1476166840159"
"AppendAcceptedCount":"0"
"OpenConnectionCount":"0"
"AppendBatchReceivedCount":"0"
"StopTime":"0"

3.Ganglia監(jiān)控

Flume也可以報(bào)告metrics到Ganglia 3或者是Ganglia 3.1的metanodes独令。要將metrics報(bào)告到Ganglia,必須在啟動(dòng)的時(shí)候就支持Flume Agent冲呢。這個(gè)Flume Agent使用flume.monitoring作為前綴碗硬,通過(guò)下面的參數(shù)啟動(dòng)瓢颅。當(dāng)然也可以在flume-env.sh中設(shè)置:


如果要支持Ganglia挽懦,可以通過(guò)如下命令啟動(dòng)。

bin/flume-ng agent --conf-file example.conf --name a1 -Dflume.monitoring.type=ganglia -Dflume.monitoring.hosts=com.example:1234,com.example2:5455

4.自定義監(jiān)控

自定義的監(jiān)控需要實(shí)現(xiàn)org.apache.flume.instrumentation.MonitorService
接口冀偶。例如有一個(gè)HTTP的監(jiān)控類(lèi)叫HttpReporting进鸠,我可以通過(guò)如下方式啟動(dòng)這個(gè)監(jiān)控客年。

bin/flume-ng agent --conf-file example.conf --name a1 -Dflume.monitoring.type=com.example.reporting.HTTPReporting -Dflume.monitoring.node=com.example:332

報(bào)告metrics我們也可以自定義組件漠吻,不過(guò)一定要繼承org.apache.flume.instrumentation.MonitoredCounterGroup
虛擬類(lèi)途乃。Flume已經(jīng)實(shí)現(xiàn)的類(lèi),如下圖:

根據(jù)上面的規(guī)范就可以開(kāi)發(fā)自定義的監(jiān)控組件了烫饼。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末枫弟,一起剝皮案震驚了整個(gè)濱河市淡诗,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌款违,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評(píng)論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異请梢,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)气嫁,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén)寸宵,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)元咙,“玉大人,你說(shuō)我怎么就攤上這事甲棍「弦矗” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,415評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)呈驶。 經(jīng)常有香客問(wèn)我袖瞻,道長(zhǎng)司致,這世上最難降的妖魔是什么脂矫? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,157評(píng)論 1 292
  • 正文 為了忘掉前任庭再,我火速辦了婚禮牺堰,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘恨搓。我一直安慰自己斧抱,他們只是感情好渐溶,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,171評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著盏浙,像睡著了一般废膘。 火紅的嫁衣襯著肌膚如雪慕蔚。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,125評(píng)論 1 297
  • 那天灌闺,我揣著相機(jī)與錄音桂对,去河邊找鬼鸠匀。 笑死,一個(gè)胖子當(dāng)著我的面吹牛机错,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播弱匪,決...
    沈念sama閱讀 40,028評(píng)論 3 417
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼萧诫,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼杜顺!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起尖奔,我...
    開(kāi)封第一講書(shū)人閱讀 38,887評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤提茁,失蹤者是張志新(化名)和其女友劉穎馁菜,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體峭火,經(jīng)...
    沈念sama閱讀 45,310評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡智嚷,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,533評(píng)論 2 332
  • 正文 我和宋清朗相戀三年稍浆,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猜嘱。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,690評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡弦撩,死狀恐怖益楼,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤觉鼻,帶...
    沈念sama閱讀 35,411評(píng)論 5 343
  • 正文 年R本政府宣布坠陈,位于F島的核電站,受9級(jí)特大地震影響庸蔼,放射性物質(zhì)發(fā)生泄漏贮匕。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,004評(píng)論 3 325
  • 文/蒙蒙 一掏膏、第九天 我趴在偏房一處隱蔽的房頂上張望馒疹。 院中可真熱鬧颖变,春花似錦听想、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,659評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)组题。三九已至,卻和暖如春梢褐,著一層夾襖步出監(jiān)牢的瞬間旺遮,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,812評(píng)論 1 268
  • 我被黑心中介騙來(lái)泰國(guó)打工盈咳, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留耿眉,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,693評(píng)論 2 368
  • 正文 我出身青樓鱼响,卻偏偏與公主長(zhǎng)得像鸣剪,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子丈积,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,577評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容