flume 安裝與使用

1.安裝

Java 安裝
Flume配置文件解析
Flume Agent啟動(dòng)
(1)Flume 配置文件(Agent的配置)主要包括以下四部分配置:
--》Agent 連接的Source 段磨、Sink、Channel名稱配置镇防;
--》Agent Source 的相關(guān)配置;
--》Agent Sink 的相關(guān)配置凹蜈;
--》Agent Channel 的相關(guān)配置
其中,在Source 和 Sink 中可以配置序列化器(Serializer)來訂制序列化方式,可以配置攔截器(Interceptor )來過濾指定的數(shù)據(jù)
(2)啟動(dòng)步驟:
--》解壓apache-flume-1.6.0-bin.tar.gz到指定目錄 池颈;
--》配置flume-conf.properties 文件怀薛;
--》使用如下命令啟動(dòng)Flume Agent:
bin/flume-ng agent --conf ./conf/ -f conf/flume-conf.properties -Dflume.root.logger=INFO,console -n a1 &

(3)下載flume1.6.0
http://shinyfeather.com/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz

2.flume 配置文件

# example.conf: A single-node Flume configuration

# Name the components on this agent
#a1是agent的名字刺彩,r1,k1,c1也是名字
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
#綁定的數(shù)據(jù)源的類型
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
#輸出源的類型
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
#channel選擇存儲(chǔ)在內(nèi)存隊(duì)列里面
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

啟動(dòng)

./bin/flume-ng agent --conf ./conf/ -f conf/flume-conf.properties -Dflume.root.logger=INFO,console -n a1 &

發(fā)送數(shù)據(jù)

$ telnet localhost 44444
Trying 127.0.0.1...
Connected to localhost.localdomain (127.0.0.1).
Escape character is '^]'.
Hello world! <ENTER>
OK

展示

12/06/19 15:32:19 INFO source.NetcatSource: Source starting
12/06/19 15:32:19 INFO source.NetcatSource: Created serverSocket:sun.nio.ch.ServerSocketChannelImpl[/127.0.0.1:44444]
12/06/19 15:32:34 INFO sink.LoggerSink: Event: { headers:{} body: 48 65 6C 6C 6F 20 77 6F 72 6C 64 21 0D          Hello world!. }

3.kafka集成實(shí)例

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末枝恋,一起剝皮案震驚了整個(gè)濱河市创倔,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌焚碌,老刑警劉巖畦攘,帶你破解...
    沈念sama閱讀 222,946評(píng)論 6 518
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異十电,居然都是意外死亡知押,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 95,336評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門鹃骂,熙熙樓的掌柜王于貴愁眉苦臉地迎上來台盯,“玉大人,你說我怎么就攤上這事偎漫∫遥” “怎么了?”我有些...
    開封第一講書人閱讀 169,716評(píng)論 0 364
  • 文/不壞的土叔 我叫張陵象踊,是天一觀的道長温亲。 經(jīng)常有香客問我,道長杯矩,這世上最難降的妖魔是什么栈虚? 我笑而不...
    開封第一講書人閱讀 60,222評(píng)論 1 300
  • 正文 為了忘掉前任,我火速辦了婚禮史隆,結(jié)果婚禮上魂务,老公的妹妹穿的比我還像新娘。我一直安慰自己泌射,他們只是感情好粘姜,可當(dāng)我...
    茶點(diǎn)故事閱讀 69,223評(píng)論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著熔酷,像睡著了一般孤紧。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上拒秘,一...
    開封第一講書人閱讀 52,807評(píng)論 1 314
  • 那天号显,我揣著相機(jī)與錄音臭猜,去河邊找鬼。 笑死押蚤,一個(gè)胖子當(dāng)著我的面吹牛蔑歌,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播揽碘,決...
    沈念sama閱讀 41,235評(píng)論 3 424
  • 文/蒼蘭香墨 我猛地睜開眼次屠,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼!你這毒婦竟也來了钾菊?” 一聲冷哼從身側(cè)響起帅矗,我...
    開封第一講書人閱讀 40,189評(píng)論 0 277
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎煞烫,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體累颂,經(jīng)...
    沈念sama閱讀 46,712評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡滞详,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,775評(píng)論 3 343
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了紊馏。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片料饥。...
    茶點(diǎn)故事閱讀 40,926評(píng)論 1 353
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖朱监,靈堂內(nèi)的尸體忽然破棺而出岸啡,到底是詐尸還是另有隱情,我是刑警寧澤赫编,帶...
    沈念sama閱讀 36,580評(píng)論 5 351
  • 正文 年R本政府宣布巡蘸,位于F島的核電站,受9級(jí)特大地震影響擂送,放射性物質(zhì)發(fā)生泄漏悦荒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 42,259評(píng)論 3 336
  • 文/蒙蒙 一嘹吨、第九天 我趴在偏房一處隱蔽的房頂上張望搬味。 院中可真熱鬧,春花似錦蟀拷、人聲如沸碰纬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,750評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽悦析。三九已至,卻和暖如春愈诚,著一層夾襖步出監(jiān)牢的瞬間她按,已是汗流浹背牛隅。 一陣腳步聲響...
    開封第一講書人閱讀 33,867評(píng)論 1 274
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留酌泰,地道東北人媒佣。 一個(gè)月前我還...
    沈念sama閱讀 49,368評(píng)論 3 379
  • 正文 我出身青樓,卻偏偏與公主長得像陵刹,于是被迫代替她去往敵國和親默伍。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,930評(píng)論 2 361

推薦閱讀更多精彩內(nèi)容