
在進行項目學(xué)習(xí)的時候,有個需求是將日志數(shù)據(jù)經(jīng)過flume收集豪筝,然后sink到HBase中痰滋。經(jīng)過查看官方文檔,發(fā)現(xiàn)flume內(nèi)置支持兩種HBase...
本文主要內(nèi)容:①kafka復(fù)制機制②分區(qū)leader副本宕掉怎么選新的leader③高水位與leader epoch的詳細分析续崖。④一些相關(guān)配置 ...
前言:接上一篇敲街,我們總結(jié)了一下自定義Sink的流程,這次我們實現(xiàn)一個自己的Sink严望,將數(shù)據(jù)Sink到Mysql數(shù)據(jù)庫中多艇。我們還是使用 Flume...
前言:接上一篇,我們使用flume自帶的logger有些bug像吻,只能顯示前16個字節(jié)峻黍。本文將介紹如何解決這個問題,并分析Logger Sink的...
前言:接上一篇拨匆,本篇文章實現(xiàn)一個自定義的攔截器姆涩。主要功能是在Event的body中添加IP地址。因為沒有攔截器可以在Body中添加(host是在...
前言:flume通過使用Interceptors(攔截器)實現(xiàn)修改和過濾事件的功能惭每。舉個栗子骨饿,一個網(wǎng)站每天產(chǎn)生海量數(shù)據(jù),但是可能會有很多數(shù)據(jù)是不...
前言: 繼上一篇從source到channel到sink實現(xiàn)了一整套的流程之后台腥,我們這次學(xué)習(xí)一下Channel Selector與Sink Pr...
前言:為了呼應(yīng)上篇文章總結(jié)部分提出的點宏赘。這一篇文章決定來個實戰(zhàn)Demo。需求就是使用Spooling Directory Source監(jiān)聽一個文...
前言:本文是flume學(xué)習(xí)系列的開篇黎侈,主要介紹了flume的各種組件及相關(guān)配置察署。但是本篇文章并不打算從環(huán)境搭建開始,因為比較簡單而且網(wǎng)上資料也很...