銀行系統(tǒng)中的消息分發(fā)利器Kafka(三)

建議從頭閱讀:
銀行系統(tǒng)中的消息分發(fā)利器Kafka(一)
銀行系統(tǒng)中的消息分發(fā)利器Kafka(二)

6肝陪、Partition
上次我們說到展融,Kafka可以存儲數(shù)據(jù)正驻,而且數(shù)據(jù)按照Topic進行分類咒精。
這些存儲的數(shù)據(jù)可能會很大密末,這可能會給Kafka的Broker帶來很大的存儲壓力握爷。
一個好的解決辦法就是把這些數(shù)據(jù)拆成一個或多個Partition:



然后,把這多個Partition分發(fā)到不同的服務(wù)器上严里。
Kafka是一個分布式系統(tǒng)新啼,所以對數(shù)據(jù)文件的Partition進行分布式管理是很方便的。
隨之刹碾,另外一個問題來了燥撞,我們要把數(shù)據(jù)分成多少個Partition呢?



這個問題不是Kafka來解答的,而是Kafka的管理員物舒,他們會確定一項數(shù)據(jù)分成多少個Partition色洞,然后Kafka再按照他們的指令來處理分區(qū)。
每一個Partition就存在一個服務(wù)器上冠胯,也不能再將他們進一步拆分火诸。所以管理員可以根據(jù)服務(wù)器情況計算出Partition的數(shù)量。
7荠察、Offset
我們知道Kafka上會接受大量的消息(Message)置蜀,然后這樣一個一個消息在Kafka中會形成一個順序的隊列。
而Offset是就是“消息”在隊列中的位置悉盆。

在每一個Partition 中盯荤,第一個消息的Offset就是0,第二個就是1焕盟,以此類推秋秤。另外,Offset并不是一個全局的ID京髓,它只作用于所屬的Partition航缀。所以,在同一個Partition中堰怨,不會有相同的Offset。
結(jié)合上面的知識蛇摸,我們可以知道备图,如果要在Kafka中定位一個消息信息,就是先找到Topic赶袄,然后找到Partition揽涮,最后找到Offset。


8饿肺、Consumer Group
先把前面的場景復(fù)習(xí)一下蒋困。
首先我們有很多節(jié)點的數(shù)據(jù)要收集,于是我們通過Kafka來實現(xiàn):



然后我們?yōu)槊恳粋€節(jié)點創(chuàng)建一個Producer:



現(xiàn)在我們?yōu)镵afka創(chuàng)建Consumer敬辣,Consumer將從Kafka上獲取數(shù)據(jù)雪标,并將數(shù)據(jù)存入DataCenter:

這時,你有成百上千的Producer同時將數(shù)據(jù)放入同一個Topic溉跃,Kafka怎么能hold住呢村刨?我們前面說過Kafka是一個分布式系統(tǒng),于是我們利用很多的Kafka Broker來分散處理壓力撰茎,并且將數(shù)據(jù)分Partition:

這時你會發(fā)現(xiàn)嵌牺,處理壓力跑到Conumser那里了,于是我們就需要一個Consumer Group了。



Consumer Group中的Consumer要與Partition一一對應(yīng)逆粹。因此募疮,一個Topic有多少Partition,一個Consumer Group就有多少Consumer僻弹。Kafka不允許兩個或兩個以上的Consumer同時讀取一個Partition的數(shù)據(jù)阿浓,以避免double reading的問題。

Kafka的幾個重要的概念就介紹完了奢方。后面我會逐步深入的介紹Kafka的一些細節(jié)搔扁,歡迎關(guān)注~

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市蟋字,隨后出現(xiàn)的幾起案子稿蹲,更是在濱河造成了極大的恐慌,老刑警劉巖鹊奖,帶你破解...
    沈念sama閱讀 206,214評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件苛聘,死亡現(xiàn)場離奇詭異,居然都是意外死亡忠聚,警方通過查閱死者的電腦和手機设哗,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評論 2 382
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來两蟀,“玉大人网梢,你說我怎么就攤上這事÷柑海” “怎么了战虏?”我有些...
    開封第一講書人閱讀 152,543評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長党涕。 經(jīng)常有香客問我烦感,道長,這世上最難降的妖魔是什么膛堤? 我笑而不...
    開封第一講書人閱讀 55,221評論 1 279
  • 正文 為了忘掉前任手趣,我火速辦了婚禮,結(jié)果婚禮上肥荔,老公的妹妹穿的比我還像新娘绿渣。我一直安慰自己,他們只是感情好次企,可當(dāng)我...
    茶點故事閱讀 64,224評論 5 371
  • 文/花漫 我一把揭開白布怯晕。 她就那樣靜靜地躺著,像睡著了一般缸棵。 火紅的嫁衣襯著肌膚如雪舟茶。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,007評論 1 284
  • 那天,我揣著相機與錄音吧凉,去河邊找鬼隧出。 笑死,一個胖子當(dāng)著我的面吹牛阀捅,可吹牛的內(nèi)容都是我干的胀瞪。 我是一名探鬼主播,決...
    沈念sama閱讀 38,313評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼饲鄙,長吁一口氣:“原來是場噩夢啊……” “哼凄诞!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起忍级,我...
    開封第一講書人閱讀 36,956評論 0 259
  • 序言:老撾萬榮一對情侶失蹤帆谍,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后轴咱,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體汛蝙,經(jīng)...
    沈念sama閱讀 43,441評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,925評論 2 323
  • 正文 我和宋清朗相戀三年朴肺,在試婚紗的時候發(fā)現(xiàn)自己被綠了窖剑。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,018評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡戈稿,死狀恐怖西土,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情鞍盗,我是刑警寧澤翠储,帶...
    沈念sama閱讀 33,685評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站橡疼,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏庐舟。R本人自食惡果不足惜欣除,卻給世界環(huán)境...
    茶點故事閱讀 39,234評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望挪略。 院中可真熱鬧历帚,春花似錦、人聲如沸杠娱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽摊求。三九已至禽拔,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背睹栖。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評論 1 261
  • 我被黑心中介騙來泰國打工硫惕, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人野来。 一個月前我還...
    沈念sama閱讀 45,467評論 2 352
  • 正文 我出身青樓恼除,卻偏偏與公主長得像,于是被迫代替她去往敵國和親曼氛。 傳聞我的和親對象是個殘疾皇子豁辉,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,762評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 背景介紹 Kafka簡介 Kafka是一種分布式的,基于發(fā)布/訂閱的消息系統(tǒng)舀患。主要設(shè)計目標(biāo)如下: 以時間復(fù)雜度為O...
    高廣超閱讀 12,818評論 8 167
  • 本文轉(zhuǎn)載自http://dataunion.org/?p=9307 背景介紹Kafka簡介Kafka是一種分布式的...
    Bottle丶Fish閱讀 5,428評論 0 34
  • 目標(biāo) 高吞吐量來支持高容量的事件流處理 支持從離線系統(tǒng)加載數(shù)據(jù) 低延遲的消息系統(tǒng) 持久化 依賴文件系統(tǒng)徽级,持久化到本...
    jiangmo閱讀 1,262評論 0 4
  • 大致可以通過上述情況進行排除 1.kafka服務(wù)器問題 查看日志是否有報錯,網(wǎng)絡(luò)訪問問題等构舟。 2. kafka p...
    生活的探路者閱讀 7,575評論 0 10
  • 今天灰追,廣州在打臺風(fēng),天氣變得很涼爽狗超,前幾天真是熱暈頭了弹澎。你現(xiàn)在生活的地方熱嗎?可以留言告訴杏仁哦努咐。 2017.8....
    杏仁BOOK閱讀 224評論 0 0