kafka中zookeeper的作用

Kafka將元數(shù)據(jù)信息保存在Zookeeper中抵恋,但是發(fā)送給Topic本身的數(shù)據(jù)是不會發(fā)到Zk上的,否則Zk就瘋了宝磨。kafka使用zookeeper來實現(xiàn)動態(tài)的集群擴展馋记,不需要更改客戶端(producer和consumer)的配置。broker會在zookeeper注冊并保持相關(guān)的元數(shù)據(jù)(topic懊烤,partition信息等)更新梯醒。而客戶端會在zookeeper上注冊相關(guān)的watcher。一旦zookeeper發(fā)生變化腌紧,客戶端能及時感知并作出相應(yīng)調(diào)整茸习。這樣就保證了添加或去除broker時,各broker間仍能自動實現(xiàn)負載均衡壁肋。這里的客戶端指的是Kafka的消息生產(chǎn)端(Producer)和消息消費端(Consumer)Producer端使用zookeeper用來"發(fā)現(xiàn)"broker列表,以及和Topic下每個partition的leader建立socket連接并發(fā)送消息号胚。也就是說每個Topic的partition是由Lead角色的Broker端使用zookeeper來注冊broker信息,以及監(jiān)測partition leader存活性.Consumer端使用zookeeper用來注冊consumer信息,其中包括consumer消費的partition列表等,同時也用來發(fā)現(xiàn)broker列表,并和partition leader建立socket連接,并獲取消息.

1、Kafka的每個broker啟動時浸遗,都會到zookeeper中進行注冊猫胁,告訴zookeeper其broker.id。
2跛锌、在kafka中弃秆,用戶可以自定義多個topic,每個topic又可以劃分為多個分區(qū),一半情況下菠赚,每個分區(qū)存儲在一個獨立的broker上脑豹。所有這些topic與broker的對應(yīng)關(guān)系都有zookeeper進行維護。
3衡查、每個消費者都要關(guān)注其所屬消費者組中消費者數(shù)目的變化瘩欺,即監(jiān)聽zookeeper中/consumers/{group_id}/ids下子節(jié)點的變化。一單發(fā)現(xiàn)消費者新增或減少拌牲,就會觸發(fā)消費者的rebalance俱饿。

來源:http://www.reibang.com/p/8a61bb2a9219

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市塌忽,隨后出現(xiàn)的幾起案子拍埠,更是在濱河造成了極大的恐慌,老刑警劉巖砚婆,帶你破解...
    沈念sama閱讀 218,640評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異突勇,居然都是意外死亡装盯,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,254評論 3 395
  • 文/潘曉璐 我一進店門甲馋,熙熙樓的掌柜王于貴愁眉苦臉地迎上來埂奈,“玉大人,你說我怎么就攤上這事定躏≌嘶牵” “怎么了?”我有些...
    開封第一講書人閱讀 165,011評論 0 355
  • 文/不壞的土叔 我叫張陵痊远,是天一觀的道長垮抗。 經(jīng)常有香客問我,道長碧聪,這世上最難降的妖魔是什么冒版? 我笑而不...
    開封第一講書人閱讀 58,755評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮逞姿,結(jié)果婚禮上辞嗡,老公的妹妹穿的比我還像新娘。我一直安慰自己滞造,他們只是感情好续室,可當我...
    茶點故事閱讀 67,774評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著谒养,像睡著了一般挺狰。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,610評論 1 305
  • 那天她渴,我揣著相機與錄音达址,去河邊找鬼。 笑死趁耗,一個胖子當著我的面吹牛沉唠,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播苛败,決...
    沈念sama閱讀 40,352評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼满葛,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了罢屈?” 一聲冷哼從身側(cè)響起嘀韧,我...
    開封第一講書人閱讀 39,257評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎缠捌,沒想到半個月后锄贷,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,717評論 1 315
  • 正文 獨居荒郊野嶺守林人離奇死亡曼月,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,894評論 3 336
  • 正文 我和宋清朗相戀三年谊却,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片哑芹。...
    茶點故事閱讀 40,021評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡炎辨,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出聪姿,到底是詐尸還是另有隱情碴萧,我是刑警寧澤,帶...
    沈念sama閱讀 35,735評論 5 346
  • 正文 年R本政府宣布末购,位于F島的核電站破喻,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏盟榴。R本人自食惡果不足惜低缩,卻給世界環(huán)境...
    茶點故事閱讀 41,354評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望曹货。 院中可真熱鬧咆繁,春花似錦、人聲如沸顶籽。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,936評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽礼饱。三九已至坏为,卻和暖如春究驴,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背匀伏。 一陣腳步聲響...
    開封第一講書人閱讀 33,054評論 1 270
  • 我被黑心中介騙來泰國打工洒忧, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人够颠。 一個月前我還...
    沈念sama閱讀 48,224評論 3 371
  • 正文 我出身青樓熙侍,卻偏偏與公主長得像,于是被迫代替她去往敵國和親履磨。 傳聞我的和親對象是個殘疾皇子蛉抓,可洞房花燭夜當晚...
    茶點故事閱讀 44,974評論 2 355

推薦閱讀更多精彩內(nèi)容