Kafka的高可用與高性能

一.kafka如何確保高可用(High Availability):

Kafka在0.8版本之前是沒有HA機(jī)制來確保高可用的雁社,當(dāng)某一個(gè)broker掛掉惹恃,partition就掛了启具。即存在單點(diǎn)故障筹吐。0.8之后提供了副本機(jī)制学密,副本機(jī)制會將 一個(gè)broker下某個(gè)topic的一個(gè)partition放入到另外一個(gè)broker里爽航,這個(gè)備份的分區(qū)和原分區(qū)都叫做副本(replica)其监。在所有的副本里萌腿,只能有一個(gè)leader,其余的副本都作為follower抖苦,同一時(shí)間內(nèi)只有l(wèi)eader負(fù)責(zé)讀寫毁菱,follower不起任何作用。這樣做的原因是為了確保消費(fèi)者單調(diào)讀 且 確保能立即讀取寫入的信息(Read-your-writes)锌历。其他所有的follower會異步的拉去leader消息贮庞,拉的快的會進(jìn)入ISR里,拉的慢得超過replica.lag.time.max.ms 配置的超時(shí)值的究西,會被踢進(jìn)OSR里窗慎,這個(gè)過程是動態(tài)的,如果一個(gè)follower開始沒跟上leader的消息寫入速度卤材,被踢出了ISR遮斥,等到跟上后又會重新進(jìn)入ISR。當(dāng)leader掛掉之后扇丛,為了保證高可用性术吗,從ISR中獲取一個(gè)副本,升格為leader帆精。如果ISR全掛了较屿,有兩種策略,一是等待ISR第一個(gè)恢復(fù)的副本卓练,二是開啟unclean從OSR中選擇一個(gè)副本作為leader隘蝎。為保證高可用 可以選擇第二種犧牲一致性的方式。

二.kafka如何保證高性能:

1.分區(qū):

kafka將topic分區(qū)昆庇,每一個(gè)broker里面會保存topic的不同分區(qū)末贾,這樣就可以讓一個(gè)消費(fèi)者組同時(shí)消費(fèi)不同的分區(qū),提高吞吐整吆。一個(gè)消費(fèi)組下只應(yīng)有一個(gè)消費(fèi)者去消費(fèi)一個(gè)分區(qū)拱撵。理想情況下辉川,一個(gè)消費(fèi)者對應(yīng)一個(gè)partition性能最佳。

2.頁緩存:

kafka重度依賴頁緩存技術(shù)拴测,kafka只是將數(shù)據(jù)寫入頁緩存(內(nèi)存)中而不直接操作磁盤乓旗,由操作系統(tǒng)決定什么時(shí)候把頁緩存中數(shù)據(jù)刷到磁盤上。同時(shí)寫入頁緩存的數(shù)據(jù)是按照磁盤順序去寫入的集索,因此刷到磁盤上的速度也較快屿愚。當(dāng)讀操作發(fā)生時(shí),先從頁緩存中查詢是否有所需信息务荆,若沒有才會調(diào)度磁盤妆距。

3. Sendfile:

若頁緩存中沒有所需信息,需要去調(diào)度磁盤函匕。原本網(wǎng)絡(luò)io操作需要四個(gè)步驟 : 硬盤 -> 內(nèi)核態(tài) PageCache -> 用戶態(tài)程序讀取 -> 內(nèi)核態(tài)socket寫入 -> 拷貝至網(wǎng)卡娱据。Sendfile優(yōu)化后,使用零拷貝可以將buffer從內(nèi)核態(tài)和用戶態(tài)間任意切換盅惜。PageCache僅會傳遞一個(gè)文件描述符給socket中剩,就等效于直接從PageCache中拷貝至網(wǎng)卡。少兩步IO操作抒寂。

三.controller選舉機(jī)制

Broker選舉:第一個(gè)啟動的broker會在zk中創(chuàng)建臨時(shí)節(jié)點(diǎn)/controller结啼,利用zk的強(qiáng)一致性,成為唯一的控制器節(jié)點(diǎn)屈芜,而其余的broker會監(jiān)聽該節(jié)點(diǎn)郊愧。隨后由controller決定每個(gè)broker的master,每當(dāng)broker掛掉沸伏,controller會檢測其副本糕珊,重新決定出master。當(dāng)控制器broker斷開時(shí)毅糟,/controller臨時(shí)節(jié)點(diǎn)會刪除,其余連接的broker將收到事件通知澜公,搶占式注冊為新的controller

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末姆另,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子坟乾,更是在濱河造成了極大的恐慌迹辐,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,122評論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件甚侣,死亡現(xiàn)場離奇詭異明吩,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)殷费,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,070評論 3 395
  • 文/潘曉璐 我一進(jìn)店門印荔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來低葫,“玉大人,你說我怎么就攤上這事仍律『傩” “怎么了?”我有些...
    開封第一講書人閱讀 164,491評論 0 354
  • 文/不壞的土叔 我叫張陵水泉,是天一觀的道長善涨。 經(jīng)常有香客問我,道長草则,這世上最難降的妖魔是什么钢拧? 我笑而不...
    開封第一講書人閱讀 58,636評論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮炕横,結(jié)果婚禮上娶靡,老公的妹妹穿的比我還像新娘。我一直安慰自己看锉,他們只是感情好姿锭,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,676評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著伯铣,像睡著了一般呻此。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上腔寡,一...
    開封第一講書人閱讀 51,541評論 1 305
  • 那天焚鲜,我揣著相機(jī)與錄音,去河邊找鬼放前。 笑死忿磅,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的凭语。 我是一名探鬼主播葱她,決...
    沈念sama閱讀 40,292評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼似扔!你這毒婦竟也來了吨些?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,211評論 0 276
  • 序言:老撾萬榮一對情侶失蹤炒辉,失蹤者是張志新(化名)和其女友劉穎豪墅,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體黔寇,經(jīng)...
    沈念sama閱讀 45,655評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡偶器,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,846評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片屏轰。...
    茶點(diǎn)故事閱讀 39,965評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡颊郎,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出亭枷,到底是詐尸還是另有隱情袭艺,我是刑警寧澤,帶...
    沈念sama閱讀 35,684評論 5 347
  • 正文 年R本政府宣布叨粘,位于F島的核電站猾编,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏升敲。R本人自食惡果不足惜答倡,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,295評論 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望驴党。 院中可真熱鬧瘪撇,春花似錦、人聲如沸港庄。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,894評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽鹏氧。三九已至渤涌,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間把还,已是汗流浹背实蓬。 一陣腳步聲響...
    開封第一講書人閱讀 33,012評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留吊履,地道東北人安皱。 一個(gè)月前我還...
    沈念sama閱讀 48,126評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像艇炎,于是被迫代替她去往敵國和親酌伊。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,914評論 2 355

推薦閱讀更多精彩內(nèi)容

  • Design 1. Motivation 我們設(shè)計(jì)Kafka用來作為統(tǒng)一的平臺來處理大公司可能擁有的所有實(shí)時(shí)數(shù)據(jù)源...
    BlackManba_24閱讀 1,376評論 0 8
  • Kafka設(shè)計(jì)解析(六)- Kafka高性能架構(gòu)之道 原創(chuàng)文章冕臭,轉(zhuǎn)載請務(wù)必將下面這段話置于文章開頭處腺晾。本文轉(zhuǎn)發(fā)自技...
    小小少年Boy閱讀 2,727評論 0 13
  • 本文是根據(jù)平時(shí)面試以及網(wǎng)上資源進(jìn)行的整理。希望對小伙伴們面試有幫助辜贵。 消息隊(duì)列的作用和使用場景 通過異步處理提高響...
    王知無閱讀 739評論 0 2
  • 簡介 Kafka從0.8.x版本開始引入副本機(jī)制,這樣可以極大的提高集群的可靠性和穩(wěn)定性归形。不過這也使得Kafka變...
    朱小廝閱讀 1,926評論 0 1
  • 如果有來生托慨,要做一棵樹, 站成永恒暇榴。沒有悲歡的姿勢厚棵, 一半在塵土里安詳蕉世, 一半在風(fēng)里飛揚(yáng); 一半灑落蔭涼婆硬, 一半沐...
    SUPERMAN___閱讀 186評論 0 0