kafka面試題

本文及其他文章僅為學(xué)習(xí)筆記俯在,本文轉(zhuǎn)自http://www.kafka.cc/category/interview2/

1. kafka主要特征

? ? kafka具有近乎實時性的消息處理能力寒锚,面對海量數(shù)據(jù)淆九,高效的存儲消息和查詢消息吩案。kafka將消息保存在磁盤中锥忿,以順序讀寫的方式訪問磁盤患民,從而避免了隨機(jī)讀寫磁盤導(dǎo)致的性能瓶頸

? ? kafka支持批量讀寫消息录粱,并且對消息批量壓縮掘剪,提高了網(wǎng)絡(luò)利用率和壓縮效率

? ? kafka支持消息分區(qū)平委,每個分區(qū)中的消息保證順序傳輸,而分區(qū)之間可以并發(fā)操作夺谁,提高了kafka的并發(fā)能力

? ? kafka支持在線增加分區(qū)廉赔,支持在線水平擴(kuò)展

? ? kafka支持為每個分區(qū)創(chuàng)建多個副本,其中只會有一個leader副本負(fù)責(zé)讀寫匾鸥,其他副本只負(fù)責(zé)與leader副本同步蜡塌,這種方式提高了數(shù)據(jù)的容災(zāi)能力,kafka會將leader副本均勻的分布在集群中的服務(wù)器上扫腺,實現(xiàn)性能最大化

2. 列舉kafka的應(yīng)用場景

3. kafka主題分區(qū)的作用

? ? kafka的每個topic都可以分為多個partition岗照,每個partition都有多個replica(副本),每個分區(qū)中的消息是不同的,提高了并發(fā)讀寫的能力攒至,而同一分區(qū)的不同副本中保存的是相同的消息厚者,副本之間是一主多從關(guān)系,其中l(wèi)eader副本處理讀寫請求迫吐,follower副本只與leader副本進(jìn)行消息同步库菲,當(dāng)leader副本出現(xiàn)故障時,則從follower副本中重新選舉leader副本對外提供服務(wù)志膀。這樣熙宇,通過提高分區(qū)的數(shù)量,就可以實現(xiàn)水平擴(kuò)展溉浙,通過提高副本數(shù)量烫止,就可以提高容災(zāi)能力

4. consumer水平擴(kuò)展如何實現(xiàn)

? ? kafka支持consumer水平擴(kuò)展,可以讓多個consumer加入一個consumer group戳稽,在一個consumer group中馆蠕,每個分區(qū)只能分配給一個consumer,當(dāng)kafka服務(wù)端增加分區(qū)數(shù)量進(jìn)行水平擴(kuò)展后惊奇,可以向consumer group中增加新的consumer來提高整個consumer group的消費能力互躬,當(dāng)consumer group 中的一個consumer出現(xiàn)故障下線時,會通過rebalance操作下線consumer颂郎,它負(fù)責(zé)處理的分區(qū)將分配給其他consumer吼渡。。乓序。

5. 消息的順序

? ? kafka保證一個partition內(nèi)消息是有序的寺酪,但是并不保證多個partition之間的數(shù)據(jù)有順序,每個topic可以劃分成多個分區(qū)替劈,同一個topic下的不同分區(qū)包含的消息是不同的房维,每個消息在被添加到分區(qū)時,都會被分配一個offset抬纸,它是此消息在分區(qū)中的唯一編號,kafka通過offset保證消息在分區(qū)內(nèi)的順序耿戚,offset順序不跨分區(qū)湿故,即kafka只保證在同一個分區(qū)內(nèi)的消息是有序的

6. 為了避免磁盤被占滿,kafka會周期性的刪除陳舊的消息膜蛔,刪除策略是什么

? ? 一種是根據(jù)消息保留的時間

? ? 一種是根據(jù)topic存儲的數(shù)據(jù)大小

7. 什么是日志壓縮

? ? 在很多場景中坛猪,消息的key與value之間的對應(yīng)關(guān)系是不斷變化的,消費者只關(guān)心key對應(yīng)的最新value皂股,此時墅茉,可以開啟kafka的日志壓縮功能,kafka會在后臺啟動一個線程,定期將相同key的消息進(jìn)行合并就斤,只保留最新的value值

8. 什么是broker悍募?作用是什么?

? ? 一個單獨的kafka server就是一個broker,broker主要工作就是接收生產(chǎn)者發(fā)過來的消息洋机,分配offset坠宴,之后保存到磁盤中。同時绷旗,接收消費者喜鼓、其他broker的請求,根據(jù)請求類型進(jìn)行相應(yīng)的處理并返回響應(yīng)衔肢,在一般的生產(chǎn)環(huán)境中庄岖,一個broker獨占一臺物理服務(wù)器

9. 同一分區(qū)的多個副本包括的消息是否一致?

? ? 每個副本中包含的消息是一樣的角骤,但是再同一時刻隅忿,副本之間并不是完全一樣的

10. ISR集合是什么?誰維護(hù)著启搂?如何維護(hù)硼控?

? ? ISR(In-Sync Replica)集合表示的是目前可用并且消息量與leader相差不多的副本集合,這是整個副本集合的一個子集

? ? ISR集合的副本必須滿足:副本所在節(jié)點必須維持著與zookeeper的連接胳赌;副本最后一條消息的offset與leader副本最后一條消息的offset之間的差值不能超出指定的閾值

? ? 每個分區(qū)的leader副本都會維護(hù)此分區(qū)的ISR集合牢撼,寫請求首先由leader副本處理,之后follower副本會從leader副本上拉取寫入的消息疑苫,這個過程會有一定的延遲熏版,導(dǎo)致follower副本中保存的消息略少于leader副本,只要未超出閾值都是可以容忍的

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末捍掺,一起剝皮案震驚了整個濱河市撼短,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌挺勿,老刑警劉巖曲横,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異不瓶,居然都是意外死亡禾嫉,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進(jìn)店門蚊丐,熙熙樓的掌柜王于貴愁眉苦臉地迎上來熙参,“玉大人,你說我怎么就攤上這事麦备∧跻” “怎么了昭娩?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長黍匾。 經(jīng)常有香客問我栏渺,道長,這世上最難降的妖魔是什么膀捷? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任迈嘹,我火速辦了婚禮,結(jié)果婚禮上全庸,老公的妹妹穿的比我還像新娘秀仲。我一直安慰自己,他們只是感情好壶笼,可當(dāng)我...
    茶點故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布神僵。 她就那樣靜靜地躺著,像睡著了一般覆劈。 火紅的嫁衣襯著肌膚如雪保礼。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天责语,我揣著相機(jī)與錄音炮障,去河邊找鬼。 笑死坤候,一個胖子當(dāng)著我的面吹牛胁赢,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播白筹,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼智末,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了徒河?” 一聲冷哼從身側(cè)響起系馆,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎顽照,沒想到半個月后由蘑,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡代兵,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年纵穿,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片奢人。...
    茶點故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖淆院,靈堂內(nèi)的尸體忽然破棺而出何乎,到底是詐尸還是另有隱情句惯,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布支救,位于F島的核電站抢野,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏各墨。R本人自食惡果不足惜指孤,卻給世界環(huán)境...
    茶點故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望贬堵。 院中可真熱鬧恃轩,春花似錦、人聲如沸黎做。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽蒸殿。三九已至筷厘,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間宏所,已是汗流浹背酥艳。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留爬骤,地道東北人充石。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像盖腕,于是被迫代替她去往敵國和親赫冬。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容