深入理解Kafka設(shè)計(jì):高性能服務(wù)器模型(1)

版權(quán)聲明:本文為博主原創(chuàng)文章唠摹,未經(jīng)博主允許不得轉(zhuǎn)載赌莺。

摘要

Kafka作為一個高性能的消息中間件赃绊,其高效的原因可以歸納為以下這幾個方面:

  • 高性能服務(wù)器模型
  • PageCache
  • Zero-Copy

本文將從源碼層面(基于0.8.2.X)介紹Broker的高性能服務(wù)器模型是如何實(shí)現(xiàn)的胸梆。

高性能服務(wù)器模型

Kafka并沒有采用netty或mina等第三方網(wǎng)絡(luò)應(yīng)用框架悔常,而是直接了當(dāng)?shù)氖褂昧薔IO來實(shí)現(xiàn)服務(wù)器,并在使用了IO多路復(fù)用以及多線程Reactor模式旋讹,這種設(shè)計(jì)的優(yōu)勢是很容易實(shí)現(xiàn)瑰钮,同時也很快冒滩。

官方并沒有在服務(wù)器設(shè)計(jì)上詳細(xì)展開,因此本文將從邏輯結(jié)構(gòu)和源碼方面來分析這個方面的設(shè)計(jì)浪谴,借此了解一下NIO服務(wù)器設(shè)計(jì)的方法及一些細(xì)節(jié)旦部。

SocketServer作為Kafka的NIO服務(wù)器實(shí)現(xiàn)祈搜,其邏輯結(jié)構(gòu)圖如下:


SocketServer邏輯架構(gòu)圖.png

重要組件

  1. Acceptor線程:主要負(fù)責(zé)監(jiān)聽并接受客戶端(包括但不限于Producer,Consumer士八,Broker,Controller梁呈,AdminTool)的連接請求婚度,新連接建立以后指定某個Processor去處理。

  2. Processor線程:負(fù)責(zé)數(shù)據(jù)讀寫官卡,連接關(guān)閉的處理線程蝗茁,其數(shù)目由配置num.network.threads決定,默認(rèn)是3個寻咒。每個Processor內(nèi)部都有自己的newConnections隊(duì)列和selector哮翘。

    • newConnections:一個無界的SocketChannel隊(duì)列,存放新建立的連接毛秘,將Acceptor與Processor的功能解藕饭寺。
    • selector:只使用一個selector來支撐大量連接的事件管理很容易遇到瓶頸,而多個selector并存的結(jié)構(gòu)可以均衡的管理大量連接叫挟。
  3. RequestChannel:包含一個RequestQueue和多個ResponseQueue艰匙。它是網(wǎng)絡(luò)層與API層交換數(shù)據(jù)的地方,同時也使得兩者邏輯解藕和異步化抹恳。

    • RequestQueue:所有的請求都會被封裝成Request并放入RequestQueue中员凝,隊(duì)列大小默認(rèn)500。
    • ResponseQueue:每個Processor都會有對應(yīng)ResponseQueue奋献,KafkaApis業(yè)務(wù)邏輯處理完成后健霹,會將返回結(jié)果封裝成Response,接著由相應(yīng)的Processor來處理該response瓶蚂。而且設(shè)計(jì)上必須保證一對Request和Response都要由同一個Processor來處理糖埋,因?yàn)橹挥羞@個Processor擁有該通信連接。
  4. KafkaRequestHandler線程:這是真正的業(yè)務(wù)邏輯處理線程扬跋,其數(shù)目由配置num.io.threads決定阶捆,默認(rèn)是8個。每個Handler線程都在不斷的從RequestChannel.RequestQueue中獲取新的請求钦听,那些負(fù)載輕的線程才有可能搶到新的請求洒试,因?yàn)樨?fù)載重的線程(也許正在進(jìn)行IO)還沒有空閑來接受下一個新的請求,所以這也算一個潛在的負(fù)載均衡策略吧朴上。

  5. KafkaApis:Broker的所有業(yè)務(wù)邏輯都定義在這里垒棋,其handle方法會根據(jù)Request對象的requestId(對應(yīng)各種業(yè)務(wù)邏輯,其定義可以在類RequestKeys中看到)痪宰,將請求分發(fā)給對應(yīng)的業(yè)務(wù)邏輯處理方法叼架。當(dāng)處理完成以后畔裕,可能會將處理結(jié)果封裝成Response返回給對應(yīng)的RequestChannel.ResponseQueue。

總結(jié)

這一節(jié)主要是從總體上介紹了Broker服務(wù)器模型的各種重要的組件乖订,下一節(jié)我們將結(jié)合源碼分析一下請求處理的流程:
深入理解Kafka設(shè)計(jì):高性能服務(wù)器模型(2)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末扮饶,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子乍构,更是在濱河造成了極大的恐慌甜无,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,635評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件哥遮,死亡現(xiàn)場離奇詭異岂丘,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)眠饮,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評論 3 399
  • 文/潘曉璐 我一進(jìn)店門奥帘,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人仪召,你說我怎么就攤上這事寨蹋。” “怎么了返咱?”我有些...
    開封第一講書人閱讀 168,083評論 0 360
  • 文/不壞的土叔 我叫張陵钥庇,是天一觀的道長。 經(jīng)常有香客問我咖摹,道長评姨,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,640評論 1 296
  • 正文 為了忘掉前任萤晴,我火速辦了婚禮吐句,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘店读。我一直安慰自己嗦枢,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,640評論 6 397
  • 文/花漫 我一把揭開白布屯断。 她就那樣靜靜地躺著文虏,像睡著了一般。 火紅的嫁衣襯著肌膚如雪殖演。 梳的紋絲不亂的頭發(fā)上氧秘,一...
    開封第一講書人閱讀 52,262評論 1 308
  • 那天,我揣著相機(jī)與錄音趴久,去河邊找鬼丸相。 笑死,一個胖子當(dāng)著我的面吹牛彼棍,可吹牛的內(nèi)容都是我干的灭忠。 我是一名探鬼主播膳算,決...
    沈念sama閱讀 40,833評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼弛作!你這毒婦竟也來了涕蜂?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,736評論 0 276
  • 序言:老撾萬榮一對情侶失蹤映琳,失蹤者是張志新(化名)和其女友劉穎宇葱,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體刊头,經(jīng)...
    沈念sama閱讀 46,280評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,369評論 3 340
  • 正文 我和宋清朗相戀三年诸尽,在試婚紗的時候發(fā)現(xiàn)自己被綠了原杂。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,503評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡您机,死狀恐怖穿肄,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情际看,我是刑警寧澤咸产,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站仲闽,受9級特大地震影響脑溢,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜赖欣,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,870評論 3 333
  • 文/蒙蒙 一屑彻、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧顶吮,春花似錦社牲、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,340評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至湃交,卻和暖如春熟空,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背巡揍。 一陣腳步聲響...
    開封第一講書人閱讀 33,460評論 1 272
  • 我被黑心中介騙來泰國打工痛阻, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人腮敌。 一個月前我還...
    沈念sama閱讀 48,909評論 3 376
  • 正文 我出身青樓阱当,卻偏偏與公主長得像俏扩,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子弊添,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,512評論 2 359

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理录淡,服務(wù)發(fā)現(xiàn),斷路器油坝,智...
    卡卡羅2017閱讀 134,701評論 18 139
  • kafka的定義:是一個分布式消息系統(tǒng)嫉戚,由LinkedIn使用Scala編寫,用作LinkedIn的活動流(Act...
    時待吾閱讀 5,326評論 1 15
  • 摘要 KafkaServer作為整個Broker的核心澈圈,它管理著所有的功能模塊(例如:ReplicaManager...
    小吳醬呵呵閱讀 364評論 0 1
  • 本文轉(zhuǎn)載自http://dataunion.org/?p=9307 背景介紹Kafka簡介Kafka是一種分布式的...
    Bottle丶Fish閱讀 5,475評論 0 34
  • 背景介紹 Kafka簡介 Kafka是一種分布式的彬檀,基于發(fā)布/訂閱的消息系統(tǒng)。主要設(shè)計(jì)目標(biāo)如下: 以時間復(fù)雜度為O...
    高廣超閱讀 12,841評論 8 167