Apache Pulsar 多層抽象layer3-Bookie存儲

Ledgers和Fragments是在Zookeeper中維護(hù)和跟蹤的邏輯結(jié)構(gòu)。物理上數(shù)據(jù)不存儲在Ledgers和Fragments對應(yīng)的文件中群叶。BookKeeper中存儲的實現(xiàn)是可拔插的,Pulsar默認(rèn)使用名稱為DbLedgerStorage的存儲實現(xiàn)问词。

Pulsar 的數(shù)據(jù)最終是靠 Bookkeeper(Bookie) 存儲的桃犬,各個 Pulsar Bookie 之間是平等的,kafka 的存儲節(jié)點在 Partition 層次上有主從之分垛孔。
pulsar單個 Broker 數(shù)據(jù)寫流程如下:

  • 1 將寫請求記入 WAL【類似于數(shù)據(jù)庫的 Journal 文件】

一般把 WAL 和數(shù)據(jù)存儲文件分別存儲到兩種存儲盤上,如把 WAL 存入一個 SSD 盤施敢,而數(shù)據(jù)文件存入另一個 SSD 或者 SATA 盤周荐。

  • 2 將數(shù)據(jù)寫入內(nèi)存緩存中。

  • 3 寫緩存寫滿后或達(dá)到時間閾值時僵娃,進(jìn)行數(shù)據(jù)排序并刷盤概作,排序時將同一個ledger的數(shù)據(jù)聚合后按照時間先后進(jìn)行排序磨澡。

  • 4 將 <(LedgerID, EntryID), EntryLogID> 寫入 RocksDB

LedgerID 相當(dāng)于 kafka 的 ParitionID爪膊,EntryID 即是 Log Message 的邏輯 ID杨箭,EntryLogId 就是 Log消息在 Pulsar Fragment文件的物理 Offset缩抡。
這里把這個映射關(guān)系存儲 RocksDB 只是為了加快寫入速度,其自身并不是 Pulsar Bookie 的關(guān)鍵組件拐辽。

image.png

讀:
1 從寫緩存讀取數(shù)據(jù)【因為寫緩存有最新的數(shù)據(jù)】焚碌;
2 如果寫緩存不命中媒鼓,則從讀緩存讀取數(shù)據(jù)垃僚;
3 如果讀緩存不命中集绰,則根據(jù) RocksDB 存儲的映射關(guān)系查找消息對應(yīng)的物理存儲位置,然后從磁盤上讀取數(shù)據(jù)谆棺;
4 把從磁盤讀取的數(shù)據(jù)回填到讀緩存中栽燕;
5 把數(shù)據(jù)返回給 Broker。

寫:
Bookie 的整個寫入流程除了自身把內(nèi)存緩存數(shù)據(jù)批量刷盤一步外改淑,整個流程幾乎不需要跟磁盤進(jìn)行IO碍岔,所以速度也是極快。
寫入都按順序?qū)懭肴罩疚募梢源鎯υ趯S玫拇疟P上朵夏,并且可以批量刷盤以獲得搞得吞吐量蔼啦。除此之外從寫入操作來看沒有其他的同步磁盤IO操作,數(shù)據(jù)都是寫入到內(nèi)存的緩存區(qū)仰猖。

總結(jié)

DbLedgerStorage

上圖為Pulsar默認(rèn)使用的bookie架構(gòu)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末捏肢,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子饥侵,更是在濱河造成了極大的恐慌鸵赫,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,430評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件躏升,死亡現(xiàn)場離奇詭異辩棒,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)膨疏,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,406評論 3 398
  • 文/潘曉璐 我一進(jìn)店門一睁,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人佃却,你說我怎么就攤上這事者吁。” “怎么了双霍?”我有些...
    開封第一講書人閱讀 167,834評論 0 360
  • 文/不壞的土叔 我叫張陵砚偶,是天一觀的道長。 經(jīng)常有香客問我洒闸,道長染坯,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,543評論 1 296
  • 正文 為了忘掉前任丘逸,我火速辦了婚禮单鹿,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘深纲。我一直安慰自己仲锄,他們只是感情好劲妙,可當(dāng)我...
    茶點故事閱讀 68,547評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著儒喊,像睡著了一般镣奋。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上怀愧,一...
    開封第一講書人閱讀 52,196評論 1 308
  • 那天侨颈,我揣著相機(jī)與錄音,去河邊找鬼芯义。 笑死哈垢,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的扛拨。 我是一名探鬼主播耘分,決...
    沈念sama閱讀 40,776評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼绑警!你這毒婦竟也來了求泰?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,671評論 0 276
  • 序言:老撾萬榮一對情侶失蹤待秃,失蹤者是張志新(化名)和其女友劉穎拜秧,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體章郁,經(jīng)...
    沈念sama閱讀 46,221評論 1 320
  • 正文 獨居荒郊野嶺守林人離奇死亡枉氮,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,303評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了暖庄。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片聊替。...
    茶點故事閱讀 40,444評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖培廓,靈堂內(nèi)的尸體忽然破棺而出惹悄,到底是詐尸還是另有隱情,我是刑警寧澤肩钠,帶...
    沈念sama閱讀 36,134評論 5 350
  • 正文 年R本政府宣布泣港,位于F島的核電站,受9級特大地震影響价匠,放射性物質(zhì)發(fā)生泄漏当纱。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,810評論 3 333
  • 文/蒙蒙 一踩窖、第九天 我趴在偏房一處隱蔽的房頂上張望坡氯。 院中可真熱鬧,春花似錦、人聲如沸箫柳。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,285評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽悯恍。三九已至库糠,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間坪稽,已是汗流浹背曼玩。 一陣腳步聲響...
    開封第一講書人閱讀 33,399評論 1 272
  • 我被黑心中介騙來泰國打工鳞骤, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留窒百,地道東北人。 一個月前我還...
    沈念sama閱讀 48,837評論 3 376
  • 正文 我出身青樓豫尽,卻偏偏與公主長得像篙梢,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子美旧,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,455評論 2 359