Apache Pulsar 多層抽象layer2-broker睛廊、Cursor追蹤

broker簡(jiǎn)介:

pulsar broker是無狀態(tài)的,Bookeeper集群本身并不執(zhí)行復(fù)制旭咽,每個(gè)Bookies只是一個(gè)跟隨者被領(lǐng)導(dǎo)者同志做什么贞奋,領(lǐng)導(dǎo)人是Pulsar Broker。每個(gè)Topic都由一個(gè)Pulsar Broker擁有穷绵,該Broker提供Topic的所有讀寫操作轿塔。

寫操作

Pulsar 的寫流程如下圖:


image.png

Pulsar Broker 接收到 client 的請(qǐng)求后,依據(jù) Topic 所使用的 Ensemble 集合以及相關(guān)參數(shù)仲墨,把數(shù)據(jù)寫入 Qw 個(gè) Bookie勾缭,收到 Qa 個(gè) Bookie 的回應(yīng)后,可以認(rèn)為寫成功并向生產(chǎn)者客戶端發(fā)送確認(rèn)宗收。至于 Ensemble 的選擇漫拭,則由 Pulsar Broker Leader相應(yīng)的策略在創(chuàng)建 Topic 的時(shí)候從 Bookie 集合中選擇。
如果寫流程中有 Bookie 返回錯(cuò)誤或者超時(shí)沒有返回混稽,則 Broker 會(huì)用新的 Bookie 替換采驻,并把數(shù)據(jù)寫入其中的 Ledger/Fragment上。通過這個(gè) Ensemble Change 的方法能夠保證 Pulsar 肯定能夠?qū)懗晒π傺皇怯捎谀硞€(gè)節(jié)點(diǎn)故障導(dǎo)致寫流程阻塞住進(jìn)而影響后面 Entry 的寫流程礼旅。

讀操作

Pulsar Consumer 讀取消息的不需要關(guān)心數(shù)據(jù)數(shù)據(jù)存儲(chǔ)所在的介質(zhì),因?yàn)?Pulsar 很好的使用了緩存功能以提高讀取速度洽洁,并利用分級(jí)方式降低存儲(chǔ)成本痘系。


image.png

Pulsar 的讀流程如下圖:


image.png
  • setp1:Kafka 的 Consumer 會(huì)從 Partition 對(duì)應(yīng)的 leader Broker 上讀取數(shù)據(jù),Pulsar 的 client 是從 Topic/Partition owner 對(duì)應(yīng)的 Broker 讀取數(shù)據(jù)饿自。如果該 Broker 有緩存汰翠,則直接返回相應(yīng)數(shù)據(jù),否則就從任一個(gè) Bookie 讀取數(shù)據(jù)并返回給 client昭雌。
  • setp2:一個(gè)新的 Pulsar Broker 發(fā)起讀取請(qǐng)求之前复唤,需要知道 Pulsar 集群的 LAC,Broker 會(huì)向所有 Bookie 發(fā)送獲取 LAC 請(qǐng)求烛卧,得到大多數(shù)回復(fù)后即可計(jì)算出一個(gè)安全的 LAC 值佛纫,這個(gè)流程就是采用了 Quorum Read 的方式。
  • setp3:Pulsar Broker 獲取可靠的 LAC 之后,其讀取可以從任一 Bookie 開始呈宇,如果在限定時(shí)間內(nèi)沒有響應(yīng)則給第二個(gè) Bookie 發(fā)送讀取請(qǐng)求好爬,然后同時(shí)等待這兩個(gè) Bookie,誰先響應(yīng)就意味著讀取成功甥啄,這個(gè)流程稱之為 Speculative Read(推測(cè)式讀却媾凇)。

Cursor追蹤

每個(gè)Subscription都存儲(chǔ)一個(gè)Cursor型豁。Cursor是日志中的當(dāng)前偏移量僵蛛。Subscription將其Cursor存儲(chǔ)至BookKeeper的Ledger中尚蝌。這使Cursor跟蹤可以像Topic一樣進(jìn)行擴(kuò)展迎变。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市飘言,隨后出現(xiàn)的幾起案子衣形,更是在濱河造成了極大的恐慌,老刑警劉巖姿鸿,帶你破解...
    沈念sama閱讀 216,496評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件谆吴,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡苛预,警方通過查閱死者的電腦和手機(jī)句狼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來热某,“玉大人腻菇,你說我怎么就攤上這事∥舨觯” “怎么了筹吐?”我有些...
    開封第一講書人閱讀 162,632評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)秘遏。 經(jīng)常有香客問我丘薛,道長(zhǎng),這世上最難降的妖魔是什么邦危? 我笑而不...
    開封第一講書人閱讀 58,180評(píng)論 1 292
  • 正文 為了忘掉前任洋侨,我火速辦了婚禮,結(jié)果婚禮上倦蚪,老公的妹妹穿的比我還像新娘希坚。我一直安慰自己,他們只是感情好审丘,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,198評(píng)論 6 388
  • 文/花漫 我一把揭開白布吏够。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪锅知。 梳的紋絲不亂的頭發(fā)上播急,一...
    開封第一講書人閱讀 51,165評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音售睹,去河邊找鬼桩警。 笑死,一個(gè)胖子當(dāng)著我的面吹牛昌妹,可吹牛的內(nèi)容都是我干的捶枢。 我是一名探鬼主播,決...
    沈念sama閱讀 40,052評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼飞崖,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼烂叔!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起固歪,我...
    開封第一講書人閱讀 38,910評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤蒜鸡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后牢裳,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體逢防,經(jīng)...
    沈念sama閱讀 45,324評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,542評(píng)論 2 332
  • 正文 我和宋清朗相戀三年蒲讯,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了忘朝。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,711評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡判帮,死狀恐怖局嘁,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情脊另,我是刑警寧澤导狡,帶...
    沈念sama閱讀 35,424評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站偎痛,受9級(jí)特大地震影響旱捧,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜踩麦,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,017評(píng)論 3 326
  • 文/蒙蒙 一枚赡、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧谓谦,春花似錦贫橙、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,668評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽疲迂。三九已至,卻和暖如春莫湘,著一層夾襖步出監(jiān)牢的瞬間尤蒿,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,823評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工幅垮, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留腰池,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,722評(píng)論 2 368
  • 正文 我出身青樓忙芒,卻偏偏與公主長(zhǎng)得像示弓,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子呵萨,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,611評(píng)論 2 353