Plusar主題運維特性

Mafka&Plusar主題運維特性

目錄

分區(qū)主題API

Create a partitioned topic.

Delete a partitioned topic.

Set the replication clusters for a topic.

Remove the replication clusters from a topic.

Truncate a topic.

Unload a topic

update the number of partitions on an existing partitioned topic (分區(qū)必須擴容,不能縮容)

主題Bundle特性

Pulsar 實現(xiàn)了 Broker 的動態(tài)負載均衡,無需管理員手工干預蓬豁。Pulsar 從架構上分離了存儲層和計算層像寒,可以更加靈活地分配 Broker 與主題的映射關系。Pulsar Broker 將消息持久化保存到存儲服務器,當在 Broker 之間重平衡主題時,無需將消息從一個 Broker 復制到另一個 Broker。在這種情況下萄传,新加入的 Broker 只需要查找 Metadata Store 并指向主題消息所在的正確存儲服務器即可。

對于高寫入負載蜜猾,如果所有 Bookie 都已滿秀菱,只需增加更多的 Bookie,新的消息條目(即新的 Ledger)即可存儲到這些新的 Bookie 上蹭睡。通過這種分段設計衍菱,在存儲擴展期間 Pulsar 無需從 Bookie 中重新復制舊消息。對于高讀取負載肩豁,Pulsar 將消息緩存在 Broker 內(nèi)存中脊串,所以 Bookie 的讀負載會顯著卸載到 Broker 上辫呻,而 Broker 是負載均衡的。

Pulsar 計算層(Broker)和存儲層(Bookie)分離的一大優(yōu)勢是 Pulsar Broker 是無狀態(tài)的琼锋,基于動態(tài) Bundle 歸屬可以實現(xiàn)良好的水平擴展性放闺。當 Broker 過載后,可以輕松地將更多 Broker 加入集群并重新分配 Bundle 歸屬關系缕坎。

Pulsar 通過 Bundle 將主題分組以便于跟蹤怖侦,并在 Broker 之間動態(tài)地分配和平衡 Bundle。如果特定的 Bundle 發(fā)生過載念赶,則自動進行拆分础钠,將分配單元維護在合理的流量水平恰力。

Pulsar 將 Broker 全局負載數(shù)據(jù)(CPU叉谜、內(nèi)存以及網(wǎng)絡使用率)以及 Bundle 負載數(shù)據(jù)(消息輸入/輸出速率)收集到 Leader Broker,以運行負載均衡算法邏輯:執(zhí)行 Bundle-Broker 分配踩萎、Bundle 拆分和卸載(縮減)停局。

Bundle-Broker 分配邏輯隨機選擇負載最少的 Broker,并將客戶端重定向到分配的 Broker URL香府。Broker-Bundle 歸屬關系會在 Metadata Store 中創(chuàng)建臨時鎖董栽,如果 Owner 不可用(失去歸屬權)則會自動釋放鎖

主題Segment特性


存儲服務的分層的架構和以Segment為中心的存儲是Pulsar(使用BookKeeper)的兩個關鍵設計理念。 這兩個基礎為Pulsar提供了許多重要的好處:

無限制的主題分區(qū)存儲

即時擴展企孩,無需數(shù)據(jù)遷移

無縫Broker故障恢復

無縫集群擴展

無縫的存儲(Bookie)故障恢復

獨立的可擴展性

Mafka VS Pulsar

Apache Pulsar和Apache Kafka之間的根本區(qū)別在于Apache Kafka是以分區(qū)為存儲中心锭碳,而Apache Pulsar是以Segment為存儲中心。

對比優(yōu)劣

Mafka在Apache Kafka中勿璃,分區(qū)只能存儲在單個節(jié)點上并復制到其他節(jié)點擒抛,其容量受最小節(jié)點容量的限制。這意味著容量擴展需要對分區(qū)重新平衡补疑,這反過來又需要重新復制整個分區(qū)歧沪,以平衡新添加的代理的數(shù)據(jù)和流量。

Pulsar在Apache Pulsar中莲组,同樣是以分區(qū)為邏輯單元诊胞,但是以Segment為物理存儲單元。分區(qū)隨著時間的推移會進行分段锹杈,并在整個集群中均衡分布撵孤,旨在有效地迅速地擴展

Pulsar是以Segment為中心的,因此在擴展容量時不需要數(shù)據(jù)重新平衡和拷貝竭望,舊數(shù)據(jù)不會被重新復制

參考

https://pulsar.apache.org/admin-rest-api/#tag/persistent-topic

https://pulsar.apache.org/docs/2.6.0/admin-api-partitioned-topics

https://mp.weixin.qq.com/s?__biz=MzUyMjkzMjA1Ng==&mid=2247491872&idx=1&sn=538df7ad042d43bc40d96cf78f1e8525&scene=21#wechat_redirect

https://mp.weixin.qq.com/s?__biz=MzUyMjkzMjA1Ng==&mid=2247491872&idx=1&sn=538df7ad042d43bc40d96cf78f1e8525&scene=21#wechat_redirect

https://mp.weixin.qq.com/s?__biz=MzUyMjkzMjA1Ng==&mid=2247483974&idx=1&sn=a6ac19e4fb6ce09713414fb07b647558&scene=21#wechat_redirect

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末早直,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子市框,更是在濱河造成了極大的恐慌霞扬,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,188評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異喻圃,居然都是意外死亡萤彩,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,464評論 3 395
  • 文/潘曉璐 我一進店門斧拍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來雀扶,“玉大人,你說我怎么就攤上這事肆汹∮弈梗” “怎么了?”我有些...
    開封第一講書人閱讀 165,562評論 0 356
  • 文/不壞的土叔 我叫張陵昂勉,是天一觀的道長浪册。 經(jīng)常有香客問我,道長岗照,這世上最難降的妖魔是什么村象? 我笑而不...
    開封第一講書人閱讀 58,893評論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮攒至,結果婚禮上厚者,老公的妹妹穿的比我還像新娘。我一直安慰自己迫吐,他們只是感情好库菲,可當我...
    茶點故事閱讀 67,917評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著志膀,像睡著了一般熙宇。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上梧却,一...
    開封第一講書人閱讀 51,708評論 1 305
  • 那天奇颠,我揣著相機與錄音,去河邊找鬼放航。 笑死烈拒,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的广鳍。 我是一名探鬼主播荆几,決...
    沈念sama閱讀 40,430評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼赊时!你這毒婦竟也來了吨铸?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,342評論 0 276
  • 序言:老撾萬榮一對情侶失蹤祖秒,失蹤者是張志新(化名)和其女友劉穎诞吱,沒想到半個月后舟奠,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,801評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡房维,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,976評論 3 337
  • 正文 我和宋清朗相戀三年沼瘫,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片咙俩。...
    茶點故事閱讀 40,115評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡耿戚,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出阿趁,到底是詐尸還是另有隱情膜蛔,我是刑警寧澤,帶...
    沈念sama閱讀 35,804評論 5 346
  • 正文 年R本政府宣布脖阵,位于F島的核電站皂股,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏独撇。R本人自食惡果不足惜屑墨,卻給世界環(huán)境...
    茶點故事閱讀 41,458評論 3 331
  • 文/蒙蒙 一躁锁、第九天 我趴在偏房一處隱蔽的房頂上張望纷铣。 院中可真熱鬧,春花似錦战转、人聲如沸搜立。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,008評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽啄踊。三九已至,卻和暖如春刁标,著一層夾襖步出監(jiān)牢的瞬間颠通,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,135評論 1 272
  • 我被黑心中介騙來泰國打工膀懈, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留顿锰,地道東北人。 一個月前我還...
    沈念sama閱讀 48,365評論 3 373
  • 正文 我出身青樓启搂,卻偏偏與公主長得像硼控,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子胳赌,可洞房花燭夜當晚...
    茶點故事閱讀 45,055評論 2 355

推薦閱讀更多精彩內(nèi)容