rocketMq-consumer介紹

系列

rocketMq概念介紹

rocketMq-namesrv介紹

rocketMq-Topic創(chuàng)建過程

rocketMq-producer介紹

rocketMq-consumer介紹

rocketMq - rebalance介紹

rocketMq - 并發(fā)消費(fèi)過程

rocketMq - 串行消費(fèi)過程

rocketMq-broker介紹

rocketMq-broker消息存儲介紹

rocketMq - commitLog

rocketMq - index介紹

rocketMq-延遲消息介紹

rocketMq-事務(wù)消息介紹

rocketMq消息查詢

rocketMq和kafka的架構(gòu)區(qū)別

rocketMq - master/slave同步


說到rocketMq的consumer撤缴,該篇文章特指pushConsumer垂蜗,pullConsumer在后續(xù)文章中在分享讲仰。

提到consumer抗斤,需要搞清楚幾個核心問題登钥,分別是consumer的初始化過程做了哪些事情,消息是如何消費(fèi)吭敢,consumer如何動態(tài)平衡的埂奈,整個邏輯還是比較繞的,其中這章節(jié)主要會講清楚兩個事情奈应,1澜掩、初始化過程中client做了哪些事情;2杖挣、consumer如何動態(tài)平衡拉取任務(wù)肩榕,具體的任務(wù)消費(fèi)會由額外的一章進(jìn)行講解。


consumer的初始化過程

consumer初始化過程

說明:整體執(zhí)行過程如下惩妇,著重介紹subscribe和start兩個過程

? ? 1株汉、創(chuàng)建consumer并設(shè)置消費(fèi)分組

? ? 2、設(shè)置消費(fèi)位移

? ? 3歌殃、設(shè)置訂閱topic

? ? 4乔妈、設(shè)置消費(fèi)執(zhí)行的回調(diào)函數(shù)

? ? 5、啟動consumer


consumer的初始化流程圖


初始化流程圖


consumer內(nèi)部初始化過程

說明:整個初始化比較復(fù)雜氓皱,為了大家能夠理解路召,先用簡單的語句概述一遍

? ? 1、構(gòu)建consumer的訂閱信息波材,包括consumer本身的訂閱和消費(fèi)分組的重試隊列股淡。

? ? 2、創(chuàng)建Rebalance服務(wù)廷区,該服務(wù)每隔20s進(jìn)行消費(fèi)端負(fù)責(zé)的messageQueue的消費(fèi)唯灵。

? ? 3、啟動消費(fèi)偏移量獲取服務(wù)隙轻,獲取上一次消費(fèi)位移埠帕。

? ? 4垢揩、啟動定時任務(wù),其中核心任務(wù)之一是定時去namesrv拉取broker信息敛瓷。

? ? 5叁巨、啟動pullMessageService,負(fù)責(zé)從broker拉取待消費(fèi)消息

? ? 6琐驴、啟動rebalanceService俘种,負(fù)責(zé)定期調(diào)整consumer端負(fù)載均衡包括第一次觸發(fā)拉取任務(wù)

? ? 7秤标、其中rebalanceService和pullMessageService相互配合使用绝淡,前者負(fù)責(zé)將新加入messageQueue拉取任務(wù)加入到pullMessageservice當(dāng)中,將舊的messageQueue的拉取任務(wù)從pullMessageService中停止苍姜,兩者之間通過消息隊列的形式進(jìn)行通信牢酵。


構(gòu)建subscription過程

構(gòu)建subscribe信息

說明:參見DefaultMQPushConsumerImpl類

? ? 1、訂閱消息最后保存至RebalanceImpl當(dāng)中衙猪,因為這個是后面動態(tài)負(fù)載均衡的核心馍乙。


client端啟動過程

consumer啟動過程-注冊訂閱消息過程

說明:參見DefaultMQPushConsumerImpl類


consumer啟動過程-注冊回調(diào)函數(shù)并啟動一系列服務(wù)

說明:參見DefaultMQPushConsumerImpl類

? ? 1、啟動了獲取消費(fèi)進(jìn)度的服務(wù)


consumer核心邏輯-啟動核心消費(fèi)邏輯

說明:參見MQClientInstance類

? ? 1垫释、啟動定時任務(wù)丝格,主要是從namsrv中拉取broker的信息

? ? 2、啟動client從broker拉取消息的服務(wù)

? ? 3棵譬、啟動Rebalance服務(wù)显蝌,負(fù)責(zé)觸發(fā)消息拉取的任務(wù)

? ? 4、步驟3和步驟4之間的兩個服務(wù)通過消息隊列通信


定時拉取broker信息

說明:參見MQClientInstance類

? ? 1订咸、負(fù)責(zé)從namesrv拉取broker的信息


拉取任務(wù)的執(zhí)行過程

定時獲取拉取任務(wù)執(zhí)行消息拉取

說明:參見PullMessageService類

? ? 1曼尊、負(fù)責(zé)從pullRequestQueue中獲取拉取任務(wù)并執(zhí)行,該任務(wù)由Rebalance服務(wù)投遞


拉取任務(wù)的生成過程

定期動態(tài)消費(fèi)負(fù)載均衡

說明:參見RebalanceService類

? ? 1脏嚷、consumer端負(fù)載均衡的入口


針對每個consumer動態(tài)調(diào)整負(fù)載均衡

說明:參見MQClientInstance類

? ? 1骆撇、每個consumer客戶端只會有一個對象,所以這里for循環(huán)只有一次父叙。


針對每個topic進(jìn)行負(fù)載均衡

說明:參見MQClientInstance類

1神郊、針對每個訂閱信息都進(jìn)行動態(tài)負(fù)責(zé)均衡,包括consumer本身的訂閱分組和consumerGroup的重試分組趾唱。


針對topic下的messageQueue和consumer進(jìn)行動態(tài)負(fù)載均衡

說明:參見RebalanceImpl類

? ? 1屿岂、動態(tài)負(fù)載均衡就是一個topic下所有的messageQueue和消費(fèi)分組里面的消費(fèi)者按照一定的動態(tài)調(diào)整策略進(jìn)行分配,同一個消費(fèi)分組里面的消費(fèi)者每人負(fù)責(zé)一部分的messageQueue鲸匿。


動態(tài)調(diào)整拉取任務(wù)

說明:參見RebalanceImpl類

? ? 1爷怀、consumer新負(fù)責(zé)的messageQueue加入到拉取任務(wù)當(dāng)中來

? ? ? ? 2、consumer不負(fù)責(zé)的messageQueue從拉取任務(wù)中剔除带欢。



新增消息拉取任務(wù)

說明:參見PullMessageService類

投遞待拉取消息任務(wù)

說明:參見PullMessageService類


訂閱重試隊列邏輯

注冊%retry%@consumerGroup消費(fèi)分組

說明:

? ? 核心代碼邏輯运授,這個表明了consumer訂閱了重試隊列并對重試隊列進(jìn)行消費(fèi)烤惊。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市吁朦,隨后出現(xiàn)的幾起案子柒室,更是在濱河造成了極大的恐慌,老刑警劉巖逗宜,帶你破解...
    沈念sama閱讀 211,376評論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件雄右,死亡現(xiàn)場離奇詭異,居然都是意外死亡纺讲,警方通過查閱死者的電腦和手機(jī)擂仍,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,126評論 2 385
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來熬甚,“玉大人逢渔,你說我怎么就攤上這事∠缋ǎ” “怎么了肃廓?”我有些...
    開封第一講書人閱讀 156,966評論 0 347
  • 文/不壞的土叔 我叫張陵,是天一觀的道長诲泌。 經(jīng)常有香客問我盲赊,道長,這世上最難降的妖魔是什么敷扫? 我笑而不...
    開封第一講書人閱讀 56,432評論 1 283
  • 正文 為了忘掉前任哀蘑,我火速辦了婚禮,結(jié)果婚禮上呻澜,老公的妹妹穿的比我還像新娘递礼。我一直安慰自己,他們只是感情好羹幸,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,519評論 6 385
  • 文/花漫 我一把揭開白布脊髓。 她就那樣靜靜地躺著,像睡著了一般栅受。 火紅的嫁衣襯著肌膚如雪将硝。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,792評論 1 290
  • 那天屏镊,我揣著相機(jī)與錄音依疼,去河邊找鬼。 笑死而芥,一個胖子當(dāng)著我的面吹牛律罢,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 38,933評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼误辑,長吁一口氣:“原來是場噩夢啊……” “哼沧踏!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起巾钉,我...
    開封第一講書人閱讀 37,701評論 0 266
  • 序言:老撾萬榮一對情侶失蹤翘狱,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后砰苍,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體潦匈,經(jīng)...
    沈念sama閱讀 44,143評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,488評論 2 327
  • 正文 我和宋清朗相戀三年赚导,在試婚紗的時候發(fā)現(xiàn)自己被綠了茬缩。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,626評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡辟癌,死狀恐怖寒屯,靈堂內(nèi)的尸體忽然破棺而出荐捻,到底是詐尸還是另有隱情黍少,我是刑警寧澤,帶...
    沈念sama閱讀 34,292評論 4 329
  • 正文 年R本政府宣布处面,位于F島的核電站厂置,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏魂角。R本人自食惡果不足惜昵济,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,896評論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望野揪。 院中可真熱鬧访忿,春花似錦、人聲如沸斯稳。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,742評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽挣惰。三九已至卧斟,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間憎茂,已是汗流浹背珍语。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評論 1 265
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留竖幔,地道東北人板乙。 一個月前我還...
    沈念sama閱讀 46,324評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像拳氢,于是被迫代替她去往敵國和親募逞。 傳聞我的和親對象是個殘疾皇子晓猛,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,494評論 2 348

推薦閱讀更多精彩內(nèi)容