Spring Cloud異步場(chǎng)景分布式事務(wù)怎樣做帘撰?試試RocketMQ

作者簡(jiǎn)介:
陶陶老師
10年后端工作經(jīng)驗(yàn)跑慕,
專注Java、SpringBoot摧找、SpringCloud核行、分布式系統(tǒng)/微服務(wù)、中間件等領(lǐng)域蹬耘。
公眾號(hào):陶陶技術(shù)筆記

一芝雪、背景

在微服務(wù)架構(gòu)中,我們常常使用異步化的手段來提升系統(tǒng)的 吞吐量 和 解耦 上下游综苔,而構(gòu)建異步架構(gòu)最常用的手段就是使用 消息隊(duì)列(MQ)惩系,那異步架構(gòu)怎樣才能實(shí)現(xiàn)數(shù)據(jù)一致性呢?本文主要介紹如何使用RocketMQ事務(wù)消息來解決一致性問題如筛。

RocketMQ 是阿里巴巴開源的分布式消息中間件堡牡,目前已成為 Apache 的頂級(jí)項(xiàng)目。歷經(jīng)多次天貓雙十一海量消息考驗(yàn)杨刨,具有高性能晤柄、低延時(shí)和高可靠等特性

PS:同步場(chǎng)景怎樣保證一致性?請(qǐng)看文章《Spring Cloud同步場(chǎng)景分布式事務(wù)怎樣做妖胀?試試Seata

二芥颈、MQ選型

可以看到在 業(yè)務(wù)處理 方面來說 RocketMQ 優(yōu)于其他對(duì)手惠勒,而且原生支持 事務(wù)消息

image

PS:業(yè)務(wù)系統(tǒng)用的是其他 MQ 產(chǎn)品但是又需要 事務(wù)消息 怎么辦?學(xué)習(xí)原理自己開發(fā)實(shí)現(xiàn)浇借!

三捉撮、什么是事務(wù)消息

例如下圖的場(chǎng)景:生成訂單記錄 -> MQ -> 增加積分

image

我們是應(yīng)該先 創(chuàng)建訂單記錄,還是先 發(fā)送MQ消息 呢妇垢?

  1. 先發(fā)送MQ消息:這個(gè)明顯是不行的巾遭,因?yàn)槿绻l(fā)送成功,而訂單創(chuàng)建失敗的話是沒辦法把消息收回來的

  2. 先創(chuàng)建訂單記錄:如果訂單創(chuàng)建成功后MQ消息發(fā)送失敗 拋出異常闯估,因?yàn)閮蓚€(gè)操作都在本地事務(wù)中所以訂單數(shù)據(jù)是可以 回滾 的

上面的 方式二 看似沒問題灼舍,但是 網(wǎng)絡(luò)是不可靠的!如果 MQ 的響應(yīng)因?yàn)榫W(wǎng)絡(luò)原因沒有收到涨薪,所以在面對(duì)不確定的結(jié)果只好進(jìn)行回滾骑素;但是 MQ 端又確實(shí)是收到了這條消息的,只是回給客戶端的 響應(yīng)丟失 了刚夺!

所以 事務(wù)消息 就是用來保證 本地事務(wù) 與 MQ消息發(fā)送 的原子性献丑!

四、RocketMQ事務(wù)消息原理

image

主要的邏輯分為兩個(gè)流程:

  • 事務(wù)消息發(fā)送及提交:
  1. 發(fā)送 half消息

  2. MQ服務(wù)端 響應(yīng)消息寫入結(jié)果

  3. 根據(jù)發(fā)送結(jié)果執(zhí)行 本地事務(wù)(如果寫入失敗侠姑,此時(shí)half消息對(duì)業(yè)務(wù) 不可見创橄,本地邏輯不執(zhí)行)

  4. 根據(jù)本地事務(wù)狀態(tài)執(zhí)行 Commit 或者 Rollback(Commit操作生成消息索引,消息對(duì)消費(fèi)者 可見)

  • 回查流程:
  1. 對(duì)于長(zhǎng)時(shí)間沒有 Commit/Rollback 的事務(wù)消息(pending 狀態(tài)的消息)莽红,從服務(wù)端發(fā)起一次 回查

  2. Producer 收到回查消息妥畏,檢查回查消息對(duì)應(yīng)的 本地事務(wù)狀態(tài)

  3. 根據(jù)本地事務(wù)狀態(tài),重新 Commit 或者 Rollback

邏輯時(shí)序圖

image

五安吁、異步架構(gòu)一致性實(shí)現(xiàn)思路

從上面的原理可以發(fā)現(xiàn) 事務(wù)消息 僅僅只是保證本地事務(wù)和MQ消息發(fā)送形成整體的 原子性醉蚁,而投遞到MQ服務(wù)器后,并無法保證消費(fèi)者一定能消費(fèi)成功鬼店!

如果 消費(fèi)端消費(fèi)失敗 后的處理方式网棍,建議是記錄異常信息然后 人工處理,并不建議回滾上游服務(wù)的數(shù)據(jù)(因?yàn)閮烧呤?解耦 的妇智,而且 復(fù)雜度 太高)

我們可以利用 MQ 的兩個(gè)特性 重試死信隊(duì)列 來協(xié)助消費(fèi)端處理:

  1. 消費(fèi)失敗后進(jìn)行一定次數(shù)的 重試

  2. 重試后也失敗的話該消息丟進(jìn) 死信隊(duì)列

  3. 另外起一個(gè)線程監(jiān)聽消費(fèi) 死信隊(duì)列 里的消息确沸,記錄日志并且預(yù)警!

因?yàn)橛?重試 所以消費(fèi)者需要實(shí)現(xiàn)冪等性

六俘陷、分布式事務(wù)場(chǎng)景樣例

下面就用剛剛提到的場(chǎng)景:生成訂單記錄 -> MQ -> 增加積分罗捎;來簡(jiǎn)單講一下 Spring Cloud 中應(yīng)該怎么做,詳細(xì)代碼請(qǐng) 下載demo 查看拉盾。
PS:怎樣安裝部署RocketMQ可以參考《Apache RocketMQ 消息隊(duì)列部署與可視化界面安裝

6.1. 引入依賴

使用 spring-cloud-stream 框架來訪問 RocketMQ

image

Spring Cloud Stream 是一個(gè)構(gòu)建消息驅(qū)動(dòng)的框架桨菜,通過抽象的定義實(shí)現(xiàn)應(yīng)用與MQ消息隊(duì)列之間的解耦,目前支持 RabbitMQkafkaRocketMQ

image

6.2. 開啟事務(wù)消息

消息生產(chǎn)者需要添加 transactional: true 開啟 事務(wù)消息

image

6.3. 訂單服務(wù)發(fā)送half消息

image

因?yàn)殚_啟了 事務(wù)消息 所以這里發(fā)送的是 half消息 對(duì)于消費(fèi)端是 不可見

6.4. 訂單服務(wù)監(jiān)聽half消息

使用 @RocketMQTransactionListener 注解監(jiān)聽 半消息倒得,并實(shí)現(xiàn) RocketMQLocalTransactionListener 接口泻红,該接口有兩個(gè)方法

  • executeLocalTransaction:用于提交本地事務(wù)

  • checkLocalTransaction:用于事務(wù)回查

image

如果提交事務(wù)消息失敗,需等待約1分鐘左右 事務(wù)回查 方法才會(huì)被調(diào)用

6.5. 積分服務(wù)消費(fèi)消息

image

注意:因?yàn)橛?重試 這里如果是真實(shí)的業(yè)務(wù)需要自行實(shí)現(xiàn) 冪等性

6.6. 消費(fèi)死信隊(duì)列預(yù)警

image

監(jiān)聽并消費(fèi)死信隊(duì)列中的消息霞掺,用于記錄錯(cuò)誤日志谊路,并且預(yù)警通知運(yùn)維人員等

6.7. 測(cè)試用例

demo中提供了3個(gè)接口分別測(cè)試不同的場(chǎng)景:

  1. 訂單創(chuàng)建 成功

  2. 提交事務(wù)消息 成功

  3. 消費(fèi)消息增加積分 成功

  1. 訂單創(chuàng)建 成功

  2. 提交事務(wù)消息 失敗

  3. 事務(wù)回查(等待1分鐘左右) 成功

  4. 提交事務(wù)消息 成功

  5. 消費(fèi)消息增加積分 成功

  1. 訂單創(chuàng)建 成功

  2. 提交事務(wù)消息 成功

  3. 消費(fèi)消息增加積分 失敗

  4. 重試消費(fèi)消息 失敗

  5. 進(jìn)入死信隊(duì)列 成功

  6. 消費(fèi)死信隊(duì)列的消息 成功

  7. 記錄日志并發(fā)出預(yù)警 成功

七、demo下載地址

https://gitee.com/zlt2000/microservices-platform/tree/master/zlt-demo/rocketmq-demo/rocketmq-transactional

作者簡(jiǎn)介:
陶陶老師
10年后端工作經(jīng)驗(yàn)菩彬,
專注Java缠劝、SpringBoot、SpringCloud骗灶、分布式系統(tǒng)/微服務(wù)惨恭、中間件等領(lǐng)域。
公眾號(hào):陶陶技術(shù)筆記

本文已經(jīng)獲得陶陶老師授權(quán)轉(zhuǎn)發(fā)耙旦,其他人若有興趣轉(zhuǎn)載脱羡,請(qǐng)直接聯(lián)系作者授權(quán)。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末免都,一起剝皮案震驚了整個(gè)濱河市锉罐,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌绕娘,老刑警劉巖脓规,帶你破解...
    沈念sama閱讀 211,376評(píng)論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異业舍,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)升酣,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,126評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門舷暮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人噩茄,你說我怎么就攤上這事下面。” “怎么了绩聘?”我有些...
    開封第一講書人閱讀 156,966評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵沥割,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我凿菩,道長(zhǎng)机杜,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,432評(píng)論 1 283
  • 正文 為了忘掉前任衅谷,我火速辦了婚禮椒拗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己蚀苛,他們只是感情好在验,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,519評(píng)論 6 385
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著堵未,像睡著了一般腋舌。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上渗蟹,一...
    開封第一講書人閱讀 49,792評(píng)論 1 290
  • 那天块饺,我揣著相機(jī)與錄音,去河邊找鬼拙徽。 笑死刨沦,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的膘怕。 我是一名探鬼主播想诅,決...
    沈念sama閱讀 38,933評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼岛心!你這毒婦竟也來了来破?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,701評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤忘古,失蹤者是張志新(化名)和其女友劉穎徘禁,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體髓堪,經(jīng)...
    沈念sama閱讀 44,143評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡送朱,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,488評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了干旁。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片驶沼。...
    茶點(diǎn)故事閱讀 38,626評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖争群,靈堂內(nèi)的尸體忽然破棺而出回怜,到底是詐尸還是另有隱情,我是刑警寧澤换薄,帶...
    沈念sama閱讀 34,292評(píng)論 4 329
  • 正文 年R本政府宣布玉雾,位于F島的核電站,受9級(jí)特大地震影響轻要,放射性物質(zhì)發(fā)生泄漏复旬。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,896評(píng)論 3 313
  • 文/蒙蒙 一冲泥、第九天 我趴在偏房一處隱蔽的房頂上張望赢底。 院中可真熱鬧,春花似錦、人聲如沸幸冻。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,742評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)洽损。三九已至庞溜,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間碑定,已是汗流浹背流码。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評(píng)論 1 265
  • 我被黑心中介騙來泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留延刘,地道東北人漫试。 一個(gè)月前我還...
    沈念sama閱讀 46,324評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像碘赖,于是被迫代替她去往敵國(guó)和親驾荣。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,494評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容