消息隊(duì)列應(yīng)用場(chǎng)景

1異步處理

場(chǎng)景說(shuō)明:用戶注冊(cè)后,需要發(fā)注冊(cè)郵件和注冊(cè)短信沟于。傳統(tǒng)的做法有兩種:

  • 串行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后,發(fā)送注冊(cè)郵件植康,再發(fā)送注冊(cè)短信旷太。以上三個(gè)任務(wù)全部完成后,返回給客戶端销睁。
image
  • 并行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后供璧,發(fā)送注冊(cè)郵件的同時(shí),發(fā)送注冊(cè)短信冻记。以上三個(gè)任務(wù)完成后睡毒,返回給客戶端。與串行的差別是冗栗,并行的方式可以提高處理的時(shí)間演顾。
image

假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘,不考慮網(wǎng)絡(luò)等其他開(kāi)銷隅居,則串行方式的時(shí)間是150毫秒钠至,并行的時(shí)間可能是100毫秒。

因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的胎源,假設(shè)CPU1秒內(nèi)吞吐量是100次棉钧。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次(1000/150)。并行方式處理的請(qǐng)求量是10次(1000/100)涕蚤。

小結(jié):如以上案例描述掰盘,傳統(tǒng)的方式系統(tǒng)的性能(并發(fā)量,吞吐量赞季,響應(yīng)時(shí)間)會(huì)有瓶頸愧捕。如何解決這個(gè)問(wèn)題呢?

引入消息隊(duì)列申钩,將不是必須的業(yè)務(wù)邏輯次绘,異步處理。改造后的架構(gòu)如下:

image

按照以上約定撒遣,用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫(kù)的時(shí)間邮偎,也就是50毫秒。注冊(cè)郵件义黎,發(fā)送短信寫入消息隊(duì)列后禾进,直接返回,因此寫入消息隊(duì)列的速度很快廉涕,基本可以忽略泻云,因此用戶的響應(yīng)時(shí)間可能是50毫秒艇拍。因此架構(gòu)改變后,系統(tǒng)的吞吐量提高到每秒20 QPS宠纯。比串行提高了3倍卸夕,比并行提高了兩倍。

2應(yīng)用解耦

場(chǎng)景說(shuō)明:用戶下單后婆瓜,訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)快集。傳統(tǒng)的做法是,訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口廉白。如下圖:

image

傳統(tǒng)模式的缺點(diǎn):

  1. 假如庫(kù)存系統(tǒng)無(wú)法訪問(wèn)个初,則訂單減庫(kù)存將失敗,從而導(dǎo)致訂單失敽秕濉院溺;
  2. 訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合;

如何解決以上問(wèn)題呢晕讲?引入應(yīng)用消息隊(duì)列后的方案,如下圖:

image
  • 訂單系統(tǒng):用戶下單后马澈,訂單系統(tǒng)完成持久化處理瓢省,將消息寫入消息隊(duì)列,返回用戶訂單下單成功痊班。
  • 庫(kù)存系統(tǒng):訂閱下單的消息勤婚,采用拉/推的方式,獲取下單信息涤伐,庫(kù)存系統(tǒng)根據(jù)下單信息馒胆,進(jìn)行庫(kù)存操作。
  • 假如:在下單時(shí)庫(kù)存系統(tǒng)不能正常使用凝果。也不影響正常下單祝迂,因?yàn)橄聠魏螅唵蜗到y(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了器净。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦型雳。

3流量削鋒

流量削鋒也是消息隊(duì)列中的常用場(chǎng)景,一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛山害。

應(yīng)用場(chǎng)景:秒殺活動(dòng)纠俭,一般會(huì)因?yàn)榱髁窟^(guò)大,導(dǎo)致流量暴增浪慌,應(yīng)用掛掉冤荆。為解決這個(gè)問(wèn)題,一般需要在應(yīng)用前端加入消息隊(duì)列权纤。

  1. 可以控制活動(dòng)的人數(shù)钓简;
  2. 可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用乌妒;
image
  1. 用戶的請(qǐng)求,服務(wù)器接收后涌庭,首先寫入消息隊(duì)列芥被。假如消息隊(duì)列長(zhǎng)度超過(guò)最大數(shù)量,則直接拋棄用戶請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁(yè)面坐榆;
  2. 秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息拴魄,再做后續(xù)處理。

4日志處理

日志處理是指將消息隊(duì)列用在日志處理中席镀,比如Kafka的應(yīng)用匹中,解決大量日志傳輸?shù)膯?wèn)題。架構(gòu)簡(jiǎn)化如下:

image
  1. 日志采集客戶端豪诲,負(fù)責(zé)日志數(shù)據(jù)采集顶捷,定時(shí)寫受寫入Kafka隊(duì)列;
  2. Kafka消息隊(duì)列屎篱,負(fù)責(zé)日志數(shù)據(jù)的接收服赎,存儲(chǔ)和轉(zhuǎn)發(fā);
  3. 日志處理應(yīng)用:訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù)交播;

以下是新浪kafka日志處理應(yīng)用案例:

image
  1. Kafka:接收用戶日志的消息隊(duì)列重虑。
  2. Logstash:做日志解析,統(tǒng)一成JSON輸出給Elasticsearch秦士。
  3. Elasticsearch:實(shí)時(shí)日志分析服務(wù)的核心技術(shù)缺厉,一個(gè)schemaless,實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)服務(wù)隧土,通過(guò)index組織數(shù)據(jù)提针,兼具強(qiáng)大的搜索和統(tǒng)計(jì)功能。
  4. Kibana:基于Elasticsearch的數(shù)據(jù)可視化組件曹傀,超強(qiáng)的數(shù)據(jù)可視化能力是眾多公司選擇ELK stack的重要原因辐脖。

5消息通訊

消息通訊是指,消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制皆愉,因此也可以用在純的消息通訊揖曾。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列,或者聊天室等亥啦。

點(diǎn)對(duì)點(diǎn)通訊:


image

客戶端A和客戶端B使用同一隊(duì)列炭剪,進(jìn)行消息通訊。

聊天室通訊:


image

客戶端A翔脱,客戶端B奴拦,客戶端N訂閱同一主題,進(jìn)行消息發(fā)布和接收届吁。實(shí)現(xiàn)類似聊天室效果错妖。

以上實(shí)際是消息隊(duì)列的兩種消息模式绿鸣,點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末暂氯,一起剝皮案震驚了整個(gè)濱河市潮模,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌痴施,老刑警劉巖擎厢,帶你破解...
    沈念sama閱讀 218,941評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異辣吃,居然都是意外死亡动遭,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,397評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門神得,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)厘惦,“玉大人,你說(shuō)我怎么就攤上這事哩簿∠叮” “怎么了?”我有些...
    開(kāi)封第一講書人閱讀 165,345評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵节榜,是天一觀的道長(zhǎng)羡玛。 經(jīng)常有香客問(wèn)我,道長(zhǎng)全跨,這世上最難降的妖魔是什么缝左? 我笑而不...
    開(kāi)封第一講書人閱讀 58,851評(píng)論 1 295
  • 正文 為了忘掉前任亿遂,我火速辦了婚禮浓若,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘蛇数。我一直安慰自己挪钓,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,868評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布耳舅。 她就那樣靜靜地躺著碌上,像睡著了一般。 火紅的嫁衣襯著肌膚如雪浦徊。 梳的紋絲不亂的頭發(fā)上馏予,一...
    開(kāi)封第一講書人閱讀 51,688評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音盔性,去河邊找鬼霞丧。 笑死,一個(gè)胖子當(dāng)著我的面吹牛冕香,可吹牛的內(nèi)容都是我干的蛹尝。 我是一名探鬼主播后豫,決...
    沈念sama閱讀 40,414評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼突那!你這毒婦竟也來(lái)了挫酿?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 39,319評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤愕难,失蹤者是張志新(化名)和其女友劉穎早龟,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體务漩,經(jīng)...
    沈念sama閱讀 45,775評(píng)論 1 315
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡濒蒋,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,945評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了擂送。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片啤贩。...
    茶點(diǎn)故事閱讀 40,096評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖居触,靈堂內(nèi)的尸體忽然破棺而出妖混,到底是詐尸還是另有隱情,我是刑警寧澤轮洋,帶...
    沈念sama閱讀 35,789評(píng)論 5 346
  • 正文 年R本政府宣布制市,位于F島的核電站,受9級(jí)特大地震影響弊予,放射性物質(zhì)發(fā)生泄漏祥楣。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,437評(píng)論 3 331
  • 文/蒙蒙 一汉柒、第九天 我趴在偏房一處隱蔽的房頂上張望误褪。 院中可真熱鬧,春花似錦碾褂、人聲如沸兽间。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,993評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)嘀略。三九已至,卻和暖如春乓诽,著一層夾襖步出監(jiān)牢的瞬間帜羊,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 33,107評(píng)論 1 271
  • 我被黑心中介騙來(lái)泰國(guó)打工鸠天, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留讼育,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,308評(píng)論 3 372
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像窥淆,于是被迫代替她去往敵國(guó)和親卖宠。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,037評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容

  • 原文http://blog.csdn.net/konglongaa/article/details/5220827...
    不是山峰的鋒閱讀 866評(píng)論 0 1
  • 一忧饭、 消息隊(duì)列概述 消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件扛伍,主要解決應(yīng)用耦合、異步消息词裤、流量削鋒等問(wèn)題刺洒。實(shí)現(xiàn)高性能...
    步積閱讀 56,945評(píng)論 10 138
  • 以下是消息隊(duì)列以下的大綱,本文主要介紹消息隊(duì)列概述吼砂,消息隊(duì)列應(yīng)用場(chǎng)景和消息中間件示例(電商逆航,日志系統(tǒng))。 本次分享...
    文檔隨手記閱讀 1,886評(píng)論 0 28
  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理渔肩,服務(wù)發(fā)現(xiàn)因俐,斷路器,智...
    卡卡羅2017閱讀 134,659評(píng)論 18 139
  • 1 消息隊(duì)列概述 消息隊(duì)列中間件是分布式系統(tǒng)中重要的組件周偎,主要解決應(yīng)用耦合抹剩,異步消息,流量削鋒等問(wèn)題蓉坎。實(shí)現(xiàn)高性能澳眷,...
    Bobby0322閱讀 10,869評(píng)論 0 24