1異步處理
場(chǎng)景說(shuō)明:用戶注冊(cè)后,需要發(fā)注冊(cè)郵件和注冊(cè)短信沟于。傳統(tǒng)的做法有兩種:
- 串行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后,發(fā)送注冊(cè)郵件植康,再發(fā)送注冊(cè)短信旷太。以上三個(gè)任務(wù)全部完成后,返回給客戶端销睁。
- 并行方式:將注冊(cè)信息寫入數(shù)據(jù)庫(kù)成功后供璧,發(fā)送注冊(cè)郵件的同時(shí),發(fā)送注冊(cè)短信冻记。以上三個(gè)任務(wù)完成后睡毒,返回給客戶端。與串行的差別是冗栗,并行的方式可以提高處理的時(shí)間演顾。
假設(shè)三個(gè)業(yè)務(wù)節(jié)點(diǎn)每個(gè)使用50毫秒鐘,不考慮網(wǎng)絡(luò)等其他開(kāi)銷隅居,則串行方式的時(shí)間是150毫秒钠至,并行的時(shí)間可能是100毫秒。
因?yàn)镃PU在單位時(shí)間內(nèi)處理的請(qǐng)求數(shù)是一定的胎源,假設(shè)CPU1秒內(nèi)吞吐量是100次棉钧。則串行方式1秒內(nèi)CPU可處理的請(qǐng)求量是7次(1000/150)。并行方式處理的請(qǐng)求量是10次(1000/100)涕蚤。
小結(jié):如以上案例描述掰盘,傳統(tǒng)的方式系統(tǒng)的性能(并發(fā)量,吞吐量赞季,響應(yīng)時(shí)間)會(huì)有瓶頸愧捕。如何解決這個(gè)問(wèn)題呢?
引入消息隊(duì)列申钩,將不是必須的業(yè)務(wù)邏輯次绘,異步處理。改造后的架構(gòu)如下:
按照以上約定撒遣,用戶的響應(yīng)時(shí)間相當(dāng)于是注冊(cè)信息寫入數(shù)據(jù)庫(kù)的時(shí)間邮偎,也就是50毫秒。注冊(cè)郵件义黎,發(fā)送短信寫入消息隊(duì)列后禾进,直接返回,因此寫入消息隊(duì)列的速度很快廉涕,基本可以忽略泻云,因此用戶的響應(yīng)時(shí)間可能是50毫秒艇拍。因此架構(gòu)改變后,系統(tǒng)的吞吐量提高到每秒20 QPS宠纯。比串行提高了3倍卸夕,比并行提高了兩倍。
2應(yīng)用解耦
場(chǎng)景說(shuō)明:用戶下單后婆瓜,訂單系統(tǒng)需要通知庫(kù)存系統(tǒng)快集。傳統(tǒng)的做法是,訂單系統(tǒng)調(diào)用庫(kù)存系統(tǒng)的接口廉白。如下圖:
傳統(tǒng)模式的缺點(diǎn):
- 假如庫(kù)存系統(tǒng)無(wú)法訪問(wèn)个初,則訂單減庫(kù)存將失敗,從而導(dǎo)致訂單失敽秕濉院溺;
- 訂單系統(tǒng)與庫(kù)存系統(tǒng)耦合;
如何解決以上問(wèn)題呢晕讲?引入應(yīng)用消息隊(duì)列后的方案,如下圖:
- 訂單系統(tǒng):用戶下單后马澈,訂單系統(tǒng)完成持久化處理瓢省,將消息寫入消息隊(duì)列,返回用戶訂單下單成功痊班。
- 庫(kù)存系統(tǒng):訂閱下單的消息勤婚,采用拉/推的方式,獲取下單信息涤伐,庫(kù)存系統(tǒng)根據(jù)下單信息馒胆,進(jìn)行庫(kù)存操作。
- 假如:在下單時(shí)庫(kù)存系統(tǒng)不能正常使用凝果。也不影響正常下單祝迂,因?yàn)橄聠魏螅唵蜗到y(tǒng)寫入消息隊(duì)列就不再關(guān)心其他的后續(xù)操作了器净。實(shí)現(xiàn)訂單系統(tǒng)與庫(kù)存系統(tǒng)的應(yīng)用解耦型雳。
3流量削鋒
流量削鋒也是消息隊(duì)列中的常用場(chǎng)景,一般在秒殺或團(tuán)搶活動(dòng)中使用廣泛山害。
應(yīng)用場(chǎng)景:秒殺活動(dòng)纠俭,一般會(huì)因?yàn)榱髁窟^(guò)大,導(dǎo)致流量暴增浪慌,應(yīng)用掛掉冤荆。為解決這個(gè)問(wèn)題,一般需要在應(yīng)用前端加入消息隊(duì)列权纤。
- 可以控制活動(dòng)的人數(shù)钓简;
- 可以緩解短時(shí)間內(nèi)高流量壓垮應(yīng)用乌妒;
- 用戶的請(qǐng)求,服務(wù)器接收后涌庭,首先寫入消息隊(duì)列芥被。假如消息隊(duì)列長(zhǎng)度超過(guò)最大數(shù)量,則直接拋棄用戶請(qǐng)求或跳轉(zhuǎn)到錯(cuò)誤頁(yè)面坐榆;
- 秒殺業(yè)務(wù)根據(jù)消息隊(duì)列中的請(qǐng)求信息拴魄,再做后續(xù)處理。
4日志處理
日志處理是指將消息隊(duì)列用在日志處理中席镀,比如Kafka的應(yīng)用匹中,解決大量日志傳輸?shù)膯?wèn)題。架構(gòu)簡(jiǎn)化如下:
- 日志采集客戶端豪诲,負(fù)責(zé)日志數(shù)據(jù)采集顶捷,定時(shí)寫受寫入Kafka隊(duì)列;
- Kafka消息隊(duì)列屎篱,負(fù)責(zé)日志數(shù)據(jù)的接收服赎,存儲(chǔ)和轉(zhuǎn)發(fā);
- 日志處理應(yīng)用:訂閱并消費(fèi)kafka隊(duì)列中的日志數(shù)據(jù)交播;
以下是新浪kafka日志處理應(yīng)用案例:
- Kafka:接收用戶日志的消息隊(duì)列重虑。
- Logstash:做日志解析,統(tǒng)一成JSON輸出給Elasticsearch秦士。
- Elasticsearch:實(shí)時(shí)日志分析服務(wù)的核心技術(shù)缺厉,一個(gè)schemaless,實(shí)時(shí)的數(shù)據(jù)存儲(chǔ)服務(wù)隧土,通過(guò)index組織數(shù)據(jù)提针,兼具強(qiáng)大的搜索和統(tǒng)計(jì)功能。
- Kibana:基于Elasticsearch的數(shù)據(jù)可視化組件曹傀,超強(qiáng)的數(shù)據(jù)可視化能力是眾多公司選擇ELK stack的重要原因辐脖。
5消息通訊
消息通訊是指,消息隊(duì)列一般都內(nèi)置了高效的通信機(jī)制皆愉,因此也可以用在純的消息通訊揖曾。比如實(shí)現(xiàn)點(diǎn)對(duì)點(diǎn)消息隊(duì)列,或者聊天室等亥啦。
點(diǎn)對(duì)點(diǎn)通訊:
客戶端A和客戶端B使用同一隊(duì)列炭剪,進(jìn)行消息通訊。
聊天室通訊:
客戶端A翔脱,客戶端B奴拦,客戶端N訂閱同一主題,進(jìn)行消息發(fā)布和接收届吁。實(shí)現(xiàn)類似聊天室效果错妖。
以上實(shí)際是消息隊(duì)列的兩種消息模式绿鸣,點(diǎn)對(duì)點(diǎn)或發(fā)布訂閱模式。