高并發(fā)架構(gòu)系列:Kafka钢悲、RocketMQ点额、RabbitMQ的優(yōu)劣勢(shì)比較
在高并發(fā)業(yè)務(wù)場(chǎng)景下,典型的阿里雙11秒殺等業(yè)務(wù)莺琳,消息隊(duì)列中間件在流量削峰咖楣、解耦上有不可替代的作用。
今天我們一起來探討:
- 全量的消息隊(duì)列究竟有哪些芦昔?
- Kafka诱贿、RocketMQ、RabbitMQ的優(yōu)劣勢(shì)比較
- 以及消息隊(duì)列的選型
最全MQ消息隊(duì)列有哪些
那么目前在業(yè)界有哪些比較知名的消息引擎呢咕缎?如下圖所示
這里面幾乎完全列舉了當(dāng)下比較知名的消息引擎,包括:
- ZeroMQ
- 推特的Distributedlog
- ActiveMQ:Apache旗下的老牌消息引擎
- RabbitMQ凭豪、Kafka:AMQP的默認(rèn)實(shí)現(xiàn)焙蹭。
- RocketMQ
- Artemis:Apache的ActiveMQ下的子項(xiàng)目
- Apollo:同樣為Apache的ActiveMQ的子項(xiàng)目的號(hào)稱下一代消息引擎
- 商業(yè)化的消息引擎IronMQ
- 以及實(shí)現(xiàn)了JMS(Java Message Service)標(biāo)準(zhǔn)的OpenMQ。
MQ消息隊(duì)列的技術(shù)應(yīng)用
1.解耦
解耦是消息隊(duì)列要解決的最本質(zhì)問題孔厉。
2.最終一致性
最終一致性指的是兩個(gè)系統(tǒng)的狀態(tài)保持一致,要么都成功帖努,要么都失敗撰豺。
最終一致性不是消息隊(duì)列的必備特性,但確實(shí)可以依靠消息隊(duì)列來做最終一致性的事情拼余。
2.廣播
消息隊(duì)列的基本功能之一是進(jìn)行廣播污桦。
有了消息隊(duì)列,我們只需要關(guān)心消息是否送達(dá)了隊(duì)列匙监,至于誰希望訂閱凡橱,是下游的事情小作,無疑極大地減少了開發(fā)和聯(lián)調(diào)的工作量。
3.錯(cuò)峰與流控
典型的使用場(chǎng)景就是秒殺業(yè)務(wù)用于流量削峰場(chǎng)景稼钩。
由于篇幅的關(guān)系顾稀,本文重點(diǎn)介紹消息隊(duì)列比較,詳細(xì)應(yīng)用場(chǎng)景請(qǐng)參考:什么是流量削峰坝撑?如何解決秒殺業(yè)務(wù)的削峰場(chǎng)景
Kafka、RocketMQ绍载、RabbitMQ比較
1.ActiveMQ
優(yōu)點(diǎn)
- 單機(jī)吞吐量:萬級(jí)
- topic數(shù)量都吞吐量的影響:
- 時(shí)效性:ms級(jí)
- 可用性:高,基于主從架構(gòu)實(shí)現(xiàn)高可用性
- 消息可靠性:有較低的概率丟失數(shù)據(jù)
- 功能支持:MQ領(lǐng)域的功能極其完備
缺點(diǎn):
官方社區(qū)現(xiàn)在對(duì)ActiveMQ 5.x維護(hù)越來越少击儡,較少在大規(guī)模吞吐的場(chǎng)景中使用塔沃。
2.Kafka
號(hào)稱大數(shù)據(jù)的殺手锏,談到大數(shù)據(jù)領(lǐng)域內(nèi)的消息傳輸阳谍,則繞不開Kafka蛀柴,這款為大數(shù)據(jù)而生的消息中間件,以其百萬級(jí)TPS的吞吐量名聲大噪矫夯,迅速成為大數(shù)據(jù)領(lǐng)域的寵兒鸽疾,在數(shù)據(jù)采集、傳輸训貌、存儲(chǔ)的過程中發(fā)揮著舉足輕重的作用制肮。
Apache Kafka它最初由LinkedIn公司基于獨(dú)特的設(shè)計(jì)實(shí)現(xiàn)為一個(gè)分布式的提交日志系統(tǒng)( a distributed commit log),之后成為Apache項(xiàng)目的一部分递沪。
目前已經(jīng)被LinkedIn豺鼻,Uber, Twitter, Netflix等大公司所采納。
優(yōu)點(diǎn)
性能卓越款慨,單機(jī)寫入TPS約在百萬條/秒儒飒,最大的優(yōu)點(diǎn),就是吞吐量高檩奠。
時(shí)效性:ms級(jí)
可用性:非常高桩了,kafka是分布式的,一個(gè)數(shù)據(jù)多個(gè)副本埠戳,少數(shù)機(jī)器宕機(jī)井誉,不會(huì)丟失數(shù)據(jù),不會(huì)導(dǎo)致不可用
消費(fèi)者采用Pull方式獲取消息, 消息有序, 通過控制能夠保證所有消息被消費(fèi)且僅被消費(fèi)一次;
有優(yōu)秀的第三方Kafka Web管理界面Kafka-Manager乞而;
在日志領(lǐng)域比較成熟送悔,被多家公司和多個(gè)開源項(xiàng)目使用;
功能支持:功能較為簡(jiǎn)單爪模,主要支持簡(jiǎn)單的MQ功能欠啤,在大數(shù)據(jù)領(lǐng)域的實(shí)時(shí)計(jì)算以及日志采集被大規(guī)模使用
缺點(diǎn):
- Kafka單機(jī)超過64個(gè)隊(duì)列/分區(qū),Load會(huì)發(fā)生明顯的飆高現(xiàn)象屋灌,隊(duì)列越多洁段,load越高,發(fā)送消息響應(yīng)時(shí)間變長(zhǎng)
- 使用短輪詢方式共郭,實(shí)時(shí)性取決于輪詢間隔時(shí)間祠丝;
- 消費(fèi)失敗不支持重試;
- 支持消息順序除嘹,但是一臺(tái)代理宕機(jī)后写半,就會(huì)產(chǎn)生消息亂序;
- 社區(qū)更新較慢尉咕;
3.RabbitMQ
RabbitMQ 2007年發(fā)布叠蝇,是一個(gè)在AMQP(高級(jí)消息隊(duì)列協(xié)議)基礎(chǔ)上完成的,可復(fù)用的企業(yè)消息系統(tǒng)年缎,是當(dāng)前最主流的消息中間件之一悔捶。
RabbitMQ優(yōu)點(diǎn):
- 由于erlang語言的特性,mq 性能較好单芜,高并發(fā)蜕该;
- 吞吐量到萬級(jí),MQ功能比較完備
- 健壯洲鸠、穩(wěn)定堂淡、易用、跨平臺(tái)扒腕、支持多種語言淤齐、文檔齊全;
- 開源提供的管理界面非常棒袜匿,用起來很好用
- 社區(qū)活躍度高更啄;
RabbitMQ缺點(diǎn):
- erlang開發(fā),很難去看懂源碼居灯,基本職能依賴于開源社區(qū)的快速維護(hù)和修復(fù)bug祭务,不利于做二次開發(fā)和維護(hù)。
- RabbitMQ確實(shí)吞吐量會(huì)低一些怪嫌,這是因?yàn)樗龅膶?shí)現(xiàn)機(jī)制比較重义锥。
- 需要學(xué)習(xí)比較復(fù)雜的接口和協(xié)議,學(xué)習(xí)和維護(hù)成本較高岩灭。
4.RocketMQ
RocketMQ出自 阿里公司的開源產(chǎn)品拌倍,用 Java 語言實(shí)現(xiàn),在設(shè)計(jì)時(shí)參考了 Kafka,并做出了自己的一些改進(jìn)柱恤。
RocketMQ在阿里集團(tuán)被廣泛應(yīng)用在訂單数初,交易,充值梗顺,流計(jì)算泡孩,消息推送,日志流式處理寺谤,binglog分發(fā)等場(chǎng)景仑鸥。
RocketMQ優(yōu)點(diǎn):
- 單機(jī)吞吐量:十萬級(jí)
- 可用性:非常高,分布式架構(gòu)
- 消息可靠性:經(jīng)過參數(shù)優(yōu)化配置变屁,消息可以做到0丟失
- 功能支持:MQ功能較為完善眼俊,還是分布式的,擴(kuò)展性好
- 支持10億級(jí)別的消息堆積粟关,不會(huì)因?yàn)槎逊e導(dǎo)致性能下降
- 源碼是java疮胖,我們可以自己閱讀源碼,定制自己公司的MQ誊役,可以掌控
RocketMQ缺點(diǎn):
- 支持的客戶端語言不多获列,目前是java及c++,其中c++不成熟蛔垢;
- 社區(qū)活躍度一般
- 沒有在 mq 核心中去實(shí)現(xiàn)JMS等接口击孩,有些系統(tǒng)要遷移需要修改大量代碼
消息隊(duì)列選擇建議
1.Kafka
Kafka主要特點(diǎn)是基于Pull的模式來處理消息消費(fèi),追求高吞吐量鹏漆,一開始的目的就是用于日志收集和傳輸巩梢,適合產(chǎn)生大量數(shù)據(jù)的互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)收集業(yè)務(wù)。
大型公司建議可以選用艺玲,如果有日志采集功能括蝠,肯定是首選kafka了。
2.RocketMQ
天生為金融互聯(lián)網(wǎng)領(lǐng)域而生饭聚,對(duì)于可靠性要求很高的場(chǎng)景忌警,尤其是電商里面的訂單扣款,以及業(yè)務(wù)削峰秒梳,在大量交易涌入時(shí)法绵,后端可能無法及時(shí)處理的情況。
RoketMQ在穩(wěn)定性上可能更值得信賴酪碘,這些業(yè)務(wù)場(chǎng)景在阿里雙11已經(jīng)經(jīng)歷了多次考驗(yàn)朋譬,如果你的業(yè)務(wù)有上述并發(fā)場(chǎng)景,建議可以選擇RocketMQ兴垦。
3.RabbitMQ
RabbitMQ :結(jié)合erlang語言本身的并發(fā)優(yōu)勢(shì)徙赢,性能較好字柠,社區(qū)活躍度也比較高,但是不利于做二次開發(fā)和維護(hù)狡赐。不過窑业,RabbitMQ的社區(qū)十分活躍,可以解決開發(fā)過程中遇到的bug阴汇。
如果你的數(shù)據(jù)量沒有那么大数冬,小公司優(yōu)先選擇功能比較完備的RabbitMQ节槐。