前言:
`MQ` 是什么九火?隊列是什么,`MQ` 我們可以理解為消息隊列册招,隊列我們可以理解為管道岔激。以管道的方式做消息傳遞。
場景:
1.其實我們在雙11的時候是掰,當我們凌晨大量的秒殺和搶購商品虑鼎,然后去結算的時候,就會發(fā)現,界面會提醒我們炫彩,讓我們稍等匾七,以及一些友好的圖片文字提醒。而不是像前幾年的時代江兢,動不動就頁面卡死昨忆,報錯等來呈現給用戶。
在這業(yè)務場景中杉允,我們就可以采用隊列的機制來處理邑贴,因為同時結算就只能達到這么多。
2.在我們平時的超市中購物也是一樣叔磷,當我們在結算的時候拢驾,并不會一窩蜂一樣涌入收銀臺,而是排隊結算改基。這也是隊列機制独旷。
對,就是排隊寥裂。一個接著一個的處理嵌洼,不能插隊。
RabbitMQ簡介
AMQP封恰,即Advanced Message Queuing Protocol麻养,高級消息隊列協議,是應用層協議的一個開放標準诺舔,為面向消息的中間件設計鳖昌。消息中間件主要用于組件之間的解耦,消息的發(fā)送者無需知道消息使用者的存在低飒,反之亦然许昨。 AMQP的主要特征是面向消息、隊列褥赊、路由(包括點對點和發(fā)布/訂閱)糕档、可靠性、安全拌喉。 RabbitMQ是一個開源的AMQP實現速那,服務器端用Erlang語言編寫,支持多種客戶端尿背,如:Python端仰、Ruby、.NET田藐、Java荔烧、JMS吱七、C、PHP鹤竭、ActionScript踊餐、XMPP、STOMP等诺擅,支持AJAX市袖。用于在分布式系統中存儲轉發(fā)消息,在易用性苍碟、擴展性、高可用性等方面表現不俗微峰。 下面將重點介紹RabbitMQ中的一些基礎概念抒钱,了解了這些概念蜓肆,是使用好RabbitMQ的基礎。
ConnectionFactory谋币、Connection、Channel
ConnectionFactory早芭、Connection、Channel都是RabbitMQ對外提供的API中最基本的對象诅蝶。Connection是RabbitMQ的socket鏈接退个,它封裝了socket協議相關部分邏輯调炬。ConnectionFactory為Connection的制造工廠。 Channel是我們與RabbitMQ打交道的最重要的一個接口缰泡,我們大部分的業(yè)務操作是在Channel這個接口中完成的匀谣,包括定義Queue、定義Exchange武翎、綁定Queue與Exchange溶锭、發(fā)布消息等。
Queue
Queue(隊列)是RabbitMQ的內部對象垫毙,用于存儲消息,用下圖表示综芥。
RabbitMQ中的消息都只能存儲在Queue中膀藐,生產者(下圖中的P)生產消息并最終投遞到Queue中,消費者(下圖中的C)可以從Queue中獲取消息并消費国觉。
多個消費者可以訂閱同一個Queue虾啦,這時Queue中的消息會被平均分攤給多個消費者進行處理,而不是每個消費者都收到所有的消息并處理傲醉。
Message acknowledgment
在實際應用中硬毕,可能會發(fā)生消費者收到Queue中的消息,但沒有處理完成就宕機(或出現其他意外)的情況苞七,這種情況下就可能會導致消息丟失挪丢。為了避免這種情況發(fā)生蹂风,我們可以要求消費者在消費完消息后發(fā)送一個回執(zhí)給RabbitMQ乾蓬,RabbitMQ收到消息回執(zhí)(Message acknowledgment)后才將該消息從Queue中移除任内;如果RabbitMQ沒有收到回執(zhí)并檢測到消費者的RabbitMQ連接斷開,則RabbitMQ會將該消息發(fā)送給其他消費者(如果存在多個消費者)進行處理死嗦。這里不存在timeout概念,一個消費者處理消息時間再長也不會導致該消息被發(fā)送給其他消費者节腐,除非它的RabbitMQ連接斷開。 這里會產生另外一個問題饱苟,如果我們的開發(fā)人員在處理完業(yè)務邏輯后狼渊,忘記發(fā)送回執(zhí)給RabbitMQ,這將會導致嚴重的bug——Queue中堆積的消息會越來越多狈邑;消費者重啟后會重復消費這些消息并重復執(zhí)行業(yè)務邏輯…
另外pub message是沒有ack的。
Message durability
如果我們希望即使在RabbitMQ服務重啟的情況下酿傍,也不會丟失消息驱入,我們可以將Queue與Message都設置為可持久化的(durable),這樣可以保證絕大部分情況下我們的RabbitMQ消息不會丟失莺褒。但依然解決不了小概率丟失事件的發(fā)生(比如RabbitMQ服務器已經接收到生產者的消息雪情,但還沒來得及持久化該消息時RabbitMQ服務器就斷電了),如果我們需要對這種小概率事件也要管理起來巡通,那么我們要用到事務宴凉。由于這里僅為RabbitMQ的簡單介紹,所以這里將不講解RabbitMQ相關的事務弥锄。
Prefetch count
前面我們講到如果有多個消費者同時訂閱同一個Queue中的消息,Queue中的消息會被平攤給多個消費者籽暇。這時如果每個消息的處理時間不同,就有可能會導致某些消費者一直在忙戒悠,而另外一些消費者很快就處理完手頭工作并一直空閑的情況。我們可以通過設置prefetchCount來限制Queue每次發(fā)送給每個消費者的消息數惶看,比如我們設置prefetchCount=1六孵,則Queue每次給每個消費者發(fā)送一條消息;消費者處理完這條消息后Queue會再給該消費者發(fā)送一條消息本今。
Exchange
在上一節(jié)我們看到生產者將消息投遞到Queue中冠息,實際上這在RabbitMQ中這種事情永遠都不會發(fā)生孕索。實際的情況是,生產者將消息發(fā)送到Exchange(交換器散怖,下圖中的X)肄渗,由Exchange將消息路由到一個或多個Queue中(或者丟棄)。
Exchange是按照什么邏輯將消息路由到Queue的欠动?這個將在Binding一節(jié)介紹具伍。 RabbitMQ中的Exchange有四種類型圈驼,不同的類型有著不同的路由策略,這將在Exchange Types一節(jié)介紹啼肩。
routing key
生產者在將消息發(fā)送給Exchange的時候衙伶,一般會指定一個routing key,來指定這個消息的路由規(guī)則赦拘,而這個routing key需要與Exchange Type及binding key聯合使用才能最終生效芬沉。 在Exchange Type與binding key固定的情況下(在正常使用時一般這些內容都是固定配置好的)阁猜,我們的生產者就可以在發(fā)送消息給Exchange時蹋艺,通過指定routing key來決定消息流向哪里捎谨。 RabbitMQ為routing key設定的長度限制為255 bytes。
Binding
RabbitMQ中通過Binding將Exchange與Queue關聯起來畏邢,這樣RabbitMQ就知道如何正確地將消息路由到指定的Queue了检吆。
Binding key
在綁定(Binding)Exchange與Queue的同時,一般會指定一個binding key臂寝;消費者將消息發(fā)送給Exchange時致板,一般會指定一個routing key;當binding key與routing key相匹配時素征,消息將會被路由到對應的Queue中萝挤。這個將在Exchange Types章節(jié)會列舉實際的例子加以說明怜珍。 在綁定多個Queue到同一個Exchange的時候,這些Binding允許使用相同的binding key今豆。 binding key 并不是在所有情況下都生效柔袁,它依賴于Exchange Type,比如fanout類型的Exchange就會無視binding key插掂,而是將消息路由到所有綁定到該Exchange的Queue。
Exchange Types
RabbitMQ常用的Exchange Type有fanout辅甥、direct璃弄、topic、headers這四種(AMQP規(guī)范里還提到兩種Exchange Type蕉陋,分別為system與自定義拨扶,這里不予以描述)茁肠,下面分別進行介紹。
fanout
fanout類型的Exchange路由規(guī)則非常簡單匹颤,它會把所有發(fā)送到該Exchange的消息路由到所有與它綁定的Queue中托猩。
上圖中京腥,生產者(P)發(fā)送到Exchange(X)的所有消息都會路由到圖中的兩個Queue,并最終被兩個消費者(C1與C2)消費他宛。
direct
direct類型的Exchange路由規(guī)則也很簡單欠气,它會把消息路由到那些binding key與routing key完全匹配的Queue中。
以上圖的配置為例队塘,我們以routingKey=”error”發(fā)送消息到Exchange憔古,則消息會路由到Queue1(amqp.gen-S9b…顾翼,這是由RabbitMQ自動生成的Queue名稱)和Queue2(amqp.gen-Agl…);如果我們以routingKey=”info”或routingKey=”warning”來發(fā)送消息灸芳,則消息只會路由到Queue2。如果我們以其他routingKey發(fā)送消息冯遂,則消息不會路由到這兩個Queue中谒获。
topic
前面講到direct類型的Exchange路由規(guī)則是完全匹配binding key與routing key,但這種嚴格的匹配方式在很多情況下不能滿足實際業(yè)務需求裸准。topic類型的Exchange在匹配規(guī)則上進行了擴展赔硫,它與direct類型的Exchage相似,也是將消息路由到binding key與routing key相匹配的Queue中权悟,但這里的匹配規(guī)則有些不同推盛,它約定:
- routing key為一個句點號“. ”分隔的字符串(我們將被句點號“. ”分隔開的每一段獨立的字符串稱為一個單詞)耘成,如“stock.usd.nyse”、“nyse.vmw”凿跳、“quick.orange.rabbit”
- binding key與routing key一樣也是句點號“. ”分隔的字符串
- binding key中可以存在兩種特殊字符“”與“#”控嗜,用于做模糊匹配,其中“”用于匹配一個單詞曾掂,“#”用于匹配多個單詞(可以是零個)
以上圖中的配置為例壁顶,routingKey=”quick.orange.rabbit”的消息會同時路由到Q1與Q2若专,routingKey=”lazy.orange.fox”的消息會路由到Q1與Q2,routingKey=”lazy.brown.fox”的消息會路由到Q2膊爪,routingKey=”lazy.pink.rabbit”的消息會路由到Q2(只會投遞給Q2一次,雖然這個routingKey與Q2的兩個bindingKey都匹配)米酬;routingKey=”quick.brown.fox”赃额、routingKey=”orange”、routingKey=”quick.orange.male.rabbit”的消息將會被丟棄芍锦,因為它們沒有匹配任何bindingKey筛严。
headers
headers類型的Exchange不依賴于routing key與binding key的匹配規(guī)則來路由消息,而是根據發(fā)送的消息內容中的headers屬性進行匹配。 在綁定Queue與Exchange時指定一組鍵值對檬输;當消息發(fā)送到Exchange時丧慈,RabbitMQ會取到該消息的headers(也是一個鍵值對的形式),對比其中的鍵值對是否完全匹配Queue與Exchange綁定時指定的鍵值對鹃愤;如果完全匹配則消息會路由到該Queue完域,否則不會路由到該Queue。 該類型的Exchange沒有用到過(不過也應該很有用武之地)凹耙,所以不做介紹肠仪。
RPC
MQ本身是基于異步的消息處理,前面的示例中所有的生產者(P)將消息發(fā)送到RabbitMQ后不會知道消費者(C)處理成功或者失斠馐觥(甚至連有沒有消費者來處理這條消息都不知道)。 但實際的應用場景中拌屏,我們很可能需要一些同步處理天试,需要同步等待服務端將我的消息處理完成后再進行下一步處理喜每。這相當于RPC(Remote Procedure Call,遠程過程調用)枫笛。在RabbitMQ中也支持RPC刚照。
RabbitMQ 中實現RPC
的機制是:
- 客戶端發(fā)送請求(消息)時无畔,在消息的屬性(
MessageProperties
,在AMQP
協議中定義了14中properties
浑彰,這些屬性會隨著消息一起發(fā)送)中設置兩個值replyTo
(一個Queue
名稱郭变,用于告訴服務器處理完成后將通知我的消息發(fā)送到這個Queue
中)和correlationId
(此次請求的標識號,服務器處理完成后需要將此屬性返還周伦,客戶端將根據這個id了解哪條請求被成功執(zhí)行了或執(zhí)行失斘椿摹) - 服務器端收到消息并處理
- 服務器端處理完消息后,將生成一條應答消息到
replyTo
指定的Queue
狈蚤,同時帶上correlationId
屬性 - 客戶端之前已訂閱
replyTo
指定的Queue
划纽,從中收到服務器的應答消息后勇劣,根據其中的correlationId
屬性分析哪條請求被執(zhí)行了潭枣,根據執(zhí)行結果進行后續(xù)業(yè)務處理
總結
本文介紹了RabbitMQ
中個人認為最重要的概念幻捏,充分利用RabbitMQ
提供的這些功能就可以處理我們絕大部分的異步業(yè)務了篡九。
RabbitMQ 選型和對比
1.從社區(qū)活躍度
按照目前網絡上的資料,RabbitMQ
伊佃、activeM
沛善、ZeroMQ
三者中,綜合來看帅涂,RabbitMQ
是首選尤蛮。
2.持久化消息比較
ZeroMq
不支持,ActiveMq
和RabbitMq
都支持庆锦。持久化消息主要是指我們機器在不可抗力因素等情況下掛掉了,消息不會丟失的機制艇搀。
3.綜合技術實現
可靠性、靈活的路由衷笋、集群矩屁、事務吝秕、高可用的隊列、消息排序容客、問題追蹤、可視化管理工具但两、插件系統等等供置。
RabbitMq
/ Kafka
最好,ActiveMq
次之紧阔,ZeroMq
最差娄柳。當然ZeroMq
也可以做到,不過自己必須手動寫代碼實現秫筏,代碼量不小这敬。尤其是可靠性中的:持久性蕉朵、投遞確認、發(fā)布者證實和高可用性冷蚂。
4.高并發(fā)
毋庸置疑汛闸,RabbitMQ
最高,原因是它的實現語言是天生具備高并發(fā)高可用的erlang
語言隆夯。
5.比較關注的比較别伏, RabbitMQ 和 Kafka
RabbitMq
比Kafka
成熟厘肮,在可用性上,穩(wěn)定性上调卑,可靠性上, RabbitMq 勝于 Kafka (理論上)注益。
另外溯捆,Kafka
的定位主要在日志等方面, 因為Kafka
設計的初衷就是處理日志的啤月,可以看做是一個日志(消息)系統一個重要組件劳跃,針對性很強刨仑,所以 如果業(yè)務方面還是建議選擇 RabbitMq
敢会。
還有就是,Kafka
的性能(吞吐量轻抱、TPS
)比RabbitMq
要高出來很多祈搜。
選型最后總結:
如果我們系統中已經有選擇 Kafka ,或者 RabbitMq 泽西,并且完全可以滿足現在的業(yè)務缰趋,建議就不用重復去增加和造輪子秘血。
可以在 Kafka 和 RabbitMq 中選擇一個適合自己團隊和業(yè)務的评甜,這個才是最重要的。但是毋庸置疑現階段粘舟,綜合考慮沒有第三選擇柑肴。
版權所屬:SO JSON在線解析
原文地址:https://www.sojson.com/blog/48.html
轉載時必須以鏈接形式注明原始出處及本聲明。