毫無疑問,Spring Cloud 是目前微服務架構領域的翹楚,無數的書籍博客都在講解這個技術咬扇。
不過大多數講解還停留在對 Spring Cloud 功能使用的層面,其底層的很多原理廊勃,很多人可能并不知曉冗栗。
因此本文將通過大量的手繪圖,給大家談談 Spring Cloud 微服務架構的底層原理供搀。
實際上隅居,Spring Cloud 是一個全家桶式的技術棧,它包含了很多組件葛虐。本文先從最核心的幾個組件胎源,也就是 Eureka、Ribbon屿脐、Feign涕蚤、Hystrix、Zuul 入手的诵,來剖析其底層的工作原理万栅。
業(yè)務場景介紹
先來給大家說一個業(yè)務場景,假設咱們現在開發(fā)一個電商網站西疤,要實現支付訂單的功能烦粒。
流程如下:
- 創(chuàng)建一個訂單后,如果用戶立刻支付了這個訂單代赁,我們需要將訂單狀態(tài)更新為“已支付”扰她。
- 扣減相應的商品庫存。
- 通知倉儲中心芭碍,進行發(fā)貨徒役。
- 給用戶的這次購物增加相應的積分。
針對上述流程窖壕,我們需要有訂單服務忧勿、庫存服務杉女、倉儲服務、積分服務鸳吸。
整個流程的大體思路如下:
- 用戶針對一個訂單完成支付之后宠纯,就會去找訂單服務,更新訂單狀態(tài)层释。
- 訂單服務調用庫存服務婆瓜,完成相應功能。
- 訂單服務調用倉儲服務贡羔,完成相應功能廉白。
- 訂單服務調用積分服務,完成相應功能乖寒。
至此猴蹂,整個支付訂單的業(yè)務流程結束。下面這張圖,清晰表明了各服務間的調用過程:
好!有了業(yè)務場景之后,咱們就一起來看看 Spring Cloud 微服務架構中掉分,這幾個組件如何相互協作,各自發(fā)揮的作用以及其背后的原理聋溜。
Spring Cloud 核心組件:Eureka
咱們來考慮第一個問題:訂單服務想要調用庫存服務、倉儲服務叭爱,或者積分服務撮躁,怎么調用?
訂單服務壓根兒就不知道人家?guī)齑娣赵谀呐_機器上啊!它就算想要發(fā)起一個請求,都不知道發(fā)送給誰买雾,有心無力!
這時候把曼,就輪到 Spring Cloud Eureka 出場了。Eureka 是微服務架構中的注冊中心漓穿,專門負責服務的注冊與發(fā)現嗤军。
咱們來看看下面的這張圖,結合圖來仔細剖析一下整個流程:
如上圖所示晃危,庫存服務叙赚、倉儲服務、積分服務中都有一個 Eureka Client 組件山害,這個組件專門負責將這個服務的信息注冊到 Eureka Server 中纠俭。
說白了,就是告訴 Eureka Server浪慌,自己在哪臺機器上,監(jiān)聽著哪個端口朴则。
而 Eureka Server 是一個注冊中心权纤,里面有一個注冊表钓简,保存了各服務所在的機器和端口號。
訂單服務里也有一個 Eureka Client 組件汹想,這個 Eureka Client 組件會找 Eureka Server 問一下:庫存服務在哪臺機器啊?監(jiān)聽著哪個端口啊?倉儲服務呢?積分服務呢?
然后就可以把這些相關信息從 Eureka Server 的注冊表中拉取到自己的本地緩存中來外邓。
這時如果訂單服務想要調用庫存服務,不就可以找自己本地的 Eureka Client 問一下庫存服務在哪臺機器?監(jiān)聽哪個端口嗎?
收到響應后古掏,緊接著就可以發(fā)送一個請求過去损话,調用庫存服務扣減庫存的那個接口!同理,如果訂單服務要調用倉儲服務槽唾、積分服務丧枪,也是如法炮制。
總結一下:
- Eureka Client:負責將這個服務的信息注冊到 Eureka Server 中庞萍。
- Eureka Server:注冊中心拧烦,里面有一個注冊表,保存了各個服務所在的機器和端口號钝计。
Spring Cloud 核心組件:Feign
現在訂單服務確實知道庫存服務恋博、積分服務、倉庫服務在哪里了私恬,同時也監(jiān)聽著哪些端口號了债沮。
但是新問題又來了:難道訂單服務要自己寫一大堆代碼,跟其他服務建立網絡連接本鸣,然后構造一個復雜的請求秦士,接著發(fā)送請求過去,最后對返回的響應結果再寫一大堆代碼來處理嗎?
這是上述流程翻譯的代碼片段永高,咱們一起來看看隧土,體會一下這種絕望而無助的感受!!!
友情提示,前方高能:
看完上面那一大段代碼命爬,有沒有感到后背發(fā)涼曹傀、一身冷汗?實際上你進行服務間調用時,如果每次都手寫代碼饲宛,代碼量比上面那段要多至少幾倍皆愉,所以這個事壓根兒就不是地球人能干的。
既然如此艇抠,那怎么辦呢?別急幕庐,Feign 早已為我們提供好了優(yōu)雅的解決方案。來看看如果用 Feign 的話家淤,你的訂單服務調用庫存服務的代碼會變成啥樣?
看完上面的代碼什么感覺?是不是感覺整個世界都干凈了异剥,又找到了活下去的勇氣!
沒有底層的建立連接、構造請求絮重、解析響應的代碼冤寿,直接就是用注解定義一個 Feign Client 接口歹苦,然后調用那個接口就可以了。
人家 Feign Client 會在底層根據你的注解督怜,跟你指定的服務建立連接殴瘦、構造請求、發(fā)起請求号杠、獲取響應蚪腋、解析響應,等等姨蟋。這一系列臟活累活屉凯,人家 Feign 全給你干了。
那么問題來了芬探,Feign 是如何做到這么神奇的呢?很簡單神得,Feign 的一個關鍵機制就是使用了動態(tài)代理。
咱們一起來看看上面的圖偷仿,結合圖來分析:
首先哩簿,如果你對某個接口定義了 @FeignClient 注解,Feign 就會針對這個接口創(chuàng)建一個動態(tài)代理酝静。
接著你要是調用那個接口节榜,本質就是會調用 Feign 創(chuàng)建的動態(tài)代理,這是核心中的核心别智。
Feign的動態(tài)代理會根據你在接口上的 @RequestMapping 等注解宗苍,來動態(tài)構造出你要請求的服務的地址。
最后針對這個地址薄榛,發(fā)起請求讳窟、解析響應。
Spring Cloud 核心組件:Ribbon
說完了 Feign敞恋,還沒完±龇龋現在新的問題又來了,如果人家?guī)齑娣詹渴鹪诹?5 臺機器上硬猫。
如下所示:
- 192.168.169:9000
- 192.168.170:9000
- 192.168.171:9000
- 192.168.172:9000
- 192.168.173:9000
這下麻煩了!人家 Feign 怎么知道該請求哪臺機器呢?這時 Spring Cloud Ribbon 就派上用場了补箍。
Ribbon 就是專門解決這個問題的。它的作用是負載均衡啸蜜,會幫你在每次請求時選擇一臺機器坑雅,均勻的把請求分發(fā)到各個機器上。
Ribbon 的負載均衡默認使用的最經典的 Round Robin 輪詢算法衬横。這是啥?
簡單來說裹粤,就是如果訂單服務對庫存服務發(fā)起 10 次請求,那就先讓你請求第 1 臺機器冕香、然后是第 2 臺機器蛹尝、第 3 臺機器后豫、第 4 臺機器悉尾、第 5 臺機器突那,接著再來—個循環(huán),第 1 臺機器构眯、第 2 臺機器愕难。。惫霸。以此類推猫缭。
此外,Ribbon 是和 Feign 以及 Eureka 緊密協作壹店,完成工作的猜丹,具體如下:
- 首先 Ribbon 會從 Eureka Client 里獲取到對應的服務注冊表,也就知道了所有的服務都部署在了哪些機器上硅卢,在監(jiān)聽哪些端口號射窒。
- 然后 Ribbon 就可以使用默認的 Round Robin 算法,從中選擇一臺機器将塑。
- Feign 就會針對這臺機器脉顿,構造并發(fā)起請求。
對上述整個過程点寥,再來一張圖艾疟,幫助大家更深刻的理解:
Spring Cloud 核心組件:Hystrix
在微服務架構里,一個系統會有很多的服務敢辩。以本文的業(yè)務場景為例:訂單服務在一個業(yè)務流程里需要調用三個服務蔽莱。
現在假設訂單服務自己最多只有 100 個線程可以處理請求,然后呢戚长,積分服務不幸的掛了盗冷,每次訂單服務調用積分服務的時候,都會卡住幾秒鐘历葛,然后拋出—個超時異常正塌。
咱們一起來分析一下,這樣會導致什么問題?如果系統處于高并發(fā)的場景下恤溶,大量請求涌過來的時候乓诽,訂單服務的 100 個線程都會卡在請求積分服務這塊,導致訂單服務沒有一個線程可以處理請求咒程。
然后就會導致別人請求訂單服務的時候鸠天,發(fā)現訂單服務也掛了,不響應任何請求了帐姻。
上面這個稠集,就是微服務架構中恐怖的服務雪崩問題奶段,如下圖所示:
如上圖,這么多服務互相調用剥纷,要是不做任何保護的話痹籍,某一個服務掛了,就會引起連鎖反應晦鞋,導致別的服務也掛蹲缠。
比如積分服務掛了,會導致訂單服務的線程全部卡在請求積分服務這里悠垛,沒有一個線程可以工作线定,瞬間導致訂單服務也掛了,別人請求訂單服務全部會卡住确买,無法響應斤讥。
但是我們思考一下,就算積分服務掛了湾趾,訂單服務也可以不用掛啊!為什么?
我們結合業(yè)務來看:支付訂單的時候芭商,只要把庫存扣減了,然后通知倉庫發(fā)貨就 OK 了撑帖。
如果積分服務掛了蓉坎,大不了等它恢復之后,慢慢人肉手工恢復數據!為啥一定要因為一個積分服務掛了胡嘿,就直接導致訂單服務也掛了呢?不可以接受!
現在問題分析完了蛉艾,如何解決?這時就輪到 Hystrix 閃亮登場了。Hystrix 是隔離衷敌、熔斷以及降級的一個框架勿侯。啥意思呢?
說白了,Hystrix 會搞很多個小小的線程池缴罗,比如訂單服務請求庫存服務是一個線程池助琐,請求倉儲服務是一個線程池,請求積分服務是一個線程池面氓。每個線程池里的線程就僅僅用于請求那個服務兵钮。
打個比方:現在很不幸,積分服務掛了舌界,會咋樣?當然會導致訂單服務里那個用來調用積分服務的線程都卡死不能工作了啊!
但由于訂單服務調用庫存服務掘譬、倉儲服務的這兩個線程池都是正常工作的,所以這兩個服務不會受到任何影響呻拌。
這個時候如果別人請求訂單服務葱轩,訂單服務還是可以正常調用庫存服務扣減庫存,調用倉儲服務通知發(fā)貨。
只不過調用積分服務的時候靴拱,每次都會報錯垃喊。但是如果積分服務都掛了,每次調用都要去卡住幾秒鐘干啥呢?有意義嗎?當然沒有!
所以我們直接對積分服務熔斷不就得了袜炕,比如在 5 分鐘內請求積分服務直接就返回了本谜,不要去走網絡請求卡住幾秒鐘,這個過程妇蛀,就是所謂的熔斷!
那人家又說耕突,兄弟笤成,積分服務掛了你就熔斷评架,好歹你干點兒什么啊!別啥都不干就直接返回啊?
沒問題,咱們就來個降級:每次調用積分服務炕泳,你就在數據庫里記錄一條消息纵诞,說給某某用戶增加了多少積分,因為積分服務掛了培遵,導致沒增加成功!
這樣等積分服務恢復了浙芙,你可以根據這些記錄手工加一下積分。這個過程籽腕,就是所謂的降級嗡呼。
為幫助大家更直觀的理解,接下來用一張圖皇耗,梳理一下 Hystrix 隔離南窗、熔斷和降級的全流程:
</center>
Spring Cloud 核心組件:Zuul
說完了 Hystrix,接著給大家說說最后一個組件:Zuul郎楼,也就是微服務網關万伤。這個組件是負責網絡路由的。
不懂網絡路由?行呜袁,那我給你說說敌买,如果沒有 Zuul 的日常工作會怎樣?
假設你后臺部署了幾百個服務,現在有個前端兄弟阶界,人家請求是直接從瀏覽器那兒發(fā)過來的虹钮。
打個比方:人家要請求一下庫存服務,你難道還讓人家記著這服務的名字叫做 inventory-service?部署在 5 臺機器上?
就算人家肯記住這一個膘融,你后臺可有幾百個服務的名稱和地址呢?難不成人家請求一個芙粱,就得記住一個?你要這樣玩兒,那真是友誼的小船托启,說翻就翻!
上面這種情況宅倒,壓根兒是不現實的。所以一般微服務架構中都必然會設計一個網關在里面。
像 Android拐迁、iOS蹭劈、PC 前端、微信小程序线召、H5 等等铺韧,不用去關心后端有幾百個服務,就知道有一個網關缓淹,所有請求都往網關走哈打,網關會根據請求中的一些特征,將請求轉發(fā)給后端的各個服務讯壶。
而且有一個網關之后料仗,還有很多好處,比如可以做統一的降級伏蚊、限流立轧、認證授權、安全躏吊,等等氛改。
總結
最后再來總結一下,上述幾個 Spring Cloud 核心組件比伏,在微服務架構中胜卤,分別扮演的角色:
- Eureka:各個服務啟動時,Eureka Client 都會將服務注冊到 Eureka Server赁项,并且 Eureka Client 還可以反過來從 Eureka Server 拉取注冊表葛躏,從而知道其他服務在哪里。
- Ribbon:服務間發(fā)起請求的時候肤舞,基于 Ribbon 做負載均衡紫新,從一個服務的多臺機器中選擇一臺。
- Feign:基于 Feign 的動態(tài)代理機制李剖,根據注解和選擇的機器芒率,拼接請求 URL 地址,發(fā)起請求篙顺。
- Hystrix:發(fā)起請求是通過 Hystrix 的線程池來走的偶芍,不同的服務走不同的線程池,實現了不同服務調用的隔離德玫,避免了服務雪崩的問題匪蟀。
- Zuul:如果前端、移動端要調用后端系統宰僧,統一從 Zuul 網關進入材彪,由 Zuul 網關轉發(fā)請求給對應的服務。
- 以上就是我們通過一個電商業(yè)務場景,闡述了 Spring Cloud 微服務架構幾個核心組件的底層原理段化。
文字總結還不夠直觀?沒問題!我們將 Spring Cloud 的 5 個核心組件通過一張圖串聯起來嘁捷,再來直觀的感受一下其底層的架構原理:
</center>
感謝原作者,原文鏈接:拜托!面試不要再問我Spring Cloud底層原理