目錄
一、業(yè)務(wù)場景介紹
二徙菠、Spring Cloud核心組件:Eureka
三讯沈、Spring Cloud核心組件:Feign
四、Spring Cloud核心組件:Ribbon
五婿奔、Spring Cloud核心組件:Hystrix
六缺狠、Spring Cloud核心組件:Zuul
七、總結(jié)
概述
毫無疑問萍摊,Spring Cloud是目前微服務(wù)架構(gòu)領(lǐng)域的翹楚挤茄,無數(shù)的書籍博客都在講解這個技術(shù)。不過大多數(shù)講解還停留在對Spring Cloud功能使用的層面冰木,其底層的很多原理穷劈,很多人可能并不知曉。因此本文將通過大量的手繪圖踊沸,給大家談?wù)凷pring Cloud微服務(wù)架構(gòu)的底層原理歇终。
實際上,Spring Cloud是一個全家桶式的技術(shù)棧逼龟,包含了很多組件评凝。本文先從其最核心的幾個組件入手,來剖析一下其底層的工作原理审轮。也就是Eureka肥哎、Ribbon、Feign疾渣、Hystrix篡诽、Zuul這幾個組件。
一榴捡、業(yè)務(wù)場景介紹
先來給大家說一個業(yè)務(wù)場景杈女,假設(shè)咱們現(xiàn)在開發(fā)一個電商網(wǎng)站,要實現(xiàn)支付訂單的功能,流程如下:
(1)創(chuàng)建一個訂單之后达椰,如果用戶立刻支付了這個訂單翰蠢,我們需要將訂單狀態(tài)更新為“已支付”
(2)扣減相應(yīng)的商品庫存
(3)通知倉儲中心,進(jìn)行發(fā)貨
(4)給用戶的這次購物增加相應(yīng)的積分
針對上述流程啰劲,我們需要有訂單服務(wù)梁沧、庫存服務(wù)、倉儲服務(wù)蝇裤、積分服務(wù)廷支。整個流程的大體思路如下:
(1)用戶針對一個訂單完成支付之后,就會去找訂單服務(wù)栓辜,更新訂單狀態(tài)
(2)訂單服務(wù)調(diào)用庫存服務(wù)恋拍,完成相應(yīng)功能
(3)訂單服務(wù)調(diào)用倉儲服務(wù),完成相應(yīng)功能
(4)訂單服務(wù)調(diào)用積分服務(wù)藕甩,完成相應(yīng)功能
至此施敢,整個支付訂單的業(yè)務(wù)流程結(jié)束
下圖這張圖,清晰表明了各服務(wù)間的調(diào)用過程:
好狭莱!有了業(yè)務(wù)場景之后僵娃,咱們就一起來看看Spring?Cloud微服務(wù)架構(gòu)中,這幾個組件如何相互協(xié)作贩毕,各自發(fā)揮的作用以及其背后的原理悯许。
二、Spring Cloud核心組件:Eureka
咱們來考慮第一個問題:訂單服務(wù)想要調(diào)用庫存服務(wù)辉阶、倉儲服務(wù)先壕,或者是積分服務(wù),怎么調(diào)用谆甜?
(1)訂單服務(wù)壓根兒就不知道人家?guī)齑娣?wù)在哪臺機器上袄拧!他就算想要發(fā)起一個請求规辱,都不知道發(fā)送給誰谆棺,有心無力!
(2)這時候罕袋,就輪到Spring Cloud Eureka出場了改淑。Eureka是微服務(wù)架構(gòu)中的注冊中心,專門負(fù)責(zé)服務(wù)的注冊與發(fā)現(xiàn)浴讯。
咱們來看看下面的這張圖朵夏,結(jié)合圖來仔細(xì)剖析一下整個流程:
如上圖所示,庫存服務(wù)榆纽、倉儲服務(wù)仰猖、積分服務(wù)中都有一個Eureka Client組件捏肢,這個組件專門負(fù)責(zé)將這個服務(wù)的信息注冊到Eureka Server中。說白了饥侵,就是告訴Eureka Server鸵赫,自己在哪臺機器上,監(jiān)聽著哪個端口躏升。而Eureka Server是一個注冊中心辩棒,里面有一個注冊表,保存了各服務(wù)所在的機器和端口號
訂單服務(wù)里也有一個Eureka Client組件膨疏,這個Eureka Client組件會找Eureka Server問一下:庫存服務(wù)在哪臺機器暗廖隆?監(jiān)聽著哪個端口俺芍狻?倉儲服務(wù)呢斧蜕?積分服務(wù)呢双霍?然后就可以把這些相關(guān)信息從Eureka Server的注冊表中拉取到自己本地緩存起來。
這時如果訂單服務(wù)想要調(diào)用庫存服務(wù)批销,不就可以找自己本地的Eureka Client問一下庫存服務(wù)在哪臺機器洒闸?監(jiān)聽哪個端口嗎?收到響應(yīng)后均芽,緊接著就可以發(fā)送一個請求過去丘逸,調(diào)用庫存服務(wù)扣減庫存的那個接口!同理掀宋,如果訂單服務(wù)要調(diào)用倉儲服務(wù)深纲、積分服務(wù),也是如法炮制劲妙。
總結(jié)一下:
Eureka?Client:負(fù)責(zé)將這個服務(wù)的信息注冊到Eureka Server中
Eureka Server:注冊中心湃鹊,里面有一個注冊表,保存了各個服務(wù)所在的機器和端口號
三镣奋、Spring Cloud核心組件:Feign
現(xiàn)在訂單服務(wù)確實知道庫存服務(wù)币呵、積分服務(wù)、倉庫服務(wù)在哪里了侨颈,同時也監(jiān)聽著哪些端口號了余赢。但是新問題又來了:難道訂單服務(wù)要自己寫一大堆代碼,跟其他服務(wù)建立網(wǎng)絡(luò)連接哈垢,然后構(gòu)造一個復(fù)雜的請求妻柒,接著發(fā)送請求過去,最后對返回的響應(yīng)結(jié)果再寫一大堆代碼來處理嗎温赔?
這是上述流程翻譯的代碼片段蛤奢,咱們一起來看看鬼癣,體會一下這種絕望而無助的感受!F》贰待秃!
友情提示,前方高能:
看完上面那一大段代碼痹屹,有沒有感到后背發(fā)涼章郁、一身冷汗?實際上你進(jìn)行服務(wù)間調(diào)用時志衍,如果每次都手寫代碼暖庄,代碼量比上面那段要多至少幾倍,所以這個事兒壓根兒就不是地球人能干的楼肪。
既然如此培廓,那怎么辦呢?別急春叫,F(xiàn)eign早已為我們提供好了優(yōu)雅的解決方案肩钠。來看看如果用Feign的話,你的訂單服務(wù)調(diào)用庫存服務(wù)的代碼會變成啥樣暂殖?
看完上面的代碼什么感覺价匠?是不是感覺整個世界都干凈了,又找到了活下去的勇氣呛每!沒有底層的建立連接踩窖、構(gòu)造請求、解析響應(yīng)的代碼晨横,直接就是用注解定義一個 FeignClient接口洋腮,然后調(diào)用那個接口就可以了。人家Feign Client會在底層根據(jù)你的注解手形,跟你指定的服務(wù)建立連接徐矩、構(gòu)造請求、發(fā)起靕求叁幢、獲取響應(yīng)滤灯、解析響應(yīng),等等曼玩。這一系列臟活累活鳞骤,人家Feign全給你干了。
那么問題來了黍判,F(xiàn)eign是如何做到這么神奇的呢豫尽?很簡單,Feign的一個關(guān)鍵機制就是使用了動態(tài)代理顷帖。咱們一起來看看下面的圖美旧,結(jié)合圖來分析:
(1)首先渤滞,如果你對某個接口定義了@FeignClient注解,F(xiàn)eign就會針對這個接口創(chuàng)建一個動態(tài)代理
(2)接著你要是調(diào)用那個接口榴嗅,本質(zhì)就是會調(diào)用?Feign創(chuàng)建的動態(tài)代理妄呕,這是核心中的核心
(3)Feign的動態(tài)代理會根據(jù)你在接口上的@RequestMapping等注解腥例,來動態(tài)構(gòu)造出你要請求的服務(wù)的地址
(4)最后針對這個地址搀玖,發(fā)起請求、解析響應(yīng)
四澳眷、Spring Cloud核心組件:Ribbon
說完了Feign唠粥,還沒完∈栉海現(xiàn)在新的問題又來了,如果人家?guī)齑娣?wù)部署在了5臺機器上晤愧,如下所示:
192.168.169:9000
192.168.170:9000
192.168.171:9000
192.168.172:9000
192.168.173:9000
這下麻煩了大莫!人家Feign怎么知道該請求哪臺機器呢?
這時Spring Cloud?Ribbon就派上用場了官份。Ribbon就是專門解決這個問題的葵硕。它的作用是負(fù)載均衡,會幫你在每次請求時選擇一臺機器贯吓,均勻的把請求分發(fā)到各個機器上
Ribbon的負(fù)載均衡默認(rèn)使用的最經(jīng)典的Round?Robin輪詢算法。這是啥蜀变?簡單來說悄谐,就是如果訂單服務(wù)對庫存服務(wù)發(fā)起10次請求,那就先讓你請求第1臺機器库北、然后是第2臺機器爬舰、第3臺機器、第4臺機器寒瓦、第5臺機器情屹,接著再來—個循環(huán),第1臺機器杂腰、第2臺機器垃你。。喂很。以此類推惜颇。
此外,Ribbon是和Feign以及Eureka緊密協(xié)作少辣,完成工作的凌摄,具體如下:
(1)首先Ribbon從?Eureka Client里獲取到對應(yīng)的服務(wù)注冊表,即知道了所有的服務(wù)都部署在了哪些機器上漓帅,在監(jiān)聽哪些端口號
(2)然后Ribbon就可以使用默認(rèn)的Round?Robin算法锨亏,從中選擇一臺機器
(3)Feign就會針對這臺機器痴怨,構(gòu)造并發(fā)起請求。
對上述整個過程器予,再來一張圖浪藻,幫助大家更深刻的理解:
五、Spring Cloud核心組件:Hystrix
在微服務(wù)架構(gòu)里劣摇,一個系統(tǒng)會有很多的服務(wù)珠移。以本文的業(yè)務(wù)場景為例:訂單服務(wù)在一個業(yè)務(wù)流程里需要調(diào)用三個服務(wù)。現(xiàn)在假設(shè)訂單服務(wù)自己最多只有100個線程可以處理請求末融,然后呢,積分服務(wù)不幸的掛了勾习,每次訂單服務(wù)調(diào)用積分服務(wù)的時候浓瞪,都會卡住幾秒鐘,然后拋出—個超時異常巧婶。
咱們一起來分析一下乾颁,這樣會導(dǎo)致什么問題?
如果系統(tǒng)處于高并發(fā)的場景下艺栈,大量請求涌過來的時候英岭,訂單服務(wù)的100個線程都會卡在請求積分服務(wù)這塊。導(dǎo)致訂單服務(wù)沒有一個線程可以處理請求湿右。然后就會導(dǎo)致別人請求訂單服務(wù)的時候诅妹,發(fā)現(xiàn)訂單服務(wù)也掛了,不響應(yīng)任何請求了
上面這個毅人,就是微服務(wù)架構(gòu)中恐怖的服務(wù)雪崩問題吭狡,如下圖所示:
如上圖,這么多服務(wù)互相調(diào)用丈莺,要是不做任何保護的話划煮,某一個服務(wù)掛了,就會引起連鎖反應(yīng)缔俄,導(dǎo)致別的服務(wù)也掛弛秋。比如積分服務(wù)掛了,會導(dǎo)致訂單服務(wù)的線程全部卡在請求積分服務(wù)這里俐载,沒有一個線程可以工作铐懊,瞬間導(dǎo)致訂單服務(wù)也掛了,別人請求訂單服務(wù)全部會卡住瞎疼,無法響應(yīng)科乎。
但是我們思考一下,就算積分服務(wù)掛了贼急,訂單服務(wù)也可以不用掛懊┟捏萍!為什么?
(1)我們結(jié)合業(yè)務(wù)來看:支付訂單的時候空闲,只要把庫存扣減了令杈,然后通知倉庫發(fā)貨就OK了
(2)如果積分服務(wù)掛了,大不了等他恢復(fù)之后碴倾,慢慢人肉手工恢復(fù)數(shù)據(jù)逗噩!為啥一定要因為一個積分服務(wù)掛了,就直接導(dǎo)致訂單服務(wù)也掛了呢跌榔?不可以接受异雁!
現(xiàn)在問題分析完了,如何解決僧须?
這時就輪到Hystrix閃亮登場了纲刀。Hystrix是隔離、熔斷以及降級的一個框架担平。啥意思呢示绊?說白了,Hystrix會搞很多個小小的線程池暂论,比如訂單服務(wù)請求庫存服務(wù)是一個線程池面褐,請求倉儲服務(wù)是一個線程池,請求積分服務(wù)是一個線程池取胎。每個線程池里的線程就僅僅用于請求那個服務(wù)展哭。
打個比方:現(xiàn)在很不幸,積分服務(wù)掛了扼菠,會咋樣?
當(dāng)然會導(dǎo)致訂單服務(wù)里的那個用來調(diào)用積分服務(wù)的線程都卡死不能工作了鞍痈馈循榆!但是由于訂單服務(wù)調(diào)用庫存服務(wù)、倉儲服務(wù)的這兩個線程池都是正常工作的墨坚,所以這兩個服務(wù)不會受到任何影響秧饮。
這個時候如果別人請求訂單服務(wù),訂單服務(wù)還是可以正常調(diào)用庫存服務(wù)扣減庫存泽篮,調(diào)用倉儲服務(wù)通知發(fā)貨盗尸。只不過調(diào)用積分服務(wù)的時候,每次都會報錯帽撑。但是如果積分服務(wù)都掛了泼各,每次調(diào)用都要去卡住幾秒鐘干啥呢?有意義嗎亏拉?當(dāng)然沒有扣蜻!所以我們直接對積分服務(wù)熔斷不就得了逆巍,比如在5分鐘內(nèi)請求積分服務(wù)直接就返回了,不要去走網(wǎng)絡(luò)請求卡住幾秒鐘莽使,這個過程锐极,就是所謂的熔斷!
那人家又說芳肌,兄弟灵再,積分服務(wù)掛了你就熔斷,好歹你干點兒什么耙隗浴翎迁!別啥都不干就直接返回啊责嚷?沒問題鸳兽,咱們就來個降級:每次調(diào)用積分服務(wù),你就在數(shù)據(jù)庫里記錄一條消息罕拂,說給某某用戶增加了多少積分揍异,因為積分服務(wù)掛了,導(dǎo)致沒增加成功爆班!這樣等積分服務(wù)恢復(fù)了衷掷,你可以根據(jù)這些記錄手工加一下積分。這個過程柿菩,就是所謂的降級戚嗅。
為幫助大家更直觀的理解,接下來用一張圖枢舶,梳理一下Hystrix隔離懦胞、熔斷和降級的全流程:
六、Spring Cloud核心組件:Zuul
說完了Hystrix凉泄,接著給大家說說最后一個組件:Zuul躏尉,也就是微服務(wù)網(wǎng)關(guān)。這個組件是負(fù)責(zé)網(wǎng)絡(luò)路由的后众。不懂網(wǎng)絡(luò)路由胀糜?行,那我給你說說蒂誉,如果沒有Zuul的日常工作會怎樣教藻?
假設(shè)你后臺部署了幾百個服務(wù),現(xiàn)在有個前端兄弟括堤,人家請求是直接從瀏覽器那兒發(fā)過來的。打個比方:人家要請求一下庫存服務(wù),你難道還讓人家記著這服務(wù)的名字叫做inventory-service痊臭?部署在5臺機器上哮肚?就算人家肯記住這一個,你后臺可有幾百個服務(wù)的名稱和地址呢广匙?難不成人家請求一個允趟,就得記住一個?你要這樣玩兒鸦致,那真是友誼的小船潮剪,說翻就翻!
上面這種情況分唾,壓根兒是不現(xiàn)實的抗碰。所以一般微服務(wù)架構(gòu)中都必然會設(shè)計一個網(wǎng)關(guān)在里面,像android绽乔、ios弧蝇、pc前端、微信小程序折砸、H5等等看疗,不用去關(guān)心后端有幾百個服務(wù),就知道有一個網(wǎng)關(guān)睦授,所有請求都往網(wǎng)關(guān)走两芳,網(wǎng)關(guān)會根據(jù)請求中的一些特征,將請求轉(zhuǎn)發(fā)給后端的各個服務(wù)去枷。
而且有一個網(wǎng)關(guān)之后怖辆,還有很多好處,比如可以做統(tǒng)一的降級删顶、限流竖螃、認(rèn)證授權(quán)、安全逗余,等等特咆。
七、總結(jié):
最后再來總結(jié)一下猎荠,上述幾個Spring?Cloud核心組件坚弱,在微服務(wù)架構(gòu)中蜀备,分別扮演的角色:
Eureka:各個服務(wù)啟動時关摇,Eureka?Client都會將服務(wù)注冊到Eureka?Server,并且Eureka?Client還可以反過來從Eureka?Server拉取注冊表碾阁,從而知道其他服務(wù)在哪里
Ribbon:服務(wù)間發(fā)起請求的時候输虱,基于Ribbon做負(fù)載均衡,從一個服務(wù)的多臺機器中選擇一臺
Feign:基于Feign的動態(tài)代理機制脂凶,根據(jù)注解和選擇的機器宪睹,拼接請求URL地址愁茁,發(fā)起請求
Hystrix:發(fā)起請求是通過Hystrix的線程池來走的,不同的服務(wù)走不同的線程池亭病,實現(xiàn)了不同服務(wù)調(diào)用的隔離鹅很,避免了服務(wù)雪崩的問題
Zuul:如果前端、移動端要調(diào)用后端系統(tǒng)罪帖,統(tǒng)一從Zuul網(wǎng)關(guān)進(jìn)入促煮,由Zuul網(wǎng)關(guān)轉(zhuǎn)發(fā)請求給對應(yīng)的服務(wù)
以上就是我們通過一個電商業(yè)務(wù)場景,闡述了Spring?Cloud微服務(wù)架構(gòu)幾個核心組件的底層原理整袁。
文字總結(jié)還不夠直觀菠齿?沒問題!我們將Spring Cloud的5個核心組件通過一張圖串聯(lián)起來坐昙,再來直觀的感受一下其底層的架構(gòu)原理:
僅供個人整理學(xué)習(xí)參考