目錄
一、業(yè)務(wù)場景介紹
二媚值、Spring Cloud核心組件:Eureka
三、Spring Cloud核心組件:Feign
四、Spring Cloud核心組件:Ribbon
五梆奈、Spring Cloud核心組件:Hystrix
六、Spring Cloud核心組件:Zuul
七称开、總結(jié)
概述
毫無疑問亩钟,Spring Cloud是目前微服務(wù)架構(gòu)領(lǐng)域的翹楚乓梨,無數(shù)的書籍博客都在講解這個技術(shù)。不過大多數(shù)講解還停留在對Spring Cloud功能使用的層面清酥,其底層的很多原理扶镀,很多人可能并不知曉。因此本文將通過大量的手繪圖焰轻,給大家談?wù)凷pring Cloud微服務(wù)架構(gòu)的底層原理臭觉。
實(shí)際上,Spring Cloud是一個全家桶式的技術(shù)棧辱志,包含了很多組件蝠筑。本文先從其最核心的幾個組件入手,來剖析一下其底層的工作原理揩懒。也就是Eureka什乙、Ribbon、Feign已球、Hystrix臣镣、Zuul這幾個組件。
一智亮、業(yè)務(wù)場景介紹
先來給大家說一個業(yè)務(wù)場景忆某,假設(shè)咱們現(xiàn)在開發(fā)一個電商網(wǎng)站,要實(shí)現(xiàn)支付訂單的功能鸽素,流程如下:
(1)創(chuàng)建一個訂單之后褒繁,如果用戶立刻支付了這個訂單,我們需要將訂單狀態(tài)更新為“已支付”
(2)扣減相應(yīng)的商品庫存
(3)通知倉儲中心馍忽,進(jìn)行發(fā)貨
(4)給用戶的這次購物增加相應(yīng)的積分
針對上述流程棒坏,我們需要有訂單服務(wù)、庫存服務(wù)遭笋、倉儲服務(wù)坝冕、積分服務(wù)。整個流程的大體思路如下:
(1)用戶針對一個訂單完成支付之后瓦呼,就會去找訂單服務(wù)喂窟,更新訂單狀態(tài)
(2)訂單服務(wù)調(diào)用庫存服務(wù),完成相應(yīng)功能
(3)訂單服務(wù)調(diào)用倉儲服務(wù)央串,完成相應(yīng)功能
(4)訂單服務(wù)調(diào)用積分服務(wù)磨澡,完成相應(yīng)功能
至此,整個支付訂單的業(yè)務(wù)流程結(jié)束
下圖這張圖质和,清晰表明了各服務(wù)間的調(diào)用過程:
好稳摄!有了業(yè)務(wù)場景之后,咱們就一起來看看Spring?Cloud微服務(wù)架構(gòu)中饲宿,這幾個組件如何相互協(xié)作厦酬,各自發(fā)揮的作用以及其背后的原理胆描。
二、Spring Cloud核心組件:Eureka
咱們來考慮第一個問題:訂單服務(wù)想要調(diào)用庫存服務(wù)仗阅、倉儲服務(wù)昌讲,或者是積分服務(wù),怎么調(diào)用减噪?
(1)訂單服務(wù)壓根兒就不知道人家?guī)齑娣?wù)在哪臺機(jī)器上岸坛瘛!他就算想要發(fā)起一個請求旋廷,都不知道發(fā)送給誰鸠按,有心無力!
(2)這時候饶碘,就輪到Spring Cloud Eureka出場了。Eureka是微服務(wù)架構(gòu)中的注冊中心馒吴,專門負(fù)責(zé)服務(wù)的注冊與發(fā)現(xiàn)扎运。
?咱們來看看下面的這張圖,結(jié)合圖來仔細(xì)剖析一下整個流程:?
如上圖所示饮戳,庫存服務(wù)豪治、倉儲服務(wù)、積分服務(wù)中都有一個Eureka Client組件扯罐,這個組件專門負(fù)責(zé)將這個服務(wù)的信息注冊到Eureka Server中负拟。說白了,就是告訴Eureka Server歹河,自己在哪臺機(jī)器上掩浙,監(jiān)聽著哪個端口。而Eureka Server是一個注冊中心秸歧,里面有一個注冊表厨姚,保存了各服務(wù)所在的機(jī)器和端口號
訂單服務(wù)里也有一個Eureka Client組件,這個Eureka Client組件會找Eureka Server問一下:庫存服務(wù)在哪臺機(jī)器凹狻谬墙?監(jiān)聽著哪個端口啊经备?倉儲服務(wù)呢拭抬?積分服務(wù)呢?然后就可以把這些相關(guān)信息從Eureka Server的注冊表中拉取到自己本地緩存起來侵蒙。
這時如果訂單服務(wù)想要調(diào)用庫存服務(wù)造虎,不就可以找自己本地的Eureka Client問一下庫存服務(wù)在哪臺機(jī)器?監(jiān)聽哪個端口嗎蘑志?收到響應(yīng)后累奈,緊接著就可以發(fā)送一個請求過去贬派,調(diào)用庫存服務(wù)扣減庫存的那個接口!同理澎媒,如果訂單服務(wù)要調(diào)用倉儲服務(wù)搞乏、積分服務(wù),也是如法炮制戒努。
總結(jié)一下:
Eureka?Client:負(fù)責(zé)將這個服務(wù)的信息注冊到Eureka Server中
Eureka Server:注冊中心请敦,里面有一個注冊表,保存了各個服務(wù)所在的機(jī)器和端口號
三储玫、Spring Cloud核心組件:Feign
現(xiàn)在訂單服務(wù)確實(shí)知道庫存服務(wù)侍筛、積分服務(wù)、倉庫服務(wù)在哪里了撒穷,同時也監(jiān)聽著哪些端口號了匣椰。但是新問題又來了:難道訂單服務(wù)要自己寫一大堆代碼,跟其他服務(wù)建立網(wǎng)絡(luò)連接端礼,然后構(gòu)造一個復(fù)雜的請求禽笑,接著發(fā)送請求過去,最后對返回的響應(yīng)結(jié)果再寫一大堆代碼來處理嗎蛤奥?
這是上述流程翻譯的代碼片段佳镜,咱們一起來看看,體會一下這種絕望而無助的感受7睬拧s吧臁!
友情提示缅刽,前方高能:
看完上面那一大段代碼啊掏,有沒有感到后背發(fā)涼、一身冷汗拷恨?實(shí)際上你進(jìn)行服務(wù)間調(diào)用時脖律,如果每次都手寫代碼,代碼量比上面那段要多至少幾倍腕侄,所以這個事兒壓根兒就不是地球人能干的小泉。
既然如此,那怎么辦呢冕杠?別急微姊,F(xiàn)eign早已為我們提供好了優(yōu)雅的解決方案。來看看如果用Feign的話分预,你的訂單服務(wù)調(diào)用庫存服務(wù)的代碼會變成啥樣兢交?
看完上面的代碼什么感覺?是不是感覺整個世界都干凈了笼痹,又找到了活下去的勇氣配喳!沒有底層的建立連接酪穿、構(gòu)造請求、解析響應(yīng)的代碼晴裹,直接就是用注解定義一個 FeignClient接口被济,然后調(diào)用那個接口就可以了。人家Feign Client會在底層根據(jù)你的注解涧团,跟你指定的服務(wù)建立連接只磷、構(gòu)造請求、發(fā)起靕求泌绣、獲取響應(yīng)钮追、解析響應(yīng),等等阿迈。這一系列臟活累活元媚,人家Feign全給你干了。
那么問題來了苗沧,F(xiàn)eign是如何做到這么神奇的呢惠毁?很簡單,Feign的一個關(guān)鍵機(jī)制就是使用了動態(tài)代理崎页。咱們一起來看看下面的圖,結(jié)合圖來分析:
(1)首先腰埂,如果你對某個接口定義了@FeignClient注解飒焦,F(xiàn)eign就會針對這個接口創(chuàng)建一個動態(tài)代理
(2)接著你要是調(diào)用那個接口,本質(zhì)就是會調(diào)用?Feign創(chuàng)建的動態(tài)代理屿笼,這是核心中的核心
(3)Feign的動態(tài)代理會根據(jù)你在接口上的@RequestMapping等注解牺荠,來動態(tài)構(gòu)造出你要請求的服務(wù)的地址
(4)最后針對這個地址,發(fā)起請求驴一、解析響應(yīng)
四休雌、Spring Cloud核心組件:Ribbon
說完了Feign,還沒完「味希現(xiàn)在新的問題又來了杈曲,如果人家?guī)齑娣?wù)部署在了5臺機(jī)器上,如下所示:
192.168.169:9000
192.168.170:9000
192.168.171:9000
192.168.172:9000
192.168.173:9000
這下麻煩了胸懈!人家Feign怎么知道該請求哪臺機(jī)器呢担扑?
這時Spring Cloud?Ribbon就派上用場了。Ribbon就是專門解決這個問題的趣钱。它的作用是負(fù)載均衡涌献,會幫你在每次請求時選擇一臺機(jī)器,均勻的把請求分發(fā)到各個機(jī)器上
Ribbon的負(fù)載均衡默認(rèn)使用的最經(jīng)典的Round?Robin輪詢算法首有。這是啥燕垃?簡單來說枢劝,就是如果訂單服務(wù)對庫存服務(wù)發(fā)起10次請求,那就先讓你請求第1臺機(jī)器卜壕、然后是第2臺機(jī)器您旁、第3臺機(jī)器、第4臺機(jī)器印叁、第5臺機(jī)器被冒,接著再來—個循環(huán),第1臺機(jī)器轮蜕、第2臺機(jī)器昨悼。。跃洛。以此類推率触。
此外,Ribbon是和Feign以及Eureka緊密協(xié)作汇竭,完成工作的葱蝗,具體如下:
(1)首先Ribbon從?Eureka Client里獲取到對應(yīng)的服務(wù)注冊表,即知道了所有的服務(wù)都部署在了哪些機(jī)器上细燎,在監(jiān)聽哪些端口號
(2)然后Ribbon就可以使用默認(rèn)的Round?Robin算法两曼,從中選擇一臺機(jī)器
(3)Feign就會針對這臺機(jī)器,構(gòu)造并發(fā)起請求玻驻。
對上述整個過程悼凑,再來一張圖,幫助大家更深刻的理解:
五璧瞬、Spring Cloud核心組件:Hystrix
在微服務(wù)架構(gòu)里户辫,一個系統(tǒng)會有很多的服務(wù)。以本文的業(yè)務(wù)場景為例:訂單服務(wù)在一個業(yè)務(wù)流程里需要調(diào)用三個服務(wù)∴惋保現(xiàn)在假設(shè)訂單服務(wù)自己最多只有100個線程可以處理請求渔欢,然后呢,積分服務(wù)不幸的掛了瘟忱,每次訂單服務(wù)調(diào)用積分服務(wù)的時候奥额,都會卡住幾秒鐘,然后拋出—個超時異常酷誓。
咱們一起來分析一下披坏,這樣會導(dǎo)致什么問題?
如果系統(tǒng)處于高并發(fā)的場景下盐数,大量請求涌過來的時候棒拂,訂單服務(wù)的100個線程都會卡在請求積分服務(wù)這塊。導(dǎo)致訂單服務(wù)沒有一個線程可以處理請求。然后就會導(dǎo)致別人請求訂單服務(wù)的時候帚屉,發(fā)現(xiàn)訂單服務(wù)也掛了谜诫,不響應(yīng)任何請求了
上面這個,就是微服務(wù)架構(gòu)中恐怖的服務(wù)雪崩問題攻旦,如下圖所示:
如上圖喻旷,這么多服務(wù)互相調(diào)用,要是不做任何保護(hù)的話牢屋,某一個服務(wù)掛了且预,就會引起連鎖反應(yīng),導(dǎo)致別的服務(wù)也掛烙无。比如積分服務(wù)掛了锋谐,會導(dǎo)致訂單服務(wù)的線程全部卡在請求積分服務(wù)這里,沒有一個線程可以工作截酷,瞬間導(dǎo)致訂單服務(wù)也掛了涮拗,別人請求訂單服務(wù)全部會卡住,無法響應(yīng)迂苛。
但是我們思考一下三热,就算積分服務(wù)掛了,訂單服務(wù)也可以不用掛叭谩就漾!為什么?
(1)我們結(jié)合業(yè)務(wù)來看:支付訂單的時候念搬,只要把庫存扣減了从藤,然后通知倉庫發(fā)貨就OK了
(2)如果積分服務(wù)掛了,大不了等他恢復(fù)之后锁蠕,慢慢人肉手工恢復(fù)數(shù)據(jù)!為啥一定要因?yàn)橐粋€積分服務(wù)掛了懊蒸,就直接導(dǎo)致訂單服務(wù)也掛了呢荣倾?不可以接受!
現(xiàn)在問題分析完了骑丸,如何解決舌仍?
這時就輪到Hystrix閃亮登場了。Hystrix是隔離通危、熔斷以及降級的一個框架铸豁。啥意思呢?說白了菊碟,Hystrix會搞很多個小小的線程池节芥,比如訂單服務(wù)請求庫存服務(wù)是一個線程池,請求倉儲服務(wù)是一個線程池,請求積分服務(wù)是一個線程池头镊。每個線程池里的線程就僅僅用于請求那個服務(wù)蚣驼。
打個比方:現(xiàn)在很不幸,積分服務(wù)掛了相艇,會咋樣颖杏?
當(dāng)然會導(dǎo)致訂單服務(wù)里的那個用來調(diào)用積分服務(wù)的線程都卡死不能工作了啊坛芽!但是由于訂單服務(wù)調(diào)用庫存服務(wù)留储、倉儲服務(wù)的這兩個線程池都是正常工作的,所以這兩個服務(wù)不會受到任何影響咙轩。
這個時候如果別人請求訂單服務(wù)获讳,訂單服務(wù)還是可以正常調(diào)用庫存服務(wù)扣減庫存,調(diào)用倉儲服務(wù)通知發(fā)貨臭墨。只不過調(diào)用積分服務(wù)的時候赔嚎,每次都會報(bào)錯。但是如果積分服務(wù)都掛了胧弛,每次調(diào)用都要去卡住幾秒鐘干啥呢尤误?有意義嗎?當(dāng)然沒有结缚!所以我們直接對積分服務(wù)熔斷不就得了损晤,比如在5分鐘內(nèi)請求積分服務(wù)直接就返回了,不要去走網(wǎng)絡(luò)請求卡住幾秒鐘红竭,這個過程尤勋,就是所謂的熔斷!
那人家又說茵宪,兄弟最冰,積分服務(wù)掛了你就熔斷,好歹你干點(diǎn)兒什么跋』稹暖哨!別啥都不干就直接返回啊凰狞?沒問題篇裁,咱們就來個降級:每次調(diào)用積分服務(wù),你就在數(shù)據(jù)庫里記錄一條消息赡若,說給某某用戶增加了多少積分达布,因?yàn)榉e分服務(wù)掛了,導(dǎo)致沒增加成功逾冬!這樣等積分服務(wù)恢復(fù)了黍聂,你可以根據(jù)這些記錄手工加一下積分。這個過程,就是所謂的降級分冈。
為幫助大家更直觀的理解圾另,接下來用一張圖,梳理一下Hystrix隔離雕沉、熔斷和降級的全流程:
六集乔、Spring Cloud核心組件:Zuul
說完了Hystrix,接著給大家說說最后一個組件:Zuul坡椒,也就是微服務(wù)網(wǎng)關(guān)扰路。這個組件是負(fù)責(zé)網(wǎng)絡(luò)路由的。不懂網(wǎng)絡(luò)路由倔叼?行汗唱,那我給你說說,如果沒有Zuul的日常工作會怎樣丈攒?
假設(shè)你后臺部署了幾百個服務(wù)哩罪,現(xiàn)在有個前端兄弟,人家請求是直接從瀏覽器那兒發(fā)過來的巡验。打個比方:人家要請求一下庫存服務(wù)际插,你難道還讓人家記著這服務(wù)的名字叫做inventory-service?部署在5臺機(jī)器上显设?就算人家肯記住這一個框弛,你后臺可有幾百個服務(wù)的名稱和地址呢?難不成人家請求一個捕捂,就得記住一個瑟枫?你要這樣玩兒,那真是友誼的小船指攒,說翻就翻慷妙!
上面這種情況,壓根兒是不現(xiàn)實(shí)的允悦。所以一般微服務(wù)架構(gòu)中都必然會設(shè)計(jì)一個網(wǎng)關(guān)在里面景殷,像android、ios澡屡、pc前端、微信小程序咐旧、H5等等驶鹉,不用去關(guān)心后端有幾百個服務(wù),就知道有一個網(wǎng)關(guān)铣墨,所有請求都往網(wǎng)關(guān)走室埋,網(wǎng)關(guān)會根據(jù)請求中的一些特征,將請求轉(zhuǎn)發(fā)給后端的各個服務(wù)。
而且有一個網(wǎng)關(guān)之后摔寨,還有很多好處尤蛮,比如可以做統(tǒng)一的降級疏叨、限流、認(rèn)證授權(quán)降淮、安全,等等搏讶。
七佳鳖、總結(jié):
最后再來總結(jié)一下,上述幾個Spring?Cloud核心組件媒惕,在微服務(wù)架構(gòu)中系吩,分別扮演的角色:
Eureka:各個服務(wù)啟動時,Eureka?Client都會將服務(wù)注冊到Eureka?Server妒蔚,并且Eureka?Client還可以反過來從Eureka?Server拉取注冊表穿挨,從而知道其他服務(wù)在哪里
Ribbon:服務(wù)間發(fā)起請求的時候,基于Ribbon做負(fù)載均衡肴盏,從一個服務(wù)的多臺機(jī)器中選擇一臺
Feign:基于Feign的動態(tài)代理機(jī)制科盛,根據(jù)注解和選擇的機(jī)器,拼接請求URL地址叁鉴,發(fā)起請求
Hystrix:發(fā)起請求是通過Hystrix的線程池來走的土涝,不同的服務(wù)走不同的線程池,實(shí)現(xiàn)了不同服務(wù)調(diào)用的隔離幌墓,避免了服務(wù)雪崩的問題
Zuul:如果前端但壮、移動端要調(diào)用后端系統(tǒng),統(tǒng)一從Zuul網(wǎng)關(guān)進(jìn)入常侣,由Zuul網(wǎng)關(guān)轉(zhuǎn)發(fā)請求給對應(yīng)的服務(wù)
以上就是我們通過一個電商業(yè)務(wù)場景蜡饵,闡述了Spring?Cloud微服務(wù)架構(gòu)幾個核心組件的底層原理。
作者:佛祖
鏈接:http://www.reibang.com/p/3b488c0e5a9b
來源:簡書