概述
毫無(wú)疑問(wèn),Spring Cloud是目前微服務(wù)架構(gòu)領(lǐng)域的翹楚她按,無(wú)數(shù)的書(shū)籍博客都在講解這個(gè)技術(shù)牛隅。不過(guò)大多數(shù)講解還停留在對(duì)Spring Cloud功能使用的層面,其底層的很多原理酌泰,很多人可能并不知曉媒佣。因此本文將通過(guò)大量的手繪圖,給大家談?wù)凷pring Cloud微服務(wù)架構(gòu)的底層原理陵刹。
實(shí)際上默伍,Spring Cloud是一個(gè)全家桶式的技術(shù)棧,包含了很多組件。本文先從其最核心的幾個(gè)組件入手也糊,來(lái)剖析一下其底層的工作原理炼蹦。也就是Eureka、Ribbon狸剃、Feign掐隐、Hystrix、Zuul這幾個(gè)組件钞馁。
一瑟枫、業(yè)務(wù)場(chǎng)景介紹
先來(lái)給大家說(shuō)一個(gè)業(yè)務(wù)場(chǎng)景,假設(shè)咱們現(xiàn)在開(kāi)發(fā)一個(gè)電商網(wǎng)站指攒,要實(shí)現(xiàn)支付訂單的功能,流程如下:
創(chuàng)建一個(gè)訂單之后僻焚,如果用戶立刻支付了這個(gè)訂單允悦,我們需要將訂單狀態(tài)更新為“已支付”
扣減相應(yīng)的商品庫(kù)存
通知倉(cāng)儲(chǔ)中心,進(jìn)行發(fā)貨
給用戶的這次購(gòu)物增加相應(yīng)的積分
針對(duì)上述流程虑啤,我們需要有訂單服務(wù)隙弛、庫(kù)存服務(wù)、倉(cāng)儲(chǔ)服務(wù)狞山、積分服務(wù)全闷。整個(gè)流程的大體思路如下:
用戶針對(duì)一個(gè)訂單完成支付之后,就會(huì)去找訂單服務(wù)萍启,更新訂單狀態(tài)
訂單服務(wù)調(diào)用庫(kù)存服務(wù)总珠,完成相應(yīng)功能
訂單服務(wù)調(diào)用倉(cāng)儲(chǔ)服務(wù),完成相應(yīng)功能
訂單服務(wù)調(diào)用積分服務(wù)勘纯,完成相應(yīng)功能
至此局服,整個(gè)支付訂單的業(yè)務(wù)流程結(jié)束
下圖這張圖,清晰表明了各服務(wù)間的調(diào)用過(guò)程:
好驳遵!有了業(yè)務(wù)場(chǎng)景之后淫奔,咱們就一起來(lái)看看Spring Cloud微服務(wù)架構(gòu)中,這幾個(gè)組件如何相互協(xié)作堤结,各自發(fā)揮的作用以及其背后的原理唆迁。
二、Spring Cloud核心組件:Eureka
咱們來(lái)考慮第一個(gè)問(wèn)題:訂單服務(wù)想要調(diào)用庫(kù)存服務(wù)竞穷、倉(cāng)儲(chǔ)服務(wù)唐责,或者是積分服務(wù),怎么調(diào)用来庭?
訂單服務(wù)壓根兒就不知道人家?guī)齑娣?wù)在哪臺(tái)機(jī)器上岸饰怠!他就算想要發(fā)起一個(gè)請(qǐng)求,都不知道發(fā)送給誰(shuí)肴盏,有心無(wú)力科盛!
這時(shí)候,就輪到Spring Cloud Eureka出場(chǎng)了菜皂。Eureka是微服務(wù)架構(gòu)中的注冊(cè)中心贞绵,專門(mén)負(fù)責(zé)服務(wù)的注冊(cè)與發(fā)現(xiàn)。
咱們來(lái)看看下面的這張圖恍飘,結(jié)合圖來(lái)仔細(xì)剖析一下整個(gè)流程:
如上圖所示榨崩,庫(kù)存服務(wù)、倉(cāng)儲(chǔ)服務(wù)章母、積分服務(wù)中都有一個(gè)Eureka Client組件母蛛,這個(gè)組件專門(mén)負(fù)責(zé)將這個(gè)服務(wù)的信息注冊(cè)到Eureka Server中。說(shuō)白了乳怎,就是告訴Eureka Server彩郊,自己在哪臺(tái)機(jī)器上,監(jiān)聽(tīng)著哪個(gè)端口蚪缀。而Eureka Server是一個(gè)注冊(cè)中心秫逝,里面有一個(gè)注冊(cè)表,保存了各服務(wù)所在的機(jī)器和端口號(hào)
訂單服務(wù)里也有一個(gè)Eureka Client組件询枚,這個(gè)Eureka Client組件會(huì)找Eureka Server問(wèn)一下:庫(kù)存服務(wù)在哪臺(tái)機(jī)器拔シ?監(jiān)聽(tīng)著哪個(gè)端口敖鹗瘛刷后?倉(cāng)儲(chǔ)服務(wù)呢?積分服務(wù)呢廉油?然后就可以把這些相關(guān)信息從Eureka Server的注冊(cè)表中拉取到自己本地緩存起來(lái)惠险。
這時(shí)如果訂單服務(wù)想要調(diào)用庫(kù)存服務(wù),不就可以找自己本地的Eureka Client問(wèn)一下庫(kù)存服務(wù)在哪臺(tái)機(jī)器抒线?監(jiān)聽(tīng)哪個(gè)端口嗎班巩?收到響應(yīng)后,緊接著就可以發(fā)送一個(gè)請(qǐng)求過(guò)去嘶炭,調(diào)用庫(kù)存服務(wù)扣減庫(kù)存的那個(gè)接口抱慌!同理,如果訂單服務(wù)要調(diào)用倉(cāng)儲(chǔ)服務(wù)眨猎、積分服務(wù)抑进,也是如法炮制。
總結(jié)一下:
Eureka Client:負(fù)責(zé)將這個(gè)服務(wù)的信息注冊(cè)到Eureka Server中
Eureka Server:注冊(cè)中心睡陪,里面有一個(gè)注冊(cè)表寺渗,保存了各個(gè)服務(wù)所在的機(jī)器和端口號(hào)
三匿情、Spring Cloud核心組件:Feign
現(xiàn)在訂單服務(wù)確實(shí)知道庫(kù)存服務(wù)、積分服務(wù)信殊、倉(cāng)庫(kù)服務(wù)在哪里了炬称,同時(shí)也監(jiān)聽(tīng)著哪些端口號(hào)了。但是新問(wèn)題又來(lái)了:難道訂單服務(wù)要自己寫(xiě)一大堆代碼涡拘,跟其他服務(wù)建立網(wǎng)絡(luò)連接玲躯,然后構(gòu)造一個(gè)復(fù)雜的請(qǐng)求,接著發(fā)送請(qǐng)求過(guò)去鳄乏,最后對(duì)返回的響應(yīng)結(jié)果再寫(xiě)一大堆代碼來(lái)處理嗎跷车?
這是上述流程翻譯的代碼片段,咱們一起來(lái)看看橱野,體會(huì)一下這種絕望而無(wú)助的感受P嘟伞!水援!
友情提示不铆,前方高能:
看完上面那一大段代碼,有沒(méi)有感到后背發(fā)涼裹唆、一身冷汗?實(shí)際上你進(jìn)行服務(wù)間調(diào)用時(shí)只洒,如果每次都手寫(xiě)代碼许帐,代碼量比上面那段要多至少幾倍,所以這個(gè)事兒壓根兒就不是地球人能干的毕谴。
既然如此成畦,那怎么辦呢?別急涝开,F(xiàn)eign早已為我們提供好了優(yōu)雅的解決方案循帐。來(lái)看看如果用Feign的話,你的訂單服務(wù)調(diào)用庫(kù)存服務(wù)的代碼會(huì)變成啥樣舀武?
看完上面的代碼什么感覺(jué)拄养?是不是感覺(jué)整個(gè)世界都干凈了,又找到了活下去的勇氣银舱!沒(méi)有底層的建立連接瘪匿、構(gòu)造請(qǐng)求、解析響應(yīng)的代碼寻馏,直接就是用注解定義一個(gè) FeignClient接口棋弥,然后調(diào)用那個(gè)接口就可以了。人家Feign Client會(huì)在底層根據(jù)你的注解诚欠,跟你指定的服務(wù)建立連接顽染、構(gòu)造請(qǐng)求漾岳、發(fā)起靕求、獲取響應(yīng)粉寞、解析響應(yīng)尼荆,等等。這一系列臟活累活仁锯,人家Feign全給你干了耀找。
那么問(wèn)題來(lái)了,F(xiàn)eign是如何做到這么神奇的呢业崖?很簡(jiǎn)單野芒,F(xiàn)eign的一個(gè)關(guān)鍵機(jī)制就是使用了動(dòng)態(tài)代理。咱們一起來(lái)看看下面的圖双炕,結(jié)合圖來(lái)分析:
首先狞悲,如果你對(duì)某個(gè)接口定義了@FeignClient注解,F(xiàn)eign就會(huì)針對(duì)這個(gè)接口創(chuàng)建一個(gè)動(dòng)態(tài)代理
接著你要是調(diào)用那個(gè)接口妇斤,本質(zhì)就是會(huì)調(diào)用 Feign創(chuàng)建的動(dòng)態(tài)代理摇锋,這是核心中的核心
Feign的動(dòng)態(tài)代理會(huì)根據(jù)你在接口上的@RequestMapping等注解,來(lái)動(dòng)態(tài)構(gòu)造出你要請(qǐng)求的服務(wù)的地址
最后針對(duì)這個(gè)地址站超,發(fā)起請(qǐng)求荸恕、解析響應(yīng)
四、Spring Cloud核心組件:Ribbon
說(shuō)完了Feign死相,還沒(méi)完∪谇螅現(xiàn)在新的問(wèn)題又來(lái)了,如果人家?guī)齑娣?wù)部署在了5臺(tái)機(jī)器上算撮,如下所示:
192.168.169:9000
192.168.170:9000
192.168.171:9000
192.168.172:9000
192.168.173:9000
這下麻煩了生宛!人家Feign怎么知道該請(qǐng)求哪臺(tái)機(jī)器呢?
這時(shí)Spring Cloud Ribbon就派上用場(chǎng)了肮柜。Ribbon就是專門(mén)解決這個(gè)問(wèn)題的陷舅。它的作用是負(fù)載均衡,會(huì)幫你在每次請(qǐng)求時(shí)選擇一臺(tái)機(jī)器审洞,均勻的把請(qǐng)求分發(fā)到各個(gè)機(jī)器上
Ribbon的負(fù)載均衡默認(rèn)使用的最經(jīng)典的Round Robin輪詢算法莱睁。這是啥?簡(jiǎn)單來(lái)說(shuō)芒澜,就是如果訂單服務(wù)對(duì)庫(kù)存服務(wù)發(fā)起10次請(qǐng)求缩赛,那就先讓你請(qǐng)求第1臺(tái)機(jī)器、然后是第2臺(tái)機(jī)器撰糠、第3臺(tái)機(jī)器酥馍、第4臺(tái)機(jī)器、第5臺(tái)機(jī)器阅酪,接著再來(lái)—個(gè)循環(huán)旨袒,第1臺(tái)機(jī)器汁针、第2臺(tái)機(jī)器。砚尽。施无。以此類推。
此外必孤,Ribbon是和Feign以及Eureka緊密協(xié)作猾骡,完成工作的,具體如下:
首先Ribbon會(huì)從 Eureka Client里獲取到對(duì)應(yīng)的服務(wù)注冊(cè)表敷搪,也就知道了所有的服務(wù)都部署在了哪些機(jī)器上兴想,在監(jiān)聽(tīng)哪些端口號(hào)。
然后Ribbon就可以使用默認(rèn)的Round Robin算法赡勘,從中選擇一臺(tái)機(jī)器
Feign就會(huì)針對(duì)這臺(tái)機(jī)器嫂便,構(gòu)造并發(fā)起請(qǐng)求。
對(duì)上述整個(gè)過(guò)程闸与,再來(lái)一張圖毙替,幫助大家更深刻的理解:
五、Spring Cloud核心組件:Hystrix
在微服務(wù)架構(gòu)里践樱,一個(gè)系統(tǒng)會(huì)有很多的服務(wù)厂画。以本文的業(yè)務(wù)場(chǎng)景為例:訂單服務(wù)在一個(gè)業(yè)務(wù)流程里需要調(diào)用三個(gè)服務(wù)。現(xiàn)在假設(shè)訂單服務(wù)自己最多只有100個(gè)線程可以處理請(qǐng)求拷邢,然后呢木羹,積分服務(wù)不幸的掛了,每次訂單服務(wù)調(diào)用積分服務(wù)的時(shí)候解孙,都會(huì)卡住幾秒鐘,然后拋出—個(gè)超時(shí)異常抛人。
咱們一起來(lái)分析一下弛姜,這樣會(huì)導(dǎo)致什么問(wèn)題?
如果系統(tǒng)處于高并發(fā)的場(chǎng)景下妖枚,大量請(qǐng)求涌過(guò)來(lái)的時(shí)候廷臼,訂單服務(wù)的100個(gè)線程都會(huì)卡在請(qǐng)求積分服務(wù)這塊。導(dǎo)致訂單服務(wù)沒(méi)有一個(gè)線程可以處理請(qǐng)求
然后就會(huì)導(dǎo)致別人請(qǐng)求訂單服務(wù)的時(shí)候绝页,發(fā)現(xiàn)訂單服務(wù)也掛了荠商,不響應(yīng)任何請(qǐng)求了
上面這個(gè),就是微服務(wù)架構(gòu)中恐怖的服務(wù)雪崩問(wèn)題续誉,如下圖所示:
如上圖莱没,這么多服務(wù)互相調(diào)用,要是不做任何保護(hù)的話酷鸦,某一個(gè)服務(wù)掛了饰躲,就會(huì)引起連鎖反應(yīng)牙咏,導(dǎo)致別的服務(wù)也掛懈息。比如積分服務(wù)掛了萨西,會(huì)導(dǎo)致訂單服務(wù)的線程全部卡在請(qǐng)求積分服務(wù)這里,沒(méi)有一個(gè)線程可以工作键耕,瞬間導(dǎo)致訂單服務(wù)也掛了寄狼,別人請(qǐng)求訂單服務(wù)全部會(huì)卡住丁寄,無(wú)法響應(yīng)。
但是我們思考一下泊愧,就算積分服務(wù)掛了伊磺,訂單服務(wù)也可以不用掛啊拼卵!為什么奢浑?
我們結(jié)合業(yè)務(wù)來(lái)看:支付訂單的時(shí)候,只要把庫(kù)存扣減了腋腮,然后通知倉(cāng)庫(kù)發(fā)貨就OK了
如果積分服務(wù)掛了雀彼,大不了等他恢復(fù)之后,慢慢人肉手工恢復(fù)數(shù)據(jù)即寡!為啥一定要因?yàn)橐粋€(gè)積分服務(wù)掛了徊哑,就直接導(dǎo)致訂單服務(wù)也掛了呢?不可以接受聪富!
現(xiàn)在問(wèn)題分析完了莺丑,如何解決?
這時(shí)就輪到Hystrix閃亮登場(chǎng)了墩蔓。Hystrix是隔離梢莽、熔斷以及降級(jí)的一個(gè)框架。啥意思呢奸披?說(shuō)白了昏名,Hystrix會(huì)搞很多個(gè)小小的線程池,比如訂單服務(wù)請(qǐng)求庫(kù)存服務(wù)是一個(gè)線程池阵面,請(qǐng)求倉(cāng)儲(chǔ)服務(wù)是一個(gè)線程池轻局,請(qǐng)求積分服務(wù)是一個(gè)線程池。每個(gè)線程池里的線程就僅僅用于請(qǐng)求那個(gè)服務(wù)样刷。
打個(gè)比方:現(xiàn)在很不幸仑扑,積分服務(wù)掛了,會(huì)咋樣置鼻?
當(dāng)然會(huì)導(dǎo)致訂單服務(wù)里的那個(gè)用來(lái)調(diào)用積分服務(wù)的線程都卡死不能工作了罢蛞!但是由于訂單服務(wù)調(diào)用庫(kù)存服務(wù)箕母、倉(cāng)儲(chǔ)服務(wù)的這兩個(gè)線程池都是正常工作的盒让,所以這兩個(gè)服務(wù)不會(huì)受到任何影響梅肤。
這個(gè)時(shí)候如果別人請(qǐng)求訂單服務(wù),訂單服務(wù)還是可以正常調(diào)用庫(kù)存服務(wù)扣減庫(kù)存邑茄,調(diào)用倉(cāng)儲(chǔ)服務(wù)通知發(fā)貨姨蝴。只不過(guò)調(diào)用積分服務(wù)的時(shí)候,每次都會(huì)報(bào)錯(cuò)肺缕。但是如果積分服務(wù)都掛了左医,每次調(diào)用都要去卡住幾秒鐘干啥呢?有意義嗎同木?當(dāng)然沒(méi)有浮梢!所以我們直接對(duì)積分服務(wù)熔斷不就得了,比如在5分鐘內(nèi)請(qǐng)求積分服務(wù)直接就返回了彤路,不要去走網(wǎng)絡(luò)請(qǐng)求卡住幾秒鐘秕硝,這個(gè)過(guò)程,就是所謂的熔斷洲尊!
那人家又說(shuō)远豺,兄弟,積分服務(wù)掛了你就熔斷坞嘀,好歹你干點(diǎn)兒什么扒ぁ!別啥都不干就直接返回袄錾棺滞?沒(méi)問(wèn)題,咱們就來(lái)個(gè)降級(jí):每次調(diào)用積分服務(wù)矢渊,你就在數(shù)據(jù)庫(kù)里記錄一條消息继准,說(shuō)給某某用戶增加了多少積分,因?yàn)榉e分服務(wù)掛了矮男,導(dǎo)致沒(méi)增加成功移必!這樣等積分服務(wù)恢復(fù)了,你可以根據(jù)這些記錄手工加一下積分昂灵。這個(gè)過(guò)程,就是所謂的降級(jí)舞萄。
為幫助大家更直觀的理解眨补,接下來(lái)用一張圖,梳理一下Hystrix隔離倒脓、熔斷和降級(jí)的全流程:
六撑螺、Spring Cloud核心組件:Zuul
說(shuō)完了Hystrix,接著給大家說(shuō)說(shuō)最后一個(gè)組件:Zuul崎弃,也就是微服務(wù)網(wǎng)關(guān)甘晤。這個(gè)組件是負(fù)責(zé)網(wǎng)絡(luò)路由的含潘。不懂網(wǎng)絡(luò)路由?行线婚,那我給你說(shuō)說(shuō)遏弱,如果沒(méi)有Zuul的日常工作會(huì)怎樣?
假設(shè)你后臺(tái)部署了幾百個(gè)服務(wù)塞弊,現(xiàn)在有個(gè)前端兄弟漱逸,人家請(qǐng)求是直接從瀏覽器那兒發(fā)過(guò)來(lái)的。打個(gè)比方:人家要請(qǐng)求一下庫(kù)存服務(wù)游沿,你難道還讓人家記著這服務(wù)的名字叫做inventory-service饰抒?部署在5臺(tái)機(jī)器上?就算人家肯記住這一個(gè)诀黍,你后臺(tái)可有幾百個(gè)服務(wù)的名稱和地址呢袋坑?難不成人家請(qǐng)求一個(gè),就得記住一個(gè)眯勾?你要這樣玩兒枣宫,那真是友誼的小船,說(shuō)翻就翻咒精!
上面這種情況镶柱,壓根兒是不現(xiàn)實(shí)的。所以一般微服務(wù)架構(gòu)中都必然會(huì)設(shè)計(jì)一個(gè)網(wǎng)關(guān)在里面模叙,像android歇拆、ios、pc前端范咨、微信小程序故觅、H5等等,不用去關(guān)心后端有幾百個(gè)服務(wù)渠啊,就知道有一個(gè)網(wǎng)關(guān)输吏,所有請(qǐng)求都往網(wǎng)關(guān)走,網(wǎng)關(guān)會(huì)根據(jù)請(qǐng)求中的一些特征替蛉,將請(qǐng)求轉(zhuǎn)發(fā)給后端的各個(gè)服務(wù)贯溅。
而且有一個(gè)網(wǎng)關(guān)之后,還有很多好處躲查,比如可以做統(tǒng)一的降級(jí)它浅、限流、認(rèn)證授權(quán)镣煮、安全姐霍,等等。
七、總結(jié):
最后再來(lái)總結(jié)一下镊折,上述幾個(gè)Spring Cloud核心組件胯府,在微服務(wù)架構(gòu)中,分別扮演的角色:
Eureka:各個(gè)服務(wù)啟動(dòng)時(shí)恨胚,Eureka Client都會(huì)將服務(wù)注冊(cè)到Eureka Server骂因,并且Eureka Client還可以反過(guò)來(lái)從Eureka Server拉取注冊(cè)表,從而知道其他服務(wù)在哪里
Ribbon:服務(wù)間發(fā)起請(qǐng)求的時(shí)候与纽,基于Ribbon做負(fù)載均衡侣签,從一個(gè)服務(wù)的多臺(tái)機(jī)器中選擇一臺(tái)
Feign:基于Feign的動(dòng)態(tài)代理機(jī)制,根據(jù)注解和選擇的機(jī)器急迂,拼接請(qǐng)求URL地址影所,發(fā)起請(qǐng)求
Hystrix:發(fā)起請(qǐng)求是通過(guò)Hystrix的線程池來(lái)走的,不同的服務(wù)走不同的線程池僚碎,實(shí)現(xiàn)了不同服務(wù)調(diào)用的隔離猴娩,避免了服務(wù)雪崩的問(wèn)題
Zuul:如果前端、移動(dòng)端要調(diào)用后端系統(tǒng)勺阐,統(tǒng)一從Zuul網(wǎng)關(guān)進(jìn)入卷中,由Zuul網(wǎng)關(guān)轉(zhuǎn)發(fā)請(qǐng)求給對(duì)應(yīng)的服務(wù)
以上就是我們通過(guò)一個(gè)電商業(yè)務(wù)場(chǎng)景,闡述了Spring Cloud微服務(wù)架構(gòu)幾個(gè)核心組件的底層原理渊抽。
文字總結(jié)還不夠直觀蟆豫?沒(méi)問(wèn)題!我們將Spring Cloud的5個(gè)核心組件通過(guò)一張圖串聯(lián)起來(lái)懒闷,再來(lái)直觀的感受一下其底層的架構(gòu)原理:
如有收獲十减,請(qǐng)幫忙轉(zhuǎn)發(fā),您的鼓勵(lì)是作者最大的動(dòng)力愤估,謝謝帮辟!
歡迎工作一到五年的Java工程師朋友們加入Java程序員開(kāi)發(fā): 854393687
群內(nèi)提供免費(fèi)的Java架構(gòu)學(xué)習(xí)資料(里面有高可用、高并發(fā)玩焰、高性能及分布式由驹、Jvm性能調(diào)優(yōu)、Spring源碼昔园,MyBatis蔓榄,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個(gè)知識(shí)點(diǎn)的架構(gòu)資料)合理利用自己每一分每一秒的時(shí)間來(lái)學(xué)習(xí)提升自己,不要再用"沒(méi)有時(shí)間“來(lái)掩飾自己思想上的懶惰默刚!趁年輕甥郑,使勁拼,給未來(lái)的自己一個(gè)交代羡棵!