一养叛、分布式系統(tǒng)面臨的問(wèn)題
復(fù)雜分布式體系結(jié)構(gòu)中的應(yīng)用程序有數(shù)十個(gè)依賴關(guān)系种呐,每個(gè)依賴關(guān)系在某些時(shí)候?qū)⒉豢杀苊獾厥 ?二、服務(wù)雪崩
多個(gè)微服務(wù)之間調(diào)用的時(shí)候弃甥,假設(shè)微服務(wù)A調(diào)用微服務(wù)B和微服務(wù)C爽室,微服務(wù)B和微服務(wù)C又調(diào)用其它的微服務(wù),這就是所謂的“扇出”淆攻。如果扇出的鏈路上某個(gè)微服務(wù)的調(diào)用響應(yīng)時(shí)間過(guò)長(zhǎng)或者不可用阔墩,對(duì)微服務(wù)A的調(diào)用就會(huì)占用越來(lái)越多的系統(tǒng)資源,進(jìn)而引起系統(tǒng)崩潰瓶珊,所謂的“雪崩效應(yīng)”啸箫。
對(duì)于高流量的應(yīng)用來(lái)說(shuō),單一的后端依賴可能會(huì)導(dǎo)致所有服務(wù)器上的所有資源都在幾秒鐘內(nèi)飽和伞芹。比失敗更糟糕的是筐高,這些應(yīng)用程序還可能導(dǎo)致服務(wù)之間的延遲增加,備份隊(duì)列丑瞧,線程和其他系統(tǒng)資源緊張,導(dǎo)致整個(gè)系統(tǒng)發(fā)生更多的級(jí)聯(lián)故障蜀肘。這些都表示需要對(duì)故障和延遲進(jìn)行隔離和管理绊汹,以便單個(gè)依賴關(guān)系的失敗,不能取消整個(gè)應(yīng)用程序或系統(tǒng)扮宠。
備注:一般情況對(duì)于服務(wù)依賴的保護(hù)主要有3中解決方案:
(1)熔斷模式:這種模式主要是參考電路熔斷西乖,如果一條線路電壓過(guò)高,保險(xiǎn)絲會(huì)熔斷坛增,防止火災(zāi)获雕。放到我們的系統(tǒng)中,如果某個(gè)目標(biāo)服務(wù)調(diào)用慢或者有大量超時(shí)收捣,此時(shí)届案,熔斷該服務(wù)的調(diào)用,對(duì)于后續(xù)調(diào)用請(qǐng)求罢艾,不在繼續(xù)調(diào)用目標(biāo)服務(wù)楣颠,直接返回尽纽,快速釋放資源。如果目標(biāo)服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用童漩。
(2)隔離模式:這種模式就像對(duì)系統(tǒng)請(qǐng)求按類型劃分成一個(gè)個(gè)小島的一樣弄贿,當(dāng)某個(gè)小島被火少光了,不會(huì)影響到其他的小島矫膨。例如可以對(duì)不同類型的請(qǐng)求使用線程池來(lái)資源隔離差凹,每種類型的請(qǐng)求互不影響,如果一種類型的請(qǐng)求線程資源耗盡侧馅,則對(duì)后續(xù)的該類型請(qǐng)求直接返回危尿,不再調(diào)用后續(xù)資源。這種模式使用場(chǎng)景非常多施禾,例如將一個(gè)服務(wù)拆開(kāi)脚线,對(duì)于重要的服務(wù)使用單獨(dú)服務(wù)器來(lái)部署,再或者公司最近推廣的多中心弥搞。
(3)限流模式:上述的熔斷模式和隔離模式都屬于出錯(cuò)后的容錯(cuò)處理機(jī)制邮绿,而限流模式則可以稱為預(yù)防模式。限流模式主要是提前對(duì)各個(gè)類型的請(qǐng)求設(shè)置最高的QPS閾值攀例,若高于設(shè)置的閾值則對(duì)該請(qǐng)求直接返回船逮,不再調(diào)用后續(xù)資源。這種模式不能解決服務(wù)依賴的問(wèn)題粤铭,只能解決系統(tǒng)整體資源分配問(wèn)題挖胃,因?yàn)闆](méi)有被限流的請(qǐng)求依然有可能造成雪崩效應(yīng)。
三梆惯、是什么
Hystrix是一個(gè)用于處理分布式系統(tǒng)的延遲和容錯(cuò)的開(kāi)源庫(kù)酱鸭,在分布式系統(tǒng)里,許多依賴不可避免的會(huì)調(diào)用失敗垛吗,比如超時(shí)凹髓、異常等,Hystrix能夠保證在一個(gè)依賴出問(wèn)題的情況下怯屉,不會(huì)導(dǎo)致整體服務(wù)失敗蔚舀,避免級(jí)聯(lián)故障,以提高分布式系統(tǒng)的彈性锨络。
“斷路器”本身是一種開(kāi)關(guān)裝置赌躺,當(dāng)某個(gè)服務(wù)單元發(fā)生故障之后,通過(guò)斷路器的故障監(jiān)控(類似熔斷保險(xiǎn)絲)羡儿,向調(diào)用方返回一個(gè)符合預(yù)期的礼患、可處理的備選響應(yīng)(FallBack),而不是長(zhǎng)時(shí)間的等待或者拋出調(diào)用方無(wú)法處理的異常,這樣就保證了服務(wù)調(diào)用方的線程不會(huì)被長(zhǎng)時(shí)間讶泰、不必要地占用咏瑟,從而避免了故障在分布式系統(tǒng)中的蔓延,乃至雪崩痪署。
四码泞、能干嗎?
(一)狼犯、服務(wù)降級(jí):
備注:Hystrix服務(wù)降級(jí)余寥,其實(shí)就是線程池中單個(gè)線程障處理,防止單個(gè)線程請(qǐng)求時(shí)間太長(zhǎng)悯森,導(dǎo)致資源長(zhǎng)期被占有而得不到釋放宋舷,從而導(dǎo)致線程池被快速占用完,導(dǎo)致服務(wù)崩潰瓢姻。
Hystrix能解決如下問(wèn)題:
1.請(qǐng)求超時(shí)降級(jí)祝蝠,線程資源不足降級(jí),降級(jí)之后可以返回自定義數(shù)據(jù)
2.線程池隔離降級(jí)幻碱,分布式服務(wù)可以針對(duì)不同的服務(wù)使用不同的線程池绎狭,從而互不影響
3.自動(dòng)觸發(fā)降級(jí)與恢復(fù)
4.實(shí)現(xiàn)請(qǐng)求緩存和請(qǐng)求合并
(二)、服務(wù)熔斷:
備注:熔斷模式:這種模式主要是參考電路熔斷褥傍,如果一條線路電壓過(guò)高儡嘶,保險(xiǎn)絲會(huì)熔斷,防止火災(zāi)恍风。放到我們的系統(tǒng)中蹦狂,如果某個(gè)目標(biāo)服務(wù)調(diào)用慢或者有大量超時(shí),此時(shí)朋贬,熔斷該服務(wù)的調(diào)用凯楔,對(duì)于后續(xù)調(diào)用請(qǐng)求,不在繼續(xù)調(diào)用目標(biāo)服務(wù)锦募,直接返回摆屯,快速釋放資源。如果目標(biāo)服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用御滩。
(三)、服務(wù)限流
備注:限流模式主要是提前對(duì)各個(gè)類型的請(qǐng)求設(shè)置最高的QPS閾值党远,若高于設(shè)置的閾值則對(duì)該請(qǐng)求直接返回削解,不再調(diào)用后續(xù)資源。這種模式不能解決服務(wù)依賴的問(wèn)題沟娱,只能解決系統(tǒng)整體資源分配問(wèn)題氛驮,因?yàn)闆](méi)有被限流的請(qǐng)求依然有可能造成雪崩效應(yīng)。
五济似、服務(wù)熔斷與服務(wù)降級(jí)
(1)矫废、服務(wù)熔斷
一般是某個(gè)服務(wù)故障或者異常引起盏缤,類似現(xiàn)實(shí)世界中的“保險(xiǎn)絲”,當(dāng)某個(gè)異常條件被觸發(fā)蓖扑,直接熔斷整個(gè)服務(wù)唉铜,而不是一直等到此服務(wù)超時(shí)。
(2)律杠、服務(wù)降級(jí)
所謂降級(jí)潭流,一般是從整個(gè)負(fù)荷考慮。就是當(dāng)某個(gè)服務(wù)熔斷之后柜去,服務(wù)器將不再被調(diào)用灰嫉,
此時(shí)客戶端可以自己準(zhǔn)備一個(gè)本地的fallback返回,返回一個(gè)缺省值嗓奢。這樣做讼撒,雖然服務(wù)水平下降,但好歹可用股耽,比直接掛掉要強(qiáng)根盒。