解讀Hystrix系列(二):Hystrix詳細(xì)工作原理

承接上篇內(nèi)容本節(jié)具體聊聊Hystrix詳細(xì)的工作原理以及內(nèi)部實(shí)現(xiàn)流程徒溪。

Hystrix向服務(wù)依賴項(xiàng)發(fā)出請(qǐng)求時(shí)會(huì)發(fā)生什么寝凌?

hystrix-command-flow-chart.png
1. 構(gòu)造一個(gè)HystrixCommand或HystrixObservableCommand對(duì)象

第一步是構(gòu)造一個(gè)HystrixCommand或HystrixObservableCommand對(duì)象來表示對(duì)依賴項(xiàng)的請(qǐng)求启涯。將請(qǐng)求發(fā)出時(shí)需要的任何參數(shù)傳遞給構(gòu)造函數(shù)。
構(gòu)造一個(gè) HystrixCommand 對(duì)象 如果依賴期望返回一個(gè)單個(gè)響應(yīng). 例如:
HystrixCommand command = new HystrixCommand(HystrixCommandGroupKey group, HystrixThreadPoolKey threadPool);
構(gòu)造一個(gè) HystrixObservableCommand 對(duì)象 如果期望依賴項(xiàng)返回發(fā)出響應(yīng)的Observable對(duì)象.例如:
HystrixObservableCommand ObservableCommand = new HystrixObservableCommand(HystrixCommandGroupKey group)

2. 執(zhí)行命令

有四種方法可以執(zhí)行命令草冈,使用以下四種方法之一的Hystrix命令對(duì)象(前兩種方法只適用于簡單的HystrixCommand對(duì)象篙程,不適用于HystrixObservableCommand):

  • execute() — blocks, 返回從依賴項(xiàng)接收到的單個(gè)響應(yīng)(或在出現(xiàn)錯(cuò)誤時(shí)拋出異常)
  • queue() — 返回一個(gè)Future值花椭,使用該將來值可以從依賴項(xiàng)獲得單個(gè)響應(yīng)
  • observe() — 訂閱表示來自依賴項(xiàng)的響應(yīng)的Observable 對(duì)象,并返回復(fù)制源observable對(duì)象的observable對(duì)象房午。
  • toObservable() — 返回一個(gè)可觀察對(duì)象矿辽,當(dāng)您訂閱它時(shí),它將執(zhí)行Hystrix命令并發(fā)出響應(yīng)郭厌。

K value = command.execute();
Future<K> fValue = command.queue();
Observable<K> ohValue = command.observe(); //hot observable
Observable<K> ocValue = command.toObservable(); //cold observable
同步調(diào)用execute()調(diào)用queue().get()袋倔。
queue()依次調(diào)用toObservable(). toblocking (). tofuture()。也就是說折柠,最終每個(gè)HystrixCommand都由一個(gè)可觀察到的實(shí)現(xiàn)支持宾娜,即使是那些打算返回單個(gè)簡單值的命令。

3.是否緩存了響應(yīng)?

如果為該命令啟用了請(qǐng)求緩存扇售,并且在緩存中可用對(duì)請(qǐng)求的響應(yīng)前塔,則此緩存的響應(yīng)將立即以可觀察到的形式返回。(請(qǐng)參閱下面的Request Caching)承冰。

4. Circuit 是否打開?

當(dāng)您執(zhí)行該命令時(shí)华弓,Hystrix將與斷路器一起檢查電路是否打開。
如果電路打開(或“跳閘”)困乒,那么Hystrix將不執(zhí)行命令寂屏,而是將流路由到(8)獲取回退。
如果電路被關(guān)閉娜搂,則流繼續(xù)到(5)迁霎,檢查是否有可用的容量來運(yùn)行命令。

5.Thread Pool/Queue/Semaphore 是否已滿?

如果與該命令關(guān)聯(lián)的線程池和隊(duì)列(或信號(hào)量百宇,如果不在線程中運(yùn)行)已滿考廉,那么Hystrix將不執(zhí)行該命令,而是立即將流路由到(8)獲取回退携御。

6. HystrixObservableCommand.construct() or HystrixCommand.run()

這里昌粤,Hystrix通過為此目的編寫的方法調(diào)用對(duì)依賴項(xiàng)的請(qǐng)求既绕,方法如下:

如果run()或construct()方法超過命令的超時(shí)值岸更,線程將拋出一個(gè)TimeoutException(如果命令本身不在自己的線程中運(yùn)行鸵膏,則單獨(dú)的計(jì)時(shí)器線程將拋出一個(gè)TimeoutException)膊升。在這種情況下,Hystrix將響應(yīng)路由到8谭企。獲取回退廓译,如果最終返回值run()或construct()方法沒有取消/中斷,那么它將丟棄該方法债查。

請(qǐng)注意非区,沒有辦法強(qiáng)制潛在線程停止工作——Hystrix在JVM上能做的最好的事情就是拋出InterruptedException。如果由Hystrix包裝的工作不尊重interruptedexception盹廷,那么Hystrix線程池中的線程將繼續(xù)它的工作征绸,盡管客戶機(jī)已經(jīng)收到了TimeoutException。這種行為可能會(huì)使Hystrix線程池飽和俄占,盡管負(fù)載“正確釋放”管怠。大多數(shù)Java HTTP客戶端庫不解釋interruptedexception。因此缸榄,請(qǐng)確保正確配置HTTP客戶機(jī)上的連接和讀/寫超時(shí)渤弛。

7. 計(jì)算電路健康

Hystrix向斷路器報(bào)告成功、失敗甚带、拒絕和超時(shí)她肯,斷路器維護(hù)一組滾動(dòng)計(jì)數(shù)器,用于計(jì)算統(tǒng)計(jì)數(shù)據(jù)鹰贵。它使用這些統(tǒng)計(jì)數(shù)據(jù)來確定電路應(yīng)該在什么時(shí)候斷路晴氨,在這一點(diǎn)上,它會(huì)短路任何后續(xù)的請(qǐng)求碉输,直到恢復(fù)期結(jié)束瑞筐,在此期間,它會(huì)在第一次檢查某些健康檢查之后再次關(guān)閉電路腊瑟。

8. Get the Fallback

Hystrix試圖恢復(fù)你的回滾命令執(zhí)行失敗時(shí):當(dāng)一個(gè)異常的構(gòu)造()或()運(yùn)行(6),當(dāng)命令電路短路,因?yàn)榇蜷_(4),當(dāng)命令的線程池和隊(duì)列或信號(hào)能力(5),或者當(dāng)命令已超過其超時(shí)長度聚假。
編寫回退以提供來自內(nèi)存緩存或其他靜態(tài)邏輯的通用響應(yīng),而不需要任何網(wǎng)絡(luò)依賴闰非。如果必須在回退中使用網(wǎng)絡(luò)調(diào)用膘格,則應(yīng)該使用另一個(gè)HystrixCommand或HystrixObservableCommand。

對(duì)于HystrixCommand财松,要提供回退邏輯瘪贱,可以實(shí)現(xiàn)HystrixCommand. getfallback()纱控,它返回一個(gè)回退值。

對(duì)于HystrixObservableCommand菜秦,要提供回退邏輯甜害,可以實(shí)現(xiàn)HystrixObservableCommand. resumewithfallback(),它返回一個(gè)可觀察的對(duì)象球昨,該對(duì)象可能會(huì)發(fā)出一個(gè)或多個(gè)回退值尔店。

如果回退方法返回一個(gè)響應(yīng),那么Hystrix將把這個(gè)響應(yīng)返回給調(diào)用者主慰。在HystrixCommand.getFallback()的情況下嚣州,它將返回一個(gè)可觀察的對(duì)象,該對(duì)象發(fā)出方法返回的值共螺。在hystrixobservablecomman . resumewithfallback()的情況下该肴,它將返回方法返回的相同的可觀察值。

如果您還沒有為您的Hystrix命令實(shí)現(xiàn)回退方法藐不,或者回退本身引發(fā)異常匀哄,Hystrix仍然返回一個(gè)可觀察到的方法,但是該方法不發(fā)出任何東西雏蛮,并立即以onError通知終止涎嚼。正是通過這個(gè)onError通知,導(dǎo)致命令失敗的異常才被傳輸回調(diào)用者底扳。(實(shí)現(xiàn)可能失敗的回退實(shí)現(xiàn)是一種糟糕的實(shí)踐铸抑。您應(yīng)該實(shí)現(xiàn)回退,這樣它就不會(huì)執(zhí)行任何可能失敗的邏輯衷模。

失敗或不存在回退的結(jié)果將根據(jù)您如何調(diào)用Hystrix命令而有所不同:

  • execute() — throws an exception
  • queue() — 成功返回一個(gè)Future鹊汛,但是如果調(diào)用它的get()方法,這個(gè)Future將拋出異常
  • observe() — 返回一個(gè)可觀察到的對(duì)象阱冶,當(dāng)您訂閱該對(duì)象時(shí)刁憋,將通過調(diào)用訂閱方的onError方法立即終止該對(duì)象
  • toObservable() — 返回一個(gè)可觀察對(duì)象,當(dāng)您訂閱該對(duì)象時(shí)木蹬,它將通過調(diào)用訂閱方的onError方法終止
9. 返回成功的響應(yīng)

如果Hystrix命令成功至耻,它將以可觀察到的形式返回響應(yīng)或響應(yīng)給調(diào)用者。根據(jù)您如何調(diào)用上面步驟2中的命令镊叁,這個(gè)可觀察對(duì)象可能在返回給您之前進(jìn)行轉(zhuǎn)換:


hystrix-return-flow-640.png
  • execute() — 以與.queue()相同的方式獲取一個(gè)Future尘颓,然后在這個(gè) Future上調(diào)用get()來獲取可觀察對(duì)象發(fā)出的單個(gè)值
  • queue() — 將可觀察對(duì)象轉(zhuǎn)換為BlockingObservable,以便將其轉(zhuǎn)換為未來晦譬,然后返回此未來
  • observe() — 立即訂閱可觀察對(duì)象疤苹,并開始執(zhí)行命令的流;返回一個(gè)可觀察對(duì)象,當(dāng)您訂閱該對(duì)象時(shí)敛腌,將重播排放和通知
  • toObservable() — 返回可觀察值不變;您必須訂閱它卧土,才能真正開始執(zhí)行命令的流程
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末惫皱,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子尤莺,更是在濱河造成了極大的恐慌旅敷,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,378評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件颤霎,死亡現(xiàn)場離奇詭異媳谁,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)捷绑,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,356評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門韩脑,熙熙樓的掌柜王于貴愁眉苦臉地迎上來氢妈,“玉大人粹污,你說我怎么就攤上這事∈琢浚” “怎么了壮吩?”我有些...
    開封第一講書人閱讀 152,702評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵,是天一觀的道長加缘。 經(jīng)常有香客問我鸭叙,道長,這世上最難降的妖魔是什么拣宏? 我笑而不...
    開封第一講書人閱讀 55,259評(píng)論 1 279
  • 正文 為了忘掉前任沈贝,我火速辦了婚禮,結(jié)果婚禮上勋乾,老公的妹妹穿的比我還像新娘宋下。我一直安慰自己,他們只是感情好辑莫,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,263評(píng)論 5 371
  • 文/花漫 我一把揭開白布学歧。 她就那樣靜靜地躺著,像睡著了一般各吨。 火紅的嫁衣襯著肌膚如雪枝笨。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,036評(píng)論 1 285
  • 那天揭蜒,我揣著相機(jī)與錄音横浑,去河邊找鬼。 笑死屉更,一個(gè)胖子當(dāng)著我的面吹牛徙融,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播偶垮,決...
    沈念sama閱讀 38,349評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼张咳,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼帝洪!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起脚猾,我...
    開封第一講書人閱讀 36,979評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤葱峡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后龙助,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體砰奕,經(jīng)...
    沈念sama閱讀 43,469評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,938評(píng)論 2 323
  • 正文 我和宋清朗相戀三年提鸟,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了军援。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,059評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡称勋,死狀恐怖胸哥,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情赡鲜,我是刑警寧澤空厌,帶...
    沈念sama閱讀 33,703評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站银酬,受9級(jí)特大地震影響嘲更,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜揩瞪,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,257評(píng)論 3 307
  • 文/蒙蒙 一赋朦、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧李破,春花似錦宠哄、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,262評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至屯曹,卻和暖如春狱庇,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背恶耽。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評(píng)論 1 262
  • 我被黑心中介騙來泰國打工密任, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人偷俭。 一個(gè)月前我還...
    沈念sama閱讀 45,501評(píng)論 2 354
  • 正文 我出身青樓浪讳,卻偏偏與公主長得像,于是被迫代替她去往敵國和親涌萤。 傳聞我的和親對(duì)象是個(gè)殘疾皇子淹遵,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,792評(píng)論 2 345