Hystrix斷路器的原理

上篇文章我主要講的是官方文檔對(duì)Hystrix的說明剪验,闡述了在微服中Hystrix擔(dān)任的角色远荠,以及它是如何達(dá)到這樣的作用的衡蚂。當(dāng)然具體如何使用Hystrix我并沒有詳細(xì)說明括细,因?yàn)榫W(wǎng)上關(guān)于Hystrix的使用的教程網(wǎng)上已經(jīng)很多了,大家隨便百度一下就能找到搓萧,這篇文章主要是能幫助大家更深入的理解Hystrix的實(shí)現(xiàn)原理杂数。

我對(duì)Hystrix的理解是,它的核心其實(shí)就兩個(gè)瘸洛,一個(gè)是"斷路器" 揍移,另一個(gè)是"依賴隔離",能把這兩個(gè)核心理解透反肋,就把Hystrix理解透了那伐。"依賴隔離"后面如果有時(shí)間我們?cè)僦v,今天我們先來說說"斷路器"的原理石蔗。如果對(duì)Hystrix的概念比較陌生罕邀,可以先看看這邊文章Hystrix的正確理解方式

首先我們肯定先去看官方文檔,先別一腦袋扎進(jìn)源碼里這樣很難找到重點(diǎn)养距,正確的方式是根據(jù)官方文檔的說明再結(jié)合源碼這樣才能最高效的找到我們需要找到東西诉探。官方文檔關(guān)于”斷路器“原理的說明在這 https://github.com/Netflix/Hystrix/wiki/How-it-Works,下圖是官方文檔中對(duì)”熔斷器“原理說明的流程圖。

circuit-breaker-640.png

看到這個(gè)流程圖可能會(huì)有點(diǎn)蒙棍厌,不急肾胯,我們先來看看文檔中對(duì)這張流程圖的說明:

The following diagram shows how aHystrixCommand orHystrixObservableCommandinteracts with aHystrixCircuitBreaker and its flow of logic and decision-making, including how the counters behave in the circuit breaker
下面的流程圖展示的是HystrixCommand或HystrixObservableCommand與HystrixCircuitBreaker之間是如何交互的,以及其中的邏輯流程和判斷邏輯耘纱,還包括計(jì)數(shù)器在熔斷器的中作用敬肚。

上面是文檔中的原始內(nèi)容,下面是我的翻譯揣炕,再Hystrix的正確理解方式這邊文章中我說過帘皿,Hystrix的實(shí)現(xiàn)使用的設(shè)計(jì)模式是”命令模式“,再Hystrix中微服請(qǐng)求依賴的微服是通過HystrixCommand或是HystrixObservableCommand實(shí)現(xiàn)的畸陡,所以“斷路”和“隔離”邏輯其實(shí)就是在Command中實(shí)現(xiàn)的,而上面提到的HystrixCircuitBreaker就是正真實(shí)現(xiàn)”斷路器“邏輯的類虽填。所以我們把HystrixCircuitBreaker搞明白了就明白了”斷路器“的原理丁恭。下面我們就根據(jù)HystrixCircuitBreaker源碼和上面的流程圖來說說”斷路器“中的邏輯(具體的說明我寫在下面代碼的注釋中)。

HystrixCircuitBreaker
 /**
 * 熔斷邏輯掛在HystrixCommand中執(zhí)行如果請(qǐng)求失敗次數(shù)超過規(guī)定的閥值斋日,它將會(huì)定制請(qǐng)求的執(zhí)行牲览。開啟熔斷后,
 * 它允許在一段時(shí)間的休眠后執(zhí)行一次請(qǐng)求恶守,如果請(qǐng)求成功則關(guān)閉熔斷器第献,網(wǎng)絡(luò)請(qǐng)求被執(zhí)行贡必。 
 */
public interface HystrixCircuitBreaker {

    /**
     * 每個(gè)Hystrix命令的請(qǐng)求都通過這個(gè)方法判斷是否執(zhí)行請(qǐng)求
     */
    boolean allowRequest();

    /**
     * 返回當(dāng)前斷路器是否打開的狀態(tài)
     */
    boolean isOpen();

    /**
     * 處于半開狀態(tài)時(shí),如果嘗試請(qǐng)求成功庸毫,就調(diào)用這個(gè)方法(斷路器關(guān)閉在這個(gè)方法實(shí)現(xiàn)的)
     */
    void markSuccess();

    /**
     * 處于半開狀態(tài)時(shí)仔拟,如果嘗試請(qǐng)求成功,就調(diào)用這個(gè)方法(斷路器開啟在這個(gè)方法實(shí)現(xiàn)的)
     */
    void markNonSuccess();

    /**
     * 在命令執(zhí)行開始時(shí)調(diào)用以嘗試執(zhí)行飒赃。 這是非冪等的 - 它可能會(huì)修改內(nèi)部
     */
    boolean attemptExecution();

HystrixCircuitBreaker是一個(gè)抽象接口利花,包含上面5個(gè)抽象方法,其實(shí)并不復(fù)雜载佳。
HystrixCircuitBreaker中還包含3個(gè)內(nèi)部類分別是:

1. Factory
   //這個(gè)里面存放的是ConcurrentHashMap<String, HystrixCircuitBreaker> ,看到這個(gè)接口大
    //家應(yīng)該能夠知道這個(gè)類使用來作什么的了炒事,沒錯(cuò)它就是用來管理這個(gè)微服務(wù)中所有斷路
    //器的工廠,每個(gè)依賴其他微服的接口都需要有對(duì)應(yīng)的斷路器蔫慧。
    class Factory{
          //代碼省略
    }
2. HystrixCircuitBreakerImpl

斷路器接口HystrixCircuitBreaker的實(shí)現(xiàn)類挠乳,斷路器的主要業(yè)務(wù)邏輯都在這。

/* package */class HystrixCircuitBreakerImpl implements HystrixCircuitBreaker {
    //斷路器相關(guān)的配置參數(shù)
    private final HystrixCommandProperties properties;
    斷路器最核心的東西姑躲,通過時(shí)間窗的形式欲侮,記錄一段時(shí)間范圍內(nèi)(默認(rèn)是10秒)的接口請(qǐng)求的健康狀況,
    并得到對(duì)應(yīng)的度量指標(biāo)(請(qǐng)求次數(shù)肋联,錯(cuò)誤率)威蕉,如果這個(gè)指標(biāo)不符合條件則斷路器打開。這塊邏輯比較復(fù)雜
    這里就不細(xì)說橄仍,想了解具體如何實(shí)現(xiàn)的可以看看對(duì)應(yīng)的源碼韧涨。
    private final HystrixCommandMetrics metrics;

    斷路器的三個(gè)狀態(tài) :OPEN  CLOSED 沒什么好講的,主要是這個(gè)HALF_OPEN狀態(tài)侮繁,這個(gè)狀態(tài)在什么情況下出現(xiàn)呢虑粥,
    當(dāng)斷路器打開后,對(duì)應(yīng)接口的請(qǐng)求會(huì)有段休眠期宪哩,這個(gè)休眠期內(nèi)接口請(qǐng)求不會(huì)被正真的執(zhí)行娩贷,但是如果休眠期時(shí)間過了,
    這個(gè)時(shí)候斷路器的狀態(tài)就到了HALF_OPEN狀態(tài)锁孟,這個(gè)時(shí)候斷路器允許一次真實(shí)的接口請(qǐng)求彬祖,如果這次請(qǐng)求失敗,則斷路
    器打開(OPEN)品抽,循環(huán)上面的動(dòng)作储笑,如果請(qǐng)求成功則斷路器關(guān)閉(CLOSED)。
    enum Status {
        CLOSED, OPEN, HALF_OPEN;
    }
    
    記錄斷路器的狀態(tài)圆恤,默認(rèn)是關(guān)閉的
    private final AtomicReference<Status> status = new AtomicReference<Status>(Status.CLOSED);
    記錄最近一次斷路器開啟的時(shí)間突倍,用于判斷休眠期的結(jié)束時(shí)間
    private final AtomicLong circuitOpened = new AtomicLong(-1);
    這個(gè)是通過Rxjava實(shí)現(xiàn)的對(duì)HystrixCommandMetrics結(jié)果的觀察者對(duì)象,當(dāng)HystrixCommandMetrics值發(fā)生變化時(shí)會(huì)通知觀察者。
    private final AtomicReference<Subscription> activeSubscription = new AtomicReference<Subscription>(null);

    protected HystrixCircuitBreakerImpl(HystrixCommandKey key, HystrixCommandGroupKey commandGroup, final HystrixCommandProperties properties, HystrixCommandMetrics metrics) {
        this.properties = properties;
        this.metrics = metrics;

        //On a timer, this will set the circuit between OPEN/CLOSED as command executions occur
        Subscription s = subscribeToStream();
        activeSubscription.set(s);
    }

    private Subscription subscribeToStream() {
        /*
         * This stream will recalculate the OPEN/CLOSED status on every onNext from the health stream
         */
        return metrics.getHealthCountsStream()
                .observe()
                .subscribe(new Subscriber<HealthCounts>() {
                    @Override
                    public void onCompleted() {

                    }

                    @Override
                    public void onError(Throwable e) {

                    }
  這個(gè)就是上面說的觀察者羽历,當(dāng)HystrixCommandMetrics的度量指標(biāo)發(fā)生變化時(shí)焊虏,觀察者實(shí)現(xiàn)的業(yè)務(wù)邏輯
                    @Override
                    public void onNext(HealthCounts hc) {
                        首先校驗(yàn)的時(shí)在時(shí)間窗范圍內(nèi)的請(qǐng)求次數(shù),如果低于閾值(默認(rèn)是20)秕磷,不做處理诵闭,如果高于閾值,則去判斷接口請(qǐng)求的錯(cuò)誤率
                        if (hc.getTotalRequests() < properties.circuitBreakerRequestVolumeThreshold().get()) {
                            // we are not past the minimum volume threshold for the stat window,
                            // so no change to circuit status.
                            // if it was CLOSED, it stays CLOSED
                            // if it was half-open, we need to wait for a successful command execution
                            // if it was open, we need to wait for sleep window to elapse
                        } else {
                      判斷接口請(qǐng)求的錯(cuò)誤率(閾值默認(rèn)是50)跳夭,如果高于這個(gè)值涂圆,則斷路器打開
                            if (hc.getErrorPercentage() < properties.circuitBreakerErrorThresholdPercentage().get()) {
                                //we are not past the minimum error threshold for the stat window,
                                // so no change to circuit status.
                                // if it was CLOSED, it stays CLOSED
                                // if it was half-open, we need to wait for a successful command execution
                                // if it was open, we need to wait for sleep window to elapse
                            } else {
                               打開斷路器,同時(shí)記錄斷路器開啟時(shí)間
                                if (status.compareAndSet(Status.CLOSED, Status.OPEN)) {
                                    circuitOpened.set(System.currentTimeMillis());
                                }
                            }
                        }
                    }
                });
    }
    
    半開狀態(tài)币叹,嘗試請(qǐng)求接口成功
    @Override
    public void markSuccess() {
        關(guān)閉斷路器
        if (status.compareAndSet(Status.HALF_OPEN, Status.CLOSED)) {
            重置時(shí)間窗健康度量指標(biāo)
            metrics.resetStream();
            Subscription previousSubscription = activeSubscription.get();
            注銷觀察者
            if (previousSubscription != null) {
                previousSubscription.unsubscribe();
            }
            設(shè)置新的觀察者
            Subscription newSubscription = subscribeToStream();
            activeSubscription.set(newSubscription);
            還原斷路器開啟時(shí)間
            circuitOpened.set(-1L);
        }
    }
    
    半開狀態(tài)润歉,嘗試請(qǐng)求接口失敗
    @Override
    public void markNonSuccess() {
        斷路器打開
        if (status.compareAndSet(Status.HALF_OPEN, Status.OPEN)) {
           更新最新的斷路器開啟時(shí)間
            circuitOpened.set(System.currentTimeMillis());
        }
    }

    @Override
    public boolean isOpen() {
       強(qiáng)制開啟斷路器
        if (properties.circuitBreakerForceOpen().get()) {
            return true;
        }
       強(qiáng)制關(guān)閉斷路器(斷路器可以通過配置強(qiáng)制關(guān)閉或開啟)
        if (properties.circuitBreakerForceClosed().get()) {
            return false;
        }
        根據(jù)斷路器開啟時(shí)間判斷斷路器的開啟狀態(tài)
        return circuitOpened.get() >= 0;
    }
    
    判斷是否允許請(qǐng)求接口(每次請(qǐng)求接口都會(huì)判斷)
    @Override
    public boolean allowRequest() {
        if (properties.circuitBreakerForceOpen().get()) {
            return false;
        }
        if (properties.circuitBreakerForceClosed().get()) {
            return true;
        }
        if (circuitOpened.get() == -1) {
            return true;
        } else {
            if (status.get().equals(Status.HALF_OPEN)) {
                return false;
            } else {
                return isAfterSleepWindow();
            }
        }
    }

    判斷時(shí)間有沒有過休眠期
    private boolean isAfterSleepWindow() {
        final long circuitOpenTime = circuitOpened.get();
        final long currentTime = System.currentTimeMillis();
        final long sleepWindowTime = properties.circuitBreakerSleepWindowInMilliseconds().get();
        return currentTime > circuitOpenTime + sleepWindowTime;
    }

    嘗試執(zhí)行接口請(qǐng)求
    @Override
    public boolean attemptExecution() {
        if (properties.circuitBreakerForceOpen().get()) {
            return false;
        }
        if (properties.circuitBreakerForceClosed().get()) {
            return true;
        }
        if (circuitOpened.get() == -1) {
            return true;
        } else {
            if (isAfterSleepWindow()) {
                if (status.compareAndSet(Status.OPEN, Status.HALF_OPEN)) {
                    //only the first request after sleep window should execute
                    return true;
                } else {
                    return false;
                }
            } else {
                return false;
            }
        }
    }
}

在上面的代碼中的注釋應(yīng)該就能理解斷路器整體的實(shí)現(xiàn)邏輯了。

3.NoOpCircuitBreaker

什么都沒做的HystrixCircuitBreaker實(shí)現(xiàn)颈抚,允許所有請(qǐng)求踩衩,斷路器始終是關(guān)閉的。

    /* package */static class NoOpCircuitBreaker implements HystrixCircuitBreaker {

    @Override
    public boolean allowRequest() {
        return true;
    }

    @Override
    public boolean isOpen() {
        return false;
    }

    @Override
    public void markSuccess() {

    }

    @Override
    public void markNonSuccess() {

    }

    @Override
    public boolean attemptExecution() {
        return true;
    }
}
總結(jié)

這篇文章從源碼角度解釋了Hystrix斷路器的原理贩汉,看完HystrixCircuitBreaker的邏輯后驱富,再去看文章開始貼的那張斷路器的流程圖,就能很好的理解這個(gè)流程了匹舞。希望這篇文章能對(duì)大家有所幫助褐鸥,歡迎點(diǎn)贊大賞!文章中有錯(cuò)誤的地方歡迎評(píng)論指出赐稽。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末叫榕,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子姊舵,更是在濱河造成了極大的恐慌晰绎,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,734評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件括丁,死亡現(xiàn)場(chǎng)離奇詭異荞下,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)史飞,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,931評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門尖昏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人祸憋,你說我怎么就攤上這事会宪。” “怎么了蚯窥?”我有些...
    開封第一講書人閱讀 164,133評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我拦赠,道長巍沙,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,532評(píng)論 1 293
  • 正文 為了忘掉前任荷鼠,我火速辦了婚禮句携,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘允乐。我一直安慰自己矮嫉,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,585評(píng)論 6 392
  • 文/花漫 我一把揭開白布牍疏。 她就那樣靜靜地躺著蠢笋,像睡著了一般。 火紅的嫁衣襯著肌膚如雪鳞陨。 梳的紋絲不亂的頭發(fā)上昨寞,一...
    開封第一講書人閱讀 51,462評(píng)論 1 302
  • 那天,我揣著相機(jī)與錄音厦滤,去河邊找鬼援岩。 笑死,一個(gè)胖子當(dāng)著我的面吹牛掏导,可吹牛的內(nèi)容都是我干的享怀。 我是一名探鬼主播,決...
    沈念sama閱讀 40,262評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼趟咆,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼添瓷!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起忍啸,我...
    開封第一講書人閱讀 39,153評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤仰坦,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后计雌,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體悄晃,經(jīng)...
    沈念sama閱讀 45,587評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,792評(píng)論 3 336
  • 正文 我和宋清朗相戀三年凿滤,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了妈橄。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,919評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡翁脆,死狀恐怖眷蚓,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情反番,我是刑警寧澤沙热,帶...
    沈念sama閱讀 35,635評(píng)論 5 345
  • 正文 年R本政府宣布叉钥,位于F島的核電站,受9級(jí)特大地震影響篙贸,放射性物質(zhì)發(fā)生泄漏投队。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,237評(píng)論 3 329
  • 文/蒙蒙 一爵川、第九天 我趴在偏房一處隱蔽的房頂上張望敷鸦。 院中可真熱鬧,春花似錦寝贡、人聲如沸扒披。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,855評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽碟案。三九已至,卻和暖如春洞焙,著一層夾襖步出監(jiān)牢的瞬間蟆淀,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,983評(píng)論 1 269
  • 我被黑心中介騙來泰國打工澡匪, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留熔任,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,048評(píng)論 3 370
  • 正文 我出身青樓唁情,卻偏偏與公主長得像疑苔,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子甸鸟,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,864評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理惦费,服務(wù)發(fā)現(xiàn),斷路器抢韭,智...
    卡卡羅2017閱讀 134,656評(píng)論 18 139
  • Android 自定義View的各種姿勢(shì)1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,116評(píng)論 25 707
  • (git上的源碼:https://gitee.com/rain7564/spring_microservices_...
    sprainkle閱讀 9,350評(píng)論 13 33
  • 老朋友們依然習(xí)慣喊他“小滿”,但“小滿”已悄然變成了“滿叔”鳍贾。 千帆過盡鞍匾,歲月的江流沖刷走了很多熟悉的印象,奔騰不...
    枕邊音樂哦閱讀 553評(píng)論 0 0
  • 她是一位女生骑科。她長得十分普通橡淑,圓圓的臉蛋上有一雙圓圓的眼睛。她視力特別好咆爽,經(jīng)常把好位置讓給同學(xué)坐梁棠,她時(shí)常坐在最后一...
    喜歡廚房的人閱讀 379評(píng)論 5 5