SpringCloud（第 015 篇）電影Ribbon微服務(wù)集成Hystrix增加隔離策略控制線程數(shù)或請求數(shù)來達(dá)到熔斷降級的作用

一笨蚁、大致介紹

1、本章節(jié)介紹關(guān)于Hystrix的2種隔離方式（Thread Pool 和 Semaphores）趟庄；
2括细、ThreadPool：這是比較常用的隔離策略，即根據(jù)配置把不同的命令分配到不同的線程池中戚啥，該策略的優(yōu)點(diǎn)是隔離性好奋单，并且可以配置斷路，某個依賴被設(shè)置斷路之后猫十，系統(tǒng)不會再嘗試新起線程運(yùn)行它览濒，而是直接提示失敗伙菊，或返回fallback值搪哪；缺點(diǎn)是新起線程執(zhí)行命令院峡，在執(zhí)行的時候必然涉及到上下文的切換运怖，這會造成一定的性能消耗悠夯，但是Netflix做過實(shí)驗(yàn)鲸阻，這種消耗對比其帶來的價值是完全可以接受的六荒。
3养距、Semaphores：開發(fā)者可以限制系統(tǒng)對某一個依賴的最高并發(fā)數(shù)尤筐。這個基本上就是一個限流的策略汇荐。每次調(diào)用依賴時都會檢查一下是否到達(dá)信號量的限制值洞就，如達(dá)到，則拒絕拢驾。該隔離策略的優(yōu)點(diǎn)不新起線程執(zhí)行命令奖磁，減少上下文切換，缺點(diǎn)是無法配置斷路繁疤，每次都一定會去嘗試獲取信號量咖为。 
4、而本章節(jié)主要簡單的介紹下如何使用 Semaphores 來達(dá)到控制隔離稠腊；

二躁染、實(shí)現(xiàn)步驟

2.1 添加 maven 引用包

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <artifactId>springms-consumer-movie-ribbon-with-hystrix-propagation</artifactId>
    <version>1.0-SNAPSHOT</version>
    <packaging>jar</packaging>
    
    <parent>
        <groupId>com.springms.cloud</groupId>
        <artifactId>springms-spring-cloud</artifactId>
        <version>1.0-SNAPSHOT</version>
    </parent>
    
    <dependencies>
        <!-- web模塊 -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

        <!-- 客戶端發(fā)現(xiàn)模塊 -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-eureka</artifactId>
        </dependency>

        <!-- Hystrix 斷路器模塊 -->
        <dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix</artifactId>
        </dependency>
    </dependencies>

</project>

2.2 添加應(yīng)用配置文件（springms-consumer-movie-ribbon-with-hystrix-propagation\src\main\resources\application.yml）

spring:
  application:
    name: springms-consumer-movie-ribbon-with-hystrix-propagation
server:
  port: 8100
#做負(fù)載均衡的時候，不需要這個動態(tài)配置的地址
#user:
#  userServicePath: http://localhost:7900/simple/
eureka:
  client:
#    healthcheck:
#      enabled: true
    serviceUrl:
      defaultZone: http://admin:admin@localhost:8761/eureka
  instance:
    prefer-ip-address: true
    instance-id: ${spring.application.name}:${spring.cloud.client.ipAddress}:${spring.application.instance_id:${server.port}}


# 解決第一次請求報超時異常的方案架忌，因?yàn)?hystrix 的默認(rèn)超時時間是 1 秒吞彤，因此請求超過該時間后，就會出現(xiàn)頁面超時顯示 ：
#
# 這里就介紹大概三種方式來解決超時的問題叹放，解決方案如下：
#
# 第一種方式：將 hystrix 的超時時間設(shè)置成 5000 毫秒
hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds: 5000
#
# 或者：
# 第二種方式：將 hystrix 的超時時間直接禁用掉饰恕，這樣就沒有超時的一說了，因?yàn)橛肋h(yuǎn)也不會超時了
# hystrix.command.default.execution.timeout.enabled: false
#
# 或者：
# 第三種方式：索性禁用feign的hystrix支持
# feign.hystrix.enabled: false ## 索性禁用feign的hystrix支持

# 超時的issue：https://github.com/spring-cloud/spring-cloud-netflix/issues/768
# 超時的解決方案： http://stackoverflow.com/questions/27375557/hystrix-command-fails-with-timed-out-and-no-fallback-available
# hystrix配置： https://github.com/Netflix/Hystrix/wiki/Configuration#execution.isolation.thread.timeoutInMilliseconds

2.3 添加實(shí)體用戶類User（springms-consumer-movie-ribbon-with-hystrix-propagation\src\main\java\com\springms\cloud\entity\User.java）

package com.springms.cloud.entity;

import java.math.BigDecimal;

public class User {

    private Long id;

    private String username;

    private String name;

    private Short age;

    private BigDecimal balance;

    public Long getId() {
        return this.id;
    }

    public void setId(Long id) {
        this.id = id;
    }

    public String getUsername() {
        return this.username;
    }

    public void setUsername(String username) {
        this.username = username;
    }

    public String getName() {
        return this.name;
    }

    public void setName(String name) {
        this.name = name;
    }

    public Short getAge() {
        return this.age;
    }

    public void setAge(Short age) {
        this.age = age;
    }

    public BigDecimal getBalance() {
        return this.balance;
    }

    public void setBalance(BigDecimal balance) {
        this.balance = balance;
    }

}

2.4 添加電影Web訪問層Controller（springms-consumer-movie-ribbon-with-hystrix-propagation\src\main\java\com\springms\cloud\controller\MovieRibbonHystrixPropagationController.java）

package com.springms.cloud.controller;

import com.springms.cloud.entity.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

@RestController
public class MovieRibbonHystrixPropagationController {

    @Autowired
    private RestTemplate restTemplate;

    @GetMapping("/movie/{id}")
    @HystrixCommand(fallbackMethod = "findByIdFallback", commandProperties = @HystrixProperty(name = "execution.isolation.strategy", value = "SEMAPHORE"))
    public User findById(@PathVariable Long id) {
        // http://localhost:7900/simple/
        // VIP：virtual IP
        // HAProxy Heartbeat

        System.out.println("======================== findById " + Thread.currentThread().getThreadGroup() + " - " + Thread.currentThread().getId() + " - " + Thread.currentThread().getName());

        return this.restTemplate.getForObject("http://springms-provider-user/simple/" + id, User.class);
    }

    public User findByIdFallback(Long id) {
        System.out.println("======================== findByIdFallback " + Thread.currentThread().getThreadGroup() + " - " + Thread.currentThread().getId() + " - " + Thread.currentThread().getName());

        User user = new User();
        user.setId(0L);
        return user;
    }
}

2.5 添加電影微服務(wù)啟動類（springms-consumer-movie-ribbon-with-hystrix-propagation\src\main\java\com\springms\cloud\MsConsumerMovieRibbonHystrixPropagationApplication.java）

package com.springms.cloud;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.cloud.netflix.eureka.EnableEurekaClient;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;

/**
 * 電影Ribbon微服務(wù)集成Hystrix增加隔離策略控制線程數(shù)或請求數(shù)來達(dá)到熔斷降級的作用井仰。
 *
 * 傳播安全上下文或使用埋嵌，通過增加 HystrixCommand 的 commandProperties 屬性，來增加相關(guān)的配置來達(dá)到執(zhí)行隔離策略俱恶，控制線程數(shù)或者控制并發(fā)請求數(shù)來達(dá)到熔斷降級的作用雹嗦。
 *
 * Hystrix 斷路器實(shí)現(xiàn)失敗快速響應(yīng)，達(dá)到熔斷效果合是；
 *
 * 注解 EnableCircuitBreaker 表明需要集成斷路器模塊了罪；
 *
 * 如果你想把本地線程上下文傳播到@HystrixCommand，默認(rèn)的聲明將不可用因?yàn)樗窃谝粋€線程池中被啟動的聪全。你可以選擇讓Hystrix使用同一個線程泊藕，通過一些配置，或直接寫在注解上难礼，通過使用isolation strategy屬性吱七；
 *
 * @author hmilyylimh
 *
 * @version 0.0.1
 *
 * @date 2017/9/21
 *
 */
@SpringBootApplication
@EnableEurekaClient
@EnableCircuitBreaker
public class MsConsumerMovieRibbonHystrixPropagationApplication {

    @Bean
    @LoadBalanced
    public RestTemplate restTemplate(){
        return new RestTemplate();
    }

    public static void main(String[] args) {
        SpringApplication.run(MsConsumerMovieRibbonHystrixPropagationApplication.class, args);
        System.out.println("【【【【【【 電影微服務(wù)-Hystrix安全傳播上下文 】】】】】】已啟動.");
    }
}

三、測試

/****************************************************************************************
 一鹤竭、電影 Ribbon 微服務(wù)集成 Hystrix 斷路器實(shí)現(xiàn)失敗快速響應(yīng)，達(dá)到熔斷效果：

 1景醇、注解：EnableCircuitBreaker臀稚、HystrixCommand 的編寫；
 2三痰、啟動 springms-provider-user 模塊服務(wù)吧寺，啟動1個端口窜管；
 3、啟動 springms-consumer-movie-ribbon-with-hystrix-propagation 模塊服務(wù)稚机；
 4幕帆、在瀏覽器輸入地址http://localhost:8100/movie/1，然后頁面的信息是否有打印出來用戶的Id=0的情況赖条，正常情況下是沒有用戶Id=0的情況信息打印的失乾；

 5、殺死 springms-provider-user 模塊服務(wù)纬乍，停止提供服務(wù)碱茁；
 6、在瀏覽器輸入地址http://localhost:8100/movie/1仿贬，然后頁面的信息是否有打印出來用戶的Id=0的情況纽竣，等了1秒中后有用戶Id=0的情況信息打印出來；
 7茧泪、然后看看控制臺打印的日志：
     ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 56 - http-nio-8100-exec-8
     ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 56 - http-nio-8100-exec-8
     ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 57 - http-nio-8100-exec-9
     ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 57 - http-nio-8100-exec-9
     ======================== findById java.lang.ThreadGroup[name=main,maxpri=10] - 35 - http-nio-8100-exec-1
     ======================== findByIdFallback java.lang.ThreadGroup[name=main,maxpri=10] - 35 - http-nio-8100-exec-1

 總結(jié)一：使用 SEMAPHORE 信號量的時候蜓氨，雖然不能配置斷路器功能，但是通過控制請求數(shù)來達(dá)到一個限流的作用队伟；

 8穴吹、等一會兒在啟動 springms-provider-user 模塊服務(wù)，啟動1個端口缰泡；
 9刀荒、在瀏覽器輸入地址http://localhost:8070/movie/1，然后頁面的信息又有Id!=0的用戶信息打印出來棘钞；

 總結(jié)二：當(dāng)遠(yuǎn)端微服務(wù)宕機(jī)或者不可用時缠借，Hystrix已經(jīng)達(dá)到快速響應(yīng)快速失敗，起到了熔斷機(jī)制的效果宜猜。
 ****************************************************************************************/







/****************************************************************************************
 找出一些相關(guān)的配置信息僅供參考：

 Execution相關(guān)的屬性的配置：
 hystrix.command.default.execution.isolation.strategy 隔離策略泼返，默認(rèn)是Thread, 可選Thread｜Semaphore
     thread 通過線程數(shù)量來限制并發(fā)請求數(shù)，可以提供額外的保護(hù)姨拥，但有一定的延遲绅喉。一般用于網(wǎng)絡(luò)調(diào)用
     semaphore 通過semaphore count來限制并發(fā)請求數(shù)，適用于無網(wǎng)絡(luò)的高并發(fā)請求
 hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds 命令執(zhí)行超時時間叫乌，默認(rèn)1000ms
 hystrix.command.default.execution.timeout.enabled 執(zhí)行是否啟用超時柴罐，默認(rèn)啟用true
 hystrix.command.default.execution.isolation.thread.interruptOnTimeout 發(fā)生超時是是否中斷，默認(rèn)true
 hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests 最大并發(fā)請求數(shù)憨奸，默認(rèn)10革屠，該參數(shù)當(dāng)使用ExecutionIsolationStrategy.SEMAPHORE策略時才有效。如果達(dá)到最大并發(fā)請求數(shù)，請求會被拒絕似芝。理論上選擇semaphore size的原則和選擇thread size一致那婉，但選用semaphore時每次執(zhí)行的單元要比較小且執(zhí)行速度快（ms級別），否則的話應(yīng)該用thread党瓮。
 semaphore應(yīng)該占整個容器（tomcat）的線程池的一小部分详炬。

 Fallback相關(guān)的屬性：
 這些參數(shù)可以應(yīng)用于Hystrix的THREAD和SEMAPHORE策略
 hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests 如果并發(fā)數(shù)達(dá)到該設(shè)置值，請求會被拒絕和拋出異常并且fallback不會被調(diào)用寞奸。默認(rèn)10
 hystrix.command.default.fallback.enabled 當(dāng)執(zhí)行失敗或者請求被拒絕呛谜，是否會嘗試調(diào)用hystrixCommand.getFallback() 。默認(rèn)true
 Circuit Breaker相關(guān)的屬性
 hystrix.command.default.circuitBreaker.enabled 用來跟蹤circuit的健康性蝇闭，如果未達(dá)標(biāo)則讓request短路呻率。默認(rèn)true
 hystrix.command.default.circuitBreaker.requestVolumeThreshold 一個rolling window內(nèi)最小的請求數(shù)。如果設(shè)為20呻引，那么當(dāng)一個rolling window的時間內(nèi)（比如說1個rolling window是10秒）收到19個請求礼仗，即使19個請求都失敗，也不會觸發(fā)circuit break逻悠。默認(rèn)20
 hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds 觸發(fā)短路的時間值元践，當(dāng)該值設(shè)為5000時，則當(dāng)觸發(fā)circuit break后的5000毫秒內(nèi)都會拒絕request童谒，也就是5000毫秒后才會關(guān)閉circuit单旁。默認(rèn)5000
 hystrix.command.default.circuitBreaker.errorThresholdPercentage錯誤比率閥值，如果錯誤率>=該值饥伊，circuit會被打開象浑，并短路所有請求觸發(fā)fallback。默認(rèn)50
 hystrix.command.default.circuitBreaker.forceOpen 強(qiáng)制打開熔斷器琅豆，如果打開這個開關(guān)愉豺，那么拒絕所有request，默認(rèn)false
 hystrix.command.default.circuitBreaker.forceClosed 強(qiáng)制關(guān)閉熔斷器 如果這個開關(guān)打開茫因，circuit將一直關(guān)閉且忽略circuitBreaker.errorThresholdPercentage

 Metrics相關(guān)參數(shù)：
 hystrix.command.default.metrics.rollingStats.timeInMilliseconds 設(shè)置統(tǒng)計(jì)的時間窗口值的蚪拦，毫秒值，circuit break 的打開會根據(jù)1個rolling window的統(tǒng)計(jì)來計(jì)算冻押。若rolling window被設(shè)為10000毫秒驰贷，則rolling window會被分成n個buckets，每個bucket包含success洛巢，failure括袒，timeout，rejection的次數(shù)的統(tǒng)計(jì)信息稿茉。默認(rèn)10000
 hystrix.command.default.metrics.rollingStats.numBuckets 設(shè)置一個rolling window被劃分的數(shù)量箱熬，若numBuckets＝10类垦，rolling window＝10000，那么一個bucket的時間即1秒城须。必須符合rolling window % numberBuckets == 0。默認(rèn)10
 hystrix.command.default.metrics.rollingPercentile.enabled 執(zhí)行時是否enable指標(biāo)的計(jì)算和跟蹤米苹，默認(rèn)true
 hystrix.command.default.metrics.rollingPercentile.timeInMilliseconds 設(shè)置rolling percentile window的時間糕伐，默認(rèn)60000
 hystrix.command.default.metrics.rollingPercentile.numBuckets 設(shè)置rolling percentile window的numberBuckets。邏輯同上蘸嘶。默認(rèn)6
 hystrix.command.default.metrics.rollingPercentile.bucketSize 如果bucket size＝100良瞧，window＝10s，若這10s里有500次執(zhí)行训唱，只有最后100次執(zhí)行會被統(tǒng)計(jì)到bucket里去褥蚯。增加該值會增加內(nèi)存開銷以及排序的開銷。默認(rèn)100
 hystrix.command.default.metrics.healthSnapshot.intervalInMilliseconds 記錄health 快照（用來統(tǒng)計(jì)成功和錯誤綠）的間隔况增，默認(rèn)500ms

 Request Context 相關(guān)參數(shù)：
 hystrix.command.default.requestCache.enabled 默認(rèn)true赞庶，需要重載getCacheKey()，返回null時不緩存
 hystrix.command.default.requestLog.enabled 記錄日志到HystrixRequestLog澳骤，默認(rèn)true

 Collapser Properties 相關(guān)參數(shù)：
 hystrix.collapser.default.maxRequestsInBatch 單次批處理的最大請求數(shù)歧强，達(dá)到該數(shù)量觸發(fā)批處理，默認(rèn)Integer.MAX_VALUE
 hystrix.collapser.default.timerDelayInMilliseconds 觸發(fā)批處理的延遲为肮，也可以為創(chuàng)建批處理的時間＋該值摊册，默認(rèn)10
 hystrix.collapser.default.requestCache.enabled 是否對HystrixCollapser.execute() and HystrixCollapser.queue()的cache，默認(rèn)true

 ThreadPool 相關(guān)參數(shù)：
 線程數(shù)默認(rèn)值10適用于大部分情況（有時可以設(shè)置得更屑昭蕖）茅特，如果需要設(shè)置得更大，那有個基本得公式可以follow：
 requests per second at peak when healthy × 99th percentile latency in seconds + some breathing room
 每秒最大支撐的請求數(shù) (99%平均響應(yīng)時間 + 緩存值)
 比如：每秒能處理1000個請求棋枕，99%的請求響應(yīng)時間是60ms白修，那么公式是：
 1000 （0.060+0.012）

 ****************************************************************************************/

四、下載地址

https://gitee.com/ylimhhmily/SpringCloudTutorial.git

SpringCloudTutorial交流QQ群: 235322432

SpringCloudTutorial交流微信群: 微信溝通群二維碼圖片鏈接

歡迎關(guān)注戒悠，您的肯定是對我最大的支持!!!

<上一篇????????首頁????????下一篇>