SpringCloud LoadBalancer灰度策略實現(xiàn)

如何使用 Spring Cloud 2020 中重磅推薦的負載均衡器 Spring Cloud LoadBalancer (下文簡稱 SCL),如何擴展負載均衡策略? 你將從本文中獲取到答案

快速上手 SCL

  • 如果項目中想使用 SCL簸喂,則僅需要添加如下 maven 依賴即可
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-loadbalancer</artifactId>
</dependency>
  • SCL 是構(gòu)建服務發(fā)現(xiàn)的基礎上,由于目前 Spring Cloud Alibaba 并未兼容 SCL (具體兼容方案可以參考 pig)试溯,當然你可以選擇使用Eureka 測試。

  • 若將 RestTemplate 和 客戶端負載均衡結(jié)合使用郊酒,在 bean 定義上增加 @LoadBalanced 注解即可.

@Bean
@LoadBalanced
public RestTemplate restTemplate() {
    return new RestTemplate();
}

個性化負載均衡策略

SCL 內(nèi)置的負載均衡策略
  • 目前版本 (spring cloud 2020) 內(nèi)置輪詢遇绞、隨機的負載均衡策略,默認輪詢策略燎窘。
  • 當然可以通過 LoadBalancerClient 注解摹闽,指定服務級別的負載均衡策略
@LoadBalancerClient(value = "demo-provider", configuration = RandomLoadbalancerConfig.class)
public class RandomLoadbalancerConfig {
    @Bean
    public ReactorLoadBalancer<ServiceInstance> reactorServiceInstanceLoadBalancer(Environment environment,
            LoadBalancerClientFactory loadBalancerClientFactory) {
        String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);
        return new RandomLoadBalancer(
                loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);
    }
}

自定義負載均衡策略

  • 通過上文可知,目前 SCL 支持的負載均衡策略相較于 Ribbon 還是較少褐健,需要開發(fā)者自行實現(xiàn)付鹿,好在 SCL 提供了便捷的 API 方便擴展使用。 這里演示自定義一個基于注冊中心元數(shù)據(jù)的灰度負載均衡策略蚜迅。

  • 定義灰度負載均衡策略

@Slf4j
public class GrayRoundRobinLoadBalancer extends RoundRobinLoadBalancer {

    private ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider;

    private String serviceId;

    @Override
    public Mono<Response<ServiceInstance>> choose(Request request) {
        ServiceInstanceListSupplier supplier = serviceInstanceListSupplierProvider
                .getIfAvailable(NoopServiceInstanceListSupplier::new);
        return supplier.get(request).next().map(serviceInstances -> getInstanceResponse(serviceInstances, request));
    }

    Response<ServiceInstance> getInstanceResponse(List<ServiceInstance> instances, Request request) {

        // 注冊中心無可用實例 拋出異常
        if (CollUtil.isEmpty(instances)) {
            log.warn("No instance available {}", serviceId);
            return new EmptyResponse();
        }

        DefaultRequestContext requestContext = (DefaultRequestContext) request.getContext();
        RequestData clientRequest = (RequestData) requestContext.getClientRequest();
        HttpHeaders headers = clientRequest.getHeaders();

        String reqVersion = headers.getFirst(CommonConstants.VERSION);
        if (StrUtil.isBlank(reqVersion)) {
            return super.choose(request).block();
        }

        // 遍歷可以實例元數(shù)據(jù)舵匾,若匹配則返回此實例
        for (ServiceInstance instance : instances) {
            NacosServiceInstance nacosInstance = (NacosServiceInstance) instance;
            Map<String, String> metadata = nacosInstance.getMetadata();
            String targetVersion = MapUtil.getStr(metadata, CommonConstants.VERSION);
            if (reqVersion.equalsIgnoreCase(targetVersion)) {
                log.debug("gray requst match success :{} {}", reqVersion, nacosInstance);
                return new DefaultResponse(nacosInstance);
            }
        }
        // 降級策略,使用輪詢策略
        return super.choose(request).block();
    }
}
  • 針對客戶端注入灰度負載均衡策略
@LoadBalancerClient(value = "demo-provider", configuration = GrayRoundLoadbalancerConfig.class)
  • 服務實例定義版本號
  • 請求攜帶版本號谁不,測試使用
curl --location --request GET 'http://localhost:6060/req?key=b' \
--header 'VERSION: b'

優(yōu)化負載均衡策略注入

  • 如上文所述纽匙,所有的個性化負載策略都需要手動通過 LoadBalancerClient 注入非常的不方便。 我們可以參考 LoadBalancerClients 的批量注入邏輯構(gòu)造自己的 BeanRegistrar
public class GrayLoadBalancerClientConfigurationRegistrar implements ImportBeanDefinitionRegistrar {

    @Override
    public void registerBeanDefinitions(AnnotationMetadata metadata, BeanDefinitionRegistry registry) {
        Field[] fields = ReflectUtil.getFields(ServiceNameConstants.class);

        // 遍歷服務名稱拍谐,注入支持灰度策略的負載均衡器
        for (Field field : fields) {
            Object fieldValue = ReflectUtil.getFieldValue(ServiceNameConstants.class, field);
            registerClientConfiguration(registry, fieldValue, GrayLoadBalancerClientConfiguration.class);
        }
    }
}

>>> 源碼 https://gitee.com/log4j/pig,歡迎署名轉(zhuǎn)載 <<<

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末馏段,一起剝皮案震驚了整個濱河市轩拨,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌院喜,老刑警劉巖亡蓉,帶你破解...
    沈念sama閱讀 207,113評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異喷舀,居然都是意外死亡砍濒,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評論 2 381
  • 文/潘曉璐 我一進店門硫麻,熙熙樓的掌柜王于貴愁眉苦臉地迎上來爸邢,“玉大人,你說我怎么就攤上這事拿愧「芎樱” “怎么了?”我有些...
    開封第一講書人閱讀 153,340評論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長券敌。 經(jīng)常有香客問我唾戚,道長,這世上最難降的妖魔是什么待诅? 我笑而不...
    開封第一講書人閱讀 55,449評論 1 279
  • 正文 為了忘掉前任叹坦,我火速辦了婚禮,結(jié)果婚禮上卑雁,老公的妹妹穿的比我還像新娘募书。我一直安慰自己,他們只是感情好序厉,可當我...
    茶點故事閱讀 64,445評論 5 374
  • 文/花漫 我一把揭開白布锐膜。 她就那樣靜靜地躺著,像睡著了一般弛房。 火紅的嫁衣襯著肌膚如雪道盏。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,166評論 1 284
  • 那天文捶,我揣著相機與錄音荷逞,去河邊找鬼。 笑死粹排,一個胖子當著我的面吹牛种远,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播顽耳,決...
    沈念sama閱讀 38,442評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼坠敷,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了射富?” 一聲冷哼從身側(cè)響起膝迎,我...
    開封第一講書人閱讀 37,105評論 0 261
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎胰耗,沒想到半個月后限次,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,601評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡柴灯,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,066評論 2 325
  • 正文 我和宋清朗相戀三年卖漫,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片赠群。...
    茶點故事閱讀 38,161評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡羊始,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出查描,到底是詐尸還是另有隱情店枣,我是刑警寧澤速警,帶...
    沈念sama閱讀 33,792評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站鸯两,受9級特大地震影響闷旧,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜钧唐,卻給世界環(huán)境...
    茶點故事閱讀 39,351評論 3 307
  • 文/蒙蒙 一忙灼、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧钝侠,春花似錦该园、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,352評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至忽舟,卻和暖如春双妨,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背叮阅。 一陣腳步聲響...
    開封第一講書人閱讀 31,584評論 1 261
  • 我被黑心中介騙來泰國打工刁品, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人浩姥。 一個月前我還...
    沈念sama閱讀 45,618評論 2 355
  • 正文 我出身青樓挑随,卻偏偏與公主長得像,于是被迫代替她去往敵國和親勒叠。 傳聞我的和親對象是個殘疾皇子兜挨,可洞房花燭夜當晚...
    茶點故事閱讀 42,916評論 2 344

推薦閱讀更多精彩內(nèi)容