Spring Cloud Feign 性能優(yōu)化

使用最新的Spring Boot2.0.3和 Spring Cloud F 系列進(jìn)行微服務(wù)架構(gòu)開發(fā)硝枉,在做壓測(cè)的時(shí)候遇到了很多問題抚笔,經(jīng)過一日一夜的源碼和 google苟翻,終于弄出一套方案衰倦。

關(guān)鍵字:com.netflix.hystrix.exception.HystrixRuntimeException花鹅; timeout; could not be queued for execution

1交掏、替換 tomcat

首先妆偏,把 tomcat 換成 undertow,這個(gè)性能在 Jmeter 的壓測(cè)下盅弛,undertow 比 tomcat 高一倍

第一步钱骂,pom 修改

<dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
            <exclusions>
                <exclusion>
                    <groupId>org.springframework.boot</groupId>
                    <artifactId>spring-boot-starter-tomcat</artifactId>
                </exclusion>
            </exclusions>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-undertow</artifactId>
        </dependency>

第二步,配置

server: 
  undertow: 
    max-http-post-size: 0 
# 設(shè)置IO線程數(shù), 它主要執(zhí)行非阻塞的任務(wù),它們會(huì)負(fù)責(zé)多個(gè)連接, 默認(rèn)設(shè)置每個(gè)CPU核心一個(gè)線程,數(shù)量和CPU 內(nèi)核數(shù)目一樣即可
    io-threads: 4
# 阻塞任務(wù)線程池, 當(dāng)執(zhí)行類似servlet請(qǐng)求阻塞操作, undertow會(huì)從這個(gè)線程池中取得線程,它的值設(shè)置取決于系統(tǒng)的負(fù)載  io-threads*8
    worker-threads: 32
# 以下的配置會(huì)影響buffer,這些buffer會(huì)用于服務(wù)器連接的IO操作,有點(diǎn)類似netty的池化內(nèi)存管理
# 每塊buffer的空間大小,越小的空間被利用越充分
    buffer-size: 1024
# 每個(gè)區(qū)分配的buffer數(shù)量 , 所以pool的大小是buffer-size * buffers-per-region
#   buffers-per-region: 1024 # 這個(gè)參數(shù)不需要寫了
# 是否分配的直接內(nèi)存
    direct-buffers: true

2熊尉、替換 HTTPClient

其次把普通的 HTTPURLConnection 替換為使用 HTTPClient
第一步 pom 增加對(duì)應(yīng)的包

<dependency>
             <groupId>io.github.openfeign</groupId>
             <artifactId>feign-httpclient</artifactId>
          </dependency>

第二部罐柳,在 application.yml或者 bootstrap.yml 里面配置


# feign配置
feign:
  hystrix:
    # 在feign中開啟hystrix功能,默認(rèn)情況下feign不開啟hystrix功能
    enabled: true
  ## 配置httpclient線程池
  httpclient:
    enabled: true
  okhttp: 
    enabled: false

第三步狰住,配置 HTTPClient Bean

import java.util.Timer;
import java.util.TimerTask;
import java.util.concurrent.TimeUnit;

import org.apache.http.client.HttpClient;
import org.apache.http.client.config.RequestConfig;
import org.apache.http.impl.client.DefaultConnectionKeepAliveStrategy;
import org.apache.http.impl.client.HttpClientBuilder;
import org.apache.http.impl.conn.PoolingHttpClientConnectionManager;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class HttpPool {

    @Bean
    public HttpClient httpClient(){
        System.out.println("===== Apache httpclient 初始化連接池開始===" );
        // 生成默認(rèn)請(qǐng)求配置
        RequestConfig.Builder requestConfigBuilder = RequestConfig.custom();
        // 超時(shí)時(shí)間
        requestConfigBuilder.setSocketTimeout(5 * 1000);
        // 連接時(shí)間
        requestConfigBuilder.setConnectTimeout(5 * 1000);
        RequestConfig defaultRequestConfig = requestConfigBuilder.build();
        // 連接池配置
        // 長(zhǎng)連接保持30秒
        final PoolingHttpClientConnectionManager pollingConnectionManager = new PoolingHttpClientConnectionManager(30, TimeUnit.MILLISECONDS);
        // 總連接數(shù)
        pollingConnectionManager.setMaxTotal(1000);
        // 同路由的并發(fā)數(shù)
        pollingConnectionManager.setDefaultMaxPerRoute(100);

        // httpclient 配置
        HttpClientBuilder httpClientBuilder = HttpClientBuilder.create();
        // 保持長(zhǎng)連接配置墅垮,需要在頭添加Keep-Alive
        httpClientBuilder.setKeepAliveStrategy(new DefaultConnectionKeepAliveStrategy());
        httpClientBuilder.setConnectionManager(pollingConnectionManager);
        httpClientBuilder.setDefaultRequestConfig(defaultRequestConfig);
        HttpClient client = httpClientBuilder.build();

        // 啟動(dòng)定時(shí)器从媚,定時(shí)回收過期的連接
        Timer timer = new Timer();
        timer.schedule(new TimerTask() {
            @Override
            public void run() {
                System.out.println("=====closeIdleConnections===");
                pollingConnectionManager.closeExpiredConnections();
                pollingConnectionManager.closeIdleConnections(5, TimeUnit.SECONDS);
            }
        }, 10 * 1000, 5 * 1000);
        System.out.println("===== Apache httpclient 初始化連接池完畢===");

        return client;
    }


}

3泞坦、配置 Hystrix

第一步刻帚,還是導(dǎo)入包

<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-hystrix</artifactId>
        </dependency>

第二步,配置

# 配置hystrix的參數(shù)
hystrix:
  threadpool:
    # default: 默認(rèn)參數(shù)创南,作用的所有的hystrix的客戶端,如果需要對(duì)某個(gè)具體的接口伦忠,可以寫接口+方法名稱
    default:
      coreSize: 500
  command:
    default:
      fallback:
        # 是否開啟回退方法
        enabled: true
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 30000 #缺省為1000

4、壓測(cè)吧

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末稿辙,一起剝皮案震驚了整個(gè)濱河市昆码,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖赋咽,帶你破解...
    沈念sama閱讀 206,839評(píng)論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件旧噪,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡脓匿,警方通過查閱死者的電腦和手機(jī)淘钟,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,543評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)陪毡,“玉大人米母,你說(shuō)我怎么就攤上這事≌绷穑” “怎么了铁瞒?”我有些...
    開封第一講書人閱讀 153,116評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)绊起。 經(jīng)常有香客問我精拟,道長(zhǎng)燎斩,這世上最難降的妖魔是什么虱歪? 我笑而不...
    開封第一講書人閱讀 55,371評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮栅表,結(jié)果婚禮上笋鄙,老公的妹妹穿的比我還像新娘。我一直安慰自己怪瓶,他們只是感情好萧落,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,384評(píng)論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著洗贰,像睡著了一般找岖。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上敛滋,一...
    開封第一講書人閱讀 49,111評(píng)論 1 285
  • 那天许布,我揣著相機(jī)與錄音,去河邊找鬼绎晃。 笑死蜜唾,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的庶艾。 我是一名探鬼主播袁余,決...
    沈念sama閱讀 38,416評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼咱揍!你這毒婦竟也來(lái)了颖榜?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,053評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎掩完,沒想到半個(gè)月后蟹地,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,558評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡藤为,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,007評(píng)論 2 325
  • 正文 我和宋清朗相戀三年怪与,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片缅疟。...
    茶點(diǎn)故事閱讀 38,117評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡分别,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出存淫,到底是詐尸還是另有隱情耘斩,我是刑警寧澤,帶...
    沈念sama閱讀 33,756評(píng)論 4 324
  • 正文 年R本政府宣布桅咆,位于F島的核電站括授,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏岩饼。R本人自食惡果不足惜荚虚,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,324評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望籍茧。 院中可真熱鬧版述,春花似錦、人聲如沸寞冯。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,315評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)吮龄。三九已至俭茧,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間漓帚,已是汗流浹背母债。 一陣腳步聲響...
    開封第一講書人閱讀 31,539評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留胰默,地道東北人场斑。 一個(gè)月前我還...
    沈念sama閱讀 45,578評(píng)論 2 355
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像牵署,于是被迫代替她去往敵國(guó)和親漏隐。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,877評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容