Guava-RateLimiter詳解

常用的限流算法有漏桶算法和令牌桶算法置逻,guava的RateLimiter使用的是令牌桶算法推沸,也就是以固定的頻率向桶中放入令牌,例如一秒鐘10枚令牌,實(shí)際業(yè)務(wù)在每次響應(yīng)請(qǐng)求之前都從桶中獲取令牌鬓催,只有取到令牌的請(qǐng)求才會(huì)被成功響應(yīng)肺素,獲取的方式有兩種:阻塞等待令牌或者取不到立即返回失敗,下圖來(lái)自網(wǎng)上:

ratelimite原理圖

本次實(shí)戰(zhàn)宇驾,我們用的是guava的RateLimiter倍靡,場(chǎng)景是spring mvc在處理請(qǐng)求時(shí)候,從桶中申請(qǐng)令牌课舍,申請(qǐng)到了就成功響應(yīng)塌西,申請(qǐng)不到時(shí)直接返回失敗。

實(shí)例

1筝尾、添加guava jar包

    <dependency>
      <groupId>com.google.guava</groupId>
      <artifactId>guava</artifactId>
      <version>18.0</version>
    </dependency>

2捡需、AccessLimitService.java 限流服務(wù)封裝到一個(gè)類中AccessLimitService,提供tryAcquire()方法筹淫,用來(lái)嘗試獲取令牌站辉,返回true表示獲取到

@Service
public class AccessLimitService {

    //每秒只發(fā)出5個(gè)令牌
    RateLimiter rateLimiter = RateLimiter.create(5.0);

    /**
     * 嘗試獲取令牌
     * @return
     */
    public boolean tryAcquire(){
        return rateLimiter.tryAcquire();
    }
}

3、Controller層每次收到請(qǐng)求的時(shí)候都嘗試去獲取令牌损姜,獲取成功和失敗打印不同的信息

@Controller
public class HelloController {

    private static SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");

    @Autowired
    private AccessLimitService accessLimitService;

    @RequestMapping("/access")
    @ResponseBody
    public String access(){
        //嘗試獲取令牌
        if(accessLimitService.tryAcquire()){
            //模擬業(yè)務(wù)執(zhí)行500毫秒
            try {
                Thread.sleep(500);
            }catch (InterruptedException e){
                e.printStackTrace();
            }
            return "aceess success [" + sdf.format(new Date()) + "]";
        }else{
            return "aceess limit [" + sdf.format(new Date()) + "]";
        }
    }
}

4饰剥、測(cè)試:十個(gè)線程并發(fā)訪問接口


public class AccessClient {
    ExecutorService fixedThreadPool = Executors.newFixedThreadPool(10);

    /**
     * get請(qǐng)求
     * @param realUrl
     * @return
     */
    public static String sendGet(URL realUrl) {
        String result = "";
        BufferedReader in = null;
        try {
            // 打開和URL之間的連接
            URLConnection connection = realUrl.openConnection();
            // 設(shè)置通用的請(qǐng)求屬性
            connection.setRequestProperty("accept", "*/*");
            connection.setRequestProperty("connection", "Keep-Alive");
            connection.setRequestProperty("user-agent",
                    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1)");
            // 建立實(shí)際的連接
            connection.connect();

            // 定義 BufferedReader輸入流來(lái)讀取URL的響應(yīng)
            in = new BufferedReader(new InputStreamReader(
                    connection.getInputStream()));
            String line;
            while ((line = in.readLine()) != null) {
                result += line;
            }
        } catch (Exception e) {
            System.out.println("發(fā)送GET請(qǐng)求出現(xiàn)異常!" + e);
            e.printStackTrace();
        }
        // 使用finally塊來(lái)關(guān)閉輸入流
        finally {
            try {
                if (in != null) {
                    in.close();
                }
            } catch (Exception e2) {
                e2.printStackTrace();
            }
        }
        return result;
    }



    public void access() throws Exception{
        final URL url = new URL("http://localhost:8080/guavalimitdemo/access");

        for(int i=0;i<10;i++) {
            fixedThreadPool.submit(new Runnable() {
                public void run() {
                    System.out.println(sendGet(url));
                }
            });
        }

        fixedThreadPool.shutdown();
        fixedThreadPool.awaitTermination(Long.MAX_VALUE, TimeUnit.SECONDS);
    }

    public static void main(String[] args) throws Exception{
        AccessClient accessClient = new AccessClient();
        accessClient.access();
    }
}

部分請(qǐng)求由于獲取的令牌可以成功執(zhí)行摧阅,其余請(qǐng)求沒有拿到令牌捐川,我們可以根據(jù)實(shí)際業(yè)務(wù)來(lái)做區(qū)分處理。還有一點(diǎn)要注意逸尖,我們通過RateLimiter.create(5.0)配置的是每一秒5枚令牌古沥,但是限流的時(shí)候發(fā)出的是6枚,改用其他值驗(yàn)證娇跟,也是實(shí)際的比配置的大1岩齿。

以上就是快速實(shí)現(xiàn)限流的實(shí)戰(zhàn)過程,此處僅是單進(jìn)程服務(wù)的限流苞俘,而實(shí)際的分布式服務(wù)中會(huì)考慮更多因素盹沈,會(huì)復(fù)雜很多。


RateLimiter方法摘要

修飾符和類型 方法和描述
double acquire() 從RateLimiter獲取一個(gè)許可吃谣,該方法會(huì)被阻塞直到獲取到請(qǐng)求
double acquire(int permits)從RateLimiter獲取指定許可數(shù)乞封,該方法會(huì)被阻塞直到獲取到請(qǐng)求
static RateLimiter create(double permitsPerSecond)根據(jù)指定的穩(wěn)定吞吐率創(chuàng)建RateLimiter,這里的吞吐率是指每秒多少許可數(shù)(通常是指QPS岗憋,每秒多少查詢)
static RateLimiter create(double permitsPerSecond, long warmupPeriod, TimeUnit unit)根據(jù)指定的穩(wěn)定吞吐率和預(yù)熱期來(lái)創(chuàng)建RateLimiter肃晚,這里的吞吐率是指每秒多少許可數(shù)(通常是指QPS,每秒多少個(gè)請(qǐng)求量)仔戈,在這段預(yù)熱時(shí)間內(nèi)关串,RateLimiter每秒分配的許可數(shù)會(huì)平穩(wěn)地增長(zhǎng)直到預(yù)熱期結(jié)束時(shí)達(dá)到其最大速率拧廊。(只要存在足夠請(qǐng)求數(shù)來(lái)使其飽和)
double getRate()返回RateLimiter 配置中的穩(wěn)定速率,該速率單位是每秒多少許可數(shù)
void setRate(double permitsPerSecond)更新RateLimite的穩(wěn)定速率晋修,參數(shù)permitsPerSecond 由構(gòu)造RateLimiter的工廠方法提供吧碾。
String toString()返回對(duì)象的字符表現(xiàn)形式
boolean tryAcquire()從RateLimiter 獲取許可,如果該許可可以在無(wú)延遲下的情況下立即獲取得到的話
boolean tryAcquire(int permits)從RateLimiter 獲取許可數(shù)墓卦,如果該許可數(shù)可以在無(wú)延遲下的情況下立即獲取得到的話
boolean tryAcquire(int permits, long timeout, TimeUnit unit)從RateLimiter 獲取指定許可數(shù)如果該許可數(shù)可以在不超過timeout的時(shí)間內(nèi)獲取得到的話倦春,或者如果無(wú)法在timeout 過期之前獲取得到許可數(shù)的話,那么立即返回false (無(wú)需等待)
boolean tryAcquire(long timeout, TimeUnit unit)從RateLimiter 獲取許可如果該許可可以在不超過timeout的時(shí)間內(nèi)獲取得到的話落剪,或者如果無(wú)法在timeout 過期之前獲取得到許可的話溅漾,那么立即返回false(無(wú)需等待)
  • 舉例來(lái)說明如何使用RateLimiter,想象下我們需要處理一個(gè)任務(wù)列表著榴,但我們不希望每秒的任務(wù)提交超過兩個(gè):
//速率是每秒兩個(gè)許可
final RateLimiter rateLimiter = RateLimiter.create(2.0);
void submitTasks(List tasks, Executor executor) {
    for (Runnable task : tasks) {
        rateLimiter.acquire(); // 也許需要等待
        executor.execute(task);
    }
}

官方文檔:http://ifeve.com/guava-ratelimiter

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末添履,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子脑又,更是在濱河造成了極大的恐慌暮胧,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件问麸,死亡現(xiàn)場(chǎng)離奇詭異往衷,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)严卖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門席舍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人哮笆,你說我怎么就攤上這事来颤。” “怎么了稠肘?”我有些...
    開封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵福铅,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我项阴,道長(zhǎng)滑黔,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任环揽,我火速辦了婚禮略荡,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘歉胶。我一直安慰自己汛兜,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開白布跨扮。 她就那樣靜靜地躺著序无,像睡著了一般验毡。 火紅的嫁衣襯著肌膚如雪衡创。 梳的紋絲不亂的頭發(fā)上帝嗡,一...
    開封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音璃氢,去河邊找鬼哟玷。 笑死,一個(gè)胖子當(dāng)著我的面吹牛一也,可吹牛的內(nèi)容都是我干的巢寡。 我是一名探鬼主播,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼椰苟,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼抑月!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起舆蝴,我...
    開封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤谦絮,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后洁仗,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體层皱,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年赠潦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了叫胖。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡她奥,死狀恐怖瓮增,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情哩俭,我是刑警寧澤钉赁,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站携茂,受9級(jí)特大地震影響蒲讯,放射性物質(zhì)發(fā)生泄漏侦镇。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望匾荆。 院中可真熱鬧,春花似錦本刽、人聲如沸嚣艇。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)芭挽。三九已至滑废,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間袜爪,已是汗流浹背蠕趁。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留辛馆,地道東北人俺陋。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像昙篙,于是被迫代替她去往敵國(guó)和親腊状。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 摘要:在開發(fā)高并發(fā)系統(tǒng)時(shí)有三把利器用來(lái)保護(hù)系統(tǒng):緩存苔可、降級(jí)和限流缴挖。而有些場(chǎng)景并不能用緩存和降級(jí)來(lái)解決,因此需有一種...
    落羽成霜丶閱讀 2,147評(píng)論 0 18
  • 最近一直都在研究壓力測(cè)試客戶端的問題焚辅,如果突破客戶端壓力測(cè)試線程映屋,端口等問題,如果服務(wù)器端處理網(wǎng)絡(luò)請(qǐng)求處理不過來(lái)法焰,...
    望月成三人閱讀 8,631評(píng)論 1 25
  • 聊聊高并發(fā)系統(tǒng)限流特技-1來(lái)自開濤的博客 在開發(fā)高并發(fā)系統(tǒng)時(shí)有三把利器用來(lái)保護(hù)系統(tǒng):緩存秧荆、降級(jí)和限流。緩存的目的是...
    meng_philip123閱讀 6,619評(píng)論 1 20
  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理埃仪,服務(wù)發(fā)現(xiàn)乙濒,斷路器,智...
    卡卡羅2017閱讀 134,599評(píng)論 18 139
  • 剛剛突然紅著眼圈 來(lái)北京快9年了 當(dāng)初為什么來(lái)也差不多忘干凈了 現(xiàn)在為什么不走也不清楚 大學(xué)四年 談不上努力 沒混...
    田不啦嘰樂閱讀 143評(píng)論 1 0