限流算法

限流的算法

常見的限流算法有:計(jì)數(shù)器驮履、漏桶和令牌桶算法。

計(jì)數(shù)器

  • 設(shè)定單位時(shí)間限制接口的請(qǐng)求數(shù)量為n廉嚼,單位時(shí)間內(nèi)的每次請(qǐng)求加1玫镐,如果超過(guò)請(qǐng)求數(shù)量的限制,則拒絕或者等待下一個(gè)單位時(shí)間的但來(lái)怠噪,缺點(diǎn):請(qǐng)求不均衡恐似,導(dǎo)致響應(yīng)不平滑,有時(shí)集中舰绘、有時(shí)稀疏

令牌桶算法

令牌桶算法是一個(gè)存放固定容量令牌的桶蹂喻,按照固定速率往桶里添加令牌葱椭。令牌桶算法的描述如下:

  • 假設(shè)限制 2r/s ,則按照 500 毫秒的固定速率往桶中添加令牌口四;
  • 桶中最多存放 b 個(gè)令牌孵运,當(dāng)桶滿時(shí),新添加的令牌被丟棄或拒絕蔓彩;
  • 當(dāng)一個(gè) n 個(gè)字節(jié)大小的數(shù)據(jù)包到達(dá)治笨,將從桶中刪除 n 個(gè)令牌,接著數(shù)據(jù)包被發(fā)送到網(wǎng)絡(luò)上赤嚼;(或者說(shuō)n個(gè)請(qǐng)求旷赖,請(qǐng)求想要執(zhí)行必須先拿到執(zhí)行令牌,同時(shí)令牌桶內(nèi)相應(yīng)的減少n個(gè)令牌更卒,沒(méi)拿到令牌的請(qǐng)求被拒絕或者等待)
  • 如果桶中的令牌不足 n 個(gè)等孵,則不會(huì)刪除令牌,且該數(shù)據(jù)包將被限流(要么丟棄蹂空,要么緩沖區(qū)等待)俯萌。

漏桶算法

漏桶作為計(jì)量工具( The Leaky Bucket Algorithm as a Meter )時(shí),可以用于流量整形( Traffic Shaping )和流量控制( TrafficPolicing )上枕,漏桶算法的描述如下:

  • 一個(gè)固定容量的漏桶咐熙,按照常量固定速率流出水滴;
  • 如果桶是空的辨萍,則不需流出水滴棋恼;
  • 可以以任意速率流入水滴到漏桶;
  • 如果流入水滴超出了桶的容量锈玉,則流入的水滴溢出了(被丟棄)爪飘,而漏桶容量是不變的。
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末嘲玫,一起剝皮案震驚了整個(gè)濱河市悦施,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌去团,老刑警劉巖抡诞,帶你破解...
    沈念sama閱讀 211,561評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異土陪,居然都是意外死亡昼汗,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,218評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門鬼雀,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)顷窒,“玉大人,你說(shuō)我怎么就攤上這事⌒” “怎么了鸦做?”我有些...
    開封第一講書人閱讀 157,162評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)谓着。 經(jīng)常有香客問(wèn)我泼诱,道長(zhǎng),這世上最難降的妖魔是什么赊锚? 我笑而不...
    開封第一講書人閱讀 56,470評(píng)論 1 283
  • 正文 為了忘掉前任治筒,我火速辦了婚禮,結(jié)果婚禮上舷蒲,老公的妹妹穿的比我還像新娘耸袜。我一直安慰自己,他們只是感情好牲平,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,550評(píng)論 6 385
  • 文/花漫 我一把揭開白布堤框。 她就那樣靜靜地躺著,像睡著了一般欠拾。 火紅的嫁衣襯著肌膚如雪胰锌。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,806評(píng)論 1 290
  • 那天藐窄,我揣著相機(jī)與錄音,去河邊找鬼酬土。 笑死荆忍,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的撤缴。 我是一名探鬼主播刹枉,決...
    沈念sama閱讀 38,951評(píng)論 3 407
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼屈呕!你這毒婦竟也來(lái)了微宝?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,712評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤虎眨,失蹤者是張志新(化名)和其女友劉穎蟋软,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體嗽桩,經(jīng)...
    沈念sama閱讀 44,166評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡岳守,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,510評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了碌冶。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片湿痢。...
    茶點(diǎn)故事閱讀 38,643評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖扑庞,靈堂內(nèi)的尸體忽然破棺而出譬重,到底是詐尸還是另有隱情拒逮,我是刑警寧澤,帶...
    沈念sama閱讀 34,306評(píng)論 4 330
  • 正文 年R本政府宣布臀规,位于F島的核電站滩援,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏以现。R本人自食惡果不足惜狠怨,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,930評(píng)論 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望邑遏。 院中可真熱鬧佣赖,春花似錦、人聲如沸记盒。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,745評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)纪吮。三九已至俩檬,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間碾盟,已是汗流浹背棚辽。 一陣腳步聲響...
    開封第一講書人閱讀 31,983評(píng)論 1 266
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留冰肴,地道東北人屈藐。 一個(gè)月前我還...
    沈念sama閱讀 46,351評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像熙尉,于是被迫代替她去往敵國(guó)和親联逻。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,509評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容

  • 本文參考資料 高并發(fā)系統(tǒng)之限流特技:http://blog.csdn.net/g_hongjin/article/...
    alivs閱讀 1,326評(píng)論 0 2
  • 曾經(jīng)在一個(gè)大神的blog里看到這樣一句話:在開發(fā)高并發(fā)系統(tǒng)時(shí)检痰,有三把利器用來(lái)保護(hù)系統(tǒng):緩存包归、降級(jí)和限流。那么何為限...
    Johnsonxu閱讀 1,982評(píng)論 0 4
  • 摘要:在開發(fā)高并發(fā)系統(tǒng)時(shí)有三把利器用來(lái)保護(hù)系統(tǒng):緩存铅歼、降級(jí)和限流公壤。而有些場(chǎng)景并不能用緩存和降級(jí)來(lái)解決,因此需有一種...
    落羽成霜丶閱讀 2,150評(píng)論 0 18
  • 聊聊高并發(fā)系統(tǒng)限流特技-1來(lái)自開濤的博客 在開發(fā)高并發(fā)系統(tǒng)時(shí)有三把利器用來(lái)保護(hù)系統(tǒng):緩存谭贪、降級(jí)和限流境钟。緩存的目的是...
    meng_philip123閱讀 6,623評(píng)論 1 20
  • 當(dāng)我在一個(gè)地方熟悉過(guò)后,對(duì)于生活和工作的巨大落差俭识,會(huì)給我一種恐慌感慨削。這種恐慌感讓我有些坐立不安。但這里遇見的人,每...
    蘇瀟瀟閱讀 130評(píng)論 0 0