在開(kāi)發(fā)高并發(fā)系統(tǒng)時(shí)赠叼，有三把利器用來(lái)保護(hù)系統(tǒng)：緩存扒袖、降級(jí)和限流。緩存這個(gè)概念是大家共識(shí)的歼培，沒(méi)有什么異議，但在好些文章中我看有人會(huì)把降級(jí)和限流兩個(gè)概念混淆在一起茸塞，我認(rèn)為這樣理解是不對(duì)的躲庄，貼下我認(rèn)為正確的解釋?zhuān)?/p>
服務(wù)降級(jí)：
服務(wù)降級(jí)是在服務(wù)器壓力陡增的情況下，利用有限資源钾虐，根據(jù)當(dāng)前業(yè)務(wù)情況噪窘，關(guān)閉某些服務(wù)接口或者頁(yè)面，以此釋放服務(wù)器資源以保證核心任務(wù)的正常運(yùn)行效扫。
服務(wù)限流：
流量控制本質(zhì)上是減小訪(fǎng)問(wèn)量倔监，而服務(wù)處理能力不變直砂；而服務(wù)降級(jí)本質(zhì)上是降低了部分服務(wù)的處理能力，增強(qiáng)另一部分服務(wù)處理能力浩习，而訪(fǎng)問(wèn)量不變静暂。
以下主要介紹幾種常見(jiàn)的服務(wù)限流算法和優(yōu)缺點(diǎn)，以及單機(jī)限流和分布式限流谱秽。沒(méi)有哪種算法是最好的或者是最差的洽蛀，具體要根據(jù)實(shí)際業(yè)務(wù)場(chǎng)景決定使用哪種實(shí)現(xiàn)方式，本質(zhì)都是提高功能的性?xún)r(jià)比疟赊，利用盡可能小的開(kāi)發(fā)成本郊供，產(chǎn)生盡可能大的收益。常見(jiàn)的限流算法包含：計(jì)數(shù)器法近哟，滑動(dòng)窗口算法驮审，令牌桶算法以及漏桶算法（隊(duì)列限流）。
計(jì)數(shù)器法
計(jì)數(shù)器法是限流算法里最簡(jiǎn)單也是最容易實(shí)現(xiàn)的一種算法吉执。假設(shè)我們規(guī)定接口A的qps是100疯淫， 即每分鐘的訪(fǎng)問(wèn)次數(shù)不能超過(guò)100。那么我們可以這么做：在一開(kāi)始的時(shí)候鼠证，我們可以設(shè)置一個(gè)計(jì)數(shù)器counter峡竣，初始化為0， 過(guò)期時(shí)間為1秒量九，即1秒后計(jì)數(shù)器失效适掰。每當(dāng)一個(gè)請(qǐng)求過(guò)來(lái)的時(shí)候，counter值加1荠列，判斷當(dāng)前counter的值是否大于100类浪，如果大于100則說(shuō)明請(qǐng)求數(shù)過(guò)多，直接拒絕請(qǐng)求肌似。如果請(qǐng)求counter計(jì)數(shù)器不存在费就，則重置計(jì)數(shù)器，開(kāi)始新的一秒的接口限流川队。注意并發(fā)情況下訪(fǎng)問(wèn)計(jì)數(shù)器需要加鎖力细。
缺點(diǎn)：限制粒度太低，存在臨界問(wèn)題固额。
例如：假設(shè)有一個(gè)惡意用戶(hù)眠蚂，他在0:59時(shí)，瞬間發(fā)送了100個(gè)請(qǐng)求斗躏，并且1:00又瞬間發(fā)送了100個(gè)請(qǐng)求逝慧，那么其實(shí)這個(gè)用戶(hù)在1秒內(nèi)，瞬間發(fā)送了200個(gè)請(qǐng)求。用戶(hù)通過(guò)在時(shí)間窗口的重置節(jié)點(diǎn)處突發(fā)請(qǐng)求笛臣，可以瞬間超過(guò)我們的速率限制云稚。用戶(hù)有可能通過(guò)算法的這個(gè)漏洞，瞬間壓垮我們的應(yīng)用沈堡。解決這個(gè)問(wèn)題的辦法就是提高限流的粒度静陈，即滑動(dòng)窗口算法。
滑動(dòng)窗口（rolling window）
滑動(dòng)窗口的概念源于計(jì)算機(jī)網(wǎng)絡(luò)踱蛀，它的限流思想描述如下：假設(shè)一個(gè)時(shí)間窗口就是一分鐘窿给。然后我們將時(shí)間窗口進(jìn)行劃分，比如我們將滑動(dòng)窗口劃成了6格率拒，所以每格代表的是10秒鐘崩泡。每過(guò)10秒鐘，我們的時(shí)間窗口就會(huì)往右滑動(dòng)一格猬膨。每一個(gè)格子都有自己獨(dú)立的計(jì)數(shù)器counter角撞，比如當(dāng)一個(gè)請(qǐng)求在0:35秒的時(shí)候到達(dá)，那么0:30~0:39對(duì)應(yīng)的counter就會(huì)加1勃痴≮怂滑動(dòng)窗口能夠很好的解決計(jì)數(shù)器法所存在的臨界問(wèn)題，并且窗口劃分粒度越細(xì)沛申，窗口滑動(dòng)就越平滑劣领，控制效果越好√模滑動(dòng)窗口實(shí)現(xiàn)較復(fù)雜尖淘，臨界問(wèn)題只是某種極端案例，比如惡意攻擊著觉，是否采用這種限流方式村生，還需取決于具體業(yè)務(wù)的要求。
令牌桶法
思想描述：系統(tǒng)按照恒定的時(shí)間間隔（通常是1/QPS）往桶里加入Token,每個(gè)Token代表一次接口訪(fǎng)問(wèn)權(quán)限饼丘，如果桶已經(jīng)滿(mǎn)了丟棄令牌趁桃。新請(qǐng)求來(lái)臨時(shí)，會(huì)請(qǐng)求從桶中拿走一個(gè)Token,如果沒(méi)有Token可拿了就阻塞或者拒絕服務(wù)請(qǐng)求肄鸽。放入Token的時(shí)間間隔取決于限制的qps卫病，假設(shè)接口的qps是100，則按照1/qps的速率放令牌典徘，即每10ms放入一個(gè)令牌忽肛，令牌桶算法不存在瞬間的流量高峰，它能?chē)?yán)格控制接口在qps內(nèi)訪(fǎng)問(wèn)烂斋。
漏桶算法
漏桶算法就是我們常采用的隊(duì)列限流方法，通過(guò)在請(qǐng)求和實(shí)際的處理服務(wù)中間加一層隊(duì)列，限制高并發(fā)請(qǐng)求對(duì)系統(tǒng)造成的壓力汛骂，系統(tǒng)將按照自己的處理能力慢慢處理請(qǐng)求罕模，這種限流方法的適用于接口處理實(shí)時(shí)性要求不高的業(yè)務(wù)場(chǎng)景，且可靠性高帘瞭，漏桶算法實(shí)現(xiàn)也比較簡(jiǎn)單淑掌。
以上是對(duì)四種限流方式的介紹和總結(jié)，理解了限流方式蝶念，再說(shuō)下我們常提到的單機(jī)限流和分布式限流抛腕。
什么是分布式限流？
首先當(dāng)我們的服務(wù)是以多實(shí)例媒殉，集群形式存在的情況下才需要分布式限流担敌。由于redis天生能夠很好的支持分布式，因此分布式限流的實(shí)現(xiàn)redis就成了不二選擇廷蓉。分布式限流是基于單機(jī)限流范圍的一個(gè)擴(kuò)大全封，能夠從服務(wù)集群的整體處理能力上做一個(gè)統(tǒng)一的流量管理，也是我們企業(yè)中常用的限流方式桃犬。
轉(zhuǎn)自：https://blog.csdn.net/dd18709200301/article/details/89714390
