高并發(fā)的處理有三個(gè)比較常用的手段痕慢，緩存瓷产，限流和降級(jí)。緩存的使用相信很多開發(fā)者都很了解了吱窝，諸如redis讥邻，memcache等工具都會(huì)活躍在我們的系統(tǒng)當(dāng)中。但是假如在某一時(shí)間段內(nèi)出現(xiàn)了遠(yuǎn)超預(yù)想的流量訪問到系統(tǒng)院峡，例如在搞秒殺活動(dòng)之類的兴使，這樣一來我們應(yīng)該如何保護(hù)業(yè)務(wù)系統(tǒng)呢？
在參加一些秒殺活動(dòng)的時(shí)候照激，我們可以看到发魄，有時(shí)候會(huì)有 系統(tǒng)繁忙，請(qǐng)稍后再試
或者 請(qǐng)稍等 的提示俩垃，那這個(gè)系統(tǒng)就很可能是使用了限流的手段励幼。
限流是限制系統(tǒng)的輸入和輸出流量，以達(dá)到保護(hù)系統(tǒng)的目的口柳。而限流的實(shí)現(xiàn)主要是依靠限流算法苹粟，限流算法主要有4種：
1、固定時(shí)間窗口（計(jì)數(shù)器）跃闹；
2嵌削、滑動(dòng)時(shí)間窗口；
3望艺、令牌桶算法苛秕；
4、漏桶算法找默；
1艇劫、計(jì)數(shù)器
計(jì)數(shù)器就是統(tǒng)計(jì)記錄單位時(shí)間內(nèi)進(jìn)入系統(tǒng)或者某一接口的請(qǐng)求次數(shù)，在限定的次數(shù)內(nèi)的請(qǐng)求則正常接收處理惩激，超過次數(shù)的請(qǐng)求則拒絕掉店煞，或者改為異步處理蟹演。
假設(shè)我們?cè)O(shè)定單位時(shí)間內(nèi)進(jìn)入系統(tǒng)的的最大請(qǐng)求數(shù)為100，如果有超過100個(gè)請(qǐng)求集中在刷新計(jì)數(shù)器的臨界點(diǎn)前后進(jìn)入系統(tǒng)浅缸，而且單位時(shí)間的粒度比較粗的話轨帜，那就容易誤傷很多正常請(qǐng)求。
// 算法偽代碼
++counter;
if(counter > limit) {
return '系統(tǒng)繁忙衩椒，請(qǐng)稍后再試';
}
2蚌父、滑動(dòng)時(shí)間窗口
這個(gè)名稱要跟TCP的窗口滑動(dòng)區(qū)分開來，但是理解之后會(huì)發(fā)現(xiàn)其實(shí)也是有點(diǎn)相似毛萌。
計(jì)數(shù)器算法對(duì)流量的限制比較粗放苟弛，而滑動(dòng)時(shí)間窗口的算法則是對(duì)流量進(jìn)行更加平穩(wěn)的控制。上面的計(jì)數(shù)器的單位時(shí)間是1分鐘阁将，而在使用滑動(dòng)時(shí)間窗口膏秫，可以把1分鐘分成6格，每格時(shí)間長(zhǎng)度是10s做盅，每一格又各自管理一個(gè)計(jì)數(shù)器缤削，單位時(shí)間用一個(gè)長(zhǎng)度為60s的窗口描述。一個(gè)請(qǐng)求進(jìn)入系統(tǒng)吹榴，對(duì)應(yīng)的時(shí)間格子的計(jì)數(shù)器便會(huì)+1亭敢，而每過10s，這個(gè)窗口便會(huì)向右滑動(dòng)一格图筹。只要窗口包括的所有格子的計(jì)數(shù)器總和超過限流上限帅刀，便會(huì)拒絕后面的請(qǐng)求。
// 算法偽代碼
var cellIndex = time % cellNum;
++cellCounter[cellIndex];
var sum = 0;
for(var i = cellIndex; i >= cellIndex - cellNum; --i) {
sum += cellCounter[i];
}
if(sum > limit) {
return '系統(tǒng)繁忙远剩，請(qǐng)稍后再試';
}
3扣溺、漏桶算法
漏桶算法，又稱leaky bucket瓜晤。下圖是wiki上的漏桶圖解：
一個(gè)系統(tǒng)處理請(qǐng)求锥余，就像一個(gè)固定容量的水桶去溜進(jìn)來的水，同時(shí)也讓水流出去痢掠，但是它無法預(yù)見有多少水流進(jìn)來和水流進(jìn)來的速度哈恰，它只能夠控制從桶底水流出去的速度，多出來的水志群，就只好讓它從桶邊流出去了。這個(gè)從桶底流出去的水就是系統(tǒng)正常處理的請(qǐng)求蛔钙，從旁邊流出去的水就是系統(tǒng)拒絕掉的請(qǐng)求锌云。如此一來，我們只要監(jiān)控系統(tǒng)單位時(shí)間內(nèi)處理請(qǐng)求的速率就可以了吁脱，速率超過上限后的請(qǐng)求都給拒絕掉就可以了桑涎。
// 算法偽代碼
++counter;
var time = nowTime - (nowTime % interval);
var rate = counter / time;
if(rate> limitRate) {
return '系統(tǒng)繁忙彬向，請(qǐng)稍后再試';
}
4、令牌桶算法
繼續(xù)wiki圖解攻冷。
令牌桶即是以一定速率生成token并放入桶中娃胆，請(qǐng)求進(jìn)入系統(tǒng)需要先拿到token才能進(jìn)行業(yè)務(wù)處理，無token的請(qǐng)求則拒絕掉等曼。令牌桶算法實(shí)際上跟漏桶算法很相似里烦，而實(shí)際使用中其實(shí)也不需要另起線程生成token，只需要把握好token生成速率和當(dāng)前應(yīng)該剩余的token數(shù)量即可禁谦。
在時(shí)間點(diǎn)刷新的臨界點(diǎn)上胁黑，只要剩余token足夠，令牌桶算法會(huì)允許對(duì)應(yīng)數(shù)量的請(qǐng)求通過州泊，而后刷新時(shí)間因?yàn)閠oken不足丧蘸，流量也會(huì)被限制在外，這樣就比較好的控制了瞬時(shí)流量遥皂。因此力喷，令牌桶算法也被廣泛使用。
