最近在學習流量控制的RateLImiter，就想著也實現(xiàn)一個試試章蚣，大致思路是站欺，請求來了判斷一下是否需要限流，不需要就正常走纤垂，記錄一下時間矾策，需要的話，就去獲取令牌峭沦，獲取到了就執(zhí)行贾虽，沒有就等待一下，如果等待超時就返回吼鱼，等待中獲取到了令牌就執(zhí)行蓬豁，量很多绰咽，令牌桶不夠用了，就限制一下不是很著急的那些個請求地粪，保證著急的請求先執(zhí)行取募。
流程如下：
根據(jù)流程將模塊劃分為：
閥值（開關）：主要負責正在運行線程的加減、平均時間計算和限流開關驶忌；
方法轉化：主要負責接口或者url轉化為著急非著急的請求矛辕，以便我們進行不同請求的緊急程度的控制；
令牌桶：主要是生成令牌的工具類付魔；
配置：從配置文件limiter-config.properties讀取最大運行線程聊品，最大平均執(zhí)行時間等一系列參數(shù)。
定義了一個LimiterUtils几苍，調用call方法來進行流量控制處理翻屈，參數(shù)為2個接口和一個VO對象
public staticT call(LimiterCall rc,DBCall db,LimiterVO lVo)
LimiterCall：需要重寫success和fail方法，作為獲取到鎖和沒有獲取到鎖的處理妻坝；
DBCall：是根據(jù)LimiterVO讀取數(shù)據(jù)庫等持久化數(shù)據(jù)伸眶，以作為是否是著急接口或者url的判斷
LimiterVO：主要是記錄請求參數(shù)：
private String interfaceName;
private String methodName;
private String url;
private LimiterType? limiterType;
有2個構造函數(shù)，來進行url或者接口的控制刽宪。
主要邏輯：
1.判斷開關：
打開：當系統(tǒng)中正在執(zhí)行線程達到最大線程數(shù)和線程平均處理時間大于了最大平均時間時厘贼，開關打開（當然也可以加上QPS的判斷，當前QPS已經(jīng)算出來圣拄，只是還沒有用進去）嘴秸，亦可以手動打開。
關閉：當系統(tǒng)正在執(zhí)行線程數(shù)小于最大線程數(shù)庇谆，平均時間也低于最大平均時間岳掐，可認為峰值已經(jīng)過去，可以將開關關閉饭耳。也可以手動關閉串述，不過盡量不要手動去關閉。
2.著急令牌桶和非著急令牌桶
如果在限制時間內寞肖，著急令牌桶都是可以獲取到令牌的纲酗，所有請求都會走這個桶，如果在限定時間內比如2s著急令牌桶已經(jīng)不能夠獲取到令牌新蟆，說明限制請求已經(jīng)很大了耕姊，我們需要對非著急的請求進行限制，打開非著急令牌桶栅葡，以一個比較小的速率來放令牌茉兰，所有的非著急請求都走非著急令牌桶。
3.實時計算平均時間
當前的處理邏輯是欣簇，當執(zhí)行了正常邏輯规脸，我會將當前線程執(zhí)行時間寫進一個大小為100的static 的Collections.synchronizedList(new LinkedList())坯约，以Ordering.natural().sortedCopy(xx)進行排序并取去掉前后10%的中間部分來計算線程平均時間，根據(jù)Little定理算出QPS莫鸭。
4.大量請求同時到達服務器闹丐，導致CPU處理繁忙
這一點也是大家容易忽視的，就比如同一個服務器被因，一下子又10000個請求過來了卿拴，是開啟了限流，但是這個限流等待時間梨与，這個多線程阻塞堕花，系統(tǒng)完全扛不住，還是沒有達到限流的目的粥鞋，我在請求之前缘挽，進行邏輯處理，當正在處理線程大于一個配置值時呻粹，多余請求全部拒絕壕曼，或者服務器JVM內存使用率超過了95%時，請求也拒絕等浊，這個是可以沒有的腮郊，如果以簡單為主的話，內存的判斷是不需要的筹燕，直接判斷當前正在執(zhí)行線程就行轧飞，多了就們不要，當然大家也可以單獨去計算CPU使用率庄萎，來作為判斷條件踪少。JVM內存的話塘安，我使用的是：
long jvmfree=Runtime.getRuntime().freeMemory();
long jvmTotal =Runtime.getRuntime().totalMemory();
long jvmMax =Runtime.getRuntime().maxMemory();
logger.info("java 虛擬機空閑內存"+jvmfree / 1024 / 1024);
logger.info("java 虛擬機獲得總內存"+jvmTotal / 1024 / 1024);
logger.info("java 虛擬機最大內存"+jvmMax / 1024 / 1024);
double jvmUseRate = (jvmTotal-jvmfree)*1.0/jvmMax;
測試了一下糠涛，流量起來之后是會自動打開限流的，流量小了兼犯，自動回關閉忍捡，
因為我的工作性質，所以我的配置文件的參數(shù)切黔，或者說默認參數(shù)：
sys_max_running_thread = 500//開關判斷的最大線程數(shù)砸脊，
sys_max_qps = 250//系統(tǒng)最大qps
request_timeout = 2500//請求令牌最多等待時間，是令牌控制參數(shù)纬霞，不是等待線程最大等待時間
non_worry_token_speed = 30//非著急令牌速率
max_await_thread_length =500//最大等待線程數(shù)
max_avg_handle_date = 3000//開關判斷的最大平均處理時間
代碼：由于是在自己的工程里面寫的凌埂，所以就帶有的工程的包路徑，勉強看吧诗芜。
https://github.com/learnPeopleHard/network-speed-limit
