什么是緩存雪崩？服務(wù)器雪崩的場景與解決方案
--轉(zhuǎn)自頭條號 優(yōu)知學(xué)院
什么是應(yīng)用服務(wù)雪崩
雪崩問題
分布式系統(tǒng)都存在這樣一個問題，由于網(wǎng)絡(luò)的不穩(wěn)定性言津，決定了任何一個服務(wù)的可用性都不是 100% 的。當(dāng)網(wǎng)絡(luò)不穩(wěn)定的時候取试，作為服務(wù)的提供者悬槽，自身可能會被拖死，導(dǎo)致服務(wù)調(diào)用者阻塞瞬浓，最終可能引發(fā)雪崩連鎖效應(yīng)初婆。
緩存雪崩
當(dāng)緩存服務(wù)器重啟或者大量緩存集中在某一個時間段失效，這樣在失效的時候猿棉，也會給后端系統(tǒng)(比如DB)帶來很大壓力磅叛，造成數(shù)據(jù)庫后端故障，從而引起應(yīng)用服務(wù)器雪崩萨赁。
雪崩效應(yīng)產(chǎn)生的幾種場景
- 流量激增：比如異常流量、用戶重試導(dǎo)致系統(tǒng)負(fù)載升高杖爽；
- 緩存刷新：假設(shè)A為client端敲董，B為Server端，假設(shè)A系統(tǒng)請求都流向B系統(tǒng)慰安，請求超出了B系統(tǒng)的承載能力腋寨，就會造成B系統(tǒng)崩潰；
- 程序有Bug：代碼循環(huán)調(diào)用的邏輯問題化焕，資源未釋放引起的內(nèi)存泄漏等問題萄窜；
- 硬件故障：比如宕機，機房斷電撒桨，光纖被挖斷等脂倦。
- 數(shù)據(jù)庫嚴(yán)重瓶頸，比如：長事務(wù)元莫、sql超時等赖阻。
- 線程同步等待：系統(tǒng)間經(jīng)常采用同步服務(wù)調(diào)用模式，核心服務(wù)和非核心服務(wù)共用一個線程池和消息隊列踱蠢。如果一個核心業(yè)務(wù)線程調(diào)用非核心線程火欧，這個非核心線程交由第三方系統(tǒng)完成棋电，當(dāng)?shù)谌较到y(tǒng)本身出現(xiàn)問題，導(dǎo)致核心線程阻塞苇侵，一直處于等待狀態(tài)赶盔，而進程間的調(diào)用是有超時限制的，最終這條線程將斷掉榆浓，也可能引發(fā)雪崩于未；
緩存雪崩的解決方案
緩存失效的幾種情況:
1、緩存服務(wù)器掛了
2陡鹃、高峰期緩存局部失效
3烘浦、熱點緩存失效
解決方案：
1萍鲸、避免緩存集中失效闷叉，不同的key設(shè)置不同的超時時間
2、增加互斥鎖脊阴，控制數(shù)據(jù)庫請求握侧，重建緩存。
3嘿期、提高緩存的HA品擎，如：redis集群。
雪崩的整體解決方案
一般情況對于服務(wù)依賴的保護主要有3種解決方案：
（1）熔斷模式
這種模式主要是參考電路熔斷萄传，如果一條線路電壓過高，保險絲會熔斷坦喘，防止火災(zāi)。放到我們的系統(tǒng)中西设，如果某個目標(biāo)服務(wù)調(diào)用慢或者有大量超時瓣铣，此時，熔斷該服務(wù)的調(diào)用贷揽，對于后續(xù)調(diào)用請求棠笑，不在繼續(xù)調(diào)用目標(biāo)服務(wù)，直接返回禽绪，快速釋放資源蓖救。如果目標(biāo)服務(wù)情況好轉(zhuǎn)則恢復(fù)調(diào)用。
重點監(jiān)控的機器性能指標(biāo)
- cpu(Load) cpu使用率/負(fù)載
- memory 內(nèi)存
- mysql監(jiān)控長事務(wù)(這里與sql查詢超時是緊密結(jié)合的印屁，需要重點監(jiān)控)
- sql超時
- 線程數(shù)等
總之循捺，除了cpu、內(nèi)存雄人、線程數(shù)外从橘，重點監(jiān)控數(shù)據(jù)庫端的長事務(wù)念赶、sql超時等，絕大多數(shù)應(yīng)用服務(wù)器發(fā)生的雪崩場景恰力，都是來源于數(shù)據(jù)庫端的性能瓶頸叉谜，從而先引起數(shù)據(jù)庫端大量瓶頸，最終拖累應(yīng)用服務(wù)器也發(fā)生雪崩踩萎，最后就是大面積的雪崩停局。
（2）隔離模式
這種模式就像對系統(tǒng)請求按類型劃分成一個個小島的一樣，當(dāng)某個小島被火少光了香府，不會影響到其他的小島董栽。
例如可以對不同類型的請求使用線程池來資源隔離，每種類型的請求互不影響回还，如果一種類型的請求線程資源耗盡裆泳，則對后續(xù)的該類型請求直接返回，不再調(diào)用后續(xù)資源柠硕。這種模式使用場景非常多工禾，例如將一個服務(wù)拆開，對于重要的服務(wù)使用單獨服務(wù)器來部署蝗柔，再或者公司最近推廣的多中心闻葵。
（3）限流模式
上述的熔斷模式和隔離模式都屬于出錯后的容錯處理機制，而限流模式則可以稱為預(yù)防模式癣丧。限流模式主要是提前對各個類型的請求設(shè)置最高的QPS閾值槽畔，若高于設(shè)置的閾值則對該請求直接返回，不再調(diào)用后續(xù)資源胁编。這種模式不能解決服務(wù)依賴的問題厢钧，只能解決系統(tǒng)整體資源分配問題，因為沒有被限流的請求依然有可能造成雪崩效應(yīng)嬉橙。
熔斷設(shè)計
在熔斷的設(shè)計主要參考了hystrix的做法早直。其中最重要的是三個模塊：熔斷請求判斷算法、熔斷恢復(fù)機制市框、熔斷報警
（1）熔斷請求判斷機制算法：使用無鎖循環(huán)隊列計數(shù)霞扬，每個熔斷器默認(rèn)維護10個bucket，每1秒一個bucket枫振，每個blucket記錄請求的成功喻圃、失敗、超時粪滤、拒絕的狀態(tài)斧拍，默認(rèn)錯誤超過50%且10秒內(nèi)超過20個請求進行中斷攔截。
（2）熔斷恢復(fù)：對于被熔斷的請求杖小，每隔5s允許部分請求通過饮焦，若請求都是健康的（RT<250ms）則對請求健康恢復(fù)怕吴。
（3）熔斷報警：對于熔斷的請求打日志，異常請求超過某些設(shè)定則報警县踢。
隔離設(shè)計
隔離的方式一般使用兩種
（1）線程池隔離模式：使用一個線程池來存儲當(dāng)前的請求转绷，線程池對請求作處理，設(shè)置任務(wù)返回處理超時時間硼啤，堆積的請求堆積入線程池隊列议经。這種方式需要為每個依賴的服務(wù)申請線程池，有一定的資源消耗谴返，好處是可以應(yīng)對突發(fā)流量（流量洪峰來臨時煞肾，處理不完可將數(shù)據(jù)存儲到線程池隊里慢慢處理）
（2）信號量隔離模式：使用一個原子計數(shù)器（或信號量）來記錄當(dāng)前有多少個線程在運行，請求來先判斷計數(shù)器的數(shù)值嗓袱，若超過設(shè)置的最大線程個數(shù)則丟棄改類型的新請求籍救，若不超過則執(zhí)行計數(shù)操作請求來計數(shù)器+1，請求返回計數(shù)器-1渠抹。這種方式是嚴(yán)格的控制線程且立即返回模式蝙昙，無法應(yīng)對突發(fā)流量（流量洪峰來臨時，處理的線程超過數(shù)量梧却，其他的請求會直接返回奇颠，不繼續(xù)去請求依賴的服務(wù)）
超時機制設(shè)計
（1）超時分兩種，一種是請求的等待超時放航，一種是請求運行超時烈拒。
（2）等待超時：在任務(wù)入隊列時設(shè)置任務(wù)入隊列時間，并判斷隊頭的任務(wù)入隊列時間是否大于超時時間广鳍，超過則丟棄任務(wù)荆几。
（3）運行超時：直接可使用線程池提供的get方法吨铸。
如何提前發(fā)現(xiàn)雪崩
就是首先讓系統(tǒng)不雪崩狈涮，然后通過監(jiān)控發(fā)現(xiàn)請求正在接近或者超過閥值晕鹊，然后再根據(jù)具體情況處理晓锻，這個接近或者超過閥值的過程砚哆，可以稱為 “提前發(fā)現(xiàn)雪崩”。
