緩存能夠有效地加速應(yīng)用的讀寫速度场斑,同時也可以降低后端負載,對日常應(yīng)用的開發(fā)至關(guān)重要牵署。但是將緩存加入應(yīng)用架構(gòu)后也會帶來一些問題漏隐,本章將針對這些問題介紹緩存使用技巧和設(shè)計方案,包含如下方案:
緩存的收益和成本分析奴迅。
緩存更新策略的選擇和使用場景青责。
緩存粒度控制方法挺据。
穿透問題優(yōu)化。
無底洞問題優(yōu)化脖隶。
雪崩問題優(yōu)化扁耐。
熱點key重建優(yōu)化。
緩存的收益和成本
下圖左側(cè)為客戶端直接調(diào)用存儲層的架構(gòu)产阱,右側(cè)為比較典型的緩存層+存儲層架構(gòu)婉称,下面分析一下緩存加入后帶來的收益和成本。
收益如下:
加速讀寫:因為緩存通常都是全內(nèi)存的(例如Redis构蹬、Memcache)王暗,而存儲層通常讀寫性能不夠強悍(例如MySQL),通過緩存的使用可以有效地加速讀寫庄敛,優(yōu)化用戶體驗俗壹。
降低后端負載:幫忙后端減少訪問量和復(fù)雜計算(例如很復(fù)雜的SQL語句),在很大程度降低了后端的負載藻烤。
成本如下:
數(shù)據(jù)不一致性:緩存層和存儲層的數(shù)據(jù)存在著一定時間窗口的不一致性绷雏,時間窗口跟更新策略有關(guān)。
代碼維護成本:加入緩存后怖亭,需要同時處理緩存層和存儲層的邏輯涎显,增大了開發(fā)者維護代碼的成本。
運維成本:以Redis Cluster為例依许,加入后無形中增加了運維成本棺禾。
緩存的使用場景基本包含如下兩種:
開銷大的復(fù)雜計算:以MySQL為例子,一些復(fù)雜的操作或者計算(例如大量聯(lián)表操作峭跳、一些分組計算)膘婶,如果不加緩存,不但無法滿足高并發(fā)量蛀醉,同時也會給MySQL帶來巨大的負擔(dān)悬襟。
加速請求響應(yīng):即使查詢單條后端數(shù)據(jù)足夠快(例如select * from table where id = ?),那么依然可以使用緩存拯刁,以Redis為例子脊岳,每秒可以完成數(shù)萬次讀寫,并且提供的批量操作可以優(yōu)化整個IO鏈的響應(yīng)時間垛玻。