About Cache
作后端開發(fā)的同學(xué)魂务，緩存是必備技能。這是你不需要花費(fèi)太多的精力就能顯著提升服務(wù)性能的靈丹妙藥卡骂。前提是你得知道如何使用它，這樣才能夠最大限度發(fā)揮它的功效形入，并抑制其副作用全跨。本文將介紹最如何正確的添加和更新緩存。
開始之前
這部分將介紹在開始加緩存之前我們必須要做的事情唯笙。這步非常重要螟蒸，如果沒弄好，很有可能加了緩存反而不如不加崩掘。
為什么要用緩存七嫌？對(duì)于一個(gè)服務(wù)其性能瓶頸往往都在DB，傳統(tǒng)關(guān)系型存儲(chǔ)尤甚苞慢。我們?cè)趧?chuàng)建表的時(shí)候诵原，并不會(huì)未所有的字段創(chuàng)建索引，這意味著如果我們需要讀取非緩存數(shù)據(jù)就要從磁盤拿數(shù)據(jù)挽放。這個(gè)過程至少需要十幾毫秒的時(shí)間绍赛。而緩存往往是基于內(nèi)存的，這要比DB讀數(shù)據(jù)快兩個(gè)數(shù)量級(jí)辑畦。這是我們用緩存的根本原因原因吗蚌。
那干脆把所有的數(shù)據(jù)扔到內(nèi)存不就行了嘛！不行纯出。內(nèi)存這東西雖然很快蚯妇，同時(shí)它還很貴敷燎。動(dòng)輒百十來G的數(shù)據(jù)都扔內(nèi)存這有點(diǎn)太浪費(fèi)。依據(jù)二八定律箩言，我們只需找到那最緊俏的百分之二十就行了硬贯。這是非常重要的。否則你加了緩存效果反而更差陨收。
對(duì)于緩存有一個(gè)衡量指標(biāo)饭豹，叫做緩存命中率。這個(gè)指標(biāo)高說明我們請(qǐng)求的數(shù)據(jù)大部分來自緩存务漩。證明我們加緩存這件事的收益越高拄衰。
加緩存
如果你平時(shí)都用一些ORM工具很可能下邊這些問題你不會(huì)直接遇到，不過這些問題都是在你加緩存之前需要著實(shí)想清楚的饵骨。算是一些通用的套路肾砂。我們逐條來看一下：
緩存穿透
緩存穿透是說訪問一個(gè)緩存中沒有的數(shù)據(jù)，但是這個(gè)數(shù)據(jù)數(shù)據(jù)庫中也不存在宏悦。普通思路下我們沒有從數(shù)據(jù)庫中拿到數(shù)據(jù)是不會(huì)觸發(fā)加緩存操作的镐确。這時(shí)如果是有人惡意攻擊，大量的訪問就會(huì)透過緩存直接打到數(shù)據(jù)庫饼煞，對(duì)后端服務(wù)和數(shù)據(jù)庫做成巨大的壓力甚至宕機(jī)源葫。
解決方案：
緩存空對(duì)象。如果緩存未命中砖瞧，而數(shù)據(jù)庫中也沒有這個(gè)對(duì)象息堂，則可以緩存一個(gè)空對(duì)象到緩存。如果使用Redis块促，這種key需設(shè)置一個(gè)較短的時(shí)間荣堰，以防內(nèi)存浪費(fèi)。
緩存預(yù)測(cè)竭翠。預(yù)測(cè)key是否存在振坚。如果緩存的量不大可以使用hash來判斷，如果量大可以使用布隆過濾器來做判斷斋扰。
緩存并發(fā)
緩存并發(fā)這個(gè)場(chǎng)景很容易解釋：多個(gè)客戶端同時(shí)訪問一個(gè)沒有在cache中的數(shù)據(jù)渡八，這時(shí)每個(gè)客戶端都會(huì)執(zhí)行從DB加載數(shù)據(jù)set到緩存，就會(huì)造成緩存并發(fā)传货。
解決方案：
緩存預(yù)熱屎鳍。提前把所有預(yù)期的熱數(shù)據(jù)加到緩存。定位熱數(shù)據(jù)還是比較復(fù)雜的事情问裕，需要根據(jù)自己的服務(wù)訪問情況去評(píng)估逮壁。這個(gè)方案只能減輕緩存并發(fā)的發(fā)生次數(shù)不能全部抵制。
緩存加鎖粮宛。 如果多個(gè)客戶端訪問不存在的緩存時(shí)窥淆，在執(zhí)行加載數(shù)據(jù)并set緩存這個(gè)邏輯之前先加鎖十饥，只能讓一個(gè)客戶端執(zhí)行這段邏輯。
緩存防雪崩
緩存雪崩是緩存服務(wù)暫時(shí)不能提供服務(wù)祖乳，導(dǎo)致所有的請(qǐng)求都直接訪問DB。
解決方案：
構(gòu)建高可用的緩存系統(tǒng)秉氧。目前常用的緩存系統(tǒng)Redis和Memcache都支持高可用的部署方式眷昆，所以部署的時(shí)候不防先考慮是否要以高可用的集群方式部署。
限流汁咏。Netflix的Hystrix是非常不錯(cuò)的工具亚斋，在用緩存時(shí)不妨搭配它來使用。
更新緩存
這部分我們將介紹一下cache的更新策略攘滩。這部分內(nèi)容主要是來自CoolShell 左耳朵耗子老師帅刊，文末有原文地址，大家可以前去拜讀漂问。
Cache Aside Pattern
這種思路先更新數(shù)據(jù)庫赖瞒，更新成功之后再令緩存失效。還有一種方式是先失效緩存蚤假，然后在更新數(shù)據(jù)庫栏饮。我們來對(duì)比一下這兩種方式的不同。
首先磷仰，來看后一種袍嬉。設(shè)想一種情景，一個(gè)客戶端發(fā)起更新操作灶平，當(dāng)執(zhí)行了緩存失效伺通。這時(shí)一個(gè)讀取操作進(jìn)來，發(fā)現(xiàn)緩存沒有數(shù)據(jù)然后從數(shù)據(jù)庫拿數(shù)據(jù)并放到緩存逢享。更新操作繼續(xù)更新數(shù)據(jù)庫罐监。這時(shí)緩存里已經(jīng)緩存了臟數(shù)據(jù)。
那么第一種會(huì)出現(xiàn)這種問題嗎瞒爬？理論上是會(huì)的笑诅，看一下這個(gè)操作：A客戶端發(fā)起更新操作，B客戶端發(fā)起讀操作疮鲫，并且這時(shí)緩存恰好失效吆你，然后它從數(shù)據(jù)庫加載數(shù)據(jù)（老數(shù)據(jù)）。A的更新操作完成失效緩存俊犯，這時(shí)B讀取的客戶端把老數(shù)據(jù)set到緩存妇多。這有這種情況下才會(huì)出現(xiàn)臟數(shù)據(jù)，但是這概率已經(jīng)非常小了燕侠。
Read/Write Through Pattern
Read Through：讀取數(shù)據(jù)的時(shí)候如果當(dāng)前緩存中沒有數(shù)據(jù)者祖，慣常的操作都是應(yīng)用程序去DB加載數(shù)據(jù)立莉，然后加入到緩存中。Read Through與之不同的是我們不需要在應(yīng)用程序自己加載數(shù)據(jù)了七问，緩存層會(huì)幫忙做件事蜓耻。
Write Through：更新數(shù)據(jù)的時(shí)候，如果命中緩存械巡，則先更新緩存然后緩存在負(fù)責(zé)把數(shù)據(jù)更新到數(shù)據(jù)庫刹淌；如果沒有命中緩存則直接更新數(shù)據(jù)庫。
這種方式緩存層直接屏蔽了DB讥耗，應(yīng)用程序只需要更緩存打交道有勾。優(yōu)點(diǎn)是應(yīng)用邏輯簡(jiǎn)單了，而且更高效了古程；缺點(diǎn)是緩存層的實(shí)現(xiàn)相對(duì)復(fù)雜一些蔼卡。
Write Back Pattern
這是三種中實(shí)現(xiàn)難度最大的一種方式，它需要一個(gè)專門的存儲(chǔ)保存緩存是否是臟數(shù)據(jù)挣磨，并在讀寫緩存時(shí)同步臟數(shù)據(jù)雇逞。在數(shù)據(jù)一致性要求不太高的場(chǎng)景可以使用這種方式。
首先我們來看一下讀緩存的操作茁裙。如果緩存命中直接返回喝峦。如果緩存沒有命中，則首先去strore中檢索這個(gè)key是否dirty呜达，如果不是則加載數(shù)據(jù)谣蠢，如果是應(yīng)先把數(shù)據(jù)flush到存儲(chǔ)，然后在加載數(shù)據(jù)查近。接下來標(biāo)記這條key為not dirty眉踱，返回結(jié)果。
寫數(shù)據(jù)的過程霜威。如果命中緩存則更新數(shù)據(jù)谈喳，并標(biāo)記這條記錄為dirty。如果沒有命中戈泼，則去store中檢索這個(gè)可以是否dirty婿禽，如果不是則從存儲(chǔ)load數(shù)據(jù)，更新這條數(shù)據(jù)大猛，如果是則把當(dāng)前數(shù)據(jù)flush到存儲(chǔ)扭倾，然后load數(shù)據(jù)更新，并標(biāo)記這條記錄為dirty挽绩。
