緩存穿透與熱點(diǎn)緩存等問題的解決方案

不管我們使用的哪種緩存產(chǎn)品霉猛,基本上都會遇到緩存擊穿、緩存失效以及熱點(diǎn)key的問題珠闰。一旦出現(xiàn)上述問題惜浅,如洪水般的請求會涌向后臺DB服務(wù)器,輕則應(yīng)用遲緩铸磅,重則整個(gè)應(yīng)用系統(tǒng)癱瘓赡矢。

1- 緩存并發(fā)更新控制

一個(gè)共享緩存失效后,接下來有多個(gè)線程嘗試從后臺數(shù)據(jù)庫服務(wù)器獲取數(shù)據(jù)來更新緩存時(shí)阅仔,因?yàn)橹恍枰粋€(gè)線程完成從數(shù)據(jù)庫中取數(shù)據(jù)然后在放在緩存內(nèi)即可吹散,然后其他線程再去取這個(gè)緩存,并需要并發(fā)的更新這個(gè)緩存八酒。

解決方案

使用鎖機(jī)制(緩存服務(wù)器集群環(huán)境下空民,使用分布式鎖),在緩存更新或者過期的情況下羞迷,先嘗試獲取到鎖界轩,當(dāng)更新或者從數(shù)據(jù)庫獲取完成后再釋放鎖,其他的請求只需要犧牲一定的等待時(shí)間衔瓮,即可直接從緩存中繼續(xù)獲取數(shù)據(jù)浊猾,效率較高∪劝埃可在緩存更新方法上加上sychronized修飾葫慎。

2- 緩存擊穿

也叫緩存穿透衔彻,查詢一個(gè)數(shù)據(jù)庫中不存在的數(shù)據(jù),比如商品詳情偷办,查詢一個(gè)不存在的ID艰额,每次都會訪問DB,可能不會被關(guān)注椒涯,但是這個(gè)卻是造成數(shù)據(jù)庫高負(fù)載的元兇柄沮。

解決方案
  1. 緩存空對象
    當(dāng)通過某一個(gè)key去查詢數(shù)據(jù)的時(shí)候,如果對應(yīng)在數(shù)據(jù)庫中的數(shù)據(jù)都不存在废岂,我們將此key對應(yīng)的value設(shè)置為一個(gè)默認(rèn)的值祖搓,比如“NULL”,并設(shè)置一個(gè)緩存的失效時(shí)間泪喊,這時(shí)在緩存失效之前棕硫,所有通過此key的訪問都被緩存擋住了髓涯。后面如果此key對應(yīng)的數(shù)據(jù)在DB中存在時(shí)袒啼,緩存失效之后,通過此key再去訪問數(shù)據(jù)纬纪,就能拿到新的value了蚓再。這種方式實(shí)現(xiàn)起來成本較低,比較適合命中不高包各,但可能被頻繁更新的數(shù)
    據(jù)

  2. 單獨(dú)過濾處理
    對所有可能對應(yīng)數(shù)據(jù)為空的key進(jìn)行統(tǒng)一的存放摘仅,并在請求前做攔截,這樣避免請求穿透到后端數(shù)據(jù)庫问畅。這種方式實(shí)現(xiàn)起來相對復(fù)雜娃属,比較適合命中不高,但是更新不頻繁的數(shù)據(jù)护姆。

3- 緩存顛簸

緩存的顛簸問題矾端,有些地方可能被成為“緩存抖動”,可以看做是一種比“雪崩”更輕微的故障卵皂,但是也會在一段時(shí)間內(nèi)對系統(tǒng)造成沖擊和性能影響秩铆。一般是由于緩存節(jié)點(diǎn)故障導(dǎo)致。

解決方案

業(yè)內(nèi)推薦的做法是通過一致性Hash算法來解決灯变。

4- 熱點(diǎn)Key

緩存中的某些Key(可能對應(yīng)用與某個(gè)促銷商品)對應(yīng)的value存儲在集群中一臺機(jī)器殴玛,使得所有流量涌向同一機(jī)器,成為系統(tǒng)的瓶頸添祸,該問題的挑戰(zhàn)在于它無法通過增加機(jī)器容量來解決滚粟。

解決方案
  1. 客戶端熱點(diǎn)key緩存:將熱點(diǎn)key對應(yīng)value并緩存在客戶端本地,并且設(shè)置一個(gè)失效時(shí)間刃泌。對于每次讀請求凡壤,將首先檢查key是否存在于本地緩存中愧沟,如果存在則直接返回,如果不存在再去訪問分布式緩存的機(jī)器鲤遥。
  2. 服務(wù)端負(fù)載均衡:將熱點(diǎn)key復(fù)制多個(gè)副本沐寺,然后存儲到緩存集群的不同機(jī)器上。當(dāng)通過熱點(diǎn)key去查詢數(shù)據(jù)時(shí)盖奈,通過某種hash算法隨機(jī)選擇一個(gè)副本機(jī)器訪問緩存混坞,將熱點(diǎn)分散到了不同機(jī)器上。

5- 緩存雪崩

緩存雪崩就是指由于緩存的原因钢坦,導(dǎo)致大量請求到達(dá)后端數(shù)據(jù)庫究孕,從而導(dǎo)致數(shù)據(jù)庫崩潰,整個(gè)系統(tǒng)崩潰爹凹,發(fā)生災(zāi)難厨诸。

解決方法

場景1:導(dǎo)致這種現(xiàn)象的原因有很多種,上面提到的“緩存并發(fā)”禾酱,“緩存穿透”微酬,“緩存顛簸”等問題,其實(shí)都可能會導(dǎo)致緩存雪崩現(xiàn)象發(fā)生颤陶。

根據(jù)上面的解決方法來避免雪崩的發(fā)生

場景2: 緩存冷啟動或者大量緩存同時(shí)失效颗管,例如某個(gè)時(shí)間點(diǎn)內(nèi),系統(tǒng)預(yù)加載的緩存周期性集中失效了滓走,也可能會導(dǎo)致雪崩垦江。

解決方案:

  1. 為了解決冷啟動的問題,啟動時(shí)搅方,先預(yù)熱緩存比吭,根據(jù)實(shí)際業(yè)務(wù)估算將數(shù)據(jù)從數(shù)據(jù)庫總load到緩存中,注意要分批次load姨涡,防止DB崩潰衩藤。
  2. 為了避免這種周期性大量緩存同時(shí)失效,可以通過設(shè)置不同的過期時(shí)間绣溜,來錯(cuò)開緩存過期慷彤,從而避免緩存集中失效。
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末怖喻,一起剝皮案震驚了整個(gè)濱河市底哗,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌锚沸,老刑警劉巖跋选,帶你破解...
    沈念sama閱讀 207,113評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異哗蜈,居然都是意外死亡前标,警方通過查閱死者的電腦和手機(jī)坠韩,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,644評論 2 381
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來炼列,“玉大人只搁,你說我怎么就攤上這事〖蠹猓” “怎么了氢惋?”我有些...
    開封第一講書人閱讀 153,340評論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長稽犁。 經(jīng)常有香客問我焰望,道長,這世上最難降的妖魔是什么已亥? 我笑而不...
    開封第一講書人閱讀 55,449評論 1 279
  • 正文 為了忘掉前任熊赖,我火速辦了婚禮,結(jié)果婚禮上虑椎,老公的妹妹穿的比我還像新娘震鹉。我一直安慰自己,他們只是感情好绣檬,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,445評論 5 374
  • 文/花漫 我一把揭開白布足陨。 她就那樣靜靜地躺著嫂粟,像睡著了一般娇未。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上星虹,一...
    開封第一講書人閱讀 49,166評論 1 284
  • 那天零抬,我揣著相機(jī)與錄音,去河邊找鬼宽涌。 笑死平夜,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的卸亮。 我是一名探鬼主播忽妒,決...
    沈念sama閱讀 38,442評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼兼贸!你這毒婦竟也來了段直?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,105評論 0 261
  • 序言:老撾萬榮一對情侶失蹤溶诞,失蹤者是張志新(化名)和其女友劉穎鸯檬,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體螺垢,經(jīng)...
    沈念sama閱讀 43,601評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡喧务,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,066評論 2 325
  • 正文 我和宋清朗相戀三年赖歌,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片功茴。...
    茶點(diǎn)故事閱讀 38,161評論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡庐冯,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出坎穿,到底是詐尸還是另有隱情肄扎,我是刑警寧澤,帶...
    沈念sama閱讀 33,792評論 4 323
  • 正文 年R本政府宣布赁酝,位于F島的核電站犯祠,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏酌呆。R本人自食惡果不足惜衡载,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,351評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望隙袁。 院中可真熱鬧痰娱,春花似錦、人聲如沸菩收。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,352評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽娜饵。三九已至坡贺,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間箱舞,已是汗流浹背遍坟。 一陣腳步聲響...
    開封第一講書人閱讀 31,584評論 1 261
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留晴股,地道東北人愿伴。 一個(gè)月前我還...
    沈念sama閱讀 45,618評論 2 355
  • 正文 我出身青樓,卻偏偏與公主長得像电湘,于是被迫代替她去往敵國和親隔节。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,916評論 2 344

推薦閱讀更多精彩內(nèi)容