我是Redis摧扇,MySQL大哥被我害慘了!

我是Redis

你好挚歧,我是Redis,一個叫Antirez的男人把我?guī)У搅诉@個世界上吁峻。

image

說起我的誕生滑负,跟關(guān)系數(shù)據(jù)庫MySQL還挺有淵源的。

在我還沒來到這個世界上的時候用含,MySQL過的很辛苦矮慕,互聯(lián)網(wǎng)發(fā)展的越來越快,它容納的數(shù)據(jù)也越來越多啄骇,用戶請求也隨之暴漲痴鳄,而每一個用戶請求都變成了對它的一個又一個讀寫操作,MySQL是苦不堪言缸夹。尤其是到“雙11”痪寻、“618“這種全民購物狂歡的日子,都是MySQL受苦受難的日子虽惭。

據(jù)后來MySQL告訴我說橡类,其實有一大半的用戶請求都是讀操作,而且經(jīng)常都是重復(fù)查詢一個東西芽唇,浪費它很多時間去進(jìn)行磁盤I/O顾画。

后來有人就琢磨,是不是可以學(xué)學(xué)CPU,給數(shù)據(jù)庫也加一個緩存呢研侣?于是我就誕生了谱邪!

出生不久,我就和MySQL成為了好朋友庶诡,我們倆常常攜手出現(xiàn)在后端服務(wù)器中惦银。

應(yīng)用程序們從MySQL查詢到的數(shù)據(jù),在我這里登記一下灌砖,后面再需要用到的時候璧函,就先找我要,我這里沒有再找MySQL要基显。

image

為了方便使用蘸吓,我支持好幾種數(shù)據(jù)結(jié)構(gòu)的存儲:

  • String
  • Hash
  • List
  • Set
  • SortedSet
  • Bitmap
  • ······

因為我把登記的數(shù)據(jù)都記錄在內(nèi)存中,不用去執(zhí)行慢如蝸牛的I/O操作撩幽,所以找我要比找MySQL要省去了不少的時間呢库继。

可別小瞧這簡單的一個改變,我可為MySQL減輕了不小的負(fù)擔(dān)窜醉!隨著程序的運行宪萄,我緩存的數(shù)據(jù)越來越多,有相當(dāng)部分時間我都給它擋住了用戶請求榨惰,這一下它可樂得清閑自在了拜英!

有了我的加入,網(wǎng)絡(luò)服務(wù)的性能提升了不少琅催,這都?xì)w功于我為數(shù)據(jù)庫挨了不少槍子兒居凶。

緩存過期 && 緩存淘汰

不過很快我發(fā)現(xiàn)事情不妙了,我緩存的數(shù)據(jù)都是在內(nèi)存中藤抡,可是就算是在服務(wù)器上侠碧,內(nèi)存的空間資源還是很有限的,不能無節(jié)制的這么存下去缠黍,我得想個辦法弄兜,不然吃棗藥丸。

不久瓷式,我想到了一個辦法:給緩存內(nèi)容設(shè)置一個超時時間替饿,具體設(shè)置多長交給應(yīng)用程序們?nèi)ピO(shè)置,我要做的就是把過期了的內(nèi)容從我里面刪除掉蒿往,及時騰出空間就行了盛垦。

image

超時時間有了,我該在什么時候去干這個清理的活呢瓤漏?

最簡單的就是定期刪除腾夯,我決定100ms就做一次颊埃,一秒鐘就是10次!

我清理的時候也不能一口氣把所有過期的都給刪除掉蝶俱,我這里面存了大量的數(shù)據(jù)班利,要全面掃一遍的話那不知道要花多久時間,會嚴(yán)重影響我接待新的客戶請求的榨呆!

時間緊任務(wù)重罗标,我只好隨機(jī)選擇一部分來清理,能緩解內(nèi)存壓力就行了积蜻。

image

就這樣過了一段日子闯割,我發(fā)現(xiàn)有些個鍵值運氣比較好,每次都沒有被我的隨機(jī)算法選中竿拆,每次都能幸免于難宙拉,這可不行,這些長時間過期的數(shù)據(jù)一直霸占著不少的內(nèi)存空間丙笋!氣抖冷谢澈!

我眼里可揉不得沙子!于是在原來定期刪除的基礎(chǔ)上御板,又加了一招:

那些原來逃脫我隨機(jī)選擇算法的鍵值锥忿,一旦遇到查詢請求,被我發(fā)現(xiàn)已經(jīng)超期了怠肋,那我就絕不客氣敬鬓,立即刪除。

這種方式因為是被動式觸發(fā)的笙各,不查詢就不會發(fā)生列林,所以也叫惰性刪除

可是酪惭,還是有部分鍵值,既逃脫了我的隨機(jī)選擇算法者甲,又一直沒有被查詢春感,導(dǎo)致它們一直逍遙法外!而于此同時虏缸,可以使用的內(nèi)存空間卻越來越少鲫懒。

image

而且就算退一步講,我能夠把過期的數(shù)據(jù)都刪除掉刽辙,那萬一過期時間設(shè)置的很長窥岩,還沒等到我去清理,內(nèi)存就吃滿了宰缤,一樣要吃棗藥丸颂翼,所以我還得想個辦法晃洒。

我苦思良久,終于憋出了個大招:內(nèi)存淘汰策略朦乏,這一次我要徹底解決問題球及!

我提供了8種策略供應(yīng)用程序選擇,用于我遇到內(nèi)存不足時該如何決策:

  • noeviction:返回錯誤呻疹,不會刪除任何鍵值
  • allkeys-lru:使用LRU算法刪除最近最少使用的鍵值
  • volatile-lru:使用LRU算法從設(shè)置了過期時間的鍵集合中刪除最近最少使用的鍵值
  • allkeys-random:從所有key隨機(jī)刪除
  • volatile-random:從設(shè)置了過期時間的鍵的集合中隨機(jī)刪除
  • volatile-ttl:從設(shè)置了過期時間的鍵中刪除剩余時間最短的鍵
  • volatile-lfu:從配置了過期時間的鍵中刪除使用頻率最少的鍵
  • allkeys-lfu:從所有鍵中刪除使用頻率最少的鍵

有了上面幾套組合拳吃引,我再也不用擔(dān)心過期數(shù)據(jù)多了把空間撐滿的問題了~

緩存穿透 && 布隆過濾器

我的日子過的還挺舒坦,不過MySQL大哥就沒我這么舒坦了刽锤,有時候遇到些煩人的請求镊尺,查詢的數(shù)據(jù)不存在,MySQL就要白忙活一場并思!不僅如此庐氮,因為不存在,我也沒法緩存啊纺荧,導(dǎo)致同樣的請求來了每次都要去讓MySQL白忙活一場旭愧。我作為緩存的價值就沒得到體現(xiàn)啦!這就是人們常說的緩存穿透宙暇。

image

這一來二去输枯,MySQL大哥忍不住了:“唉,兄弟占贫,能不能幫忙想個辦法桃熄,把那些明知道不會有結(jié)果的查詢請求給我擋一下”

這時我想到了我的另外一個好朋友:布隆過濾器

image

我這位朋友別的本事沒有,就擅長從超大的數(shù)據(jù)集中快速告訴你查找的數(shù)據(jù)存不存在(悄悄告訴你型奥,我的這位朋友有一點不靠譜瞳收,它告訴你存在的話不能全信,其實有可能是不存在的厢汹,不過它他要是告訴你不存在的話螟深,那就一定不存在)。

image

我把這位朋友介紹給了應(yīng)用程序烫葬,不存在的數(shù)據(jù)就不必去叨擾MySQL了界弧,輕松幫忙解決了緩存穿透的問題。

緩存擊穿 && 緩存雪崩

這之后過了一段時間太平日子搭综,直到那一天···

有一次垢箕,MySQL那家伙正優(yōu)哉游哉的摸魚,突然一大堆請求給他懟了過去兑巾,給他打了一個措手不及条获。

一陣忙活之后,MySQL怒氣沖沖的找到了我蒋歌,“兄弟帅掘,咋回事啊委煤,怎么一下子來的這么猛”
image

我查看了日志,趕緊解釋到:“大哥锄开,實在不好意思素标,剛剛有一個熱點數(shù)據(jù)到了過期時間,被我刪掉了萍悴,不巧的是隨后就有對這個數(shù)據(jù)的大量查詢請求來了头遭,我這里已經(jīng)刪了,所以請求都發(fā)到你那里來了”

“你這干的叫啥事癣诱,下次注意點啊”计维,MySQL大哥一臉不高興的離開了。

這一件小事我也沒怎么放在心上撕予,隨后就拋之腦后了鲫惶,卻沒曾想幾天之后竟捅了更大的簍子。

那一天实抡,又出現(xiàn)了大量的網(wǎng)絡(luò)請求發(fā)到了MySQL那邊欠母,比上一次的規(guī)模大得多,MySQL大哥一會兒功夫就給干趴下了好幾次吆寨!

等了好半天這一波流量才算過去赏淌,MySQL才緩過神來。

“老弟啄清,這一次又是什么原因六水?”,MySQL大哥累的沒了力氣辣卒。

“這一次比上一次更不巧掷贾,這一次是一大批數(shù)據(jù)幾乎同時過了有效期,然后又發(fā)生了很多對這些數(shù)據(jù)的請求荣茫,所以比起上一次這規(guī)模更大了”

image

MySQL大哥聽了眉頭一皺想帅,“那你倒是想個辦法啊,三天兩頭折磨我啡莉,這誰頂?shù)米“博脑。?/strong>”

“其實我也很無奈,這個時間也不是我設(shè)置的票罐,要不我去找應(yīng)用程序說說,讓他把緩存過期時間設(shè)置的均勻一些泞边?至少別讓大量數(shù)據(jù)集體失效”

“走该押,咱倆一起去”

后來,我倆去找應(yīng)用程序商量了阵谚,不僅把鍵值的過期時間隨機(jī)了一下蚕礼,還設(shè)置了熱點數(shù)據(jù)永不過期烟具,這個問題緩解了不少。哦對了奠蹬,我們還把這兩次發(fā)生的問題分別取了個名字:緩存擊穿緩存雪崩朝聋。

我們終于又過上了舒適的日子···

彩蛋

那天,我正在努力工作中囤躁,不小心出了錯冀痕,整個進(jìn)程都崩潰了。
當(dāng)我再次啟動后狸演,之前緩存的數(shù)據(jù)全都沒了言蛇,暴風(fēng)雨似的請求再一次全都懟到了MySQL大哥那里。
唉宵距,要是我能夠記住崩潰前緩存的內(nèi)容就好了···

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末腊尚,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子满哪,更是在濱河造成了極大的恐慌婿斥,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,123評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件哨鸭,死亡現(xiàn)場離奇詭異民宿,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)兔跌,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評論 2 384
  • 文/潘曉璐 我一進(jìn)店門勘高,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人坟桅,你說我怎么就攤上這事华望。” “怎么了仅乓?”我有些...
    開封第一講書人閱讀 156,723評論 0 345
  • 文/不壞的土叔 我叫張陵赖舟,是天一觀的道長。 經(jīng)常有香客問我夸楣,道長宾抓,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,357評論 1 283
  • 正文 為了忘掉前任豫喧,我火速辦了婚禮石洗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘紧显。我一直安慰自己讲衫,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 65,412評論 5 384
  • 文/花漫 我一把揭開白布孵班。 她就那樣靜靜地躺著涉兽,像睡著了一般招驴。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上枷畏,一...
    開封第一講書人閱讀 49,760評論 1 289
  • 那天别厘,我揣著相機(jī)與錄音,去河邊找鬼拥诡。 笑死触趴,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的袋倔。 我是一名探鬼主播雕蔽,決...
    沈念sama閱讀 38,904評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼宾娜!你這毒婦竟也來了批狐?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,672評論 0 266
  • 序言:老撾萬榮一對情侶失蹤前塔,失蹤者是張志新(化名)和其女友劉穎嚣艇,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體华弓,經(jīng)...
    沈念sama閱讀 44,118評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡食零,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,456評論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了寂屏。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片贰谣。...
    茶點故事閱讀 38,599評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖迁霎,靈堂內(nèi)的尸體忽然破棺而出吱抚,到底是詐尸還是另有隱情,我是刑警寧澤考廉,帶...
    沈念sama閱讀 34,264評論 4 328
  • 正文 年R本政府宣布秘豹,位于F島的核電站,受9級特大地震影響昌粤,放射性物質(zhì)發(fā)生泄漏既绕。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,857評論 3 312
  • 文/蒙蒙 一涮坐、第九天 我趴在偏房一處隱蔽的房頂上張望凄贩。 院中可真熱鬧,春花似錦袱讹、人聲如沸怎炊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽评肆。三九已至,卻和暖如春非区,著一層夾襖步出監(jiān)牢的瞬間瓜挽,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評論 1 264
  • 我被黑心中介騙來泰國打工征绸, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留久橙,地道東北人。 一個月前我還...
    沈念sama閱讀 46,286評論 2 360
  • 正文 我出身青樓管怠,卻偏偏與公主長得像淆衷,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子渤弛,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,465評論 2 348

推薦閱讀更多精彩內(nèi)容