Redis 總結(jié) - 看一篇就好了

考慮到絕大部分寫業(yè)務的程序員瞻想,在實際開發(fā)中使用 Redis 的時候,只會 Set Value 和 Get Value 兩個操作滴肿,對 Redis 整體缺乏一個認知佃迄。

所以我斗膽以 Redis 為題材呵俏,對?Redis?常見問題做一個總結(jié),希望能夠彌補大家的知識盲點吼肥。

本文圍繞以下幾點進行闡述:

為什么使用Redis

使用Redis?有什么缺點

單線程的Redis?為什么這么快

Redis?的數(shù)據(jù)類型麻车,以及每種數(shù)據(jù)類型的使用場景

Redis?的過期策略以及內(nèi)存淘汰機制

Redis?和數(shù)據(jù)庫雙寫一致性問題

如何應對緩存穿透和緩存雪崩問題

如何解決Redis?的并發(fā)競爭 Key 問題

為什么使用?Redis

????????我覺得在項目中使用 Redis动猬,主要是從兩個角度去考慮:性能和并發(fā)。

當然争占,Redis?還具備可以做分布式鎖等其他功能序目,但是如果只是為了分布式鎖這些其他功能猿涨,完全還有其他中間件,如 ZooKpeer 等代替澡绩,并不是非要使用Redis俺附。因此,這個問題主要從性能和并發(fā)兩個角度去答步鉴。

性能

如下圖所示氛琢,我們在碰到需要執(zhí)行耗時特別久,且結(jié)果不頻繁變動的 SQL阳似,就特別適合將運行結(jié)果放入緩存撮奏。這樣,后面的請求就去緩存中讀取藐石,使得請求能夠迅速響應定拟。

題外話:忽然想聊一下這個迅速響應的標準青自。根據(jù)交互效果的不同驱证,這個響應時間沒有固定標準抹锄。

不過曾經(jīng)有人這么告訴我:"在理想狀態(tài)下,我們的頁面跳轉(zhuǎn)需要在瞬間解決获高,對于頁內(nèi)操作則需要在剎那間解決吻育。

另外念秧,超過一彈指的耗時操作要有進度提示,并且可以隨時中止或取消布疼,這樣才能給用戶最好的體驗摊趾。"

那么瞬間、剎那游两、一彈指具體是多少時間呢砾层?

根據(jù)《摩訶僧祗律》記載:

一剎那者為一念,二十念為一瞬贱案,二十瞬為一彈指,二十彈指為一羅預,二十羅預為一須臾铸董,一日一夜有三十須臾祟印。

那么,經(jīng)過周密的計算粟害,一瞬間為 0.36 秒蕴忆、一剎那有 0.018 秒、一彈指長達 7.2 秒悲幅。

并發(fā)

如下圖所示套鹅,在大并發(fā)的情況下,所有的請求直接訪問數(shù)據(jù)庫汰具,數(shù)據(jù)庫會出現(xiàn)連接異常卓鹿。

這個時候,就需要使用Redis?做一個緩沖操作留荔,讓請求先訪問到Redis吟孙,而不是直接訪問數(shù)據(jù)庫。

使用 Redis 有什么缺點

????????大家用 Redis 這么久聚蝶,這個問題是必須要了解的杰妓,基本上使用 Redis 都會碰到一些問題,常見的也就幾個碘勉。

回答主要是四個問題:

緩存和數(shù)據(jù)庫雙寫一致性問題

緩存雪崩問題

緩存擊穿問題

緩存的并發(fā)競爭問題

這四個問題巷挥,我個人覺得在項目中是常遇見的,具體解決方案验靡,后文給出倍宾。

單線程的 Redis 為什么這么快

????????這個問題是對Redis內(nèi)部機制的一個考察。根據(jù)我的面試經(jīng)驗胜嗓,很多人都不知道Redis是單線程工作模型高职。所以,這個問題還是應該要復習一下的辞州。

回答主要是以下三點:

純內(nèi)存操作

單線程操作初厚,避免了頻繁的上下文切換

采用了非阻塞 I/O 多路復用機制

題外話:我們現(xiàn)在要仔細的說一說 I/O 多路復用機制,因為這個說法實在是太通俗了孙技,通俗到一般人都不懂是什么意思产禾。

打一個比方:小曲在 S 城開了一家快遞店,負責同城快送服務牵啦。小曲因為資金限制亚情,雇傭了一批快遞員,然后小曲發(fā)現(xiàn)資金不夠了哈雏,只夠買一輛車送快遞楞件。

經(jīng)營方式一

客戶每送來一份快遞衫生,小曲就讓一個快遞員盯著,然后快遞員開車去送快遞土浸。

慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題:

幾十個快遞員基本上時間都花在了搶車上了罪针,大部分快遞員都處在閑置狀態(tài),誰搶到了車黄伊,誰就能去送快遞泪酱。

隨著快遞的增多,快遞員也越來越多还最,小曲發(fā)現(xiàn)快遞店里越來越擠墓阀,沒辦法雇傭新的快遞員了。

快遞員之間的協(xié)調(diào)很花時間拓轻。

綜合上述缺點斯撮,小曲痛定思痛,提出了下面的經(jīng)營方式扶叉。

經(jīng)營方式二

小曲只雇傭一個快遞員勿锅。然后呢,客戶送來的快遞枣氧,小曲按送達地點標注好溢十,然后依次放在一個地方。

最后作瞄,那個快遞員依次的去取快遞,一次拿一個危纫,然后開著車去送快遞宗挥,送好了就回來拿下一個快遞。

上述兩種經(jīng)營方式對比种蝶,是不是明顯覺得第二種契耿,效率更高,更好呢螃征?

在上述比喻中:

每個快遞員→每個線程

每個快遞→每個 Socket(I/O 流)

快遞的送達地點→Socket 的不同狀態(tài)

客戶送快遞請求→來自客戶端的請求

小曲的經(jīng)營方式→服務端運行的代碼

一輛車→CPU 的核數(shù)

于是我們有如下結(jié)論:

經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型搪桂,每個 I/O 流(快遞)都有一個新的線程(快遞員)管理。

經(jīng)營方式二就是 I/O 多路復用盯滚。只有單個線程(一個快遞員)踢械,通過跟蹤每個 I/O 流的狀態(tài)(每個快遞的送達地點),來管理多個 I/O 流魄藕。

下面類比到真實的Redis?線程模型内列,如圖所示:

簡單來說,就是我們的 redis-client 在操作的時候背率,會產(chǎn)生具有不同事件類型的 Socket话瞧。

在服務端嫩与,有一段I/O?多路復用程序,將其置入隊列之中交排。然后划滋,文件事件分派器,依次去隊列中取埃篓,轉(zhuǎn)發(fā)到不同的事件處理器中处坪。

需要說明的是,這個 I/O 多路復用機制都许,Redis?還提供了 select稻薇、epoll、evport胶征、kqueue 等多路復用函數(shù)庫塞椎,大家可以自行去了解。

Redis 的數(shù)據(jù)類型睛低,以及每種數(shù)據(jù)類型的使用場景

????????是不是覺得這個問題很基礎案狠?我也這么覺得。然而根據(jù)面試經(jīng)驗發(fā)現(xiàn)钱雷,至少百分之八十的人答不上這個問題骂铁。

建議,在項目中用到后罩抗,再類比記憶拉庵,體會更深,不要硬記套蒂〕В基本上,一個合格的程序員操刀,五種類型都會用到烁挟。

String

這個沒啥好說的,最常規(guī)的 set/get 操作骨坑,Value 可以是 String 也可以是數(shù)字撼嗓。一般做一些復雜的計數(shù)功能的緩存。

Hash

這里 Value 存放的是結(jié)構(gòu)化的對象欢唾,比較方便的就是操作其中的某個字段且警。

我在做單點登錄的時候,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲用戶信息礁遣,以 CookieId 作為 Key振湾,設置 30 分鐘為緩存過期時間,能很好的模擬出類似 Session 的效果亡脸。

List

使用 List 的數(shù)據(jù)結(jié)構(gòu)押搪,可以做簡單的消息隊列的功能树酪。另外還有一個就是,可以利用 lrange 命令大州,做基于 Redis 的分頁功能续语,性能極佳,用戶體驗好厦画。

Set

因為 Set 堆放的是一堆不重復值的集合疮茄。所以可以做全局去重的功能。為什么不用 JVM 自帶的 Set 進行去重根暑?

因為我們的系統(tǒng)一般都是集群部署力试,使用 JVM 自帶的 Set,比較麻煩排嫌,難道為了一個做一個全局去重畸裳,再起一個公共服務,太麻煩了淳地。

另外怖糊,就是利用交集、并集颇象、差集等操作伍伤,可以計算共同喜好,全部的喜好遣钳,自己獨有的喜好等功能扰魂。

Sorted Set

Sorted Set多了一個權重參數(shù) Score,集合中的元素能夠按 Score 進行排列蕴茴。

可以做排行榜應用劝评,取 TOP N 操作。Sorted Set 可以用來做延時任務荐开。最后一個應用就是可以做范圍查找付翁。

Redis?的過期策略以及內(nèi)存淘汰機制

????????這個問題相當重要简肴,到底 Redis 有沒用到家晃听,這個問題就可以看出來。

比如你Redis?只能存 5G 數(shù)據(jù)砰识,可是你寫了 10G能扒,那會刪 5G 的數(shù)據(jù)。怎么刪的辫狼,這個問題思考過么初斑?

還有,你的數(shù)據(jù)已經(jīng)設置了過期時間膨处,但是時間到了见秤,內(nèi)存占用率還是比較高砂竖,有思考過原因么?

回答:Redis?采用的是定期刪除+惰性刪除策略。

為什么不用定時刪除策略

定時刪除鹃答,用一個定時器來負責監(jiān)視 Key乎澄,過期則自動刪除。雖然內(nèi)存及時釋放测摔,但是十分消耗 CPU 資源置济。

在大并發(fā)請求下,CPU 要將時間應用在處理請求锋八,而不是刪除 Key浙于,因此沒有采用這一策略。

定期刪除+惰性刪除是如何工作

定期刪除挟纱,Redis?默認每個 100ms 檢查羞酗,是否有過期的 Key,有過期 Key 則刪除樊销。

需要說明的是整慎,Redis?不是每個 100ms 將所有的 Key 檢查一次,而是隨機抽取進行檢查(如果每隔 100ms围苫,全部 Key 進行檢查裤园,Redis?豈不是卡死)。

因此剂府,如果只采用定期刪除策略拧揽,會導致很多 Key 到時間沒有刪除。于是腺占,惰性刪除派上用場淤袜。

也就是說在你獲取某個 Key 的時候,Redis?會檢查一下衰伯,這個 Key 如果設置了過期時間铡羡,那么是否過期了?如果過期了此時就會刪除意鲸。

采用定期刪除+惰性刪除就沒其他問題了么?

不是的烦周,如果定期刪除沒刪除 Key。然后你也沒即時去請求 Key怎顾,也就是說惰性刪除也沒生效读慎。這樣,Redis的內(nèi)存會越來越高槐雾。那么就應該采用內(nèi)存淘汰機制夭委。

在 redis.conf 中有一行配置:

# maxmemory-policy volatile-lru

該配置就是配內(nèi)存淘汰策略的(什么,你沒配過募强?好好反省一下自己):

noeviction:當內(nèi)存不足以容納新寫入數(shù)據(jù)時株灸,新寫入操作會報錯崇摄。應該沒人用吧。

allkeys-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時慌烧,在鍵空間中配猫,移除最近最少使用的 Key。推薦使用杏死,目前項目在用這種泵肄。

allkeys-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在鍵空間中淑翼,隨機移除某個 Key腐巢。應該也沒人用吧,你不刪最少使用 Key玄括,去隨機刪冯丙。

volatile-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設置了過期時間的鍵空間中遭京,移除最近最少使用的 Key胃惜。這種情況一般是把Redis?既當緩存,又做持久化存儲的時候才用哪雕。不推薦船殉。

volatile-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設置了過期時間的鍵空間中斯嚎,隨機移除某個 Key利虫。依然不推薦。

volatile-ttl:當內(nèi)存不足以容納新寫入數(shù)據(jù)時堡僻,在設置了過期時間的鍵空間中糠惫,有更早過期時間的 Key 優(yōu)先移除。不推薦钉疫。

PS:如果沒有設置 expire 的 Key硼讽,不滿足先決條件(prerequisites);那么 volatile-lru牲阁,volatile-random 和 volatile-ttl 策略的行為固阁,和 noeviction(不刪除) 基本上一致。

Redis?和數(shù)據(jù)庫雙寫一致性問題

????????一致性問題是分布式常見問題咨油,還可以再分為最終一致性和強一致性您炉。數(shù)據(jù)庫和緩存雙寫柒爵,就必然會存在不一致的問題役电。

答這個問題,先明白一個前提棉胀。就是如果對數(shù)據(jù)有強一致性要求法瑟,不能放緩存冀膝。我們所做的一切,只能保證最終一致性霎挟。

另外窝剖,我們所做的方案從根本上來說,只能說降低不一致發(fā)生的概率酥夭,無法完全避免赐纱。因此,有強一致性要求的數(shù)據(jù)熬北,不能放緩存疙描。

回答:首先,采取正確更新策略讶隐,先更新數(shù)據(jù)庫起胰,再刪緩存。其次巫延,因為可能存在刪除緩存失敗的問題效五,提供一個補償措施即可,例如利用消息隊列炉峰。

如何應對緩存穿透和緩存雪崩問題

????????這兩個問題畏妖,說句實在話,一般中小型傳統(tǒng)軟件企業(yè)疼阔,很難碰到這個問題瓜客。如果有大并發(fā)的項目,流量有幾百萬左右竿开。這兩個問題一定要深刻考慮谱仪。

緩存穿透,即黑客故意去請求緩存中不存在的數(shù)據(jù)否彩,導致所有的請求都懟到數(shù)據(jù)庫上疯攒,從而數(shù)據(jù)庫連接異常。

緩存穿透解決方案:

利用互斥鎖列荔,緩存失效的時候敬尺,先去獲得鎖,得到鎖了贴浙,再去請求數(shù)據(jù)庫砂吞。沒得到鎖,則休眠一段時間重試崎溃。

采用異步更新策略,無論 Key 是否取到值,都直接返回概而。Value 值中維護一個緩存失效時間呼巷,緩存如果過期王悍,異步起一個線程去讀數(shù)據(jù)庫,更新緩存渠脉。需要做緩存預熱(項目啟動前芋膘,先加載緩存)操作霸饲。

提供一個能迅速判斷請求是否有效的攔截機制为朋,比如,利用布隆過濾器厚脉,內(nèi)部維護一系列合法有效的 Key习寸。迅速判斷出,請求所攜帶的 Key 是否合法有效傻工。如果不合法霞溪,則直接返回。

緩存雪崩中捆,即緩存同一時間大面積的失效鸯匹,這個時候又來了一波請求,結(jié)果請求都懟到數(shù)據(jù)庫上泄伪,從而導致數(shù)據(jù)庫連接異常殴蓬。

緩存雪崩解決方案:

給緩存的失效時間,加上一個隨機值蟋滴,避免集體失效染厅。

使用互斥鎖,但是該方案吞吐量明顯下降了津函。

雙緩存肖粮。我們有兩個緩存,緩存 A 和緩存 B尔苦。緩存 A 的失效時間為 20 分鐘涩馆,緩存 B 不設失效時間行施。自己做緩存預熱操作。

然后細分以下幾個小點:從緩存 A 讀數(shù)據(jù)庫凌净,有則直接返回;A 沒有數(shù)據(jù)屋讶,直接從 B 讀數(shù)據(jù)冰寻,直接返回,并且異步啟動一個更新線程皿渗,更新線程同時更新緩存 A 和緩存 B斩芭。

如何解決?Redis?的并發(fā)競爭 Key 問題

????????這個問題大致就是,同時有多個子系統(tǒng)去 Set 一個 Key乐疆。這個時候大家思考過要注意什么呢划乖?

需要說明一下,我提前百度了一下挤土,發(fā)現(xiàn)答案基本都是推薦用Redis?事務機制琴庵。

我并不推薦使用Redis?的事務機制。因為我們的生產(chǎn)環(huán)境仰美,基本都是 Redis 集群環(huán)境迷殿,做了數(shù)據(jù)分片操作。

你一個事務中有涉及到多個 Key 操作的時候咖杂,這多個 Key 不一定都存儲在同一個 redis-server 上庆寺。因此,Redis?的事務機制诉字,十分雞肋懦尝。

如果對這個 Key 操作,不要求順序

這種情況下壤圃,準備一個分布式鎖陵霉,大家去搶鎖,搶到鎖就做 set 操作即可伍绳,比較簡單撩匕。

如果對這個 Key 操作,要求順序

假設有一個 key1墨叛,系統(tǒng) A 需要將 key1 設置為 valueA止毕,系統(tǒng) B 需要將 key1 設置為 valueB,系統(tǒng) C 需要將 key1 設置為 valueC漠趁。

期望按照 key1 的 value 值按照 valueA > valueB>?valueC 的順序變化扁凛。這種時候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時候,需要保存一個時間戳闯传。

假設時間戳如下:

系統(tǒng)A key 1 {valueA ?3:00}

系統(tǒng)B key 1 {valueB ?3:05}

系統(tǒng)C key 1 {valueC ?3:10}

那么谨朝,假設這會系統(tǒng) B 先搶到鎖,將 key1 設置為{valueB 3:05}。接下來系統(tǒng) A 搶到鎖字币,發(fā)現(xiàn)自己的 valueA 的時間戳早于緩存中的時間戳则披,那就不做 set 操作了,以此類推洗出。

其他方法士复,比如利用隊列,將 set 方法變成串行訪問也可以翩活≮搴椋總之,靈活變通菠镇。


本文摘自:https://studygolang.com/articles/15064

?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末冗荸,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子利耍,更是在濱河造成了極大的恐慌蚌本,老刑警劉巖,帶你破解...
    沈念sama閱讀 207,248評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件隘梨,死亡現(xiàn)場離奇詭異魂毁,居然都是意外死亡,警方通過查閱死者的電腦和手機出嘹,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評論 2 381
  • 文/潘曉璐 我一進店門席楚,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人税稼,你說我怎么就攤上這事烦秩。” “怎么了郎仆?”我有些...
    開封第一講書人閱讀 153,443評論 0 344
  • 文/不壞的土叔 我叫張陵只祠,是天一觀的道長。 經(jīng)常有香客問我扰肌,道長抛寝,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,475評論 1 279
  • 正文 為了忘掉前任曙旭,我火速辦了婚禮盗舰,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘桂躏。我一直安慰自己钻趋,他們只是感情好,可當我...
    茶點故事閱讀 64,458評論 5 374
  • 文/花漫 我一把揭開白布剂习。 她就那樣靜靜地躺著蛮位,像睡著了一般较沪。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上失仁,一...
    開封第一講書人閱讀 49,185評論 1 284
  • 那天尸曼,我揣著相機與錄音,去河邊找鬼萄焦。 笑死控轿,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的楷扬。 我是一名探鬼主播解幽,決...
    沈念sama閱讀 38,451評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼贴见,長吁一口氣:“原來是場噩夢啊……” “哼烘苹!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起片部,我...
    開封第一講書人閱讀 37,112評論 0 261
  • 序言:老撾萬榮一對情侶失蹤镣衡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后档悠,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體廊鸥,經(jīng)...
    沈念sama閱讀 43,609評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,083評論 2 325
  • 正文 我和宋清朗相戀三年辖所,在試婚紗的時候發(fā)現(xiàn)自己被綠了惰说。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,163評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡缘回,死狀恐怖吆视,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情酥宴,我是刑警寧澤啦吧,帶...
    沈念sama閱讀 33,803評論 4 323
  • 正文 年R本政府宣布,位于F島的核電站拙寡,受9級特大地震影響授滓,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜肆糕,卻給世界環(huán)境...
    茶點故事閱讀 39,357評論 3 307
  • 文/蒙蒙 一般堆、第九天 我趴在偏房一處隱蔽的房頂上張望逗爹。 院中可真熱鬧峦嗤,春花似錦、人聲如沸趾断。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,357評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽顾彰。三九已至,卻和暖如春胃碾,著一層夾襖步出監(jiān)牢的瞬間涨享,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,590評論 1 261
  • 我被黑心中介騙來泰國打工仆百, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留厕隧,地道東北人。 一個月前我還...
    沈念sama閱讀 45,636評論 2 355
  • 正文 我出身青樓俄周,卻偏偏與公主長得像吁讨,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子峦朗,可洞房花燭夜當晚...
    茶點故事閱讀 42,925評論 2 344

推薦閱讀更多精彩內(nèi)容