作者:姚登晏
絕大部分寫業(yè)務(wù)的程序員,在實際開發(fā)中使用 Redis 的時候狼忱,只會 Set Value 和 Get Value 兩個操作膨疏,對 Redis 整體缺乏一個認知盗温。這里對 Redis 常見問題做一個總結(jié),解決大家的知識盲點成肘。
1卖局、為什么使用 Redis
在項目中使用 Redis,主要考慮兩個角度:性能和并發(fā)双霍。如果只是為了分布式鎖這些其他功能砚偶,還有其他中間件 Zookpeer 等代替,并非一定要使用 Redis洒闸。
性能:
如下圖所示染坯,我們在碰到需要執(zhí)行耗時特別久,且結(jié)果不頻繁變動的 SQL丘逸,就特別適合將運行結(jié)果放入緩存单鹿。這樣,后面的請求就去緩存中讀取深纲,使得請求能夠迅速響應(yīng)仲锄。
特別是在秒殺系統(tǒng),在同一時間湃鹊,幾乎所有人都在點儒喊,都在下單…..執(zhí)行的是同一操作———向數(shù)據(jù)庫查數(shù)據(jù)。
根據(jù)交互效果的不同币呵,響應(yīng)時間沒有固定標準怀愧。在理想狀態(tài)下,我們的頁面跳轉(zhuǎn)需要在瞬間解決余赢,對于頁內(nèi)操作則需要在剎那間解決芯义。
并發(fā):
如下圖所示,在大并發(fā)的情況下妻柒,所有的請求直接訪問數(shù)據(jù)庫扛拨,數(shù)據(jù)庫會出現(xiàn)連接異常。這個時候蛤奢,就需要使用 Redis 做一個緩沖操作鬼癣,讓請求先訪問到 Redis,而不是直接訪問數(shù)據(jù)庫啤贩。
使用 Redis 的常見問題
緩存和數(shù)據(jù)庫雙寫一致性問題
緩存雪崩問題
緩存擊穿問題
緩存的并發(fā)競爭問題
2待秃、單線程的 Redis 為什么這么快
這個問題是對 Redis 內(nèi)部機制的一個考察。很多人都不知道 Redis 是單線程工作模型痹屹。
原因主要是以下三點:
純內(nèi)存操作
單線程操作章郁,避免了頻繁的上下文切換
采用了非阻塞 I/O 多路復(fù)用機制
仔細說一說 I/O 多路復(fù)用機制,打一個比方:小名在 A 城開了一家快餐店店,負責同城快餐服務(wù)暖庄。小明因為資金限制聊替,雇傭了一批配送員,然后小曲發(fā)現(xiàn)資金不夠了培廓,只夠買一輛車送快遞惹悄。
經(jīng)營方式一
客戶每下一份訂單,小明就讓一個配送員盯著肩钠,然后讓人開車去送泣港。慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題:
時間都花在了搶車上了,大部分配送員都處在閑置狀態(tài)价匠,搶到車才能去送当纱。
隨著下單的增多,配送員也越來越多踩窖,小明發(fā)現(xiàn)快遞店里越來越擠坡氯,沒辦法雇傭新的配送員了。
配送員之間的協(xié)調(diào)很花時間洋腮。
綜合上述缺點箫柳,小明痛定思痛,提出了經(jīng)營方式二徐矩。
經(jīng)營方式二
小明只雇傭一個配送員滞时。當客戶下單叁幢,小明按送達地點標注好滤灯,依次放在一個地方。最后曼玩,讓配送員依次開著車去送鳞骤,送好了就回來拿下一個。上述兩種經(jīng)營方式對比黍判,很明顯第二種效率更高豫尽。
在上述比喻中:
每個配送員→每個線程
每個訂單→每個 Socket(I/O 流)
訂單的送達地點→Socket 的不同狀態(tài)
客戶送餐請求→來自客戶端的請求
明曲的經(jīng)營方式→服務(wù)端運行的代碼
一輛車→CPU 的核數(shù)
于是有了如下結(jié)論:
經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型,每個 I/O 流(訂單)都有一個新的線程(配送員)管理顷帖。
經(jīng)營方式二就是 I/O 多路復(fù)用美旧。只有單個線程(一個配送員),通過跟蹤每個 I/O 流的狀態(tài)(每個配送員的送達地點)贬墩,來管理多個 I/O 流榴嗅。
下面類比到真實的 Redis 線程模型,如圖所示:
Redis-client 在操作的時候陶舞,會產(chǎn)生具有不同事件類型的 Socket嗽测。在服務(wù)端,有一段 I/O 多路復(fù)用程序肿孵,將其置入隊列之中唠粥。然后疏魏,文件事件分派器,依次去隊列中取晤愧,轉(zhuǎn)發(fā)到不同的事件處理器中大莫。
3、Redis 的數(shù)據(jù)類型及使用場景
一個合格的程序員官份,這五種類型都會用到葵硕。
String
最常規(guī)的 set/get 操作,Value 可以是 String 也可以是數(shù)字贯吓。一般做一些復(fù)雜的計數(shù)功能的緩存懈凹。
Hash
這里 Value 存放的是結(jié)構(gòu)化的對象,比較方便的就是操作其中的某個字段悄谐。我在做單點登錄的時候介评,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲用戶信息,以 CookieId 作為 Key爬舰,設(shè)置 30 分鐘為緩存過期時間们陆,能很好的模擬出類似 Session 的效果。
List
使用 List 的數(shù)據(jù)結(jié)構(gòu)情屹,可以做簡單的消息隊列的功能坪仇。另外,可以利用 lrange 命令垃你,做基于 Redis 的分頁功能椅文,性能極佳,用戶體驗好惜颇。
Set
因為 Set 堆放的是一堆不重復(fù)值的集合皆刺。所以可以做全局去重的功能。我們的系統(tǒng)一般都是集群部署凌摄,使用 JVM 自帶的 Set 比較麻煩羡蛾。另外,就是利用交集锨亏、并集痴怨、差集等操作,可以計算共同喜好器予,全部的喜好浪藻,自己獨有的喜好等功能。
Sorted Set
Sorted Set 多了一個權(quán)重參數(shù) Score劣摇,集合中的元素能夠按 Score 進行排列珠移。可以做排行榜應(yīng)用,取 TOP N 操作钧惧。Sorted Set 可以用來做延時任務(wù)暇韧。
4、Redis 的過期策略和內(nèi)存淘汰機制
Redis 是否用到家浓瞪,從這就能看出來懈玻。比如你 Redis 只能存 5G 數(shù)據(jù),可是你寫了 10G乾颁,那會刪 5G 的數(shù)據(jù)涂乌。怎么刪的,這個問題思考過么英岭?
正解:Redis 采用的是定期刪除+惰性刪除策略湾盒。
為什么不用定時刪除策略
定時刪除,用一個定時器來負責監(jiān)視 Key诅妹,過期則自動刪除罚勾。雖然內(nèi)存及時釋放,但是十分消耗 CPU 資源吭狡。在大并發(fā)請求下尖殃,CPU 要將時間應(yīng)用在處理請求,而不是刪除 Key划煮,因此沒有采用這一策略送丰。
定期刪除+惰性刪除如何工作
定期刪除,Redis 默認每個 100ms 檢查弛秋,有過期 Key 則刪除器躏。需要說明的是,Redis 不是每個 100ms 將所有的 Key 檢查一次铐懊,而是隨機抽取進行檢查邀桑。如果只采用定期刪除策略,會導(dǎo)致很多 Key 到時間沒有刪除科乎。于是,惰性刪除派上用場贼急。
采用定期刪除+惰性刪除就沒其他問題了么
不是的茅茂,如果定期刪除沒刪除掉 Key。并且你也沒及時去請求 Key太抓,也就是說惰性刪除也沒生效空闲。這樣,Redis 的內(nèi)存會越來越高走敌。那么就應(yīng)該采用內(nèi)存淘汰機制碴倾。
在 redis.conf 中有一行配置:
# maxmemory-policy volatile-lru
該配置就是配內(nèi)存淘汰策略的:
noeviction:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,新寫入操作會報錯。
allkeys-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時跌榔,在鍵空間中异雁,移除最近最少使用的 Key。(推薦使用僧须,目前項目在用這種)(最近最久使用算法)
allkeys-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時纲刀,在鍵空間中,隨機移除某個 Key担平。(應(yīng)該也沒人用吧示绊,你不刪最少使用 Key,去隨機刪)
volatile-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時暂论,在設(shè)置了過期時間的鍵空間中面褐,移除最近最少使用的 Key。這種情況一般是把 Redis 既當緩存取胎,又做持久化存儲的時候才用盆耽。(不推薦)
volatile-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設(shè)置了過期時間的鍵空間中扼菠,隨機移除某個 Key摄杂。(依然不推薦)
volatile-ttl:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設(shè)置了過期時間的鍵空間中循榆,有更早過期時間的 Key 優(yōu)先移除析恢。(不推薦)
5拧晕、Redis 和數(shù)據(jù)庫雙寫一致性問題
一致性問題還可以再分為最終一致性和強一致性士八。數(shù)據(jù)庫和緩存雙寫县耽,就必然會存在不一致的問題埂陆。前提是如果對數(shù)據(jù)有強一致性要求丐膝,不能放緩存捞魁。我們所做的一切澎怒,只能保證最終一致性现诀。
另外泼各,我們所做的方案從根本上來說鞍时,只能降低不一致發(fā)生的概率。因此扣蜻,有強一致性要求的數(shù)據(jù)逆巍,不能放緩存。首先莽使,采取正確更新策略锐极,先更新數(shù)據(jù)庫,再刪緩存芳肌。其次灵再,因為可能存在刪除緩存失敗的問題肋层,提供一個補償措施即可,例如利用消息隊列翎迁。
6栋猖、如何應(yīng)對緩存穿透和緩存雪崩問題
這兩個問題,一般中小型傳統(tǒng)軟件企業(yè)很難碰到鸳兽。如果有大并發(fā)的項目掂铐,流量有幾百萬左右,這兩個問題一定要深刻考慮揍异。緩存穿透全陨,即黑客故意去請求緩存中不存在的數(shù)據(jù),導(dǎo)致所有的請求都懟到數(shù)據(jù)庫上衷掷,從而數(shù)據(jù)庫連接異常辱姨。
緩存穿透解決方案:
利用互斥鎖,緩存失效的時候戚嗅,先去獲得鎖雨涛,得到鎖了,再去請求數(shù)據(jù)庫懦胞。沒得到鎖替久,則休眠一段時間重試。
采用異步更新策略躏尉,無論 Key 是否取到值蚯根,都直接返回。Value 值中維護一個緩存失效時間胀糜,緩存如果過期颅拦,異步起一個線程去讀數(shù)據(jù)庫,更新緩存教藻。需要做緩存預(yù)熱(項目啟動前距帅,先加載緩存)操作。
提供一個能迅速判斷請求是否有效的攔截機制括堤,比如碌秸,利用布隆過濾器,內(nèi)部維護一系列合法有效的 Key痊臭。迅速判斷出哮肚,請求所攜帶的 Key 是否合法有效。如果不合法广匙,則直接返回。
緩存雪崩恼策,即緩存同一時間大面積的失效鸦致,這個時候又來了一波請求潮剪,結(jié)果請求都懟到數(shù)據(jù)庫上,從而導(dǎo)致數(shù)據(jù)庫連接異常分唾。
緩存雪崩解決方案:
給緩存的失效時間抗碰,加上一個隨機值,避免集體失效绽乔。
使用互斥鎖弧蝇,但是該方案吞吐量明顯下降了。
雙緩存折砸。我們有兩個緩存看疗,緩存 A 和緩存 B。緩存 A 的失效時間為 20 分鐘睦授,緩存 B 不設(shè)失效時間两芳。自己做緩存預(yù)熱操作。
然后細分以下幾個小點:從緩存 A 讀數(shù)據(jù)庫去枷,有則直接返回怖辆;A 沒有數(shù)據(jù),直接從 B 讀數(shù)據(jù)删顶,直接返回竖螃,并且異步啟動一個更新線程,更新線程同時更新緩存 A 和緩存 B逗余。
7特咆、如何解決 Redis 的并發(fā)競爭 Key 問題
這個問題大致就是,同時有多個子系統(tǒng)去 Set 一個 Key猎荠。這個時候要注意什么呢坚弱?大家基本都是推薦用 Redis 事務(wù)機制。
但是我并不推薦使用 Redis 的事務(wù)機制关摇。因為我們的生產(chǎn)環(huán)境荒叶,基本都是 Redis 集群環(huán)境,做了數(shù)據(jù)分片操作输虱。你一個事務(wù)中有涉及到多個 Key 操作的時候些楣,這多個 Key 不一定都存儲在同一個 redis-server 上。因此宪睹,Redis 的事務(wù)機制愁茁,十分雞肋。
如果對這個 Key 操作亭病,不要求順序
這種情況下鹅很,準備一個分布式鎖,大家去搶鎖罪帖,搶到鎖就做 set 操作即可促煮,比較簡單邮屁。
如果對這個 Key 操作,要求順序
假設(shè)有一個 key1菠齿,系統(tǒng) A 需要將 key1 設(shè)置為 valueA佑吝,系統(tǒng) B 需要將 key1 設(shè)置為 valueB,系統(tǒng) C 需要將 key1 設(shè)置為 valueC绳匀。
期望按照 key1 的 value 值按照 valueA > valueB > valueC 的順序變化芋忿。這種時候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時候,需要保存一個時間戳疾棵。
假設(shè)時間戳如下:
系統(tǒng) A key 1 {valueA 3:00}
系統(tǒng) B key 1 {valueB 3:05}
系統(tǒng) C key 1 {valueC 3:10}
那么戈钢,假設(shè)系統(tǒng) B 先搶到鎖,將 key1 設(shè)置為{valueB 3:05}陋桂。接下來系統(tǒng) A 搶到鎖逆趣,發(fā)現(xiàn)自己的 valueA 的時間戳早于緩存中的時間戳,那就不做 set 操作了嗜历,以此類推宣渗。其他方法,比如利用隊列梨州,將 set 方法變成串行訪問也可以痕囱。
8、總結(jié)
Redis 在國內(nèi)各大公司都能看到其身影暴匠,比如我們熟悉的新浪鞍恢,阿里,騰訊每窖,百度帮掉,美團,小米等窒典。學(xué)習(xí) Redis蟆炊,這幾方面尤其重要:Redis 客戶端、Redis 高級功能瀑志、Redis 持久化和開發(fā)運維常用問題探討涩搓、Redis 復(fù)制的原理和優(yōu)化策略、Redis 分布式解決方案等劈猪。