考慮到絕大部分寫業(yè)務的程序員瞻想,在實際開發(fā)中使用 Redis 的時候,只會 Set Value 和 Get Value 兩個操作滴肿,對 Redis 整體缺乏一個認知佃迄。
所以我斗膽以 Redis 為題材呵俏,對?Redis?常見問題做一個總結(jié),希望能夠彌補大家的知識盲點吼肥。
本文圍繞以下幾點進行闡述:
為什么使用Redis
使用Redis?有什么缺點
單線程的Redis?為什么這么快
Redis?的數(shù)據(jù)類型麻车,以及每種數(shù)據(jù)類型的使用場景
Redis?的過期策略以及內(nèi)存淘汰機制
Redis?和數(shù)據(jù)庫雙寫一致性問題
如何應對緩存穿透和緩存雪崩問題
如何解決Redis?的并發(fā)競爭 Key 問題
為什么使用?Redis
????????我覺得在項目中使用 Redis动猬,主要是從兩個角度去考慮:性能和并發(fā)。
當然争占,Redis?還具備可以做分布式鎖等其他功能序目,但是如果只是為了分布式鎖這些其他功能猿涨,完全還有其他中間件,如 ZooKpeer 等代替澡绩,并不是非要使用Redis俺附。因此,這個問題主要從性能和并發(fā)兩個角度去答步鉴。
性能
如下圖所示氛琢,我們在碰到需要執(zhí)行耗時特別久,且結(jié)果不頻繁變動的 SQL阳似,就特別適合將運行結(jié)果放入緩存撮奏。這樣,后面的請求就去緩存中讀取藐石,使得請求能夠迅速響應定拟。
題外話:忽然想聊一下這個迅速響應的標準青自。根據(jù)交互效果的不同驱证,這個響應時間沒有固定標準抹锄。
不過曾經(jīng)有人這么告訴我:"在理想狀態(tài)下,我們的頁面跳轉(zhuǎn)需要在瞬間解決获高,對于頁內(nèi)操作則需要在剎那間解決吻育。
另外念秧,超過一彈指的耗時操作要有進度提示,并且可以隨時中止或取消布疼,這樣才能給用戶最好的體驗摊趾。"
那么瞬間、剎那游两、一彈指具體是多少時間呢砾层?
根據(jù)《摩訶僧祗律》記載:
一剎那者為一念,二十念為一瞬贱案,二十瞬為一彈指,二十彈指為一羅預,二十羅預為一須臾铸董,一日一夜有三十須臾祟印。
那么,經(jīng)過周密的計算粟害,一瞬間為 0.36 秒蕴忆、一剎那有 0.018 秒、一彈指長達 7.2 秒悲幅。
并發(fā)
如下圖所示套鹅,在大并發(fā)的情況下,所有的請求直接訪問數(shù)據(jù)庫汰具,數(shù)據(jù)庫會出現(xiàn)連接異常卓鹿。
這個時候,就需要使用Redis?做一個緩沖操作留荔,讓請求先訪問到Redis吟孙,而不是直接訪問數(shù)據(jù)庫。
使用 Redis 有什么缺點
????????大家用 Redis 這么久聚蝶,這個問題是必須要了解的杰妓,基本上使用 Redis 都會碰到一些問題,常見的也就幾個碘勉。
回答主要是四個問題:
緩存和數(shù)據(jù)庫雙寫一致性問題
緩存雪崩問題
緩存擊穿問題
緩存的并發(fā)競爭問題
這四個問題巷挥,我個人覺得在項目中是常遇見的,具體解決方案验靡,后文給出倍宾。
單線程的 Redis 為什么這么快
????????這個問題是對Redis內(nèi)部機制的一個考察。根據(jù)我的面試經(jīng)驗胜嗓,很多人都不知道Redis是單線程工作模型高职。所以,這個問題還是應該要復習一下的辞州。
回答主要是以下三點:
純內(nèi)存操作
單線程操作初厚,避免了頻繁的上下文切換
采用了非阻塞 I/O 多路復用機制
題外話:我們現(xiàn)在要仔細的說一說 I/O 多路復用機制,因為這個說法實在是太通俗了孙技,通俗到一般人都不懂是什么意思产禾。
打一個比方:小曲在 S 城開了一家快遞店,負責同城快送服務牵啦。小曲因為資金限制亚情,雇傭了一批快遞員,然后小曲發(fā)現(xiàn)資金不夠了哈雏,只夠買一輛車送快遞楞件。
經(jīng)營方式一
客戶每送來一份快遞衫生,小曲就讓一個快遞員盯著,然后快遞員開車去送快遞土浸。
慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題:
幾十個快遞員基本上時間都花在了搶車上了罪针,大部分快遞員都處在閑置狀態(tài),誰搶到了車黄伊,誰就能去送快遞泪酱。
隨著快遞的增多,快遞員也越來越多还最,小曲發(fā)現(xiàn)快遞店里越來越擠墓阀,沒辦法雇傭新的快遞員了。
快遞員之間的協(xié)調(diào)很花時間拓轻。
綜合上述缺點斯撮,小曲痛定思痛,提出了下面的經(jīng)營方式扶叉。
經(jīng)營方式二
小曲只雇傭一個快遞員勿锅。然后呢,客戶送來的快遞枣氧,小曲按送達地點標注好溢十,然后依次放在一個地方。
最后作瞄,那個快遞員依次的去取快遞,一次拿一個危纫,然后開著車去送快遞宗挥,送好了就回來拿下一個快遞。
上述兩種經(jīng)營方式對比种蝶,是不是明顯覺得第二種契耿,效率更高,更好呢螃征?
在上述比喻中:
每個快遞員→每個線程
每個快遞→每個 Socket(I/O 流)
快遞的送達地點→Socket 的不同狀態(tài)
客戶送快遞請求→來自客戶端的請求
小曲的經(jīng)營方式→服務端運行的代碼
一輛車→CPU 的核數(shù)
于是我們有如下結(jié)論:
經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型搪桂,每個 I/O 流(快遞)都有一個新的線程(快遞員)管理。
經(jīng)營方式二就是 I/O 多路復用盯滚。只有單個線程(一個快遞員)踢械,通過跟蹤每個 I/O 流的狀態(tài)(每個快遞的送達地點),來管理多個 I/O 流魄藕。
下面類比到真實的Redis?線程模型内列,如圖所示:
簡單來說,就是我們的 redis-client 在操作的時候背率,會產(chǎn)生具有不同事件類型的 Socket话瞧。
在服務端嫩与,有一段I/O?多路復用程序,將其置入隊列之中交排。然后划滋,文件事件分派器,依次去隊列中取埃篓,轉(zhuǎn)發(fā)到不同的事件處理器中处坪。
需要說明的是,這個 I/O 多路復用機制都许,Redis?還提供了 select稻薇、epoll、evport胶征、kqueue 等多路復用函數(shù)庫塞椎,大家可以自行去了解。
Redis 的數(shù)據(jù)類型睛低,以及每種數(shù)據(jù)類型的使用場景
????????是不是覺得這個問題很基礎案狠?我也這么覺得。然而根據(jù)面試經(jīng)驗發(fā)現(xiàn)钱雷,至少百分之八十的人答不上這個問題骂铁。
建議,在項目中用到后罩抗,再類比記憶拉庵,體會更深,不要硬記套蒂〕В基本上,一個合格的程序員操刀,五種類型都會用到烁挟。
String
這個沒啥好說的,最常規(guī)的 set/get 操作骨坑,Value 可以是 String 也可以是數(shù)字撼嗓。一般做一些復雜的計數(shù)功能的緩存。
Hash
這里 Value 存放的是結(jié)構(gòu)化的對象欢唾,比較方便的就是操作其中的某個字段且警。
我在做單點登錄的時候,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲用戶信息礁遣,以 CookieId 作為 Key振湾,設置 30 分鐘為緩存過期時間,能很好的模擬出類似 Session 的效果亡脸。
List
使用 List 的數(shù)據(jù)結(jié)構(gòu)押搪,可以做簡單的消息隊列的功能树酪。另外還有一個就是,可以利用 lrange 命令大州,做基于 Redis 的分頁功能续语,性能極佳,用戶體驗好厦画。
Set
因為 Set 堆放的是一堆不重復值的集合疮茄。所以可以做全局去重的功能。為什么不用 JVM 自帶的 Set 進行去重根暑?
因為我們的系統(tǒng)一般都是集群部署力试,使用 JVM 自帶的 Set,比較麻煩排嫌,難道為了一個做一個全局去重畸裳,再起一個公共服務,太麻煩了淳地。
另外怖糊,就是利用交集、并集颇象、差集等操作伍伤,可以計算共同喜好,全部的喜好遣钳,自己獨有的喜好等功能扰魂。
Sorted Set
Sorted Set多了一個權重參數(shù) Score,集合中的元素能夠按 Score 進行排列蕴茴。
可以做排行榜應用劝评,取 TOP N 操作。Sorted Set 可以用來做延時任務荐开。最后一個應用就是可以做范圍查找付翁。
Redis?的過期策略以及內(nèi)存淘汰機制
????????這個問題相當重要简肴,到底 Redis 有沒用到家晃听,這個問題就可以看出來。
比如你Redis?只能存 5G 數(shù)據(jù)砰识,可是你寫了 10G能扒,那會刪 5G 的數(shù)據(jù)。怎么刪的辫狼,這個問題思考過么初斑?
還有,你的數(shù)據(jù)已經(jīng)設置了過期時間膨处,但是時間到了见秤,內(nèi)存占用率還是比較高砂竖,有思考過原因么?
回答:Redis?采用的是定期刪除+惰性刪除策略。
為什么不用定時刪除策略
定時刪除鹃答,用一個定時器來負責監(jiān)視 Key乎澄,過期則自動刪除。雖然內(nèi)存及時釋放测摔,但是十分消耗 CPU 資源置济。
在大并發(fā)請求下,CPU 要將時間應用在處理請求锋八,而不是刪除 Key浙于,因此沒有采用這一策略。
定期刪除+惰性刪除是如何工作
定期刪除挟纱,Redis?默認每個 100ms 檢查羞酗,是否有過期的 Key,有過期 Key 則刪除樊销。
需要說明的是整慎,Redis?不是每個 100ms 將所有的 Key 檢查一次,而是隨機抽取進行檢查(如果每隔 100ms围苫,全部 Key 進行檢查裤园,Redis?豈不是卡死)。
因此剂府,如果只采用定期刪除策略拧揽,會導致很多 Key 到時間沒有刪除。于是腺占,惰性刪除派上用場淤袜。
也就是說在你獲取某個 Key 的時候,Redis?會檢查一下衰伯,這個 Key 如果設置了過期時間铡羡,那么是否過期了?如果過期了此時就會刪除意鲸。
采用定期刪除+惰性刪除就沒其他問題了么?
不是的烦周,如果定期刪除沒刪除 Key。然后你也沒即時去請求 Key怎顾,也就是說惰性刪除也沒生效读慎。這樣,Redis的內(nèi)存會越來越高槐雾。那么就應該采用內(nèi)存淘汰機制夭委。
在 redis.conf 中有一行配置:
# maxmemory-policy volatile-lru
該配置就是配內(nèi)存淘汰策略的(什么,你沒配過募强?好好反省一下自己):
noeviction:當內(nèi)存不足以容納新寫入數(shù)據(jù)時株灸,新寫入操作會報錯崇摄。應該沒人用吧。
allkeys-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時慌烧,在鍵空間中配猫,移除最近最少使用的 Key。推薦使用杏死,目前項目在用這種泵肄。
allkeys-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在鍵空間中淑翼,隨機移除某個 Key腐巢。應該也沒人用吧,你不刪最少使用 Key玄括,去隨機刪冯丙。
volatile-lru:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設置了過期時間的鍵空間中遭京,移除最近最少使用的 Key胃惜。這種情況一般是把Redis?既當緩存,又做持久化存儲的時候才用哪雕。不推薦船殉。
volatile-random:當內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設置了過期時間的鍵空間中斯嚎,隨機移除某個 Key利虫。依然不推薦。
volatile-ttl:當內(nèi)存不足以容納新寫入數(shù)據(jù)時堡僻,在設置了過期時間的鍵空間中糠惫,有更早過期時間的 Key 優(yōu)先移除。不推薦钉疫。
PS:如果沒有設置 expire 的 Key硼讽,不滿足先決條件(prerequisites);那么 volatile-lru牲阁,volatile-random 和 volatile-ttl 策略的行為固阁,和 noeviction(不刪除) 基本上一致。
Redis?和數(shù)據(jù)庫雙寫一致性問題
????????一致性問題是分布式常見問題咨油,還可以再分為最終一致性和強一致性您炉。數(shù)據(jù)庫和緩存雙寫柒爵,就必然會存在不一致的問題役电。
答這個問題,先明白一個前提棉胀。就是如果對數(shù)據(jù)有強一致性要求法瑟,不能放緩存冀膝。我們所做的一切,只能保證最終一致性霎挟。
另外窝剖,我們所做的方案從根本上來說,只能說降低不一致發(fā)生的概率酥夭,無法完全避免赐纱。因此,有強一致性要求的數(shù)據(jù)熬北,不能放緩存疙描。
回答:首先,采取正確更新策略讶隐,先更新數(shù)據(jù)庫起胰,再刪緩存。其次巫延,因為可能存在刪除緩存失敗的問題效五,提供一個補償措施即可,例如利用消息隊列炉峰。
如何應對緩存穿透和緩存雪崩問題
????????這兩個問題畏妖,說句實在話,一般中小型傳統(tǒng)軟件企業(yè)疼阔,很難碰到這個問題瓜客。如果有大并發(fā)的項目,流量有幾百萬左右竿开。這兩個問題一定要深刻考慮谱仪。
緩存穿透,即黑客故意去請求緩存中不存在的數(shù)據(jù)否彩,導致所有的請求都懟到數(shù)據(jù)庫上疯攒,從而數(shù)據(jù)庫連接異常。
緩存穿透解決方案:
利用互斥鎖列荔,緩存失效的時候敬尺,先去獲得鎖,得到鎖了贴浙,再去請求數(shù)據(jù)庫砂吞。沒得到鎖,則休眠一段時間重試崎溃。
采用異步更新策略,無論 Key 是否取到值,都直接返回概而。Value 值中維護一個緩存失效時間呼巷,緩存如果過期王悍,異步起一個線程去讀數(shù)據(jù)庫,更新緩存渠脉。需要做緩存預熱(項目啟動前芋膘,先加載緩存)操作霸饲。
提供一個能迅速判斷請求是否有效的攔截機制为朋,比如,利用布隆過濾器厚脉,內(nèi)部維護一系列合法有效的 Key习寸。迅速判斷出,請求所攜帶的 Key 是否合法有效傻工。如果不合法霞溪,則直接返回。
緩存雪崩中捆,即緩存同一時間大面積的失效鸯匹,這個時候又來了一波請求,結(jié)果請求都懟到數(shù)據(jù)庫上泄伪,從而導致數(shù)據(jù)庫連接異常殴蓬。
緩存雪崩解決方案:
給緩存的失效時間,加上一個隨機值蟋滴,避免集體失效染厅。
使用互斥鎖,但是該方案吞吐量明顯下降了津函。
雙緩存肖粮。我們有兩個緩存,緩存 A 和緩存 B尔苦。緩存 A 的失效時間為 20 分鐘涩馆,緩存 B 不設失效時間行施。自己做緩存預熱操作。
然后細分以下幾個小點:從緩存 A 讀數(shù)據(jù)庫凌净,有則直接返回;A 沒有數(shù)據(jù)屋讶,直接從 B 讀數(shù)據(jù)冰寻,直接返回,并且異步啟動一個更新線程皿渗,更新線程同時更新緩存 A 和緩存 B斩芭。
如何解決?Redis?的并發(fā)競爭 Key 問題
????????這個問題大致就是,同時有多個子系統(tǒng)去 Set 一個 Key乐疆。這個時候大家思考過要注意什么呢划乖?
需要說明一下,我提前百度了一下挤土,發(fā)現(xiàn)答案基本都是推薦用Redis?事務機制琴庵。
我并不推薦使用Redis?的事務機制。因為我們的生產(chǎn)環(huán)境仰美,基本都是 Redis 集群環(huán)境迷殿,做了數(shù)據(jù)分片操作。
你一個事務中有涉及到多個 Key 操作的時候咖杂,這多個 Key 不一定都存儲在同一個 redis-server 上庆寺。因此,Redis?的事務機制诉字,十分雞肋懦尝。
如果對這個 Key 操作,不要求順序
這種情況下壤圃,準備一個分布式鎖陵霉,大家去搶鎖,搶到鎖就做 set 操作即可伍绳,比較簡單撩匕。
如果對這個 Key 操作,要求順序
假設有一個 key1墨叛,系統(tǒng) A 需要將 key1 設置為 valueA止毕,系統(tǒng) B 需要將 key1 設置為 valueB,系統(tǒng) C 需要將 key1 設置為 valueC漠趁。
期望按照 key1 的 value 值按照 valueA > valueB>?valueC 的順序變化扁凛。這種時候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時候,需要保存一個時間戳闯传。
假設時間戳如下:
系統(tǒng)A key 1 {valueA ?3:00}
系統(tǒng)B key 1 {valueB ?3:05}
系統(tǒng)C key 1 {valueC ?3:10}
那么谨朝,假設這會系統(tǒng) B 先搶到鎖,將 key1 設置為{valueB 3:05}。接下來系統(tǒng) A 搶到鎖字币,發(fā)現(xiàn)自己的 valueA 的時間戳早于緩存中的時間戳则披,那就不做 set 操作了,以此類推洗出。
其他方法士复,比如利用隊列,將 set 方法變成串行訪問也可以翩活≮搴椋總之,靈活變通菠镇。
本文摘自:https://studygolang.com/articles/15064