絕大部分寫業(yè)務(wù)的程序員赂弓,在實(shí)際開發(fā)中使用 Redis 的時(shí)候绑榴,只會(huì) Set Value 和 Get Value 兩個(gè)操作,對(duì) Redis 整體缺乏一個(gè)認(rèn)知盈魁。這里對(duì) Redis 常見問題做一個(gè)總結(jié)翔怎,解決大家的知識(shí)盲點(diǎn)。
1杨耙、為什么使用 Redis
在項(xiàng)目中使用 Redis赤套,主要考慮兩個(gè)角度:性能和并發(fā)。如果只是為了分布式鎖這些其他功能按脚,還有其他中間件 Zookpeer 等代替于毙,并非一定要使用 Redis敦冬。
性能:
如下圖所示辅搬,我們?cè)谂龅叫枰獔?zhí)行耗時(shí)特別久,且結(jié)果不頻繁變動(dòng)的 SQL脖旱,就特別適合將運(yùn)行結(jié)果放入緩存堪遂。這樣妈拌,后面的請(qǐng)求就去緩存中讀取泛粹,使得請(qǐng)求能夠迅速響應(yīng)。
特別是在秒殺系統(tǒng)辨图,在同一時(shí)間践险,幾乎所有人都在點(diǎn)猿妈,都在下單。巍虫。彭则。執(zhí)行的是同一操作———向數(shù)據(jù)庫查數(shù)據(jù)。
根據(jù)交互效果的不同占遥,響應(yīng)時(shí)間沒有固定標(biāo)準(zhǔn)俯抖。在理想狀態(tài)下,我們的頁面跳轉(zhuǎn)需要在瞬間解決瓦胎,對(duì)于頁內(nèi)操作則需要在剎那間解決芬萍。
并發(fā):
如下圖所示,在大并發(fā)的情況下搔啊,所有的請(qǐng)求直接訪問數(shù)據(jù)庫柬祠,數(shù)據(jù)庫會(huì)出現(xiàn)連接異常。這個(gè)時(shí)候负芋,就需要使用 Redis 做一個(gè)緩沖操作漫蛔,讓請(qǐng)求先訪問到 Redis,而不是直接訪問數(shù)據(jù)庫。
使用 Redis 的常見問題
緩存和數(shù)據(jù)庫雙寫一致性問題
緩存雪崩問題
緩存擊穿問題
緩存的并發(fā)競(jìng)爭(zhēng)問題
2惩猫、單線程的 Redis 為什么這么快
這個(gè)問題是對(duì) Redis 內(nèi)部機(jī)制的一個(gè)考察芝硬。很多人都不知道 Redis 是單線程工作模型。
原因主要是以下三點(diǎn):
純內(nèi)存操作
單線程操作轧房,避免了頻繁的上下文切換
采用了非阻塞 I/O 多路復(fù)用機(jī)制
仔細(xì)說一說 I/O 多路復(fù)用機(jī)制拌阴,打一個(gè)比方:小名在 A 城開了一家快餐店店,負(fù)責(zé)同城快餐服務(wù)奶镶。小明因?yàn)橘Y金限制迟赃,雇傭了一批配送員,然后小曲發(fā)現(xiàn)資金不夠了厂镇,只夠買一輛車送快遞纤壁。
經(jīng)營方式一
客戶每下一份訂單,小明就讓一個(gè)配送員盯著捺信,然后讓人開車去送酌媒。慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題:
時(shí)間都花在了搶車上了,大部分配送員都處在閑置狀態(tài)迄靠,搶到車才能去送秒咨。
隨著下單的增多,配送員也越來越多掌挚,小明發(fā)現(xiàn)快遞店里越來越擠雨席,沒辦法雇傭新的配送員了。
配送員之間的協(xié)調(diào)很花時(shí)間吠式。
綜合上述缺點(diǎn)陡厘,小明痛定思痛,提出了經(jīng)營方式二特占。
經(jīng)營方式二
小明只雇傭一個(gè)配送員糙置。當(dāng)客戶下單,小明按送達(dá)地點(diǎn)標(biāo)注好摩钙,依次放在一個(gè)地方罢低。最后,讓配送員依次開著車去送胖笛,送好了就回來拿下一個(gè)网持。上述兩種經(jīng)營方式對(duì)比,很明顯第二種效率更高长踊。
在上述比喻中:
每個(gè)配送員→每個(gè)線程
每個(gè)訂單→每個(gè) Socket(I/O 流)
訂單的送達(dá)地點(diǎn)→Socket 的不同狀態(tài)
客戶送餐請(qǐng)求→來自客戶端的請(qǐng)求
明曲的經(jīng)營方式→服務(wù)端運(yùn)行的代碼
一輛車→CPU 的核數(shù)
于是有了如下結(jié)論:
經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型功舀,每個(gè) I/O 流(訂單)都有一個(gè)新的線程(配送員)管理。
經(jīng)營方式二就是 I/O 多路復(fù)用身弊。只有單個(gè)線程(一個(gè)配送員)辟汰,通過跟蹤每個(gè) I/O 流的狀態(tài)(每個(gè)配送員的送達(dá)地點(diǎn))列敲,來管理多個(gè) I/O 流。
下面類比到真實(shí)的 Redis 線程模型帖汞,如圖所示:
Redis-client 在操作的時(shí)候戴而,會(huì)產(chǎn)生具有不同事件類型的 Socket。在服務(wù)端翩蘸,有一段 I/O 多路復(fù)用程序所意,將其置入隊(duì)列之中。然后催首,文件事件分派器扶踊,依次去隊(duì)列中取,轉(zhuǎn)發(fā)到不同的事件處理器中郎任。
3秧耗、Redis 的數(shù)據(jù)類型及使用場(chǎng)景
一個(gè)合格的程序員,這五種類型都會(huì)用到舶治。
String
最常規(guī)的 set/get 操作分井,Value 可以是 String 也可以是數(shù)字。一般做一些復(fù)雜的計(jì)數(shù)功能的緩存歼疮。
Hash
這里 Value 存放的是結(jié)構(gòu)化的對(duì)象杂抽,比較方便的就是操作其中的某個(gè)字段。我在做單點(diǎn)登錄的時(shí)候韩脏,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲(chǔ)用戶信息,以 CookieId 作為 Key铸磅,設(shè)置 30 分鐘為緩存過期時(shí)間赡矢,能很好的模擬出類似 Session 的效果。
List
使用 List 的數(shù)據(jù)結(jié)構(gòu)阅仔,可以做簡(jiǎn)單的消息隊(duì)列的功能吹散。另外,可以利用 lrange 命令八酒,做基于 Redis 的分頁功能空民,性能極佳,用戶體驗(yàn)好羞迷。
Set
因?yàn)?Set 堆放的是一堆不重復(fù)值的集合界轩。所以可以做全局去重的功能。我們的系統(tǒng)一般都是集群部署衔瓮,使用 JVM 自帶的 Set 比較麻煩浊猾。另外,就是利用交集热鞍、并集葫慎、差集等操作衔彻,可以計(jì)算共同喜好,全部的喜好偷办,自己獨(dú)有的喜好等功能艰额。
Sorted Set
Sorted Set 多了一個(gè)權(quán)重參數(shù) Score,集合中的元素能夠按 Score 進(jìn)行排列椒涯°参可以做排行榜應(yīng)用,取 TOP N 操作逐工。Sorted Set 可以用來做延時(shí)任務(wù)铡溪。
4、Redis 的過期策略和內(nèi)存淘汰機(jī)制
Redis 是否用到家泪喊,從這就能看出來棕硫。比如你 Redis 只能存 5G 數(shù)據(jù),可是你寫了 10G袒啼,那會(huì)刪 5G 的數(shù)據(jù)哈扮。怎么刪的,這個(gè)問題思考過么蚓再?
正解:Redis 采用的是定期刪除+惰性刪除策略滑肉。
為什么不用定時(shí)刪除策略
定時(shí)刪除,用一個(gè)定時(shí)器來負(fù)責(zé)監(jiān)視 Key摘仅,過期則自動(dòng)刪除靶庙。雖然內(nèi)存及時(shí)釋放,但是十分消耗 CPU 資源娃属。在大并發(fā)請(qǐng)求下六荒,CPU 要將時(shí)間應(yīng)用在處理請(qǐng)求,而不是刪除 Key矾端,因此沒有采用這一策略掏击。
定期刪除+惰性刪除如何工作
定期刪除,Redis 默認(rèn)每個(gè) 100ms 檢查秩铆,有過期 Key 則刪除砚亭。需要說明的是,Redis 不是每個(gè) 100ms 將所有的 Key 檢查一次殴玛,而是隨機(jī)抽取進(jìn)行檢查捅膘。如果只采用定期刪除策略,會(huì)導(dǎo)致很多 Key 到時(shí)間沒有刪除族阅。于是篓跛,惰性刪除派上用場(chǎng)。
采用定期刪除+惰性刪除就沒其他問題了么
不是的坦刀,如果定期刪除沒刪除掉 Key愧沟。并且你也沒及時(shí)去請(qǐng)求 Key蔬咬,也就是說惰性刪除也沒生效。這樣沐寺,Redis 的內(nèi)存會(huì)越來越高林艘。那么就應(yīng)該采用內(nèi)存淘汰機(jī)制。
在 redis.conf 中有一行配置:
# maxmemory-policy volatile-lru
該配置就是配內(nèi)存淘汰策略的:
noeviction:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)混坞,新寫入操作會(huì)報(bào)錯(cuò)狐援。
allkeys-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在鍵空間中究孕,移除最近最少使用的 Key啥酱。(推薦使用,目前項(xiàng)目在用這種)(最近最久使用算法)
allkeys-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)厨诸,在鍵空間中镶殷,隨機(jī)移除某個(gè) Key。(應(yīng)該也沒人用吧微酬,你不刪最少使用 Key绘趋,去隨機(jī)刪)
volatile-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的鍵空間中颗管,移除最近最少使用的 Key陷遮。這種情況一般是把 Redis 既當(dāng)緩存,又做持久化存儲(chǔ)的時(shí)候才用垦江。(不推薦)
volatile-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)帽馋,在設(shè)置了過期時(shí)間的鍵空間中,隨機(jī)移除某個(gè) Key疫粥。(依然不推薦)
volatile-ttl:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)茬斧,在設(shè)置了過期時(shí)間的鍵空間中,有更早過期時(shí)間的 Key 優(yōu)先移除梗逮。(不推薦)
5、Redis 和數(shù)據(jù)庫雙寫一致性問題
一致性問題還可以再分為最終一致性和強(qiáng)一致性绣溜。數(shù)據(jù)庫和緩存雙寫慷彤,就必然會(huì)存在不一致的問題。前提是如果對(duì)數(shù)據(jù)有強(qiáng)一致性要求怖喻,不能放緩存底哗。我們所做的一切,只能保證最終一致性锚沸。
另外跋选,我們所做的方案從根本上來說,只能降低不一致發(fā)生的概率哗蜈。因此前标,有強(qiáng)一致性要求的數(shù)據(jù)坠韩,不能放緩存。首先炼列,采取正確更新策略只搁,先更新數(shù)據(jù)庫,再刪緩存俭尖。其次氢惋,因?yàn)榭赡艽嬖趧h除緩存失敗的問題,提供一個(gè)補(bǔ)償措施即可稽犁,例如利用消息隊(duì)列焰望。
6、如何應(yīng)對(duì)緩存穿透和緩存雪崩問題
這兩個(gè)問題已亥,一般中小型傳統(tǒng)軟件企業(yè)很難碰到熊赖。如果有大并發(fā)的項(xiàng)目,流量有幾百萬左右陷猫,這兩個(gè)問題一定要深刻考慮秫舌。緩存穿透,即黑客故意去請(qǐng)求緩存中不存在的數(shù)據(jù)绣檬,導(dǎo)致所有的請(qǐng)求都懟到數(shù)據(jù)庫上足陨,從而數(shù)據(jù)庫連接異常。
緩存穿透解決方案:
利用互斥鎖娇未,緩存失效的時(shí)候墨缘,先去獲得鎖,得到鎖了零抬,再去請(qǐng)求數(shù)據(jù)庫镊讼。沒得到鎖,則休眠一段時(shí)間重試平夜。
采用異步更新策略蝶棋,無論 Key 是否取到值,都直接返回忽妒。Value 值中維護(hù)一個(gè)緩存失效時(shí)間玩裙,緩存如果過期,異步起一個(gè)線程去讀數(shù)據(jù)庫段直,更新緩存吃溅。需要做緩存預(yù)熱(項(xiàng)目啟動(dòng)前,先加載緩存)操作鸯檬。
提供一個(gè)能迅速判斷請(qǐng)求是否有效的攔截機(jī)制决侈,比如,利用布隆過濾器喧务,內(nèi)部維護(hù)一系列合法有效的 Key赖歌。迅速判斷出枉圃,請(qǐng)求所攜帶的 Key 是否合法有效。如果不合法俏站,則直接返回讯蒲。
緩存雪崩,即緩存同一時(shí)間大面積的失效肄扎,這個(gè)時(shí)候又來了一波請(qǐng)求墨林,結(jié)果請(qǐng)求都懟到數(shù)據(jù)庫上,從而導(dǎo)致數(shù)據(jù)庫連接異常犯祠。
緩存雪崩解決方案:
給緩存的失效時(shí)間旭等,加上一個(gè)隨機(jī)值,避免集體失效衡载。
使用互斥鎖搔耕,但是該方案吞吐量明顯下降了。
雙緩存痰娱。我們有兩個(gè)緩存弃榨,緩存 A 和緩存 B。緩存 A 的失效時(shí)間為 20 分鐘梨睁,緩存 B 不設(shè)失效時(shí)間鲸睛。自己做緩存預(yù)熱操作。
然后細(xì)分以下幾個(gè)小點(diǎn):從緩存 A 讀數(shù)據(jù)庫坡贺,有則直接返回官辈;A 沒有數(shù)據(jù),直接從 B 讀數(shù)據(jù)遍坟,直接返回拳亿,并且異步啟動(dòng)一個(gè)更新線程,更新線程同時(shí)更新緩存 A 和緩存 B愿伴。
7肺魁、如何解決 Redis 的并發(fā)競(jìng)爭(zhēng) Key 問題
這個(gè)問題大致就是,同時(shí)有多個(gè)子系統(tǒng)去 Set 一個(gè) Key隔节。這個(gè)時(shí)候要注意什么呢万搔?大家基本都是推薦用 Redis 事務(wù)機(jī)制。
但是我并不推薦使用 Redis 的事務(wù)機(jī)制官帘。因?yàn)槲覀兊纳a(chǎn)環(huán)境,基本都是 Redis 集群環(huán)境昧谊,做了數(shù)據(jù)分片操作刽虹。你一個(gè)事務(wù)中有涉及到多個(gè) Key 操作的時(shí)候,這多個(gè) Key 不一定都存儲(chǔ)在同一個(gè) redis-server 上呢诬。因此涌哲,Redis 的事務(wù)機(jī)制胖缤,十分雞肋。
如果對(duì)這個(gè) Key 操作阀圾,不要求順序
這種情況下哪廓,準(zhǔn)備一個(gè)分布式鎖,大家去搶鎖初烘,搶到鎖就做 set 操作即可涡真,比較簡(jiǎn)單。
如果對(duì)這個(gè) Key 操作肾筐,要求順序
假設(shè)有一個(gè) key1哆料,系統(tǒng) A 需要將 key1 設(shè)置為 valueA,系統(tǒng) B 需要將 key1 設(shè)置為 valueB吗铐,系統(tǒng) C 需要將 key1 設(shè)置為 valueC东亦。
期望按照 key1 的 value 值按照 valueA > valueB > valueC 的順序變化。這種時(shí)候我們?cè)跀?shù)據(jù)寫入數(shù)據(jù)庫的時(shí)候唬渗,需要保存一個(gè)時(shí)間戳典阵。
假設(shè)時(shí)間戳如下:
系統(tǒng) A key 1 {valueA? 3:00}
系統(tǒng) B key 1 {valueB? 3:05}
系統(tǒng) C key 1 {valueC? 3:10}
那么,假設(shè)系統(tǒng) B 先搶到鎖镊逝,將 key1 設(shè)置為{valueB 3:05}壮啊。接下來系統(tǒng) A 搶到鎖,發(fā)現(xiàn)自己的 valueA 的時(shí)間戳早于緩存中的時(shí)間戳蹋半,那就不做 set 操作了他巨,以此類推。其他方法减江,比如利用隊(duì)列染突,將 set 方法變成串行訪問也可以。
8辈灼、總結(jié)
Redis 在國內(nèi)各大公司都能看到其身影份企,比如我們熟悉的新浪,阿里巡莹,騰訊司志,百度,美團(tuán)降宅,小米等骂远。學(xué)習(xí) Redis,這幾方面尤其重要:Redis 客戶端腰根、Redis 高級(jí)功能激才、Redis 持久化和開發(fā)運(yùn)維常用問題探討、Redis 復(fù)制的原理和優(yōu)化策略、Redis 分布式解決方案等
作者:程序之心 丁儀
鏈接:https://zhuanlan.zhihu.com/p/50392209
著作權(quán)歸作者所有瘸恼。商業(yè)轉(zhuǎn)載請(qǐng)聯(lián)系作者獲得授權(quán)劣挫,非商業(yè)轉(zhuǎn)載請(qǐng)注明出處。