本文主要內(nèi)容轉(zhuǎn)自:分布式之redis復(fù)習(xí)精講
1、為什么使用redis
2啃勉、使用redis有什么缺點
3忽舟、單線程的redis為什么這么快
4、redis的數(shù)據(jù)類型淮阐,以及每種數(shù)據(jù)類型的使用場景
5叮阅、redis的過期策略以及內(nèi)存淘汰機(jī)制
6、redis和數(shù)據(jù)庫雙寫一致性問題
7 泣特、如何應(yīng)對緩存穿透和緩存雪崩問題
8浩姥、如何解決redis的并發(fā)競爭問題
1、為什么使用redis
使用Redis主要是出于兩個原因:性能和并發(fā)群扶。
Redis還有其他功能及刻,如實現(xiàn)分布式鎖,但是使用其他中間件如zookeeper等也可以實現(xiàn)分布式鎖竞阐。
==>
分布式鎖實現(xiàn):zookeeper, Redis
性能:緩存一些執(zhí)行慢缴饭,且一定時間內(nèi)返回結(jié)果不變的SQL的執(zhí)行結(jié)果
并發(fā):大并發(fā)的情況下,所有請求直接訪問數(shù)據(jù)庫骆莹,數(shù)據(jù)庫會出現(xiàn)連接異常颗搂。這個時候,用Redis做一個緩沖操作幕垦,讓請求先訪問Redis丢氢,而不是直接訪問數(shù)據(jù)庫。
2先改、使用redis有什么缺點
主要是四個問題
(一)緩存和數(shù)據(jù)庫雙寫一致性問題
(二)緩存雪崩問題
(三)緩存擊穿問題
(四)緩存的并發(fā)競爭問題
3疚察、單線程的redis為什么這么快
主要是以下三點
(一)純內(nèi)存操作
(二)單線程操作,避免了頻繁的上下文切換
(三)采用了非阻塞I/O多路復(fù)用機(jī)制
參照上圖仇奶,簡單來說貌嫡,就是。我們的redis-client在操作的時候,會產(chǎn)生具有不同事件類型的socket岛抄。在服務(wù)端别惦,有一段I/0多路復(fù)用程序,將其置入隊列之中夫椭。然后掸掸,文件事件分派器,依次去隊列中取蹭秋,轉(zhuǎn)發(fā)到不同的事件處理器中扰付。
需要說明的是,這個I/O多路復(fù)用機(jī)制感凤,redis還提供了select悯周、epoll、evport陪竿、kqueue等多路復(fù)用函數(shù)庫禽翼。
4、redis的數(shù)據(jù)類型族跛,以及每種數(shù)據(jù)類型的使用場景
一共五種
(一)String
這個其實沒啥好說的闰挡,最常規(guī)的set/get操作,value可以是String也可以是數(shù)字礁哄。一般做一些復(fù)雜的計數(shù)功能的緩存长酗。
(二)hash
這里value存放的是結(jié)構(gòu)化的對象,比較方便的就是操作其中的某個字段桐绒。博主在做單點登錄的時候夺脾,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲用戶信息,以cookieId作為key茉继,設(shè)置30分鐘為緩存過期時間咧叭,能很好的模擬出類似session的效果。
(三)list
使用List的數(shù)據(jù)結(jié)構(gòu)烁竭,可以做簡單的消息隊列的功能菲茬。另外還有一個就是,可以利用lrange命令派撕,做基于redis的分頁功能婉弹,性能極佳,用戶體驗好终吼。
(四)set
因為set堆放的是一堆不重復(fù)值的集合镀赌。所以可以做全局去重的功能。為什么不用JVM自帶的Set進(jìn)行去重际跪?因為我們的系統(tǒng)一般都是集群部署商佛,使用JVM自帶的Set蛙粘,比較麻煩,難道為了一個做一個全局去重威彰,再起一個公共服務(wù),太麻煩了穴肘。
另外歇盼,就是利用交集、并集评抚、差集等操作豹缀,可以計算共同喜好,全部的喜好慨代,自己獨有的喜好等功能邢笙。
(五)sorted set
sorted set多了一個權(quán)重參數(shù)score,集合中的元素能夠按score進(jìn)行排列∈坛祝可以做排行榜應(yīng)用氮惯,取TOP N操作。另外想暗,參照另一篇《分布式之延時任務(wù)方案解析》妇汗,該文指出了sorted set可以用來做延時任務(wù)。最后一個應(yīng)用就是可以做范圍查找说莫。
5杨箭、redis的過期策略以及內(nèi)存淘汰機(jī)制
redis采用的是定期刪除+惰性刪除策略。
為什么不用定時刪除策略?
定時刪除,用一個定時器來負(fù)責(zé)監(jiān)視key,過期則自動刪除储狭。雖然內(nèi)存及時釋放互婿,但是十分消耗CPU資源。在大并發(fā)請求下辽狈,CPU要將時間應(yīng)用在處理請求慈参,而不是刪除key,因此沒有采用這一策略.
定期刪除+惰性刪除是如何工作的呢?
定期刪除,redis默認(rèn)每個100ms檢查稻艰,是否有過期的key,有過期key則刪除懂牧。需要說明的是,redis不是每個100ms將所有的key檢查一次尊勿,而是隨機(jī)抽取進(jìn)行檢查(如果每隔100ms,全部key進(jìn)行檢查僧凤,redis豈不是卡死)。因此元扔,如果只采用定期刪除策略躯保,會導(dǎo)致很多key到時間沒有刪除。
于是澎语,惰性刪除派上用場途事。也就是說在你獲取某個key的時候验懊,redis會檢查一下,這個key如果設(shè)置了過期時間那么是否過期了尸变?如果過期了此時就會刪除义图。
采用定期刪除+惰性刪除就沒其他問題了么?
不是的,如果定期刪除沒刪除key召烂。然后你也沒即時去請求key碱工,也就是說惰性刪除也沒生效。這樣奏夫,redis的內(nèi)存會越來越高怕篷。那么就應(yīng)該采用內(nèi)存淘汰機(jī)制。
在redis.conf中有一行配置
maxmemory-policy volatile-lru
該配置就是配內(nèi)存淘汰策略的(什么酗昼,你沒配過廊谓?好好反省一下自己)
1)noeviction:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時,新寫入操作會報錯麻削。應(yīng)該沒人用吧蒸痹。
2)allkeys-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時,在鍵空間中呛哟,移除最近最少使用的key电抚。推薦使用,目前項目在用這種竖共。
3)allkeys-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時蝙叛,在鍵空間中,隨機(jī)移除某個key公给。應(yīng)該也沒人用吧借帘,你不刪最少使用Key,去隨機(jī)刪。
4)volatile-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時淌铐,在設(shè)置了過期時間的鍵空間中肺然,移除最近最少使用的key。這種情況一般是把redis既當(dāng)緩存腿准,又做持久化存儲的時候才用际起。不推薦
5)volatile-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設(shè)置了過期時間的鍵空間中吐葱,隨機(jī)移除某個key街望。依然不推薦
6)volatile-ttl:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時,在設(shè)置了過期時間的鍵空間中弟跑,有更早過期時間的key優(yōu)先移除灾前。不推薦
ps:如果沒有設(shè)置 expire 的key, 不滿足先決條件(prerequisites); 那么 volatile-lru, volatile-random 和 volatile-ttl 策略的行為, 和 noeviction(不刪除) 基本上一致。
6孟辑、redis和數(shù)據(jù)庫雙寫一致性問題
一致性問題是分布式常見問題哎甲,還可以再分為最終一致性和強(qiáng)一致性蔫敲。數(shù)據(jù)庫和緩存雙寫,就必然會存在不一致的問題炭玫。我們所做的一切奈嘿,只能保證最終一致性。另外吞加,我們所做的方案其實從根本上來說指么,只能說降低不一致發(fā)生的概率,無法完全避免榴鼎。因此,有強(qiáng)一致性要求的數(shù)據(jù)晚唇,不能放緩存巫财。
首先,采取正確更新策略哩陕,先更新數(shù)據(jù)庫平项,再刪緩存。
其次悍及,因為可能存在刪除緩存失敗的問題闽瓢,提供一個補償措施即可,例如利用消息隊列心赶。
7扣讼、如何應(yīng)對緩存穿透和緩存雪崩問題
緩存穿透,即黑客故意去請求緩存中不存在的數(shù)據(jù)缨叫,導(dǎo)致所有的請求都懟到數(shù)據(jù)庫上椭符,從而數(shù)據(jù)庫連接異常。
解決方案: (詳細(xì)參考:分布式之緩存擊穿)
(一)利用互斥鎖耻姥,緩存失效的時候销钝,先去獲得鎖,得到鎖了琐簇,再去請求數(shù)據(jù)庫蒸健。沒得到鎖,則休眠一段時間重試
(二)采用異步更新策略婉商,無論key是否取到值似忧,都直接返回。value值中維護(hù)一個緩存失效時間丈秩,緩存如果過期橡娄,異步起一個線程去讀數(shù)據(jù)庫,更新緩存癣籽。需要做緩存預(yù)熱(項目啟動前挽唉,先加載緩存)操作滤祖。
(三)提供一個能迅速判斷請求是否有效的攔截機(jī)制,比如瓶籽,利用布隆過濾器匠童,內(nèi)部維護(hù)一系列合法有效的key。迅速判斷出塑顺,請求所攜帶的Key是否合法有效汤求。如果不合法,則直接返回严拒。
緩存雪崩扬绪,即緩存同一時間大面積的失效,這個時候又來了一波請求裤唠,結(jié)果請求都懟到數(shù)據(jù)庫上挤牛,從而導(dǎo)致數(shù)據(jù)庫連接異常。
解決方案:
(一)給緩存的失效時間种蘸,加上一個隨機(jī)值墓赴,避免集體失效。
(二)使用互斥鎖航瞭,但是該方案吞吐量明顯下降了诫硕。
(三)雙緩存。我們有兩個緩存刊侯,緩存A和緩存B章办。緩存A的失效時間為20分鐘,緩存B不設(shè)失效時間滨彻。自己做緩存預(yù)熱操作纲菌。然后細(xì)分以下幾個小點
I 從緩存A讀數(shù)據(jù)庫,有則直接返回
II A沒有數(shù)據(jù)疮绷,直接從B讀數(shù)據(jù)翰舌,直接返回,并且異步啟動一個更新線程冬骚。
III 更新線程同時更新緩存A和緩存B椅贱。
8、如何解決redis的并發(fā)競爭問題
(1)如果對這個key操作只冻,不要求順序
這種情況下庇麦,準(zhǔn)備一個分布式鎖,大家去搶鎖喜德,搶到鎖就做set操作即可山橄,比較簡單。
(2)如果對這個key操作舍悯,要求順序
假設(shè)有一個key1,系統(tǒng)A需要將key1設(shè)置為valueA,系統(tǒng)B需要將key1設(shè)置為valueB,系統(tǒng)C需要將key1設(shè)置為valueC.
期望按照key1的value值按照 valueA-->valueB-->valueC的順序變化航棱。這種時候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時候睡雇,需要保存一個時間戳。假設(shè)時間戳如下
系統(tǒng)A key 1 {valueA 3:00}
系統(tǒng)B key 1 {valueB 3:05}
系統(tǒng)C key 1 {valueC 3:10}
那么饮醇,假設(shè)這會系統(tǒng)B先搶到鎖它抱,將key1設(shè)置為{valueB 3:05}。接下來系統(tǒng)A搶到鎖朴艰,發(fā)現(xiàn)自己的valueA的時間戳早于緩存中的時間戳观蓄,那就不做set操作了。以此類推祠墅。
其他方法侮穿,比如利用隊列,將set方法變成串行訪問也可以毁嗦∏酌總之,靈活變通金矛。