Redis原理和機(jī)制詳解

什么是Redis?

Redis 是開(kāi)源免費(fèi)的先紫,遵守BSD協(xié)議治泥,是一個(gè)高性能的key-value非關(guān)系型數(shù)據(jù)庫(kù)。

Redis特點(diǎn):

Redis支持?jǐn)?shù)據(jù)的持久化遮精,可以將內(nèi)存中的數(shù)據(jù)保存在磁盤(pán)中居夹,重啟的時(shí)候可以再次加載進(jìn)行使用败潦。

Redis不僅僅支持簡(jiǎn)單的key-value類(lèi)型的數(shù)據(jù),同時(shí)還提供String准脂,list劫扒,set,zset狸膏,hash等數(shù)據(jù)結(jié)構(gòu)的存儲(chǔ)沟饥。

Redis支持?jǐn)?shù)據(jù)的備份,即master-slave模式的數(shù)據(jù)備份湾戳。

性能極高 – Redis能讀的速度是110000次/s,寫(xiě)的速度是81000次/s 贤旷。

原子 – Redis的所有操作都是原子性的,同時(shí)Redis還支持對(duì)幾個(gè)操作全并后的原子性執(zhí)行砾脑。

豐富的特性 – Redis還支持 publish/subscribe, 通知, 設(shè)置key有效期等等特性幼驶。

redis作用:

可以減輕數(shù)據(jù)庫(kù)壓力,查詢(xún)內(nèi)存比查詢(xún)數(shù)據(jù)庫(kù)效率高韧衣。

Redis應(yīng)用:

token生成盅藻、session共享、分布式鎖汹族、自增id萧求、驗(yàn)證碼等。

比較重要的3個(gè)可執(zhí)行文件:

redis-server:Redis服務(wù)器程序

redis-cli:Redis客戶端程序顶瞒,它是一個(gè)命令行操作工具夸政。也可以使用telnet根據(jù)其純文本協(xié)議操作。

redis-benchmark:Redis性能測(cè)試工具榴徐,測(cè)試Redis在你的系統(tǒng)及配置下的讀寫(xiě)性能守问。

四小時(shí)帶你了解Redis源碼八大技術(shù)點(diǎn)。

1:數(shù)據(jù)存儲(chǔ)分析

2:redis存儲(chǔ)原理

3:redis事件機(jī)制

4:redis6.0-IO多線程

5:redis有序集合的實(shí)現(xiàn)-跳表

6:跳表的應(yīng)用以及與其他動(dòng)態(tài)有序搜索結(jié)構(gòu)比較

7:redis-driver實(shí)現(xiàn)

8:redis高可用部署策略

redis源碼剖析訓(xùn)練營(yíng)學(xué)習(xí)地址:https://ke.qq.com/course/2993468?flowToken=1027484

I/O復(fù)用模型和Reactor 設(shè)計(jì)模式

Redis內(nèi)部實(shí)現(xiàn)采用epoll+自己實(shí)現(xiàn)的簡(jiǎn)單的事件框架坑资。 epoll中的讀耗帕、寫(xiě)、關(guān)閉袱贮、連接都轉(zhuǎn)化成了事件仿便,然后利用epoll的多路復(fù)用特性, 絕不在io上浪費(fèi)一點(diǎn)時(shí)間:

1攒巍、I/O 多路復(fù)用的封裝

I/O 多路復(fù)用其實(shí)是在單個(gè)線程中通過(guò)記錄跟蹤每一個(gè)sock(I/O流) 的狀態(tài)來(lái)管理多個(gè)I/O流嗽仪。

image

因?yàn)?Redis 需要在多個(gè)平臺(tái)上運(yùn)行,同時(shí)為了最大化執(zhí)行的效率與性能柒莉,所以會(huì)根據(jù)編譯平臺(tái)的不同選擇不同的 I/O 多路復(fù)用函數(shù)作為子模塊闻坚,提供給上層統(tǒng)一的接口。

redis的多路復(fù)用兢孝, 提供了select, epoll, evport, kqueue幾種選擇窿凤,在編譯的時(shí)候來(lái)選擇一種仅偎。

select是POSIX提供的, 一般的操作系統(tǒng)都有支撐雳殊;
epoll 是LINUX系統(tǒng)內(nèi)核提供支持的橘沥;
evport是Solaris系統(tǒng)內(nèi)核提供支持的;
kqueue是Mac 系統(tǒng)提供支持的相种;

#ifdef HAVE_EVPORT
#include "ae_evport.c"
#else
    #ifdef HAVE_EPOLL
    #include "ae_epoll.c"
    #else
        #ifdef HAVE_KQUEUE
        #include "ae_kqueue.c"
        #else
        #include "ae_select.c"
        #endif
    #endif
#endif

為了將所有 IO 復(fù)用統(tǒng)一威恼,Redis 為所有 IO 復(fù)用統(tǒng)一了類(lèi)型名 aeApiState品姓,對(duì)于 epoll 而言寝并,類(lèi)型成員就是調(diào)用 epoll_wait所需要的參數(shù)
接下來(lái)就是一些對(duì)epoll接口的封裝了:包括創(chuàng)建 epoll(epoll_create),注冊(cè)事件(epoll_ctl)腹备,刪除事件(epoll_ctl)衬潦,阻塞監(jiān)聽(tīng)(epoll_wait)等
創(chuàng)建 epoll 就是簡(jiǎn)單的為 aeApiState 申請(qǐng)內(nèi)存空間,然后將返回的指針保存在事件驅(qū)動(dòng)循環(huán)中
注冊(cè)事件和刪除事件就是對(duì) epoll_ctl 的封裝植酥,根據(jù)操作不同選擇不同的參數(shù)
阻塞監(jiān)聽(tīng)是對(duì) epoll_wait 的封裝镀岛,在返回后將激活的事件保存在事件驅(qū)動(dòng)中

2、Reactor 設(shè)計(jì)模式:事件驅(qū)動(dòng)循環(huán)流程

Redis 服務(wù)采用 Reactor 的方式來(lái)實(shí)現(xiàn)文件事件處理器(每一個(gè)網(wǎng)絡(luò)連接其實(shí)都對(duì)應(yīng)一個(gè)文件描述符)

當(dāng) main 函數(shù)初始化工作完成后友驮,就需要進(jìn)行事件驅(qū)動(dòng)循環(huán)漂羊,而在循環(huán)中,會(huì)調(diào)用 IO 復(fù)用函數(shù)進(jìn)行監(jiān)聽(tīng)
在初始化完成后卸留,main 函數(shù)調(diào)用了 aeMain 函數(shù)走越,傳入的參數(shù)就是服務(wù)器的事件驅(qū)動(dòng)

Redis 對(duì)于時(shí)間事件是采用鏈表的形式記錄的,這導(dǎo)致每次尋找最早超時(shí)的那個(gè)事件都需要遍歷整個(gè)鏈表耻瑟,容易造成性能瓶頸旨指。而 libevent 是采用最小堆記錄時(shí)間事件,尋找最早超時(shí)事件只需要 O(1) 的復(fù)雜度

image

如上圖喳整,IO多路復(fù)用模型使用了Reactor設(shè)計(jì)模式實(shí)現(xiàn)了這一機(jī)制谆构。

通過(guò)Reactor的方式,可以將用戶線程輪詢(xún)IO操作狀態(tài)的工作統(tǒng)一交給handle_events事件循環(huán)進(jìn)行處理框都。

用戶線程注冊(cè)事件處理器之后可以繼續(xù)執(zhí)行做其他的工作(異步)搬素,而Reactor線程負(fù)責(zé)調(diào)用內(nèi)核的select/epoll函數(shù)檢查socket狀態(tài)。當(dāng)有socket被激活時(shí)魏保,則通知相應(yīng)的用戶線程(或執(zhí)行用戶線程的回調(diào)函數(shù))熬尺,執(zhí)行handle_event進(jìn)行數(shù)據(jù)讀取、處理的工作囱淋。由于select/epoll函數(shù)是阻塞的猪杭,因此多路IO復(fù)用模型也被稱(chēng)為異步阻塞IO模型。注意妥衣,這里的所說(shuō)的阻塞是指select函數(shù)執(zhí)行時(shí)線程被阻塞皂吮,而不是指socket戒傻。一般在使用IO多路復(fù)用模型時(shí),socket都是設(shè)置為NONBLOCK的蜂筹,不過(guò)這并不會(huì)產(chǎn)生影響需纳,因?yàn)橛脩舭l(fā)起IO請(qǐng)求時(shí),數(shù)據(jù)已經(jīng)到達(dá)了艺挪,用戶線程一定不會(huì)被阻塞不翩。

3、redis線程模型:

如圖所示:

image

簡(jiǎn)單來(lái)說(shuō)麻裳,就是口蝠。我們的redis-client在操作的時(shí)候,會(huì)產(chǎn)生具有不同事件類(lèi)型的socket津坑。在服務(wù)端妙蔗,有一段I/0多路復(fù)用程序,將其置入隊(duì)列之中疆瑰。然后眉反,IO事件分派器,依次去隊(duì)列中取穆役,轉(zhuǎn)發(fā)到不同的事件處理器中寸五。

redis數(shù)據(jù)結(jié)構(gòu)

存儲(chǔ)字符串
1.set key value:設(shè)定key持有指定的字符串value,如果該key存在則進(jìn)行覆蓋操作,總是返回OK
2.get key: 獲取key的value耿币。如果與該key關(guān)聯(lián)的value不是String類(lèi)型梳杏,redis將返回錯(cuò)誤信息,因?yàn)間et命令只能用于獲取String value掰读;如果該key不存在秘狞,返回null。
3.getset key value:先獲取該key的值蹈集,然后在設(shè)置該key的值烁试。
4.incr key:將指定的key的value原子性的遞增1. 如果該key不存在,其初始值為0拢肆,在incr之后其值為1减响。如果value的值不能轉(zhuǎn)成整型,如hello郭怪,該操作將執(zhí)行失敗并返回相應(yīng)的錯(cuò)誤信息
5.decr key:將指定的key的value原子性的遞減1.如果該key不存在支示,其初始值為0,在incr之后其值為-1鄙才。如果value的值不能轉(zhuǎn)成整型颂鸿,如hello,該操作將執(zhí) 行失敗并返回相應(yīng)的錯(cuò)誤信息攒庵。
6.incrby key increment:將指定的key的value原子性增加increment嘴纺,如果該key不存在败晴,器初始值為0,在incrby之后栽渴,該值為increment尖坤。如果該值不能轉(zhuǎn)成 整型,如hello則失敗并返回錯(cuò)誤信息
7.decrby key decrement:將指定的key的value原子性減少decrement闲擦,如果該key不存在慢味,器初始值為0,在decrby之后墅冷,該值為decrement纯路。如果該值不能 轉(zhuǎn)成整型,如hello則失敗并返回錯(cuò)誤信息
8.append key value:如果該key存在俺榆,則在原有的value后追加該值感昼;如果該key 不存在装哆,則重新創(chuàng)建一個(gè)key/value

存儲(chǔ)list類(lèi)型
1.lpush key value1 value2...:在指定的key所關(guān)聯(lián)的list的頭部插入所有的values罐脊,如果該key不存在,該命令在插入的之前創(chuàng)建一個(gè)與該key關(guān)聯(lián)的空鏈表蜕琴,之后再向該鏈表的頭部插入數(shù)據(jù)萍桌。插入成功,返回元素的個(gè)數(shù)凌简。
2.rpush key value1上炎、value2…:在該list的尾部添加元素
3.lrange key start end:獲取鏈表中從start到end的元素的值,start雏搂、end可為負(fù)數(shù)藕施,若為-1則表示鏈表尾部的元素,-2則表示倒數(shù)第二個(gè)凸郑,依次類(lèi)推…
4.lpushx key value:僅當(dāng)參數(shù)中指定的key存在時(shí)(如果與key管理的list中沒(méi)有值時(shí)裳食,則該key是不存在的)在指定的key所關(guān)聯(lián)的list的頭部插入value。
5.rpushx key value:在該list的尾部添加元素
6.lpop key:返回并彈出指定的key關(guān)聯(lián)的鏈表中的第一個(gè)元素芙沥,即頭部元素
7.rpop key:從尾部彈出元素
8.rpoplpush resource destination:將鏈表中的尾部元素彈出并添加到頭部
9.llen key:返回指定的key關(guān)聯(lián)的鏈表中的元素的數(shù)量诲祸。
10.lset key index value:設(shè)置鏈表中的index的腳標(biāo)的元素值,0代表鏈表的頭元素而昨,-1代表鏈表的尾元素救氯。

存儲(chǔ)Set
添加或刪除元素
1.sadd key values[value1、value2……]:向set中添加數(shù)據(jù)歌憨,如果該key的值有則不會(huì)重復(fù)添加
例如:sadd myset a b c
2.srem key members[member1着憨、menber2…]:刪除set中的指定成員
例如:srem myset 1 2 3
獲得集合中的元素
1.smembers key :獲取set中所有的成員
smembers myset
2.sismember key menber :判斷參數(shù)中指定的成員是否在該set中,1表示存在务嫡,0表示不存在或者該key本身就不存在(無(wú)論集合中有多少元素都可以極速的返回結(jié)果)
集合的差集運(yùn)算 A-B
sdiff key1 key2 … : 返回key1與key2中相差的成員甲抖,而且與key的順序有關(guān)底桂。即返回差集。
集合的交集運(yùn)算
sinter key1 key2 key3… :返回交集
集合的并集運(yùn)算
sunion key1 key2 key3… : 返回并集
擴(kuò)展命令(了解)
scard key : 獲取set中的成員數(shù)量
例子:scard myset
srandmember key : 隨機(jī)返回set中的一個(gè)成員
sdiffstore destination key1 key2 …: 將key1 key2 相差的成員存儲(chǔ)到destination中
sinterstore destination key[key…] : 將返回的交集存儲(chǔ)在destination上
suninonstore destination key[key…] : 將返回的并集存儲(chǔ)在destination上

存儲(chǔ)hash
1.賦值
hset key field value : 為指定的key設(shè)定field/value對(duì)
hmset key field1 value1 field2 value2 field3 value3 為指定的key設(shè)定多個(gè)field/value對(duì)
2.取值
hget key field : 返回指定的key中的field的值
hmget key field1 field2 field3 : 獲取key中的多個(gè)field值
hkeys key : 獲取所有的key
hvals key :獲取所有的value
hgetall key : 獲取key中的所有field 中的所有field-value
3.刪除
hdel key field[field…] : 可以刪除一個(gè)或多個(gè)字段惧眠,返回是被刪除的字段個(gè)數(shù)
del key : 刪除整個(gè)list
4.增加數(shù)字
hincrby key field increment :設(shè)置key中field的值增加increment籽懦,如: age增加20
hincrby myhash age 5
自學(xué)命令:
hexists key field : 判斷指定的key中的field是否存在
hlen key : 獲取key所包含的field的數(shù)量
hkeys key :獲得所有的key
hkeys myhash
hvals key :獲得所有的value
hvals myhash

存儲(chǔ)sortedset
1.添加元素
zadd key score member score2 member2…:將所有成員以及該成員的分?jǐn)?shù)存放到sorted-set中。如果該元素已經(jīng)存在則會(huì)用新的分?jǐn)?shù)替換原有的分?jǐn)?shù)氛魁。返回值是新加入到集合中的元素個(gè)數(shù)暮顺。(根據(jù)分?jǐn)?shù)升序排列)
2.獲得元素
zscore key member :返回指定成員的分?jǐn)?shù)
zcard key :獲得集合中的成員數(shù)量
3.刪除元素
zrem key member[member…] :移除集合中指定的成員,可以指定多個(gè)成員
4.范圍查詢(xún)
zrange key strat end [withscores]:獲取集合中角標(biāo)為start-end的成員秀存,[withscore]參數(shù)表明返回的成員包含其分?jǐn)?shù)捶码。
zremrangebyrank key start stop :按照排名范圍刪除元素
zremrangescore key min max :按照分?jǐn)?shù)范圍刪除元素
擴(kuò)展命令(了解)
zrangebyscore key min max [withscore] [limit offset count] :返回分?jǐn)?shù)在[min,max]的成員并按照分?jǐn)?shù)從低到高排序。[withscore]:顯示分?jǐn)?shù)或链;[limit offset count]惫恼;offset,表明從腳標(biāo)為offset的元素開(kāi)始并返回count個(gè)成員
zincrby key increment member :設(shè)置指定成員的增加分?jǐn)?shù)澳盐。返回值是修改后的分?jǐn)?shù)
zcount key min max:獲取分?jǐn)?shù)在[min祈纯,max]之間的成員個(gè)數(shù)
zrank key member:返回成員在集合中的排名(從小到大)
zrevrank key member :返回成員在集合中的排名(從大到小)

key的通用操作
keys pattern : 獲取所有與pattern匹配的key ,返回所有與該key匹配的keys叼耙。 *表示任意一個(gè)或者多個(gè)字符腕窥, ?表示任意一個(gè)字符
del key1 key2… :刪除指定的key
del my1 my2 my3
exists key :判斷該key是否存在,1代表存在筛婉,0代表不存在
rename key newkey :為key重命名
expire key second:設(shè)置過(guò)期時(shí)間簇爆,單位秒
ttl key:獲取該key所剩的超時(shí)時(shí)間,如果沒(méi)有設(shè)置超時(shí)爽撒,返回-1入蛆,如果返回-2表示超時(shí)不存在。
persist key:持久化key
192.168.25.153:6379> expire Hello 100
(integer) 1
192.168.25.153:6379> ttl Hello
(integer) 77
type key:獲取指定key的類(lèi)型硕勿。該命令將以字符串的格式返回哨毁。返回的字符串為string 、list 首尼、set 挑庶、hash 和 zset,如果key不存在返回none软能。
例如: type newcompany
none

redis的數(shù)據(jù)類(lèi)型迎捺,以及每種數(shù)據(jù)類(lèi)型的使用場(chǎng)景

(一)String
這個(gè)其實(shí)沒(méi)啥好說(shuō)的,最常規(guī)的set/get操作查排,value可以是String也可以是數(shù)字凳枝。一般做一些復(fù)雜的計(jì)數(shù)功能的緩存。

(二)hash
這里value存放的是結(jié)構(gòu)化的對(duì)象,比較方便的就是操作其中的某個(gè)字段岖瑰。博主在做單點(diǎn)登錄的時(shí)候叛买,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲(chǔ)用戶信息,以cookieId作為key蹋订,設(shè)置30分鐘為緩存過(guò)期時(shí)間率挣,能很好的模擬出類(lèi)似session的效果。

(三)list
使用List的數(shù)據(jù)結(jié)構(gòu)露戒,可以做簡(jiǎn)單的消息隊(duì)列的功能椒功。另外還有一個(gè)就是,可以利用lrange命令智什,做基于redis的分頁(yè)功能动漾,性能極佳,用戶體驗(yàn)好荠锭。

(四)set
因?yàn)閟et堆放的是一堆不重復(fù)值的集合旱眯。所以可以做全局去重的功能。為什么不用JVM自帶的Set進(jìn)行去重证九?因?yàn)槲覀兊南到y(tǒng)一般都是集群部署删豺,使用JVM自帶的Set,比較麻煩甫贯,難道為了一個(gè)做一個(gè)全局去重吼鳞,再起一個(gè)公共服務(wù),太麻煩了叫搁。
另外,就是利用交集供炎、并集渴逻、差集等操作,可以計(jì)算共同喜好音诫,全部的喜好惨奕,自己獨(dú)有的喜好等功能

(五)sorted set

sorted set多了一個(gè)權(quán)重參數(shù)score,集合中的元素能夠按score進(jìn)行排列竭钝±孀玻可以做排行榜應(yīng)用,取TOP N操作香罐。另外卧波,參照另一篇《分布式之延時(shí)任務(wù)方案解析》,該文指出了sorted set可以用來(lái)做延時(shí)任務(wù)庇茫。最后一個(gè)應(yīng)用就是可以做范圍查找港粱。

redis的過(guò)期策略以及內(nèi)存淘汰機(jī)制

分析:這個(gè)問(wèn)題其實(shí)相當(dāng)重要,到底redis有沒(méi)用到家,這個(gè)問(wèn)題就可以看出來(lái)查坪。比如你redis只能存5G數(shù)據(jù)寸宏,可是你寫(xiě)了10G,那會(huì)刪5G的數(shù)據(jù)偿曙。怎么刪的氮凝,這個(gè)問(wèn)題思考過(guò)么?還有望忆,你的數(shù)據(jù)已經(jīng)設(shè)置了過(guò)期時(shí)間覆醇,但是時(shí)間到了,內(nèi)存占用率還是比較高炭臭,有思考過(guò)原因么?
回答:
redis采用的是定期刪除+惰性刪除策略永脓。
為什么不用定時(shí)刪除策略?
定時(shí)刪除,用一個(gè)定時(shí)器來(lái)負(fù)責(zé)監(jiān)視key,過(guò)期則自動(dòng)刪除。雖然內(nèi)存及時(shí)釋放鞋仍,但是十分消耗CPU資源常摧。在大并發(fā)請(qǐng)求下,CPU要將時(shí)間應(yīng)用在處理請(qǐng)求威创,而不是刪除key,因此沒(méi)有采用這一策略.
定期刪除+惰性刪除是如何工作的呢?
定期刪除落午,redis默認(rèn)每個(gè)100ms檢查,是否有過(guò)期的key,有過(guò)期key則刪除肚豺。需要說(shuō)明的是溃斋,redis不是每個(gè)100ms將所有的key檢查一次,而是隨機(jī)抽取進(jìn)行檢查(如果每隔100ms,全部key進(jìn)行檢查吸申,redis豈不是卡死)梗劫。因此,如果只采用定期刪除策略截碴,會(huì)導(dǎo)致很多key到時(shí)間沒(méi)有刪除梳侨。
于是,惰性刪除派上用場(chǎng)日丹。也就是說(shuō)在你獲取某個(gè)key的時(shí)候走哺,redis會(huì)檢查一下,這個(gè)key如果設(shè)置了過(guò)期時(shí)間那么是否過(guò)期了哲虾?如果過(guò)期了此時(shí)就會(huì)刪除丙躏。
采用定期刪除+惰性刪除就沒(méi)其他問(wèn)題了么?
不是的,如果定期刪除沒(méi)刪除key束凑。然后你也沒(méi)及時(shí)去請(qǐng)求key晒旅,也就是說(shuō)惰性刪除也沒(méi)生效。這樣湘今,redis的內(nèi)存會(huì)越來(lái)越高敢朱。那么就應(yīng)該采用內(nèi)存淘汰機(jī)制
在redis.conf中有一行配置

# maxmemory-policy allkeys-lru

該配置就是配內(nèi)存淘汰策略的(什么,你沒(méi)配過(guò)拴签?好好反省一下自己)
1)noeviction:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí)孝常,新寫(xiě)入操作會(huì)報(bào)錯(cuò)。應(yīng)該沒(méi)人用吧蚓哩。
2)allkeys-lru:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí)构灸,在鍵空間中,移除最近最少使用的key岸梨。推薦使用喜颁。
3)allkeys-random:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí),在鍵空間中曹阔,隨機(jī)移除某個(gè)key半开。應(yīng)該也沒(méi)人用吧,你不刪最少使用Key,去隨機(jī)刪赃份。
4)volatile-lru:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí)寂拆,在設(shè)置了過(guò)期時(shí)間的鍵空間中,移除最近最少使用的key抓韩。這種情況一般是把redis既當(dāng)緩存纠永,又做持久化存儲(chǔ)的時(shí)候才用。不推薦
5)volatile-random:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí)谒拴,在設(shè)置了過(guò)期時(shí)間的鍵空間中尝江,隨機(jī)移除某個(gè)key。依然不推薦
6)volatile-ttl:當(dāng)內(nèi)存不足以容納新寫(xiě)入數(shù)據(jù)時(shí)英上,在設(shè)置了過(guò)期時(shí)間的鍵空間中炭序,有更早過(guò)期時(shí)間的key優(yōu)先移除。不推薦
ps:如果沒(méi)有設(shè)置 expire 的key, 不滿足先決條件(prerequisites); 那么 volatile-lru, volatile-random 和 volatile-ttl 策略的行為, 和 noeviction(不刪除) 基本上一致善延。

redis和數(shù)據(jù)庫(kù)雙寫(xiě)一致性問(wèn)題

分析:一致性問(wèn)題是分布式常見(jiàn)問(wèn)題少态,還可以再分為最終一致性和強(qiáng)一致性。數(shù)據(jù)庫(kù)和緩存雙寫(xiě)易遣,就必然會(huì)存在不一致的問(wèn)題。答這個(gè)問(wèn)題嫌佑,先明白一個(gè)前提豆茫。就是如果對(duì)數(shù)據(jù)有強(qiáng)一致性要求,不能放緩存屋摇。我們所做的一切揩魂,只能保證最終一致性。另外炮温,我們所做的方案其實(shí)從根本上來(lái)說(shuō)火脉,只能說(shuō)降低不一致發(fā)生的概率,無(wú)法完全避免。因此倦挂,有強(qiáng)一致性要求的數(shù)據(jù)畸颅,不能放緩存。
回答:首先方援,采取正確更新策略没炒,先更新數(shù)據(jù)庫(kù),再刪緩存犯戏。其次送火,因?yàn)榭赡艽嬖趧h除緩存失敗的問(wèn)題,提供一個(gè)補(bǔ)償措施即可先匪,例如利用消息隊(duì)列种吸。

如何應(yīng)對(duì)緩存穿透和緩存雪崩問(wèn)題

分析:這兩個(gè)問(wèn)題,說(shuō)句實(shí)在話呀非,一般中小型傳統(tǒng)軟件企業(yè)坚俗,很難碰到這個(gè)問(wèn)題。如果有大并發(fā)的項(xiàng)目姜钳,流量有幾百萬(wàn)左右坦冠。這兩個(gè)問(wèn)題一定要深刻考慮。
回答:如下所示

緩存穿透:即黑客故意去請(qǐng)求緩存中不存在的數(shù)據(jù)哥桥,導(dǎo)致所有的請(qǐng)求都懟到數(shù)據(jù)庫(kù)上辙浑,從而數(shù)據(jù)庫(kù)連接異常。

解決方案:
(一)利用互斥鎖拟糕,緩存失效的時(shí)候判呕,先去獲得鎖,得到鎖了送滞,再去請(qǐng)求數(shù)據(jù)庫(kù)侠草。沒(méi)得到鎖,則休眠一段時(shí)間重試
(二)采用異步更新策略犁嗅,無(wú)論key是否取到值边涕,都直接返回。value值中維護(hù)一個(gè)緩存失效時(shí)間褂微,緩存如果過(guò)期功蜓,異步起一個(gè)線程去讀數(shù)據(jù)庫(kù),更新緩存宠蚂。需要做緩存預(yù)熱(項(xiàng)目啟動(dòng)前式撼,先加載緩存)操作。
(三)提供一個(gè)能迅速判斷請(qǐng)求是否有效的攔截機(jī)制求厕,比如著隆,利用布隆過(guò)濾器扰楼,內(nèi)部維護(hù)一系列合法有效的key。迅速判斷出美浦,請(qǐng)求所攜帶的Key是否合法有效弦赖。如果不合法,則直接返回抵代。

緩存雪崩腾节,即緩存同一時(shí)間大面積的失效,這個(gè)時(shí)候又來(lái)了一波請(qǐng)求荤牍,結(jié)果請(qǐng)求都懟到數(shù)據(jù)庫(kù)上案腺,從而導(dǎo)致數(shù)據(jù)庫(kù)連接異常。

解決方案:
(一)給緩存的失效時(shí)間康吵,加上一個(gè)隨機(jī)值劈榨,避免集體失效。
(二)使用互斥鎖晦嵌,但是該方案吞吐量明顯下降了同辣。
(三)雙緩存。我們有兩個(gè)緩存惭载,緩存A和緩存B旱函。緩存A的失效時(shí)間為20分鐘,緩存B不設(shè)失效時(shí)間描滔。自己做緩存預(yù)熱操作棒妨。然后細(xì)分以下幾個(gè)小點(diǎn)

  • I 從緩存A讀數(shù)據(jù)庫(kù),有則直接返回
  • II A沒(méi)有數(shù)據(jù)含长,直接從B讀數(shù)據(jù)券腔,直接返回,并且異步啟動(dòng)一個(gè)更新線程拘泞。
  • III 更新線程同時(shí)更新緩存A和緩存B纷纫。

如何解決redis的并發(fā)競(jìng)爭(zhēng)key問(wèn)題

分析:這個(gè)問(wèn)題大致就是,同時(shí)有多個(gè)子系統(tǒng)去set一個(gè)key陪腌。這個(gè)時(shí)候要注意什么呢辱魁?大家思考過(guò)么。需要說(shuō)明一下诗鸭,博主提前百度了一下商叹,發(fā)現(xiàn)答案基本都是推薦用redis事務(wù)機(jī)制。博主不推薦使用redis的事務(wù)機(jī)制只泼。因?yàn)槲覀兊纳a(chǎn)環(huán)境,基本都是redis集群環(huán)境卵洗,做了數(shù)據(jù)分片操作请唱。你一個(gè)事務(wù)中有涉及到多個(gè)key操作的時(shí)候弥咪,這多個(gè)key不一定都存儲(chǔ)在同一個(gè)redis-server上。因此十绑,redis的事務(wù)機(jī)制聚至,十分雞肋。

回答:如下所示
(1)如果對(duì)這個(gè)key操作本橙,不要求順序
這種情況下扳躬,準(zhǔn)備一個(gè)分布式鎖,大家去搶鎖甚亭,搶到鎖就做set操作即可贷币,比較簡(jiǎn)單。
(2)如果對(duì)這個(gè)key操作亏狰,要求順序
假設(shè)有一個(gè)key1,系統(tǒng)A需要將key1設(shè)置為valueA,系統(tǒng)B需要將key1設(shè)置為valueB,系統(tǒng)C需要將key1設(shè)置為valueC.
期望按照key1的value值按照 valueA-->valueB-->valueC的順序變化役纹。這種時(shí)候我們?cè)跀?shù)據(jù)寫(xiě)入數(shù)據(jù)庫(kù)的時(shí)候,需要保存一個(gè)時(shí)間戳暇唾。假設(shè)時(shí)間戳如下

系統(tǒng)A key 1 {valueA  3:00}
系統(tǒng)B key 1 {valueB  3:05}
系統(tǒng)C key 1 {valueC  3:10}

那么促脉,假設(shè)這會(huì)系統(tǒng)B先搶到鎖,將key1設(shè)置為{valueB 3:05}策州。接下來(lái)系統(tǒng)A搶到鎖瘸味,發(fā)現(xiàn)自己的valueA的時(shí)間戳早于緩存中的時(shí)間戳,那就不做set操作了够挂。以此類(lèi)推旁仿。

其他方法,比如利用隊(duì)列下硕,將set方法變成串行訪問(wèn)也可以丁逝。總之梭姓,靈活變通霜幼。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市誉尖,隨后出現(xiàn)的幾起案子罪既,更是在濱河造成了極大的恐慌,老刑警劉巖铡恕,帶你破解...
    沈念sama閱讀 216,470評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件琢感,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡探熔,警方通過(guò)查閱死者的電腦和手機(jī)驹针,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,393評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)诀艰,“玉大人柬甥,你說(shuō)我怎么就攤上這事饮六。” “怎么了苛蒲?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,577評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵卤橄,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我臂外,道長(zhǎng)窟扑,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,176評(píng)論 1 292
  • 正文 為了忘掉前任漏健,我火速辦了婚禮嚎货,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘漾肮。我一直安慰自己厂抖,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,189評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布克懊。 她就那樣靜靜地躺著忱辅,像睡著了一般。 火紅的嫁衣襯著肌膚如雪谭溉。 梳的紋絲不亂的頭發(fā)上墙懂,一...
    開(kāi)封第一講書(shū)人閱讀 51,155評(píng)論 1 299
  • 那天,我揣著相機(jī)與錄音扮念,去河邊找鬼损搬。 笑死,一個(gè)胖子當(dāng)著我的面吹牛柜与,可吹牛的內(nèi)容都是我干的巧勤。 我是一名探鬼主播,決...
    沈念sama閱讀 40,041評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼弄匕,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼颅悉!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起迁匠,我...
    開(kāi)封第一講書(shū)人閱讀 38,903評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤剩瓶,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后城丧,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體延曙,經(jīng)...
    沈念sama閱讀 45,319評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,539評(píng)論 2 332
  • 正文 我和宋清朗相戀三年亡哄,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了枝缔。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,703評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡蚊惯,死狀恐怖魂仍,靈堂內(nèi)的尸體忽然破棺而出拐辽,到底是詐尸還是另有隱情,我是刑警寧澤擦酌,帶...
    沈念sama閱讀 35,417評(píng)論 5 343
  • 正文 年R本政府宣布,位于F島的核電站菠劝,受9級(jí)特大地震影響赊舶,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜赶诊,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,013評(píng)論 3 325
  • 文/蒙蒙 一笼平、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧舔痪,春花似錦寓调、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,664評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至滋捶,卻和暖如春痛悯,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背重窟。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,818評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工载萌, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人巡扇。 一個(gè)月前我還...
    沈念sama閱讀 47,711評(píng)論 2 368
  • 正文 我出身青樓扭仁,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親厅翔。 傳聞我的和親對(duì)象是個(gè)殘疾皇子乖坠,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,601評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容