緩存穿透
緩存穿透是指用戶請(qǐng)求的數(shù)據(jù)在緩存中不存在即沒有命中馁筐,同時(shí)在數(shù)據(jù)庫(kù)中也不存在涂召,導(dǎo)致用戶每次請(qǐng)求該數(shù)據(jù)都要去數(shù)據(jù)庫(kù)中查詢一遍,然后返回空敏沉。
常見與惡意攻擊時(shí)果正,不斷請(qǐng)求系統(tǒng)中不存在的數(shù)據(jù),導(dǎo)致短時(shí)間內(nèi)大量請(qǐng)求緩存中找不到落到數(shù)據(jù)庫(kù)中盟迟,同時(shí)因?yàn)椴淮嬖谇镉荆膊粫?huì)刷新到緩存中,導(dǎo)致數(shù)據(jù)庫(kù)壓力過(guò)大攒菠,甚至導(dǎo)致數(shù)據(jù)庫(kù)崩潰轮锥。
常見解決方法
(1)緩存空對(duì)象
當(dāng)緩存未命中,而且查詢數(shù)據(jù)庫(kù)也為空時(shí)要尔,可以將返回的空對(duì)象寫到緩存中舍杜,這樣下次請(qǐng)求的時(shí)候,就不會(huì)落到數(shù)據(jù)庫(kù)中赵辕,
存在問(wèn)題:
- 如果有大量的key穿透既绩,會(huì)占用不必要的內(nèi)存空間(可以設(shè)置標(biāo)識(shí),共用同一緩存)还惠。
- 過(guò)期時(shí)間內(nèi)饲握,會(huì)導(dǎo)致緩存與數(shù)據(jù)庫(kù)不一致的問(wèn)題(當(dāng)數(shù)據(jù)庫(kù)變化時(shí),主動(dòng)刷新緩存)蚕键。
(2)布隆過(guò)濾器
布隆過(guò)濾器由一個(gè)長(zhǎng)度為m比特的位數(shù)組(bit array)與k個(gè)哈希函數(shù)(hash function)組成的數(shù)據(jù)結(jié)構(gòu)救欧。位數(shù)組初始化均為0,所有的哈希函數(shù)都可以分別把輸入數(shù)據(jù)盡量均勻地散列锣光。
當(dāng)要向布隆過(guò)濾器中插入一個(gè)元素時(shí)笆怠,會(huì)經(jīng)過(guò)n個(gè)哈希函數(shù)計(jì)算出n個(gè)哈希值,以哈希值為數(shù)組下標(biāo)誊爹,將所有n個(gè)對(duì)應(yīng)的比特值置為1.
當(dāng)對(duì)應(yīng)哈希值為數(shù)組下標(biāo)的值蹬刷,存在任意一個(gè)比特為0,則認(rèn)為這個(gè)元素一定不在該集合中频丘,如果所有比特均為1办成,則認(rèn)為這個(gè)元素有可能在集合中(因?yàn)榇嬖诠E鲎玻圆荒芡耆袛嘣诩现校?br>
這種不確定性搂漠,可能增加足夠多的哈希函數(shù)迂卢,來(lái)減少此不確定性,當(dāng)然桐汤,這也會(huì)造成而克,該數(shù)組能夠判斷的元素量級(jí)變少。
優(yōu)點(diǎn):
- 節(jié)省空間:在只需要判斷是否存在的場(chǎng)景下(比如用戶名不能重復(fù))惊科,不需要存儲(chǔ)數(shù)據(jù)本身拍摇,只需要存儲(chǔ)數(shù)據(jù)對(duì)應(yīng)的哈希比特位
- 時(shí)間復(fù)雜度:插入和查找的時(shí)間復(fù)雜度都為O(k),k為哈希函數(shù)的個(gè)數(shù)馆截。
缺點(diǎn):
- 存在誤差充活,該誤差取決于哈希函數(shù)的個(gè)數(shù),需要根據(jù)元素量做權(quán)衡
- 不能刪除元素
緩存擊穿
緩存擊穿蜡娶,是指一個(gè)key非常熱點(diǎn)混卵,在不停的扛著大并發(fā),大并發(fā)集中對(duì)這一個(gè)點(diǎn)進(jìn)行訪問(wèn)窖张,當(dāng)這個(gè)key在失效的瞬間幕随,持續(xù)的大并發(fā)就穿破緩存,直接請(qǐng)求數(shù)據(jù)庫(kù)宿接,就像在一個(gè)屏障上鑿開了一個(gè)洞赘淮。
這個(gè)現(xiàn)象會(huì)導(dǎo)致數(shù)據(jù)庫(kù)瞬間壓力暴增辕录,造成大量請(qǐng)求阻塞。
常見解決方式
(1)使用互斥鎖
就是讓一個(gè)線程去完成查庫(kù)寫回緩存工作梢卸,其他線程等待完成之后再讀緩存走诞。
但是在高并發(fā)的場(chǎng)景下,會(huì)造成大量線程阻塞蛤高,降低吞吐量蚣旱。
(2)熱點(diǎn)數(shù)據(jù)永不過(guò)期
- key的有效期直接不設(shè)置(對(duì)于運(yùn)維和長(zhǎng)期維護(hù)來(lái)說(shuō)不友好)
- 通過(guò)后臺(tái)異步線程對(duì)緩存進(jìn)行更新,續(xù)期(key的量過(guò)多時(shí)戴陡,會(huì)造成更新量巨大塞绿,對(duì)熱點(diǎn)數(shù)據(jù)的定義需要更好的規(guī)劃)
(3)雙層緩存策略
使用主備兩層緩存:
主緩存:有效期按照經(jīng)驗(yàn)值設(shè)置,設(shè)置為主讀取的緩存恤批,主緩存失效后從數(shù)據(jù)庫(kù)加載最新值异吻。
備份緩存:有效期長(zhǎng),獲取鎖失敗時(shí)讀取的緩存开皿,主緩存更新時(shí)需要同步更新備份緩存涧黄。
緩存雪崩
緩存雪崩是指緩存中數(shù)據(jù)大批量到過(guò)期時(shí)間,而查詢數(shù)據(jù)量巨大赋荆,請(qǐng)求直接落到數(shù)據(jù)庫(kù)上笋妥,引起數(shù)據(jù)庫(kù)壓力過(guò)大甚至宕機(jī)。和緩存擊穿不同的是窄潭,緩存擊穿指并發(fā)查同一條數(shù)據(jù)春宣,緩存雪崩是不同數(shù)據(jù)都過(guò)期了,很多數(shù)據(jù)都查不到從而查數(shù)據(jù)庫(kù)嫉你。
常見解決方式
(1)均勻過(guò)期
設(shè)置不同的過(guò)期時(shí)間月帝,比如增加隨機(jī)值或者統(tǒng)一規(guī)劃。
但是在key過(guò)多時(shí)幽污,該問(wèn)題仍存在
(2)加互斥鎖
跟緩存擊穿解決思路一致嚷辅,同一時(shí)間只讓一個(gè)線程構(gòu)建緩存,其他線程阻塞排隊(duì)距误。
高并發(fā)情況下簸搞,會(huì)影響吞吐量。
(3)緩存永不過(guò)期
跟緩存擊穿解決思路一致准潭,緩存在物理上永遠(yuǎn)不過(guò)期趁俊,用一個(gè)異步的線程更新緩存。
(4)雙層緩存策略
使用主備兩層緩存:
主緩存:有效期按照經(jīng)驗(yàn)設(shè)置刑然,設(shè)置為主讀取的緩存寺擂,主緩存失效后從數(shù)據(jù)庫(kù)加載最新值。
備份緩存:有效期長(zhǎng),獲取鎖失敗時(shí)讀取的緩存怔软,主緩存更新時(shí)需要同步更新備份緩存垦细。
緩存預(yù)熱
緩存預(yù)熱就是系統(tǒng)上線后,將相關(guān)的緩存數(shù)據(jù)直接加載到緩存系統(tǒng)挡逼,這樣就可以避免在用戶請(qǐng)求的時(shí)候蝠检,先查詢數(shù)據(jù)庫(kù),然后再將數(shù)據(jù)回寫到緩存挚瘟。
如果不進(jìn)行預(yù)熱, 那么 Redis 初始狀態(tài)數(shù)據(jù)為空饲梭,系統(tǒng)上線初期乘盖,對(duì)于高并發(fā)的流量,都會(huì)訪問(wèn)到數(shù)據(jù)庫(kù)中憔涉, 對(duì)數(shù)據(jù)庫(kù)造成流量的壓力订框。
常見解決方式:
- 數(shù)據(jù)量不大的時(shí)候,工程啟動(dòng)的時(shí)候進(jìn)行加載緩存動(dòng)作兜叨;
- 數(shù)據(jù)量大的時(shí)候穿扳,設(shè)置一個(gè)定時(shí)任務(wù)腳本,進(jìn)行緩存的刷新国旷;
- 數(shù)據(jù)量太大的時(shí)候矛物,優(yōu)先保證熱點(diǎn)數(shù)據(jù)進(jìn)行提前加載到緩存。
緩存降級(jí)
緩存降級(jí)是指緩存失效或緩存服務(wù)器掛掉的情況下跪但,不去訪問(wèn)數(shù)據(jù)庫(kù)履羞,直接返回默認(rèn)數(shù)據(jù)或訪問(wèn)服務(wù)的內(nèi)存數(shù)據(jù)。
常見解決方式
在項(xiàng)目實(shí)戰(zhàn)中通常會(huì)將部分熱點(diǎn)數(shù)據(jù)緩存到服務(wù)的內(nèi)存中屡久,這樣一旦緩存出現(xiàn)異常忆首,可以直接使用服務(wù)的內(nèi)存數(shù)據(jù),從而避免數(shù)據(jù)庫(kù)遭受巨大壓力被环。
集群腦裂
因?yàn)榫W(wǎng)絡(luò)原因糙及,master、slave筛欢、sentinel在不同的網(wǎng)絡(luò)分區(qū)浸锨,當(dāng)sentinel無(wú)法感知master時(shí),會(huì)將slave升級(jí)為master悴能,此時(shí)揣钦,服務(wù)器存在兩個(gè)master,而部分客戶端還可能連接原有master漠酿,當(dāng)網(wǎng)絡(luò)恢復(fù)冯凹,將原master降為slave時(shí),會(huì)造成數(shù)據(jù)丟失
min-replicas-to-write 3 表示連接到master的最少slave數(shù)量
min-replicas-max-lag 10 表示slave連接到master的最大延遲時(shí)間
如果連接到master的slave數(shù)量 < 第一個(gè)參數(shù) 且 ping的延遲時(shí)間 <= 第二個(gè)參數(shù)那么master就會(huì)拒絕寫請(qǐng)求,配置了這兩個(gè)參數(shù)后如果發(fā)生了集群腦裂則原先的master節(jié)點(diǎn)接收到客戶端的寫入請(qǐng)求會(huì)拒絕就可以減少數(shù)據(jù)同步之后的數(shù)據(jù)丟失宇姚。