為什么我們做分布式使用 Redis 茵汰?

絕大部分寫業(yè)務(wù)的程序員赂弓,在實(shí)際開發(fā)中使用 Redis 的時(shí)候绑榴,只會(huì) Set Value 和 Get Value 兩個(gè)操作,對(duì) Redis 整體缺乏一個(gè)認(rèn)知盈魁。這里對(duì) Redis 常見問題做一個(gè)總結(jié)翔怎,解決大家的知識(shí)盲點(diǎn)。

1杨耙、為什么使用 Redis

在項(xiàng)目中使用 Redis赤套,主要考慮兩個(gè)角度:性能和并發(fā)。如果只是為了分布式鎖這些其他功能按脚,還有其他中間件 Zookpeer 等代替于毙,并非一定要使用 Redis敦冬。

性能:

如下圖所示辅搬,我們?cè)谂龅叫枰獔?zhí)行耗時(shí)特別久,且結(jié)果不頻繁變動(dòng)的 SQL脖旱,就特別適合將運(yùn)行結(jié)果放入緩存堪遂。這樣妈拌,后面的請(qǐng)求就去緩存中讀取泛粹,使得請(qǐng)求能夠迅速響應(yīng)。

特別是在秒殺系統(tǒng)辨图,在同一時(shí)間践险,幾乎所有人都在點(diǎn)猿妈,都在下單。巍虫。彭则。執(zhí)行的是同一操作———向數(shù)據(jù)庫查數(shù)據(jù)。

根據(jù)交互效果的不同占遥,響應(yīng)時(shí)間沒有固定標(biāo)準(zhǔn)俯抖。在理想狀態(tài)下,我們的頁面跳轉(zhuǎn)需要在瞬間解決瓦胎,對(duì)于頁內(nèi)操作則需要在剎那間解決芬萍。

并發(fā):

如下圖所示,在大并發(fā)的情況下搔啊,所有的請(qǐng)求直接訪問數(shù)據(jù)庫柬祠,數(shù)據(jù)庫會(huì)出現(xiàn)連接異常。這個(gè)時(shí)候负芋,就需要使用 Redis 做一個(gè)緩沖操作漫蛔,讓請(qǐng)求先訪問到 Redis,而不是直接訪問數(shù)據(jù)庫。

使用 Redis 的常見問題

緩存和數(shù)據(jù)庫雙寫一致性問題

緩存雪崩問題

緩存擊穿問題

緩存的并發(fā)競(jìng)爭(zhēng)問題

2惩猫、單線程的 Redis 為什么這么快

這個(gè)問題是對(duì) Redis 內(nèi)部機(jī)制的一個(gè)考察芝硬。很多人都不知道 Redis 是單線程工作模型。

原因主要是以下三點(diǎn):

純內(nèi)存操作

單線程操作轧房,避免了頻繁的上下文切換

采用了非阻塞 I/O 多路復(fù)用機(jī)制

仔細(xì)說一說 I/O 多路復(fù)用機(jī)制拌阴,打一個(gè)比方:小名在 A 城開了一家快餐店店,負(fù)責(zé)同城快餐服務(wù)奶镶。小明因?yàn)橘Y金限制迟赃,雇傭了一批配送員,然后小曲發(fā)現(xiàn)資金不夠了厂镇,只夠買一輛車送快遞纤壁。

經(jīng)營方式一

客戶每下一份訂單,小明就讓一個(gè)配送員盯著捺信,然后讓人開車去送酌媒。慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題:

時(shí)間都花在了搶車上了,大部分配送員都處在閑置狀態(tài)迄靠,搶到車才能去送秒咨。

隨著下單的增多,配送員也越來越多掌挚,小明發(fā)現(xiàn)快遞店里越來越擠雨席,沒辦法雇傭新的配送員了。

配送員之間的協(xié)調(diào)很花時(shí)間吠式。

綜合上述缺點(diǎn)陡厘,小明痛定思痛,提出了經(jīng)營方式二特占。

經(jīng)營方式二

小明只雇傭一個(gè)配送員糙置。當(dāng)客戶下單,小明按送達(dá)地點(diǎn)標(biāo)注好摩钙,依次放在一個(gè)地方罢低。最后,讓配送員依次開著車去送胖笛,送好了就回來拿下一個(gè)网持。上述兩種經(jīng)營方式對(duì)比,很明顯第二種效率更高长踊。

在上述比喻中:

每個(gè)配送員→每個(gè)線程

每個(gè)訂單→每個(gè) Socket(I/O 流)

訂單的送達(dá)地點(diǎn)→Socket 的不同狀態(tài)

客戶送餐請(qǐng)求→來自客戶端的請(qǐng)求

明曲的經(jīng)營方式→服務(wù)端運(yùn)行的代碼

一輛車→CPU 的核數(shù)

于是有了如下結(jié)論:

經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型功舀,每個(gè) I/O 流(訂單)都有一個(gè)新的線程(配送員)管理。

經(jīng)營方式二就是 I/O 多路復(fù)用身弊。只有單個(gè)線程(一個(gè)配送員)辟汰,通過跟蹤每個(gè) I/O 流的狀態(tài)(每個(gè)配送員的送達(dá)地點(diǎn))列敲,來管理多個(gè) I/O 流。

下面類比到真實(shí)的 Redis 線程模型帖汞,如圖所示:

Redis-client 在操作的時(shí)候戴而,會(huì)產(chǎn)生具有不同事件類型的 Socket。在服務(wù)端翩蘸,有一段 I/O 多路復(fù)用程序所意,將其置入隊(duì)列之中。然后催首,文件事件分派器扶踊,依次去隊(duì)列中取,轉(zhuǎn)發(fā)到不同的事件處理器中郎任。

3秧耗、Redis 的數(shù)據(jù)類型及使用場(chǎng)景

一個(gè)合格的程序員,這五種類型都會(huì)用到舶治。

String

最常規(guī)的 set/get 操作分井,Value 可以是 String 也可以是數(shù)字。一般做一些復(fù)雜的計(jì)數(shù)功能的緩存歼疮。

Hash

這里 Value 存放的是結(jié)構(gòu)化的對(duì)象杂抽,比較方便的就是操作其中的某個(gè)字段。我在做單點(diǎn)登錄的時(shí)候韩脏,就是用這種數(shù)據(jù)結(jié)構(gòu)存儲(chǔ)用戶信息,以 CookieId 作為 Key铸磅,設(shè)置 30 分鐘為緩存過期時(shí)間赡矢,能很好的模擬出類似 Session 的效果。

List

使用 List 的數(shù)據(jù)結(jié)構(gòu)阅仔,可以做簡(jiǎn)單的消息隊(duì)列的功能吹散。另外,可以利用 lrange 命令八酒,做基于 Redis 的分頁功能空民,性能極佳,用戶體驗(yàn)好羞迷。

Set

因?yàn)?Set 堆放的是一堆不重復(fù)值的集合界轩。所以可以做全局去重的功能。我們的系統(tǒng)一般都是集群部署衔瓮,使用 JVM 自帶的 Set 比較麻煩浊猾。另外,就是利用交集热鞍、并集葫慎、差集等操作衔彻,可以計(jì)算共同喜好,全部的喜好偷办,自己獨(dú)有的喜好等功能艰额。

Sorted Set

Sorted Set 多了一個(gè)權(quán)重參數(shù) Score,集合中的元素能夠按 Score 進(jìn)行排列椒涯°参可以做排行榜應(yīng)用,取 TOP N 操作逐工。Sorted Set 可以用來做延時(shí)任務(wù)铡溪。

4、Redis 的過期策略和內(nèi)存淘汰機(jī)制

Redis 是否用到家泪喊,從這就能看出來棕硫。比如你 Redis 只能存 5G 數(shù)據(jù),可是你寫了 10G袒啼,那會(huì)刪 5G 的數(shù)據(jù)哈扮。怎么刪的,這個(gè)問題思考過么蚓再?

正解:Redis 采用的是定期刪除+惰性刪除策略滑肉。

為什么不用定時(shí)刪除策略

定時(shí)刪除,用一個(gè)定時(shí)器來負(fù)責(zé)監(jiān)視 Key摘仅,過期則自動(dòng)刪除靶庙。雖然內(nèi)存及時(shí)釋放,但是十分消耗 CPU 資源娃属。在大并發(fā)請(qǐng)求下六荒,CPU 要將時(shí)間應(yīng)用在處理請(qǐng)求,而不是刪除 Key矾端,因此沒有采用這一策略掏击。

定期刪除+惰性刪除如何工作

定期刪除,Redis 默認(rèn)每個(gè) 100ms 檢查秩铆,有過期 Key 則刪除砚亭。需要說明的是,Redis 不是每個(gè) 100ms 將所有的 Key 檢查一次殴玛,而是隨機(jī)抽取進(jìn)行檢查捅膘。如果只采用定期刪除策略,會(huì)導(dǎo)致很多 Key 到時(shí)間沒有刪除族阅。于是篓跛,惰性刪除派上用場(chǎng)。

采用定期刪除+惰性刪除就沒其他問題了么

不是的坦刀,如果定期刪除沒刪除掉 Key愧沟。并且你也沒及時(shí)去請(qǐng)求 Key蔬咬,也就是說惰性刪除也沒生效。這樣沐寺,Redis 的內(nèi)存會(huì)越來越高林艘。那么就應(yīng)該采用內(nèi)存淘汰機(jī)制。

在 redis.conf 中有一行配置:

# maxmemory-policy volatile-lru

該配置就是配內(nèi)存淘汰策略的:

noeviction:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)混坞,新寫入操作會(huì)報(bào)錯(cuò)狐援。

allkeys-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在鍵空間中究孕,移除最近最少使用的 Key啥酱。(推薦使用,目前項(xiàng)目在用這種)(最近最久使用算法)

allkeys-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)厨诸,在鍵空間中镶殷,隨機(jī)移除某個(gè) Key。(應(yīng)該也沒人用吧微酬,你不刪最少使用 Key绘趋,去隨機(jī)刪)

volatile-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的鍵空間中颗管,移除最近最少使用的 Key陷遮。這種情況一般是把 Redis 既當(dāng)緩存,又做持久化存儲(chǔ)的時(shí)候才用垦江。(不推薦)

volatile-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)帽馋,在設(shè)置了過期時(shí)間的鍵空間中,隨機(jī)移除某個(gè) Key疫粥。(依然不推薦)

volatile-ttl:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí)茬斧,在設(shè)置了過期時(shí)間的鍵空間中,有更早過期時(shí)間的 Key 優(yōu)先移除梗逮。(不推薦)

5、Redis 和數(shù)據(jù)庫雙寫一致性問題

一致性問題還可以再分為最終一致性和強(qiáng)一致性绣溜。數(shù)據(jù)庫和緩存雙寫慷彤,就必然會(huì)存在不一致的問題。前提是如果對(duì)數(shù)據(jù)有強(qiáng)一致性要求怖喻,不能放緩存底哗。我們所做的一切,只能保證最終一致性锚沸。

另外跋选,我們所做的方案從根本上來說,只能降低不一致發(fā)生的概率哗蜈。因此前标,有強(qiáng)一致性要求的數(shù)據(jù)坠韩,不能放緩存。首先炼列,采取正確更新策略只搁,先更新數(shù)據(jù)庫,再刪緩存俭尖。其次氢惋,因?yàn)榭赡艽嬖趧h除緩存失敗的問題,提供一個(gè)補(bǔ)償措施即可稽犁,例如利用消息隊(duì)列焰望。

6、如何應(yīng)對(duì)緩存穿透和緩存雪崩問題

這兩個(gè)問題已亥,一般中小型傳統(tǒng)軟件企業(yè)很難碰到熊赖。如果有大并發(fā)的項(xiàng)目,流量有幾百萬左右陷猫,這兩個(gè)問題一定要深刻考慮秫舌。緩存穿透,即黑客故意去請(qǐng)求緩存中不存在的數(shù)據(jù)绣檬,導(dǎo)致所有的請(qǐng)求都懟到數(shù)據(jù)庫上足陨,從而數(shù)據(jù)庫連接異常。

緩存穿透解決方案:

利用互斥鎖娇未,緩存失效的時(shí)候墨缘,先去獲得鎖,得到鎖了零抬,再去請(qǐng)求數(shù)據(jù)庫镊讼。沒得到鎖,則休眠一段時(shí)間重試平夜。

采用異步更新策略蝶棋,無論 Key 是否取到值,都直接返回忽妒。Value 值中維護(hù)一個(gè)緩存失效時(shí)間玩裙,緩存如果過期,異步起一個(gè)線程去讀數(shù)據(jù)庫段直,更新緩存吃溅。需要做緩存預(yù)熱(項(xiàng)目啟動(dòng)前,先加載緩存)操作鸯檬。

提供一個(gè)能迅速判斷請(qǐng)求是否有效的攔截機(jī)制决侈,比如,利用布隆過濾器喧务,內(nèi)部維護(hù)一系列合法有效的 Key赖歌。迅速判斷出枉圃,請(qǐng)求所攜帶的 Key 是否合法有效。如果不合法俏站,則直接返回讯蒲。

緩存雪崩,即緩存同一時(shí)間大面積的失效肄扎,這個(gè)時(shí)候又來了一波請(qǐng)求墨林,結(jié)果請(qǐng)求都懟到數(shù)據(jù)庫上,從而導(dǎo)致數(shù)據(jù)庫連接異常犯祠。

緩存雪崩解決方案:

給緩存的失效時(shí)間旭等,加上一個(gè)隨機(jī)值,避免集體失效衡载。

使用互斥鎖搔耕,但是該方案吞吐量明顯下降了。

雙緩存痰娱。我們有兩個(gè)緩存弃榨,緩存 A 和緩存 B。緩存 A 的失效時(shí)間為 20 分鐘梨睁,緩存 B 不設(shè)失效時(shí)間鲸睛。自己做緩存預(yù)熱操作。

然后細(xì)分以下幾個(gè)小點(diǎn):從緩存 A 讀數(shù)據(jù)庫坡贺,有則直接返回官辈;A 沒有數(shù)據(jù),直接從 B 讀數(shù)據(jù)遍坟,直接返回拳亿,并且異步啟動(dòng)一個(gè)更新線程,更新線程同時(shí)更新緩存 A 和緩存 B愿伴。

7肺魁、如何解決 Redis 的并發(fā)競(jìng)爭(zhēng) Key 問題

這個(gè)問題大致就是,同時(shí)有多個(gè)子系統(tǒng)去 Set 一個(gè) Key隔节。這個(gè)時(shí)候要注意什么呢万搔?大家基本都是推薦用 Redis 事務(wù)機(jī)制。

但是我并不推薦使用 Redis 的事務(wù)機(jī)制官帘。因?yàn)槲覀兊纳a(chǎn)環(huán)境,基本都是 Redis 集群環(huán)境昧谊,做了數(shù)據(jù)分片操作刽虹。你一個(gè)事務(wù)中有涉及到多個(gè) Key 操作的時(shí)候,這多個(gè) Key 不一定都存儲(chǔ)在同一個(gè) redis-server 上呢诬。因此涌哲,Redis 的事務(wù)機(jī)制胖缤,十分雞肋。

如果對(duì)這個(gè) Key 操作阀圾,不要求順序

這種情況下哪廓,準(zhǔn)備一個(gè)分布式鎖,大家去搶鎖初烘,搶到鎖就做 set 操作即可涡真,比較簡(jiǎn)單。

如果對(duì)這個(gè) Key 操作肾筐,要求順序

假設(shè)有一個(gè) key1哆料,系統(tǒng) A 需要將 key1 設(shè)置為 valueA,系統(tǒng) B 需要將 key1 設(shè)置為 valueB吗铐,系統(tǒng) C 需要將 key1 設(shè)置為 valueC东亦。

期望按照 key1 的 value 值按照 valueA > valueB > valueC 的順序變化。這種時(shí)候我們?cè)跀?shù)據(jù)寫入數(shù)據(jù)庫的時(shí)候唬渗,需要保存一個(gè)時(shí)間戳典阵。

假設(shè)時(shí)間戳如下

系統(tǒng) A key 1 {valueA? 3:00}

系統(tǒng) B key 1 {valueB? 3:05}

系統(tǒng) C key 1 {valueC? 3:10}

那么,假設(shè)系統(tǒng) B 先搶到鎖镊逝,將 key1 設(shè)置為{valueB 3:05}壮啊。接下來系統(tǒng) A 搶到鎖,發(fā)現(xiàn)自己的 valueA 的時(shí)間戳早于緩存中的時(shí)間戳蹋半,那就不做 set 操作了他巨,以此類推。其他方法减江,比如利用隊(duì)列染突,將 set 方法變成串行訪問也可以。

8辈灼、總結(jié)

Redis 在國內(nèi)各大公司都能看到其身影份企,比如我們熟悉的新浪,阿里巡莹,騰訊司志,百度,美團(tuán)降宅,小米等骂远。學(xué)習(xí) Redis,這幾方面尤其重要:Redis 客戶端腰根、Redis 高級(jí)功能激才、Redis 持久化和開發(fā)運(yùn)維常用問題探討、Redis 復(fù)制的原理和優(yōu)化策略、Redis 分布式解決方案等

作者:程序之心 丁儀

鏈接:https://zhuanlan.zhihu.com/p/50392209

著作權(quán)歸作者所有瘸恼。商業(yè)轉(zhuǎn)載請(qǐng)聯(lián)系作者獲得授權(quán)劣挫,非商業(yè)轉(zhuǎn)載請(qǐng)注明出處。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末东帅,一起剝皮案震驚了整個(gè)濱河市压固,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌靠闭,老刑警劉巖帐我,帶你破解...
    沈念sama閱讀 217,277評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異阎毅,居然都是意外死亡焚刚,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門扇调,熙熙樓的掌柜王于貴愁眉苦臉地迎上來矿咕,“玉大人,你說我怎么就攤上這事狼钮√贾” “怎么了?”我有些...
    開封第一講書人閱讀 163,624評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵熬芜,是天一觀的道長(zhǎng)莲镣。 經(jīng)常有香客問我,道長(zhǎng)涎拉,這世上最難降的妖魔是什么瑞侮? 我笑而不...
    開封第一講書人閱讀 58,356評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮鼓拧,結(jié)果婚禮上半火,老公的妹妹穿的比我還像新娘。我一直安慰自己季俩,他們只是感情好钮糖,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,402評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著酌住,像睡著了一般店归。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上酪我,一...
    開封第一講書人閱讀 51,292評(píng)論 1 301
  • 那天消痛,我揣著相機(jī)與錄音,去河邊找鬼都哭。 笑死肄满,一個(gè)胖子當(dāng)著我的面吹牛谴古,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播稠歉,決...
    沈念sama閱讀 40,135評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼汇陆!你這毒婦竟也來了怒炸?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,992評(píng)論 0 275
  • 序言:老撾萬榮一對(duì)情侶失蹤毡代,失蹤者是張志新(化名)和其女友劉穎阅羹,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體教寂,經(jīng)...
    沈念sama閱讀 45,429評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡捏鱼,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,636評(píng)論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了酪耕。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片导梆。...
    茶點(diǎn)故事閱讀 39,785評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖迂烁,靈堂內(nèi)的尸體忽然破棺而出看尼,到底是詐尸還是另有隱情,我是刑警寧澤盟步,帶...
    沈念sama閱讀 35,492評(píng)論 5 345
  • 正文 年R本政府宣布藏斩,位于F島的核電站,受9級(jí)特大地震影響却盘,放射性物質(zhì)發(fā)生泄漏狰域。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,092評(píng)論 3 328
  • 文/蒙蒙 一黄橘、第九天 我趴在偏房一處隱蔽的房頂上張望兆览。 院中可真熱鬧,春花似錦旬陡、人聲如沸拓颓。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽驶睦。三九已至,卻和暖如春匿醒,著一層夾襖步出監(jiān)牢的瞬間场航,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評(píng)論 1 269
  • 我被黑心中介騙來泰國打工廉羔, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留溉痢,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,891評(píng)論 2 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像孩饼,于是被迫代替她去往敵國和親髓削。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,713評(píng)論 2 354