0 Github

1 面試題

如何保證緩存與數(shù)據(jù)庫(kù)的雙寫一致性偶器？

2 考點(diǎn)分析

你只要用緩存翻斟，就可能會(huì)涉及到緩存與數(shù)據(jù)庫(kù)雙存儲(chǔ)雙寫主慰，你只要是雙寫移宅，就一定會(huì)有數(shù)據(jù)一致性的問(wèn)題，那么你如何解決一致性問(wèn)題叁巨？

3 詳解

一般來(lái)說(shuō)斑匪，就是如果你的系統(tǒng)不是嚴(yán)格要求緩存+數(shù)據(jù)庫(kù)必須一致性的話，緩存可以稍微的跟數(shù)據(jù)庫(kù)偶爾有不一致的情況，最好不要做這個(gè)方案

讀請(qǐng)求和寫請(qǐng)求串行化蚀瘸，串到一個(gè)內(nèi)存隊(duì)列里去狡蝶，這樣就可以保證一定不會(huì)出現(xiàn)不一致的情況

串行化之后，就會(huì)導(dǎo)致系統(tǒng)的吞吐量會(huì)大幅度的降低贮勃，用比正常情況下多幾倍的機(jī)器去支撐線上的一個(gè)請(qǐng)求贪惹。

3.1 Cache Aside Pattern緩存+數(shù)據(jù)庫(kù)讀寫模式的分析

最經(jīng)典的緩存+數(shù)據(jù)庫(kù)讀寫的模式 cache aside pattern

3.1.1 Cache Aside Pattern

（1）讀的時(shí)候，先讀緩存寂嘉，緩存沒(méi)有的話奏瞬，就讀數(shù)據(jù)庫(kù)，然后取出數(shù)據(jù)后放入緩存泉孩，同時(shí)返回響應(yīng)

（2）更新的時(shí)候硼端，先刪除緩存，然后再更新數(shù)據(jù)庫(kù)

• cache aside pattern

  
  
  image

  3.1.2 為什么是刪除緩存寓搬，而不是更新緩存呢珍昨？很多時(shí)候，復(fù)雜點(diǎn)的緩存的場(chǎng)景句喷，因?yàn)榫彺嬗械臅r(shí)候镣典，不單是數(shù)據(jù)庫(kù)中直接取出來(lái)的值

商品詳情頁(yè)的系統(tǒng)，修改庫(kù)存唾琼，只是修改了某個(gè)表的某些字段兄春，但是要真正把這個(gè)影響的最終的庫(kù)存計(jì)算出來(lái)，可能還需要從其他表查詢一些數(shù)據(jù)锡溯，然后進(jìn)行一些復(fù)雜的運(yùn)算赶舆，才能最終計(jì)算出

現(xiàn)在最新的庫(kù)存是多少，然后才能將庫(kù)存更新到緩存中去

比如可能更新了某個(gè)表的一個(gè)字段趾唱，然后其對(duì)應(yīng)的緩存涌乳，是需要查詢另外兩個(gè)表的數(shù)據(jù)忿薇，并運(yùn)算哮缺，才能計(jì)算出緩存最新的值的

更新緩存的代價(jià)是很高的

是不是說(shuō)，每次修改數(shù)據(jù)庫(kù)的時(shí)候磷账，都一定要將其對(duì)應(yīng)的緩存去更新一份悠咱？

也許有的場(chǎng)景是這樣的蒸辆，但是對(duì)于比較復(fù)雜的緩存數(shù)據(jù)計(jì)算的場(chǎng)景，就不是這樣了

如果你頻繁修改一個(gè)緩存涉及的多個(gè)表析既，那么這個(gè)緩存會(huì)被頻繁的更新躬贡，頻繁的更新緩存

但是問(wèn)題在于，這個(gè)緩存到底會(huì)不會(huì)被頻繁訪問(wèn)到眼坏？拂玻？？

舉個(gè)例子，一個(gè)緩存涉及的表的字段檐蚜，在1分鐘內(nèi)就修改了20次魄懂，或者是100次，那么緩存更新20次闯第，100次; 但是這個(gè)緩存在1分鐘內(nèi)就被讀取了1次市栗，有大量的冷數(shù)據(jù)

28法則，黃金法則咳短，20%的數(shù)據(jù)填帽，占用了80%的訪問(wèn)量

實(shí)際上，如果你只是刪除緩存的話咙好，那么1分鐘內(nèi)篡腌，這個(gè)緩存不過(guò)就重新計(jì)算一次而已，開(kāi)銷大幅度降低

每次數(shù)據(jù)過(guò)來(lái)勾效，就只是刪除緩存哀蘑，然后修改數(shù)據(jù)庫(kù)，如果這個(gè)緩存葵第，在1分鐘內(nèi)只是被訪問(wèn)了1次，那么只有那1次合溺，緩存是要被重新計(jì)算的卒密，用緩存才去算緩存

其實(shí)刪除緩存，而不是更新緩存棠赛，就是一個(gè)惰性延遲計(jì)算的思想哮奇，不要每次都重新做復(fù)雜的計(jì)算，不管它會(huì)不會(huì)用到睛约，而是讓它到需要被使用的時(shí)候再重新計(jì)算

mybatis鼎俘，hibernate，懶加載辩涝，思想

查詢一個(gè)部門贸伐，部門帶了一個(gè)員工的list，沒(méi)有必要說(shuō)每次查詢部門怔揩，都里面的1000個(gè)員工的數(shù)據(jù)也同時(shí)查出來(lái)啊

80%的情況捉邢，查這個(gè)部門，就只是要訪問(wèn)這個(gè)部門的信息就可以了

先查部門商膊，同時(shí)要訪問(wèn)里面的員工伏伐，那么這個(gè)時(shí)候只有在你要訪問(wèn)里面的員工的時(shí)候，才會(huì)去數(shù)據(jù)庫(kù)里面查詢1000個(gè)員工

更多緩存設(shè)計(jì)模式請(qǐng)閱讀

大行緩存更新之道.md

3.2 高并發(fā)場(chǎng)景下的緩存+數(shù)據(jù)庫(kù)雙寫不一致問(wèn)題分析與解決方案設(shè)計(jì)

開(kāi)發(fā)業(yè)務(wù)系統(tǒng)

從哪一步開(kāi)始做晕拆，從比較簡(jiǎn)單的那塊開(kāi)始做藐翎，實(shí)時(shí)性要求比較高的那塊數(shù)據(jù)的緩存去做

實(shí)時(shí)性比較高的數(shù)據(jù)緩存，就是庫(kù)存的服務(wù)

庫(kù)存可能會(huì)修改，每次修改都要去更新這個(gè)緩存數(shù)據(jù); 每次庫(kù)存的數(shù)據(jù)吝镣，在緩存中一旦過(guò)期堤器，或者是被清理掉了，前端的nginx服務(wù)都會(huì)發(fā)送請(qǐng)求給庫(kù)存服務(wù)赤惊，去獲取相應(yīng)的數(shù)據(jù)

庫(kù)存這一塊吼旧，寫數(shù)據(jù)庫(kù)的時(shí)候，直接更新redis緩存

實(shí)際上沒(méi)有這么的簡(jiǎn)單未舟，這里圈暗，其實(shí)就涉及到了一個(gè)問(wèn)題

數(shù)據(jù)庫(kù)與緩存雙寫，數(shù)據(jù)不一致的問(wèn)題

圍繞和結(jié)合實(shí)時(shí)性較高的庫(kù)存服務(wù)裕膀，把數(shù)據(jù)庫(kù)與緩存雙寫不一致問(wèn)題以及其解決方案员串，給大家講解一下

數(shù)據(jù)庫(kù)與緩存雙寫不一致，很常見(jiàn)的問(wèn)題昼扛，大型的緩存架構(gòu)中寸齐，第一個(gè)解決方案

也可能說(shuō)，有些方案只是適合某些場(chǎng)景抄谐，在某些場(chǎng)景下渺鹦，可能需要你進(jìn)行方案的優(yōu)化和調(diào)整才能適用于你自己的項(xiàng)目

3.2.1 最初級(jí)的緩存不一致問(wèn)題以及解決方案

Q：先修改數(shù)據(jù)庫(kù)，再刪除緩存蛹含，如果緩存刪除失敗毅厚，那么會(huì)導(dǎo)致數(shù)據(jù)庫(kù)中是新數(shù)據(jù)，緩存中是舊數(shù)據(jù)浦箱，數(shù)據(jù)出現(xiàn)不一致!

• 最初級(jí)的數(shù)據(jù)庫(kù)+緩存雙寫不一致問(wèn)題

  
  
  image

A:先刪除緩存吸耿，再修改數(shù)據(jù)庫(kù)，如果刪除緩存成功了酷窥，如果修改數(shù)據(jù)庫(kù)失敗了咽安，那么數(shù)據(jù)庫(kù)中是舊數(shù)據(jù)，緩存中是空的蓬推，那么數(shù)據(jù)不會(huì)不一致

因?yàn)樽x的時(shí)候緩存沒(méi)有，則讀數(shù)據(jù)庫(kù)中舊數(shù)據(jù)沸伏，然后更新到緩存中

3.2.2 比較復(fù)雜的數(shù)據(jù)不一致問(wèn)題分析

數(shù)據(jù)發(fā)生了變更，先刪除了緩存放接，然后要去修改數(shù)據(jù)庫(kù)，此時(shí)還沒(méi)修改

一個(gè)請(qǐng)求過(guò)來(lái)留特，去讀緩存纠脾，發(fā)現(xiàn)緩存空了，去查詢數(shù)據(jù)庫(kù)苟蹈，查到了修改前的舊數(shù)據(jù)，放到了緩存中

數(shù)據(jù)變更的程序完成了數(shù)據(jù)庫(kù)的修改

完了慧脱，數(shù)據(jù)庫(kù)和緩存中的數(shù)據(jù)不一樣了渺绒。。菱鸥。。

image

3.2.3 為什么上億流量高并發(fā)場(chǎng)景下殷绍，緩存會(huì)出現(xiàn)這個(gè)問(wèn)題鹊漠？

只有在對(duì)一個(gè)數(shù)據(jù)在并發(fā)讀寫時(shí)，才可能會(huì)出現(xiàn)這種問(wèn)題

其實(shí)如果說(shuō)你的并發(fā)量很低的話登钥，特別是讀很低，每天訪問(wèn)量就1萬(wàn)次怔鳖，那么很少會(huì)出現(xiàn)剛才描述的那種不一致的場(chǎng)景

但問(wèn)題是固蛾，如果每天的是上億的流量度陆，每秒并發(fā)讀是幾萬(wàn)，每秒只要有數(shù)據(jù)更新的請(qǐng)求懂傀，就可能會(huì)出現(xiàn)上述的數(shù)據(jù)庫(kù)+緩存不一致的情況

高并發(fā)了以后，問(wèn)題是很多的

3.2.4 數(shù)據(jù)庫(kù) & 緩存更新與讀取 異步串行化

更新數(shù)據(jù)的時(shí)候恃泪，根據(jù)數(shù)據(jù)的唯一標(biāo)識(shí)犀斋，將操作路由之后，發(fā)送到一個(gè)JVM內(nèi)部的隊(duì)列中

讀數(shù)據(jù)的時(shí)候叽粹，如果發(fā)現(xiàn)數(shù)據(jù)不在緩存中却舀，那么將重讀數(shù)據(jù)+更新緩存锤灿，根據(jù)唯一標(biāo)識(shí)路由之后但校，也發(fā)送同一個(gè)JVM內(nèi)部的隊(duì)列中

一個(gè)隊(duì)列對(duì)應(yīng)一個(gè)工作線程

每個(gè)工作線程串行拿到對(duì)應(yīng)的操作，然后一條一條的執(zhí)行

這樣的話状囱，一個(gè)數(shù)據(jù)變更的操作，先執(zhí)行刪除緩存穗椅，然后再更新數(shù)據(jù)庫(kù)，但是還沒(méi)完成更新

此時(shí)如果一個(gè)讀請(qǐng)求過(guò)來(lái)奶栖，讀到了空緩存，則可以先將緩存更新的請(qǐng)求發(fā)送到隊(duì)列中袍镀，此時(shí)會(huì)在隊(duì)列中積壓冻晤，然后同步等待緩存更新完成

這里有一個(gè)優(yōu)化點(diǎn)，一個(gè)隊(duì)列中鼻弧，其實(shí)多個(gè)更新緩存請(qǐng)求串在一起是沒(méi)意義的，因此可以做過(guò)濾叉存，如果發(fā)現(xiàn)隊(duì)列中已經(jīng)有一個(gè)更新緩存的請(qǐng)求了度帮，那么就不用再放個(gè)更新請(qǐng)求操作進(jìn)去了，直接等待前面的更新操作請(qǐng)求完成即可

待那個(gè)隊(duì)列對(duì)應(yīng)的工作線程完成了上一個(gè)操作的數(shù)據(jù)庫(kù)的修改之后瞳秽，才會(huì)去執(zhí)行下一個(gè)操作率翅，也就是緩存更新的操作，此時(shí)會(huì)從數(shù)據(jù)庫(kù)中讀取最新的值冕臭，然后寫入緩存中

• 如果請(qǐng)求還在等待時(shí)間范圍內(nèi)瓢棒，輪詢發(fā)現(xiàn)可以取到值了丘喻，那么就直接返回
• 如果請(qǐng)求等待的時(shí)間超過(guò)一定時(shí)長(zhǎng)，那么這一次直接從數(shù)據(jù)庫(kù)中讀取當(dāng)前的舊值

3.2.5 高并發(fā)的場(chǎng)景下连霉，該解決方案要注意的問(wèn)題

（1）讀請(qǐng)求長(zhǎng)時(shí)阻塞

由于讀請(qǐng)求進(jìn)行了非常輕度的異步化嗡靡，所以一定要注意讀超時(shí)的問(wèn)題，每個(gè)讀請(qǐng)求必須在超時(shí)時(shí)間范圍內(nèi)返回

該解決方案歉井，最大的風(fēng)險(xiǎn)點(diǎn)在于哈误，可能數(shù)據(jù)更新很頻繁，導(dǎo)致隊(duì)列中積壓了大量更新操作蜜自，然后讀請(qǐng)求會(huì)發(fā)生大量的超時(shí)，最后導(dǎo)致大量的請(qǐng)求直接走數(shù)據(jù)庫(kù)

務(wù)必通過(guò)一些模擬真實(shí)的測(cè)試箭阶，看看更新數(shù)據(jù)的頻繁是怎樣的

另外一點(diǎn)戈鲁，因?yàn)橐粋€(gè)隊(duì)列中，可能會(huì)積壓針對(duì)多個(gè)數(shù)據(jù)項(xiàng)的更新操作婆殿，因此需要根據(jù)自己的業(yè)務(wù)情況進(jìn)行測(cè)試，可能需要部署多個(gè)服務(wù)鸣皂，每個(gè)服務(wù)分?jǐn)傄恍?shù)據(jù)的更新操作

如果一個(gè)內(nèi)存隊(duì)列里居然會(huì)擠壓100個(gè)商品的庫(kù)存修改操作暮蹂，每隔庫(kù)存修改操作要耗費(fèi)10ms區(qū)完成仰泻，那么最后一個(gè)商品的讀請(qǐng)求，可能等待10 * 100 = 1000ms = 1s后集侯，才能得到數(shù)據(jù)

這個(gè)時(shí)候就導(dǎo)致讀請(qǐng)求的長(zhǎng)時(shí)阻塞

一定要做根據(jù)實(shí)際業(yè)務(wù)系統(tǒng)的運(yùn)行情況帜消，去進(jìn)行一些壓力測(cè)試浓体，和模擬線上環(huán)境，去看看最繁忙的時(shí)候娄猫，內(nèi)存隊(duì)列可能會(huì)擠壓多少更新操作生闲，可能會(huì)導(dǎo)致最后一個(gè)更新操作對(duì)應(yīng)的讀請(qǐng)求，會(huì)hang多少時(shí)間碍讯，如果讀請(qǐng)求在200ms返回捉兴，如果你計(jì)算過(guò)后，哪怕是最繁忙的時(shí)候轴术，積壓10個(gè)更新操作，最多等待200ms盖袭，那還可以的

如果一個(gè)內(nèi)存隊(duì)列可能積壓的更新操作特別多彼宠，那么你就要加機(jī)器，讓每個(gè)機(jī)器上部署的服務(wù)實(shí)例處理更少的數(shù)據(jù)拙已，那么每個(gè)內(nèi)存隊(duì)列中積壓的更新操作就會(huì)越少

其實(shí)根據(jù)之前的項(xiàng)目經(jīng)驗(yàn)摧冀，一般來(lái)說(shuō)數(shù)據(jù)的寫頻率是很低的，因此實(shí)際上正常來(lái)說(shuō)索昂，在隊(duì)列中積壓的更新操作應(yīng)該是很少的

針對(duì)讀高并發(fā)，讀緩存架構(gòu)的項(xiàng)目缤至，一般寫請(qǐng)求相對(duì)讀來(lái)說(shuō)康谆，是非常非常少的嫉到，每秒的QPS能到幾百就不錯(cuò)了

一秒月洛，500的寫操作，5份导而，每200ms隔崎，就100個(gè)寫操作

單機(jī)器，20個(gè)內(nèi)存隊(duì)列虚缎，每個(gè)內(nèi)存隊(duì)列钓株，可能就積壓5個(gè)寫操作，每個(gè)寫操作性能測(cè)試后轴合，一般在20ms左右就完成

那么針對(duì)每個(gè)內(nèi)存隊(duì)列中的數(shù)據(jù)的讀請(qǐng)求受葛，也就最多hang一會(huì)兒，200ms以內(nèi)肯定能返回了

寫QPS擴(kuò)大10倍总滩，但是經(jīng)過(guò)剛才的測(cè)算闰渔，就知道，單機(jī)支撐寫QPS幾百?zèng)]問(wèn)題冈涧，那么就擴(kuò)容機(jī)器，擴(kuò)容10倍的機(jī)器营曼，10臺(tái)機(jī)器咽筋，每個(gè)機(jī)器20個(gè)隊(duì)列徊件，200個(gè)隊(duì)列

大部分的情況下蒜危，應(yīng)該是這樣的睹耐，大量的讀請(qǐng)求過(guò)來(lái)，都是直接走緩存取到數(shù)據(jù)的

少量情況下响委，可能遇到讀跟數(shù)據(jù)更新沖突的情況窖梁，如上所述，那么此時(shí)更新操作如果先入隊(duì)列邀窃，之后可能會(huì)瞬間來(lái)了對(duì)這個(gè)數(shù)據(jù)大量的讀請(qǐng)求假哎，但是因?yàn)樽隽巳ブ氐膬?yōu)化，所以也就一個(gè)更新緩存的操作跟在它后面

等數(shù)據(jù)更新完了肪虎，讀請(qǐng)求觸發(fā)的緩存更新操作也完成惧蛹，然后臨時(shí)等待的讀請(qǐng)求全部可以讀到緩存中的數(shù)據(jù)

(2）讀請(qǐng)求并發(fā)量過(guò)高

這里還必須做好壓力測(cè)試，確保恰巧碰上上述情況的時(shí)候爵政，還有一個(gè)風(fēng)險(xiǎn)陶缺，就是突然間大量讀請(qǐng)求會(huì)在幾十毫秒的延時(shí)hang在服務(wù)上，看服務(wù)能不能抗的住饱岸，需要多少機(jī)器才能抗住最大的極限情況的峰值

但是因?yàn)椴⒉皇撬械臄?shù)據(jù)都在同一時(shí)間更新苫费，緩存也不會(huì)同一時(shí)間失效，所以每次可能也就是少數(shù)數(shù)據(jù)的緩存失效了百框，然后那些數(shù)據(jù)對(duì)應(yīng)的讀請(qǐng)求過(guò)來(lái)，并發(fā)量應(yīng)該也不會(huì)特別大

按1:99的比例計(jì)算讀和寫的請(qǐng)求柬泽，每秒5萬(wàn)的讀QPS，可能只有500次更新操作

如果一秒有500的寫QPS露该，那么要測(cè)算好第煮，可能寫操作影響的數(shù)據(jù)有500條，這500條數(shù)據(jù)在緩存中失效后撵摆，可能導(dǎo)致多少讀請(qǐng)求害晦，發(fā)送讀請(qǐng)求到庫(kù)存服務(wù)來(lái)，要求更新緩存

一般來(lái)說(shuō)篱瞎，1:1，1:2牵素，1:3澄者，每秒鐘有1000個(gè)讀請(qǐng)求，會(huì)hang在庫(kù)存服務(wù)上赠幕，每個(gè)讀請(qǐng)求最多hang多少時(shí)間询筏，200ms就會(huì)返回

在同一時(shí)間最多hang住的可能也就是單機(jī)200個(gè)讀請(qǐng)求，同時(shí)hang住

單機(jī)hang200個(gè)讀請(qǐng)求逆屡，還是ok的

1:20踱讨，每秒更新500條數(shù)據(jù)，這500秒數(shù)據(jù)對(duì)應(yīng)的讀請(qǐng)求莺治，會(huì)有20 * 500 = 1萬(wàn)

1萬(wàn)個(gè)讀請(qǐng)求全部hang在庫(kù)存服務(wù)上，就死定了

（3）多服務(wù)實(shí)例部署的請(qǐng)求路由

可能這個(gè)服務(wù)部署了多個(gè)實(shí)例诫惭，那么必須保證說(shuō)蔓挖，執(zhí)行數(shù)據(jù)更新操作馆衔，以及執(zhí)行緩存更新操作的請(qǐng)求，都通過(guò)nginx服務(wù)器路由到相同的服務(wù)實(shí)例上

（4）熱點(diǎn)商品的路由問(wèn)題拷获，導(dǎo)致請(qǐng)求的傾斜

萬(wàn)一某個(gè)商品的讀寫請(qǐng)求特別高减细，全部打到相同的機(jī)器的相同的隊(duì)列里面去了，可能造成某臺(tái)機(jī)器的壓力過(guò)大

就是說(shuō)驮吱，因?yàn)橹挥性谏唐窋?shù)據(jù)更新的時(shí)候才會(huì)清空緩存萧吠，然后才會(huì)導(dǎo)致讀寫并發(fā)，所以更新頻率不是太高的話拇砰，這個(gè)問(wèn)題的影響并不是特別大

但是的確可能某些機(jī)器的負(fù)載會(huì)高一些

更多內(nèi)容請(qǐng)關(guān)注JavaEdge公眾號(hào)

參考

《Java工程師面試突擊第1季-中華石杉老師》