本文來(lái)自簡(jiǎn)書(shū)窜醉。

微博的緩存業(yè)務(wù)場(chǎng)景

微博幾乎所有的接口都是實(shí)時(shí)組裝的缚甩。我理解這個(gè)實(shí)時(shí)組裝，指的是數(shù)據(jù)組裝弊决。

微博的核心接口的響應(yīng)時(shí)間都是毫秒級(jí)的噪舀，可用性要達(dá)到4個(gè)9，99.99%飘诗。所以微博大量的使用緩存与倡。

微博最初的緩存架構(gòu)就是直接利用開(kāi)源版本的Memcache運(yùn)行在實(shí)體機(jī)器上的，稱之為裸資源疚察。

在裸資源的初始階段蒸走，微博就對(duì)緩存進(jìn)行分池，分端口存儲(chǔ)貌嫡。把size接近的數(shù)據(jù)放在一個(gè)池子中比驻。業(yè)務(wù)方通過(guò)hash算法，找到對(duì)應(yīng)池子里面對(duì)應(yīng)的節(jié)點(diǎn)岛抄。同時(shí)每個(gè)IDC部署都使用獨(dú)立的緩存資源别惦，為了加速，前端也會(huì)用local cache夫椭。

如果某個(gè)時(shí)間點(diǎn)掸掸，業(yè)務(wù)場(chǎng)景中多個(gè)緩存節(jié)點(diǎn)不可用，大量的請(qǐng)求就會(huì)直接請(qǐng)求DB蹭秋，然后就掛了扰付。

于是使用Main-HA雙層架構(gòu)。

MAIN-HA

什么是MAIN——HA仁讨？什么是HA羽莺？

HA就是高可用性集群。這個(gè)是保證業(yè)務(wù)連續(xù)性的有效結(jié)果方案洞豁。HA的意思一般是有兩個(gè)或者兩個(gè)以上的節(jié)點(diǎn)盐固，且分為活動(dòng)節(jié)點(diǎn)和備用節(jié)點(diǎn)。通常把正在執(zhí)行任務(wù)的節(jié)點(diǎn)稱為活動(dòng)節(jié)點(diǎn)丈挟，而活動(dòng)節(jié)點(diǎn)的一個(gè)備份稱為備份節(jié)點(diǎn)刁卜。當(dāng)活動(dòng)節(jié)點(diǎn)出現(xiàn)問(wèn)題時(shí)，備份節(jié)點(diǎn)檢測(cè)到曙咽，就立即激活稱為活動(dòng)節(jié)點(diǎn)來(lái)執(zhí)行任務(wù)蛔趴。從而是業(yè)務(wù)不中斷或者短暫中斷。

我理解MAIN-HA就是在HA上又加了一層緩存例朱，先訪問(wèn)MAIN層夺脾，MAIN漏了之拨，則打到HA上茉继，主要思想還是保護(hù)DB層咧叭。

然后做了數(shù)據(jù)分拆，把核心數(shù)據(jù)都分拆到了對(duì)立的端口烁竭。然后出現(xiàn)了調(diào)頻菲茬，也就是數(shù)據(jù)分層。 更新的是把前端的local cache干掉了派撕。

MAIN－HA還是滿足不了突發(fā)事件婉弹，熱數(shù)據(jù)過(guò)多的情況，因?yàn)閹挻驖M了终吼，MC把CPU打滿了镀赌，然后MC的訪問(wèn)就會(huì)變慢。

然后通過(guò)排查發(fā)現(xiàn)還是熱數(shù)據(jù)的問(wèn)題际跪，熱數(shù)據(jù)集中訪問(wèn)商佛，導(dǎo)致單個(gè)接口不能承載熱數(shù)據(jù)的訪問(wèn)。

L1結(jié)構(gòu)

通過(guò)部署3－4組以上小容量的L1緩存姆打，每個(gè)L1組等價(jià)的存儲(chǔ)熱數(shù)據(jù)良姆，來(lái)滿足業(yè)務(wù)需求。

L1緩存就是一級(jí)緩存幔戏，集成在CPU內(nèi)玛追，在處理數(shù)據(jù)的過(guò)程中，數(shù)據(jù)暫時(shí)保存闲延。

其實(shí)就是加一層痊剖，現(xiàn)在的緩存結(jié)構(gòu)已經(jīng)變成 L1 >> MAIN >> HA

這樣就做到了低成本，應(yīng)對(duì)高峰垒玲、突發(fā)流量陆馁。

緩存服務(wù)化

首先對(duì)緩存引入了一個(gè)proxy層。引入cluster侍匙，內(nèi)嵌MemcacheCluster訪問(wèn)策略氮惯，包括三層的一些更新、讀取以及miss后的穿透想暗、回寫妇汗。

在緩存策略中引入LRU（LEAST RECENTLY USED）最近最少使用。

通過(guò)緩存策略(cacheProxy),簡(jiǎn)化配置说莫，簡(jiǎn)化開(kāi)發(fā)杨箭。業(yè)務(wù)方只需要知道緩存策略的ip和端口，就可以對(duì)后端緩存進(jìn)行訪問(wèn)储狭。

第一步就是弄了個(gè)配置中心互婿。界面化的捣郊，可以配置的，多組人員使用慈参。業(yè)務(wù)方和運(yùn)維都可以直接用呛牲。

第二步，就是有個(gè)數(shù)據(jù)展示中心驮配。

第三步娘扩，web化管理，我理解就是第一步的實(shí)現(xiàn)壮锻。

第四步琐旁，監(jiān)控與報(bào)警。

LS4LRU

簡(jiǎn)單的說(shuō)就是一個(gè)緩存分級(jí)策略猜绣。緩存因?yàn)橛羞^(guò)期時(shí)間灰殴，所以出現(xiàn)了這個(gè)LS4LRU的策略。命中的越多掰邢，LRU的層級(jí)就越高牺陶，最高時(shí)LRU3，LRU3會(huì)持久化尸变，LRU3量太大了义图，會(huì)降級(jí)，降到LRU2,重新走緩存命中規(guī)則召烂。

總結(jié)

1.容災(zāi)碱工，就是提到的多層緩存機(jī)制。

2.節(jié)點(diǎn)異常奏夫，有一個(gè)界面化的工具怕篷，開(kāi)關(guān)部署節(jié)點(diǎn)。

3.配置中心異常酗昼，快照機(jī)制廊谓，利用快照來(lái)訪問(wèn)緩存策略或者緩存資源。

4.運(yùn)維就是有個(gè)數(shù)據(jù)展示的地方