秒殺活動(dòng)場(chǎng)景
淘寶雙11秒殺場(chǎng)景蚕断，大量的用戶短時(shí)間內(nèi)涌入欢伏，瞬間流量巨大（高并發(fā)），比如：1000萬(wàn)人同一時(shí)間搶購(gòu)100件商品亿乳。秒殺活動(dòng)是一個(gè)特別考驗(yàn)后臺(tái)數(shù)據(jù)庫(kù)硝拧、緩存服務(wù)的業(yè)務(wù)径筏，對(duì)于數(shù)據(jù)庫(kù)、緩存的性能要求特別嚴(yán)格障陶。
秒殺背后的技術(shù)挑戰(zhàn)
1滋恬、突增的服務(wù)器及網(wǎng)絡(luò)需求
通常情況下，雙 11 的服務(wù)器使用是平時(shí)的 3-5 倍抱究，網(wǎng)絡(luò)帶寬是平時(shí) N倍恢氯。
2、業(yè)務(wù)高并發(fā)鼓寺，服務(wù)負(fù)載重
我們通常衡量一個(gè) Web 系統(tǒng)的吞吐率的指標(biāo)是 QPS（Query Per Second勋拟，每秒處理請(qǐng)求數(shù)），解決每秒數(shù)萬(wàn)次的高并發(fā)場(chǎng)景侄刽，這個(gè)指標(biāo)非常關(guān)鍵指黎。
假設(shè)處理一個(gè)業(yè)務(wù)請(qǐng)求平均響應(yīng)時(shí)間為 100 ms，同時(shí)州丹，系統(tǒng)內(nèi)有 20 臺(tái) Web 服務(wù)器醋安，配置最大連接數(shù)為 500 個(gè)，Web 系統(tǒng)的理論峰值 QPS 為（理想化的計(jì)算方式）：100000 （10萬(wàn)QPS）意味著1 秒鐘可以處理完 10 萬(wàn)的請(qǐng)求墓毒，而“秒殺”的那 5w/s 的秒殺似乎是“紙老虎”吓揪。
實(shí)際情況，在高并發(fā)的實(shí)際場(chǎng)景下所计，服務(wù)器處于高負(fù)載的狀態(tài)柠辞，網(wǎng)絡(luò)帶寬被擠滿，在這個(gè)時(shí)候平均響應(yīng)時(shí)間會(huì)被大大增加主胧。隨著用戶數(shù)量的增加叭首，數(shù)據(jù)庫(kù)連接進(jìn)程增加，需要處理的上下文切換也越多踪栋，服務(wù)器造成負(fù)載壓力越來(lái)越重焙格。
3、業(yè)務(wù)耦合度高夷都，引起系統(tǒng)“雪崩”
更可怕的問(wèn)題是眷唉，當(dāng)系統(tǒng)上某個(gè)應(yīng)用因?yàn)檠舆t而變得不可用，用戶的點(diǎn)擊越頻繁囤官，惡性循環(huán)最終導(dǎo)致“雪崩”冬阳，因?yàn)槠渲幸慌_(tái)服務(wù)器掛了，導(dǎo)致流量分散到其他正常工作的機(jī)器上党饮，再導(dǎo)致正常的機(jī)器也掛肝陪，然后惡性循環(huán)，將整個(gè)系統(tǒng)拖垮劫谅。
如何解決秒殺技術(shù)瓶頸
秒殺架構(gòu)設(shè)計(jì)思路：
將請(qǐng)求攔截在系統(tǒng)上游见坑，降低下游壓力：秒殺系統(tǒng)特點(diǎn)是并發(fā)量極大嚷掠，但實(shí)際秒殺成功的請(qǐng)求數(shù)量卻很少，所以如果不在前端攔截很可能造成數(shù)據(jù)庫(kù)讀寫鎖沖突荞驴，甚至導(dǎo)致死鎖不皆，最終請(qǐng)求超時(shí)。
充分利用緩存(redis)：利用緩存可極大提高系統(tǒng)讀寫速度熊楼。
消息中間件(ActiveMQ霹娄、Kafka等)：消息隊(duì)列可以削峰，將攔截大量并發(fā)請(qǐng)求鲫骗，這也是一個(gè)異步處理過(guò)程犬耻，后臺(tái)業(yè)務(wù)根據(jù)自己的處理能力，從消息隊(duì)列中主動(dòng)的拉取請(qǐng)求消息進(jìn)行業(yè)務(wù)處理执泰。
前端設(shè)計(jì)方案
頁(yè)面靜態(tài)化：將活動(dòng)頁(yè)面上的所有可以靜態(tài)的元素全部靜態(tài)化枕磁，并盡量減少動(dòng)態(tài)元素。通過(guò)CDN來(lái)抗峰值术吝。
禁止重復(fù)提交：用戶提交之后按鈕置灰计济，禁止重復(fù)提交
用戶限流：在某一時(shí)間段內(nèi)只允許用戶提交一次請(qǐng)求，比如可以采取IP限流
后端設(shè)計(jì)方案
服務(wù)端控制器層(網(wǎng)關(guān)層)
限制uid（UserID）訪問(wèn)頻率：我們上面攔截了瀏覽器訪問(wèn)的請(qǐng)求排苍，但針對(duì)某些惡意攻擊或其它插件沦寂，在服務(wù)端控制層需要針對(duì)同一個(gè)訪問(wèn)uid，限制訪問(wèn)頻率淘衙。
服務(wù)層
上面只攔截了一部分訪問(wèn)請(qǐng)求传藏，當(dāng)秒殺的用戶量很大時(shí)，即使每個(gè)用戶只有一個(gè)請(qǐng)求彤守，到服務(wù)層的請(qǐng)求數(shù)量還是很大毯侦。比如我們有100W用戶同時(shí)搶100臺(tái)手機(jī)，服務(wù)層并發(fā)請(qǐng)求壓力至少為100W具垫。
采用消息隊(duì)列緩存請(qǐng)求：既然服務(wù)層知道庫(kù)存只有100臺(tái)手機(jī)叫惊，那完全沒(méi)有必要把100W個(gè)請(qǐng)求都傳遞到數(shù)據(jù)庫(kù)啊，那么可以先把這些請(qǐng)求都寫到消息隊(duì)列緩存一下做修，數(shù)據(jù)庫(kù)層訂閱消息減庫(kù)存，減庫(kù)存成功的請(qǐng)求返回秒殺成功抡草，失敗的返回秒殺結(jié)束饰及。
利用緩存應(yīng)對(duì)讀請(qǐng)求：比如雙11秒殺搶購(gòu)，是典型的讀多寫少業(yè)務(wù)康震，大部分請(qǐng)求是查詢請(qǐng)求燎含，所以可以利用緩存分擔(dān)數(shù)據(jù)庫(kù)壓力。
利用緩存應(yīng)對(duì)寫請(qǐng)求：緩存也是可以應(yīng)對(duì)寫請(qǐng)求的腿短，比如我們就可以把數(shù)據(jù)庫(kù)中的庫(kù)存數(shù)據(jù)轉(zhuǎn)移到Redis緩存中屏箍，所有減庫(kù)存操作都在Redis中進(jìn)行绘梦，然后再通過(guò)后臺(tái)進(jìn)程把Redis中的用戶秒殺請(qǐng)求同步到數(shù)據(jù)庫(kù)中。
數(shù)據(jù)庫(kù)層
數(shù)據(jù)庫(kù)層是最脆弱的一層赴魁，一般在應(yīng)用設(shè)計(jì)時(shí)在上游就需要把請(qǐng)求攔截掉卸奉，數(shù)據(jù)庫(kù)層只承擔(dān)“能力范圍內(nèi)”的訪問(wèn)請(qǐng)求。所以颖御，上面通過(guò)在服務(wù)層引入隊(duì)列和緩存榄棵，讓最底層的數(shù)據(jù)庫(kù)高枕無(wú)憂。
比如：利用消息中間件和緩存實(shí)現(xiàn)簡(jiǎn)單的秒殺系統(tǒng)
Redis是一個(gè)分布式緩存系統(tǒng)潘拱，支持多種數(shù)據(jù)結(jié)構(gòu)疹鳄，我們可以利用Redis輕松實(shí)現(xiàn)一個(gè)強(qiáng)大的秒殺系統(tǒng)。
我們可以采用Redis 最簡(jiǎn)單的key-value數(shù)據(jù)結(jié)構(gòu)芦岂，用一個(gè)原子類型的變量值(AtomicInteger)作為key瘪弓，把用戶id作為value，庫(kù)存數(shù)量便是原子變量的最大值禽最。對(duì)于每個(gè)用戶的秒殺腺怯，我們使用 RPUSH key value插入秒殺請(qǐng)求， 當(dāng)插入的秒殺請(qǐng)求數(shù)達(dá)到上限時(shí)弛随，停止所有后續(xù)插入瓢喉。
然后我們可以在臺(tái)啟動(dòng)多個(gè)工作線程，使用 LPOP key 讀取秒殺成功者的用戶id舀透，然后再操作數(shù)據(jù)庫(kù)做最終的下訂單減庫(kù)存操作栓票。
當(dāng)然，上面Redis也可以替換成消息中間件如ActiveMQ愕够、Kafka等走贪，也可以將緩存和消息中間件 組合起來(lái)，緩存系統(tǒng)負(fù)責(zé)接收記錄用戶請(qǐng)求惑芭，消息中間件負(fù)責(zé)將緩存中的請(qǐng)求同步到數(shù)據(jù)庫(kù)坠狡。
秒殺架構(gòu)設(shè)計(jì)總結(jié)：
限流： 鑒于只有少部分用戶能夠秒殺成功，所以要限制大部分流量遂跟，只允許少部分流量進(jìn)入服務(wù)后端逃沿。
削峰：對(duì)于秒殺系統(tǒng)瞬時(shí)會(huì)有大量用戶涌入，所以在搶購(gòu)一開始會(huì)有很高的瞬間峰值幻锁。高峰值流量是壓垮系統(tǒng)很重要的原因凯亮，所以如何把瞬間的高流量變成一段時(shí)間平穩(wěn)的流量也是設(shè)計(jì)秒殺系統(tǒng)很重要的思路。實(shí)現(xiàn)削峰的常用的方法有利用緩存和消息中間件等技術(shù)哄尔。
異步處理：秒殺系統(tǒng)是一個(gè)高并發(fā)系統(tǒng)假消，采用異步處理模式可以極大地提高系統(tǒng)并發(fā)量，其實(shí)異步處理就是削峰的一種實(shí)現(xiàn)方式岭接。
內(nèi)存緩存：秒殺系統(tǒng)最大的瓶頸一般都是數(shù)據(jù)庫(kù)讀寫富拗，由于數(shù)據(jù)庫(kù)讀寫屬于磁盤IO臼予，性能很低，如果能夠把部分?jǐn)?shù)據(jù)或業(yè)務(wù)邏輯轉(zhuǎn)移到內(nèi)存緩存啃沪，效率會(huì)有極大地提升粘拾。
可拓展：當(dāng)然如果我們想支持更多用戶，更大的并發(fā)谅阿，最好就將系統(tǒng)設(shè)計(jì)成彈性可拓展的半哟，如果流量來(lái)了，拓展機(jī)器就好了签餐。像淘寶察净、京東等雙十一活動(dòng)時(shí)會(huì)增加大量機(jī)器應(yīng)對(duì)交易高峰衣盾。
阿里架構(gòu)師面試130題目
答案領(lǐng)取方法:
歡迎私信關(guān)鍵詞 “我要130” 即可獲得阿里架構(gòu)師面試題目鏈接！
