一清笨、限流與降級(jí)
客戶端限流
- 按鈕置灰
- js控制每秒只能發(fā)送一個(gè)請(qǐng)求
站點(diǎn)層限流
1. Nginx限流
Nginx官方版本限制IP的連接和并發(fā)分別有兩個(gè)模塊：
- limit_req_zone： 用來(lái)限制單位時(shí)間內(nèi)的請(qǐng)求數(shù)丹禀，即速率限制,采用的漏桶算法。
- limit_req_conn： 用來(lái)限制同一時(shí)間連接數(shù)，即并發(fā)限制。
2. 站點(diǎn)層限流
客戶端限流一般可以限制住普通用戶，對(duì)于高端用戶阅签，則可能使用腳本刷，或者實(shí)際搶購(gòu)的用戶量確實(shí)大蝎抽，故需要在站點(diǎn)層進(jìn)行限流政钟，如單個(gè)部署實(shí)例的每秒最大請(qǐng)求數(shù)，每個(gè)用戶每秒的最大請(qǐng)求或者通過(guò)Redis記錄和限制單個(gè)用戶只能請(qǐng)求一次樟结。
寫(xiě)流量
- 根據(jù)uuid限制每個(gè)用戶每秒只能一個(gè)請(qǐng)求养交，如使用guava的RateLimiter在進(jìn)程限流，故如果多個(gè)節(jié)點(diǎn)狭吼，則每個(gè)用戶可請(qǐng)求數(shù)量實(shí)際是節(jié)點(diǎn)個(gè)數(shù)倍层坠；或者通過(guò)Nginx將相同的uuid轉(zhuǎn)發(fā)到相同的機(jī)器上面。
讀流量：
- 頁(yè)面緩存和頁(yè)面數(shù)據(jù)緩存刁笙。頁(yè)面緩存可以是進(jìn)程緩存破花，頁(yè)面數(shù)據(jù)緩存一般是分布式緩存，保持各節(jié)點(diǎn)的數(shù)據(jù)一致性疲吸，如庫(kù)存數(shù)量可以放到分布式緩存中座每。
降級(jí)
- 如果流量太大，導(dǎo)致站點(diǎn)層限流后還是出現(xiàn)問(wèn)題掛了或者站點(diǎn)層沒(méi)問(wèn)題摘悴，隊(duì)列出問(wèn)題了峭梳，則需要采取降級(jí)策略。
- 對(duì)于站點(diǎn)層出問(wèn)題蹂喻，則可以在客戶端直接提示“服務(wù)器繁忙葱椭，稍后再試”。
- 對(duì)于隊(duì)列掛了或者Redis掛了無(wú)法讀取到庫(kù)存信息口四，則可以在站點(diǎn)層降級(jí)處理孵运，直接返回和提示“搶購(gòu)人數(shù)太多，請(qǐng)稍后嘗試”蔓彩。
二治笨、隊(duì)列削峰
通過(guò)第一步限流后，將合法流量放到一個(gè)隊(duì)列中赤嚼，實(shí)現(xiàn)流量削峰旷赖，達(dá)到流量可控和異步處理。
入隊(duì)條件
- 秒殺的數(shù)量有限更卒，所以不需要將第一步限流中成功通過(guò)的所有請(qǐng)求都放到隊(duì)列中等孵，而是可以先將庫(kù)存數(shù)量放到分布式緩存中，如Redis逞壁，
然后先檢查庫(kù)存是否還有流济，有則扣減庫(kù)存锐锣，因?yàn)镽edis是單線程的腌闯，故是有序绳瘟，線程安全的，扣減成功姿骏，則將該請(qǐng)求放到隊(duì)列中糖声；
否則庫(kù)存不足，直接返回?fù)屬?gòu)?fù)戤叿质荩蛘呖梢詢?yōu)化一下說(shuō)“搶購(gòu)?fù)戤呎盒海绻行』锇榉艞墸梢岳^續(xù)搶購(gòu)”來(lái)避免隊(duì)列消息處理失敗導(dǎo)致還有沒(méi)賣(mài)完嘲玫。
請(qǐng)求響應(yīng)
- 入隊(duì)成功或者失敗都可以將該請(qǐng)求直接返回了悦施，不過(guò)頁(yè)面可以顯示等待中或者提示搶購(gòu)結(jié)果稍后通知，如現(xiàn)在很多搶票都是這樣的去团。
三抡诞、服務(wù)層異步處理
- 服務(wù)層消費(fèi)隊(duì)列的數(shù)據(jù)，由于此時(shí)速度是可控的土陪，故可以起一個(gè)后臺(tái)服務(wù)節(jié)點(diǎn)即可昼汗，消費(fèi)隊(duì)列的數(shù)據(jù)，進(jìn)行下單操作鬼雀，遞減數(shù)據(jù)庫(kù)庫(kù)存顷窒。
- 如果消費(fèi)隊(duì)列的某個(gè)數(shù)據(jù)失敗，可以采用fail-fast的原則源哩，直接提示失敗鞋吉，不需要進(jìn)行重試之類的復(fù)雜操作。
四励烦、搶購(gòu)結(jié)果通知
由于使用了隊(duì)列來(lái)異步處理谓着，即入隊(duì)后或者庫(kù)存不足無(wú)法入隊(duì)，該次搶購(gòu)請(qǐng)求是直接返回了的崩侠，故對(duì)于搶購(gòu)結(jié)果是需要進(jìn)行額外通知的漆魔。
1. 客戶端輪詢
可以通過(guò)客戶端定時(shí)請(qǐng)求服務(wù)端，如每秒發(fā)送一個(gè)請(qǐng)求却音，如果成功改抡，則提示搶購(gòu)成功；失敗系瓢，則返回失敗阿纤。例如，客戶端可以在沒(méi)有輪詢到處理結(jié)果時(shí)提示“搶購(gòu)中夷陋，請(qǐng)耐心等待”欠拾，如果輪詢到結(jié)果則提示成功或失敗胰锌。
2. 消息推送
另外一種方式可以是直接通過(guò)消息推送的方式來(lái)通知用戶搶購(gòu)結(jié)果。
完整架構(gòu)示意圖
秒殺.png
