業(yè)務(wù)介紹
什么是秒殺豺憔?通俗一點講就是網(wǎng)絡(luò)商家為促銷等目的組織的網(wǎng)上限時搶購活動伦糯。
比如說京東秒殺,就是一種定時定量秒殺靠娱,在規(guī)定的時間內(nèi)沧烈,無論商品是否秒殺完畢,該場次的秒殺活動都會結(jié)束像云。這種秒殺锌雀,對時間不是特別嚴格,只要下手快點苫费,秒中的概率還是比較大的汤锨。
淘寶以前就做過一元搶購,一般都是限量 1 件商品百框,同時價格低到「令人發(fā)齒」闲礼,這種秒殺一般都在開始時間 1 到 3 秒內(nèi)就已經(jīng)搶光了,參與這個秒殺一般都是看運氣的铐维,不必太強求柬泽。
業(yè)務(wù)特點
瞬時并發(fā)量大
秒殺時會有大量用戶在同一時間進行搶購,瞬時并發(fā)訪問量突增 10 倍嫁蛇,甚至 100 倍以上都有锨并。庫存量少
一般秒殺活動商品量很少,這就導(dǎo)致了只有極少量用戶能成功購買到睬棚。業(yè)務(wù)簡單
流程比較簡單第煮,一般都是下訂單解幼、扣庫存、支付訂單包警。
技術(shù)難點
現(xiàn)有業(yè)務(wù)的沖擊
秒殺是營銷活動中的一種撵摆,如果和其他營銷活動應(yīng)用部署在同一服務(wù)器上,肯定會對現(xiàn)有其他活動造成沖擊害晦,極端情況下可能導(dǎo)致整個電商系統(tǒng)服務(wù)宕機特铝。直接下訂單
下單頁面是一個正常的 URL 地址,需要控制在秒殺開始前壹瘟,不能下訂單鲫剿,只能瀏覽對應(yīng)活動商品的信息。簡單來說稻轨,需要 Disable 訂單按鈕灵莲。頁面流量突增
秒殺活動開始前后,會有很多用戶請求對應(yīng)商品頁面澄者,會造成后臺服務(wù)器的流量突增笆呆,同時對應(yīng)的網(wǎng)絡(luò)帶寬增加,需要控制商品頁面的流量不會對后臺服務(wù)器粱挡、DB赠幕、Redis 等組件的造成過大的壓力。
架構(gòu)設(shè)計思想
限流
由于活動庫存量一般都是很少询筏,對應(yīng)的只有少部分用戶才能秒殺成功榕堰。所以我們需要限制大部分用戶流量,只準少量用戶流量進入后端服務(wù)器嫌套。削峰
秒殺開始的那一瞬間逆屡,會有大量用戶沖擊進來,所以在開始時候會有一個瞬間流量峰值踱讨。如何把瞬間的流量峰值變得更平緩魏蔗,是能否成功設(shè)計好秒殺系統(tǒng)的關(guān)鍵因素。實現(xiàn)流量削峰填谷痹筛,一般的采用緩存和 MQ 中間件來解決莺治。異步
秒殺其實可以當(dāng)做高并發(fā)系統(tǒng)來處理,在這個時候帚稠,可以考慮從業(yè)務(wù)上做兼容谣旁,將同步的業(yè)務(wù),設(shè)計成異步處理的任務(wù)滋早,提高網(wǎng)站的整體可用性榄审。緩存
秒殺系統(tǒng)的瓶頸主要體現(xiàn)在下訂單、扣減庫存流程中杆麸。在這些流程中主要用到 OLTP 的數(shù)據(jù)庫搁进,類似 MySQL浪感、SQLServer、Oracle饼问。由于數(shù)據(jù)庫底層采用 B+ 樹的儲存結(jié)構(gòu)篮撑,對應(yīng)我們隨機寫入與讀取的效率,相對較低匆瓜。如果我們把部分業(yè)務(wù)邏輯遷移到內(nèi)存的緩存或者 Redis 中,會極大的提高并發(fā)效率未蝌。
整體架構(gòu)
客戶端優(yōu)化
客戶端優(yōu)化主要有兩個問題:
秒殺頁面
秒殺活動開始前驮吱,其實就有很多用戶訪問該頁面了。如果這個頁面的一些資源萧吠,比如 CSS左冬、JS、圖片纸型、商品詳情等拇砰,都訪問后端服務(wù)器,甚至 DB 的話狰腌,服務(wù)肯定會出現(xiàn)不可用的情況除破。所以一般我們會把這個頁面整體進行靜態(tài)化,并將頁面靜態(tài)化之后的頁面分發(fā)到 CDN 邊緣節(jié)點上琼腔,起到壓力分散的作用瑰枫。防止提前下單
防止提前下單主要是在靜態(tài)化頁面中加入一個 JS 文件引用,該 JS 文件包含活動是否開始的標記以及開始時的動態(tài)下單頁面的 URL 參數(shù)丹莲。同時光坝,這個 JS 文件是不會被 CDN 系統(tǒng)緩存的,會一直請求后端服務(wù)的甥材,所以這個 JS 文件一定要很小盯另。當(dāng)活動快開始的時候(比如提前),通過后臺接口修改這個 JS 文件使之生效洲赵。
API 接入層優(yōu)化
客戶端優(yōu)化鸳惯,對于不是搞計算機方面的用戶還是可以防止住的。但是稍有一定網(wǎng)絡(luò)基礎(chǔ)的用戶就起不到作用了板鬓,因此服務(wù)端也需要加些對應(yīng)控制悲敷,不能信任客戶端的任何操作。一般控制分為 2 大類:
限制用戶維度訪問頻率
針對同一個用戶( Userid 維度)俭令,做頁面級別緩存后德,單元時間內(nèi)的請求,統(tǒng)一走緩存抄腔,返回同一個頁面瓢湃。限制商品維度訪問頻率
大量請求同時間段查詢同一個商品時理张,可以做頁面級別緩存,不管下回是誰來訪問绵患,只要是這個頁面就直接返回雾叭。
SOA 服務(wù)層優(yōu)化
上面兩層只能限制異常用戶訪問,如果秒殺活動運營的比較好落蝙,很多用戶都參加了织狐,就會造成系統(tǒng)壓力過大甚至宕機,因此需要后端流量控制筏勒。
對于后端系統(tǒng)的控制可以通過消息隊列移迫、異步處理、提高并發(fā)等方式解決管行。對于超過系統(tǒng)水位線的請求厨埋,直接采取 「Fail-Fast」原則,拒絕掉捐顷。
秒殺整體流程圖
秒殺系統(tǒng)核心在于層層過濾荡陷,逐漸遞減瞬時訪問壓力,減少最終對數(shù)據(jù)庫的沖擊迅涮。通過上面流程圖就會發(fā)現(xiàn)壓力最大的地方在哪里废赞?
MQ 排隊服務(wù),只要 MQ 排隊服務(wù)頂住叮姑,后面下訂單與扣減庫存的壓力都是自己能控制的蛹头,根據(jù)數(shù)據(jù)庫的壓力,可以定制化創(chuàng)建訂單消費者的數(shù)量戏溺,避免出現(xiàn)消費者數(shù)據(jù)量過多渣蜗,導(dǎo)致數(shù)據(jù)庫壓力過大或者直接宕機。
庫存服務(wù)專門為秒殺的商品提供庫存管理旷祸,實現(xiàn)提前鎖定庫存耕拷,避免超賣的現(xiàn)象。同時托享,通過超時處理任務(wù)發(fā)現(xiàn)已搶到商品骚烧,但未付款的訂單,并在規(guī)定付款時間后闰围,處理這些訂單赃绊,將恢復(fù)訂單商品對應(yīng)的庫存量。
緩存層優(yōu)化
- 防止緩存雪崩羡榴、穿透碧查、擊穿
減少緩存滲透:可以在服務(wù)中進行布隆過濾,可以將不存在的商品或券訪問在服務(wù)端過濾掉;或者對緩存中沒有的數(shù)據(jù)key置為null并設(shè)置較短的過期時間忠售,優(yōu)點是簡單易操作传惠,缺點要增加大量的null key,增大了與mysql的不一致性稻扬,需要消息機制和mysql保持同步卦方。
防止緩存雪崩:設(shè)置key的過期時間時,采用固定時間+隨機時間的方法泰佳,可以有效防止緩存同時過期引起雪崩的問題盼砍。
防止緩存擊穿:增加二級緩存: A1為原始緩存,A2為拷貝緩存逝她,A1失效時衬廷,可以訪問A2,A1緩存失效時間設(shè)置為短期汽绢,A2設(shè)置為長期。
- 限流:對key的操作加鎖排隊(利用setnx進行分布式鎖)侧戴,即同時只允許一個線程訪問宁昭。
- 避免數(shù)據(jù)傾斜:利用一致性hash算法,合理設(shè)置redis中的key酗宋,使其均勻的分布到各個節(jié)點积仗,防止大量請求訪問到少量節(jié)點的熱點問題,而且可以減少單個節(jié)點宕機造成的影響蜕猫。
總結(jié)
核心思想:層層過濾
盡量將請求攔截在上游寂曹,降低下游的壓力
充分利用緩存與消息隊列,提高請求處理速度以及削峰填谷的作用