大型網(wǎng)站架構(gòu)

三苛聘、網(wǎng)站初級架構(gòu)

一般網(wǎng)站,剛開始的做法忠聚,是三臺服務(wù)器设哗,一臺部署應(yīng)用,一臺部署數(shù)據(jù)庫两蟀,一臺部署NFS文件系統(tǒng)网梢。

這是前幾年比較傳統(tǒng)的做法,之前見到一個網(wǎng)站10萬多會員赂毯,垂直服裝設(shè)計門戶战虏,N多圖片拣宰。使用了一臺服務(wù)器部署了應(yīng)用涌萤,數(shù)據(jù)庫以及圖片存儲驶兜。出現(xiàn)了很多性能問題否纬。

如下圖:

但是翔冀,目前主流的網(wǎng)站架構(gòu)已經(jīng)發(fā)生了翻天覆地的變化侍咱。一般都會采用集群的方式舍悯,進行高可用設(shè)計戒祠。至少是下面這個樣子弥臼。

(1) 使用集群對應(yīng)用服務(wù)器進行冗余绿渣,實現(xiàn)高可用朝群;(負(fù)載均衡設(shè)備可與應(yīng)用一塊部署)

使用數(shù)據(jù)庫主備模式,實現(xiàn)數(shù)據(jù)備份和高可用中符;

四姜胖、系統(tǒng)容量預(yù)估

預(yù)估步驟:

  1. 注冊用戶數(shù)-日均UV量-每日的PV量-每天的并發(fā)量;
  2. 峰值預(yù)估:平常量的2~3倍淀散;
  3. 根據(jù)并發(fā)量(并發(fā)右莱,事務(wù)數(shù)),存儲容量計算系統(tǒng)容量档插。

客戶需求:3~5年用戶數(shù)達(dá)到1000萬注冊用戶隧出;

每秒并發(fā)數(shù)預(yù)估:

  1. 每天的UV為200萬(二八原則);
  2. 每日每天點擊瀏覽30次阀捅;
  3. PV量:200*30=6000萬胀瞪;
  4. 集中訪問量:240.2=4.8小時會有6000萬0.8=4800萬(二八原則);
  5. 每分并發(fā)量:4.8*60=288分鐘饲鄙,每分鐘訪問4800/288=16.7萬(約等于)凄诞;
  6. 每秒并發(fā)量:16.7萬/60=2780(約等于);
  7. 假設(shè):高峰期為平常值的三倍忍级,則每秒的并發(fā)數(shù)可以達(dá)到8340次帆谍。
  8. 1毫秒=1.3次訪問;

沒好好學(xué)數(shù)學(xué)后悔了吧轴咱?Q打(不知道以上算是否有錯誤,呵呵~~)

服務(wù)器預(yù)估:(以tomcat服務(wù)器舉例)

  1. 按一臺web服務(wù)器朴肺,支持每秒300個并發(fā)計算窖剑。平常需要10臺服務(wù)器(約等于);[tomcat默認(rèn)配置是150]
  2. 高峰期:需要30臺服務(wù)器戈稿;

容量預(yù)估:70/90原則

系統(tǒng)CPU一般維持在70%左右的水平西土,高峰期達(dá)到90%的水平,是不浪費資源鞍盗,并比較穩(wěn)定的需了。內(nèi)存跳昼,IO類似。

以上預(yù)估僅供參考肋乍,因為服務(wù)器配置鹅颊,業(yè)務(wù)邏輯復(fù)雜度等都有影響。在此CPU墓造,硬盤挪略,網(wǎng)絡(luò)等不再進行評估。

五滔岳、網(wǎng)站架構(gòu)分析

根據(jù)以上預(yù)估,有幾個問題:

  • 需要部署大量的服務(wù)器挽牢,高峰期計算谱煤,可能要部署30臺Web服務(wù)器。并且這三十臺服務(wù)器禽拔,只有秒殺刘离,活動時才會用到,存在大量的浪費睹栖。
  • 所有的應(yīng)用部署在同一臺服務(wù)器硫惕,應(yīng)用之間耦合嚴(yán)重。需要進行垂直切分和水平切分野来。
  • 大量應(yīng)用存在冗余代碼
  • 服務(wù)器SESSION同步耗費大量內(nèi)存和網(wǎng)絡(luò)帶寬
  • 數(shù)據(jù)需要頻繁訪問數(shù)據(jù)庫恼除,數(shù)據(jù)庫訪問壓力巨大。

大型網(wǎng)站一般需要做以下架構(gòu)優(yōu)化(優(yōu)化是架構(gòu)設(shè)計時曼氛,就要考慮的豁辉,一般從架構(gòu)/代碼級別解決,調(diào)優(yōu)主要是簡單參數(shù)的調(diào)整舀患,比如JVM調(diào)優(yōu)徽级;如果調(diào)優(yōu)涉及大量代碼改造,就不是調(diào)優(yōu)了聊浅,屬于重構(gòu)):

  • 業(yè)務(wù)拆分
  • 應(yīng)用集群部署(分布式部署餐抢,集群部署和負(fù)載均衡)
  • 多級緩存
  • 單點登錄(分布式Session)
  • 數(shù)據(jù)庫集群(讀寫分離,分庫分表)
  • 服務(wù)化
  • 消息隊列
  • 其他技術(shù)

六低匙、網(wǎng)站架構(gòu)優(yōu)化

6.1業(yè)務(wù)拆分

根據(jù)業(yè)務(wù)屬性進行垂直切分旷痕,劃分為產(chǎn)品子系統(tǒng),購物子系統(tǒng)顽冶,支付子系統(tǒng)苦蒿,評論子系統(tǒng),客服子系統(tǒng)渗稍,接口子系統(tǒng)(對接如進銷存佩迟,短信等外部系統(tǒng))团滥。

根據(jù)業(yè)務(wù)子系統(tǒng)進行等級定義,可分為核心系統(tǒng)和非核心系統(tǒng)报强。核心系統(tǒng):產(chǎn)品子系統(tǒng)灸姊,購物子系統(tǒng),支付子系統(tǒng)秉溉;非核心:評論子系統(tǒng)力惯,客服子系統(tǒng),接口子系統(tǒng)召嘶。

業(yè)務(wù)拆分作用:提升為子系統(tǒng)可由專門的團隊和部門負(fù)責(zé)父晶,專業(yè)的人做專業(yè)的事,解決模塊之間耦合以及擴展性問題弄跌;每個子系統(tǒng)單獨部署甲喝,避免集中部署導(dǎo)致一個應(yīng)用掛了,全部應(yīng)用不可用的問題铛只。

等級定義作用:用于流量突發(fā)時埠胖,對關(guān)鍵應(yīng)用進行保護,實現(xiàn)優(yōu)雅降級淳玩;保護關(guān)鍵應(yīng)用不受到影響直撤。

拆分后的架構(gòu)圖:

image

參考部署方案2


image
  1. 如上圖每個應(yīng)用單獨部署
  2. 核心系統(tǒng)和非核心系統(tǒng)組合部署

6.2應(yīng)用集群部署(分布式,集群蜕着,負(fù)載均衡)

分布式部署:將業(yè)務(wù)拆分后的應(yīng)用單獨部署谋竖,應(yīng)用直接通過RPC進行遠(yuǎn)程通信;

集群部署:電商網(wǎng)站的高可用要求承匣,每個應(yīng)用至少部署兩臺服務(wù)器進行集群部署圈盔;

負(fù)載均衡:是高可用系統(tǒng)必須的,一般應(yīng)用通過負(fù)載均衡實現(xiàn)高可用悄雅,分布式服務(wù)通過內(nèi)置的負(fù)載均衡實現(xiàn)高可用驱敲,關(guān)系型數(shù)據(jù)庫通過主備方式實現(xiàn)高可用。

集群部署后架構(gòu)圖:

image

6.3 多級緩存

緩存按照存放的位置一般可分為兩類本地緩存和分布式緩存宽闲。本案例采用二級緩存的方式众眨,進行緩存的設(shè)計。一級緩存為本地緩存容诬,二級緩存為分布式緩存娩梨。(還有頁面緩存,片段緩存等览徒,那是更細(xì)粒度的劃分)

一級緩存狈定,緩存數(shù)據(jù)字典,和常用熱點數(shù)據(jù)等基本不可變/有規(guī)則變化的信息,二級緩存緩存需要的所有緩存纽什。當(dāng)一級緩存過期或不可用時措嵌,訪問二級緩存的數(shù)據(jù)。如果二級緩存也沒有芦缰,則訪問數(shù)據(jù)庫企巢。

緩存的比例,一般1:4让蕾,即可考慮使用緩存浪规。(理論上是1:2即可)。

image

根據(jù)業(yè)務(wù)特性可使用以下緩存過期策略:

  1. 緩存自動過期探孝;
  2. 緩存觸發(fā)過期笋婿;

6.4單點登錄(分布式Session)

系統(tǒng)分割為多個子系統(tǒng),獨立部署后顿颅,不可避免的會遇到會話管理的問題缸濒。一般可采用Session同步,Cookies元镀,分布式Session方式。電商網(wǎng)站一般采用分布式Session實現(xiàn)霎桅。

再進一步可以根據(jù)分布式Session栖疑,建立完善的單點登錄或賬戶管理系統(tǒng)。

image

流程說明

  1. 用戶第一次登錄時滔驶,將會話信息(用戶Id和用戶信息)遇革,比如以用戶Id為Key,寫入分布式Session揭糕;
  2. 用戶再次登錄時萝快,獲取分布式Session,是否有會話信息著角,如果沒有則調(diào)到登錄頁揪漩;
  3. 一般采用Cache中間件實現(xiàn),建議使用Redis吏口,因此它有持久化功能奄容,方便分布式Session宕機后,可以從持久化存儲中加載會話信息产徊;
  4. 存入會話時,可以設(shè)置會話保持的時間舟铜,比如15分鐘戈盈,超過后自動超時;

結(jié)合Cache中間件谆刨,實現(xiàn)的分布式Session塘娶,可以很好的模擬Session會話归斤。

6.5數(shù)據(jù)庫集群(讀寫分離,分庫分表)

大型網(wǎng)站需要存儲海量的數(shù)據(jù)血柳,為達(dá)到海量數(shù)據(jù)存儲官册,高可用,高性能一般采用冗余的方式進行系統(tǒng)設(shè)計难捌。一般有兩種方式讀寫分離和分庫分表膝宁。

讀寫分離:一般解決讀比例遠(yuǎn)大于寫比例的場景,可采用一主一備根吁,一主多備或多主多備方式员淫。

本案例在業(yè)務(wù)拆分的基礎(chǔ)上,結(jié)合分庫分表和讀寫分離击敌。如下圖:

image
  1. 業(yè)務(wù)拆分后:每個子系統(tǒng)需要單獨的庫介返;
  2. 如果單獨的庫太大,可以根據(jù)業(yè)務(wù)特性沃斤,進行再次分庫圣蝎,比如商品分類庫,產(chǎn)品庫衡瓶;
  3. 分庫后徘公,如果表中有數(shù)據(jù)量很大的,則進行分表哮针,一般可以按照Id关面,時間等進行分表;(高級的用法是一致性Hash)
  4. 在分庫十厢,分表的基礎(chǔ)上等太,進行讀寫分離包颁;

相關(guān)中間件可參考Cobar(阿里,目前已不在維護)漠其,TDDL(阿里),Atlas(奇虎360),MyCat(在Cobar基礎(chǔ)上潜沦,國內(nèi)很多牛人,號稱國內(nèi)第一開源項目)。

分庫分表后序列的問題,JOIN握童,事務(wù)的問題红伦,會在分庫分表主題分享中膨桥,介紹。

6.6服務(wù)化

將多個子系統(tǒng)公用的功能/模塊蕴掏,進行抽取挽荡,作為公用服務(wù)使用定拟。比如本案例的會員子系統(tǒng)就可以抽取為公用的服務(wù)。

image

6.7消息隊列

消息隊列可以解決子系統(tǒng)/模塊之間的耦合需曾,實現(xiàn)異步车份,高可用出爹,高性能的系統(tǒng)梢为。是分布式系統(tǒng)的標(biāo)準(zhǔn)配置肴沫。本案例中孽文,消息隊列主要應(yīng)用在購物郁副,配送環(huán)節(jié)减牺。

  1. 用戶下單后,寫入消息隊列存谎,后直接返回客戶端拔疚;
  2. 庫存子系統(tǒng):讀取消息隊列信息既荚,完成減庫存;
  3. 配送子系統(tǒng):讀取消息隊列信息恰聘,進行配送晴叨;
image

目前使用較多的MQ有Active MQ,Rabbit MQ,Zero MQ凿宾,MS MQ等,需要根據(jù)具體的業(yè)務(wù)場景進行選擇兼蕊。建議可以研究下Rabbit MQ初厚。

6.8其他架構(gòu)(技術(shù))

除了以上介紹的業(yè)務(wù)拆分,應(yīng)用集群孙技,多級緩存产禾,單點登錄,數(shù)據(jù)庫集群牵啦,服務(wù)化亚情,消息隊列外。還有CDN蕾久,反向代理势似,分布式文件系統(tǒng)拌夏,大數(shù)據(jù)處理等系統(tǒng)僧著。

此處不詳細(xì)介紹,大家可以問度娘/Google障簿,有機會的話也可以分享給大家盹愚。

七、架構(gòu)總結(jié)

image

以上是本次分享的架構(gòu)總結(jié)站故,其中細(xì)節(jié)可參考前面分享的內(nèi)容皆怕。其中還有很多可以優(yōu)化和細(xì)化的地方毅舆,因為是案例分享,主要針對重要部分做了介紹愈腾,工作中需要大家根據(jù)具體的業(yè)務(wù)場景進行架構(gòu)設(shè)計憋活。

以上是電商網(wǎng)站架構(gòu)案例的分享一共有三篇,從電商網(wǎng)站的需求虱黄,到單機架構(gòu)悦即,逐步演變?yōu)槌S玫模晒﹨⒖嫉姆植际郊軜?gòu)的原型橱乱。除具備功能需求外辜梳,還具備一定的高性能,高可用泳叠,可伸縮作瞄,可擴展等非功能質(zhì)量需求(架構(gòu)目標(biāo))。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末危纫,一起剝皮案震驚了整個濱河市宗挥,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌种蝶,老刑警劉巖属韧,帶你破解...
    沈念sama閱讀 206,126評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異蛤吓,居然都是意外死亡宵喂,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評論 2 382
  • 文/潘曉璐 我一進店門会傲,熙熙樓的掌柜王于貴愁眉苦臉地迎上來锅棕,“玉大人,你說我怎么就攤上這事淌山÷懔牵” “怎么了?”我有些...
    開封第一講書人閱讀 152,445評論 0 341
  • 文/不壞的土叔 我叫張陵泼疑,是天一觀的道長德绿。 經(jīng)常有香客問我,道長退渗,這世上最難降的妖魔是什么移稳? 我笑而不...
    開封第一講書人閱讀 55,185評論 1 278
  • 正文 為了忘掉前任,我火速辦了婚禮会油,結(jié)果婚禮上个粱,老公的妹妹穿的比我還像新娘。我一直安慰自己翻翩,他們只是感情好都许,可當(dāng)我...
    茶點故事閱讀 64,178評論 5 371
  • 文/花漫 我一把揭開白布稻薇。 她就那樣靜靜地躺著,像睡著了一般胶征。 火紅的嫁衣襯著肌膚如雪塞椎。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 48,970評論 1 284
  • 那天睛低,我揣著相機與錄音忱屑,去河邊找鬼。 笑死暇昂,一個胖子當(dāng)著我的面吹牛莺戒,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播急波,決...
    沈念sama閱讀 38,276評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼从铲,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了澄暮?” 一聲冷哼從身側(cè)響起名段,我...
    開封第一講書人閱讀 36,927評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎泣懊,沒想到半個月后伸辟,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,400評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡馍刮,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,883評論 2 323
  • 正文 我和宋清朗相戀三年信夫,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片卡啰。...
    茶點故事閱讀 37,997評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡静稻,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出匈辱,到底是詐尸還是另有隱情振湾,我是刑警寧澤,帶...
    沈念sama閱讀 33,646評論 4 322
  • 正文 年R本政府宣布亡脸,位于F島的核電站押搪,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏浅碾。R本人自食惡果不足惜大州,卻給世界環(huán)境...
    茶點故事閱讀 39,213評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望及穗。 院中可真熱鬧摧茴,春花似錦绵载、人聲如沸埂陆。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽焚虱。三九已至购裙,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間鹃栽,已是汗流浹背躏率。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評論 1 260
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留民鼓,地道東北人薇芝。 一個月前我還...
    沈念sama閱讀 45,423評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像丰嘉,于是被迫代替她去往敵國和親夯到。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,722評論 2 345

推薦閱讀更多精彩內(nèi)容

  • 大型網(wǎng)站架構(gòu) 網(wǎng)站架構(gòu)包括:前端架構(gòu)+應(yīng)用層架構(gòu)+服務(wù)層架構(gòu)+存儲層架構(gòu)+后臺架構(gòu)+數(shù)據(jù)中心機房架構(gòu)+安全架構(gòu)+數(shù)...
    運維開發(fā)筆記閱讀 1,094評論 0 7
  • 目錄 ·大型網(wǎng)站軟件系統(tǒng)的特點 ·大型網(wǎng)站架構(gòu)演化發(fā)展歷程 ·初始階段的網(wǎng)站架構(gòu) ·需求/解決問題 ·架構(gòu) ·應(yīng)用...
    zhyang0918閱讀 2,635評論 0 16
  • 關(guān)于Mongodb的全面總結(jié) MongoDB的內(nèi)部構(gòu)造《MongoDB The Definitive Guide》...
    中v中閱讀 31,898評論 2 89
  • 大型網(wǎng)站的挑戰(zhàn)主要來自龐大的用戶饮亏,高并發(fā)的訪問和海量數(shù)據(jù)耍贾,任何簡單的業(yè)務(wù)一旦需要處理數(shù)以P計的數(shù)據(jù)和面對數(shù)以億計的...
    jackcooper閱讀 480評論 0 10
  • 在使用之前,我不會再涂抹化妝水路幸,因為這款安瓶含有大量玻尿酸(透明質(zhì)酸)荐开,本身就具有極高補水性。在涂抹時要小心简肴,它是...
    Amybubu閱讀 165評論 0 0