究竟啥才是互聯(lián)網(wǎng)架構(gòu)“高可用”

摘自 架構(gòu)師之路
一碘橘、什么是高可用
高可用HA****(High Availability)是分布式系統(tǒng)架構(gòu)設(shè)計(jì)中必須考慮的因素之一互订,它通常是指,通過(guò)設(shè)計(jì)減少系統(tǒng)不能提供服務(wù)的時(shí)間痘拆。
假設(shè)系統(tǒng)一直能夠提供服務(wù)仰禽,我們說(shuō)系統(tǒng)的可用性是100%。
如果系統(tǒng)每運(yùn)行100個(gè)時(shí)間單位错负,會(huì)有1個(gè)時(shí)間單位無(wú)法提供服務(wù)坟瓢,我們說(shuō)系統(tǒng)的可用性是99%。
很多公司的高可用目標(biāo)是4個(gè)9犹撒,也就是99.99%折联,這就意味著,系統(tǒng)的年停機(jī)時(shí)間為8.76個(gè)小時(shí)识颊。
百度的搜索首頁(yè)诚镰,是業(yè)內(nèi)公認(rèn)高可用保障非常出色的系統(tǒng)奕坟,甚至人們會(huì)通過(guò)www.baidu.com 能不能訪問(wèn)來(lái)判斷“網(wǎng)絡(luò)的連通性”,百度高可用的服務(wù)讓人留下啦“網(wǎng)絡(luò)通暢清笨,百度就能訪問(wèn)”月杉,“百度打不開(kāi),應(yīng)該是網(wǎng)絡(luò)連不上”的印象抠艾,這其實(shí)是對(duì)百度HA最高的褒獎(jiǎng)苛萎。

二、如何保障系統(tǒng)的高可用
我們都知道检号,單點(diǎn)是系統(tǒng)高可用的大敵腌歉,單點(diǎn)往往是系統(tǒng)高可用最大的風(fēng)險(xiǎn)和敵人涵妥,應(yīng)該盡量在系統(tǒng)設(shè)計(jì)的過(guò)程中避免單點(diǎn)顷霹。方法論上,高可用保證的原則是“集群化”瓶摆,或者叫“冗余”:只有一個(gè)單點(diǎn)凹蜂,掛了服務(wù)會(huì)受影響馍驯;如果有冗余備份,掛了還有其他backup能夠頂上玛痊。
保證系統(tǒng)高可用汰瘫,架構(gòu)設(shè)計(jì)的核心準(zhǔn)則是:冗余。
有了冗余之后擂煞,還不夠吟吝,每次出現(xiàn)故障需要人工介入恢復(fù)勢(shì)必會(huì)增加系統(tǒng)的不可服務(wù)實(shí)踐。所以颈娜,又往往是通過(guò)“自動(dòng)故障轉(zhuǎn)移”來(lái)實(shí)現(xiàn)系統(tǒng)的高可用剑逃。
接下來(lái)我們看下典型互聯(lián)網(wǎng)架構(gòu)中,如何通過(guò)冗余+自動(dòng)故障轉(zhuǎn)移來(lái)保證系統(tǒng)的高可用特性官辽。

三蛹磺、常見(jiàn)的互聯(lián)網(wǎng)分層架構(gòu)

常見(jiàn)互聯(lián)網(wǎng)分布式架構(gòu)如上,分為:
(1)客戶端層:典型調(diào)用方是瀏覽器browser或者手機(jī)應(yīng)用APP
(2)反向代理層:系統(tǒng)入口同仆,反向代理
(3)站點(diǎn)應(yīng)用層:實(shí)現(xiàn)核心應(yīng)用邏輯萤捆,返回html或者json
(4)服務(wù)層:如果實(shí)現(xiàn)了服務(wù)化,就有這一層
(5)數(shù)據(jù)****-****緩存層:緩存加速訪問(wèn)存儲(chǔ)
(6)數(shù)據(jù)****-****數(shù)據(jù)庫(kù)層:數(shù)據(jù)庫(kù)固化數(shù)據(jù)存儲(chǔ)
整個(gè)系統(tǒng)的高可用俗批,又是通過(guò)每一層的冗余****+****自動(dòng)故障轉(zhuǎn)移來(lái)綜合實(shí)現(xiàn)的俗或。


四、分層高可用架構(gòu)實(shí)踐
【客戶端層->****反向代理層】的高可用

【客戶端層】到【反向代理層】的高可用岁忘,是通過(guò)反向代理層的冗余來(lái)實(shí)現(xiàn)的辛慰。以nginx為例:有兩臺(tái)nginx,一臺(tái)對(duì)線上提供服務(wù)干像,另一臺(tái)冗余以保證高可用帅腌,常見(jiàn)的實(shí)踐是keepalived存活探測(cè)驰弄,相同virtual IP提供服務(wù)。

自動(dòng)故障轉(zhuǎn)移:當(dāng)nginx掛了的時(shí)候速客,keepalived能夠探測(cè)到戚篙,會(huì)自動(dòng)的進(jìn)行故障轉(zhuǎn)移,將流量自動(dòng)遷移到shadow-nginx溺职,由于使用的是相同的virtual IP岔擂,這個(gè)切換過(guò)程對(duì)調(diào)用方是透明的。

【反向代理層->****站點(diǎn)層】的高可用

【反向代理層】到【站點(diǎn)層】的高可用浪耘,是通過(guò)站點(diǎn)層的冗余來(lái)實(shí)現(xiàn)的智亮。假設(shè)反向代理層是nginx,nginx.conf里能夠配置多個(gè)web后端点待,并且nginx能夠探測(cè)到多個(gè)后端的存活性。

自動(dòng)故障轉(zhuǎn)移:當(dāng)web-server掛了的時(shí)候弃舒,nginx能夠探測(cè)到癞埠,會(huì)自動(dòng)的進(jìn)行故障轉(zhuǎn)移,將流量自動(dòng)遷移到其他的web-server聋呢,整個(gè)過(guò)程由nginx自動(dòng)完成苗踪,對(duì)調(diào)用方是透明的。

【站點(diǎn)層->****服務(wù)層】的高可用

【站點(diǎn)層】到【服務(wù)層】的高可用削锰,是通過(guò)服務(wù)層的冗余來(lái)實(shí)現(xiàn)的通铲。“服務(wù)連接池”會(huì)建立與下游服務(wù)多個(gè)連接器贩,每次請(qǐng)求會(huì)“隨機(jī)”選取連接來(lái)訪問(wèn)下游服務(wù)颅夺。

自動(dòng)故障轉(zhuǎn)移:當(dāng)service掛了的時(shí)候,service-connection-pool能夠探測(cè)到蛹稍,會(huì)自動(dòng)的進(jìn)行故障轉(zhuǎn)移吧黄,將流量自動(dòng)遷移到其他的service,整個(gè)過(guò)程由連接池自動(dòng)完成唆姐,對(duì)調(diào)用方是透明的(所以說(shuō)RPC-client中的服務(wù)連接池是很重要的基礎(chǔ)組件)拗慨。

【服務(wù)層>****緩存層】的高可用

【服務(wù)層】到【緩存層】的高可用,是通過(guò)緩存數(shù)據(jù)的冗余來(lái)實(shí)現(xiàn)的奉芦。
緩存層的數(shù)據(jù)冗余又有幾種方式:第一種是利用客戶端的封裝赵抢,service對(duì)cache進(jìn)行雙讀或者雙寫。

緩存層也可以通過(guò)支持主從同步的緩存集群來(lái)解決緩存層的高可用問(wèn)題声功。
以redis為例烦却,redis天然支持主從同步,redis官方也有sentinel哨兵機(jī)制先巴,來(lái)做redis的存活性檢測(cè)短绸。

自動(dòng)故障轉(zhuǎn)移:當(dāng)redis主掛了的時(shí)候车吹,sentinel能夠探測(cè)到,會(huì)通知調(diào)用方訪問(wèn)新的redis醋闭,整個(gè)過(guò)程由sentinel和redis集群配合完成窄驹,對(duì)調(diào)用方是透明的。

說(shuō)完緩存的高可用证逻,這里要多說(shuō)一句乐埠,業(yè)務(wù)對(duì)緩存并不一定有“高可用”要求,更多的對(duì)緩存的使用場(chǎng)景囚企,是用來(lái)“加速數(shù)據(jù)訪問(wèn)”:把一部分?jǐn)?shù)據(jù)放到緩存里丈咐,如果緩存掛了或者緩存沒(méi)有命中,是可以去后端的數(shù)據(jù)庫(kù)中再取數(shù)據(jù)的龙宏。
這類允許“cache miss”的業(yè)務(wù)場(chǎng)景棵逊,緩存架構(gòu)的建議是:


將kv緩存封裝成服務(wù)集群,上游設(shè)置一個(gè)代理(代理可以用集群冗余的方式保證高可用)银酗,代理的后端根據(jù)緩存訪問(wèn)的key水平切分成若干個(gè)實(shí)例辆影,每個(gè)實(shí)例的訪問(wèn)并不做高可用。

緩存實(shí)例掛了屏蔽:當(dāng)有水平切分的實(shí)例掛掉時(shí)黍特,代理層直接返回cache miss蛙讥,此時(shí)緩存掛掉對(duì)調(diào)用方也是透明的。key水平切分實(shí)例減少灭衷,不建議做re-hash次慢,這樣容易引發(fā)緩存數(shù)據(jù)的不一致。

【服務(wù)層>****數(shù)據(jù)庫(kù)層】的高可用
大部分互聯(lián)網(wǎng)技術(shù)翔曲,數(shù)據(jù)庫(kù)層都用了“主從同步迫像,讀寫分離”架構(gòu),所以數(shù)據(jù)庫(kù)層的高可用瞳遍,又分為“讀庫(kù)高可用”與“寫庫(kù)高可用”兩類侵蒙。

【服務(wù)層>****數(shù)據(jù)庫(kù)層“讀”】的高可用

【服務(wù)層】到【數(shù)據(jù)庫(kù)讀】的高可用,是通過(guò)讀庫(kù)的冗余來(lái)實(shí)現(xiàn)的傅蹂。
既然冗余了讀庫(kù)纷闺,一般來(lái)說(shuō)就至少有2個(gè)從庫(kù),“數(shù)據(jù)庫(kù)連接池”會(huì)建立與讀庫(kù)多個(gè)連接份蝴,每次請(qǐng)求會(huì)路由到這些讀庫(kù)犁功。

自動(dòng)故障轉(zhuǎn)移:當(dāng)讀庫(kù)掛了的時(shí)候,db-connection-pool能夠探測(cè)到婚夫,會(huì)自動(dòng)的進(jìn)行故障轉(zhuǎn)移浸卦,將流量自動(dòng)遷移到其他的讀庫(kù),整個(gè)過(guò)程由連接池自動(dòng)完成案糙,對(duì)調(diào)用方是透明的(所以說(shuō)DAO中的數(shù)據(jù)庫(kù)連接池是很重要的基礎(chǔ)組件)限嫌。

【服務(wù)層>****數(shù)據(jù)庫(kù)層“寫”】的高可用

【服務(wù)層】到【數(shù)據(jù)庫(kù)寫】的高可用靴庆,是通過(guò)寫庫(kù)的冗余來(lái)實(shí)現(xiàn)的。
以mysql為例怒医,可以設(shè)置兩個(gè)mysql雙主同步炉抒,一臺(tái)對(duì)線上提供服務(wù),另一臺(tái)冗余以保證高可用稚叹,常見(jiàn)的實(shí)踐是keepalived存活探測(cè)焰薄,相同virtual IP提供服務(wù)。

自動(dòng)故障轉(zhuǎn)移:當(dāng)寫庫(kù)掛了的時(shí)候扒袖,keepalived能夠探測(cè)到塞茅,會(huì)自動(dòng)的進(jìn)行故障轉(zhuǎn)移,將流量自動(dòng)遷移到shadow-db-master季率,由于使用的是相同的virtual IP野瘦,這個(gè)切換過(guò)程對(duì)調(diào)用方是透明的。

五飒泻、總結(jié)
高可用HA(High Availability)是分布式系統(tǒng)架構(gòu)設(shè)計(jì)中必須考慮的因素之一鞭光,它通常是指,通過(guò)設(shè)計(jì)減少系統(tǒng)不能提供服務(wù)的時(shí)間蠢络。
方法論上,高可用是通過(guò)冗余****+****自動(dòng)故障轉(zhuǎn)移來(lái)實(shí)現(xiàn)的迟蜜。
整個(gè)互聯(lián)網(wǎng)分層系統(tǒng)架構(gòu)的高可用刹孔,又是通過(guò)每一層的冗余****+****自動(dòng)故障轉(zhuǎn)移來(lái)綜合實(shí)現(xiàn)的,具體的:
(1)【客戶端層】到【反向代理層】的高可用娜睛,是通過(guò)反向代理層的冗余實(shí)現(xiàn)的髓霞,常見(jiàn)實(shí)踐是keepalived + virtual IP自動(dòng)故障轉(zhuǎn)移
(2)【反向代理層】到【站點(diǎn)層】的高可用,是通過(guò)站點(diǎn)層的冗余實(shí)現(xiàn)的畦戒,常見(jiàn)實(shí)踐是nginx與web-server之間的存活性探測(cè)與自動(dòng)故障轉(zhuǎn)移
(3)【站點(diǎn)層】到【服務(wù)層】的高可用方库,是通過(guò)服務(wù)層的冗余實(shí)現(xiàn)的,常見(jiàn)實(shí)踐是通過(guò)service-connection-pool來(lái)保證自動(dòng)故障轉(zhuǎn)移
(4)【服務(wù)層】到【緩存層】的高可用障斋,是通過(guò)緩存數(shù)據(jù)的冗余實(shí)現(xiàn)的纵潦,常見(jiàn)實(shí)踐是緩存客戶端雙讀雙寫,或者利用緩存集群的主從數(shù)據(jù)同步與sentinel崩罚活與自動(dòng)故障轉(zhuǎn)移邀层;更多的業(yè)務(wù)場(chǎng)景,對(duì)緩存沒(méi)有高可用要求遂庄,可以使用緩存服務(wù)化來(lái)對(duì)調(diào)用方屏蔽底層復(fù)雜性
(5)【服務(wù)層】到【數(shù)據(jù)庫(kù)“讀”】的高可用寥院,是通過(guò)讀庫(kù)的冗余實(shí)現(xiàn)的,常見(jiàn)實(shí)踐是通過(guò)db-connection-pool來(lái)保證自動(dòng)故障轉(zhuǎn)移
(6)【服務(wù)層】到【數(shù)據(jù)庫(kù)“寫”】的高可用涛目,是通過(guò)寫庫(kù)的冗余實(shí)現(xiàn)的秸谢,常見(jiàn)實(shí)踐是keepalived + virtual IP自動(dòng)故障轉(zhuǎn)移

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末凛澎,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子估蹄,更是在濱河造成了極大的恐慌塑煎,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,635評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件元媚,死亡現(xiàn)場(chǎng)離奇詭異轧叽,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)刊棕,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門炭晒,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人甥角,你說(shuō)我怎么就攤上這事网严。” “怎么了嗤无?”我有些...
    開(kāi)封第一講書(shū)人閱讀 168,083評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵震束,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我当犯,道長(zhǎng)垢村,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 59,640評(píng)論 1 296
  • 正文 為了忘掉前任嚎卫,我火速辦了婚禮嘉栓,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘拓诸。我一直安慰自己侵佃,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,640評(píng)論 6 397
  • 文/花漫 我一把揭開(kāi)白布奠支。 她就那樣靜靜地躺著馋辈,像睡著了一般。 火紅的嫁衣襯著肌膚如雪倍谜。 梳的紋絲不亂的頭發(fā)上迈螟,一...
    開(kāi)封第一講書(shū)人閱讀 52,262評(píng)論 1 308
  • 那天,我揣著相機(jī)與錄音尔崔,去河邊找鬼井联。 笑死,一個(gè)胖子當(dāng)著我的面吹牛您旁,可吹牛的內(nèi)容都是我干的烙常。 我是一名探鬼主播,決...
    沈念sama閱讀 40,833評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蚕脏!你這毒婦竟也來(lái)了侦副?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 39,736評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤驼鞭,失蹤者是張志新(化名)和其女友劉穎秦驯,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體挣棕,經(jīng)...
    沈念sama閱讀 46,280評(píng)論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡译隘,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,369評(píng)論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了洛心。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片固耘。...
    茶點(diǎn)故事閱讀 40,503評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖词身,靈堂內(nèi)的尸體忽然破棺而出厅目,到底是詐尸還是另有隱情,我是刑警寧澤法严,帶...
    沈念sama閱讀 36,185評(píng)論 5 350
  • 正文 年R本政府宣布损敷,位于F島的核電站,受9級(jí)特大地震影響深啤,放射性物質(zhì)發(fā)生泄漏拗馒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,870評(píng)論 3 333
  • 文/蒙蒙 一溯街、第九天 我趴在偏房一處隱蔽的房頂上張望诱桂。 院中可真熱鬧,春花似錦苫幢、人聲如沸访诱。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 32,340評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至九榔,卻和暖如春哀峻,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背哲泊。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,460評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工剩蟀, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人切威。 一個(gè)月前我還...
    沈念sama閱讀 48,909評(píng)論 3 376
  • 正文 我出身青樓育特,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子缰冤,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,512評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容