高并發(fā)系統(tǒng)三高總結(jié)

高并發(fā)系統(tǒng)下的性能優(yōu)化

主要思路有兩種:

  • 提高系統(tǒng)的處理核心數(shù)
例如:
采用Scale-up(縱向擴展掰烟,之前是四核8G,現(xiàn)在改成八核16G),
采用Scale-out(橫向擴展)判呕,最直觀的描述谓厘,加機器多應(yīng)用。
  • 減少單次任務(wù)的相應(yīng)時間
1隐孽、利用緩存(redis、es)
2健蕊、異步回調(diào)(一次請求不等待結(jié)果馬上返回菱阵,然后回調(diào)通知)
3、針對CPU密集型的可以采用更高效的算法缩功,減少運算次數(shù)晴及。
4、針對IO密集型的掂之,比如:數(shù)據(jù)庫系統(tǒng)抗俄、緩存系統(tǒng)、Web系統(tǒng)世舰。如果數(shù)據(jù)庫訪問
慢动雹,看看是否又鎖表、全表掃描跟压、索引是否合適胰蝠、是否有Join、需不需要加緩存。
怎么做到系統(tǒng)的高可用

高可用指的是:系統(tǒng)具備較高的無故障運行的能力茸塞。
高可用的度量指標(biāo):MTBF和MTTR

MTBF(Mean Time Between Failure)是平均故障間隔的意思躲庄,代表兩次故障的間隔時間,也就是系統(tǒng)正常運轉(zhuǎn)的平均時間钾虐。這個時間越長噪窘,系統(tǒng)穩(wěn)定性越高。

MTTR(Mean Time To Repair)表示故障的平均恢復(fù)時間效扫,也可以理解為平均故障時間倔监。這個值越小,故障對于用戶的影響越小菌仁。

通常也是使用幾個9來描述系統(tǒng)的可用性浩习。


image

一般來說,我們的核心業(yè)務(wù)系統(tǒng)的可用性济丘,需要達到四個九谱秽,非核心系統(tǒng)的可用性最多容忍到三個九。在實際工作中摹迷,你可能聽到過類似的說法疟赊,只是不同級別,不同業(yè)務(wù)場景的系統(tǒng)對于可用性要求是不一樣的泪掀。

高可用系統(tǒng)設(shè)計的思路
  • failover(故障轉(zhuǎn)移)听绳、超時控制以及降級和限流。
  • 系統(tǒng)運維
在業(yè)務(wù)平穩(wěn)運行過程中异赫,系統(tǒng)是很少發(fā)生故障的椅挣,90% 的故障是發(fā)生在上線變更階段的。
比方說塔拳,你上了一個新的功能鼠证,由于設(shè)計方案的問題,數(shù)據(jù)庫的慢請求數(shù)翻了一倍靠抑,導(dǎo)致系統(tǒng)請求被拖慢而產(chǎn)生故障量九。

1、灰度發(fā)布
概念:灰度發(fā)布指的是系統(tǒng)的變更不是一次性地推到線上的颂碧,而是按照一定比例逐步推進的荠列。
一般情況下,灰度發(fā)布是以機器維度進行的载城。比方說肌似,我們先在 10% 的機器上進行變更,同時觀察 Dashboard 上的系統(tǒng)性能指標(biāo)以及錯誤日志诉瓦。
如果運行了一段時間之后系統(tǒng)指標(biāo)比較平穩(wěn)并且沒有出現(xiàn)大量的錯誤日志川队,那么再推動全量變更力细。

2、故障演練
其實就是人為的設(shè)置一些故障來檢測系統(tǒng)是否出現(xiàn)了這些故障仍能繼續(xù)運行固额。
如何讓系統(tǒng)易于擴展
  • 存儲層擴展
分庫分表眠蚂,可以理解Wie微服務(wù),用戶戶斗躏、訂單庫逝慧、倉儲庫等等。
  • 業(yè)務(wù)層擴展
用戶池啄糙、訂單池馋艺、倉儲池。(池的概念可以理解為一個集群)
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末迈套,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子碱鳞,更是在濱河造成了極大的恐慌桑李,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件窿给,死亡現(xiàn)場離奇詭異贵白,居然都是意外死亡,警方通過查閱死者的電腦和手機崩泡,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進店門禁荒,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人角撞,你說我怎么就攤上這事呛伴。” “怎么了谒所?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵热康,是天一觀的道長。 經(jīng)常有香客問我劣领,道長姐军,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任尖淘,我火速辦了婚禮奕锌,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘村生。我一直安慰自己惊暴,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布梆造。 她就那樣靜靜地躺著缴守,像睡著了一般葬毫。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上屡穗,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天贴捡,我揣著相機與錄音,去河邊找鬼村砂。 笑死烂斋,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的础废。 我是一名探鬼主播汛骂,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼评腺!你這毒婦竟也來了帘瞭?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤蒿讥,失蹤者是張志新(化名)和其女友劉穎蝶念,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體芋绸,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡媒殉,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了摔敛。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片廷蓉。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖马昙,靈堂內(nèi)的尸體忽然破棺而出桃犬,到底是詐尸還是另有隱情,我是刑警寧澤行楞,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布疫萤,位于F島的核電站,受9級特大地震影響敢伸,放射性物質(zhì)發(fā)生泄漏扯饶。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一池颈、第九天 我趴在偏房一處隱蔽的房頂上張望尾序。 院中可真熱鬧,春花似錦躯砰、人聲如沸每币。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽兰怠。三九已至梦鉴,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間揭保,已是汗流浹背肥橙。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留秸侣,地道東北人存筏。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像味榛,于是被迫代替她去往敵國和親椭坚。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容