淺析降級、熔斷、限流

image

當我們的系統(tǒng)的訪問量突然劇增狡蝶,大量的請求涌入過來庶橱,最典型的就是秒殺業(yè)務(wù)了,我們可能會知道會有一波高峰贪惹,這時候該如何處理苏章?

而且現(xiàn)在很多情況我們還需要調(diào)用第三方接口例如支付等,因此我們還得考慮如果第三方那邊出問題了馍乙,返回異常的慢布近,我們系統(tǒng)該如何處理。

常見的處理方式有三種:降級丝格、熔斷撑瞧、限流。

降級

降級也就是服務(wù)降級显蝌,當我們的服務(wù)器壓力劇增為了保證核心功能的可用性 预伺,而選擇性的降低一些功能的可用性,或者直接關(guān)閉該功能曼尊。這就是典型的丟車保帥了酬诀。
就比如貼吧類型的網(wǎng)站,當服務(wù)器吃不消的時候骆撇,可以選擇把發(fā)帖功能關(guān)閉瞒御,注冊功能關(guān)閉,改密碼神郊,改頭像這些都關(guān)了肴裙,為了確保登錄和瀏覽帖子這種核心的功能。

一般而言都會建立一個獨立的降級系統(tǒng)涌乳,可以靈活且批量的配置服務(wù)器的降級功能蜻懦。當然也有用代碼自動降級的,例如接口超時降級夕晓、失敗重試多次降級等宛乃。具體失敗幾次,超時設(shè)置多久蒸辆,由你們的業(yè)務(wù)等其他因素決定征炼。開個小會,定個值躬贡,扔線上去看看情況柒室。根據(jù)情況再調(diào)優(yōu)。

熔斷

降級一般而言指的是我們自身的系統(tǒng)出現(xiàn)了故障而降級逗宜。而熔斷一般是指依賴的外部接口出現(xiàn)故障的情況斷絕和外部接口的關(guān)系雄右。

例如你的A服務(wù)里面的一個功能依賴B服務(wù)空骚,這時候B服務(wù)出問題了,返回的很慢擂仍。這種情況可能會因為這么一個功能而拖慢了A服務(wù)里面的所有功能囤屹,因此我們這時候就需要熔斷!即當發(fā)現(xiàn)A要調(diào)用這B時就直接返回錯誤(或者返回其他默認值啊啥的)逢渔,就不去請求B了肋坚。我這還是舉了兩個服務(wù)的調(diào)用,有些那真的是一環(huán)扣一環(huán)肃廓,出問題不熔斷智厌,那真的是會雪崩。

當然也有人認為熔斷不就是降級的一種的盲赊,我覺得你非要說熔斷也屬于一種降級我也沒法反駁铣鹏,但是它們本質(zhì)上的突出點和想表達的意思還是有一些不同的。

那什么時候熔斷合適呢哀蘑?也就是到達哪個閾值進行熔斷诚卸,5分鐘內(nèi)50%的請求都超過1秒?還是啥绘迁?參考降級合溺。

限流

上面說的兩個算是請求過來我們都受理了,這個限流就更狠了缀台,直接跟請求說對不起再見棠赛!也就是系統(tǒng)規(guī)定了多少承受能力,只允許這么些請求能過來膛腐,其他的請求就說再見了睛约。

一般限制的指標有:請求總量或某段時間內(nèi)請求總量

請求總量:比如秒殺的依疼,秒殺100份產(chǎn)品,我就放5000名進來而芥,超過的直接拒絕請求了律罢。

某段時間內(nèi)請求總量:比如規(guī)定了每秒請求的峰值是1W,這一秒內(nèi)多的請求直接拒絕了棍丐。咱們下一秒再見误辑。


如有錯誤歡迎指正!

個人公眾號:yes的練級攻略

有相關(guān)面試進階(分布式歌逢、性能調(diào)優(yōu)巾钉、經(jīng)典書籍pdf)資料等待領(lǐng)取

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市秘案,隨后出現(xiàn)的幾起案子砰苍,更是在濱河造成了極大的恐慌潦匈,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,451評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件赚导,死亡現(xiàn)場離奇詭異茬缩,居然都是意外死亡,警方通過查閱死者的電腦和手機吼旧,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,172評論 3 394
  • 文/潘曉璐 我一進店門凰锡,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人圈暗,你說我怎么就攤上這事掂为。” “怎么了员串?”我有些...
    開封第一講書人閱讀 164,782評論 0 354
  • 文/不壞的土叔 我叫張陵勇哗,是天一觀的道長。 經(jīng)常有香客問我昵济,道長智绸,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,709評論 1 294
  • 正文 為了忘掉前任访忿,我火速辦了婚禮瞧栗,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘海铆。我一直安慰自己迹恐,他們只是感情好,可當我...
    茶點故事閱讀 67,733評論 6 392
  • 文/花漫 我一把揭開白布卧斟。 她就那樣靜靜地躺著殴边,像睡著了一般。 火紅的嫁衣襯著肌膚如雪珍语。 梳的紋絲不亂的頭發(fā)上锤岸,一...
    開封第一講書人閱讀 51,578評論 1 305
  • 那天,我揣著相機與錄音板乙,去河邊找鬼是偷。 笑死,一個胖子當著我的面吹牛募逞,可吹牛的內(nèi)容都是我干的蛋铆。 我是一名探鬼主播,決...
    沈念sama閱讀 40,320評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼放接,長吁一口氣:“原來是場噩夢啊……” “哼刺啦!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起纠脾,我...
    開封第一講書人閱讀 39,241評論 0 276
  • 序言:老撾萬榮一對情侶失蹤玛瘸,失蹤者是張志新(化名)和其女友劉穎蜕青,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體捧韵,經(jīng)...
    沈念sama閱讀 45,686評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡市咆,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,878評論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了再来。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蒙兰。...
    茶點故事閱讀 39,992評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖芒篷,靈堂內(nèi)的尸體忽然破棺而出搜变,到底是詐尸還是另有隱情,我是刑警寧澤针炉,帶...
    沈念sama閱讀 35,715評論 5 346
  • 正文 年R本政府宣布挠他,位于F島的核電站,受9級特大地震影響篡帕,放射性物質(zhì)發(fā)生泄漏殖侵。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,336評論 3 330
  • 文/蒙蒙 一镰烧、第九天 我趴在偏房一處隱蔽的房頂上張望拢军。 院中可真熱鬧,春花似錦怔鳖、人聲如沸茉唉。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,912評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽度陆。三九已至,卻和暖如春献幔,著一層夾襖步出監(jiān)牢的瞬間懂傀,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,040評論 1 270
  • 我被黑心中介騙來泰國打工蜡感, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蹬蚁,地道東北人。 一個月前我還...
    沈念sama閱讀 48,173評論 3 370
  • 正文 我出身青樓铸敏,卻偏偏與公主長得像缚忧,于是被迫代替她去往敵國和親悟泵。 傳聞我的和親對象是個殘疾皇子杈笔,可洞房花燭夜當晚...
    茶點故事閱讀 44,947評論 2 355

推薦閱讀更多精彩內(nèi)容