后端服務(wù)的雪崩效應(yīng)及解決思路

上一篇 <<<緩存策略匯總
下一篇 >>>服務(wù)的隔離炊林、降級(jí)和熔斷


1.RPC與本地調(diào)用的區(qū)別

RPC遠(yuǎn)程調(diào)用滩援,一般是跨平臺(tái)破衔、采用http協(xié)議,因?yàn)閔ttp協(xié)議底層使用socket技術(shù),只要你的語(yǔ)言支持socket技術(shù),就可以相互進(jìn)行通訊谨究。
比如:java語(yǔ)言開發(fā)的接口,使用http協(xié)議快鱼,如此以來C#語(yǔ)言可以調(diào)用。
本地調(diào)用:只支持java語(yǔ)言與java語(yǔ)言開發(fā)纲岭,使用虛擬機(jī)和虛擬機(jī)之間的通訊抹竹,RMI。

2.雪崩效應(yīng)產(chǎn)生的原因

默認(rèn)情況下只有一個(gè)線程池維護(hù)所有的服務(wù)接口止潮,如果大量的請(qǐng)求訪問同一個(gè)接口窃判,達(dá)到tomcat線程池默認(rèn)極限,可能會(huì)導(dǎo)致其他服務(wù)無法訪問沽翔。

3.雪崩效應(yīng)的解決思路

服務(wù)器在高并發(fā)下會(huì)產(chǎn)生雪崩效應(yīng)兢孝,為了解決此可以窿凤,主要可以從三方面解決
a仅偎、緩存:提升系統(tǒng)訪問速度和增大系統(tǒng)能處理的容量,可謂是抗高并發(fā)流量的核心雳殊。
b橘沥、服務(wù)隔離、熔斷夯秃、降級(jí)等,當(dāng)服務(wù)出問題或者影響到核心流程的性能則需要暫時(shí)屏蔽掉座咆,待高峰或者問題解決后再打開;
隔離:讓各服務(wù)使用獨(dú)立的線程池仓洼,互不影響介陶。
熔斷:當(dāng)服務(wù)達(dá)到最大的承受極限直接拒絕訪問,使用服務(wù)降級(jí)色建。
降級(jí):用戶一直等待時(shí)哺呜,給客戶端一個(gè)友好的錯(cuò)誤提示。
c箕戳、限流:不能使用緩存或降級(jí)時(shí)的解決方案某残,比如稀缺資源(秒殺国撵、搶購(gòu))、寫服務(wù)(如評(píng)論玻墅、下單)介牙、頻繁的復(fù)雜查詢(評(píng)論的最后幾頁(yè))。

Hystrix是一個(gè)微服務(wù)關(guān)于服務(wù)保護(hù)的框架澳厢,是Netflix開源的一款針對(duì)分布式系統(tǒng)的延遲和容錯(cuò)解決框架环础,目的是用來隔離分布式服務(wù)故障。
限流和服務(wù)保護(hù)都需要和服務(wù)降級(jí)共同使用赏酥。

白話文理解:
服務(wù)保護(hù):當(dāng)服務(wù)產(chǎn)生堆積的時(shí)候喳整,對(duì)服務(wù)實(shí)現(xiàn)保護(hù)功能
服務(wù)隔離:保證每個(gè)服務(wù)互不影響,使用信號(hào)量或線程池方式
服務(wù)降級(jí):當(dāng)服務(wù)不可用的時(shí)候裸扶,不會(huì)被等待框都,直接給客戶端一個(gè)友好提示
服務(wù)熔斷:當(dāng)服務(wù)器達(dá)到最大的承受能力后,直接決絕訪問服務(wù)呵晨,采用服務(wù)降級(jí)返回友好提示魏保。


推薦閱讀:
<<<高并發(fā)架構(gòu)的整體思路
<<<一個(gè)網(wǎng)站訪問慢的真正原因
<<<高并發(fā)情況下,接口的代碼會(huì)存在哪些問題
<<<壓縮靜態(tài)資源減少帶寬傳輸?shù)姆绞?/a>
<<<
動(dòng)靜分離架構(gòu)模式
<<<緩存策略匯總
<<<服務(wù)的隔離摸屠、降級(jí)和熔斷
<<<服務(wù)限流之計(jì)數(shù)器方式
<<<服務(wù)限流之滑動(dòng)窗口計(jì)數(shù)
<<<服務(wù)限流之令牌桶算法
<<<服務(wù)限流之漏桶算法
<<<漏桶算法和令牌桶算法的區(qū)別
<<<自定義封裝限流算法
<<<應(yīng)用級(jí)限流
<<<接入層限流

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末谓罗,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子季二,更是在濱河造成了極大的恐慌檩咱,老刑警劉巖,帶你破解...
    沈念sama閱讀 211,042評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件胯舷,死亡現(xiàn)場(chǎng)離奇詭異刻蚯,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)桑嘶,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,996評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門炊汹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人逃顶,你說我怎么就攤上這事讨便。” “怎么了以政?”我有些...
    開封第一講書人閱讀 156,674評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵霸褒,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我盈蛮,道長(zhǎng)废菱,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,340評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮昙啄,結(jié)果婚禮上穆役,老公的妹妹穿的比我還像新娘。我一直安慰自己梳凛,他們只是感情好耿币,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,404評(píng)論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著韧拒,像睡著了一般淹接。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上叛溢,一...
    開封第一講書人閱讀 49,749評(píng)論 1 289
  • 那天塑悼,我揣著相機(jī)與錄音,去河邊找鬼楷掉。 笑死厢蒜,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的烹植。 我是一名探鬼主播斑鸦,決...
    沈念sama閱讀 38,902評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼草雕!你這毒婦竟也來了巷屿?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,662評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤墩虹,失蹤者是張志新(化名)和其女友劉穎嘱巾,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體诫钓,經(jīng)...
    沈念sama閱讀 44,110評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡旬昭,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了尖坤。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片稳懒。...
    茶點(diǎn)故事閱讀 38,577評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡闲擦,死狀恐怖慢味,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情墅冷,我是刑警寧澤纯路,帶...
    沈念sama閱讀 34,258評(píng)論 4 328
  • 正文 年R本政府宣布,位于F島的核電站寞忿,受9級(jí)特大地震影響驰唬,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,848評(píng)論 3 312
  • 文/蒙蒙 一叫编、第九天 我趴在偏房一處隱蔽的房頂上張望辖佣。 院中可真熱鬧,春花似錦搓逾、人聲如沸卷谈。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,726評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至朗兵,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間余掖,已是汗流浹背寸爆。 一陣腳步聲響...
    開封第一講書人閱讀 31,952評(píng)論 1 264
  • 我被黑心中介騙來泰國(guó)打工盐欺, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留而昨,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,271評(píng)論 2 360
  • 正文 我出身青樓找田,卻偏偏與公主長(zhǎng)得像歌憨,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子墩衙,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,452評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容