一、「負(fù)載均衡」是什么
正如題圖所示的這樣害驹，由一個(gè)獨(dú)立的統(tǒng)一入口來收斂流量鞭呕，再做二次分發(fā)的過程就是「負(fù)載均衡」，它的本質(zhì)和「分布式系統(tǒng)」一樣宛官，是「分治」葫松。
如果大家習(xí)慣了開車的時(shí)候用一些導(dǎo)航軟件，我們會(huì)發(fā)現(xiàn)底洗，導(dǎo)航軟件的推薦路線方案會(huì)有一個(gè)數(shù)量的上限腋么，比如3條、5條亥揖。因此珊擂，其實(shí)本質(zhì)上它也起到了一個(gè)類似「負(fù)載均衡」的作用，因?yàn)槿绻荒苋op3的通暢路線费变，自然擁堵嚴(yán)重的路線就無法推薦給你了摧扇，使得車流的壓力被分?jǐn)偟搅讼鄬?duì)空閑的路線上。
在軟件系統(tǒng)中也是一樣的道理挚歧，為了避免流量分?jǐn)偛痪富斐删植抗?jié)點(diǎn)負(fù)載過大（如CPU吃緊等），所以引入一個(gè)獨(dú)立的統(tǒng)一入口來做類似上面的“導(dǎo)航”的工作滑负。但是庇绽，軟件系統(tǒng)中的「負(fù)載均衡」與導(dǎo)航的不同在于锡搜，導(dǎo)航是一個(gè)柔性策略，最終還是需要使用者做選擇瞧掺，而前者則不同耕餐。
怎么均衡的背后是策略在起作用，而策略的背后是由某些算法或者說邏輯來組成的辟狈。比如肠缔，導(dǎo)航中的算法屬于「路徑規(guī)劃」范疇，在這個(gè)范疇內(nèi)又細(xì)分為「靜態(tài)路徑規(guī)劃」和「動(dòng)態(tài)路徑規(guī)劃」哼转，并且明未，在不同的分支下還有各種具體計(jì)算的算法實(shí)現(xiàn)，如Dijikstra壹蔓、A*等趟妥。同樣的，在軟件系統(tǒng)中的負(fù)載均衡佣蓉，也有很多算法或者說邏輯在支撐著這些策略披摄，巧的是也有靜態(tài)和動(dòng)態(tài)之分。
二勇凭、常用「負(fù)載均衡」策略圖解
下面來羅列一下日常工作中最常見的5種策略疚膊。
1、輪詢
這是最常用也最簡單策略虾标，平均分配寓盗，人人都有、一人一次璧函。大致的代碼如下傀蚌。
2、加權(quán)輪詢
在輪詢的基礎(chǔ)上蘸吓，增加了一個(gè)權(quán)重的概念善炫。權(quán)重是一個(gè)泛化后的概念，可以用任意方式來體現(xiàn)美澳，本質(zhì)上是一個(gè)能者多勞思想销部。比如摸航，可以根據(jù)宿主的性能差異配置不同的權(quán)重制跟。大致的代碼如下:
這段代碼的過程如下圖的表格。"()"中的數(shù)字就是自增數(shù)酱虎，代碼中的cur_weight雨膨。
值得注意的是，加權(quán)輪詢本身還有不同的實(shí)現(xiàn)方式读串，雖說最終的比例都是2：1：2聊记。但是在請(qǐng)求送達(dá)的先后順序上可以所有不同撒妈。比如「5-4，3排监，2-1」和上面的案例相比狰右，最終比例是一樣的，但是效果不同舆床∑灏觯「5-4，3挨队，2-1」更容易產(chǎn)生并發(fā)問題谷暮，導(dǎo)致服務(wù)端擁塞，且這個(gè)問題隨著權(quán)重?cái)?shù)字越大越嚴(yán)重盛垦。例子：10：5：3的結(jié)果是「18-17-16-15-14-13-12-11-10-9湿弦，8-7-6-5-4，3-2-1」
在此我向大家推薦一個(gè)Java學(xué)習(xí)交流群腾夯。交流學(xué)習(xí)群號(hào)：874811168 里面會(huì)分享一些資深架構(gòu)師錄制的視頻錄像：有Spring颊埃，MyBatis，Netty源碼分析俯在，高并發(fā)竟秫、高性能、分布式跷乐、微服務(wù)架構(gòu)的原理肥败，JVM性能優(yōu)化、分布式架構(gòu)等這些成為架構(gòu)師必備的知識(shí)體系愕提。還能領(lǐng)取免費(fèi)的學(xué)習(xí)資源馒稍，一起學(xué)習(xí)，一起進(jìn)步浅侨，目前受益良多纽谒。
3、最少連接數(shù)
這是一種根據(jù)實(shí)時(shí)的負(fù)載情況如输，進(jìn)行動(dòng)態(tài)負(fù)載均衡的方式鼓黔。維護(hù)好活動(dòng)中的連接數(shù)量，然后取最小的返回即可不见。大致的代碼如下澳化。
4、最快響應(yīng)
這也是一種動(dòng)態(tài)負(fù)載均衡策略稳吮，它的本質(zhì)是根據(jù)每個(gè)節(jié)點(diǎn)對(duì)過去一段時(shí)間內(nèi)的響應(yīng)情況來分配缎谷，響應(yīng)越快分配的越多。具體的運(yùn)作方式也有很多灶似，上圖的這種可以理解為列林，將最近一段時(shí)間的請(qǐng)求耗時(shí)的平均值記錄下來瑞你，結(jié)合前面的「加權(quán)輪詢」來處理，所以等價(jià)于2：1：3的加權(quán)輪詢希痴。
題外話：一般來說者甲，同機(jī)房下的延遲基本沒什么差異，響應(yīng)時(shí)間的差異主要在服務(wù)的處理能力上砌创。如果在跨地域（例：浙江->上海过牙，還是浙江->北京）的一些請(qǐng)求處理中運(yùn)用，大多數(shù)情況會(huì)使用定時(shí)「ping」的方式來獲取延遲情況纺铭，因?yàn)槭荗SI的L3轉(zhuǎn)發(fā)寇钉，數(shù)據(jù)更干凈，準(zhǔn)確性更高舶赔。
5扫倡、Hash法
hash法的負(fù)載均衡與之前的幾種不同在于，它的結(jié)果是由客戶端決定的竟纳。通過客戶端帶來的某個(gè)標(biāo)識(shí)經(jīng)過一個(gè)標(biāo)準(zhǔn)化的散列函數(shù)進(jìn)行打散分?jǐn)偂?/p>
上圖中的散列函數(shù)運(yùn)用的是最簡單粗暴的「取余法」撵溃。
題外話：散列函數(shù)除了取余之外，還有諸如「變基」锥累、「折疊」缘挑、「平方取中法」等等，此處不做展開桶略，有興趣的小伙伴可自行查閱資料语淘。
另外，被求余的參數(shù)其實(shí)可以是任意的际歼，只要最終轉(zhuǎn)化成一個(gè)整數(shù)參與運(yùn)算即可惶翻。最常用的應(yīng)該是用來源ip地址作為參數(shù)，這樣可以確保相同的客戶端請(qǐng)求盡可能落在同一臺(tái)服務(wù)器上鹅心。
三吕粗、常用「負(fù)載均衡」策略優(yōu)缺點(diǎn)和適用場景
我們知道，沒有完美的事物旭愧，負(fù)載均衡策略也是一樣颅筋。上面列舉的這些最常用的策略也有各自的優(yōu)缺點(diǎn)和適用場景，我稍作了整理输枯，如下议泵。
這些負(fù)載均衡算法之所以常用也是因?yàn)楹唵危胍鼉?yōu)的效果用押，必然就需要更高的復(fù)雜度肢簿。比如靶剑，可以將簡單的策略組合使用蜻拨、或者通過更多維度的數(shù)據(jù)采樣來綜合評(píng)估池充、甚至是基于進(jìn)行數(shù)據(jù)挖掘后的預(yù)測算法來做。
四缎讼、用「健康探測」來保障高可用
不管是什么樣的策略收夸，難免會(huì)遇到機(jī)器故障或者程序故障的情況。所以要確保負(fù)載均衡能更好的起到效果血崭，還需要結(jié)合一些「健康探測」機(jī)制卧惜。定時(shí)的去探測服務(wù)端是不是還能連上，響應(yīng)是不是超出預(yù)期的慢夹纫。如果節(jié)點(diǎn)屬于“不可用”的狀態(tài)的話咽瓷，需要將這個(gè)節(jié)點(diǎn)臨時(shí)從待選取列表中移除，以提高可用性舰讹。一般常用的「健康探測」方式有3種茅姜。
1、HTTP探測
使用Get/Post的方式請(qǐng)求服務(wù)端的某個(gè)固定的URL月匣，判斷返回的內(nèi)容是否符合預(yù)期钻洒。一般使用Http狀態(tài)碼、response中的內(nèi)容來判斷锄开。
2素标、TCP探測
基于Tcp的三次握手機(jī)制來探測指定的IP + 端口。最佳實(shí)踐可以借鑒阿里云的SLB機(jī)制萍悴，如下圖头遭。
值得注意的是，為了盡早釋放連接癣诱，在三次握手結(jié)束后立馬跟上RST來中斷TCP連接任岸。
3、UDP探測
可能有部分應(yīng)用使用的UDP協(xié)議狡刘。在此協(xié)議下可以通過報(bào)文來進(jìn)行探測指定的IP + 端口享潜。最佳實(shí)踐同樣可以借鑒阿里云的SLB機(jī)制，如下圖嗅蔬。
結(jié)果的判定方式是：在服務(wù)端沒有返回任何信息的情況下剑按，默認(rèn)正常狀態(tài)。否則會(huì)返回一個(gè)ICMP的報(bào)錯(cuò)信息澜术。
五艺蝴、結(jié)語
用一句話來概括負(fù)載均衡的本質(zhì)是：
將請(qǐng)求或者說流量，以期望的規(guī)則分?jǐn)偟蕉鄠€(gè)操作單元上進(jìn)行執(zhí)行鸟废。
通過它可以實(shí)現(xiàn)橫向擴(kuò)展（scale out）猜敢，將冗余的作用發(fā)揮為「高可用」。另外，還可以物盡其用缩擂，提升資源使用率鼠冕。
