????????????????????????????????????????負(fù)載均衡基本介紹
Load balancing昼接，即負(fù)載均衡，是一種計(jì)算機(jī)技術(shù)绑咱，用來(lái)在多個(gè)計(jì)算機(jī)（計(jì)算機(jī)集群）绰筛、網(wǎng)絡(luò)連接、CPU描融、磁盤驅(qū)動(dòng)器或其他資源中分配負(fù)載铝噩，以達(dá)到最優(yōu)化資源使用、最大化吞吐率窿克、最小化響應(yīng)時(shí)間骏庸、同時(shí)避免過載的目的;
為什么需要負(fù)載均衡
我們?cè)谌粘Ｉ钪薪?jīng)常免不了要去一些比較擁擠的地方，比如地鐵站让歼、火車站敞恋、電影院、銀行等谋右。其實(shí)硬猫，根據(jù)我們的經(jīng)驗(yàn)，無(wú)論是買票，還是排隊(duì)入場(chǎng)啸蜜，這些場(chǎng)所一般都會(huì)設(shè)置多個(gè)服務(wù)點(diǎn)或者入口的坑雅。但是，如果沒有人引導(dǎo)的話衬横，大多數(shù)情況下裹粤，最近的入口會(huì)擠滿人。而哪些距離較遠(yuǎn)的服務(wù)點(diǎn)或者入口就寬松很多蜂林。這種情況下遥诉，就會(huì)大大浪費(fèi)資源，因?yàn)槿绻梢园堰@些排隊(duì)的人很好的分散到各個(gè)入口的話會(huì)大大縮短排隊(duì)時(shí)間噪叙。
其實(shí)矮锈，網(wǎng)站的建設(shè)也是一樣的.為了提升網(wǎng)站的服務(wù)能力，很多網(wǎng)站采用集群部署睁蕾，就像話劇院有多個(gè)入口一樣苞笨。而當(dāng)用戶集中訪問網(wǎng)站的時(shí)候，如果沒有任何機(jī)制來(lái)疏導(dǎo)用戶的話子眶，完全隨機(jī)或者就近原則的話瀑凝，那么就會(huì)導(dǎo)致某些服務(wù)器的流量很大，而另外一個(gè)服務(wù)器的qps(Query Per Second每秒查詢率:每秒查詢率QPS是對(duì)一個(gè)特定的查詢服務(wù)器在規(guī)定時(shí)間內(nèi)所處理流量多少的衡量標(biāo)準(zhǔn))很小臭杰。這不僅嚴(yán)重的浪費(fèi)了資源粤咪，而且還會(huì)導(dǎo)致拉長(zhǎng)用戶訪問網(wǎng)站的RT，影響用戶的體驗(yàn)硅卢。更嚴(yán)重的可能直接拖垮那些流量大的服務(wù)器射窒。
這時(shí)候，就需要一個(gè)協(xié)調(diào)者将塑，來(lái)均衡的分配這些用戶的請(qǐng)求，可以讓用戶的可以均勻的分派到不同的服務(wù)器上蝌麸。
什么是負(fù)載均衡
為了提升網(wǎng)站的各方面能力点寥，我們一般會(huì)把多臺(tái)機(jī)器組成一個(gè)集群對(duì)外提供服務(wù)。然而来吩，我們的網(wǎng)站對(duì)外提供的訪問入口都是一個(gè)的敢辩，比如www.taobao.com。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時(shí)候如何將用戶的請(qǐng)求分發(fā)到集群中不同的機(jī)器上呢弟疆，這就是負(fù)載均衡在做的事情;
負(fù)載均衡（Load Balance）戚长，意思是將負(fù)載（工作任務(wù)，訪問請(qǐng)求）進(jìn)行平衡怠苔、分?jǐn)偟蕉鄠€(gè)操作單元（服務(wù)器同廉，組件）上進(jìn)行執(zhí)行。是解決高性能，單點(diǎn)故障（高可用）迫肖，擴(kuò)展性（水平伸縮）的終極解決方案;
OSI7層模型
OSI是一個(gè)開放性的通信系統(tǒng)互連參考模型,是一個(gè)定義得非常好的協(xié)議規(guī)范;
OSI模型有7層結(jié)構(gòu)锅劝，每層都可以有幾個(gè)子層。 OSI的7層從上到下分別是 7蟆湖、應(yīng)用層故爵；6、表示層隅津；5诬垂、會(huì)話層；4伦仍、傳輸層剥纷；3、網(wǎng)絡(luò)層呢铆；2晦鞋、數(shù)據(jù)鏈路層；1棺克、物理層悠垛；
其中高層（即7、6娜谊、5确买、4層）定義了應(yīng)用程序的功能，下面3層（即3纱皆、2湾趾、1層）主要面向通過網(wǎng)絡(luò)的端到端的數(shù)據(jù)流;
在這七層模型種，高層次都是依賴于低層次的派草。層次越高搀缠，使用起來(lái)越方便;
telnet、HTTP近迁、FTP艺普、NFS、SMTP鉴竭、DNS等屬于第七層應(yīng)用層的概念歧譬。
TCP、UDP搏存、SPX等屬于第四層傳輸層的概念瑰步。
IP、IPX等屬于第三層網(wǎng)絡(luò)層的概念璧眠。
ATM缩焦、FDDI等屬于第二層數(shù)據(jù)鏈路層的概念读虏。
負(fù)載均衡是要在網(wǎng)絡(luò)傳輸中做文章的。而要在網(wǎng)絡(luò)傳輸過程搞事情舌界，那么這七層模型就勢(shì)必躲不開;根據(jù)負(fù)載均衡技術(shù)實(shí)現(xiàn)在OSI七層模型的不同層次掘譬，是可以給負(fù)載均衡分類的;
負(fù)載均衡常見的實(shí)現(xiàn)方式中，主要可以在應(yīng)用層呻拌、負(fù)載均衡葱轩、負(fù)載均衡和數(shù)據(jù)傳輸層做文章。所以藐握，工作在應(yīng)用層的負(fù)載均衡靴拱，我們通常稱之為七層負(fù)載均衡、工作在傳輸層的我們稱之為四層負(fù)載均衡;
負(fù)載均衡做常用的實(shí)現(xiàn)方式是:四層和七層負(fù)載均衡;
二層負(fù)載均衡
負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP（虛IP）猾普，集群中不同的機(jī)器采用相同IP地址袜炕，但是機(jī)器的MAC地址不一樣。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后初家，通過改寫報(bào)文的目標(biāo)MAC地址的方式將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡偎窘。
三層負(fù)載均衡
和二層負(fù)載均衡類似，負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP（虛IP）溜在，但是集群中不同的機(jī)器采用不同的IP地址陌知。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，根據(jù)不同的負(fù)載均衡算法掖肋，通過IP將請(qǐng)求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器仆葡。
四層負(fù)載均衡
四層負(fù)載均衡工作在OSI模型的傳輸層，由于在傳輸層志笼，只有TCP/UDP協(xié)議沿盅，這兩種協(xié)議中除了包含源IP、目標(biāo)IP以外纫溃，還包含源端口號(hào)及目的端口號(hào)腰涧。四層負(fù)載均衡服務(wù)器在接受到客戶端請(qǐng)求后，以后通過修改數(shù)據(jù)包的地址信息（IP+端口號(hào)）將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器皇耗。
七層負(fù)載均衡
七層負(fù)載均衡工作在OSI模型的應(yīng)用層南窗，應(yīng)用層協(xié)議較多，常用http郎楼、radius、dns等窒悔。七層負(fù)載就可以基于這些協(xié)議來(lái)負(fù)載呜袁。這些應(yīng)用層協(xié)議中會(huì)包含很多有意義的內(nèi)容。比如同一個(gè)Web服務(wù)器的負(fù)載均衡简珠，除了根據(jù)IP加端口進(jìn)行負(fù)載外阶界，還可根據(jù)七層的URL虹钮、瀏覽器類別、語(yǔ)言來(lái)決定是否要進(jìn)行負(fù)載均衡膘融。
負(fù)載均衡工具
市面上有很多開源的負(fù)載均衡的工具或軟件芙粱，基本都是基于前面提到的方案實(shí)現(xiàn)的，大多數(shù)是工作在第七層和第四層的氧映。Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件;
LVS
LVS（Linux Virtual Server）春畔，也就是Linux虛擬服務(wù)器, 是一個(gè)由章文嵩博士發(fā)起的自由軟件項(xiàng)目。使用LVS技術(shù)要達(dá)到的目標(biāo)是：通過LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能岛都、高可用的服務(wù)器群集律姨，它具有良好可靠性、可擴(kuò)展性和可操作性臼疫。從而以低廉的成本實(shí)現(xiàn)最優(yōu)的服務(wù)性能;
LVS主要用來(lái)做四層負(fù)載均衡;
Nginx
Nginx（發(fā)音同engine x）是一個(gè)網(wǎng)頁(yè)服務(wù)器择份，它能反向代理HTTP, HTTPS, SMTP, POP3, IMAP的協(xié)議鏈接，以及一個(gè)負(fù)載均衡器和一個(gè)HTTP緩存烫堤。
Nginx主要用來(lái)做七層負(fù)載均衡;
HAProxy
HAProxy是一個(gè)使用C語(yǔ)言編寫的自由及開放源代碼軟件荣赶，其提供高可用性、負(fù)載均衡鸽斟，以及基于TCP和HTTP的應(yīng)用程序代理拔创。
HAProxy主要用來(lái)做七層負(fù)載均衡;
負(fù)載均衡服務(wù)器在決定將請(qǐng)求轉(zhuǎn)發(fā)到具體哪臺(tái)真實(shí)服務(wù)器的時(shí)候，是通過負(fù)載均衡算法來(lái)實(shí)現(xiàn)的湾盗。負(fù)載均衡算法伏蚊，是一個(gè)負(fù)載均衡服務(wù)器的核心;
就像電影院門口的引導(dǎo)員一樣，他根據(jù)什么把排隊(duì)人員分配到具體的入口呢格粪？是哪個(gè)入口人少嗎躏吊？還是哪個(gè)入口速度最快？還是哪個(gè)入口最近呢帐萎？如果來(lái)了一個(gè)VIP怎么辦呢比伏？
負(fù)載均衡算法可以分為兩類：靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法;
動(dòng)態(tài)負(fù)載均衡算法包括: 最少連接數(shù),最快響應(yīng)速度，觀察方法疆导，預(yù)測(cè)法赁项，動(dòng)態(tài)性能分配，動(dòng)態(tài)服務(wù)器補(bǔ)充澈段，服務(wù)質(zhì)量悠菜，服務(wù)類型，規(guī)則模式败富。
輪詢（Round Robin）：順序循環(huán)將請(qǐng)求一次順序循環(huán)地連接每個(gè)服務(wù)器悔醋。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從順序循環(huán)隊(duì)列中拿出兽叮，不參加下一次的輪詢芬骄，直到其恢復(fù)正常猾愿。
比率（Ratio）：給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例，根椐這個(gè)比例账阻，把用戶的請(qǐng)求分配到每個(gè)服務(wù)器蒂秘。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出淘太，不參加下一次的用戶請(qǐng)求的分配, 直到其恢復(fù)正常姻僧。
優(yōu)先權(quán)（Priority）：給所有服務(wù)器分組,給每個(gè)組定義優(yōu)先權(quán)，BIG-IP 用戶的請(qǐng)求琴儿，分配給優(yōu)先級(jí)最高的服務(wù)器組（在同一組內(nèi)段化，采用輪詢或比率算法，分配用戶的請(qǐng)求）造成；當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障显熏，BIG-IP 才將請(qǐng)求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式晒屎，實(shí)際為用戶提供一種熱備份的方式喘蟆。
最少的連接方式（Least Connection）：傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障鼓鲁，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出蕴轨，不參加下一次的用戶請(qǐng)求的分配, 直到其恢復(fù)正常。
最快模式（Fastest）：傳遞連接給那些響應(yīng)最快的服務(wù)器骇吭。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障橙弱，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配燥狰，直到其恢復(fù)正常棘脐。
觀察模式（Observed）：連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請(qǐng)求選擇服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障龙致，BIG-IP就把其從服務(wù)器隊(duì)列中拿出蛀缝，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常目代。
預(yù)測(cè)模式（Predictive）：BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)屈梁，進(jìn)行預(yù)測(cè)分析，選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi)榛了，其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請(qǐng)求在讶。(被BIG-IP 進(jìn)行檢測(cè))
動(dòng)態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)，動(dòng)態(tài)調(diào)整流量分配霜大。
動(dòng)態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)真朗，動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群。
服務(wù)質(zhì)量(QoS）:按不同的優(yōu)先級(jí)對(duì)數(shù)據(jù)流進(jìn)行分配僧诚。
服務(wù)類型(ToS): 按不同的服務(wù)類型（在Type of Field中標(biāo)識(shí)）負(fù)載均衡對(duì)數(shù)據(jù)流進(jìn)行分配遮婶。
規(guī)則模式：針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則，用戶可自行湖笨。
不同的負(fù)載均衡服務(wù)器會(huì)選擇不同的算法旗扑。就像電影院和火車站可能會(huì)選用不同的引導(dǎo)策略一樣〈仁。火車站可能會(huì)把行李少的旅客分配到一個(gè)專門的入口臀防，可能給即將發(fā)車的旅客分派到特快入口，手持可掃描車票的用戶單獨(dú)分配到特殊入口等;
轉(zhuǎn)載自:https://mp.weixin.qq.com/s/VBc3iQbIcHyHuwrDU461Qw
