下來源網(wǎng)絡(luò),僅供本人學(xué)習(xí)使用坎穿,侵刪,原文鏈接:https://www.cnblogs.com/fanBlog/p/10936190.html
1.什么是負(fù)載均衡
Load balancing返劲,即負(fù)載均衡玲昧,是一種計(jì)算機(jī)技術(shù),用來在多個(gè)計(jì)算機(jī)(計(jì)算機(jī)集群)篮绿、網(wǎng)絡(luò)連接孵延、CPU、磁盤驅(qū)動(dòng)器或其他資源中分配負(fù)載亲配,以達(dá)到最優(yōu)化資源使用尘应、最大化吞吐率惶凝、最小化響應(yīng)時(shí)間、同時(shí)避免過載的目的犬钢。
2.為什么需要負(fù)載均衡
我們在日常生活中經(jīng)常免不了要去一些比較擁擠的地方苍鲜,比如地鐵站、火車站玷犹、電影院混滔、銀行等。無論是買票箱舞,還是排隊(duì)入場遍坟,這些場所一般都會(huì)設(shè)置多個(gè)服務(wù)點(diǎn)或者入口的。如果沒有人引導(dǎo)的話晴股,大多數(shù)情況下愿伴,最近的入口會(huì)擠滿人。而哪些距離較遠(yuǎn)的服務(wù)點(diǎn)或者入口就寬松很多电湘。
?這種情況下隔节,就會(huì)大大浪費(fèi)資源,因?yàn)槿绻梢园堰@些排隊(duì)的人很好的分散到各個(gè)入口的話會(huì)大大縮短排隊(duì)時(shí)間寂呛。其實(shí)怎诫,網(wǎng)站的建設(shè)也是一樣的。為了提升網(wǎng)站的服務(wù)能力贷痪,很多網(wǎng)站采用集群部署幻妓,就像話劇院有多個(gè)入口一樣。這時(shí)候劫拢,就需要一個(gè)協(xié)調(diào)者肉津,來均衡的分配這些用戶的請求,可以讓用戶的可以均勻的分派到不同的服務(wù)器上舱沧。
什么是負(fù)載均衡
在早高峰乘地鐵時(shí)候妹沙,緊挨小區(qū)的地鐵口人特別多,一般會(huì)有限流熟吏,還會(huì)有個(gè)地鐵工作人員D那個(gè)大喇叭在喊“著急的人員請走B口距糖,B口人少車空”。牵寺。悍引。
而這個(gè)地鐵工作人員D就是負(fù)責(zé)負(fù)載均衡的。為了提升網(wǎng)站的各方面能力帽氓,我們一般會(huì)把多臺(tái)機(jī)器組成一個(gè)集群對(duì)外提供服務(wù)吗铐。然而,我們的網(wǎng)站對(duì)外提供的訪問入口都是一個(gè)的杏节,比如www.taobao.com唬渗。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時(shí)候如何將用戶的請求分發(fā)到集群中不同的機(jī)器上呢,這就是負(fù)載均衡在做的事情奋渔。
負(fù)載均衡(Load Balance)镊逝,意思是將負(fù)載(工作任務(wù),訪問請求)進(jìn)行平衡嫉鲸、分?jǐn)偟蕉鄠€(gè)操作單元(服務(wù)器撑蒜,組件)上進(jìn)行執(zhí)行。是解決高性能玄渗,單點(diǎn)故障(高可用)座菠,擴(kuò)展性(水平伸縮)的終極解決方案。
3.負(fù)載均衡分類
先看下OSI七層模型
OSI是一個(gè)開放性的通信系統(tǒng)互連參考模型藤树,他是一個(gè)定義得非常好的協(xié)議規(guī)范浴滴。
OSI模型有7層結(jié)構(gòu),每層都可以有幾個(gè)子層岁钓。 OSI的7層從上到下分別是 7升略、應(yīng)用層;6屡限、表示層品嚣;5、會(huì)話層钧大;4翰撑、傳輸層;3啊央、網(wǎng)絡(luò)層眶诈;2、數(shù)據(jù)鏈路層劣挫;1册养、物理層;
其中高層(即7压固、6球拦、5、4層)定義了應(yīng)用程序的功能帐我,下面3層(即3坎炼、2、1層)主要面向通過網(wǎng)絡(luò)的端到端的數(shù)據(jù)流拦键。
在這七層模型種谣光,高層次都是依賴于低層次的。層次越高芬为,使用起來越方便萄金。
計(jì)算機(jī)網(wǎng)絡(luò)有關(guān)的概念:
TELNET蟀悦、HTTP、FTP氧敢、NFS日戈、SMTP、DNS等屬于第七層應(yīng)用層的概念孙乖。
TCP浙炼、UDP、SPX等屬于第四層傳輸層的概念唯袄。
IP弯屈、IPX等屬于第三層網(wǎng)絡(luò)層的概念。
ATM恋拷、FDDI等屬于第二層數(shù)據(jù)鏈路層的概念资厉。
了解了網(wǎng)絡(luò)協(xié)議的七層模型以后,再來看看負(fù)載均衡梅掠。我們可以很明確的一點(diǎn)是酌住,負(fù)載均衡是要在網(wǎng)絡(luò)傳輸中做文章的。而要在網(wǎng)絡(luò)傳輸過程搞事情阎抒,那么這七層模型就勢必躲不開酪我。
所以,根據(jù)負(fù)載均衡技術(shù)實(shí)現(xiàn)在OSI七層模型的不同層次且叁,是可以給負(fù)載均衡分類的都哭。
常見的實(shí)現(xiàn)方式中,主要可以在應(yīng)用層逞带、傳輸層欺矫、網(wǎng)絡(luò)層和數(shù)據(jù)傳輸層做文章。所以展氓,工作在應(yīng)用層的負(fù)載均衡穆趴,我們通常稱之為七層負(fù)載均衡、工作在傳輸層的我們稱之為四層負(fù)載均衡遇汞。
大致可以分為以下幾種未妹,其中最常用的是四層和七層負(fù)載均衡:
二層負(fù)載均衡
負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP),集群中不同的機(jī)器采用相同IP地址空入,但是機(jī)器的MAC地址不一樣络它。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后,通過改寫報(bào)文的目標(biāo)MAC地址的方式將請求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡歪赢。
三層負(fù)載均衡
和二層負(fù)載均衡類似化戳,負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP),但是集群中不同的機(jī)器采用不同的IP地址埋凯。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后点楼,根據(jù)不同的負(fù)載均衡算法扫尖,通過IP將請求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。
四層負(fù)載均衡
四層負(fù)載均衡工作在OSI模型的傳輸層掠廓,由于在傳輸層藏斩,只有TCP/UDP協(xié)議,這兩種協(xié)議中除了包含源IP却盘、目標(biāo)IP以外,還包含源端口號(hào)及目的端口號(hào)媳拴。四層負(fù)載均衡服務(wù)器在接受到客戶端請求后黄橘,以后通過修改數(shù)據(jù)包的地址信息(IP+端口號(hào))將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器。
七層負(fù)載均衡
七層負(fù)載均衡工作在OSI模型的應(yīng)用層屈溉,應(yīng)用層協(xié)議較多塞关,常用http、radius子巾、dns等帆赢。七層負(fù)載就可以基于這些協(xié)議來負(fù)載。這些應(yīng)用層協(xié)議中會(huì)包含很多有意義的內(nèi)容线梗。比如同一個(gè)Web服務(wù)器的負(fù)載均衡椰于,除了根據(jù)IP加端口進(jìn)行負(fù)載外,還可根據(jù)七層的URL仪搔、瀏覽器類別瘾婿、語言來決定是否要進(jìn)行負(fù)載均衡。?
負(fù)載均衡工具
市面上有很多開源的負(fù)載均衡的工具或軟件烤咧,基本都是基于前面提到的方案實(shí)現(xiàn)的偏陪,大多數(shù)是工作在第七層和第四層的。Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件煮嫌。
LVS:LVS主要用來做四層負(fù)載均衡
LVS(Linux Virtual Server)笛谦,也就是Linux虛擬服務(wù)器, 是一個(gè)由章文嵩博士發(fā)起的自由軟件項(xiàng)目。使用LVS技術(shù)要達(dá)到的目標(biāo)是:通過LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能昌阿、高可用的服務(wù)器群集饥脑,它具有良好可靠性、可擴(kuò)展性和可操作性宝泵。從而以低廉的成本實(shí)現(xiàn)最優(yōu)的服務(wù)性能好啰。
Nginx:Nginx主要用來做七層負(fù)載均衡
Nginx(發(fā)音同engine x)是一個(gè)網(wǎng)頁服務(wù)器,它能反向代理HTTP, HTTPS, SMTP, POP3, IMAP的協(xié)議鏈接儿奶,以及一個(gè)負(fù)載均衡器和一個(gè)HTTP緩存框往。。
HAProxy:HAProxy主要用來做七層負(fù)載均衡
HAProxy是一個(gè)使用C語言編寫的自由及開放源代碼軟件闯捎,其提供高可用性椰弊、負(fù)載均衡许溅,以及基于TCP和HTTP的應(yīng)用程序代理。
4.負(fù)載均衡算法
負(fù)載均衡服務(wù)器在決定將請求轉(zhuǎn)發(fā)到具體哪臺(tái)真實(shí)服務(wù)器的時(shí)候秉版,是通過負(fù)載均衡算法來實(shí)現(xiàn)的贤重。負(fù)載均衡算法,是一個(gè)負(fù)載均衡服務(wù)器的核心清焕。
就像電影院門口的引導(dǎo)員一樣并蝗,他根據(jù)什么把排隊(duì)人員分配到具體的入口呢?是哪個(gè)入口人少嗎秸妥?還是哪個(gè)入口速度最快滚停?還是哪個(gè)入口最近呢?
負(fù)載均衡算法可以分為兩類:靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法粥惧。
1).靜態(tài)負(fù)載均衡算法包括:輪詢键畴,比率,優(yōu)先權(quán)
輪詢(Round Robin):順序循環(huán)將請求一次順序循環(huán)地連接每個(gè)服務(wù)器突雪。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障起惕,BIG-IP 就把其從順序循環(huán)隊(duì)列中拿出,不參加下一次的輪詢咏删,直到其恢復(fù)正常惹想。
比率(Ratio):給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例,根椐這個(gè)比例饵婆,把用戶的請求分配到每個(gè)服務(wù)器勺馆。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出侨核,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常草穆。
優(yōu)先權(quán)(Priority):給所有服務(wù)器分組,給每個(gè)組定義優(yōu)先權(quán),BIG-IP 用戶的請求搓译,分配給優(yōu)先級(jí)最高的服務(wù)器組(在同一組內(nèi)悲柱,采用輪詢或比率算法,分配用戶的請求)些己;當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障豌鸡,BIG-IP 才將請求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式段标,實(shí)際為用戶提供一種熱備份的方式涯冠。
2).動(dòng)態(tài)負(fù)載均衡算法包括: 最少連接數(shù),最快響應(yīng)速度,觀察方法逼庞,預(yù)測法蛇更,動(dòng)態(tài)性能分配,動(dòng)態(tài)服務(wù)器補(bǔ)充,服務(wù)質(zhì)量派任,服務(wù)類型砸逊,規(guī)則模式。
最少的連接方式(Least Connection):傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器掌逛。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障师逸,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常豆混。
最快模式(Fastest):傳遞連接給那些響應(yīng)最快的服務(wù)器篓像。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出皿伺,不參加下一次的用戶請求的分配遗淳,直到其恢復(fù)正常。
觀察模式(Observed):連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請求選擇服務(wù)器心傀。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP就把其從服務(wù)器隊(duì)列中拿出拆讯,不參加下一次的用戶請求的分配脂男,直到其恢復(fù)正常。
預(yù)測模式(Predictive):BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)种呐,進(jìn)行預(yù)測分析宰翅,選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi),其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請求爽室。(被BIG-IP 進(jìn)行檢測)
動(dòng)態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)汁讼,動(dòng)態(tài)調(diào)整流量分配。
動(dòng)態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)阔墩,動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群嘿架。
服務(wù)質(zhì)量(QoS):按不同的優(yōu)先級(jí)對(duì)數(shù)據(jù)流進(jìn)行分配。
服務(wù)類型(ToS):按不同的服務(wù)類型(在Type of Field中標(biāo)識(shí))負(fù)載均衡對(duì)數(shù)據(jù)流進(jìn)行分配啸箫。
規(guī)則模式:針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則耸彪,用戶可自行。
以上忘苛,就是目前實(shí)現(xiàn)負(fù)載均衡的主流算法蝉娜。不同的負(fù)載均衡服務(wù)器會(huì)選擇不同的算法。就像電影院和火車站可能會(huì)選用不同的引導(dǎo)策略一樣扎唾≌俅ǎ火車站可能會(huì)把行李少的旅客分配到一個(gè)專門的入口,可能給即將發(fā)車的旅客分派到特快入口胸遇,手持可掃描車票的用戶單獨(dú)分配到特殊入口等荧呐。?