什么是負(fù)載均衡?

下來源網(wǎng)絡(luò),僅供本人學(xué)習(xí)使用坎穿,侵刪,原文鏈接:https://www.cnblogs.com/fanBlog/p/10936190.html

1.什么是負(fù)載均衡

Load balancing返劲,即負(fù)載均衡玲昧,是一種計(jì)算機(jī)技術(shù),用來在多個(gè)計(jì)算機(jī)(計(jì)算機(jī)集群)篮绿、網(wǎng)絡(luò)連接孵延、CPU、磁盤驅(qū)動(dòng)器或其他資源中分配負(fù)載亲配,以達(dá)到最優(yōu)化資源使用尘应、最大化吞吐率惶凝、最小化響應(yīng)時(shí)間、同時(shí)避免過載的目的犬钢。

2.為什么需要負(fù)載均衡

我們在日常生活中經(jīng)常免不了要去一些比較擁擠的地方苍鲜,比如地鐵站、火車站玷犹、電影院混滔、銀行等。無論是買票箱舞,還是排隊(duì)入場遍坟,這些場所一般都會(huì)設(shè)置多個(gè)服務(wù)點(diǎn)或者入口的。如果沒有人引導(dǎo)的話晴股,大多數(shù)情況下愿伴,最近的入口會(huì)擠滿人。而哪些距離較遠(yuǎn)的服務(wù)點(diǎn)或者入口就寬松很多电湘。

?這種情況下隔节,就會(huì)大大浪費(fèi)資源,因?yàn)槿绻梢园堰@些排隊(duì)的人很好的分散到各個(gè)入口的話會(huì)大大縮短排隊(duì)時(shí)間寂呛。其實(shí)怎诫,網(wǎng)站的建設(shè)也是一樣的。為了提升網(wǎng)站的服務(wù)能力贷痪,很多網(wǎng)站采用集群部署幻妓,就像話劇院有多個(gè)入口一樣。這時(shí)候劫拢,就需要一個(gè)協(xié)調(diào)者肉津,來均衡的分配這些用戶的請求,可以讓用戶的可以均勻的分派到不同的服務(wù)器上舱沧。

什么是負(fù)載均衡

在早高峰乘地鐵時(shí)候妹沙,緊挨小區(qū)的地鐵口人特別多,一般會(huì)有限流熟吏,還會(huì)有個(gè)地鐵工作人員D那個(gè)大喇叭在喊“著急的人員請走B口距糖,B口人少車空”。牵寺。悍引。

而這個(gè)地鐵工作人員D就是負(fù)責(zé)負(fù)載均衡的為了提升網(wǎng)站的各方面能力帽氓,我們一般會(huì)把多臺(tái)機(jī)器組成一個(gè)集群對(duì)外提供服務(wù)吗铐。然而,我們的網(wǎng)站對(duì)外提供的訪問入口都是一個(gè)的杏节,比如www.taobao.com唬渗。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時(shí)候如何將用戶的請求分發(fā)到集群中不同的機(jī)器上呢,這就是負(fù)載均衡在做的事情奋渔。

負(fù)載均衡(Load Balance)镊逝,意思是將負(fù)載(工作任務(wù),訪問請求)進(jìn)行平衡嫉鲸、分?jǐn)偟蕉鄠€(gè)操作單元(服務(wù)器撑蒜,組件)上進(jìn)行執(zhí)行。是解決高性能玄渗,單點(diǎn)故障(高可用)座菠,擴(kuò)展性(水平伸縮)的終極解決方案。

3.負(fù)載均衡分類

先看下OSI七層模型


OSI是一個(gè)開放性的通信系統(tǒng)互連參考模型藤树,他是一個(gè)定義得非常好的協(xié)議規(guī)范浴滴。

OSI模型有7層結(jié)構(gòu),每層都可以有幾個(gè)子層岁钓。 OSI的7層從上到下分別是 7升略、應(yīng)用層;6屡限、表示層品嚣;5、會(huì)話層钧大;4翰撑、傳輸層;3啊央、網(wǎng)絡(luò)層眶诈;2、數(shù)據(jù)鏈路層劣挫;1册养、物理層;

其中高層(即7压固、6球拦、5、4層)定義了應(yīng)用程序的功能帐我,下面3層(即3坎炼、2、1層)主要面向通過網(wǎng)絡(luò)的端到端的數(shù)據(jù)流拦键。

在這七層模型種谣光,高層次都是依賴于低層次的。層次越高芬为,使用起來越方便萄金。

計(jì)算機(jī)網(wǎng)絡(luò)有關(guān)的概念:

TELNET蟀悦、HTTP、FTP氧敢、NFS日戈、SMTP、DNS等屬于第七層應(yīng)用層的概念孙乖。

TCP浙炼、UDP、SPX等屬于第四層傳輸層的概念唯袄。

IP弯屈、IPX等屬于第三層網(wǎng)絡(luò)層的概念。

ATM恋拷、FDDI等屬于第二層數(shù)據(jù)鏈路層的概念资厉。

了解了網(wǎng)絡(luò)協(xié)議的七層模型以后,再來看看負(fù)載均衡梅掠。我們可以很明確的一點(diǎn)是酌住,負(fù)載均衡是要在網(wǎng)絡(luò)傳輸中做文章的。而要在網(wǎng)絡(luò)傳輸過程搞事情阎抒,那么這七層模型就勢必躲不開酪我。

所以,根據(jù)負(fù)載均衡技術(shù)實(shí)現(xiàn)在OSI七層模型的不同層次且叁,是可以給負(fù)載均衡分類的都哭。

常見的實(shí)現(xiàn)方式中,主要可以在應(yīng)用層逞带、傳輸層欺矫、網(wǎng)絡(luò)層和數(shù)據(jù)傳輸層做文章。所以展氓,工作在應(yīng)用層的負(fù)載均衡穆趴,我們通常稱之為七層負(fù)載均衡、工作在傳輸層的我們稱之為四層負(fù)載均衡遇汞。

大致可以分為以下幾種未妹,其中最常用的是四層和七層負(fù)載均衡:

二層負(fù)載均衡

負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP),集群中不同的機(jī)器采用相同IP地址空入,但是機(jī)器的MAC地址不一樣络它。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后,通過改寫報(bào)文的目標(biāo)MAC地址的方式將請求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡歪赢。

三層負(fù)載均衡

和二層負(fù)載均衡類似化戳,負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP),但是集群中不同的機(jī)器采用不同的IP地址埋凯。當(dāng)負(fù)載均衡服務(wù)器接受到請求之后点楼,根據(jù)不同的負(fù)載均衡算法扫尖,通過IP將請求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。

四層負(fù)載均衡

四層負(fù)載均衡工作在OSI模型的傳輸層掠廓,由于在傳輸層藏斩,只有TCP/UDP協(xié)議,這兩種協(xié)議中除了包含源IP却盘、目標(biāo)IP以外,還包含源端口號(hào)及目的端口號(hào)媳拴。四層負(fù)載均衡服務(wù)器在接受到客戶端請求后黄橘,以后通過修改數(shù)據(jù)包的地址信息(IP+端口號(hào))將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器。

七層負(fù)載均衡

七層負(fù)載均衡工作在OSI模型的應(yīng)用層屈溉,應(yīng)用層協(xié)議較多塞关,常用http、radius子巾、dns等帆赢。七層負(fù)載就可以基于這些協(xié)議來負(fù)載。這些應(yīng)用層協(xié)議中會(huì)包含很多有意義的內(nèi)容线梗。比如同一個(gè)Web服務(wù)器的負(fù)載均衡椰于,除了根據(jù)IP加端口進(jìn)行負(fù)載外,還可根據(jù)七層的URL仪搔、瀏覽器類別瘾婿、語言來決定是否要進(jìn)行負(fù)載均衡。?

負(fù)載均衡工具

市面上有很多開源的負(fù)載均衡的工具或軟件烤咧,基本都是基于前面提到的方案實(shí)現(xiàn)的偏陪,大多數(shù)是工作在第七層和第四層的。Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件煮嫌。

LVSLVS主要用來做四層負(fù)載均衡

LVS(Linux Virtual Server)笛谦,也就是Linux虛擬服務(wù)器, 是一個(gè)由章文嵩博士發(fā)起的自由軟件項(xiàng)目。使用LVS技術(shù)要達(dá)到的目標(biāo)是:通過LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能昌阿、高可用的服務(wù)器群集饥脑,它具有良好可靠性、可擴(kuò)展性和可操作性宝泵。從而以低廉的成本實(shí)現(xiàn)最優(yōu)的服務(wù)性能好啰。

NginxNginx主要用來做七層負(fù)載均衡

Nginx(發(fā)音同engine x)是一個(gè)網(wǎng)頁服務(wù)器,它能反向代理HTTP, HTTPS, SMTP, POP3, IMAP的協(xié)議鏈接儿奶,以及一個(gè)負(fù)載均衡器和一個(gè)HTTP緩存框往。

HAProxyHAProxy主要用來做七層負(fù)載均衡

HAProxy是一個(gè)使用C語言編寫的自由及開放源代碼軟件闯捎,其提供高可用性椰弊、負(fù)載均衡许溅,以及基于TCP和HTTP的應(yīng)用程序代理。


4.負(fù)載均衡算法

負(fù)載均衡服務(wù)器在決定將請求轉(zhuǎn)發(fā)到具體哪臺(tái)真實(shí)服務(wù)器的時(shí)候秉版,是通過負(fù)載均衡算法來實(shí)現(xiàn)的贤重。負(fù)載均衡算法,是一個(gè)負(fù)載均衡服務(wù)器的核心清焕。

就像電影院門口的引導(dǎo)員一樣并蝗,他根據(jù)什么把排隊(duì)人員分配到具體的入口呢?是哪個(gè)入口人少嗎秸妥?還是哪個(gè)入口速度最快滚停?還是哪個(gè)入口最近呢?

負(fù)載均衡算法可以分為兩類:靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法粥惧。

1).靜態(tài)負(fù)載均衡算法包括:輪詢键畴,比率,優(yōu)先權(quán)

輪詢(Round Robin):順序循環(huán)將請求一次順序循環(huán)地連接每個(gè)服務(wù)器突雪。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障起惕,BIG-IP 就把其從順序循環(huán)隊(duì)列中拿出,不參加下一次的輪詢咏删,直到其恢復(fù)正常惹想。

比率(Ratio):給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例,根椐這個(gè)比例饵婆,把用戶的請求分配到每個(gè)服務(wù)器勺馆。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出侨核,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常草穆。

優(yōu)先權(quán)(Priority):給所有服務(wù)器分組,給每個(gè)組定義優(yōu)先權(quán),BIG-IP 用戶的請求搓译,分配給優(yōu)先級(jí)最高的服務(wù)器組(在同一組內(nèi)悲柱,采用輪詢或比率算法,分配用戶的請求)些己;當(dāng)最高優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障豌鸡,BIG-IP 才將請求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式段标,實(shí)際為用戶提供一種熱備份的方式涯冠。

2).動(dòng)態(tài)負(fù)載均衡算法包括: 最少連接數(shù),最快響應(yīng)速度,觀察方法逼庞,預(yù)測法蛇更,動(dòng)態(tài)性能分配,動(dòng)態(tài)服務(wù)器補(bǔ)充,服務(wù)質(zhì)量派任,服務(wù)類型砸逊,規(guī)則模式。

最少的連接方式(Least Connection):傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器掌逛。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障师逸,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出,不參加下一次的用戶請求的分配, 直到其恢復(fù)正常豆混。

最快模式(Fastest):傳遞連接給那些響應(yīng)最快的服務(wù)器篓像。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP 就把其從服務(wù)器隊(duì)列中拿出皿伺,不參加下一次的用戶請求的分配遗淳,直到其恢復(fù)正常。

觀察模式(Observed):連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的最佳平衡為依據(jù)為新的請求選擇服務(wù)器心傀。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障,BIG-IP就把其從服務(wù)器隊(duì)列中拿出拆讯,不參加下一次的用戶請求的分配脂男,直到其恢復(fù)正常。

預(yù)測模式(Predictive):BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)种呐,進(jìn)行預(yù)測分析宰翅,選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi),其性能將達(dá)到最佳的服務(wù)器相應(yīng)用戶的請求爽室。(被BIG-IP 進(jìn)行檢測)

動(dòng)態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)汁讼,動(dòng)態(tài)調(diào)整流量分配。

動(dòng)態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)阔墩,動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群嘿架。

服務(wù)質(zhì)量(QoS):按不同的優(yōu)先級(jí)對(duì)數(shù)據(jù)流進(jìn)行分配。

服務(wù)類型(ToS):按不同的服務(wù)類型(在Type of Field中標(biāo)識(shí))負(fù)載均衡對(duì)數(shù)據(jù)流進(jìn)行分配啸箫。

規(guī)則模式:針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則耸彪,用戶可自行。

以上忘苛,就是目前實(shí)現(xiàn)負(fù)載均衡的主流算法蝉娜。不同的負(fù)載均衡服務(wù)器會(huì)選擇不同的算法。就像電影院和火車站可能會(huì)選用不同的引導(dǎo)策略一樣扎唾≌俅ǎ火車站可能會(huì)把行李少的旅客分配到一個(gè)專門的入口,可能給即將發(fā)車的旅客分派到特快入口胸遇,手持可掃描車票的用戶單獨(dú)分配到特殊入口等荧呐。?

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子坛增,更是在濱河造成了極大的恐慌获雕,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,126評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件收捣,死亡現(xiàn)場離奇詭異届案,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)罢艾,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門楣颠,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人咐蚯,你說我怎么就攤上這事童漩。” “怎么了春锋?”我有些...
    開封第一講書人閱讀 152,445評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵矫膨,是天一觀的道長。 經(jīng)常有香客問我期奔,道長侧馅,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,185評(píng)論 1 278
  • 正文 為了忘掉前任呐萌,我火速辦了婚禮馁痴,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘肺孤。我一直安慰自己罗晕,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評(píng)論 5 371
  • 文/花漫 我一把揭開白布赠堵。 她就那樣靜靜地躺著小渊,像睡著了一般。 火紅的嫁衣襯著肌膚如雪茫叭。 梳的紋絲不亂的頭發(fā)上粤铭,一...
    開封第一講書人閱讀 48,970評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音杂靶,去河邊找鬼梆惯。 笑死,一個(gè)胖子當(dāng)著我的面吹牛吗垮,可吹牛的內(nèi)容都是我干的垛吗。 我是一名探鬼主播,決...
    沈念sama閱讀 38,276評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼烁登,長吁一口氣:“原來是場噩夢啊……” “哼怯屉!你這毒婦竟也來了蔚舀?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 36,927評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤锨络,失蹤者是張志新(化名)和其女友劉穎赌躺,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體羡儿,經(jīng)...
    沈念sama閱讀 43,400評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡礼患,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評(píng)論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了掠归。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片缅叠。...
    茶點(diǎn)故事閱讀 37,997評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖虏冻,靈堂內(nèi)的尸體忽然破棺而出肤粱,到底是詐尸還是另有隱情,我是刑警寧澤厨相,帶...
    沈念sama閱讀 33,646評(píng)論 4 322
  • 正文 年R本政府宣布领曼,位于F島的核電站,受9級(jí)特大地震影響蛮穿,放射性物質(zhì)發(fā)生泄漏悯森。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評(píng)論 3 307
  • 文/蒙蒙 一绪撵、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧祝蝠,春花似錦音诈、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至儡嘶,卻和暖如春喇聊,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蹦狂。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評(píng)論 1 260
  • 我被黑心中介騙來泰國打工誓篱, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人凯楔。 一個(gè)月前我還...
    沈念sama閱讀 45,423評(píng)論 2 352
  • 正文 我出身青樓窜骄,卻偏偏與公主長得像,于是被迫代替她去往敵國和親摆屯。 傳聞我的和親對(duì)象是個(gè)殘疾皇子邻遏,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 負(fù)載均衡是高可用網(wǎng)絡(luò)基礎(chǔ)架構(gòu)的的一個(gè)關(guān)鍵組成部分,有了負(fù)載均衡,我們通匙佳椋可以將我們的應(yīng)用服務(wù)器部署多臺(tái)赎线,然后通過負(fù)...
    edison0428閱讀 687評(píng)論 0 0
  • 簡評(píng):不想看文字的話垂寥,文章里的圖片還是挺清晰易懂的。 負(fù)載均衡是高可用網(wǎng)絡(luò)基礎(chǔ)架構(gòu)的關(guān)鍵組件济似,通常用于將工作負(fù)載分...
    極小光閱讀 2,602評(píng)論 0 15
  • 大家好律杠,我是IT修真院武漢分院第01期學(xué)員,一枚正直善良的web程序員竞惋。今天給大家分享一下柜去,修真院官網(wǎng) java任...
    心魔_4cef閱讀 1,130評(píng)論 0 1
  • 2017年12月15日 太陽是這樣想的 未來那么長,長的令人難過 一天天的抑郁下去 所以世界就遠(yuǎn)了 正好可以去下輩...
    7495公里閱讀 234評(píng)論 0 0
  • 目前我在某大學(xué)進(jìn)行學(xué)習(xí) 我剛剛畢業(yè) 并且已經(jīng)參加工作 從校園走出來的時(shí)候拆宛,是解脫嗓奢,是對(duì)美好生活的憧憬 那時(shí)解除了學(xué)...
    不怕痛閱讀 196評(píng)論 0 0