1. 摘要
本文講解Nginx實現(xiàn)負(fù)載均衡的6種方式及配置樣式抖剿。
2. Nginx負(fù)載均衡和策略簡介
【什么是負(fù)載均衡？】
當(dāng)一臺服務(wù)器的單位時間內(nèi)的訪問量越大時鞭光，服務(wù)器壓力就越大尸折，大到超過自身承受能力時日戈，服務(wù)器就會崩潰。為了避免服務(wù)器崩潰谱轨，讓用戶有更好的體驗戒幔，通過負(fù)載均衡的方式來分擔(dān)服務(wù)器壓力。
我們可以建立很多很多服務(wù)器土童，組成一個服務(wù)器集群诗茎，當(dāng)用戶訪問網(wǎng)站時，先訪問一個中間服務(wù)器娜扇，再讓這個中間服務(wù)器在服務(wù)器集群中選擇一個壓力較小的服務(wù)器错沃，然后將該訪問請求引入該服務(wù)器。如此以來雀瓢，用戶的每次訪問枢析，都會保證服務(wù)器集群中的每個服務(wù)器壓力趨于平衡，分擔(dān)了服務(wù)器壓力刃麸，避免了服務(wù)器崩潰的情況醒叁。
Nginx是采用反向代理的原理實現(xiàn)負(fù)載均衡的，有6種方式泊业。
目前Nginx服務(wù)器的upstream模塊支持6種方式的分配：
| 名稱 | 說明 |
|---|---|
| 輪詢 | 默認(rèn)方式 |
| weight | 權(quán)重方式 |
| ip_hash | 依據(jù)ip分配方式 |
| least_conn | 最少連接方式 |
| fair（第三方） | 響應(yīng)時間方式 |
| url_hash（第三方） | 依據(jù)URL分配方式 |
在這里把沼，只詳細(xì)說明Nginx自帶的負(fù)載均衡策略，第三方不多描述吁伺。
3. 具體策略描述
（1）輪詢
最基本的配置方法饮睬，上面的例子就是輪詢的方式，它是upstream模塊默認(rèn)的負(fù)載均衡默認(rèn)策略篮奄。每個請求會按時間順序逐一分配到不同的后端服務(wù)器捆愁。
有如下參數(shù)：
| 名稱 | 說明 |
|---|---|
| fail_timeout | 與max_fails結(jié)合使用割去。 |
| max_fails | 設(shè)置在fail_timeout參數(shù)設(shè)置的時間內(nèi)最大失敗次數(shù)，如果在這個時間內(nèi)昼丑，所有針對該服務(wù)器的請求都失敗了呻逆，那么認(rèn)為該服務(wù)器會被認(rèn)為是停機了。 |
| fail_time | 服務(wù)器會被認(rèn)為停機的時間長度,默認(rèn)為10s菩帝。 |
| backup | 標(biāo)記該服務(wù)器為備用服務(wù)器咖城。當(dāng)主服務(wù)器停止時，請求會被發(fā)送到它這里呼奢。 |
| down | 標(biāo)記服務(wù)器永久停機了宜雀。 |
注意：
在輪詢中，如果服務(wù)器down掉了握础，會自動剔除該服務(wù)器州袒。
缺省配置就是輪詢策略。此策略適合服務(wù)器配置相當(dāng)弓候，無狀態(tài)且短平快的服務(wù)使用郎哭。
（2）weight
權(quán)重方式，在輪詢策略的基礎(chǔ)上指定輪詢的幾率菇存。例子如下：
#動態(tài)服務(wù)器組
upstream dynamic_zuoyu {
server localhost:8080 weight=2; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082 backup; #tomcat 8.5
server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
}
在該例子中夸研，weight參數(shù)用于指定輪詢幾率，weight的默認(rèn)值為1,依鸥；weight的數(shù)值與訪問比率成正比亥至，比如Tomcat 7.0被訪問的幾率為其他服務(wù)器的兩倍。
注意：
- 權(quán)重越高分配到需要處理的請求越多贱迟。
- 此策略可以與least_conn和ip_hash結(jié)合使用姐扮。
- 此策略比較適合服務(wù)器的硬件配置差別比較大的情況。
（3）ip_hash
指定負(fù)載均衡器按照基于客戶端IP的分配方式衣吠，這個方法確保了相同的客戶端的請求一直發(fā)送到相同的服務(wù)器茶敏，以保證session會話。這樣每個訪客都固定訪問一個后端服務(wù)器缚俏，可以解決session不能跨服務(wù)器的問題惊搏。
#動態(tài)服務(wù)器組
upstream dynamic_zuoyu {
ip_hash; #保證每個訪客固定訪問一個后端服務(wù)器
server localhost:8080 weight=2; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082; #tomcat 8.5
server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
}
注意：
- 在nginx版本1.3.1之前，不能在ip_hash中使用權(quán)重（weight）忧换。
- ip_hash不能與backup同時使用恬惯。
- 此策略適合有狀態(tài)服務(wù)，比如session亚茬。當(dāng)有服務(wù)器需要剔除酪耳，必須手動down掉。
（4）least_conn
把請求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器刹缝。輪詢算法是把請求平均的轉(zhuǎn)發(fā)給各個后端碗暗，使它們的負(fù)載大致相同奖蔓；但是，有些請求占用的時間很長讹堤，會導(dǎo)致其所在的后端負(fù)載較高。這種情況下厨疙，least_conn這種方式就可以達(dá)到更好的負(fù)載均衡效果洲守。
#動態(tài)服務(wù)器組
upstream dynamic_zuoyu {
least_conn; #把請求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器
server localhost:8080 weight=2; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082 backup; #tomcat 8.5
server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0
}
注意：
此負(fù)載均衡策略適合請求處理時間長短不一造成服務(wù)器過載的情況。
（5）第三方策略
第三方的負(fù)載均衡策略的實現(xiàn)需要安裝第三方插件沾凄。
<1> fair
按照服務(wù)器端的響應(yīng)時間來分配請求梗醇，響應(yīng)時間短的優(yōu)先分配。
#動態(tài)服務(wù)器組
upstream dynamic_zuoyu {
server localhost:8080; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082; #tomcat 8.5
server localhost:8083; #tomcat 9.0
fair; #實現(xiàn)響應(yīng)時間短的優(yōu)先分配
}
<2> url_hash
按訪問url的hash結(jié)果來分配請求撒蟀，使每個url定向到同一個后端服務(wù)器叙谨，要配合緩存命中來使用。同一個資源多次請求保屯，可能會到達(dá)不同的服務(wù)器上手负，導(dǎo)致不必要的多次下載，緩存命中率不高姑尺，以及一些資源時間的浪費竟终。而使用url_hash，可以使得同一個url（也就是同一個資源請求）會到達(dá)同一臺服務(wù)器切蟋，一旦緩存住了資源统捶，再此收到請求，就可以從緩存中讀取柄粹。
#動態(tài)服務(wù)器組
upstream dynamic_zuoyu {
hash $request_uri; #實現(xiàn)每個url定向到同一個后端服務(wù)器
server localhost:8080; #tomcat 7.0
server localhost:8081; #tomcat 8.0
server localhost:8082; #tomcat 8.5
server localhost:8083; #tomcat 9.0
}
以上便是6種負(fù)載均衡策略的實現(xiàn)方式喘鸟，其中除了輪詢和輪詢權(quán)重外，都是Nginx根據(jù)不同的算法實現(xiàn)的驻右。在實際運用中什黑，需要根據(jù)不同的場景選擇性運用，大都是多種策略結(jié)合使用以達(dá)到實際需求堪夭。
4, 參考
（1）Nginx系列教程（4）nginx處理web應(yīng)用負(fù)載均衡問題以保證高并發(fā)
https://yq.aliyun.com/articles/752984
（2）Nginx系列教程(5)如何保障nginx的高可用性(keepalived)
https://yq.aliyun.com/articles/753117
（3）Docker下配置KeepAlive支持nginx高可用
https://www.cnblogs.com/jake-jin/p/12713324.html
（4）詳解Nginx服務(wù)器之負(fù)載均衡策略(6種)
https://www.jb51.net/article/143985.htm
