在集中式環(huán)境中服務的機器臺只有一臺温赔,這樣對于服務不僅存在服務單點故障問題而且還存在流量問題蛤奢。為了解決這個問題,就引入的分布式與集群概念陶贼。
分布式:一個業(yè)務分拆多個子業(yè)務啤贩,部署在不同的服務器上
集群:同一個業(yè)務,部署在多個服務器上
1拜秧、 dubbo 服務治理
當請求來臨時痹屹,如何從多個服務器中,選擇一個有效枉氮、合適的服務器志衍,這個集群所需要面對一問題。所以在集群里面就引申出負載均衡(LoadBalance)聊替,高可用(HA)楼肪,路由(Route)等概念。我們來看一下 dubbo 在進行服務調用的時候是如何處理的惹悄。
這張集群容錯包含以下幾個角色:
-
Invoker
:對Provider
(服務提供者) 的一個可調用 Service 接口的抽象春叫,Invoker
封裝了Provider
地址及Service
接口信息。 -
Cluster
:Directory
中的多個Invoker
偽裝成一個Invoker
俘侠,對上層透明象缀,偽裝過程包含了容錯邏輯,調用失敗后爷速,重試另一個 -
Directory
:代表多個Invoker
,可以把它看成List<Invoker>
霞怀,但與 List 不同的是惫东,它的值可能是動態(tài)變化的,比如注冊中心推送變更 -
Router
: 負責從多個Invoker
中按路由規(guī)則選出子集毙石,比如讀寫分離廉沮,應用隔離等 -
LoadBalance
:LoadBalance
負責從多個Invoker
中選出具體的一個用于本次調用,選的過程包含了負載均衡算法徐矩,調用失敗后滞时,需要重選.
2、集群容錯
下面我們來分析一下 Cluster, 也就是集群滤灯。集群里面包含:集群與容錯兩個概念坪稽。下面我們來看一下維基百科對于集群與容錯的描述曼玩。
2.1 集群
計算機集群是一組松散或緊密連接的計算機,它們協(xié)同工作窒百,因此在許多方面黍判,它們可以被看作是一個單一的系統(tǒng)。與網(wǎng)格計算機不同篙梢,計算機集群使每個節(jié)點集執(zhí)行相同的任務顷帖,由軟件控制和調度。
集群的組件通常通過快速的本地區(qū)域網(wǎng)絡連接到一起渤滞,每個節(jié)點(計算機用作服務器)運行自己的操作系統(tǒng)實例贬墩。在大多數(shù)情況下,所有的節(jié)點都使用相同的硬件1更好的源和相同的操作系統(tǒng)妄呕,盡管在某些設置中(例如使用開放源碼集群應用程序資源(OSCAR))震糖,不同的操作系統(tǒng)可以在每個計算機或不同的硬件上使用。
2.2 容錯
容錯是一種屬性趴腋,它使系統(tǒng)能夠在出現(xiàn)故障(或內部一個或多個故障)的情況下繼續(xù)正常運行吊说。如果它的運行質量下降,那么下降與失敗的嚴重程度成正比优炬,與一個天真的設計系統(tǒng)相比颁井,即使是很小的故障也會導致完全崩潰。
在高可用性或生命關鍵系統(tǒng)中蠢护,容錯是特別需要的雅宾。當系統(tǒng)的某些部分被分解時,維護功能的能力被稱為優(yōu)雅的降級
3葵硕、Cluster & Invoker
下面我們來看一下 Cluster & Invoker 的接口定義
Cluster
@SPI(FailoverCluster.NAME)
public interface Cluster {
/**
* Merge the directory invokers to a virtual invoker.
*
* @param <T>
* @param directory
* @return cluster invoker
* @throws RpcException
*/
@Adaptive
<T> Invoker<T> join(Directory<T> directory) throws RpcException;
}
Cluster 只定義了一個方法 join
眉抬,它的作用是將目錄下面的 invoker 列表合并到虛擬調用程序中。其實就是把 Provider 端暴露的調用合并到一個集群當中懈凹。外部調用的時候不管這個服務到底有幾個提供者蜀变,Cluster 將 Directory 中的多個 Invoker 偽裝成一個 Invoker,對上層透明介评,偽裝過程包含了容錯邏輯库北,調用失敗后,重試另一個们陆。
Invoker
public interface Invoker<T> extends Node {
/**
* get service interface.
*
* @return service interface.
*/
Class<T> getInterface();
/**
* invoke.
*
* @param invocation
* @return result
* @throws RpcException
*/
Result invoke(Invocation invocation) throws RpcException;
}
Invoker 是 Dubbo 領域模型中非常重要的一個概念寒瓦,很多設計思路都是向它靠攏。這就使得 Invoker 滲透在整個實現(xiàn)代碼里坪仇。 下面我們用一個官方的圖來說明最重要的兩種 Invoker:服務提供 Invoker 和服務消費 Invoker:
為了更好的解釋上面這張圖杂腰,我們結合服務消費和提供者的代碼示例來進行說明:
服務消費者代碼:
public class DemoClientAction {
private DemoService demoService;
public void setDemoService(DemoService demoService) {
this.demoService = demoService;
}
public void start() {
String hello = demoService.sayHello("world" + i);
}
}
上面代碼中的 DemoService
就是上圖中服務消費端的 proxy,用戶代碼通過這個 proxy 調用其對應的 Invoker
5椅文,而該 Invoker
實現(xiàn)了真正的遠程服務調用喂很。
服務提供者代碼:
public class DemoServiceImpl implements DemoService {
public String sayHello(String name) throws RemoteException {
return "Hello " + name;
}
}
上面這個類會被封裝成為一個 AbstractProxyInvoker 實例惜颇,并新生成一個 Exporter 實例。這樣當網(wǎng)絡通訊層收到一個請求后恤筛,會找到對應的 Exporter 實例官还,并調用它所對應的 AbstractProxyInvoker 實例,從而真正調用了服務提供者的代碼毒坛。Dubbo 里還有一些其他的 Invoker 類望伦,但上面兩種是最重要的。
4煎殷、集群容錯
在 dubbo 源碼中屯伞, 在包 com.alibaba.dubbo.rpc.cluster.support
中,我們可以看到 Cluster 和 Invoker 是成對出現(xiàn)的豪直。
下面我們通過類圖來看一下它們之間的關系:
每一個 Cluster 其實都是創(chuàng)建一個 Cluster 調用的實例劣摇,Cluster 把集群調用功能委托給 AbstractClusterInvoker (抽象集群調用)。其實最終返回給 Consumer 的 Invoker 實例是 MockClusterInvoker 對象弓乙。這個對象持有一個 RegistryDirectory 實例(服務自動發(fā)現(xiàn)與注冊)與一個 FailoverClusterInvoker 實例(失敗轉移末融,當出現(xiàn)失敗,重試其它服務器暇韧,通常用于讀操作勾习,但重試會帶來更長延遲。)
集群容錯主要包括以下幾種模式:
- Failover Cluster:失敗自動切換懈玻,當出現(xiàn)失敗巧婶,重試其它服務器 。通常用于讀操作涂乌,但重試會帶來更長延遲艺栈。可通過
retries="2"
來設置重試次數(shù)(不含第一次)湾盒。 - Failfast Cluster:快速失敗湿右,只發(fā)起一次調用,失敗立即報錯历涝。通常用于非冪等性的寫操作诅需,比如新增記錄。
- Failsafe Cluster:失敗安全荧库,出現(xiàn)異常時,直接忽略赵刑。通常用于寫入審計日志等操作分衫。
- Failback Cluster:失敗自動恢復,后臺記錄失敗請求般此,定時重發(fā)蚪战。通常用于消息通知操作牵现。
- Forking Cluster:并行調用多個服務器,只要一個成功即返回邀桑。通常用于實時性要求較高的讀操作瞎疼,但需要浪費更多服務資源”诨可通過 forks="2" 來設置最大并行數(shù)贼急。
- Broadcast Cluster:廣播調用所有提供者,逐個調用捏萍,任意一臺報錯則報錯 2太抓。通常用于通知所有提供者更新緩存或日志等本地資源信息。
參考地址:
1令杈、http://en.wikipedia.org/wiki/Computer_cluster
2走敌、http://en.wikipedia.org/wiki/Fault-tolerant_system
3、http://dubbo.apache.org/books/dubbo-user-book/demos/fault-tolerent-strategy.html
4逗噩、http://dubbo.apache.org/books/dubbo-dev-book/implementation.html