Zookeeper的功能以及工作原理

1.ZooKeeper是什么秧骑?

ZooKeeper是一個分布式的,開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)绒疗,是Google的Chubby一個開源的實現(xiàn)吓蘑,它是集群的管理者,監(jiān)視著集群中各個節(jié)點的狀態(tài)根據(jù)節(jié)點提交的反饋進(jìn)行下一步合理操作。最終樱衷,將簡單易用的接口和性能高效矩桂、功能穩(wěn)定的系統(tǒng)提供給用戶

2.ZooKeeper提供了什么?

1)文件系統(tǒng)

2)通知機(jī)制

3.Zookeeper文件系統(tǒng)

每個子目錄項如 NameService 都被稱作為znode雹锣,和文件系統(tǒng)一樣癞蚕,我們能夠自由的增加、刪除znode攒射,在一個znode下增加恒水、刪除子znode,唯一的不同在于znode是可以存儲數(shù)據(jù)的咧最。?

有四種類型的znode:?

1御雕、PERSISTENT-持久化目錄節(jié)點?

客戶端與zookeeper斷開連接后饮笛,該節(jié)點依舊存在?

2、PERSISTENT_SEQUENTIAL-持久化順序編號目錄節(jié)點?

客戶端與zookeeper斷開連接后摄狱,該節(jié)點依舊存在,只是Zookeeper給該節(jié)點名稱進(jìn)行順序編號?

3祝谚、EPHEMERAL-臨時目錄節(jié)點?

客戶端與zookeeper斷開連接后酣衷,該節(jié)點被刪除?

4、EPHEMERAL_SEQUENTIAL-臨時順序編號目錄節(jié)點?

客戶端與zookeeper斷開連接后席爽,該節(jié)點被刪除啊片,只是Zookeeper給該節(jié)點名稱進(jìn)行順序編號?


4.Zookeeper通知機(jī)制

客戶端注冊監(jiān)聽它關(guān)心的目錄節(jié)點紫谷,當(dāng)目錄節(jié)點發(fā)生變化(數(shù)據(jù)改變、被刪除祖驱、子目錄節(jié)點增加刪除)時瞒窒,zookeeper會通知客戶端崇裁。

5.Zookeeper做了什么?

1.命名服務(wù)? ?2.配置管理? ?3.集群管理? ?4.分布式鎖??5.隊列管理

6.Zookeeper命名服務(wù)

在zookeeper的文件系統(tǒng)里創(chuàng)建一個目錄醒颖,即有唯一的path壳炎。在我們使用tborg無法確定上游程序的部署機(jī)器時即可與下游程序約定好path匿辩,通過path即能互相探索發(fā)現(xiàn)。

7.Zookeeper的配置管理

程序總是需要配置的挺庞,如果程序分散部署在多臺機(jī)器上稼病,要逐個改變配置就變得困難∫从悖現(xiàn)在把這些配置全部放到zookeeper上去戏挡,保存在 Zookeeper 的某個目錄節(jié)點中晨仑,然后所有相關(guān)應(yīng)用程序?qū)@個目錄節(jié)點進(jìn)行監(jiān)聽,一旦配置信息發(fā)生變化妥凳,每個應(yīng)用程序就會收到 Zookeeper 的通知答捕,然后從 Zookeeper 獲取新的配置信息應(yīng)用到系統(tǒng)中就好


8.Zookeeper集群管理

所謂集群管理無在乎兩點:是否有機(jī)器退出和加入噪珊、選舉master齐莲。?

對于第一點选酗,所有機(jī)器約定在父目錄GroupMembers下創(chuàng)建臨時目錄節(jié)點,然后監(jiān)聽父目錄節(jié)點的子節(jié)點變化消息呜叫。一旦有機(jī)器掛掉殿衰,該機(jī)器與 zookeeper的連接斷開闷祥,其所創(chuàng)建的臨時目錄節(jié)點被刪除,所有其他機(jī)器都收到通知:某個兄弟目錄被刪除箱硕,于是悟衩,所有人都知道:它上船了辛块。

新機(jī)器加入也是類似蛇损,所有機(jī)器收到通知:新兄弟目錄加入舰罚,highcount又有了,對于第二點赏陵,我們稍微改變一下饲漾,所有機(jī)器創(chuàng)建臨時順序編號目錄節(jié)點,每次選取編號最小的機(jī)器作為master就好吃型。


9.Zookeeper分布式鎖

有了zookeeper的一致性文件系統(tǒng)勤晚,鎖的問題變得容易泉褐。鎖服務(wù)可以分為兩類膜赃,一個是保持獨占,另一個是控制時序端铛。?

對于第一類疲眷,我們將zookeeper上的一個znode看作是一把鎖,通過createznode的方式來實現(xiàn)夕膀。所有客戶端都去創(chuàng)建 /distribute_lock 節(jié)點产舞,最終成功創(chuàng)建的那個客戶端也即擁有了這把鎖菠剩。用完刪除掉自己創(chuàng)建的distribute_lock 節(jié)點就釋放出鎖。?

對于第二類准颓, /distribute_lock 已經(jīng)預(yù)先存在,所有客戶端在它下面創(chuàng)建臨時順序編號目錄節(jié)點炮赦,和選master一樣吠勘,編號最小的獲得鎖峡眶,用完刪除,依次方便峭拘。


10.Zookeeper隊列管理

兩種類型的隊列:

1鸡挠、同步隊列搬男,當(dāng)一個隊列的成員都聚齊時止后,這個隊列才可用溜腐,否則一直等待所有成員到達(dá)。?

2歉糜、隊列按照 FIFO 方式進(jìn)行入隊和出隊操作匪补。?

第一類烂翰,在約定目錄下創(chuàng)建臨時目錄節(jié)點,監(jiān)聽節(jié)點數(shù)目是否是我們要求的數(shù)目踊兜。?

第二類佳恬,和分布式鎖服務(wù)中的控制時序場景基本原理一致,入列有編號垫言,出列按編號筷频。

11.分布式與數(shù)據(jù)復(fù)制?

Zookeeper作為一個集群提供一致的數(shù)據(jù)服務(wù),自然笑陈,它要在所有機(jī)器間做數(shù)據(jù)復(fù)制涵妥。數(shù)據(jù)復(fù)制的好處:?

1坡锡、容錯:一個節(jié)點出錯,不致于讓整個系統(tǒng)停止工作帆锋,別的節(jié)點可以接管它的工作禽额;?

2脯倒、提高系統(tǒng)的擴(kuò)展能力 :把負(fù)載分布到多個節(jié)點上,或者增加節(jié)點來提高系統(tǒng)的負(fù)載能力剪撬;?

3残黑、提高性能:讓客戶端本地訪問就近的節(jié)點斋否,提高用戶訪問速度。?

從客戶端讀寫訪問的透明度來看冰木,數(shù)據(jù)復(fù)制集群系統(tǒng)分下面兩種:?

1踊沸、寫主(WriteMaster) :對數(shù)據(jù)的修改提交給指定的節(jié)點。讀無此限制评凝,可以讀取任何一個節(jié)點腺律。這種情況下客戶端需要對讀與寫進(jìn)行區(qū)別匀钧,俗稱讀寫分離;?

2日杈、寫任意(Write Any):對數(shù)據(jù)的修改可提交給任意的節(jié)點莉擒,跟讀一樣瘫絮。這種情況下麦萤,客戶端對集群節(jié)點的角色與變化透明。

對zookeeper來說翅帜,它采用的方式是寫任意垛孔。通過增加機(jī)器周荐,它的讀吞吐能力和響應(yīng)能力擴(kuò)展性非常好僵娃,而寫默怨,隨著機(jī)器的增多吞吐能力肯定下降(這也是它建立observer的原因),而響應(yīng)能力則取決于具體實現(xiàn)方式愚屁,是延遲復(fù)制保持最終一致性霎槐,還是立即復(fù)制快速響應(yīng)。

12.Zookeeper角色描述


13.Zookeeper與客戶端


14.Zookeeper設(shè)計目的

1.最終一致性:client不論連接到哪個Server袭景,展示給它都是同一個視圖耸棒,這是zookeeper最重要的性能报辱。?

2.可靠性:具有簡單捏肢、健壯、良好的性能衣屏,如果消息被到一臺服務(wù)器接受狼忱,那么它將被所有的服務(wù)器接受一睁。?

3.實時性:Zookeeper保證客戶端將在一個時間間隔范圍內(nèi)獲得服務(wù)器的更新信息者吁,或者服務(wù)器失效的信息窘俺。但由于網(wǎng)絡(luò)延時等原因,Zookeeper不能保證兩個客戶端能同時得到剛更新的數(shù)據(jù)复凳,如果需要最新數(shù)據(jù)瘤泪,應(yīng)該在讀數(shù)據(jù)之前調(diào)用sync()接口。?

4.等待無關(guān)(wait-free):慢的或者失效的client不得干預(yù)快速的client的請求育八,使得每個client都能有效的等待对途。?

5.原子性:更新只能成功或者失敗,沒有中間狀態(tài)髓棋。?

6.順序性:包括全局有序和偏序兩種:全局有序是指如果在一臺服務(wù)器上消息a在消息b前發(fā)布实檀,則在所有Server上消息a都將在消息b前被發(fā)布;偏序是指如果一個消息b在消息a后被同一個發(fā)送者發(fā)布膳犹,a必將排在b前面恬吕。?

15.Zookeeper工作原理

Zookeeper 的核心是原子廣播,這個機(jī)制保證了各個Server之間的同步须床。實現(xiàn)這個機(jī)制的協(xié)議叫做Zab協(xié)議币呵。Zab協(xié)議有兩種模式,它們分別是恢復(fù)模式(選主)和廣播模式(同步)侨颈。當(dāng)服務(wù)啟動或者在領(lǐng)導(dǎo)者崩潰后余赢,Zab就進(jìn)入了恢復(fù)模式,當(dāng)領(lǐng)導(dǎo)者被選舉出來哈垢,且大多數(shù)Server完成了和 leader的狀態(tài)同步以后妻柒,恢復(fù)模式就結(jié)束了。狀態(tài)同步保證了leader和Server具有相同的系統(tǒng)狀態(tài)耘分。?

為了保證事務(wù)的順序一致性举塔,zookeeper采用了遞增的事務(wù)id號(zxid)來標(biāo)識事務(wù)。所有的提議(proposal)都在被提出的時候加上了zxid求泰。實現(xiàn)中zxid是一個64位的數(shù)字央渣,它高32位是epoch用來標(biāo)識leader關(guān)系是否改變,每次一個leader被選出來渴频,它都會有一個新的epoch芽丹,標(biāo)識當(dāng)前屬于那個leader的統(tǒng)治時期。低32位用于遞增計數(shù)卜朗。

16.Zookeeper 下 Server工作狀態(tài)

每個Server在工作過程中有三種狀態(tài):?

LOOKING:當(dāng)前Server不知道leader是誰拔第,正在搜尋

LEADING:當(dāng)前Server即為選舉出來的leader

FOLLOWING:leader已經(jīng)選舉出來,當(dāng)前Server與之同步

17.Zookeeper選主流程(basic paxos)

當(dāng)leader崩潰或者leader失去大多數(shù)的follower场钉,這時候zk進(jìn)入恢復(fù)模式蚊俺,恢復(fù)模式需要重新選舉出一個新的leader,讓所有的Server都恢復(fù)到一個正確的狀態(tài)逛万。Zk的選舉算法有兩種:一種是基于basic paxos實現(xiàn)的泳猬,另外一種是基于fast paxos算法實現(xiàn)的。系統(tǒng)默認(rèn)的選舉算法為fast paxos宇植。

1.選舉線程由當(dāng)前Server發(fā)起選舉的線程擔(dān)任得封,其主要功能是對投票結(jié)果進(jìn)行統(tǒng)計,并選出推薦的Server当纱;?

2.選舉線程首先向所有Server發(fā)起一次詢問(包括自己)呛每;?

3.選舉線程收到回復(fù)后踩窖,驗證是否是自己發(fā)起的詢問(驗證zxid是否一致)坡氯,然后獲取對方的id(myid),并存儲到當(dāng)前詢問對象列表中,最后獲取對方提議的leader相關(guān)信息(id,zxid)箫柳,并將這些信息存儲到當(dāng)次選舉的投票記錄表中手形;?

4.收到所有Server回復(fù)以后,就計算出zxid最大的那個Server悯恍,并將這個Server相關(guān)信息設(shè)置成下一次要投票的Server库糠;?

5.線程將當(dāng)前zxid最大的Server設(shè)置為當(dāng)前Server要推薦的Leader,如果此時獲勝的Server獲得n/2 + 1的Server票數(shù)涮毫,設(shè)置當(dāng)前推薦的leader為獲勝的Server瞬欧,將根據(jù)獲勝的Server相關(guān)信息設(shè)置自己的狀態(tài),否則罢防,繼續(xù)這個過程艘虎,直到leader被選舉出來。 通過流程分析我們可以得出:要使Leader獲得多數(shù)Server的支持咒吐,則Server總數(shù)必須是奇數(shù)2n+1野建,且存活的Server的數(shù)目不得少于n+1. 每個Server啟動后都會重復(fù)以上流程。在恢復(fù)模式下恬叹,如果是剛從崩潰狀態(tài)恢復(fù)的或者剛啟動的server還會從磁盤快照中恢復(fù)數(shù)據(jù)和會話信息候生,zk會記錄事務(wù)日志并定期進(jìn)行快照,方便在恢復(fù)時進(jìn)行狀態(tài)恢復(fù)绽昼。選主的具體流程圖所示:?


18.Zookeeper選主流程(fast paxos)

fast paxos流程是在選舉過程中唯鸭,某Server首先向所有Server提議自己要成為leader,當(dāng)其它Server收到提議以后硅确,解決epoch和 zxid的沖突肿孵,并接受對方的提議,然后向?qū)Ψ桨l(fā)送接受提議完成的消息疏魏,重復(fù)這個流程停做,最后一定能選舉出Leader。


19.Zookeeper同步流程

選完Leader以后大莫,zk就進(jìn)入狀態(tài)同步過程蛉腌。?

1. Leader等待server連接;?

2 .Follower連接leader只厘,將最大的zxid發(fā)送給leader烙丛;?

3 .Leader根據(jù)follower的zxid確定同步點;?

4 .完成同步后通知follower 已經(jīng)成為uptodate狀態(tài)羔味;?

5 .Follower收到uptodate消息后河咽,又可以重新接受client的請求進(jìn)行服務(wù)了。


20.Zookeeper工作流程-Leader

1 .恢復(fù)數(shù)據(jù)赋元;?

2 .維持與Learner的心跳忘蟹,接收Learner請求并判斷Learner的請求消息類型飒房;?

3 .Learner的消息類型主要有PING消息、REQUEST消息媚值、ACK消息狠毯、REVALIDATE消息,根據(jù)不同的消息類型褥芒,進(jìn)行不同的處理嚼松。?

PING 消息是指Learner的心跳信息;

REQUEST消息是Follower發(fā)送的提議信息锰扶,包括寫請求及同步請求献酗;

ACK消息是 Follower的對提議的回復(fù),超過半數(shù)的Follower通過坷牛,則commit該提議凌摄;

REVALIDATE消息是用來延長SESSION有效時間。


21.Zookeeper工作流程-Follower

Follower主要有四個功能:?

1.向Leader發(fā)送請求(PING消息漓帅、REQUEST消息锨亏、ACK消息、REVALIDATE消息)忙干;?

2.接收Leader消息并進(jìn)行處理器予;?

3.接收Client的請求,如果為寫請求捐迫,發(fā)送給Leader進(jìn)行投票乾翔;

4.返回Client結(jié)果。?

Follower的消息循環(huán)處理如下幾種來自Leader的消息:?

1 .PING消息: 心跳消息施戴;?

2 .PROPOSAL消息:Leader發(fā)起的提案反浓,要求Follower投票;?

3 .COMMIT消息:服務(wù)器端最新一次提案的信息赞哗;?

4 .UPTODATE消息:表明同步完成雷则;?

5 .REVALIDATE消息:根據(jù)Leader的REVALIDATE結(jié)果,關(guān)閉待revalidate的session還是允許其接受消息肪笋;?

6 .SYNC消息:返回SYNC結(jié)果到客戶端月劈,這個消息最初由客戶端發(fā)起,用來強(qiáng)制得到最新的更新藤乙。


好了猜揪,以上就是我對zookeeper的 理解了,以后我還會繼續(xù)為大家更新新的技術(shù)請大家期待吧L沉骸6恪!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末划咐,一起剝皮案震驚了整個濱河市拴念,隨后出現(xiàn)的幾起案子钧萍,更是在濱河造成了極大的恐慌,老刑警劉巖丈莺,帶你破解...
    沈念sama閱讀 206,214評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異送丰,居然都是意外死亡缔俄,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評論 2 382
  • 文/潘曉璐 我一進(jìn)店門器躏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來俐载,“玉大人,你說我怎么就攤上這事登失《粲叮” “怎么了?”我有些...
    開封第一講書人閱讀 152,543評論 0 341
  • 文/不壞的土叔 我叫張陵揽浙,是天一觀的道長状婶。 經(jīng)常有香客問我,道長馅巷,這世上最難降的妖魔是什么膛虫? 我笑而不...
    開封第一講書人閱讀 55,221評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮钓猬,結(jié)果婚禮上稍刀,老公的妹妹穿的比我還像新娘。我一直安慰自己敞曹,他們只是感情好账月,可當(dāng)我...
    茶點故事閱讀 64,224評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著澳迫,像睡著了一般局齿。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上橄登,一...
    開封第一講書人閱讀 49,007評論 1 284
  • 那天项炼,我揣著相機(jī)與錄音,去河邊找鬼示绊。 笑死锭部,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的面褐。 我是一名探鬼主播拌禾,決...
    沈念sama閱讀 38,313評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼展哭!你這毒婦竟也來了湃窍?” 一聲冷哼從身側(cè)響起闻蛀,我...
    開封第一講書人閱讀 36,956評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎您市,沒想到半個月后觉痛,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 43,441評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡茵休,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 35,925評論 2 323
  • 正文 我和宋清朗相戀三年薪棒,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片榕莺。...
    茶點故事閱讀 38,018評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡俐芯,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出钉鸯,到底是詐尸還是另有隱情吧史,我是刑警寧澤,帶...
    沈念sama閱讀 33,685評論 4 322
  • 正文 年R本政府宣布唠雕,位于F島的核電站贸营,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏岩睁。R本人自食惡果不足惜莽使,卻給世界環(huán)境...
    茶點故事閱讀 39,234評論 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望笙僚。 院中可真熱鬧芳肌,春花似錦、人聲如沸肋层。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽栋猖。三九已至净薛,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間蒲拉,已是汗流浹背肃拜。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評論 1 261
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留雌团,地道東北人燃领。 一個月前我還...
    沈念sama閱讀 45,467評論 2 352
  • 正文 我出身青樓,卻偏偏與公主長得像锦援,于是被迫代替她去往敵國和親猛蔽。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,762評論 2 345

推薦閱讀更多精彩內(nèi)容