Zookeeper的功能以及工作原理

1.ZooKeeper是什么辱士?

ZooKeeper是一個(gè)分布式的玉掸,開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)伴挚,是Google的Chubby一個(gè)開(kāi)源的實(shí)現(xiàn)仇哆,它是集群的管理者沦辙,監(jiān)視著集群中各個(gè)節(jié)點(diǎn)的狀態(tài)根據(jù)節(jié)點(diǎn)提交的反饋進(jìn)行下一步合理操作。最終税产,將簡(jiǎn)單易用的接口和性能高效怕轿、功能穩(wěn)定的系統(tǒng)提供給用戶

2.ZooKeeper提供了什么?

1)文件系統(tǒng)

2)通知機(jī)制

3.Zookeeper文件系統(tǒng)

每個(gè)子目錄項(xiàng)如 NameService 都被稱作為znode辟拷,和文件系統(tǒng)一樣撞羽,我們能夠自由的增加、刪除znode衫冻,在一個(gè)znode下增加诀紊、刪除子znode,唯一的不同在于znode是可以存儲(chǔ)數(shù)據(jù)的隅俘。


4.Zookeeper通知機(jī)制

客戶端注冊(cè)監(jiān)聽(tīng)它關(guān)心的目錄節(jié)點(diǎn)邻奠,當(dāng)目錄節(jié)點(diǎn)發(fā)生變化(數(shù)據(jù)改變、被刪除为居、子目錄節(jié)點(diǎn)增加刪除)時(shí)碌宴,zookeeper會(huì)通知客戶端。

5.Zookeeper做了什么蒙畴?

1.命名服務(wù)? ?2.配置管理? ?3.集群管理? ?4.分布式鎖??5.隊(duì)列管理

6.Zookeeper命名服務(wù)

在zookeeper的文件系統(tǒng)里創(chuàng)建一個(gè)目錄贰镣,即有唯一的path。在我們使用tborg無(wú)法確定上游程序的部署機(jī)器時(shí)即可與下游程序約定好path膳凝,通過(guò)path即能互相探索發(fā)現(xiàn)碑隆。

7.Zookeeper的配置管理

程序總是需要配置的,如果程序分散部署在多臺(tái)機(jī)器上蹬音,要逐個(gè)改變配置就變得困難∩厦海現(xiàn)在把這些配置全部放到zookeeper上去,保存在 Zookeeper 的某個(gè)目錄節(jié)點(diǎn)中著淆,然后所有相關(guān)應(yīng)用程序?qū)@個(gè)目錄節(jié)點(diǎn)進(jìn)行監(jiān)聽(tīng)劫狠,一旦配置信息發(fā)生變化拴疤,每個(gè)應(yīng)用程序就會(huì)收到 Zookeeper 的通知,然后從 Zookeeper 獲取新的配置信息應(yīng)用到系統(tǒng)中就好


8.Zookeeper集群管理

所謂集群管理無(wú)在乎兩點(diǎn):是否有機(jī)器退出和加入嘉熊、選舉master遥赚。

對(duì)于第一點(diǎn),所有機(jī)器約定在父目錄GroupMembers下創(chuàng)建臨時(shí)目錄節(jié)點(diǎn)阐肤,然后監(jiān)聽(tīng)父目錄節(jié)點(diǎn)的子節(jié)點(diǎn)變化消息。一旦有機(jī)器掛掉讲坎,該機(jī)器與 zookeeper的連接斷開(kāi)孕惜,其所創(chuàng)建的臨時(shí)目錄節(jié)點(diǎn)被刪除,所有其他機(jī)器都收到通知:某個(gè)兄弟目錄被刪除晨炕,于是衫画,所有人都知道:它上船了。

新機(jī)器加入也是類似瓮栗,所有機(jī)器收到通知:新兄弟目錄加入削罩,highcount又有了,對(duì)于第二點(diǎn)费奸,我們稍微改變一下弥激,所有機(jī)器創(chuàng)建臨時(shí)順序編號(hào)目錄節(jié)點(diǎn),每次選取編號(hào)最小的機(jī)器作為master就好愿阐。


9.Zookeeper分布式鎖

有了zookeeper的一致性文件系統(tǒng)微服,鎖的問(wèn)題變得容易。鎖服務(wù)可以分為兩類缨历,一個(gè)是保持獨(dú)占以蕴,另一個(gè)是控制時(shí)序。

對(duì)于第一類辛孵,我們將zookeeper上的一個(gè)znode看作是一把鎖丛肮,通過(guò)createznode的方式來(lái)實(shí)現(xiàn)。所有客戶端都去創(chuàng)建 /distribute_lock 節(jié)點(diǎn)魄缚,最終成功創(chuàng)建的那個(gè)客戶端也即擁有了這把鎖宝与。用完刪除掉自己創(chuàng)建的distribute_lock 節(jié)點(diǎn)就釋放出鎖。

對(duì)于第二類鲜滩, /distribute_lock 已經(jīng)預(yù)先存在伴鳖,所有客戶端在它下面創(chuàng)建臨時(shí)順序編號(hào)目錄節(jié)點(diǎn),和選master一樣徙硅,編號(hào)最小的獲得鎖榜聂,用完刪除,依次方便嗓蘑。


10.Zookeeper隊(duì)列管理

兩種類型的隊(duì)列:

1须肆、同步隊(duì)列匿乃,當(dāng)一個(gè)隊(duì)列的成員都聚齊時(shí),這個(gè)隊(duì)列才可用豌汇,否則一直等待所有成員到達(dá)幢炸。

2、隊(duì)列按照 FIFO 方式進(jìn)行入隊(duì)和出隊(duì)操作拒贱。

第一類宛徊,在約定目錄下創(chuàng)建臨時(shí)目錄節(jié)點(diǎn),監(jiān)聽(tīng)節(jié)點(diǎn)數(shù)目是否是我們要求的數(shù)目逻澳。

第二類闸天,和分布式鎖服務(wù)中的控制時(shí)序場(chǎng)景基本原理一致,入列有編號(hào)斜做,出列按編號(hào)苞氮。

11.分布式與數(shù)據(jù)復(fù)制

Zookeeper作為一個(gè)集群提供一致的數(shù)據(jù)服務(wù),自然瓤逼,它要在所有機(jī)器間做數(shù)據(jù)復(fù)制笼吟。數(shù)據(jù)復(fù)制的好處:

1、容錯(cuò):一個(gè)節(jié)點(diǎn)出錯(cuò)霸旗,不致于讓整個(gè)系統(tǒng)停止工作贷帮,別的節(jié)點(diǎn)可以接管它的工作;

2定硝、提高系統(tǒng)的擴(kuò)展能力 :把負(fù)載分布到多個(gè)節(jié)點(diǎn)上皿桑,或者增加節(jié)點(diǎn)來(lái)提高系統(tǒng)的負(fù)載能力;

3蔬啡、提高性能:讓客戶端本地訪問(wèn)就近的節(jié)點(diǎn)诲侮,提高用戶訪問(wèn)速度。

從客戶端讀寫(xiě)訪問(wèn)的透明度來(lái)看箱蟆,數(shù)據(jù)復(fù)制集群系統(tǒng)分下面兩種:

1沟绪、寫(xiě)主(WriteMaster) :對(duì)數(shù)據(jù)的修改提交給指定的節(jié)點(diǎn)。讀無(wú)此限制空猜,可以讀取任何一個(gè)節(jié)點(diǎn)绽慈。這種情況下客戶端需要對(duì)讀與寫(xiě)進(jìn)行區(qū)別,俗稱讀寫(xiě)分離辈毯;

2坝疼、寫(xiě)任意(Write Any):對(duì)數(shù)據(jù)的修改可提交給任意的節(jié)點(diǎn),跟讀一樣谆沃。這種情況下钝凶,客戶端對(duì)集群節(jié)點(diǎn)的角色與變化透明。

對(duì)zookeeper來(lái)說(shuō)唁影,它采用的方式是寫(xiě)任意耕陷。通過(guò)增加機(jī)器掂名,它的讀吞吐能力和響應(yīng)能力擴(kuò)展性非常好,而寫(xiě)哟沫,隨著機(jī)器的增多吞吐能力肯定下降(這也是它建立observer的原因)饺蔑,而響應(yīng)能力則取決于具體實(shí)現(xiàn)方式,是延遲復(fù)制保持最終一致性嗜诀,還是立即復(fù)制快速響應(yīng)猾警。

12.Zookeeper角色描述


13.Zookeeper與客戶端


14.Zookeeper設(shè)計(jì)目的

1.最終一致性:client不論連接到哪個(gè)Server,展示給它都是同一個(gè)視圖裹虫,這是zookeeper最重要的性能肿嘲。

2.可靠性:具有簡(jiǎn)單、健壯筑公、良好的性能,如果消息被到一臺(tái)服務(wù)器接受尊浪,那么它將被所有的服務(wù)器接受匣屡。

3.實(shí)時(shí)性:Zookeeper保證客戶端將在一個(gè)時(shí)間間隔范圍內(nèi)獲得服務(wù)器的更新信息,或者服務(wù)器失效的信息拇涤。但由于網(wǎng)絡(luò)延時(shí)等原因捣作,Zookeeper不能保證兩個(gè)客戶端能同時(shí)得到剛更新的數(shù)據(jù),如果需要最新數(shù)據(jù)鹅士,應(yīng)該在讀數(shù)據(jù)之前調(diào)用sync()接口券躁。

4.等待無(wú)關(guān)(wait-free):慢的或者失效的client不得干預(yù)快速的client的請(qǐng)求,使得每個(gè)client都能有效的等待掉盅。

5.原子性:更新只能成功或者失敗也拜,沒(méi)有中間狀態(tài)。

6.順序性:包括全局有序和偏序兩種:全局有序是指如果在一臺(tái)服務(wù)器上消息a在消息b前發(fā)布趾痘,則在所有Server上消息a都將在消息b前被發(fā)布慢哈;偏序是指如果一個(gè)消息b在消息a后被同一個(gè)發(fā)送者發(fā)布,a必將排在b前面永票。

15.Zookeeper工作原理

Zookeeper 的核心是原子廣播卵贱,這個(gè)機(jī)制保證了各個(gè)Server之間的同步。實(shí)現(xiàn)這個(gè)機(jī)制的協(xié)議叫做Zab協(xié)議侣集。Zab協(xié)議有兩種模式键俱,它們分別是恢復(fù)模式(選主)和廣播模式(同步)。當(dāng)服務(wù)啟動(dòng)或者在領(lǐng)導(dǎo)者崩潰后世分,Zab就進(jìn)入了恢復(fù)模式编振,當(dāng)領(lǐng)導(dǎo)者被選舉出來(lái),且大多數(shù)Server完成了和 leader的狀態(tài)同步以后罚攀,恢復(fù)模式就結(jié)束了党觅。狀態(tài)同步保證了leader和Server具有相同的系統(tǒng)狀態(tài)雌澄。

為了保證事務(wù)的順序一致性,zookeeper采用了遞增的事務(wù)id號(hào)(zxid)來(lái)標(biāo)識(shí)事務(wù)杯瞻。所有的提議(proposal)都在被提出的時(shí)候加上了zxid镐牺。實(shí)現(xiàn)中zxid是一個(gè)64位的數(shù)字,它高32位是epoch用來(lái)標(biāo)識(shí)leader關(guān)系是否改變魁莉,每次一個(gè)leader被選出來(lái)睬涧,它都會(huì)有一個(gè)新的epoch,標(biāo)識(shí)當(dāng)前屬于那個(gè)leader的統(tǒng)治時(shí)期旗唁。低32位用于遞增計(jì)數(shù)畦浓。

16.Zookeeper 下 Server工作狀態(tài)

每個(gè)Server在工作過(guò)程中有三種狀態(tài):

LOOKING:當(dāng)前Server不知道leader是誰(shuí),正在搜尋

LEADING:當(dāng)前Server即為選舉出來(lái)的leader

FOLLOWING:leader已經(jīng)選舉出來(lái)检疫,當(dāng)前Server與之同步

17.Zookeeper選主流程(basic paxos)

當(dāng)leader崩潰或者leader失去大多數(shù)的follower讶请,這時(shí)候zk進(jìn)入恢復(fù)模式,恢復(fù)模式需要重新選舉出一個(gè)新的leader屎媳,讓所有的Server都恢復(fù)到一個(gè)正確的狀態(tài)夺溢。Zk的選舉算法有兩種:一種是基于basic paxos實(shí)現(xiàn)的,另外一種是基于fast paxos算法實(shí)現(xiàn)的烛谊。系統(tǒng)默認(rèn)的選舉算法為fast paxos风响。

1.選舉線程由當(dāng)前Server發(fā)起選舉的線程擔(dān)任,其主要功能是對(duì)投票結(jié)果進(jìn)行統(tǒng)計(jì)丹禀,并選出推薦的Server状勤;

2.選舉線程首先向所有Server發(fā)起一次詢問(wèn)(包括自己);

3.選舉線程收到回復(fù)后双泪,驗(yàn)證是否是自己發(fā)起的詢問(wèn)(驗(yàn)證zxid是否一致)持搜,然后獲取對(duì)方的id(myid),并存儲(chǔ)到當(dāng)前詢問(wèn)對(duì)象列表中攒读,最后獲取對(duì)方提議的leader相關(guān)信息(id,zxid)朵诫,并將這些信息存儲(chǔ)到當(dāng)次選舉的投票記錄表中;

4.收到所有Server回復(fù)以后薄扁,就計(jì)算出zxid最大的那個(gè)Server剪返,并將這個(gè)Server相關(guān)信息設(shè)置成下一次要投票的Server;

5.線程將當(dāng)前zxid最大的Server設(shè)置為當(dāng)前Server要推薦的Leader邓梅,如果此時(shí)獲勝的Server獲得n/2 + 1的Server票數(shù)脱盲,設(shè)置當(dāng)前推薦的leader為獲勝的Server,將根據(jù)獲勝的Server相關(guān)信息設(shè)置自己的狀態(tài)日缨,否則钱反,繼續(xù)這個(gè)過(guò)程,直到leader被選舉出來(lái)。 通過(guò)流程分析我們可以得出:要使Leader獲得多數(shù)Server的支持面哥,則Server總數(shù)必須是奇數(shù)2n+1哎壳,且存活的Server的數(shù)目不得少于n+1. 每個(gè)Server啟動(dòng)后都會(huì)重復(fù)以上流程。在恢復(fù)模式下尚卫,如果是剛從崩潰狀態(tài)恢復(fù)的或者剛啟動(dòng)的server還會(huì)從磁盤(pán)快照中恢復(fù)數(shù)據(jù)和會(huì)話信息归榕,zk會(huì)記錄事務(wù)日志并定期進(jìn)行快照,方便在恢復(fù)時(shí)進(jìn)行狀態(tài)恢復(fù)吱涉。選主的具體流程圖所示:

18.Zookeeper選主流程(fast paxos)

fast paxos流程是在選舉過(guò)程中刹泄,某Server首先向所有Server提議自己要成為leader,當(dāng)其它Server收到提議以后怎爵,解決epoch和 zxid的沖突特石,并接受對(duì)方的提議,然后向?qū)Ψ桨l(fā)送接受提議完成的消息鳖链,重復(fù)這個(gè)流程姆蘸,最后一定能選舉出Leader。

19.Zookeeper同步流程

選完Leader以后芙委,zk就進(jìn)入狀態(tài)同步過(guò)程乞旦。

1. Leader等待server連接;

2 .Follower連接leader题山,將最大的zxid發(fā)送給leader;

3 .Leader根據(jù)follower的zxid確定同步點(diǎn)故痊;

4 .完成同步后通知follower 已經(jīng)成為uptodate狀態(tài)顶瞳;

5 .Follower收到uptodate消息后,又可以重新接受client的請(qǐng)求進(jìn)行服務(wù)了愕秫。

20.Zookeeper工作流程-Leader

1 .恢復(fù)數(shù)據(jù)慨菱;

2 .維持與Learner的心跳,接收Learner請(qǐng)求并判斷Learner的請(qǐng)求消息類型戴甩;

3 .Learner的消息類型主要有PING消息符喝、REQUEST消息、ACK消息甜孤、REVALIDATE消息协饲,根據(jù)不同的消息類型,進(jìn)行不同的處理缴川。

PING 消息是指Learner的心跳信息茉稠;

REQUEST消息是Follower發(fā)送的提議信息,包括寫(xiě)請(qǐng)求及同步請(qǐng)求把夸;

ACK消息是 Follower的對(duì)提議的回復(fù)而线,超過(guò)半數(shù)的Follower通過(guò),則commit該提議;

REVALIDATE消息是用來(lái)延長(zhǎng)SESSION有效時(shí)間膀篮。

21.Zookeeper工作流程-Follower

Follower主要有四個(gè)功能:

1.向Leader發(fā)送請(qǐng)求(PING消息嘹狞、REQUEST消息、ACK消息誓竿、REVALIDATE消息)磅网;

2.接收Leader消息并進(jìn)行處理;

3.接收Client的請(qǐng)求烤黍,如果為寫(xiě)請(qǐng)求知市,發(fā)送給Leader進(jìn)行投票;

4.返回Client結(jié)果速蕊。

Follower的消息循環(huán)處理如下幾種來(lái)自Leader的消息:

1 .PING消息: 心跳消息嫂丙;

2 .PROPOSAL消息:Leader發(fā)起的提案,要求Follower投票规哲;

3 .COMMIT消息:服務(wù)器端最新一次提案的信息跟啤;

4 .UPTODATE消息:表明同步完成;

5 .REVALIDATE消息:根據(jù)Leader的REVALIDATE結(jié)果唉锌,關(guān)閉待revalidate的session還是允許其接受消息隅肥;

6 .SYNC消息:返回SYNC結(jié)果到客戶端,這個(gè)消息最初由客戶端發(fā)起袄简,用來(lái)強(qiáng)制得到最新的更新腥放。

好了,以上就是我對(duì)zookeeper的 理解了绿语,以后我還會(huì)繼續(xù)為大家更新新的技術(shù)請(qǐng)大家期待吧M褐ⅰ!吕粹!

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末种柑,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子匹耕,更是在濱河造成了極大的恐慌聚请,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件稳其,死亡現(xiàn)場(chǎng)離奇詭異驶赏,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)欢际,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門母市,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人损趋,你說(shuō)我怎么就攤上這事患久∫嗡拢” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵蒋失,是天一觀的道長(zhǎng)返帕。 經(jīng)常有香客問(wèn)我,道長(zhǎng)篙挽,這世上最難降的妖魔是什么荆萤? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮铣卡,結(jié)果婚禮上链韭,老公的妹妹穿的比我還像新娘。我一直安慰自己煮落,他們只是感情好敞峭,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著蝉仇,像睡著了一般旋讹。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上轿衔,一...
    開(kāi)封第一講書(shū)人閱讀 49,007評(píng)論 1 284
  • 那天沉迹,我揣著相機(jī)與錄音,去河邊找鬼害驹。 笑死鞭呕,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的宛官。 我是一名探鬼主播琅拌,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼摘刑!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起刻坊,我...
    開(kāi)封第一講書(shū)人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤枷恕,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后谭胚,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體徐块,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年灾而,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了胡控。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡旁趟,死狀恐怖昼激,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤橙困,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布瞧掺,位于F島的核電站,受9級(jí)特大地震影響凡傅,放射性物質(zhì)發(fā)生泄漏辟狈。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一夏跷、第九天 我趴在偏房一處隱蔽的房頂上張望哼转。 院中可真熱鬧,春花似錦槽华、人聲如沸壹蔓。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)庶溶。三九已至,卻和暖如春懂鸵,著一層夾襖步出監(jiān)牢的瞬間偏螺,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工匆光, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留套像,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓终息,卻偏偏與公主長(zhǎng)得像夺巩,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子周崭,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容