Hadoop Journal Node 作用

(轉(zhuǎn)https://my.oschina.net/u/189445/blog/661561)
NameNode之間共享數(shù)據(jù)(NFS 、Quorum Journal Node(用得多)

兩個NameNode為了數(shù)據(jù)同步蕊梧,會通過一組稱作JournalNodes的獨立進程進行相互通信核偿。當active狀態(tài)的NameNode的命名空間有任何修改時构蹬,會告知大部分的JournalNodes進程枕屉。standby狀態(tài)的NameNode有能力讀取JNs中的變更信息蠢终,并且一直監(jiān)控edit log的變化晋辆,把變化應用于自己的命名空間。standby可以確保在集群出錯時抱婉,命名空間狀態(tài)已經(jīng)完全同步了档叔。

Hadoop中的NameNode好比是人的心臟,非常重要蒸绩,絕對不可以停止工作衙四。在hadoop1時代,只有一個NameNode患亿。如果該NameNode數(shù)據(jù)丟失或者不能工作传蹈,那么整個集群就不能恢復了。這是hadoop1中的單點問題步藕,也是hadoop1不可靠的表現(xiàn)惦界,如圖1所示。hadoop2就解決了這個問題咙冗。

hadoop2.2.0(HA)中HDFS的高可靠指的是可以同時啟動2個NameNode沾歪。其中一個處于工作狀態(tài),另一個處于隨時待命狀態(tài)雾消。這樣灾搏,當一個NameNode所在的服務器宕機時,可以在數(shù)據(jù)不丟失的情況下立润,手工或者自動切換到另一個NameNode提供服務狂窑。?

這些NameNode之間通過共享數(shù)據(jù),保證數(shù)據(jù)的狀態(tài)一致桑腮。多個NameNode之間共享數(shù)據(jù)泉哈,可以通過Nnetwork File System或者Quorum Journal Node。前者是通過linux共享的文件系統(tǒng)破讨,屬于操作系統(tǒng)的配置旨巷;后者是hadoop自身的東西,屬于軟件的配置添忘。

我們這里講述使用Quorum Journal Node的配置方式,方式是手工切換若锁。

集群啟動時搁骑,可以同時啟動2個NameNode。這些NameNode只有一個是active的,另一個屬于standby狀態(tài)仲器。active狀態(tài)意味著提供服務煤率,standby狀態(tài)意味著處于休眠狀態(tài),只進行數(shù)據(jù)同步乏冀,時刻準備著提供服務蝶糯,如圖2所示。

架構?

在一個典型的HA集群中辆沦,每個NameNode是一臺獨立的服務器昼捍。在任一時刻,只有一個NameNode處于active狀態(tài)肢扯,另一個處于standby狀態(tài)妒茬。其中,active狀態(tài)的NameNode負責所有的客戶端操作蔚晨,standby狀態(tài)的NameNode處于從屬地位乍钻,維護著數(shù)據(jù)狀態(tài),隨時準備切換铭腕。?

兩個NameNode為了數(shù)據(jù)同步银择,會通過一組稱作JournalNodes的獨立進程進行相互通信。當active狀態(tài)的NameNode的命名空間有任何修改時累舷,會告知大部分的JournalNodes進程浩考。standby狀態(tài)的NameNode有能力讀取JNs中的變更信息,并且一直監(jiān)控edit log的變化笋粟,把變化應用于自己的命名空間怀挠。standby可以確保在集群出錯時,命名空間狀態(tài)已經(jīng)完全同步了害捕。

為了確甭塘埽快速切換,standby狀態(tài)的NameNode有必要知道集群中所有數(shù)據(jù)塊的位置尝盼。為了做到這點吞滞,所有的datanodes必須配置兩個NameNode的地址,發(fā)送數(shù)據(jù)塊位置信息和心跳給他們兩個盾沫。

對于HA集群而言裁赠,確保同一時刻只有一個NameNode處于active狀態(tài)是至關重要的。否則赴精,兩個NameNode的數(shù)據(jù)狀態(tài)就會產(chǎn)生分歧佩捞,可能丟失數(shù)據(jù),或者產(chǎn)生錯誤的結果蕾哟。為了保證這點一忱,JNs必須確保同一時刻只有一個NameNode可以向自己寫數(shù)據(jù)莲蜘。?

硬件資源?

為了部署HA集群,應該準備以下事情:

* NameNode服務器:運行NameNode的服務器應該有相同的硬件配置帘营。

* JournalNode服務器:運行的JournalNode進程非常輕量票渠,可以部署在其他的服務器上。注意:必須允許至少3個節(jié)點芬迄。當然可以運行更多问顷,但是必須是奇數(shù)個,如3禀梳、5杜窄、7、9個等等出皇。當運行N個節(jié)點時羞芍,系統(tǒng)可以容忍至少(N-1)/2(N至少為3)個節(jié)點失敗而不影響正常運行。

在HA集群中郊艘,standby狀態(tài)的NameNode可以完成checkpoint操作荷科,因此沒必要配置Secondary NameNode、CheckpointNode纱注、BackupNode畏浆。如果真的配置了,還會報錯狞贱。

注:2.*版本的HA只有兩個NN刻获,3.*以上可以配置多個NN。

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末瞎嬉,一起剝皮案震驚了整個濱河市蝎毡,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌氧枣,老刑警劉巖沐兵,帶你破解...
    沈念sama閱讀 216,744評論 6 502
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異便监,居然都是意外死亡扎谎,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,505評論 3 392
  • 文/潘曉璐 我一進店門烧董,熙熙樓的掌柜王于貴愁眉苦臉地迎上來毁靶,“玉大人,你說我怎么就攤上這事逊移≡み海” “怎么了?”我有些...
    開封第一講書人閱讀 163,105評論 0 353
  • 文/不壞的土叔 我叫張陵胳泉,是天一觀的道長啡浊。 經(jīng)常有香客問我觅够,道長,這世上最難降的妖魔是什么巷嚣? 我笑而不...
    開封第一講書人閱讀 58,242評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮钳吟,結果婚禮上廷粒,老公的妹妹穿的比我還像新娘。我一直安慰自己红且,他們只是感情好坝茎,可當我...
    茶點故事閱讀 67,269評論 6 389
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著暇番,像睡著了一般嗤放。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上壁酬,一...
    開封第一講書人閱讀 51,215評論 1 299
  • 那天次酌,我揣著相機與錄音,去河邊找鬼舆乔。 笑死岳服,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的希俩。 我是一名探鬼主播吊宋,決...
    沈念sama閱讀 40,096評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼颜武!你這毒婦竟也來了璃搜?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 38,939評論 0 274
  • 序言:老撾萬榮一對情侶失蹤鳞上,失蹤者是張志新(化名)和其女友劉穎这吻,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體因块,經(jīng)...
    沈念sama閱讀 45,354評論 1 311
  • 正文 獨居荒郊野嶺守林人離奇死亡橘原,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,573評論 2 333
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了涡上。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片趾断。...
    茶點故事閱讀 39,745評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情已日,我是刑警寧澤恩沽,帶...
    沈念sama閱讀 35,448評論 5 344
  • 正文 年R本政府宣布,位于F島的核電站软能,受9級特大地震影響咱扣,放射性物質(zhì)發(fā)生泄漏厕隧。R本人自食惡果不足惜堵腹,卻給世界環(huán)境...
    茶點故事閱讀 41,048評論 3 327
  • 文/蒙蒙 一炸站、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧疚顷,春花似錦旱易、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,683評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至笆檀,卻和暖如春忌堂,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背酗洒。 一陣腳步聲響...
    開封第一講書人閱讀 32,838評論 1 269
  • 我被黑心中介騙來泰國打工士修, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人寝蹈。 一個月前我還...
    沈念sama閱讀 47,776評論 2 369
  • 正文 我出身青樓李命,卻偏偏與公主長得像,于是被迫代替她去往敵國和親箫老。 傳聞我的和親對象是個殘疾皇子封字,可洞房花燭夜當晚...
    茶點故事閱讀 44,652評論 2 354

推薦閱讀更多精彩內(nèi)容