HBase的體系結(jié)構(gòu)

HBase的體系結(jié)構(gòu)屬于典型的Master-Slave模型衣厘。它的數(shù)據(jù)存儲在HDFS上,ZooKeeper被使用協(xié)助管理HBase择镇。
我們可以用一張圖來縱覽HBase的整個體系結(jié)構(gòu)挡逼。


HBase體系結(jié)構(gòu)

Client

在連接方式上,HBase客戶端會通過查詢hbase:meta去找相關(guān)存活的RegionServer腻豌。找到相關(guān)的region后家坎,客戶端會直接和對應(yīng)的regionServer連接而并不會再去通過master節(jié)點請求。 hbase:meta中的信息會被緩存在客戶端中吝梅,除非集群有region分裂或者blance之類的調(diào)整虱疏,HBase會重新拉去hbase:meta中的信息觉渴。

在HBase2.0后店溢,連接API改為Connection仔拟。(HTablePool在HBase 0.94腿倚、0.95和0.96中已棄用黔帕,并在0.98.1中由HBASE-6580或HConnection刪除鹃共,而HConnection在HBase 1.0中已由Connection棄用怀泊。 )BufferedMutator借尿, HTable已被標(biāo)為deprecated国旷。

Zookeeper

zookeeper在HBase的集群管理中扮演著非常重要的角色矛物。

  • 高可用:當(dāng)Zookeeper通過心跳檢測到有宕機(jī)節(jié)點」虻可以通過選舉新的master節(jié)點履羞,保證高可用峦萎。
  • 元數(shù)據(jù):保存集群信息的元數(shù)據(jù)。
  • 一致性: Zookeeper可以通過加表鎖忆首,保證HBase表數(shù)據(jù)的一致性爱榔。

Master

主服務(wù)器負(fù)責(zé)監(jiān)視群集中的所有RegionServer實例,并且是所有元數(shù)據(jù)更改的接口糙及。 在分布式群集中详幽,主服務(wù)器通常在NameNode上運行。具體細(xì)節(jié)HBaseMaster參考這篇文章浸锨。

提供了一些面向元數(shù)據(jù)的結(jié)構(gòu)的接口

  • 表(createTable唇聘,modifyTable,removeTable柱搜,啟用迟郎,禁用)
  • ColumnFamily(addColumn,modifyColumn聪蘸,removeColumn)
  • region(move, assign, unassign) (例如宪肖,當(dāng)調(diào)用Admin方法disableTable時,它由主服務(wù)器提供服務(wù)健爬。

另外Master節(jié)點提供了定期檢查并清理hbase:meta控乾。檢查HDFS中HLog是否過期、HFile是否已經(jīng)被刪除娜遵,并在過期之后將其刪除蜕衡。

RegionServer

它負(fù)責(zé)服務(wù)和管理區(qū)域。 在分布式群集中魔熏,RegionServer在DataNode上運行衷咽,它由WAL(HLog)、BlockCache以及多個Region構(gòu)成蒜绽。

  • Region:數(shù)據(jù)表的一個分區(qū)镶骗。它存儲rowkey按照散列區(qū)分的從startkey-endkey的數(shù)據(jù)。通常一個region設(shè)計為10G到50G躲雅。當(dāng)數(shù)據(jù)表大小超過這個值就會自動分裂為兩個Region鼎姊。Region是集群負(fù)載均衡的基本單位。通常一張表的Region會分布在整個集群的多臺RegionServer上相赁,一個RegionServer上會管理多個Region相寇,當(dāng)然,這些Region一般來自不同的數(shù)據(jù)表钮科。
    它的基本結(jié)構(gòu)如下:
Table                    (HBase table)
    Region               (Regions for the table)
        Store            (Store per ColumnFamily for each Region for the table)
            MemStore     (MemStore for each Store for each Region for the table)
            StoreFile    (StoreFiles for each Store for each Region for the table)
                Block    (Blocks within a StoreFile within a Store for each Region for the table)
  • HLog:HBase數(shù)據(jù)隨機(jī)寫入時唤衫,并非直接寫入HFile數(shù)據(jù)文件,而是先寫入緩存绵脯,再異步刷新落盤佳励。為了防止緩存數(shù)據(jù)丟失休里,數(shù)據(jù)寫入緩存之前需要首先順序?qū)懭際Log,這樣赃承,即使緩存數(shù)據(jù)丟失妙黍,仍然可以通過HLog日志恢復(fù);其二瞧剖,用于實現(xiàn)HBase集群間主從復(fù)制拭嫁,通過回放主集群推送過來的HLog日志實現(xiàn)主從復(fù)制。

  • BlockCache:HBase的都緩存抓于。HBase提供了兩種不同的BlockCache實現(xiàn)來緩存從HDFS讀取的數(shù)據(jù):默認(rèn)的堆上LruBlockCache和BucketCache(通常是堆外)做粤。

  • Store: 多個Store構(gòu)成1個region,Store的個數(shù)取決于表中列簇(columnfamily)的個數(shù)毡咏,多少個列簇就有多少個Store驮宴。每個Store由一個MemStore和一個或多個HFile組成逮刨。

  • MemStore: MemStore是HBase的寫緩存呕缭。默認(rèn)為128M,當(dāng)超過這個值修己,數(shù)據(jù)就會被異步地將數(shù)據(jù)持久化到HFile中恢总。

HDFS

由于HBase在HDFS上運行(并且每個StoreFile都作為文件寫在HDFS上),因此重要的是了解HDFS體系結(jié)構(gòu)睬愤,尤其是在如何存儲文件片仿,處理故障轉(zhuǎn)移和復(fù)制塊方面。
HDFS具有主/從體系結(jié)構(gòu)尤辱。 HDFS群集由單個NameNode和管理文件系統(tǒng)名稱空間并控制客戶端對文件的訪問的主服務(wù)器組成砂豌。 此外,還有許多數(shù)據(jù)節(jié)點光督,通常是集群中每個節(jié)點一個阳距,用于管理與它們所運行的節(jié)點相連的存儲。 HDFS公開了文件系統(tǒng)名稱空間结借,并允許用戶數(shù)據(jù)存儲在文件中筐摘。 在內(nèi)部,文件被分成一個或多個塊船老,這些塊存儲在一組DataNode中咖熟。 NameNode執(zhí)行文件系統(tǒng)名稱空間操作,例如打開柳畔,關(guān)閉和重命名文件和目錄馍管。 它還確定塊到DataNode的映射。 DataNode負(fù)責(zé)處理來自文件系統(tǒng)客戶端的讀寫請求薪韩。 DataNode還根據(jù)NameNode的指令執(zhí)行塊創(chuàng)建确沸,刪除和復(fù)制堪置。


HDFS架構(gòu)

細(xì)節(jié)可以參考這篇文檔

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末张惹,一起剝皮案震驚了整個濱河市舀锨,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌宛逗,老刑警劉巖坎匿,帶你破解...
    沈念sama閱讀 211,817評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異雷激,居然都是意外死亡替蔬,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,329評論 3 385
  • 文/潘曉璐 我一進(jìn)店門屎暇,熙熙樓的掌柜王于貴愁眉苦臉地迎上來承桥,“玉大人,你說我怎么就攤上這事根悼⌒滓欤” “怎么了?”我有些...
    開封第一講書人閱讀 157,354評論 0 348
  • 文/不壞的土叔 我叫張陵挤巡,是天一觀的道長剩彬。 經(jīng)常有香客問我,道長矿卑,這世上最難降的妖魔是什么喉恋? 我笑而不...
    開封第一講書人閱讀 56,498評論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮母廷,結(jié)果婚禮上轻黑,老公的妹妹穿的比我還像新娘。我一直安慰自己琴昆,他們只是感情好氓鄙,可當(dāng)我...
    茶點故事閱讀 65,600評論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著椎咧,像睡著了一般玖详。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上勤讽,一...
    開封第一講書人閱讀 49,829評論 1 290
  • 那天蟋座,我揣著相機(jī)與錄音,去河邊找鬼脚牍。 笑死向臀,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的诸狭。 我是一名探鬼主播券膀,決...
    沈念sama閱讀 38,979評論 3 408
  • 文/蒼蘭香墨 我猛地睜開眼君纫,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了芹彬?” 一聲冷哼從身側(cè)響起蓄髓,我...
    開封第一講書人閱讀 37,722評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎舒帮,沒想到半個月后会喝,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,189評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡玩郊,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,519評論 2 327
  • 正文 我和宋清朗相戀三年肢执,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片译红。...
    茶點故事閱讀 38,654評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡预茄,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出侦厚,到底是詐尸還是另有隱情耻陕,我是刑警寧澤,帶...
    沈念sama閱讀 34,329評論 4 330
  • 正文 年R本政府宣布假夺,位于F島的核電站淮蜈,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏已卷。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,940評論 3 313
  • 文/蒙蒙 一淳蔼、第九天 我趴在偏房一處隱蔽的房頂上張望侧蘸。 院中可真熱鬧,春花似錦鹉梨、人聲如沸讳癌。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,762評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽晌坤。三九已至,卻和暖如春旦袋,著一層夾襖步出監(jiān)牢的瞬間骤菠,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,993評論 1 266
  • 我被黑心中介騙來泰國打工疤孕, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留商乎,地道東北人。 一個月前我還...
    沈念sama閱讀 46,382評論 2 360
  • 正文 我出身青樓祭阀,卻偏偏與公主長得像鹉戚,于是被迫代替她去往敵國和親鲜戒。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 43,543評論 2 349

推薦閱讀更多精彩內(nèi)容