hbase架構(gòu)

hbase是有字節(jié)碼形式存儲的

一、Client

1.包含訪問HBase的接口并維護(hù)cache(緩存)來加快對HBase的訪問

二舌胶、Zookeeper

保證了只有一個(gè)alive的Master,對RegionServer做健康檢查,實(shí)時(shí)心跳,存儲Region的尋址入口,存儲HBase的scheme和table元數(shù)據(jù)

三、Master

Master為RegionServer分配Region,負(fù)責(zé)RegionServer的負(fù)載均衡,將失效的RegionServer(由zookeeper通知)中的Storefile轉(zhuǎn)移到其他的RegionServer中,管理table的增刪改操作

四端衰、RegionServer

RegionServer維護(hù)Region,處理region的io請求,負(fù)責(zé)切分在運(yùn)行過程中變得過大的Region

盡量避免過多的小文件和數(shù)據(jù)傾斜

五许赃、Region

HBase自動把表水平劃分成多個(gè)區(qū)域(region),每個(gè)region會保存一個(gè)表里面某段連續(xù)的數(shù)據(jù)

每個(gè)表一開始只有一個(gè)region胰蝠,隨著數(shù)據(jù)不斷插入表,region不斷增大震蒋,當(dāng)增大到一個(gè)閥值的時(shí)候茸塞,region就會等分會兩個(gè)新的region(裂變)

當(dāng)table中的行不斷增多,就會有越來越多的region查剖。這樣一張完整的表被保存在多個(gè)Regionserver 上钾虐。

hlog可以記錄操作日志

region對應(yīng)一個(gè)表

store對應(yīng)一個(gè)列族

六、Memstore 與 storefile

一個(gè)region由多個(gè)store組成笋庄,一個(gè)store對應(yīng)一個(gè)CF(列族)

store包括位于內(nèi)存中的memstore和位于磁盤的storefile寫操作先寫入memstore效扫,當(dāng)memstore中的數(shù)據(jù)達(dá)到某個(gè)閾值,hregionserver會啟動flashcache進(jìn)程寫入storefile直砂,每次寫入形成單獨(dú)的一個(gè)storefile

當(dāng)storefile文件的數(shù)量增長到一定閾值后菌仁,系統(tǒng)會進(jìn)行合并(minor、major compaction)静暂,在合并過程中會進(jìn)行版本合并和刪除工作(majar)济丘,形成更大的storefile

當(dāng)一個(gè)region所有storefile的大小和數(shù)量超過一定閾值后,會把當(dāng)前的region分割為兩個(gè)洽蛀,并由hmaster分配到相應(yīng)的regionserver服務(wù)器摹迷,實(shí)現(xiàn)負(fù)載均衡

客戶端檢索數(shù)據(jù),先在memstore找郊供,找不到再找storefile

hbase通過hdfsclient來存儲數(shù)據(jù)存儲到datenode上



最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末泪掀,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子颂碘,更是在濱河造成了極大的恐慌,老刑警劉巖椅挣,帶你破解...
    沈念sama閱讀 218,546評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件头岔,死亡現(xiàn)場離奇詭異,居然都是意外死亡鼠证,警方通過查閱死者的電腦和手機(jī)峡竣,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,224評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來量九,“玉大人适掰,你說我怎么就攤上這事颂碧。” “怎么了类浪?”我有些...
    開封第一講書人閱讀 164,911評論 0 354
  • 文/不壞的土叔 我叫張陵载城,是天一觀的道長。 經(jīng)常有香客問我费就,道長诉瓦,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,737評論 1 294
  • 正文 為了忘掉前任力细,我火速辦了婚禮睬澡,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘眠蚂。我一直安慰自己煞聪,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,753評論 6 392
  • 文/花漫 我一把揭開白布逝慧。 她就那樣靜靜地躺著昔脯,像睡著了一般。 火紅的嫁衣襯著肌膚如雪馋艺。 梳的紋絲不亂的頭發(fā)上栅干,一...
    開封第一講書人閱讀 51,598評論 1 305
  • 那天,我揣著相機(jī)與錄音捐祠,去河邊找鬼碱鳞。 笑死,一個(gè)胖子當(dāng)著我的面吹牛踱蛀,可吹牛的內(nèi)容都是我干的窿给。 我是一名探鬼主播,決...
    沈念sama閱讀 40,338評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼率拒,長吁一口氣:“原來是場噩夢啊……” “哼崩泡!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起猬膨,我...
    開封第一講書人閱讀 39,249評論 0 276
  • 序言:老撾萬榮一對情侶失蹤角撞,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后勃痴,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體谒所,經(jīng)...
    沈念sama閱讀 45,696評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,888評論 3 336
  • 正文 我和宋清朗相戀三年沛申,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了劣领。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,013評論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡铁材,死狀恐怖尖淘,靈堂內(nèi)的尸體忽然破棺而出奕锌,到底是詐尸還是另有隱情,我是刑警寧澤村生,帶...
    沈念sama閱讀 35,731評論 5 346
  • 正文 年R本政府宣布惊暴,位于F島的核電站,受9級特大地震影響梆造,放射性物質(zhì)發(fā)生泄漏缴守。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,348評論 3 330
  • 文/蒙蒙 一镇辉、第九天 我趴在偏房一處隱蔽的房頂上張望屡穗。 院中可真熱鬧,春花似錦忽肛、人聲如沸村砂。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,929評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽础废。三九已至,卻和暖如春罕模,著一層夾襖步出監(jiān)牢的瞬間评腺,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,048評論 1 270
  • 我被黑心中介騙來泰國打工淑掌, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蒿讥,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,203評論 3 370
  • 正文 我出身青樓抛腕,卻偏偏與公主長得像芋绸,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子担敌,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,960評論 2 355

推薦閱讀更多精彩內(nèi)容