Hive內(nèi)部表、外部表闹司、分區(qū)表娱仔、桶表概述

??Hive是基于Hadoop的一個數(shù)據(jù)倉庫,可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射為一張表开仰,并提供類sql查詢功能拟枚,Hive底層將sql語句轉(zhuǎn)化為mapreduce任務(wù)運行薪铜。Hive是一個數(shù)據(jù)倉庫众弓,不支持行級插入、更新以及刪除操作隔箍。Hive共有四種表谓娃,分別是內(nèi)部表、外部表蜒滩、分區(qū)表和桶表滨达。

?1. 內(nèi)部表

??內(nèi)部表有時也被稱為管理表。這種表會控制著數(shù)據(jù)的生命周期俯艰,Hive默認情況下會將這些表的數(shù)據(jù)存儲在由配置項hive.metastore.warehouse.dir所定義的目錄的子目錄下捡遍。當(dāng)我們刪除內(nèi)部表時,同時會刪除這個表中的數(shù)據(jù)竹握。內(nèi)部表不方便與其他工具共享數(shù)據(jù)画株。

??創(chuàng)建一個內(nèi)部表可以用如下語句:

#字段之間以逗號分隔
create table table_name(id int, name string) row format delimited fields terminated by ',';  

?2. 外部表

??外部表指向特定目錄的一份數(shù)據(jù),Hive并不對該數(shù)據(jù)具有所有權(quán)啦辐。當(dāng)刪除表時谓传,不會刪除該目錄下的數(shù)據(jù),數(shù)據(jù)可以被多個工具共享芹关。即外部表只是對數(shù)據(jù)進行邏輯管理续挟,創(chuàng)建一個外部表需要用external關(guān)鍵字:

#location指明了該表指向的數(shù)據(jù)
create external table table_name(id int, name string) row format delimited fields terminated by ',' location '/data/order/order.data'; 

?3. 分區(qū)表

?? 分區(qū)表是一種內(nèi)部表。分區(qū)表通過指定一個或多個partition key侥衬,決定數(shù)據(jù)存放方式诗祸,進而優(yōu)化數(shù)據(jù)的查詢。每個表可以指定多個partition key轴总,每個partition在hive中以文件夾的形式存在直颅。如下所示是對數(shù)據(jù)的年份進行分區(qū),每個年份對應(yīng)一個文件夾肘习,年份相同的數(shù)據(jù)會放到同一個文件夾下:

按年份分區(qū)數(shù)據(jù)結(jié)構(gòu)圖

??創(chuàng)建分區(qū)表時要注意開啟允許動態(tài)分區(qū)設(shè)置际乘,必要的時候還需要設(shè)置允許創(chuàng)建的最大分區(qū)數(shù)。

#開啟動態(tài)分區(qū)功能
set hive.exec.dynamic.partition=true;
#允許所有分區(qū)都是動態(tài)的
set hive.exec.dynamic.partition.mode=nonstricr;
#設(shè)置每個mapper或reducer可以創(chuàng)建的最大動態(tài)分區(qū)個數(shù)
set hive.exec.max.dynamic.partitions.pernode=1000;
#設(shè)置一個動態(tài)分區(qū)創(chuàng)建語句可以創(chuàng)建的最大分區(qū)個數(shù)
set hive.exec.dynamic.partitions=10000;
#全局可以創(chuàng)建的最大文件個數(shù)
set hive.exec.max.created.files=100000;

??創(chuàng)建分區(qū)表可以用以下語句:

#指定year為分區(qū)鍵漂佩,注意分區(qū)鍵不能同時出現(xiàn)在table_name后面脖含,否則會報錯
create table table_name(id int, name string) partitioned by(year int) row format delimited fields terminated by ',';  

?4. 桶表

??桶表也是內(nèi)部表罪塔,桶表是對某一列的數(shù)據(jù)進行哈希取值以將數(shù)據(jù)打散,然后放到不用文件中存儲养葵。在Hive分區(qū)表中征堪,分區(qū)中的數(shù)據(jù)量過于龐大時,建議使用桶关拒。在分桶時佃蚜,對指定字段的值進行hash運算得到hash值,并使用hash值除以桶的個數(shù)取余進行分桶着绊。分桶后的查 詢效率比分區(qū)后的查詢效率更高谐算。下圖是按照年份分區(qū),再按id進行分桶后的結(jié)構(gòu):

分區(qū)分桶表結(jié)構(gòu)圖

??建表語句:

#該表按照year進行分區(qū)归露,每個分區(qū)又分成四個桶
create table table_name(id int, name string) partitioned by(year int) clustered by(id) into 4 buckets;   

??end!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末洲脂,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子剧包,更是在濱河造成了極大的恐慌恐锦,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,968評論 6 482
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件疆液,死亡現(xiàn)場離奇詭異一铅,居然都是意外死亡,警方通過查閱死者的電腦和手機堕油,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,601評論 2 382
  • 文/潘曉璐 我一進店門潘飘,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人馍迄,你說我怎么就攤上這事福也。” “怎么了攀圈?”我有些...
    開封第一講書人閱讀 153,220評論 0 344
  • 文/不壞的土叔 我叫張陵暴凑,是天一觀的道長。 經(jīng)常有香客問我赘来,道長现喳,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 55,416評論 1 279
  • 正文 為了忘掉前任犬辰,我火速辦了婚禮嗦篱,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘幌缝。我一直安慰自己灸促,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 64,425評論 5 374
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著浴栽,像睡著了一般荒叼。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上典鸡,一...
    開封第一講書人閱讀 49,144評論 1 285
  • 那天被廓,我揣著相機與錄音,去河邊找鬼萝玷。 笑死嫁乘,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的球碉。 我是一名探鬼主播蜓斧,決...
    沈念sama閱讀 38,432評論 3 401
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼汁尺!你這毒婦竟也來了法精?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,088評論 0 261
  • 序言:老撾萬榮一對情侶失蹤痴突,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后狼荞,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體辽装,經(jīng)...
    沈念sama閱讀 43,586評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,028評論 2 325
  • 正文 我和宋清朗相戀三年相味,在試婚紗的時候發(fā)現(xiàn)自己被綠了拾积。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 38,137評論 1 334
  • 序言:一個原本活蹦亂跳的男人離奇死亡丰涉,死狀恐怖拓巧,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情一死,我是刑警寧澤肛度,帶...
    沈念sama閱讀 33,783評論 4 324
  • 正文 年R本政府宣布,位于F島的核電站投慈,受9級特大地震影響承耿,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜伪煤,卻給世界環(huán)境...
    茶點故事閱讀 39,343評論 3 307
  • 文/蒙蒙 一加袋、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧抱既,春花似錦职烧、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,333評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽跋理。三九已至,卻和暖如春恬总,著一層夾襖步出監(jiān)牢的瞬間前普,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,559評論 1 262
  • 我被黑心中介騙來泰國打工壹堰, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留拭卿,地道東北人。 一個月前我還...
    沈念sama閱讀 45,595評論 2 355
  • 正文 我出身青樓贱纠,卻偏偏與公主長得像峻厚,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子谆焊,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 42,901評論 2 345

推薦閱讀更多精彩內(nèi)容