Hive筆記6-hive元數(shù)據(jù)表結(jié)構(gòu)詳解

hive系列之六-hive元數(shù)據(jù)表結(jié)構(gòu)詳解

Hive自己維護(hù)了一套元數(shù)據(jù)稍坯,用戶通過HQL查詢時(shí)候,Hive首先需要結(jié)合元數(shù)據(jù)嵌赠,將HQL翻譯成MapReduce去執(zhí)行卸亮。本文介紹一下Hive元數(shù)據(jù)中重要的一些表結(jié)構(gòu)及用途忽妒,以Hive0.13為例。

1.version

存儲(chǔ)Hive版本的元數(shù)據(jù)表(VERSION)

VER_ID SCHEMA_VERSION VERSION_COMMENT
ID主鍵 Hive版本 版本說明
1 0.13.0 Set by MetaStore

如果該表出現(xiàn)問題,根本進(jìn)入不了Hive-Cli段直。

比如該表不存在吃溅,當(dāng)啟動(dòng)Hive-Cli時(shí)候,就會(huì)報(bào)錯(cuò)”Table ‘hive.version’ doesn’t exist”鸯檬。

2.數(shù)據(jù)庫相關(guān)的元數(shù)據(jù)表

  • DBS

該表存儲(chǔ)Hive中所有數(shù)據(jù)庫的基本信息决侈,字段如下:

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
DB_ID 數(shù)據(jù)庫ID 2
DESC 數(shù)據(jù)庫描述 測(cè)試庫
DB_LOCATION_URI 數(shù)據(jù)庫HDFS路徑 hdfs://namenode/user/hive/warehouse/lxw1234.db
NAME 數(shù)據(jù)庫名 lxw1234
OWNER_NAME 數(shù)據(jù)庫所有者用戶名 lxw1234
OWNER_TYPE 所有者角色 USER
  • DATABASE_PARAMS

該表存儲(chǔ)數(shù)據(jù)庫的相關(guān)參數(shù),在CREATE DATABASE時(shí)候用

WITH DBPROPERTIES (property_name=property_value, …)指定的參數(shù)喧务。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
DB_ID 數(shù)據(jù)庫ID 2
PARAM_KEY 參數(shù)名 createdby
PARAM_VALUE 參數(shù)值 lxw1234

DBS和DATABASE_PARAMS這兩張表通過DB_ID字段關(guān)聯(lián)赖歌。

3.表/視圖相關(guān)元數(shù)據(jù)表

主要有TBLS、TABLE_PARAMS功茴、TBL_PRIVS庐冯,這三張表通過TBL_ID關(guān)聯(lián)。

  • TBLS

該表中存儲(chǔ)Hive表坎穿、視圖肄扎、索引表的基本信息。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
TBL_ID 表ID 1
CREATE_TIME 創(chuàng)建時(shí)間 1436317071
DB_ID 數(shù)據(jù)庫ID 2赁酝,對(duì)應(yīng)DBS中的DB_ID
LAST_ACCESS_TIME 上次訪問時(shí)間 1436317071
OWNER 所有者 liuxiaowen
RETENTION 保留字段 0
SD_ID 序列化配置信息 86,對(duì)應(yīng)SDS表中的SD_ID
TBL_NAME 表名 lxw1234
TBL_TYPE 表類型 MANAGED_TABLE旭等、EXTERNAL_TABLE酌呆、INDEX_TABLE、VIRTUAL_VIEW
VIEW_EXPANDED_TEXT 視圖的詳細(xì)HQL語句 select lxw1234.pt, lxw1234.pcid from liuxiaowen.lxw1234
VIEW_ORIGINAL_TEXT 視圖的原始HQL語句 select * from lxw1234
  • TABLE_PARAMS

該表存儲(chǔ)表/視圖的屬性信息搔耕。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
TBL_ID 表ID 1
PARAM_KEY 屬性名 totalSize隙袁、numRows、EXTERNAL
PARAM_VALUE 屬性值 970107336弃榨、21231028菩收、TRUE
  • TBL_PRIVS

該表存儲(chǔ)表/視圖的授權(quán)信息

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
TBL_GRANT_ID 授權(quán)ID 1
CREATE_TIME 授權(quán)時(shí)間 1436320455
GRANT_OPTION 0
GRANTOR 授權(quán)執(zhí)行用戶 liuxiaowen
GRANTOR_TYPE 授權(quán)者類型 USER
PRINCIPAL_NAME 被授權(quán)用戶 username
PRINCIPAL_TYPE 被授權(quán)用戶類型 USER
TBL_PRIV 權(quán)限 Select、Alter
TBL_ID 表ID 22鲸睛,對(duì)應(yīng)TBLS表中的TBL_ID

4.文件存儲(chǔ)信息相關(guān)的元數(shù)據(jù)表

主要涉及SDS娜饵、SD_PARAMS、SERDES官辈、SERDE_PARAMS

由于HDFS支持的文件格式很多箱舞,而建Hive表時(shí)候也可以指定各種文件格式,Hive在將HQL解析成MapReduce時(shí)候拳亿,需要知道去哪里晴股,使用哪種格式去讀寫HDFS文件,而這些信息就保存在這幾張表中肺魁。

  • SDS

該表保存文件存儲(chǔ)的基本信息电湘,如INPUT_FORMAT、OUTPUT_FORMAT、是否壓縮等寂呛。

TBLS表中的SD_ID與該表關(guān)聯(lián)怎诫,可以獲取Hive表的存儲(chǔ)信息。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
SD_ID 存儲(chǔ)信息ID 1
CD_ID 字段信息ID 21昧谊,對(duì)應(yīng)CDS表
INPUT_FORMAT 文件輸入格式 org.apache.hadoop.mapred.TextInputFormat
IS_COMPRESSED 是否壓縮 0
IS_STOREDASSUBDIRECTORIES 是否以子目錄存儲(chǔ) 0
LOCATION HDFS路徑 hdfs://namenode/hivedata/warehouse/ut.db/t_lxw
NUM_BUCKETS 分桶數(shù)量 5
OUTPUT_FORMAT 文件輸出格式 org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat
SERDE_ID 序列化類ID 3刽虹,對(duì)應(yīng)SERDES表
  • SD_PARAMS

該表存儲(chǔ)Hive存儲(chǔ)的屬性信息,在創(chuàng)建表時(shí)候使用

STORED BY ‘storage.handler.class.name’ [WITH SERDEPROPERTIES (…)指定呢诬。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
SD_ID 存儲(chǔ)配置ID 1
PARAM_KEY 存儲(chǔ)屬性名
PARAM_VALUE 存儲(chǔ)屬性值
  • SERDES

該表存儲(chǔ)序列化使用的類信息

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
SERDE_ID 序列化類配置ID 1
NAME 序列化類別名
SLIB 序列化類 org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe
  • SERDE_PARAMS

該表存儲(chǔ)序列化的一些屬性涌哲、格式信息,比如:行、列分隔符

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
SERDE_ID 序列化類配置ID 1
PARAM_KEY 屬性名 field.delim
PARAM_VALUE 屬性值 ,

5.表字段相關(guān)的元數(shù)據(jù)

主要涉及COLUMNS_V2

  • COLUMNS_V2

該表存儲(chǔ)表對(duì)應(yīng)的字段信息尚镰。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
CD_ID 字段信息ID 1
COMMENT 字段注釋
COLUMN_NAME 字段名 pt
TYPE_NAME 字段類型 string
INTEGER_IDX 字段順序 2

6.表分區(qū)相關(guān)的數(shù)據(jù)表

主要涉及PARTITIONS阀圾、PARTITION_KEYS、PARTITION_KEY_VALS狗唉、PARTITION_PARAMS

  • PARTITIONS

該表存儲(chǔ)表分區(qū)的基本信息初烘。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
PART_ID 分區(qū)ID 1
CREATE_TIME 分區(qū)創(chuàng)建時(shí)間
LAST_ACCESS_TIME 最后一次訪問時(shí)間
PART_NAME 分區(qū)名 pt=2015-06-12
SD_ID 分區(qū)存儲(chǔ)ID 21
TBL_ID 表ID 2
  • PARTITION_KEYS

該表存儲(chǔ)分區(qū)的字段信息。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
TBL_ID 表ID 2
PKEY_COMMENT 分區(qū)字段說明
PKEY_NAME 分區(qū)字段名 pt
PKEY_TYPE 分區(qū)字段類型 string
INTEGER_IDX 分區(qū)字段順序 1
  • PARTITION_KEY_VALS

該表存儲(chǔ)分區(qū)字段值分俯。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
PART_ID 分區(qū)ID 2
PART_KEY_VAL 分區(qū)字段值 2015-06-12
INTEGER_IDX 分區(qū)字段值順序 0
  • PARTITION_PARAMS

該表存儲(chǔ)分區(qū)的屬性信息肾筐。

元數(shù)據(jù)表字段 說明 示例數(shù)據(jù)
PART_ID 分區(qū)ID 2
PARAM_KEY 分區(qū)屬性名 numFiles、numRows
PARAM_VALUE 分區(qū)屬性值 15缸剪、502195

7.其他

  • DB_PRIVS

數(shù)據(jù)庫權(quán)限信息表吗铐。通過GRANT語句對(duì)數(shù)據(jù)庫授權(quán)后,將會(huì)在這里存儲(chǔ)杏节。

  • IDXS

索引表唬渗,存儲(chǔ)Hive索引相關(guān)的元數(shù)據(jù)

  • INDEX_PARAMS

索引相關(guān)的屬性信息。

  • TAB_COL_STATS

表字段的統(tǒng)計(jì)信息奋渔。使用ANALYZE語句對(duì)表字段分析后記錄在這里镊逝。

  • TBL_COL_PRIVS

表字段的授權(quán)信息

  • PART_PRIVS

分區(qū)的授權(quán)信息

  • PART_COL_STATS

分區(qū)字段的統(tǒng)計(jì)信息。

  • PART_COL_PRIVS

分區(qū)字段的權(quán)限信息嫉鲸。

  • FUNCS

用戶注冊(cè)的函數(shù)信息

  • FUNC_RU

用戶注冊(cè)函數(shù)的資源信息

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末撑蒜,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子玄渗,更是在濱河造成了極大的恐慌减江,老刑警劉巖,帶你破解...
    沈念sama閱讀 218,204評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件捻爷,死亡現(xiàn)場(chǎng)離奇詭異辈灼,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)也榄,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,091評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門巡莹,熙熙樓的掌柜王于貴愁眉苦臉地迎上來司志,“玉大人,你說我怎么就攤上這事降宅÷钤叮” “怎么了?”我有些...
    開封第一講書人閱讀 164,548評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵腰根,是天一觀的道長激才。 經(jīng)常有香客問我,道長额嘿,這世上最難降的妖魔是什么瘸恼? 我笑而不...
    開封第一講書人閱讀 58,657評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮册养,結(jié)果婚禮上东帅,老公的妹妹穿的比我還像新娘。我一直安慰自己球拦,他們只是感情好靠闭,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,689評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著坎炼,像睡著了一般愧膀。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上谣光,一...
    開封第一講書人閱讀 51,554評(píng)論 1 305
  • 那天檩淋,我揣著相機(jī)與錄音,去河邊找鬼抢肛。 笑死,一個(gè)胖子當(dāng)著我的面吹牛碳柱,可吹牛的內(nèi)容都是我干的捡絮。 我是一名探鬼主播,決...
    沈念sama閱讀 40,302評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼莲镣,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼福稳!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起瑞侮,我...
    開封第一講書人閱讀 39,216評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤的圆,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后半火,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體越妈,經(jīng)...
    沈念sama閱讀 45,661評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,851評(píng)論 3 336
  • 正文 我和宋清朗相戀三年钮糖,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了梅掠。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片酌住。...
    茶點(diǎn)故事閱讀 39,977評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖阎抒,靈堂內(nèi)的尸體忽然破棺而出酪我,到底是詐尸還是另有隱情,我是刑警寧澤且叁,帶...
    沈念sama閱讀 35,697評(píng)論 5 347
  • 正文 年R本政府宣布都哭,位于F島的核電站,受9級(jí)特大地震影響逞带,放射性物質(zhì)發(fā)生泄漏欺矫。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,306評(píng)論 3 330
  • 文/蒙蒙 一掰担、第九天 我趴在偏房一處隱蔽的房頂上張望汇陆。 院中可真熱鬧,春花似錦带饱、人聲如沸毡代。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,898評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽教寂。三九已至,卻和暖如春执庐,著一層夾襖步出監(jiān)牢的瞬間酪耕,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,019評(píng)論 1 270
  • 我被黑心中介騙來泰國打工轨淌, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留迂烁,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,138評(píng)論 3 370
  • 正文 我出身青樓递鹉,卻偏偏與公主長得像盟步,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子躏结,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,927評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容