Hive基礎(chǔ)教程

基本命令

切換數(shù)據(jù)庫: use <db_name>;

表重命名:ALTER TABLE table1 RENAME TO table2;

增加表分區(qū)

ALTER TABLE table1 ADD IF NOT EXISTS 
PARTITION (year = 2001)
PARTITION (year = 2002)
...;

刪除表分區(qū)
ALTER TABLE table1 DROP IF EXISTS PARTITION (year = 2001);

重命名列名
ALTER TABLE table1 CHANGE COLUMN <old_col> <new_col>

插入新列

ALTER TABLE table1 ADD COLUMNS(
app_name STRING
session_id LONG);

改變存儲格式

ALTER TABLE table1
[PATITION (year = 2001)]
SET FILEFORMAT SEQUENCEFILE;

本地導(dǎo)入數(shù)據(jù)

LOAD DATA LOCAL INPATH '${env: HOME}/ California/employees'
OVERWRITE INTO TABLE employees
[PARTITION (country = 'US')];

通過查詢語句插入數(shù)據(jù)

INSERT OVERWRITE TABLE employees
[PARTITION(...)]
SELECT * FROM stage_employees se
WHERE se.cnty = 'US' and se.et = 'OR';

通過單個查詢語句創(chuàng)建表

CREATE TABLE table1
AS SELECT name, salary, address
FROM employees es
WHERE es.cnty = 'US';

導(dǎo)出數(shù)據(jù)

INSERT OVERWRITE DIRECTORY '/tmp/ca_employees'
SELECT name, salary, address
FROM employees es
WHERE es.cnty = 'US'

Hive 查詢

SELECT col1, col2, col3 FROM table1 WHERE ...可以增加一些數(shù)學(xué)運算符 或者 自帶函數(shù)

聚合函數(shù)

SELECT count(*), avg(salary) 
FROM employees
GROUP BY cnty;

LIMIT: LIMIT從句用于限制結(jié)果的行數(shù)

設(shè)置列別名

SELECT count(*) as sum_num , avg(salary) as avg_sal
FROM employees
GROUP BY cnty; 

LIKE: 與通配符 % 一起用, %可代替任何內(nèi)容

HAVING: HAVING從句用來限制 GROUP BY產(chǎn)生的結(jié)果的輸出。

SELECT avg(salary)
FROM employees
GROUP BY cnty
HAVING avg(salary) >  500;

JOIN

Hive SQL支持JOIN操作球订,但是只支持等值連接晌区。

inner join

SELECT  a.ymd, a.price, b.price
FROM stocks a inner join stocks b on a.ymd = b.ymd
WHERE a.name = "IBM" and b.name  = "APPLE"

理論上一個JOIN 需要啟動一個mapreduce任務(wù),但是當(dāng)多個表做連接時ON子句的連接鍵一樣的話只啟用一個mapreduce任務(wù)。

JOIN優(yōu)化遵倦,把大表放在最后 或者 在代碼中加入/*+STREAMTABLE(小表)*/

LEFT OUTER JOIN

image.png

RIGHT OUTER JOIN

image.png

FULL OUTER JOIN

LEFT SEMI-JOIN

左半邊連接 只返回左表中滿足on條件的結(jié)果梦抢。

map-side join

在JOIN時,把小表加載到內(nèi)存中能夠加快JOIN效率交洗。


image.png

SORT BY骑科、ODER BY 、DISTRIBUTE BY 构拳、CLUSTER BY

ODER BY 對數(shù)據(jù)做全局排序咆爽,最后用一個reduce做排序
SORT BY 對數(shù)據(jù)做局部排序梁棠,在每一個reduce中排序
DISTRIBUTE BY控制map的輸出在reduce中是如何劃分的。
CLUSTER BY 相當(dāng)于結(jié)合DISTRIBUTE BY 和 SORT BY斗埂,對同一列做DISTRIBUTE 和 SORT符糊,但是只支持默認(rèn)的升序排列。

數(shù)值轉(zhuǎn)化

CAST( VALUE AS TYPE)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末呛凶,一起剝皮案震驚了整個濱河市男娄,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌漾稀,老刑警劉巖模闲,帶你破解...
    沈念sama閱讀 218,525評論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異崭捍,居然都是意外死亡围橡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,203評論 3 395
  • 文/潘曉璐 我一進(jìn)店門缕贡,熙熙樓的掌柜王于貴愁眉苦臉地迎上來翁授,“玉大人,你說我怎么就攤上這事晾咪∈詹粒” “怎么了?”我有些...
    開封第一講書人閱讀 164,862評論 0 354
  • 文/不壞的土叔 我叫張陵谍倦,是天一觀的道長塞赂。 經(jīng)常有香客問我,道長昼蛀,這世上最難降的妖魔是什么宴猾? 我笑而不...
    開封第一講書人閱讀 58,728評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮叼旋,結(jié)果婚禮上仇哆,老公的妹妹穿的比我還像新娘。我一直安慰自己夫植,他們只是感情好讹剔,可當(dāng)我...
    茶點故事閱讀 67,743評論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著详民,像睡著了一般延欠。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上沈跨,一...
    開封第一講書人閱讀 51,590評論 1 305
  • 那天由捎,我揣著相機(jī)與錄音,去河邊找鬼饿凛。 笑死狞玛,一個胖子當(dāng)著我的面吹牛邻奠,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播为居,決...
    沈念sama閱讀 40,330評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼碌宴,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了蒙畴?” 一聲冷哼從身側(cè)響起贰镣,我...
    開封第一講書人閱讀 39,244評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎膳凝,沒想到半個月后碑隆,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,693評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡蹬音,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,885評論 3 336
  • 正文 我和宋清朗相戀三年上煤,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片著淆。...
    茶點故事閱讀 40,001評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡劫狠,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出永部,到底是詐尸還是另有隱情独泞,我是刑警寧澤,帶...
    沈念sama閱讀 35,723評論 5 346
  • 正文 年R本政府宣布苔埋,位于F島的核電站懦砂,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏组橄。R本人自食惡果不足惜荞膘,卻給世界環(huán)境...
    茶點故事閱讀 41,343評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望玉工。 院中可真熱鬧羽资,春花似錦、人聲如沸瓮栗。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,919評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽费奸。三九已至,卻和暖如春进陡,著一層夾襖步出監(jiān)牢的瞬間愿阐,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,042評論 1 270
  • 我被黑心中介騙來泰國打工趾疚, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留缨历,地道東北人以蕴。 一個月前我還...
    沈念sama閱讀 48,191評論 3 370
  • 正文 我出身青樓,卻偏偏與公主長得像辛孵,于是被迫代替她去往敵國和親丛肮。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,955評論 2 355

推薦閱讀更多精彩內(nèi)容