Hive中order by尝抖、sort by、distribute by和cluster by

Order By語法

對(duì)全局?jǐn)?shù)據(jù)的排序迅皇,只有一個(gè)reduce
colOrder: ( ASC | DESC )
colNullOrder: (NULLS FIRST | NULLS LAST) -- (Note: Available in Hive 2.1.0 and later)
orderBy: ORDER BY colName colOrder? colNullOrder? (',' colName colOrder? colNullOrder?)*
query: SELECT expression (',' expression)* FROM src orderBy

order by 樣例

select * from emp;

Sort By

對(duì)每一個(gè)Reduce內(nèi)部進(jìn)行排序昧辽,對(duì)全局結(jié)果集來說不是排序的
設(shè)置 reduce 執(zhí)行的個(gè)數(shù)
set mapreduce.job.reduces=<number>

sort by樣例

hive>set mapreduce.job.reduces=3;
hive>insert overwrite local directory '/opt/datas/hive_exp_emp0308' ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' COLLECTION ITEMS TERMINATED BY '\n'
select * from emp sort by empno asc

Distribute By

也就是分區(qū)partition,類似MapReduce中分區(qū)partition登颓,對(duì)數(shù)據(jù)進(jìn)行分區(qū)后搅荞,結(jié)合sort by 進(jìn)行排序使用。

insert overwrite local directory '/opt/datas/hive_exp_distribute_emp0308' ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' COLLECTION ITEMS TERMINATED BY '\n'
select * from emp distribute by deptno sort by empno asc

第一個(gè)分區(qū)數(shù)據(jù)000000_0
第二個(gè)分區(qū)000001_0
第三個(gè)分區(qū)000002_0

Cluster By

當(dāng)sort by 和 distribute by的字段相同時(shí)框咙,就可以使用Cluster By替換榴徐。

insert overwrite local directory '/opt/datas/hive_exp_cluster_emp0308' ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' COLLECTION ITEMS TERMINATED BY '\n'
select * from emp cluster by empno

總結(jié)

Hive中select新特性
Order By 全局排序增显,一個(gè)Reduce
Sort By 每個(gè)reduce內(nèi)部進(jìn)行排序,全局不是排序 Distribute By 類似MR中partition,進(jìn)行分區(qū)嗽仪,結(jié)合sort by使用 Cluster By 當(dāng)distribute和sort字段相同時(shí)惕虑,使用方式

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末忙迁,一起剝皮案震驚了整個(gè)濱河市贤牛,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌王暗,老刑警劉巖悔据,帶你破解...
    沈念sama閱讀 210,914評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異俗壹,居然都是意外死亡科汗,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評(píng)論 2 383
  • 文/潘曉璐 我一進(jìn)店門绷雏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來头滔,“玉大人,你說我怎么就攤上這事涎显±ぜ欤” “怎么了?”我有些...
    開封第一講書人閱讀 156,531評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵期吓,是天一觀的道長早歇。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么箭跳? 我笑而不...
    開封第一講書人閱讀 56,309評(píng)論 1 282
  • 正文 為了忘掉前任晨另,我火速辦了婚禮,結(jié)果婚禮上谱姓,老公的妹妹穿的比我還像新娘借尿。我一直安慰自己,他們只是感情好屉来,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評(píng)論 5 384
  • 文/花漫 我一把揭開白布路翻。 她就那樣靜靜地躺著,像睡著了一般奶躯。 火紅的嫁衣襯著肌膚如雪帚桩。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,730評(píng)論 1 289
  • 那天嘹黔,我揣著相機(jī)與錄音,去河邊找鬼莫瞬。 笑死儡蔓,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的疼邀。 我是一名探鬼主播喂江,決...
    沈念sama閱讀 38,882評(píng)論 3 404
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼旁振!你這毒婦竟也來了获询?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,643評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤拐袜,失蹤者是張志新(化名)和其女友劉穎吉嚣,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體蹬铺,經(jīng)...
    沈念sama閱讀 44,095評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡尝哆,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了甜攀。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片秋泄。...
    茶點(diǎn)故事閱讀 38,566評(píng)論 1 339
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖规阀,靈堂內(nèi)的尸體忽然破棺而出恒序,到底是詐尸還是另有隱情,我是刑警寧澤谁撼,帶...
    沈念sama閱讀 34,253評(píng)論 4 328
  • 正文 年R本政府宣布歧胁,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏与帆。R本人自食惡果不足惜了赌,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望玄糟。 院中可真熱鬧勿她,春花似錦、人聲如沸阵翎。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,715評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽郭卫。三九已至砍聊,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間贰军,已是汗流浹背玻蝌。 一陣腳步聲響...
    開封第一講書人閱讀 31,945評(píng)論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留词疼,地道東北人俯树。 一個(gè)月前我還...
    沈念sama閱讀 46,248評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像贰盗,于是被迫代替她去往敵國和親许饿。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容