hive 主要sql整理

????????在hive中進(jìn)行數(shù)據(jù)處理和查詢時(shí)鼎兽,常用又比較生僻sql整理昼弟。

group by and having

????????group by通常會(huì)和聚合函數(shù)一起使用属瓣,按照某一個(gè)或者多個(gè)列對(duì)結(jié)果進(jìn)行分組员舵,然后對(duì)每個(gè)組進(jìn)行聚合操作。樣例如下:

????????hive > select year(ymd),avg(price_close) from stocks where exchange = 'NASDAQ' and symbol? = 'AAPL' group by year(ymd);

圖-group by結(jié)果

????????having子句允許用戶通過(guò)簡(jiǎn)單語(yǔ)法完成原本需要通過(guò)子查詢才能對(duì)group by 語(yǔ)句產(chǎn)生分組進(jìn)行條件過(guò)濾對(duì)任務(wù)捉兴。針對(duì)上面查詢語(yǔ)句增加having 語(yǔ)句限制輸出結(jié)果中年平均收盤(pán)大于50蝎困。

????????select year(ymd),avg(price_close) from stocks where exchange = 'NASDAQ' and symbol? = 'AAPL' group by year(ymd) having avg(price_close) > 50.0?

圖-group by having執(zhí)行結(jié)果

order by and sort by

????????hive中order by和其他sql中的定義是一樣的蚜厉,會(huì)對(duì)查詢結(jié)果集執(zhí)行一個(gè)全局排序墓阀,即會(huì)有一個(gè)所有的數(shù)據(jù)通過(guò)一個(gè)reducer進(jìn)行處理的過(guò)程,對(duì)于大數(shù)據(jù)集措近,這個(gè)過(guò)程會(huì)消耗太多時(shí)間虽缕。因?yàn)閛rder by執(zhí)行時(shí)間長(zhǎng)始藕,如果屬性hive.mapred.mode=strict,hive sql語(yǔ)句必須加limit語(yǔ)句進(jìn)行限制氮趋,默認(rèn)是nonstrict伍派,不會(huì)有限制。

含有sort by 的distribute by

????????默認(rèn)情況下剩胁,MapReduce計(jì)算框架會(huì)依據(jù)map輸入的鍵計(jì)算相應(yīng)哈希值诉植,按照哈希值將鍵-值對(duì)均勻分發(fā)到多個(gè)reducer中,這樣導(dǎo)致使用sort by時(shí)昵观,不同reducer的輸出內(nèi)容會(huì)有重疊晾腔,而如果使用distribute by 可以保證同一個(gè)key被分發(fā)到同一個(gè)reducer中進(jìn)行處理舌稀,然后對(duì)同一個(gè)reducer進(jìn)行排序。使用時(shí)候需要注意distribute by 語(yǔ)句要寫(xiě)在sort by 語(yǔ)句之前灼擂。

圖 - distribute by sort by

cluster by

? ? ? ? cluster by 等價(jià)于 distribute by? key sort by key

union all?

????????union all 可以將2個(gè)或多個(gè)表進(jìn)行合并壁查,每一個(gè)union子查詢都必需具有相同的列,并且對(duì)應(yīng)的每個(gè)字段的字段類(lèi)型必須是一致的剔应。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末潮罪,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子领斥,更是在濱河造成了極大的恐慌,老刑警劉巖沃暗,帶你破解...
    沈念sama閱讀 207,248評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件月洛,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡孽锥,警方通過(guò)查閱死者的電腦和手機(jī)嚼黔,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,681評(píng)論 2 381
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)惜辑,“玉大人唬涧,你說(shuō)我怎么就攤上這事∈⒊牛” “怎么了碎节?”我有些...
    開(kāi)封第一講書(shū)人閱讀 153,443評(píng)論 0 344
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)抵卫。 經(jīng)常有香客問(wèn)我狮荔,道長(zhǎng),這世上最難降的妖魔是什么介粘? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,475評(píng)論 1 279
  • 正文 為了忘掉前任殖氏,我火速辦了婚禮,結(jié)果婚禮上姻采,老公的妹妹穿的比我還像新娘雅采。我一直安慰自己,他們只是感情好慨亲,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,458評(píng)論 5 374
  • 文/花漫 我一把揭開(kāi)白布婚瓜。 她就那樣靜靜地躺著,像睡著了一般刑棵。 火紅的嫁衣襯著肌膚如雪闰渔。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,185評(píng)論 1 284
  • 那天铐望,我揣著相機(jī)與錄音冈涧,去河邊找鬼茂附。 笑死,一個(gè)胖子當(dāng)著我的面吹牛督弓,可吹牛的內(nèi)容都是我干的营曼。 我是一名探鬼主播,決...
    沈念sama閱讀 38,451評(píng)論 3 401
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼愚隧,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蒂阱!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起狂塘,我...
    開(kāi)封第一講書(shū)人閱讀 37,112評(píng)論 0 261
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤录煤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后荞胡,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體妈踊,經(jīng)...
    沈念sama閱讀 43,609評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,083評(píng)論 2 325
  • 正文 我和宋清朗相戀三年泪漂,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了廊营。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,163評(píng)論 1 334
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡萝勤,死狀恐怖露筒,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情敌卓,我是刑警寧澤慎式,帶...
    沈念sama閱讀 33,803評(píng)論 4 323
  • 正文 年R本政府宣布,位于F島的核電站趟径,受9級(jí)特大地震影響瞬捕,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜舵抹,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,357評(píng)論 3 307
  • 文/蒙蒙 一肪虎、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧惧蛹,春花似錦扇救、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,357評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至靠娱,卻和暖如春沧烈,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背像云。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,590評(píng)論 1 261
  • 我被黑心中介騙來(lái)泰國(guó)打工锌雀, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蚂夕,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,636評(píng)論 2 355
  • 正文 我出身青樓腋逆,卻偏偏與公主長(zhǎng)得像婿牍,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子惩歉,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,925評(píng)論 2 344

推薦閱讀更多精彩內(nèi)容