解密:Apache Hive 2.1性能提升26倍奄薇!

日前远搪,ApacheHive2.1極速登場劫瞳!攜著內(nèi)存計算,其性能提高了約26倍。Hive計算性能得到如此大的提升,是得益于什么呢?Hive能夠影響目前SQL On Hadoop的競爭局面的原因又是什么呢筐乳?大圣眾包威客平臺(www.dashengzb.cn)為你揭秘贮懈!

大數(shù)據(jù)時代,處理數(shù)據(jù)信息的速度越快,兼容性越高水孩,性能越優(yōu)秀宙刘,產(chǎn)品的競爭力才越大布近。而讓ApacheHive2.1版本擁有以上特性的幕后功臣铁追,分別為以下6個:

1.LLAP的引入

其實涩禀,早在ApacheHive2.0版本時屿岂,其已引入了LLAP(LiveLongAndProcess),而2.1版本則對其進行了極大的優(yōu)化,因此2.1版本相比于ApacheHive1版本,其性能提升了約26倍。

如圖所示,相比于Hive1+Tez,Hive2.1+Tez+LLAP的性能提升了約26倍,測試結(jié)果如下圖所示:

正是Hive2LLAP的引入递礼,標志著ApacheHive進入第三代內(nèi)存計算時代将硝。讓ApacheHive2.1性能提升的至關(guān)重要的優(yōu)化秘密涛贯,在于LLAP稀余。LLAP是下一代分布式計算架構(gòu)师骗,它能夠智能地將數(shù)據(jù)緩存到多臺機器內(nèi)存中黍少,并允許所有客戶端共享這些緩存的數(shù)據(jù)昵济,同時保留了彈性伸縮能力沼溜。為什么它能擁有這些優(yōu)勢找都?因為晓猛,LLAP引入了分布式持久化查詢服務(wù)洪燥,并結(jié)合了經(jīng)優(yōu)化的數(shù)據(jù)緩存機制快速啟動查詢計算作業(yè),同時,還避免了無需的磁盤IO操作。

2.更魯邦的SQLACID支持

3.2XETL性能的提升

ApacheHive2.1引入了更智能的CBO(CostBasedOptimizer),實現(xiàn)了更快的類型轉(zhuǎn)換拌滋,以及動態(tài)分區(qū)優(yōu)化昌犹。

4.存儲過程的支持

通過開源項目HPL/SQL千贯,讓ApacheHive2.1加大簡化了從EDW遷移到Hive的流程敦第。而HPL/SQL的目的,是為實現(xiàn)ApacheHive、SparkSQL房待、Impala以及其他SQL-on-Hadoop,以及任何NoSQL和RDBMS增加存儲的過程极谊。

5.對文本格式數(shù)據(jù)增加向量化計算的支持

6.新的診斷和監(jiān)控工具的引入

包括新的HiveServer2UI、LLAPUI和改進的TezUI淑蔚,都是ApacheHive2.1引入的新的診斷和監(jiān)控工具音羞,這讓它性能更穩(wěn)定叽躯。

原文地址:http://www.dashengzb.cn/articles/a-302.html

(更多大數(shù)據(jù)與商業(yè)智能領(lǐng)域干貨、或電子書葛菇,可添加個人微信號(dashenghuaer))

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子汰蜘,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,820評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件冒掌,死亡現(xiàn)場離奇詭異祭陷,居然都是意外死亡趣席,警方通過查閱死者的電腦和手機宣肚,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,648評論 3 399
  • 文/潘曉璐 我一進店門逮走,熙熙樓的掌柜王于貴愁眉苦臉地迎上來盾舌,“玉大人,你說我怎么就攤上這事遥巴〖A叮” “怎么了砸彬?”我有些...
    開封第一講書人閱讀 168,324評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長斯入。 經(jīng)常有香客問我砂碉,道長,這世上最難降的妖魔是什么刻两? 我笑而不...
    開封第一講書人閱讀 59,714評論 1 297
  • 正文 為了忘掉前任增蹭,我火速辦了婚禮,結(jié)果婚禮上磅摹,老公的妹妹穿的比我還像新娘滋迈。我一直安慰自己,他們只是感情好户誓,可當我...
    茶點故事閱讀 68,724評論 6 397
  • 文/花漫 我一把揭開白布饼灿。 她就那樣靜靜地躺著,像睡著了一般帝美。 火紅的嫁衣襯著肌膚如雪碍彭。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 52,328評論 1 310
  • 那天悼潭,我揣著相機與錄音庇忌,去河邊找鬼。 笑死舰褪,一個胖子當著我的面吹牛皆疹,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播占拍,決...
    沈念sama閱讀 40,897評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼墙基,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了刷喜?” 一聲冷哼從身側(cè)響起残制,我...
    開封第一講書人閱讀 39,804評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎掖疮,沒想到半個月后初茶,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,345評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,431評論 3 340
  • 正文 我和宋清朗相戀三年恼布,在試婚紗的時候發(fā)現(xiàn)自己被綠了螺戳。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,561評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡折汞,死狀恐怖倔幼,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情爽待,我是刑警寧澤损同,帶...
    沈念sama閱讀 36,238評論 5 350
  • 正文 年R本政府宣布,位于F島的核電站鸟款,受9級特大地震影響膏燃,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜何什,卻給世界環(huán)境...
    茶點故事閱讀 41,928評論 3 334
  • 文/蒙蒙 一组哩、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧处渣,春花似錦伶贰、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,417評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至悠瞬,卻和暖如春们豌,著一層夾襖步出監(jiān)牢的瞬間涯捻,已是汗流浹背浅妆。 一陣腳步聲響...
    開封第一講書人閱讀 33,528評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留障癌,地道東北人凌外。 一個月前我還...
    沈念sama閱讀 48,983評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像涛浙,于是被迫代替她去往敵國和親康辑。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,573評論 2 359

推薦閱讀更多精彩內(nèi)容