【Spark】SparkOptimizer 優(yōu)化規(guī)則:OptimizeMetadataOnlyQuery

這兩天在SparkSQL Core看到一個優(yōu)化規(guī)則:OptimizeMetadataOnlyQuery谊路,它的意思是如果一個sql只涉及表的分區(qū)字段元信息查詢的話末融,執(zhí)行過程將不會路由到TableScanExec的PhysicalPlan進行表掃描捺萌,而是通過分區(qū)元信息的字段和值構建LocalRelation拟枚,進而構造一個LocalTable休吠,走LocalTableScanExec的PhysicalPlan谒获。

這個規(guī)則的觸發(fā)要滿足下面幾個條件:

  • sql中所有查詢的字段必須是分區(qū)字段
  • 如果使用了聚合函數(shù)蛤肌,必須滿足下面條件:
    1. 聚合表達式是分區(qū)字段,如(col等為tbl的分區(qū)字段批狱,下同):
      SELECT col FROM tbl GROUP BY col.
    2. 對分區(qū)字段使用的聚合函數(shù)帶Distinct裸准,如:
      SELECT count(DISTINCT col) FROM tbl GROUP BY col.
    3. 對分區(qū)字段使用的聚合函數(shù)為Max,Min赔硫,F(xiàn)irst炒俱、Last函數(shù),如:
      SELECT Max(col) FROM tbl GROUP BY col.

如果滿足上面的條件爪膊,將會對邏輯計劃進行優(yōu)化权悟,調(diào)用replaceTableScanWithPartitionMetadata,做的事情包括:
1. 把CatalogTable中的分區(qū)字段取出來推盛;
2. 把CatalogTable中的分區(qū)值取出來峦阁;
3. 構建LocalRelation(partAttrs, partitionData)

簡單來說,就是把分區(qū)字段及其值取出來耘成,構造一個本地表榔昔,這樣在執(zhí)行時就不需要去掃描真正的表了。

如果要禁用該優(yōu)化瘪菌,需要設置參數(shù)spark.sql.optimizer.metadataOnly=false撒会,spark里面默認是true。

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末师妙,一起剝皮案震驚了整個濱河市茧彤,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌疆栏,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,816評論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件惫谤,死亡現(xiàn)場離奇詭異壁顶,居然都是意外死亡,警方通過查閱死者的電腦和手機溜歪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,729評論 3 385
  • 文/潘曉璐 我一進店門若专,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人蝴猪,你說我怎么就攤上這事调衰〔沧Γ” “怎么了熊镣?”我有些...
    開封第一講書人閱讀 158,300評論 0 348
  • 文/不壞的土叔 我叫張陵兴使,是天一觀的道長。 經(jīng)常有香客問我夭咬,道長趋箩,這世上最難降的妖魔是什么赃额? 我笑而不...
    開封第一講書人閱讀 56,780評論 1 285
  • 正文 為了忘掉前任,我火速辦了婚禮叫确,結果婚禮上跳芳,老公的妹妹穿的比我還像新娘。我一直安慰自己竹勉,他們只是感情好飞盆,可當我...
    茶點故事閱讀 65,890評論 6 385
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著次乓,像睡著了一般吓歇。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上檬输,一...
    開封第一講書人閱讀 50,084評論 1 291
  • 那天照瘾,我揣著相機與錄音,去河邊找鬼丧慈。 笑死析命,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的逃默。 我是一名探鬼主播鹃愤,決...
    沈念sama閱讀 39,151評論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼完域!你這毒婦竟也來了软吐?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,912評論 0 268
  • 序言:老撾萬榮一對情侶失蹤吟税,失蹤者是張志新(化名)和其女友劉穎凹耙,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體肠仪,經(jīng)...
    沈念sama閱讀 44,355評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡肖抱,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 36,666評論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了异旧。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片意述。...
    茶點故事閱讀 38,809評論 1 341
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出荤崇,到底是詐尸還是另有隱情拌屏,我是刑警寧澤,帶...
    沈念sama閱讀 34,504評論 4 334
  • 正文 年R本政府宣布术荤,位于F島的核電站倚喂,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏喜每。R本人自食惡果不足惜务唐,卻給世界環(huán)境...
    茶點故事閱讀 40,150評論 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望带兜。 院中可真熱鬧枫笛,春花似錦、人聲如沸刚照。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,882評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽无畔。三九已至啊楚,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間浑彰,已是汗流浹背恭理。 一陣腳步聲響...
    開封第一講書人閱讀 32,121評論 1 267
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留郭变,地道東北人颜价。 一個月前我還...
    沈念sama閱讀 46,628評論 2 362
  • 正文 我出身青樓,卻偏偏與公主長得像诉濒,于是被迫代替她去往敵國和親周伦。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 43,724評論 2 351

推薦閱讀更多精彩內(nèi)容