《Spark性能優(yōu)化：開發(fā)調(diào)優(yōu)篇》
《Spark性能優(yōu)化：資源調(diào)優(yōu)篇》
《Spark性能優(yōu)化：數(shù)據(jù)傾斜調(diào)優(yōu)》
《Spark性能優(yōu)化：shuffle調(diào)優(yōu)》

一壹店、前言

繼《Spark性能優(yōu)化：開發(fā)調(diào)優(yōu)篇》和《Spark性能優(yōu)化：資源調(diào)優(yōu)篇》講解了每個Spark開發(fā)人員都必須熟知的開發(fā)調(diào)優(yōu)與資源調(diào)優(yōu)之后灸促，本文作為《Spark性能優(yōu)化指南》的高級篇，將深入分析數(shù)據(jù)傾斜調(diào)優(yōu)與shuffle調(diào)優(yōu)敢订，以解決更加棘手的性能問題辅辩。

二离钝、數(shù)據(jù)傾斜調(diào)優(yōu)

2.1挣郭、調(diào)優(yōu)概述

有的時候，我們可能會遇到大數(shù)據(jù)計算中一個最棘手的問題——數(shù)據(jù)傾斜，此時Spark作業(yè)的性能會比期望差很多寝蹈。數(shù)據(jù)傾斜調(diào)優(yōu)糟袁，就是使用各種技術方案解決不同類型的數(shù)據(jù)傾斜問題，以保證Spark作業(yè)的性能躺盛。

2.2项戴、數(shù)據(jù)傾斜發(fā)生時的現(xiàn)象

1、絕大多數(shù)task執(zhí)行得都非巢郾梗快周叮，但個別task執(zhí)行極慢。比如界斜，總共有1000個task仿耽，997個task都在1分鐘之內(nèi)執(zhí)行完了，但是剩余兩三個task卻要一兩個小時各薇。這種情況很常見项贺。

2、原本能夠正常執(zhí)行的Spark作業(yè)峭判，某天突然報出OOM（內(nèi)存溢出）異常开缎，觀察異常棧，是我們寫的業(yè)務代碼造成的林螃。這種情況比較少見奕删。

2.3、數(shù)據(jù)傾斜發(fā)生的原理

數(shù)據(jù)傾斜的原理很簡單：在進行shuffle的時候疗认，必須將各個節(jié)點上相同的key拉取到某個節(jié)點上的一個task來進行處理完残，比如按照key進行聚合或join等操作。此時如果某個key對應的數(shù)據(jù)量特別大的話横漏，就會發(fā)生數(shù)據(jù)傾斜谨设。比如大部分key對應10條數(shù)據(jù)，但是個別key卻對應了100萬條數(shù)據(jù)缎浇，那么大部分task可能就只會分配到10條數(shù)據(jù)扎拣，然后1秒鐘就運行完了；但是個別task可能分配到了100萬數(shù)據(jù)华畏，要運行一兩個小時鹏秋。因此，整個Spark作業(yè)的運行進度是由運行時間最長的那個task決定的亡笑。

因此出現(xiàn)數(shù)據(jù)傾斜的時候，Spark作業(yè)看起來會運行得非常緩慢横朋，甚至可能因為某個task處理的數(shù)據(jù)量過大導致內(nèi)存溢出仑乌。

下圖就是一個很清晰的例子：hello這個key，在三個節(jié)點上對應了總共7條數(shù)據(jù)，這些數(shù)據(jù)都會被拉取到同一個task中進行處理晰甚；而world和you這兩個key分別才對應1條數(shù)據(jù)衙传，所以另外兩個task只要分別處理1條數(shù)據(jù)即可。此時第一個task的運行時間可能是另外兩個task的7倍厕九，而整個stage的運行速度也由運行最慢的那個task所決定蓖捶。

數(shù)據(jù)傾斜原理

2.4、如何定位導致數(shù)據(jù)傾斜的代碼

數(shù)據(jù)傾斜只會發(fā)生在shuffle過程中扁远。這里給大家羅列一些常用的并且可能會觸發(fā)shuffle操作的算子：distinct俊鱼、groupByKey、reduceByKey畅买、aggregateByKey并闲、join、cogroup谷羞、repartition等帝火。出現(xiàn)數(shù)據(jù)傾斜時，可能就是你的代碼中使用了這些算子中的某一個所導致的湃缎。

2.5犀填、 某個task執(zhí)行特別慢的情況

首先要看的，就是數(shù)據(jù)傾斜發(fā)生在第幾個stage中嗓违。

如果是用yarn-client模式提交宏浩，那么本地是直接可以看到log的，可以在log中找到當前運行到了第幾個stage靠瞎；如果是用yarn-cluster模式提交比庄，則可以通過Spark Web UI來查看當前運行到了第幾個stage。此外乏盐，無論是使用yarn-client模式還是yarn-cluster模式佳窑，我們都可以在Spark Web UI上深入看一下當前這個stage各個task分配的數(shù)據(jù)量，從而進一步確定是不是task分配的數(shù)據(jù)不均勻?qū)е铝藬?shù)據(jù)傾斜父能。

比如下圖中神凑，倒數(shù)第三列顯示了每個task的運行時間。明顯可以看到何吝，有的task運行特別快溉委，只需要幾秒鐘就可以運行完；而有的task運行特別慢爱榕，需要幾分鐘才能運行完瓣喊，此時單從運行時間上看就已經(jīng)能夠確定發(fā)生數(shù)據(jù)傾斜了。此外黔酥，倒數(shù)第一列顯示了每個task處理的數(shù)據(jù)量藻三，明顯可以看到洪橘，運行時間特別短的task只需要處理幾百KB的數(shù)據(jù)即可，而運行時間特別長的task需要處理幾千KB的數(shù)據(jù)棵帽，處理的數(shù)據(jù)量差了10倍熄求。此時更加能夠確定是發(fā)生了數(shù)據(jù)傾斜。

image

知道數(shù)據(jù)傾斜發(fā)生在哪一個stage之后逗概，接著我們就需要根據(jù)stage劃分原理弟晚，推算出來發(fā)生傾斜的那個stage對應代碼中的哪一部分，這部分代碼中肯定會有一個shuffle類算子逾苫。精準推算stage與代碼的對應關系卿城，需要對Spark的源碼有深入的理解，這里我們可以介紹一個相對簡單實用的推算方法：只要看到Spark代碼中出現(xiàn)了一個shuffle類算子或者是Spark SQL的SQL語句中出現(xiàn)了會導致shuffle的語句（比如group by語句）隶垮，那么就可以判定藻雪，以那個地方為界限劃分出了前后兩個stage。

這里我們就以Spark最基礎的入門程序——單詞計數(shù)來舉例狸吞，如何用最簡單的方法大致推算出一個stage對應的代碼勉耀。如下示例，在整個代碼中蹋偏，只有一個reduceByKey是會發(fā)生shuffle的算子便斥，因此就可以認為，以這個算子為界限威始，會劃分出前后兩個stage枢纠。

1、stage0黎棠，主要是執(zhí)行從textFile到map操作晋渺，以及執(zhí)行shuffle write操作。shuffle write操作脓斩，我們可以簡單理解為對pairs RDD中的數(shù)據(jù)進行分區(qū)操作木西，每個task處理的數(shù)據(jù)中，相同的key會寫入同一個磁盤文件內(nèi)随静。
2八千、stage1，主要是執(zhí)行從reduceByKey到collect操作燎猛，stage1的各個task一開始運行恋捆，就會首先執(zhí)行shuffle read操作。執(zhí)行shuffle read操作的task重绷，會從stage0的各個task所在節(jié)點拉取屬于自己處理的那些key沸停，然后對同一個key進行全局性的聚合或join等操作，在這里就是對key的value值進行累加论寨。stage1在執(zhí)行完reduceByKey算子之后星立，就計算出了最終的wordCounts RDD爽茴，然后會執(zhí)行collect算子葬凳，將所有數(shù)據(jù)拉取到Driver上绰垂，供我們遍歷和打印輸出。

val conf = new SparkConf()
val sc = new SparkContext(conf)
val lines = sc.textFile("[hdfs://...](hdfs://...)")
val words = lines.flatMap(_.split(" "))
val pairs = words.map((_, 1))
val wordCounts = pairs.reduceByKey(_ + _)
wordCounts.collect().foreach(println(_))

通過對單詞計數(shù)程序的分析火焰，希望能夠讓大家了解最基本的stage劃分的原理劲装，以及stage劃分后shuffle操作是如何在兩個stage的邊界處執(zhí)行的。然后我們就知道如何快速定位出發(fā)生數(shù)據(jù)傾斜的stage對應代碼的哪一個部分了昌简。比如我們在Spark Web UI或者本地log中發(fā)現(xiàn)占业，stage1的某幾個task執(zhí)行得特別慢，判定stage1出現(xiàn)了數(shù)據(jù)傾斜纯赎，那么就可以回到代碼中定位出stage1主要包括了reduceByKey這個shuffle類算子谦疾，此時基本就可以確定是由reduceByKey算子導致的數(shù)據(jù)傾斜問題。比如某個單詞出現(xiàn)了100萬次犬金，其他單詞才出現(xiàn)10次念恍，那么stage1的某個task就要處理100萬數(shù)據(jù)，整個stage的速度就會被這個task拖慢晚顷。

2.6峰伙、某個task莫名其妙內(nèi)存溢出的情況

這種情況下去定位出問題的代碼就比較容易了。我們建議直接看yarn-client模式下本地log的異常棧该默，或者是通過YARN查看yarn-cluster模式下的log中的異常棧瞳氓。一般來說，通過異常棧信息就可以定位到你的代碼中哪一行發(fā)生了內(nèi)存溢出栓袖。然后在那行代碼附近找找匣摘，一般也會有shuffle類算子，此時很可能就是這個算子導致了數(shù)據(jù)傾斜裹刮。

但是大家要注意的是音榜，不能單純靠偶然的內(nèi)存溢出就判定發(fā)生了數(shù)據(jù)傾斜。因為自己編寫的代碼的bug必指，以及偶然出現(xiàn)的數(shù)據(jù)異常囊咏，也可能會導致內(nèi)存溢出。因此還是要按照上面所講的方法塔橡，通過Spark Web UI查看報錯的那個stage的各個task的運行時間以及分配的數(shù)據(jù)量梅割，才能確定是否是由于數(shù)據(jù)傾斜才導致了這次內(nèi)存溢出。

2.7葛家、查看導致數(shù)據(jù)傾斜的key的數(shù)據(jù)分布情況

知道了數(shù)據(jù)傾斜發(fā)生在哪里之后户辞，通常需要分析一下那個執(zhí)行了shuffle操作并且導致了數(shù)據(jù)傾斜的RDD/Hive表，查看一下其中key的分布情況癞谒。這主要是為之后選擇哪一種技術方案提供依據(jù)底燎。針對不同的key分布與不同的shuffle算子組合起來的各種情況刃榨，可能需要選擇不同的技術方案來解決。

此時根據(jù)你執(zhí)行操作的情況不同双仍，可以有很多種查看key分布的方式：

1枢希、如果是Spark SQL中的group by、join語句導致的數(shù)據(jù)傾斜朱沃，那么就查詢一下SQL中使用的表的key分布情況苞轿。
2、如果是對Spark RDD執(zhí)行shuffle算子導致的數(shù)據(jù)傾斜逗物，那么可以在Spark作業(yè)中加入查看key分布的代碼搬卒，比如RDD.countByKey()。然后對統(tǒng)計出來的各個key出現(xiàn)的次數(shù)翎卓，collect/take到客戶端打印一下契邀，就可以看到key的分布情況。

舉例來說失暴，對于上面所說的單詞計數(shù)程序坯门，如果確定了是stage1的reduceByKey算子導致了數(shù)據(jù)傾斜，那么就應該看看進行reduceByKey操作的RDD中的key分布情況锐帜，在這個例子中指的就是pairs RDD田盈。如下示例，我們可以先對pairs采樣10%的樣本數(shù)據(jù)缴阎，然后使用countByKey算子統(tǒng)計出每個key出現(xiàn)的次數(shù)允瞧，最后在客戶端遍歷和打印樣本數(shù)據(jù)中各個key的出現(xiàn)次數(shù)。

val sampledPairs = pairs.sample(false, 0.1)
val sampledWordCounts = sampledPairs.countByKey()
sampledWordCounts.foreach(println(_))

三蛮拔、數(shù)據(jù)傾斜的解決方案

解決方案一：使用Hive ETL預處理數(shù)據(jù)

方案適用場景：導致數(shù)據(jù)傾斜的是Hive表述暂。如果該Hive表中的數(shù)據(jù)本身很不均勻（比如某個key對應了100萬數(shù)據(jù)，其他key才對應了10條數(shù)據(jù)）建炫，而且業(yè)務場景需要頻繁使用Spark對Hive表執(zhí)行某個分析操作畦韭，那么比較適合使用這種技術方案。

方案實現(xiàn)思路：此時可以評估一下肛跌，是否可以通過Hive來進行數(shù)據(jù)預處理（即通過Hive ETL預先對數(shù)據(jù)按照key進行聚合艺配，或者是預先和其他表進行join），然后在Spark作業(yè)中針對的數(shù)據(jù)源就不是原來的Hive表了衍慎，而是預處理后的Hive表转唉。此時由于數(shù)據(jù)已經(jīng)預先進行過聚合或join操作了，那么在Spark作業(yè)中也就不需要使用原先的shuffle類算子執(zhí)行這類操作了稳捆。

方案實現(xiàn)原理：這種方案從根源上解決了數(shù)據(jù)傾斜赠法，因為徹底避免了在Spark中執(zhí)行shuffle類算子，那么肯定就不會有數(shù)據(jù)傾斜的問題了乔夯。但是這里也要提醒一下大家砖织，這種方式屬于治標不治本款侵。因為畢竟數(shù)據(jù)本身就存在分布不均勻的問題，所以Hive ETL中進行group by或者join等shuffle操作時侧纯，還是會出現(xiàn)數(shù)據(jù)傾斜新锈，導致Hive ETL的速度很慢。我們只是把數(shù)據(jù)傾斜的發(fā)生提前到了Hive ETL中茂蚓，避免Spark程序發(fā)生數(shù)據(jù)傾斜而已壕鹉。

方案優(yōu)點：實現(xiàn)起來簡單便捷剃幌，效果還非常好聋涨，完全規(guī)避掉了數(shù)據(jù)傾斜，Spark作業(yè)的性能會大幅度提升负乡。

方案缺點：治標不治本牍白，Hive ETL中還是會發(fā)生數(shù)據(jù)傾斜。

方案實踐經(jīng)驗：在一些Java系統(tǒng)與Spark結合使用的項目中抖棘，會出現(xiàn)Java代碼頻繁調(diào)用Spark作業(yè)的場景茂腥，而且對Spark作業(yè)的執(zhí)行性能要求很高，就比較適合使用這種方案切省。將數(shù)據(jù)傾斜提前到上游的Hive ETL最岗，每天僅執(zhí)行一次，只有那一次是比較慢的朝捆，而之后每次Java調(diào)用Spark作業(yè)時般渡，執(zhí)行速度都會很快，能夠提供更好的用戶體驗芙盘。

項目實踐經(jīng)驗：在美團·點評的交互式用戶行為分析系統(tǒng)中使用了這種方案驯用，該系統(tǒng)主要是允許用戶通過Java Web系統(tǒng)提交數(shù)據(jù)分析統(tǒng)計任務，后端通過Java提交Spark作業(yè)進行數(shù)據(jù)分析統(tǒng)計儒老。要求Spark作業(yè)速度必須要快蝴乔，盡量在10分鐘以內(nèi)，否則速度太慢驮樊，用戶體驗會很差薇正。所以我們將有些Spark作業(yè)的shuffle操作提前到了Hive ETL中，從而讓Spark直接使用預處理的Hive中間表囚衔，盡可能地減少Spark的shuffle操作挖腰，大幅度提升了性能，將部分作業(yè)的性能提升了6倍以上佳魔。

解決方案二：過濾少數(shù)導致傾斜的key

方案適用場景：如果發(fā)現(xiàn)導致傾斜的key就少數(shù)幾個曙聂，而且對計算本身的影響并不大的話，那么很適合使用這種方案鞠鲜。比如99%的key就對應10條數(shù)據(jù)宁脊，但是只有一個key對應了100萬數(shù)據(jù)断国，從而導致了數(shù)據(jù)傾斜。

方案實現(xiàn)思路：如果我們判斷那少數(shù)幾個數(shù)據(jù)量特別多的key榆苞，對作業(yè)的執(zhí)行和計算結果不是特別重要的話稳衬，那么干脆就直接過濾掉那少數(shù)幾個key。比如坐漏，在Spark SQL中可以使用where子句過濾掉這些key或者在Spark Core中對RDD執(zhí)行filter算子過濾掉這些key薄疚。如果需要每次作業(yè)執(zhí)行時，動態(tài)判定哪些key的數(shù)據(jù)量最多然后再進行過濾赊琳，那么可以使用sample算子對RDD進行采樣街夭，然后計算出每個key的數(shù)量，取數(shù)據(jù)量最多的key過濾掉即可躏筏。

方案實現(xiàn)原理：將導致數(shù)據(jù)傾斜的key給過濾掉之后板丽，這些key就不會參與計算了，自然不可能產(chǎn)生數(shù)據(jù)傾斜趁尼。

方案優(yōu)點：實現(xiàn)簡單埃碱，而且效果也很好，可以完全規(guī)避掉數(shù)據(jù)傾斜酥泞。

方案缺點：適用場景不多砚殿，大多數(shù)情況下，導致傾斜的key還是很多的芝囤，并不是只有少數(shù)幾個似炎。

方案實踐經(jīng)驗：在項目中我們也采用過這種方案解決數(shù)據(jù)傾斜。有一次發(fā)現(xiàn)某一天Spark作業(yè)在運行的時候突然OOM了凡人，追查之后發(fā)現(xiàn)名党，是Hive表中的某一個key在那天數(shù)據(jù)異常，導致數(shù)據(jù)量暴增挠轴。因此就采取每次執(zhí)行前先進行采樣传睹，計算出樣本中數(shù)據(jù)量最大的幾個key之后，直接在程序中將那些key給過濾掉岸晦。

解決方案三：提高shuffle操作的并行度

方案適用場景：如果我們必須要對數(shù)據(jù)傾斜迎難而上欧啤，那么建議優(yōu)先使用這種方案，因為這是處理數(shù)據(jù)傾斜最簡單的一種方案启上。

方案實現(xiàn)思路：在對RDD執(zhí)行shuffle算子時邢隧，給shuffle算子傳入一個參數(shù)，比如reduceByKey(1000)冈在，該參數(shù)就設置了這個shuffle算子執(zhí)行時shuffle read task的數(shù)量倒慧。對于Spark SQL中的shuffle類語句，比如group by、join等纫谅，需要設置一個參數(shù)炫贤，即spark.sql.shuffle.partitions，該參數(shù)代表了shuffle read task的并行度付秕，該值默認是200兰珍，對于很多場景來說都有點過小。

方案實現(xiàn)原理：增加shuffle read task的數(shù)量询吴，可以讓原本分配給一個task的多個key分配給多個task掠河，從而讓每個task處理比原來更少的數(shù)據(jù)。舉例來說猛计，如果原本有5個key唠摹，每個key對應10條數(shù)據(jù)，這5個key都是分配給一個task的有滑，那么這個task就要處理50條數(shù)據(jù)跃闹。而增加了shuffle read task以后，每個task就分配到一個key毛好，即每個task就處理10條數(shù)據(jù)，那么自然每個task的執(zhí)行時間都會變短了苛秕。具體原理如下圖所示肌访。

方案優(yōu)點：實現(xiàn)起來比較簡單，可以有效緩解和減輕數(shù)據(jù)傾斜的影響艇劫。

方案缺點：只是緩解了數(shù)據(jù)傾斜而已吼驶，沒有徹底根除問題，根據(jù)實踐經(jīng)驗來看店煞，其效果有限蟹演。

方案實踐經(jīng)驗：該方案通常無法徹底解決數(shù)據(jù)傾斜，因為如果出現(xiàn)一些極端情況顷蟀，比如某個key對應的數(shù)據(jù)量有100萬酒请，那么無論你的task數(shù)量增加到多少，這個對應著100萬數(shù)據(jù)的key肯定還是會分配到一個task中去處理鸣个，因此注定還是會發(fā)生數(shù)據(jù)傾斜的羞反。所以這種方案只能說是在發(fā)現(xiàn)數(shù)據(jù)傾斜時嘗試使用的第一種手段，嘗試去用嘴簡單的方法緩解數(shù)據(jù)傾斜而已囤萤，或者是和其他方案結合起來使用昼窗。

image

解決方案四：兩階段聚合（局部聚合+全局聚合）

方案適用場景：對RDD執(zhí)行reduceByKey等聚合類shuffle算子或者在Spark SQL中使用group by語句進行分組聚合時，比較適用這種方案涛舍。

方案實現(xiàn)思路：這個方案的核心實現(xiàn)思路就是進行兩階段聚合澄惊。第一次是局部聚合，先給每個key都打上一個隨機數(shù)，比如10以內(nèi)的隨機數(shù)掸驱，此時原先一樣的key就變成不一樣的了窘哈，比如(hello, 1) (hello, 1) (hello, 1) (hello, 1)，就會變成(1_hello, 1) (1_hello, 1) (2_hello, 1) (2_hello, 1)亭敢。接著對打上隨機數(shù)后的數(shù)據(jù)滚婉，執(zhí)行reduceByKey等聚合操作，進行局部聚合帅刀，那么局部聚合結果让腹，就會變成了(1_hello, 2) (2_hello, 2)。然后將各個key的前綴給去掉扣溺，就會變成(hello,2)(hello,2)骇窍，再次進行全局聚合操作，就可以得到最終結果了锥余，比如(hello, 4)腹纳。

方案實現(xiàn)原理：將原本相同的key通過附加隨機前綴的方式，變成多個不同的key驱犹，就可以讓原本被一個task處理的數(shù)據(jù)分散到多個task上去做局部聚合嘲恍，進而解決單個task處理數(shù)據(jù)量過多的問題。接著去除掉隨機前綴雄驹，再次進行全局聚合刁品，就可以得到最終的結果雳攘。具體原理見下圖。

方案優(yōu)點：對于聚合類的shuffle操作導致的數(shù)據(jù)傾斜，效果是非常不錯的柒桑。通常都可以解決掉數(shù)據(jù)傾斜摩疑，或者至少是大幅度緩解數(shù)據(jù)傾斜匕累，將Spark作業(yè)的性能提升數(shù)倍以上渡八。

方案缺點：僅僅適用于聚合類的shuffle操作，適用范圍相對較窄霞怀。如果是join類的shuffle操作惫东，還得用其他的解決方案。

image

// 第一步里烦，給RDD中的每個key都打上一個隨機前綴凿蒜。
JavaPairRDD<String, Long> randomPrefixRdd = rdd.mapToPair(
new PairFunction<Tuple2<Long,Long>, String, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<String, Long> call(Tuple2<Long, Long> tuple)
throws Exception {
  Random random = new Random();
  int prefix = random.nextInt(10);
  return new Tuple2<String, Long>(prefix + "_" + tuple._1, tuple._2);
}
});
// 第二步，對打上隨機前綴的key進行局部聚合胁黑。
JavaPairRDD<String, Long> localAggrRdd = randomPrefixRdd.reduceByKey(
new Function2<Long, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Long call(Long v1, Long v2) throws Exception {
  return v1 + v2;
}
});
// 第三步废封，去除RDD中每個key的隨機前綴。
JavaPairRDD<Long, Long> removedRandomPrefixRdd = localAggrRdd.mapToPair(
new PairFunction<Tuple2<String,Long>, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<Long, Long> call(Tuple2<String, Long> tuple)
throws Exception {
  long originalKey = Long.valueOf(tuple._1.split("_")[1]);
  return new Tuple2<Long, Long>(originalKey, tuple._2);
}
});
// 第四步丧蘸，對去除了隨機前綴的RDD進行全局聚合漂洋。
JavaPairRDD<Long, Long> globalAggrRdd = removedRandomPrefixRdd.reduceByKey(
new Function2<Long, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Long call(Long v1, Long v2) throws Exception {
  return v1 + v2;
}
});

解決方案五：將reduce join轉(zhuǎn)為map join

方案適用場景：在對RDD使用join類操作遥皂，或者是在Spark SQL中使用join語句時，而且join操作中的一個RDD或表的數(shù)據(jù)量比較泄羝（比如幾百M或者一兩G）演训，比較適用此方案。

方案實現(xiàn)思路：不使用join算子進行連接操作贝咙，而使用Broadcast變量與map類算子實現(xiàn)join操作样悟，進而完全規(guī)避掉shuffle類的操作，徹底避免數(shù)據(jù)傾斜的發(fā)生和出現(xiàn)庭猩。將較小RDD中的數(shù)據(jù)直接通過collect算子拉取到Driver端的內(nèi)存中來窟她，然后對其創(chuàng)建一個Broadcast變量；接著對另外一個RDD執(zhí)行map類算子蔼水，在算子函數(shù)內(nèi)震糖，從Broadcast變量中獲取較小RDD的全量數(shù)據(jù)，與當前RDD的每一條數(shù)據(jù)按照連接key進行比對趴腋，如果連接key相同的話吊说，那么就將兩個RDD的數(shù)據(jù)用你需要的方式連接起來。

方案實現(xiàn)原理：普通的join是會走shuffle過程的优炬，而一旦shuffle颁井，就相當于會將相同key的數(shù)據(jù)拉取到一個shuffle read task中再進行join，此時就是reduce join穿剖。但是如果一個RDD是比較小的蚤蔓，則可以采用廣播小RDD全量數(shù)據(jù)+map算子來實現(xiàn)與join同樣的效果，也就是map join糊余，此時就不會發(fā)生shuffle操作，也就不會發(fā)生數(shù)據(jù)傾斜单寂。具體原理如下圖所示贬芥。

方案優(yōu)點：對join操作導致的數(shù)據(jù)傾斜，效果非常好宣决，因為根本就不會發(fā)生shuffle蘸劈，也就根本不會發(fā)生數(shù)據(jù)傾斜。

方案缺點：適用場景較少尊沸，因為這個方案只適用于一個大表和一個小表的情況威沫。畢竟我們需要將小表進行廣播，此時會比較消耗內(nèi)存資源洼专，driver和每個Executor內(nèi)存中都會駐留一份小RDD的全量數(shù)據(jù)棒掠。如果我們廣播出去的RDD數(shù)據(jù)比較大，比如10G以上屁商，那么就可能發(fā)生內(nèi)存溢出了烟很。因此并不適合兩個都是大表的情況。

image

// 首先將數(shù)據(jù)量比較小的RDD的數(shù)據(jù)，collect到Driver中來雾袱。
List<Tuple2<Long, Row>> rdd1Data = rdd1.collect()
// 然后使用Spark的廣播功能恤筛，將小RDD的數(shù)據(jù)轉(zhuǎn)換成廣播變量，這樣每個Executor就只有一份RDD的數(shù)據(jù)芹橡。
// 可以盡可能節(jié)省內(nèi)存空間毒坛，并且減少網(wǎng)絡傳輸性能開銷。
final Broadcast<List<Tuple2<Long, Row>>> rdd1DataBroadcast = sc.broadcast(rdd1Data);
// 對另外一個RDD執(zhí)行map類操作林说，而不再是join類操作煎殷。
JavaPairRDD<String, Tuple2<String, Row>> joinedRdd = rdd2.mapToPair(
new PairFunction<Tuple2<Long,String>, String, Tuple2<String, Row>>() {
  private static final long serialVersionUID = 1L;
  @Override
   public Tuple2<String, Tuple2<String, Row>> call(Tuple2<Long, String> tuple)
  throws Exception {
  // 在算子函數(shù)中，通過廣播變量述么，獲取到本地Executor中的rdd1數(shù)據(jù)蝌数。
  List<Tuple2<Long, Row>> rdd1Data = rdd1DataBroadcast.value();
  // 可以將rdd1的數(shù)據(jù)轉(zhuǎn)換為一個Map，便于后面進行join操作度秘。
  Map<Long, Row> rdd1DataMap = new HashMap<Long, Row>();
  for(Tuple2<Long, Row> data : rdd1Data) {
  rdd1DataMap.put(data._1, data._2);
}
// 獲取當前RDD數(shù)據(jù)的key以及value顶伞。
String key = tuple._1;
String value = tuple._2;
// 從rdd1數(shù)據(jù)Map中，根據(jù)key獲取到可以join到的數(shù)據(jù)剑梳。
Row rdd1Value = rdd1DataMap.get(key);
return new Tuple2<String, String>(key, new Tuple2<String, Row>(value, rdd1Value));
}
});
// 這里得提示一下唆貌。
// 上面的做法，僅僅適用于rdd1中的key沒有重復垢乙，全部是唯一的場景锨咙。
// 如果rdd1中有多個相同的key，那么就得用flatMap類的操作追逮，在進行join的時候不能用map酪刀，而是得遍歷rdd1所有數(shù)據(jù)進行join。
// rdd2中每條數(shù)據(jù)都可能會返回多條join后的數(shù)據(jù)钮孵。

解決方案六：采樣傾斜key并分拆join操作

方案適用場景：兩個RDD/Hive表進行join的時候骂倘，如果數(shù)據(jù)量都比較大，無法采用“解決方案五”巴席，那么此時可以看一下兩個RDD/Hive表中的key分布情況历涝。如果出現(xiàn)數(shù)據(jù)傾斜，是因為其中某一個RDD/Hive表中的少數(shù)幾個key的數(shù)據(jù)量過大漾唉，而另一個RDD/Hive表中的所有key都分布比較均勻荧库，那么采用這個解決方案是比較合適的。

方案實現(xiàn)思路：

1赵刑、對包含少數(shù)幾個數(shù)據(jù)量過大的key的那個RDD分衫，通過sample算子采樣出一份樣本來，然后統(tǒng)計一下每個key的數(shù)量料睛，計算出來數(shù)據(jù)量最大的是哪幾個key丐箩。
2摇邦、然后將這幾個key對應的數(shù)據(jù)從原來的RDD中拆分出來，形成一個單獨的RDD屎勘，并給每個key都打上n以內(nèi)的隨機數(shù)作為前綴施籍，而不會導致傾斜的大部分key形成另外一個RDD。
3概漱、接著將需要join的另一個RDD丑慎，也過濾出來那幾個傾斜key對應的數(shù)據(jù)并形成一個單獨的RDD，將每條數(shù)據(jù)膨脹成n條數(shù)據(jù)瓤摧，這n條數(shù)據(jù)都按順序附加一個0~n的前綴竿裂，不會導致傾斜的大部分key也形成另外一個RDD。
4照弥、再將附加了隨機前綴的獨立RDD與另一個膨脹n倍的獨立RDD進行join腻异，此時就可以將原先相同的key打散成n份，分散到多個task中去進行join了这揣。
5悔常、而另外兩個普通的RDD就照常join即可。
6给赞、最后將兩次join的結果使用union算子合并起來即可机打，就是最終的join結果。

方案實現(xiàn)原理：對于join導致的數(shù)據(jù)傾斜片迅，如果只是某幾個key導致了傾斜残邀，可以將少數(shù)幾個key分拆成獨立RDD，并附加隨機前綴打散成n份去進行join柑蛇，此時這幾個key對應的數(shù)據(jù)就不會集中在少數(shù)幾個task上芥挣，而是分散到多個task進行join了。具體原理見下圖耻台。

方案優(yōu)點：對于join導致的數(shù)據(jù)傾斜九秀，如果只是某幾個key導致了傾斜，采用該方式可以用最有效的方式打散key進行join粘我。而且只需要針對少數(shù)傾斜key對應的數(shù)據(jù)進行擴容n倍，不需要對全量數(shù)據(jù)進行擴容痹换。避免了占用過多內(nèi)存征字。

方案缺點：如果導致傾斜的key特別多的話，比如成千上萬個key都導致數(shù)據(jù)傾斜娇豫，那么這種方式也不適合匙姜。

image

// 首先從包含了少數(shù)幾個導致數(shù)據(jù)傾斜key的rdd1中，采樣10%的樣本數(shù)據(jù)冯痢。
JavaPairRDD<Long, String> sampledRDD = rdd1.sample(false, 0.1);
// 對樣本數(shù)據(jù)RDD統(tǒng)計出每個key的出現(xiàn)次數(shù)氮昧，并按出現(xiàn)次數(shù)降序排序框杜。
// 對降序排序后的數(shù)據(jù)，取出top 1或者top 100的數(shù)據(jù)袖肥，也就是key最多的前n個數(shù)據(jù)咪辱。
// 具體取出多少個數(shù)據(jù)量最多的key，由大家自己決定椎组，我們這里就取1個作為示范油狂。
JavaPairRDD<Long, Long> mappedSampledRDD = sampledRDD.mapToPair(
new PairFunction<Tuple2<Long,String>, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<Long, Long> call(Tuple2<Long, String> tuple)
throws Exception {
return new Tuple2<Long, Long>(tuple._1, 1L);
}    
});
JavaPairRDD<Long, Long> countedSampledRDD = mappedSampledRDD.reduceByKey(
new Function2<Long, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Long call(Long v1, Long v2) throws Exception {
return v1 + v2;
}
});
JavaPairRDD<Long, Long> reversedSampledRDD = countedSampledRDD.mapToPair(
new PairFunction<Tuple2<Long,Long>, Long, Long>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<Long, Long> call(Tuple2<Long, Long> tuple)
throws Exception {
return new Tuple2<Long, Long>(tuple._2, tuple._1);
}
});
final Long skewedUserid = reversedSampledRDD.sortByKey(false).take(1).get(0)._2;
// 從rdd1中分拆出導致數(shù)據(jù)傾斜的key，形成獨立的RDD寸癌。
JavaPairRDD<Long, String> skewedRDD = rdd1.filter(
new Function<Tuple2<Long,String>, Boolean>() {
private static final long serialVersionUID = 1L;
@Override
public Boolean call(Tuple2<Long, String> tuple) throws Exception {
return tuple._1.equals(skewedUserid);
}
});
// 從rdd1中分拆出不導致數(shù)據(jù)傾斜的普通key专筷，形成獨立的RDD。
JavaPairRDD<Long, String> commonRDD = rdd1.filter(
new Function<Tuple2<Long,String>, Boolean>() {
private static final long serialVersionUID = 1L;
@Override
public Boolean call(Tuple2<Long, String> tuple) throws Exception {
return !tuple._1.equals(skewedUserid);
}
});
// rdd2蒸苇，就是那個所有key的分布相對較為均勻的rdd磷蛹。
// 這里將rdd2中，前面獲取到的key對應的數(shù)據(jù)溪烤，過濾出來味咳，分拆成單獨的rdd，并對rdd中的數(shù)據(jù)使用flatMap算子都擴容100倍氛什。
// 對擴容的每條數(shù)據(jù)莺葫，都打上0～100的前綴。
JavaPairRDD<String, Row> skewedRdd2 = rdd2.filter(
new Function<Tuple2<Long,Row>, Boolean>() {
private static final long serialVersionUID = 1L;
@Override
public Boolean call(Tuple2<Long, Row> tuple) throws Exception {
return tuple._1.equals(skewedUserid);
}
}).flatMapToPair(new PairFlatMapFunction<Tuple2<Long,Row>, String, Row>() {
private static final long serialVersionUID = 1L;
@Override
public Iterable<Tuple2<String, Row>> call(
Tuple2<Long, Row> tuple) throws Exception {
Random random = new Random();
List<Tuple2<String, Row>> list = new ArrayList<Tuple2<String, Row>>();
for(int i = 0; i < 100; i++) {
list.add(new Tuple2<String, Row>(i + "_" + tuple._1, tuple._2));
}
return list;
}
});
// 將rdd1中分拆出來的導致傾斜的key的獨立rdd枪眉，每條數(shù)據(jù)都打上100以內(nèi)的隨機前綴捺檬。
// 然后將這個rdd1中分拆出來的獨立rdd，與上面rdd2中分拆出來的獨立rdd贸铜，進行join堡纬。
JavaPairRDD<Long, Tuple2<String, Row>> joinedRDD1 = skewedRDD.mapToPair(
new PairFunction<Tuple2<Long,String>, String, String>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<String, String> call(Tuple2<Long, String> tuple)
throws Exception {
Random random = new Random();
int prefix = random.nextInt(100);
return new Tuple2<String, String>(prefix + "_" + tuple._1, tuple._2);
}
})
.join(skewedUserid2infoRDD)
.mapToPair(new PairFunction<Tuple2<String,Tuple2<String,Row>>, Long, Tuple2<String, Row>>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<Long, Tuple2<String, Row>> call(
Tuple2<String, Tuple2<String, Row>> tuple)
throws Exception {
long key = Long.valueOf(tuple._1.split("_")[1]);
return new Tuple2<Long, Tuple2<String, Row>>(key, tuple._2);
}
});
// 將rdd1中分拆出來的包含普通key的獨立rdd，直接與rdd2進行join蒿秦。
JavaPairRDD<Long, Tuple2<String, Row>> joinedRDD2 = commonRDD.join(rdd2);
// 將傾斜key join后的結果與普通key join后的結果烤镐，uinon起來。
// 就是最終的join結果棍鳖。
JavaPairRDD<Long, Tuple2<String, Row>> joinedRDD = joinedRDD1.union(joinedRDD2);

解決方案七：使用隨機前綴和擴容RDD進行join

方案適用場景：如果在進行join操作時炮叶，RDD中有大量的key導致數(shù)據(jù)傾斜，那么進行分拆key也沒什么意義渡处，此時就只能使用最后一種方案來解決問題了镜悉。

方案實現(xiàn)思路：

1、該方案的實現(xiàn)思路基本和“解決方案六”類似医瘫，首先查看RDD/Hive表中的數(shù)據(jù)分布情況侣肄，找到那個造成數(shù)據(jù)傾斜的RDD/Hive表，比如有多個key都對應了超過1萬條數(shù)據(jù)醇份。
2稼锅、然后將該RDD的每條數(shù)據(jù)都打上一個n以內(nèi)的隨機前綴吼具。
3、同時對另外一個正常的RDD進行擴容矩距，將每條數(shù)據(jù)都擴容成n條數(shù)據(jù)拗盒，擴容出來的每條數(shù)據(jù)都依次打上一個0~n的前綴。
4剩晴、最后將兩個處理后的RDD進行join即可锣咒。

方案實現(xiàn)原理：將原先一樣的key通過附加隨機前綴變成不一樣的key，然后就可以將這些處理后的“不同key”分散到多個task中去處理赞弥，而不是讓一個task處理大量的相同key毅整。該方案與“解決方案六”的不同之處就在于，上一種方案是盡量只對少數(shù)傾斜key對應的數(shù)據(jù)進行特殊處理绽左，由于處理過程需要擴容RDD悼嫉，因此上一種方案擴容RDD后對內(nèi)存的占用并不大；而這一種方案是針對有大量傾斜key的情況拼窥，沒法將部分key拆分出來進行單獨處理戏蔑，因此只能對整個RDD進行數(shù)據(jù)擴容，對內(nèi)存資源要求很高鲁纠。

方案優(yōu)點：對join類型的數(shù)據(jù)傾斜基本都可以處理总棵，而且效果也相對比較顯著，性能提升效果非常不錯改含。

方案缺點：該方案更多的是緩解數(shù)據(jù)傾斜情龄，而不是徹底避免數(shù)據(jù)傾斜。而且需要對整個RDD進行擴容捍壤，對內(nèi)存資源要求很高骤视。

方案實踐經(jīng)驗：曾經(jīng)開發(fā)一個數(shù)據(jù)需求的時候，發(fā)現(xiàn)一個join導致了數(shù)據(jù)傾斜鹃觉。優(yōu)化之前专酗，作業(yè)的執(zhí)行時間大約是60分鐘左右；使用該方案優(yōu)化之后盗扇，執(zhí)行時間縮短到10分鐘左右祷肯，性能提升了6倍。

// 首先將其中一個key分布相對較為均勻的RDD膨脹100倍疗隶。
JavaPairRDD<String, Row> expandedRDD = rdd1.flatMapToPair(
new PairFlatMapFunction<Tuple2<Long,Row>, String, Row>() {
private static final long serialVersionUID = 1L;
@Override
public Iterable<Tuple2<String, Row>> call(Tuple2<Long, Row> tuple)
throws Exception {
List<Tuple2<String, Row>> list = new ArrayList<Tuple2<String, Row>>();
for(int i = 0; i < 100; i++) {
list.add(new Tuple2<String, Row>(0 + "_" + tuple._1, tuple._2));
}
return list;
}
});
// 其次躬柬，將另一個有數(shù)據(jù)傾斜key的RDD，每條數(shù)據(jù)都打上100以內(nèi)的隨機前綴抽减。
JavaPairRDD<String, String> mappedRDD = rdd2.mapToPair(
new PairFunction<Tuple2<Long,String>, String, String>() {
private static final long serialVersionUID = 1L;
@Override
public Tuple2<String, String> call(Tuple2<Long, String> tuple)
throws Exception {
Random random = new Random();
int prefix = random.nextInt(100);
return new Tuple2<String, String>(prefix + "_" + tuple._1, tuple._2);
}
});
// 將兩個處理后的RDD進行join即可。
JavaPairRDD<String, Tuple2<String, Row>> joinedRDD = mappedRDD.join(expandedRDD);

解決方案八：多種方案組合使用

在實踐中發(fā)現(xiàn)橄碾，很多情況下卵沉，如果只是處理較為簡單的數(shù)據(jù)傾斜場景颠锉，那么使用上述方案中的某一種基本就可以解決。但是如果要處理一個較為復雜的數(shù)據(jù)傾斜場景史汗，那么可能需要將多種方案組合起來使用琼掠。比如說，我們針對出現(xiàn)了多個數(shù)據(jù)傾斜環(huán)節(jié)的Spark作業(yè)停撞，可以先運用解決方案一和二瓷蛙，預處理一部分數(shù)據(jù)，并過濾一部分數(shù)據(jù)來緩解戈毒；其次可以對某些shuffle操作提升并行度艰猬，優(yōu)化其性能；最后還可以針對不同的聚合或join操作埋市，選擇一種方案來優(yōu)化其性能冠桃。大家需要對這些方案的思路和原理都透徹理解之后，在實踐中根據(jù)各種不同的情況道宅，靈活運用多種方案食听，來解決自己的數(shù)據(jù)傾斜問題。