• 數(shù)據(jù)傾斜分為兩大類：聚合傾斜和join傾斜油湖，針對不同的傾斜類型采用不同解決方案
• 數(shù)據(jù)傾斜解決方案上分為：緩解數(shù)據(jù)傾斜和徹底解決數(shù)據(jù)傾斜

1.數(shù)據(jù)傾斜表現(xiàn)形勢

導致數(shù)據(jù)傾斜的算子：distinct、groupByKey痢站、reduceByKey允蜈、aggregateByKey冤吨、join、cogroup饶套、repartition等漩蟆。

• 某個task執(zhí)行特別慢的情況
  • 首先要看的，就是數(shù)據(jù)傾斜發(fā)生在第幾個stage中妓蛮。
  • 可以通過Spark Web UI來查看當前運行到了第幾個stage,看一下當前這個stage各個task分配的數(shù)據(jù)量怠李，從而進一步確定是不是task分配的數(shù)據(jù)不均勻?qū)е铝藬?shù)據(jù)傾斜。

• 某個task莫名其妙內(nèi)存溢出的情況
  • 這種情況下去定位出問題的代碼就比較容易了。我們建議直接看yarn-client模式下本地log的異常棧捺癞，或者是通過YARN查看yarn-cluster模式下的log中的異常棧夷蚊。一般來說，通過異常棧信息就可以定位到你的代碼中哪一行發(fā)生了內(nèi)存溢出翘簇。然后在那行代碼附近找找撬码，一般也會有shuffle類算子，此時很可能就是這個算子導致了數(shù)據(jù)傾斜版保。
• 某個階段task報Shuffle File can't Fetched or can't found
  • 這種情況下呜笑，百分之八九十的遇到了單key或者是少數(shù)幾個key導致的數(shù)據(jù)傾斜
• 解決方案：查看導致數(shù)據(jù)傾斜的key的數(shù)據(jù)分布情況
  • 知道了數(shù)據(jù)傾斜發(fā)生在哪里之后，通常需要分析一下那個執(zhí)行了shuffle操作并且導致了數(shù)據(jù)傾斜的RDD/Hive表彻犁，查看一下其中key的分布情況叫胁。這主要是為之后選擇哪一種技術(shù)方案提供依據(jù)。針對不同的key分布與不同的shuffle算子組合起來的各種情況汞幢，可能需要選擇不同的技術(shù)方案來解決驼鹅。
  • 此時根據(jù)你執(zhí)行操作的情況不同，可以有很多種查看key分布的方式：
    如果是Spark SQL中的group by森篷、join語句導致的數(shù)據(jù)傾斜输钩，那么就查詢一下SQL中使用的表的key分布情況。
  • 如果是對Spark RDD執(zhí)行shuffle算子導致的數(shù)據(jù)傾斜仲智，那么可以在Spark作業(yè)中加入查看key分布的代碼买乃，比如RDD.countByKey()。然后對統(tǒng)計出來的各個key出現(xiàn)的次數(shù)钓辆，collect/take到客戶端打印一下剪验，就可以看到key的分布情況。

2緩解數(shù)據(jù)傾斜方式

2.1 盡量避免數(shù)據(jù)源的數(shù)據(jù)傾斜

01-kafka數(shù)據(jù)源

• 以Spark Stream通過DirectStream方式讀取Kafka數(shù)據(jù)為例前联。由于Kafka的每一個Partition對應(yīng)Spark的一個Task（Partition）功戚，所以Kafka內(nèi)相關(guān)Topic的各Partition之間數(shù)據(jù)是否平衡，直接決定Spark處理該數(shù)據(jù)時是否會產(chǎn)生數(shù)據(jù)傾斜似嗤。
• Kafka某一Topic內(nèi)消息在不同Partition之間的分布啸臀，主要由Producer端所使用的Partition實現(xiàn)類決定。如果使用隨機Partitioner烁落，則每條消息會隨機發(fā)送到一個Partition中壳咕，從而從概率上來講，各Partition間的數(shù)據(jù)會達到平衡顽馋。此時源Stage（直接讀取Kafka數(shù)據(jù)的Stage）不會產(chǎn)生數(shù)據(jù)傾斜谓厘。
• 但很多時候，業(yè)務(wù)場景可能會要求將具備同一特征的數(shù)據(jù)順序消費寸谜，此時就需要將具有相同特征的數(shù)據(jù)放于同一個Partition中竟稳。一個典型的場景是，需要將同一個用戶相關(guān)的PV信息置于同一個Partition中。此時他爸，如果產(chǎn)生了數(shù)據(jù)傾斜聂宾，則需要通過其它方式處理。

02-hive數(shù)據(jù)源

• 導致數(shù)據(jù)傾斜的是Hive表诊笤。如果該Hive表中的數(shù)據(jù)本身很不均勻（比如某個key對應(yīng)了100萬數(shù)據(jù)系谐，其他key才對應(yīng)了10條數(shù)據(jù)），而且業(yè)務(wù)場景需要頻繁使用Spark對Hive表執(zhí)行某個分析操作讨跟，那么比較適合使用這種技術(shù)方案纪他。

• 方案實現(xiàn)思路：此時可以評估一下，是否可以通過Hive來進行數(shù)據(jù)預(yù)處理（即通過Hive ETL預(yù)先對數(shù)據(jù)按照key進行聚合晾匠，或者是預(yù)先和其他表進行join）茶袒，然后在Spark作業(yè)中針對的數(shù)據(jù)源就不是原來的Hive表了，而是預(yù)處理后的Hive表凉馆。此時由于數(shù)據(jù)已經(jīng)預(yù)先進行過聚合或join操作了薪寓，那么在Spark作業(yè)中也就不需要使用原先的shuffle類算子執(zhí)行這類操作了。
• 方案實現(xiàn)原理：這種方案從根源上解決了數(shù)據(jù)傾斜澜共，因為徹底避免了在Spark中執(zhí)行shuffle類算子向叉，那么肯定就不會有數(shù)據(jù)傾斜的問題了。但是這里也要提醒一下大家嗦董，這種方式屬于治標不治本母谎。因為畢竟數(shù)據(jù)本身就存在分布不均勻的問題，所以Hive ETL中進行g(shù)roup by或者join等shuffle操作時展懈，還是會出現(xiàn)數(shù)據(jù)傾斜，導致Hive ETL的速度很慢供璧。我們只是把數(shù)據(jù)傾斜的發(fā)生提前到了Hive ETL中存崖，避免Spark程序發(fā)生數(shù)據(jù)傾斜而已。
• 方案優(yōu)點：實現(xiàn)起來簡單便捷睡毒，效果還非常好来惧，完全規(guī)避掉了數(shù)據(jù)傾斜，Spark作業(yè)的性能會大幅度提升演顾。
• 方案缺點：治標不治本供搀，Hive ETL中還是會發(fā)生數(shù)據(jù)傾斜。

2.2 調(diào)整并行度分散同一個Task的不同Key

• 方案實現(xiàn)思路：在對RDD執(zhí)行shuffle算子時钠至，給shuffle算子傳入一個參數(shù)葛虐，比如reduceByKey(1000)，該參數(shù)就設(shè)置了這個shuffle算子執(zhí)行時shuffle read task的數(shù)量棉钧。對于Spark SQL中的shuffle類語句屿脐，比如group by、join等，需要設(shè)置一個參數(shù)的诵，即spark.sql.shuffle.partitions万栅，該參數(shù)代表了shuffle read task的并行度，該值默認是200西疤，對于很多場景來說都有點過小烦粒。
• 方案實現(xiàn)原理：增加shuffle read task的數(shù)量，可以讓原本分配給一個task的多個key分配給多個task代赁，從而讓每個task處理比原來更少的數(shù)據(jù)扰她。舉例來說，如果原本有5個key管跺，每個key對應(yīng)10條數(shù)據(jù)义黎，這5個key都是分配給一個task的，那么這個task就要處理50條數(shù)據(jù)豁跑。而增加了shuffle read task以后廉涕，每個task就分配到一個key，即每個task就處理10條數(shù)據(jù)艇拍，那么自然每個task的執(zhí)行時間都會變短了狐蜕。具體原理如下圖所示。
• 方案優(yōu)點：實現(xiàn)起來比較簡單卸夕，可以有效緩解和減輕數(shù)據(jù)傾斜的影響层释。
• 方案缺點：只是緩解了數(shù)據(jù)傾斜而已，沒有徹底根除問題快集，根據(jù)實踐經(jīng)驗來看贡羔，其效果有限。
• 方案實踐經(jīng)驗：該方案通常無法徹底解決數(shù)據(jù)傾斜个初，因為如果出現(xiàn)一些極端情況乖寒，比如某個key對應(yīng)的數(shù)據(jù)量有100萬，那么無論你的task數(shù)量增加到多少院溺，這個對應(yīng)著100萬數(shù)據(jù)的key肯定還是會分配到一個task中去處理楣嘁，因此注定還是會發(fā)生數(shù)據(jù)傾斜的。所以這種方案只能說是在發(fā)現(xiàn)數(shù)據(jù)傾斜時嘗試使用的第一種手段珍逸，嘗試去用最簡單的方法緩解數(shù)據(jù)傾斜而已逐虚，或者是和其他方案結(jié)合起來使用。
• 原理：

  • Spark在做Shuffle時谆膳，默認使用HashPartitioner（非Hash Shuffle）對數(shù)據(jù)進行分區(qū)叭爱。如果并行度設(shè)置的不合適，可能造成大量不相同的Key對應(yīng)的數(shù)據(jù)被分配到了同一個Task上漱病，造成該Task所處理的數(shù)據(jù)遠大于其它Task涤伐，從而造成數(shù)據(jù)傾斜馒胆。
    如果調(diào)整Shuffle時的并行度，使得原本被分配到同一Task的不同Key發(fā)配到不同Task上處理凝果，則可降低原Task所需處理的數(shù)據(jù)量祝迂，從而緩解數(shù)據(jù)傾斜問題造成的短板效應(yīng)。

    
    
    增大算子的并行度緩解數(shù)據(jù)傾斜.png

2.3 自定義partitioner

• 原理
  • 使用自定義的Partitioner（默認為HashPartitioner）器净，將原本被分配到同一個Task的不同Key分配到不同Task型雳。
• 適用場景
  • 大量不同的Key被分配到了相同的Task造成該Task數(shù)據(jù)量過大。
• 解決方案
  • 使用自定義的Partitioner實現(xiàn)類代替默認的HashPartitioner山害，盡量將所有不同的Key均勻分配到不同的Task中纠俭。
• 優(yōu)勢
  • 不影響原有的并行度設(shè)計。如果改變并行度浪慌，后續(xù)Stage的并行度也會默認改變冤荆，可能會影響后續(xù)Stage。
• 劣勢
  • 適用場景有限权纤，只能將不同Key分散開钓简，對于同一Key對應(yīng)數(shù)據(jù)集非常大的場景不適用。效果與調(diào)整并行度類似汹想，只能緩解數(shù)據(jù)傾斜而不能完全消除數(shù)據(jù)傾斜外邓。而且需要根據(jù)數(shù)據(jù)特點自定義專用的Partitioner，不夠靈活古掏。

3徹底解決數(shù)據(jù)傾斜的方式

3.1 聚合類傾斜

3.1.1 兩階段聚合（局部聚合+全局聚合）

• 方案適用場景：對RDD執(zhí)行reduceByKey等聚合類shuffle算子或者在Spark SQL中使用group by語句進行分組聚合時损话，比較適用這種方案。

• 方案實現(xiàn)思路：這個方案的核心實現(xiàn)思路就是進行兩階段聚合槽唾。第一次是局部聚合丧枪，先給每個key都打上一個隨機數(shù)，比如10以內(nèi)的隨機數(shù)庞萍，此時原先一樣的key就變成不一樣的了拧烦，比如(hello, 1) (hello, 1) (hello, 1) (hello, 1)，就會變成(1_hello, 1) (1_hello, 1) (2_hello, 1) (2_hello, 1)挂绰。接著對打上隨機數(shù)后的數(shù)據(jù)屎篱，執(zhí)行reduceByKey等聚合操作服赎，進行局部聚合葵蒂，那么局部聚合結(jié)果，就會變成了(1_hello, 2) (2_hello, 2)重虑。然后將各個key的前綴給去掉践付，就會變成(hello,2)(hello,2)，再次進行全局聚合操作缺厉，就可以得到最終結(jié)果了永高，比如(hello, 4)隧土。

• 方案實現(xiàn)原理：將原本相同的key通過附加隨機前綴的方式，變成多個不同的key命爬，就可以讓原本被一個task處理的數(shù)據(jù)分散到多個task上去做局部聚合曹傀，進而解決單個task處理數(shù)據(jù)量過多的問題。接著去除掉隨機前綴饲宛，再次進行全局聚合皆愉，就可以得到最終的結(jié)果。具體原理見下圖艇抠。

  
  
  兩階段聚合.jpg

• 方案優(yōu)點：對于聚合類的shuffle操作導致的數(shù)據(jù)傾斜幕庐，效果是非常不錯的。通常都可以解決掉數(shù)據(jù)傾斜家淤，或者至少是大幅度緩解數(shù)據(jù)傾斜异剥，將Spark作業(yè)的性能提升數(shù)倍以上。

• 方案缺點：僅僅適用于聚合類的shuffle操作絮重，適用范圍相對較窄冤寿。如果是join類的shuffle操作，還得用其他的解決方案绿鸣。

• 參考執(zhí)行代碼（java）

// 第一步疚沐，給RDD中的每個key都打上一個隨機前綴。
JavaPairRDD<String, Long> randomPrefixRdd = rdd.mapToPair(
  new PairFunction<Tuple2<Long,Long>, String, Long>() {
    private static final long serialVersionUID = 1L;
    @Override
    public Tuple2<String, Long> call(Tuple2<Long, Long> tuple)
    throws Exception {
      Random random = new Random();
      int prefix = random.nextInt(10);
      return new Tuple2<String, Long>(prefix + "_" + tuple._1, tuple._2);
    }
  });
// 第二步潮模，對打上隨機前綴的key進行局部聚合亮蛔。
JavaPairRDD<String, Long> localAggrRdd = randomPrefixRdd.reduceByKey(
  new Function2<Long, Long, Long>() {
    private static final long serialVersionUID = 1L;
    @Override
    public Long call(Long v1, Long v2) throws Exception {
      return v1 + v2;
    }
  });
// 第三步，去除RDD中每個key的隨機前綴擎厢。
JavaPairRDD<Long, Long> removedRandomPrefixRdd = localAggrRdd.mapToPair(
  new PairFunction<Tuple2<String,Long>, Long, Long>() {
    private static final long serialVersionUID = 1L;
    @Override
    public Tuple2<Long, Long> call(Tuple2<String, Long> tuple)
    throws Exception {
      long originalKey = Long.valueOf(tuple._1.split("_")[1]);
      return new Tuple2<Long, Long>(originalKey, tuple._2);
    }
  });
// 第四步究流，對去除了隨機前綴的RDD進行全局聚合。
JavaPairRDD<Long, Long> globalAggrRdd = removedRandomPrefixRdd.reduceByKey(
  new Function2<Long, Long, Long>() {
    private static final long serialVersionUID = 1L;
    @Override
    public Long call(Long v1, Long v2) throws Exception {
      return v1 + v2;
    }
  });

3.1.2 對distinct算子優(yōu)化

• 方案使用場景：針對超大數(shù)據(jù)量或者某個key傾斜時动遭，需要對數(shù)據(jù)進行去重時distinct芬探，會造成數(shù)據(jù)數(shù)據(jù)傾斜。
• 原因：此類情景會造成聚合類傾斜厘惦，因為distinct的底層調(diào)用的是reduceByKey()算子偷仿。
• 業(yè)務(wù)使用場景：在Teddy DMP平臺中，因為針對未采集到imei號的數(shù)據(jù)宵蕉，sdk會指定生成一個酝静，所以會造成某幾個key數(shù)據(jù)傾斜。在針對key進行distinct時候羡玛，會造成某幾個executors執(zhí)行時間過長别智。
• 解決方案，不對數(shù)據(jù)直接進行distinct稼稿，而是采用先分組再進行select操作薄榛。

原始代碼：
val resultDF: DataFrame = tempDF
        .selectExpr(
          "imei",
          "mark(con(sms_consign)) as flag")
        .filter("flag!=0").distinct()
修改后:
val resultDF: DataFrame = tempDF
        .selectExpr(
          "imei",
          "mark(con(sms_consign)) as flag")
        .filter("flag!=0")
    resultDF.createOrReplaceTempView("temp")
    val sql = "select imei,flag from temp group by imei,flag"
    spark.sql(sql)
        .write.parquet("/user/liyahui_su/keyword_imei_half_year")

3.2 過濾少數(shù)導致傾斜的key

• 方案適用場景：如果發(fā)現(xiàn)導致傾斜的key就少數(shù)幾個讳窟，而且對計算本身的影響并不大的話，那么很適合使用這種方案敞恋。比如99%的key就對應(yīng)10條數(shù)據(jù)丽啡，但是只有一個key對應(yīng)了100萬數(shù)據(jù)，從而導致了數(shù)據(jù)傾斜硬猫。
• 方案實現(xiàn)思路：如果我們判斷那少數(shù)幾個數(shù)據(jù)量特別多的key碌上，對作業(yè)的執(zhí)行和計算結(jié)果不是特別重要的話，那么干脆就直接過濾掉那少數(shù)幾個key浦徊。比如馏予，在Spark SQL中可以使用where子句過濾掉這些key或者在Spark Core中對RDD執(zhí)行filter算子過濾掉這些key。如果需要每次作業(yè)執(zhí)行時盔性，動態(tài)判定哪些key的數(shù)據(jù)量最多然后再進行過濾霞丧，那么可以使用sample算子對RDD進行采樣鞍匾，然后計算出每個key的數(shù)量荧呐，取數(shù)據(jù)量最多的key過濾掉即可。
• 方案實現(xiàn)原理：將導致數(shù)據(jù)傾斜的key給過濾掉之后币呵，這些key就不會參與計算了悉尾，自然不可能產(chǎn)生數(shù)據(jù)傾斜突那。
• 方案優(yōu)點：實現(xiàn)簡單，而且效果也很好构眯，可以完全規(guī)避掉數(shù)據(jù)傾斜愕难。
• 方案缺點：適用場景不多，大多數(shù)情況下惫霸，導致傾斜的key還是很多的猫缭，并不是只有少數(shù)幾個。
• 方案實踐經(jīng)驗：在項目中我們也采用過這種方案解決數(shù)據(jù)傾斜壹店。有一次發(fā)現(xiàn)某一天Spark作業(yè)在運行的時候突然OOM了猜丹，追查之后發(fā)現(xiàn)，是Hive表中的某一個key在那天數(shù)據(jù)異常硅卢，導致數(shù)據(jù)量暴增射窒。因此就采取每次執(zhí)行前先進行采樣，計算出樣本中數(shù)據(jù)量最大的幾個key之后将塑，直接在程序中將那些key給過濾掉脉顿。

3.3Join類導致的傾斜

3.3.1 將Reduce side Join轉(zhuǎn)變?yōu)镸ap side Join

• 方案適用場景：在對RDD使用join類操作，或者是在Spark SQL中使用join語句時抬旺，而且join操作中的一個RDD或表的數(shù)據(jù)量比較斜子琛（比如幾百M或者一兩G）祥楣，比較適用此方案开财。
• 方案實現(xiàn)思路：不使用join算子進行連接操作汉柒，而使用Broadcast變量與map類算子實現(xiàn)join操作，進而完全規(guī)避掉shuffle類的操作责鳍，徹底避免數(shù)據(jù)傾斜的發(fā)生和出現(xiàn)碾褂。將較小RDD中的數(shù)據(jù)直接通過collect算子拉取到Driver端的內(nèi)存中來，然后對其創(chuàng)建一個Broadcast變量历葛；接著對另外一個RDD執(zhí)行map類算子正塌，在算子函數(shù)內(nèi)，從Broadcast變量中獲取較小RDD的全量數(shù)據(jù)恤溶，與當前RDD的每一條數(shù)據(jù)按照連接key進行比對乓诽，如果連接key相同的話，那么就將兩個RDD的數(shù)據(jù)用你需要的方式連接起來咒程。
• 方案實現(xiàn)原理：普通的join是會走shuffle過程的鸠天，而一旦shuffle帐姻，就相當于會將相同key的數(shù)據(jù)拉取到一個shuffle read task中再進行join稠集，此時就是reduce join。但是如果一個RDD是比較小的饥瓷，則可以采用廣播小RDD全量數(shù)據(jù)+map算子來實現(xiàn)與join同樣的效果剥纷，也就是map join晦鞋，此時就不會發(fā)生shuffle操作，也就不會發(fā)生數(shù)據(jù)傾斜鼎文。
• 方案優(yōu)點：對join操作導致的數(shù)據(jù)傾斜，效果非常好，因為根本就不會發(fā)生shuffle澳眷，也就根本不會發(fā)生數(shù)據(jù)傾斜钳踊。
• 方案缺點：適用場景較少，因為這個方案只適用于一個大表和一個小表的情況。畢竟我們需要將小表進行廣播兵钮，此時會比較消耗內(nèi)存資源，driver和每個Executor內(nèi)存中都會駐留一份小RDD的全量數(shù)據(jù)。如果我們廣播出去的RDD數(shù)據(jù)比較大屁药，比如10G以上，那么就可能發(fā)生內(nèi)存溢出了缭嫡。因此并不適合兩個都是大表的情況妇蛀。
• 通過Spark的Broadcast機制，將Reduce側(cè)Join轉(zhuǎn)化為Map側(cè)Join，避免Shuffle從而完全消除Shuffle帶來的數(shù)據(jù)傾斜浙芙。
• 總結(jié)
  • 適用場景
    • 參與Join的一邊數(shù)據(jù)集足夠小嗡呼，可被加載進Driver并通過Broadcast方法廣播到各個Executor中。
  • 優(yōu)勢
    • 避免了Shuffle窒悔，徹底消除了數(shù)據(jù)傾斜產(chǎn)生的條件放妈，可極大提升性能芜抒。
  • 劣勢
    • 要求參與Join的一側(cè)數(shù)據(jù)集足夠小，并且主要適用于Join的場景，不適合聚合的場景，適用條件有限缓淹。

3.3.2為數(shù)據(jù)傾斜的key增加隨機前/后綴

• 原理:為數(shù)據(jù)量特別大的Key增加隨機前/后綴讯壶，使得原來Key相同的數(shù)據(jù)變?yōu)镵ey不相同的數(shù)據(jù)丙挽，從而使傾斜的數(shù)據(jù)集分散到不同的Task中吓肋，徹底解決數(shù)據(jù)傾斜問題。Join另一側(cè)的數(shù)據(jù)中紫新，與傾斜Key對應(yīng)的部分數(shù)據(jù)，與隨機前綴集作笛卡爾乘積篙顺，從而保證無論數(shù)據(jù)傾斜側(cè)傾斜Key如何加前綴材彪，都能與之正常Join。

  
  
  隨機前綴解決數(shù)據(jù)傾斜.png
• 總結(jié)
  • 適用場景:兩張表都比較大谜疤，無法使用Map則Join尺棋。其中一個RDD有少數(shù)幾個Key的數(shù)據(jù)量過大，另外一個RDD的Key分布較為均勻。
  • 解決方案:將有數(shù)據(jù)傾斜的RDD中傾斜Key對應(yīng)的數(shù)據(jù)集單獨抽取出來加上隨機前綴，另外一個RDD每條數(shù)據(jù)分別與隨機前綴結(jié)合形成新的RDD（相當于將其數(shù)據(jù)增到到原來的N倍此疹，N即為隨機前綴的總個數(shù)），然后將二者Join并去掉前綴遮婶。然后將不包含傾斜Key的剩余數(shù)據(jù)進行Join清钥。最后將兩次Join的結(jié)果集通過union合并，即可得到全部Join結(jié)果匾寝。
  • 優(yōu)勢:相對于Map則Join，更能適應(yīng)大數(shù)據(jù)集的Join乔外。如果資源充足床三，傾斜部分數(shù)據(jù)集與非傾斜部分數(shù)據(jù)集可并行進行，效率提升明顯杨幼。且只針對傾斜部分的數(shù)據(jù)做數(shù)據(jù)擴展勿璃，增加的資源消耗有限。
  • 劣勢:如果傾斜Key非常多，則另一側(cè)數(shù)據(jù)膨脹非常大补疑，此方案不適用歧沪。而且此時對傾斜Key與非傾斜Key分開處理，需要掃描數(shù)據(jù)集兩遍莲组，增加了開銷诊胞。

3.3.3使用隨機前綴和擴容RDD進行join

• 方案適用場景：如果在進行join操作時，RDD中有大量的key導致數(shù)據(jù)傾斜锹杈，那么進行分拆key也沒什么意義撵孤，此時就只能使用最后一種方案來解決問題了。
• 方案實現(xiàn)思路：該方案的實現(xiàn)思路基本和“3.3.2”類似竭望，首先查看RDD/Hive表中的數(shù)據(jù)分布情況邪码，找到那個造成數(shù)據(jù)傾斜的RDD/Hive表，比如有多個key都對應(yīng)了超過1萬條數(shù)據(jù)咬清。然后將該RDD的每條數(shù)據(jù)都打上一個n以內(nèi)的隨機前綴闭专。同時對另外一個正常的RDD進行擴容，將每條數(shù)據(jù)都擴容成n條數(shù)據(jù)旧烧，擴容出來的每條數(shù)據(jù)都依次打上一個0~n的前綴影钉。最后將兩個處理后的RDD進行join即可。
• 方案實現(xiàn)原理：將原先一樣的key通過附加隨機前綴變成不一樣的key掘剪，然后就可以將這些處理后的“不同key”分散到多個task中去處理平委，而不是讓一個task處理大量的相同key。該方案與“解決方案六”的不同之處就在于夺谁，上一種方案是盡量只對少數(shù)傾斜key對應(yīng)的數(shù)據(jù)進行特殊處理廉赔，由于處理過程需要擴容RDD，因此上一種方案擴容RDD后對內(nèi)存的占用并不大匾鸥；而這一種方案是針對有大量傾斜key的情況蜡塌，沒法將部分key拆分出來進行單獨處理，因此只能對整個RDD進行數(shù)據(jù)擴容扫腺，對內(nèi)存資源要求很高岗照。
• 方案優(yōu)點：對join類型的數(shù)據(jù)傾斜基本都可以處理，而且效果也相對比較顯著笆环，性能提升效果非常不錯攒至。
• 方案缺點：該方案更多的是緩解數(shù)據(jù)傾斜，而不是徹底避免數(shù)據(jù)傾斜躁劣。而且需要對整個RDD進行擴容迫吐，對內(nèi)存資源要求很高。

3.3.4 大表隨機添加N種隨機前綴账忘，小表擴大N倍

• 原理：如果出現(xiàn)數(shù)據(jù)傾斜的Key比較多志膀，上一種方法將這些大量的傾斜Key分拆出來熙宇，意義不大。此時更適合直接對存在數(shù)據(jù)傾斜的數(shù)據(jù)集全部加上隨機前綴溉浙，然后對另外一個不存在嚴重數(shù)據(jù)傾斜的數(shù)據(jù)集整體與隨機前綴集作笛卡爾乘積（即將數(shù)據(jù)量擴大N倍）烫止。
• 總結(jié)
  • 適用場景：一個數(shù)據(jù)集存在的傾斜Key比較多，另外一個數(shù)據(jù)集數(shù)據(jù)分布比較均勻戳稽。
  • 優(yōu)勢：對大部分場景都適用馆蠕，效果不錯。
  • 劣勢：需要將一個數(shù)據(jù)集整體擴大N倍惊奇，會增加資源消耗互躬。
• 總結(jié)：對于數(shù)據(jù)傾斜，并無一個統(tǒng)一的一勞永逸的方法颂郎。更多的時候吼渡，是結(jié)合數(shù)據(jù)特點（數(shù)據(jù)集大小，傾斜Key的多少等）綜合使用上文所述的多種方法乓序。

3.3.5 采樣傾斜key并分拆join操作

• 方案適用場景：兩個RDD/Hive表進行join的時候寺酪，如果數(shù)據(jù)量都比較大，無法采用“3.3.4”竭缝，那么此時可以看一下兩個RDD/Hive表中的key分布情況房维。如果出現(xiàn)數(shù)據(jù)傾斜沼瘫，是因為其中某一個RDD/Hive表中的少數(shù)幾個key的數(shù)據(jù)量過大抬纸，而另一個RDD/Hive表中的所有key都分布比較均勻，那么采用這個解決方案是比較合適的耿戚。
• 方案實現(xiàn)思路：
  • 對包含少數(shù)幾個數(shù)據(jù)量過大的key的那個RDD湿故，通過sample算子采樣出一份樣本來，然后統(tǒng)計一下每個key的數(shù)量膜蛔，計算出來數(shù)據(jù)量最大的是哪幾個key坛猪。然后將這幾個key對應(yīng)的數(shù)據(jù)從原來的RDD中拆分出來，形成一個單獨的RDD皂股，并給每個key都打上n以內(nèi)的隨機數(shù)作為前綴墅茉，而不會導致傾斜的大部分key形成另外一個RDD。
  • 接著將需要join的另一個RDD呜呐，也過濾出來那幾個傾斜key對應(yīng)的數(shù)據(jù)并形成一個單獨的RDD就斤，將每條數(shù)據(jù)膨脹成n條數(shù)據(jù)，這n條數(shù)據(jù)都按順序附加一個0~n的前綴蘑辑，不會導致傾斜的大部分key也形成另外一個RDD洋机。
  • 再將附加了隨機前綴的獨立RDD與另一個膨脹n倍的獨立RDD進行join，此時就可以將原先相同的key打散成n份洋魂，分散到多個task中去進行join了绷旗。
  • 而另外兩個普通的RDD就照常join即可喜鼓。
  • 最后將兩次join的結(jié)果使用union算子合并起來即可，就是最終的join結(jié)果衔肢。
• 方案實現(xiàn)原理：對于join導致的數(shù)據(jù)傾斜庄岖，如果只是某幾個key導致了傾斜，可以將少數(shù)幾個key分拆成獨立RDD角骤，并附加隨機前綴打散成n份去進行join顿锰，此時這幾個key對應(yīng)的數(shù)據(jù)就不會集中在少數(shù)幾個task上，而是分散到多個task進行join了启搂。具體原理見下圖硼控。
• 方案優(yōu)點：對于join導致的數(shù)據(jù)傾斜，如果只是某幾個key導致了傾斜胳赌，采用該方式可以用最有效的方式打散key進行join牢撼。而且只需要針對少數(shù)傾斜key對應(yīng)的數(shù)據(jù)進行擴容n倍，不需要對全量數(shù)據(jù)進行擴容疑苫。避免了占用過多內(nèi)存熏版。

• 方案缺點：如果導致傾斜的key特別多的話，比如成千上萬個key都導致數(shù)據(jù)傾斜捍掺，那么這種方式也不適合撼短。

  
  
  采樣傾斜key并分拆join.jpg

Attention Please--文章來自互聯(lián)網(wǎng)資料整理，如有雷同挺勿，純屬李小李抄襲曲横，如有侵權(quán)請聯(lián)系刪除 From 李小李