![240](https://cdn2.jianshu.io/assets/default_avatar/4-3397163ecdb3855a0a4139c34a695885.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/240/h/240)
IP屬地:廣東
想問一下 博主 那個(gè)shuffle read 和shuffle write 很大超過1G腫么辦呢
Spark Shuffle Write 和Read本文基于spark源碼2.11 1. 前言 shuffle是spark job中一個(gè)重要的階段,發(fā)生在map和reduce之間周瞎,涉及到map到reduce之間的數(shù)據(jù)的移動(dòng),以...
本文基于spark源碼2.11 1. 前言 shuffle是spark job中一個(gè)重要的階段泻肯,發(fā)生在map和reduce之間,涉及到map到reduce之間的數(shù)據(jù)的移動(dòng)慰照,以...