http://www.linuxidc.com/Linux/2015-08/120940.htm
shuffle的臨時文件目錄tmp掛載滿了, 修改SPARK_LOCAL_DIRS路徑到home或者掛載磁盤比較大的目錄下
.bash_profile 設置:
export SPARK_LOCAL_DIRS=/data/spark
或者在spark-env.xml中修改SPARK_LOCAL_DIRS
或者在spark-default.xml中修改spark.local.dir
遇到這種問題绽诚,多半還是因為程序中有數(shù)據緩存到磁盤跋破,但是沒有及時unpersist掉号涯,3 x Replicated, Streaming累積導致绕娘, 數(shù)據緩存和C++變量new堆椡龀郏空間一樣, 是需要手動釋放晓猛, 否則即使函數(shù)退出, 一樣不能釋放磁盤或者內存空間