Spark - 資源動(dòng)態(tài)釋放

> 通過(guò)spark-submit會(huì)固定占用一占的資源鞭盟,有什么辦法,在任務(wù)不運(yùn)作的時(shí)候?qū)①Y源釋放格二,讓其它任務(wù)使用呢劈彪,yarn新版本默認(rèn)已經(jīng)支持了,我們使用的是HDP顶猜。

## 版本如下

![](https://upload-images.jianshu.io/upload_images/9028759-35c1bf0606261dc5.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

## 配置

1. HDP里面已經(jīng)默認(rèn)支持spark動(dòng)態(tài)資源釋配置

2. 代碼配置

```

val sparkConf = new SparkConf()

? ? .set("spark.shuffle.service.enabled", "true")

? ? .set("spark.dynamicAllocation.enabled", "true")

? ? .set("spark.dynamicAllocation.minExecutors", "1") //最少占用1個(gè)Executor

? ? .set("spark.dynamicAllocation.initialExecutors", "1") //默認(rèn)初始化一個(gè)Executor

? ? .set("spark.dynamicAllocation.maxExecutors", "6") //最多占用6個(gè)Executor

? ? .set("spark.dynamicAllocation.executorIdleTimeout", "60") //executor閑置時(shí)間

? ? .set("spark.dynamicAllocation.cachedExecutorIdleTimeout", "60") //cache閑置時(shí)間

? ? .set("spark.executor.cores", "3")//使用的vcore

? ? //? ? .setMaster("local[12]")

? ? .setAppName("Spark DynamicRelease")

? val spark: SparkSession = SparkSession

? ? .builder

? ? .config(sparkConf)

? ? .getOrCreate()

```

## 注意事項(xiàng)

如果spark計(jì)算當(dāng)中使用了rdd.cache沧奴,不加下面的配置,動(dòng)態(tài)資源不會(huì)釋放

```

.set("spark.dynamicAllocation.cachedExecutorIdleTimeout", "60")

```

---

![](https://upload-images.jianshu.io/upload_images/9028759-07315bb8dadcd082.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末长窄,一起剝皮案震驚了整個(gè)濱河市滔吠,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌挠日,老刑警劉巖疮绷,帶你破解...
    沈念sama閱讀 219,366評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異嚣潜,居然都是意外死亡冬骚,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,521評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門郑原,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)唉韭,“玉大人,你說(shuō)我怎么就攤上這事犯犁。” “怎么了女器?”我有些...
    開(kāi)封第一講書人閱讀 165,689評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵酸役,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng)涣澡,這世上最難降的妖魔是什么贱呐? 我笑而不...
    開(kāi)封第一講書人閱讀 58,925評(píng)論 1 295
  • 正文 為了忘掉前任,我火速辦了婚禮入桂,結(jié)果婚禮上奄薇,老公的妹妹穿的比我還像新娘。我一直安慰自己抗愁,他們只是感情好馁蒂,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,942評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著蜘腌,像睡著了一般沫屡。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上撮珠,一...
    開(kāi)封第一講書人閱讀 51,727評(píng)論 1 305
  • 那天沮脖,我揣著相機(jī)與錄音,去河邊找鬼芯急。 笑死勺届,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的娶耍。 我是一名探鬼主播涮因,決...
    沈念sama閱讀 40,447評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼伺绽!你這毒婦竟也來(lái)了养泡?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書人閱讀 39,349評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤奈应,失蹤者是張志新(化名)和其女友劉穎澜掩,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體杖挣,經(jīng)...
    沈念sama閱讀 45,820評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡肩榕,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,990評(píng)論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了惩妇。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片株汉。...
    茶點(diǎn)故事閱讀 40,127評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖歌殃,靈堂內(nèi)的尸體忽然破棺而出乔妈,到底是詐尸還是另有隱情,我是刑警寧澤氓皱,帶...
    沈念sama閱讀 35,812評(píng)論 5 346
  • 正文 年R本政府宣布路召,位于F島的核電站勃刨,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏股淡。R本人自食惡果不足惜身隐,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,471評(píng)論 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望唯灵。 院中可真熱鬧贾铝,春花似錦、人聲如沸埠帕。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 32,017評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)搞监。三九已至水孩,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間琐驴,已是汗流浹背俘种。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 33,142評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留绝淡,地道東北人宙刘。 一個(gè)月前我還...
    沈念sama閱讀 48,388評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像牢酵,于是被迫代替她去往敵國(guó)和親悬包。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,066評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容