YARN的三種調(diào)度器

在Yarn中有三種調(diào)度器可以選擇:FIFO Scheduler ,Capacity Scheduler拓哟,F(xiàn)airS cheduler佃迄。它們的區(qū)別如下:

1慰技、FIFO Scheduler

FIFO Scheduler把應(yīng)用按提交的順序排成一個(gè)隊(duì)列腾誉,這是一個(gè)先進(jìn)先出隊(duì)列,在進(jìn)行資源分配的時(shí)候峻呕,先給隊(duì)列中最頭上的應(yīng)用進(jìn)行分配資源利职,待最頭上的應(yīng)用需求滿足后再給下一個(gè)分配,以此類(lèi)推瘦癌。

FIFO Scheduler是最簡(jiǎn)單也是最容易理解的調(diào)度器猪贪,也不需要任何配置,但它并不適用于共享集群讯私。大的應(yīng)用可能會(huì)占用所有集群資源热押,這就導(dǎo)致其它應(yīng)用被阻塞西傀。在共享集群中,更適合采用Capacity Scheduler或Fair Scheduler桶癣,這兩個(gè)調(diào)度器都允許大任務(wù)和小任務(wù)在提交的同時(shí)獲得一定的系統(tǒng)資源拥褂。

從下圖可以看出,在FIFO 調(diào)度器中牙寞,小任務(wù)會(huì)被大任務(wù)阻塞饺鹃。

2、Capacity Scheduler

Capacity Schedule調(diào)度器以隊(duì)列為單位劃分資源间雀,隊(duì)列以分層方式組織資源,設(shè)計(jì)了多層級(jí)別的資源限制條件以更好的讓多用戶共享一個(gè)Hadoop集群悔详,比如隊(duì)列資源限制、用戶資源限制惹挟、用戶應(yīng)用程序數(shù)目限制茄螃。

隊(duì)列里的應(yīng)用以FIFO方式調(diào)度,每個(gè)隊(duì)列可設(shè)定一定比例的資源最低保證和使用上限连锯,同時(shí)归苍,每個(gè)用戶也可以設(shè)定一定的資源使用上限以防止資源濫用。而當(dāng)一個(gè)隊(duì)列的資源有剩余時(shí)萎庭,可暫時(shí)將剩余資源共享給其他隊(duì)列霜医。

3、Fair Scheduler

在Fair調(diào)度器中驳规,我們不需要預(yù)先占用一定的系統(tǒng)資源肴敛,F(xiàn)air調(diào)度器會(huì)為所有運(yùn)行的job動(dòng)態(tài)的調(diào)整系統(tǒng)資源。如下圖所示吗购,當(dāng)?shù)谝粋€(gè)大job提交時(shí)医男,只有這一個(gè)job在運(yùn)行,此時(shí)它獲得了所有集群資源捻勉;當(dāng)?shù)诙€(gè)小任務(wù)提交后镀梭,F(xiàn)air調(diào)度器會(huì)分配一半資源給這個(gè)小任務(wù),讓這兩個(gè)任務(wù)公平的共享集群資源踱启。

需要注意的是报账,在下圖Fair調(diào)度器中,從第二個(gè)任務(wù)提交到獲得資源會(huì)有一定的延遲埠偿,因?yàn)樗枰却谝粋€(gè)任務(wù)釋放占用的Container透罢。小任務(wù)執(zhí)行完成之后也會(huì)釋放自己占用的資源,大任務(wù)又獲得了全部的系統(tǒng)資源冠蒋。最終的效果就是Fair調(diào)度器即得到了高的資源利用率又能保證小任務(wù)及時(shí)完成羽圃。

Yarn調(diào)度器對(duì)比圖

參考:http://www.mamicode.com/info-detail-1097801.html

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市抖剿,隨后出現(xiàn)的幾起案子朽寞,更是在濱河造成了極大的恐慌识窿,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,482評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件脑融,死亡現(xiàn)場(chǎng)離奇詭異喻频,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)吨掌,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,377評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門(mén)半抱,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人膜宋,你說(shuō)我怎么就攤上這事窿侈。” “怎么了秋茫?”我有些...
    開(kāi)封第一講書(shū)人閱讀 152,762評(píng)論 0 342
  • 文/不壞的土叔 我叫張陵史简,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我肛著,道長(zhǎng)圆兵,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 55,273評(píng)論 1 279
  • 正文 為了忘掉前任枢贿,我火速辦了婚禮殉农,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘局荚。我一直安慰自己超凳,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,289評(píng)論 5 373
  • 文/花漫 我一把揭開(kāi)白布耀态。 她就那樣靜靜地躺著轮傍,像睡著了一般。 火紅的嫁衣襯著肌膚如雪首装。 梳的紋絲不亂的頭發(fā)上创夜,一...
    開(kāi)封第一講書(shū)人閱讀 49,046評(píng)論 1 285
  • 那天,我揣著相機(jī)與錄音仙逻,去河邊找鬼驰吓。 笑死,一個(gè)胖子當(dāng)著我的面吹牛系奉,可吹牛的內(nèi)容都是我干的檬贰。 我是一名探鬼主播,決...
    沈念sama閱讀 38,351評(píng)論 3 400
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼喜最,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了庄蹋?” 一聲冷哼從身側(cè)響起瞬内,我...
    開(kāi)封第一講書(shū)人閱讀 36,988評(píng)論 0 259
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤迷雪,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后虫蝶,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體章咧,經(jīng)...
    沈念sama閱讀 43,476評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,948評(píng)論 2 324
  • 正文 我和宋清朗相戀三年能真,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了赁严。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,064評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出寸五,到底是詐尸還是另有隱情拳缠,我是刑警寧澤,帶...
    沈念sama閱讀 33,712評(píng)論 4 323
  • 正文 年R本政府宣布荣挨,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏织鲸。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,261評(píng)論 3 307
  • 文/蒙蒙 一溪胶、第九天 我趴在偏房一處隱蔽的房頂上張望搂擦。 院中可真熱鬧,春花似錦哗脖、人聲如沸瀑踢。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,264評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)丘损。三九已至,卻和暖如春工扎,著一層夾襖步出監(jiān)牢的瞬間徘钥,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,486評(píng)論 1 262
  • 我被黑心中介騙來(lái)泰國(guó)打工肢娘, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留呈础,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,511評(píng)論 2 354
  • 正文 我出身青樓橱健,卻偏偏與公主長(zhǎng)得像而钞,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子拘荡,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,802評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容