YARN知識(shí)點(diǎn)

yarn.png

ResourceManager

整個(gè)集群資源的主要協(xié)調(diào)者和管理者制肮,負(fù)責(zé)給用戶提交的所有應(yīng)用程序分配資源贱纠。

NodeManager

是每個(gè)節(jié)點(diǎn)的管理者复哆,主要負(fù)責(zé)該節(jié)點(diǎn)內(nèi)所有容器的生命周期管理猬错,監(jiān)視資源和跟蹤節(jié)點(diǎn)健康。
1.啟動(dòng)時(shí)向RM注冊(cè)并定時(shí)發(fā)送心跳信息犀变,等到RM的指令
2.維護(hù)Container的生命周期,監(jiān)控Container的資源使用情況
3.管理任務(wù)運(yùn)行時(shí)的相關(guān)依賴秋柄,根據(jù)ApplicationMaster的需要获枝,在啟動(dòng)Container之前將需要的程序和依賴拷貝到本地

ApplicationMaster

在用戶提交一個(gè)應(yīng)用程序時(shí),yarn會(huì)啟動(dòng)一個(gè)輕量級(jí)的進(jìn)程ApplicationMaster負(fù)責(zé)協(xié)調(diào)來(lái)自RM的資源骇笔,通過(guò)NM監(jiān)視容器內(nèi)資源的使用情況映琳。
1.根據(jù)應(yīng)用的運(yùn)行狀態(tài)決定動(dòng)態(tài)計(jì)算資源需求
2.向RM申請(qǐng)資源,監(jiān)控申請(qǐng)的資源的使用情況
3.跟蹤任務(wù)狀態(tài)和進(jìn)度蜘拉,報(bào)告資源的使用情況和應(yīng)用的進(jìn)度信息

Container

yarn中的資源抽象萨西,封裝了某個(gè)節(jié)點(diǎn)上的多維度的資源。當(dāng)AM向RM申請(qǐng)資源旭旭,RM為AM返回的資源用Container表示谎脯。yarn會(huì)為每個(gè)任務(wù)分配一個(gè)Container,該任務(wù)只能使用該Container中的資源持寄,AM可在Container內(nèi)運(yùn)行任何類型的任務(wù)源梭。

yarn工作原理
yarn工作原理

1.client提交作業(yè)到y(tǒng)arn
2.RM選擇一個(gè)NM,啟動(dòng)Container運(yùn)行ApplicationMaster實(shí)例
3.AM根據(jù)需要向RM請(qǐng)求更多的Container資源
4.AM通過(guò)獲取到的Container執(zhí)行計(jì)算

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末稍味,一起剝皮案震驚了整個(gè)濱河市废麻,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌模庐,老刑警劉巖烛愧,帶你破解...
    沈念sama閱讀 218,525評(píng)論 6 507
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異掂碱,居然都是意外死亡怜姿,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,203評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門疼燥,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)沧卢,“玉大人,你說(shuō)我怎么就攤上這事醉者〉粒” “怎么了?”我有些...
    開封第一講書人閱讀 164,862評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵撬即,是天一觀的道長(zhǎng)立磁。 經(jīng)常有香客問(wèn)我,道長(zhǎng)搞莺,這世上最難降的妖魔是什么息罗? 我笑而不...
    開封第一講書人閱讀 58,728評(píng)論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮才沧,結(jié)果婚禮上迈喉,老公的妹妹穿的比我還像新娘。我一直安慰自己温圆,他們只是感情好挨摸,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,743評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著岁歉,像睡著了一般得运。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上锅移,一...
    開封第一講書人閱讀 51,590評(píng)論 1 305
  • 那天熔掺,我揣著相機(jī)與錄音,去河邊找鬼非剃。 笑死置逻,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的备绽。 我是一名探鬼主播券坞,決...
    沈念sama閱讀 40,330評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼肺素!你這毒婦竟也來(lái)了恨锚?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,244評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤倍靡,失蹤者是張志新(化名)和其女友劉穎猴伶,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體塌西,經(jīng)...
    沈念sama閱讀 45,693評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡蜗顽,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,885評(píng)論 3 336
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了雨让。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片雇盖。...
    茶點(diǎn)故事閱讀 40,001評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖栖忠,靈堂內(nèi)的尸體忽然破棺而出崔挖,到底是詐尸還是另有隱情,我是刑警寧澤庵寞,帶...
    沈念sama閱讀 35,723評(píng)論 5 346
  • 正文 年R本政府宣布狸相,位于F島的核電站,受9級(jí)特大地震影響捐川,放射性物質(zhì)發(fā)生泄漏脓鹃。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,343評(píng)論 3 330
  • 文/蒙蒙 一古沥、第九天 我趴在偏房一處隱蔽的房頂上張望瘸右。 院中可真熱鬧娇跟,春花似錦、人聲如沸太颤。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,919評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)龄章。三九已至吃谣,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間做裙,已是汗流浹背岗憋。 一陣腳步聲響...
    開封第一講書人閱讀 33,042評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留锚贱,地道東北人仔戈。 一個(gè)月前我還...
    沈念sama閱讀 48,191評(píng)論 3 370
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像惋鸥,于是被迫代替她去往敵國(guó)和親杂穷。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,955評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容