極客時(shí)間 09 | Yarn資源調(diào)度框架


從圖上看上渴,Yarn 包括兩個(gè)部分:一個(gè)是資源管理器(Resource Manager)刃唤,一個(gè)是節(jié)點(diǎn)管理器(Node Manager)震缭。這也是 Yarn 的兩種主要進(jìn)程:ResourceManager 進(jìn)程負(fù)責(zé)整個(gè)集群的資源調(diào)度管理,通常部署在獨(dú)立的服務(wù)器上窿祥;NodeManager 進(jìn)程負(fù)責(zé)具體服務(wù)器上的資源和任務(wù)管理,在集群的每一臺(tái)計(jì)算服務(wù)器上都會(huì)啟動(dòng)庇麦,基本上跟 HDFS 的 DataNode 進(jìn)程一起出現(xiàn)计技。

具體說來,資源管理器又包括兩個(gè)主要組件:調(diào)度器和應(yīng)用程序管理器山橄。

調(diào)度器其實(shí)就是一個(gè)資源分配算法垮媒,根據(jù)應(yīng)用程序(Client)提交的資源申請(qǐng)和當(dāng)前服務(wù)器集群的資源狀況進(jìn)行資源分配。Yarn 內(nèi)置了幾種資源調(diào)度算法航棱,包括 Fair Scheduler睡雇、Capacity Scheduler 等,你也可以開發(fā)自己的資源調(diào)度算法供 Yarn 調(diào)用饮醇。

Yarn 進(jìn)行資源分配的單位是容器(Container)它抱,每個(gè)容器包含了一定量的內(nèi)存、CPU 等計(jì)算資源朴艰,默認(rèn)配置下观蓄,每個(gè)容器包含一個(gè) CPU 核心。容器由 NodeManager 進(jìn)程啟動(dòng)和管理祠墅,NodeManger 進(jìn)程會(huì)監(jiān)控本節(jié)點(diǎn)上容器的運(yùn)行狀況并向 ResourceManger 進(jìn)程匯報(bào)侮穿。

應(yīng)用程序管理器負(fù)責(zé)應(yīng)用程序的提交、監(jiān)控應(yīng)用程序運(yùn)行狀態(tài)等毁嗦。應(yīng)用程序啟動(dòng)后需要在集群中運(yùn)行一個(gè) ApplicationMaster亲茅,ApplicationMaster 也需要運(yùn)行在容器里面。每個(gè)應(yīng)用程序啟動(dòng)后都會(huì)先啟動(dòng)自己的 ApplicationMaster狗准,由 ApplicationMaster 根據(jù)應(yīng)用程序的資源需求進(jìn)一步向 ResourceManager 進(jìn)程申請(qǐng)容器資源芯急,得到容器以后就會(huì)分發(fā)自己的應(yīng)用程序代碼到容器上啟動(dòng),進(jìn)而開始分布式計(jì)算驶俊。

-以一個(gè) MapReduce 程序?yàn)槔⑺#瑏砜匆幌?Yarn 的整個(gè)工作流程。

  1. 我們向 Yarn 提交應(yīng)用程序饼酿,包括 MapReduce ApplicationMaster榕酒、我們的 MapReduce 程序,以及 MapReduce Application 啟動(dòng)命令故俐。

2.ResourceManager 進(jìn)程和 NodeManager 進(jìn)程通信想鹰,根據(jù)集群資源,為用戶程序分配第一個(gè)容器药版,并將 MapReduce ApplicationMaster 分發(fā)到這個(gè)容器上面辑舷,并在容器里面啟動(dòng) MapReduce ApplicationMaster。

3.MapReduce ApplicationMaster 啟動(dòng)后立即向 ResourceManager 進(jìn)程注冊(cè)槽片,并為自己的應(yīng)用程序申請(qǐng)容器資源何缓。

4.MapReduce ApplicationMaster 申請(qǐng)到需要的容器后肢础,立即和相應(yīng)的 NodeManager 進(jìn)程通信,將用戶 MapReduce 程序分發(fā)到 NodeManager 進(jìn)程所在服務(wù)器碌廓,并在容器中運(yùn)行传轰,運(yùn)行的就是 Map 或者 Reduce 任務(wù)。

5.Map 或者 Reduce 任務(wù)在運(yùn)行期和 MapReduce ApplicationMaster 通信谷婆,匯報(bào)自己的運(yùn)行狀態(tài)慨蛙,如果運(yùn)行結(jié)束,MapReduce ApplicationMaster 向 ResourceManager 進(jìn)程注銷并釋放所有的容器資源纪挎。

MapReduce 如果想在 Yarn 上運(yùn)行期贫,就需要開發(fā)遵循 Yarn 規(guī)范的 MapReduce ApplicationMaster,相應(yīng)地异袄,其他大數(shù)據(jù)計(jì)算框架也可以開發(fā)遵循 Yarn 規(guī)范的 ApplicationMaster唯灵,這樣在一個(gè) Yarn 集群中就可以同時(shí)并發(fā)執(zhí)行各種不同的大數(shù)據(jù)計(jì)算框架,實(shí)現(xiàn)資源的統(tǒng)一調(diào)度管理隙轻。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末埠帕,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子玖绿,更是在濱河造成了極大的恐慌敛瓷,老刑警劉巖,帶你破解...
    沈念sama閱讀 217,657評(píng)論 6 505
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件斑匪,死亡現(xiàn)場(chǎng)離奇詭異呐籽,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)蚀瘸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,889評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門狡蝶,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人贮勃,你說我怎么就攤上這事贪惹。” “怎么了寂嘉?”我有些...
    開封第一講書人閱讀 164,057評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵奏瞬,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我泉孩,道長(zhǎng)硼端,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,509評(píng)論 1 293
  • 正文 為了忘掉前任寓搬,我火速辦了婚禮珍昨,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己镣典,他們只是感情好兔毙,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,562評(píng)論 6 392
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著骆撇,像睡著了一般瞒御。 火紅的嫁衣襯著肌膚如雪父叙。 梳的紋絲不亂的頭發(fā)上神郊,一...
    開封第一講書人閱讀 51,443評(píng)論 1 302
  • 那天,我揣著相機(jī)與錄音趾唱,去河邊找鬼涌乳。 笑死,一個(gè)胖子當(dāng)著我的面吹牛甜癞,可吹牛的內(nèi)容都是我干的夕晓。 我是一名探鬼主播,決...
    沈念sama閱讀 40,251評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼悠咱,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼蒸辆!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起析既,我...
    開封第一講書人閱讀 39,129評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤躬贡,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后眼坏,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體拂玻,經(jīng)...
    沈念sama閱讀 45,561評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,779評(píng)論 3 335
  • 正文 我和宋清朗相戀三年宰译,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了檐蚜。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,902評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡沿侈,死狀恐怖闯第,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情缀拭,我是刑警寧澤乡括,帶...
    沈念sama閱讀 35,621評(píng)論 5 345
  • 正文 年R本政府宣布,位于F島的核電站智厌,受9級(jí)特大地震影響诲泌,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜铣鹏,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,220評(píng)論 3 328
  • 文/蒙蒙 一敷扫、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦葵第、人聲如沸绘迁。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,838評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽缀台。三九已至,卻和暖如春哮奇,著一層夾襖步出監(jiān)牢的瞬間膛腐,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,971評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工鼎俘, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留哲身,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,025評(píng)論 2 370
  • 正文 我出身青樓贸伐,卻偏偏與公主長(zhǎng)得像勘天,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子捉邢,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,843評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容