Yarn調(diào)度MapReduce

當(dāng)我們執(zhí)行這條命令時:hadoop jar hadoop-mapreduce-examples-2.7.3.jar wordcount /input /output

hadoop為我們做了那些事情?

Yarn調(diào)度MapReduce程序的過程

yarn調(diào)度流程:

client端會調(diào)用resourcemanager懒熙,申請執(zhí)行一個job

resourcemanager會給客戶端返回一個hdfs的目錄以及一個application_id號悬赏。

client端會將切片信息伴澄、job的配置信息以及jar包上傳到上一步收到的hdfs目錄下(三個文件分別是:job.split、job.xml瑰剃、jar包)

client請求resourcemanager啟動mrappmaster

resourcemanager將client請求初始化成一個task任務(wù)赚哗,放到執(zhí)行隊列里面(默認(rèn)FIFO)蟋字,當(dāng)執(zhí)行到這個task的時候會給該job分配資源壹若。

resourcemanager會找空閑的nodemanager創(chuàng)建一個container容器嗅钻,并啟動mrappmaster

當(dāng)mrappmaster啟動之后會先將client提交hdfs的資源(job.split皂冰、job.xml、jar包)下載到本地

mrappmaster根據(jù)資源信息的情況請求resourcemanager啟動maptask

resourcemanager會為上面的請求找空閑的nodemanager并創(chuàng)建maptask的container

mrappmaster將資源發(fā)送給各個nodemanager并且啟動上面相應(yīng)的maptask程序养篓,監(jiān)控maptask的運行情況(如果maptask掛掉之后秃流,由mrappmaster去處理)。

當(dāng)maptask執(zhí)行完成后柳弄,mrappmaster又會向resourcemanager申請reducetask的資源

resourcemanager又會為上面的請求找空閑的nodemanager并創(chuàng)建reducetask的container

mrappmaster然后又啟動reducetask任務(wù)舶胀,并且監(jiān)控reducetask任務(wù)的執(zhí)行狀況。

直到mapreduce的程序執(zhí)行完成

整個job運行完畢后碧注,mrAppMaster會向RM注銷自己

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末嚣伐,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子萍丐,更是在濱河造成了極大的恐慌纤控,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,372評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件碉纺,死亡現(xiàn)場離奇詭異,居然都是意外死亡刻撒,警方通過查閱死者的電腦和手機(jī)骨田,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,368評論 3 392
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來声怔,“玉大人态贤,你說我怎么就攤上這事〈谆穑” “怎么了悠汽?”我有些...
    開封第一講書人閱讀 162,415評論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長芥驳。 經(jīng)常有香客問我柿冲,道長,這世上最難降的妖魔是什么兆旬? 我笑而不...
    開封第一講書人閱讀 58,157評論 1 292
  • 正文 為了忘掉前任假抄,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己肠阱,他們只是感情好仔蝌,可當(dāng)我...
    茶點故事閱讀 67,171評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著土居,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上为黎,一...
    開封第一講書人閱讀 51,125評論 1 297
  • 那天邮丰,我揣著相機(jī)與錄音,去河邊找鬼碍舍。 笑死柠座,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的片橡。 我是一名探鬼主播妈经,決...
    沈念sama閱讀 40,028評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼捧书!你這毒婦竟也來了吹泡?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,887評論 0 274
  • 序言:老撾萬榮一對情侶失蹤经瓷,失蹤者是張志新(化名)和其女友劉穎爆哑,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體舆吮,經(jīng)...
    沈念sama閱讀 45,310評論 1 310
  • 正文 獨居荒郊野嶺守林人離奇死亡揭朝,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,533評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了色冀。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片潭袱。...
    茶點故事閱讀 39,690評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖锋恬,靈堂內(nèi)的尸體忽然破棺而出屯换,到底是詐尸還是另有隱情,我是刑警寧澤与学,帶...
    沈念sama閱讀 35,411評論 5 343
  • 正文 年R本政府宣布彤悔,位于F島的核電站,受9級特大地震影響索守,放射性物質(zhì)發(fā)生泄漏晕窑。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,004評論 3 325
  • 文/蒙蒙 一蕾盯、第九天 我趴在偏房一處隱蔽的房頂上張望幕屹。 院中可真熱鬧,春花似錦级遭、人聲如沸望拖。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽说敏。三九已至,卻和暖如春丢郊,著一層夾襖步出監(jiān)牢的瞬間盔沫,已是汗流浹背医咨。 一陣腳步聲響...
    開封第一講書人閱讀 32,812評論 1 268
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留架诞,地道東北人拟淮。 一個月前我還...
    沈念sama閱讀 47,693評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像谴忧,于是被迫代替她去往敵國和親很泊。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,577評論 2 353

推薦閱讀更多精彩內(nèi)容