Hadoop提交作業(yè)流程

@PostMapping("/login")

public ResultVOregister( StudentWechat studentWechat ){

log.info("授權(quán)登錄信息: {}", JSON.toJSONString(studentWechat));

? ? Map tokenMap =studentService.login(studentWechat);

? ? return ResultVOUtil.success(tokenMap);

}


一 雷恃、基礎(chǔ)鞏固

1.ResourceManager調(diào)度器 ? a.默認(rèn)調(diào)度器 ------先進(jìn)先出FIFO

?????????????????????????????????????????????? b.公平調(diào)度器 ------ 每個(gè)任務(wù)都有執(zhí)行的機(jī)會

2.心跳機(jī)制? ------ NodeManager通過心跳機(jī)制健康狀況匯報(bào)ResourceManager,ResourceManager則會根據(jù)每個(gè)NodeManager的健康狀況調(diào)整分配的任務(wù)數(shù)目费坊。當(dāng)NodeManager認(rèn)為自己的健康狀況“欠佳”時(shí)倒槐,可讓ResourceManager不再分配任務(wù),待健康狀況好轉(zhuǎn)時(shí)附井,再分配新任務(wù)讨越。

二 、Hadoop工作流程:

hadoop提交作業(yè)流程

1. Client中永毅,客戶端提交一個(gè)mr的jar包給JobClient(提交方式:hadoop jar ...)

2. JobClient持有ResourceManager的一個(gè)代理對象把跨,它向ResourceManager發(fā)送一個(gè)RPC請求,告訴ResourceManager作業(yè)開始沼死,

?????? 然后ResourceManager返回一個(gè)JobID和一個(gè)存放jar包的路徑給Client

3. Client將得到的jar包的路徑作為前綴着逐,JobID作為后綴(path = hdfs上的地址 + jobId) 拼接成一個(gè)新的hdfs的路徑,然后Client通過FileSystem向?? hdfs中存放jar包意蛀,默認(rèn)存放10份(NameNode和DateNode等操作)

4. 開始提交任務(wù)耸别,Client將作業(yè)的描述信息(JobID和拼接后的存放jar包的路徑等)RPC返回給ResourceManager

5. ResourceManager進(jìn)行初始化任務(wù),然后放到一個(gè)調(diào)度器中

6. ResourceManager讀取HDFS上的要處理的文件浸间,開始計(jì)算輸入分片太雨,每一個(gè)分片對應(yīng)一個(gè)MapperTask吟榴,根據(jù)數(shù)據(jù)量確定起多少個(gè)mapper,多少個(gè)reducer

7. NodeManager 通過心跳機(jī)制向ResourceManager領(lǐng)取任務(wù)(任務(wù)的描述信息)

8. 領(lǐng)取到任務(wù)的NodeManager去Hdfs上下載jar包魁蒜,配置文件等

9. NodeManager啟動相應(yīng)的子進(jìn)程yarnchild,運(yùn)行mapreduce吩翻,運(yùn)行maptask或者reducetask

10. map從hdfs中讀取數(shù)據(jù)兜看,然后傳給reduce,reduce將輸出的數(shù)據(jù)給回hdfs

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末狭瞎,一起剝皮案震驚了整個(gè)濱河市细移,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌熊锭,老刑警劉巖弧轧,帶你破解...
    沈念sama閱讀 206,214評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件雪侥,死亡現(xiàn)場離奇詭異,居然都是意外死亡精绎,警方通過查閱死者的電腦和手機(jī)速缨,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來代乃,“玉大人旬牲,你說我怎么就攤上這事「橄牛” “怎么了原茅?”我有些...
    開封第一講書人閱讀 152,543評論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長堕仔。 經(jīng)常有香客問我擂橘,道長,這世上最難降的妖魔是什么摩骨? 我笑而不...
    開封第一講書人閱讀 55,221評論 1 279
  • 正文 為了忘掉前任贝室,我火速辦了婚禮,結(jié)果婚禮上仿吞,老公的妹妹穿的比我還像新娘滑频。我一直安慰自己,他們只是感情好唤冈,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評論 5 371
  • 文/花漫 我一把揭開白布峡迷。 她就那樣靜靜地躺著,像睡著了一般你虹。 火紅的嫁衣襯著肌膚如雪绘搞。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,007評論 1 284
  • 那天傅物,我揣著相機(jī)與錄音夯辖,去河邊找鬼。 笑死董饰,一個(gè)胖子當(dāng)著我的面吹牛蒿褂,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播卒暂,決...
    沈念sama閱讀 38,313評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼啄栓,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了也祠?” 一聲冷哼從身側(cè)響起昙楚,我...
    開封第一講書人閱讀 36,956評論 0 259
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎诈嘿,沒想到半個(gè)月后堪旧,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體削葱,經(jīng)...
    沈念sama閱讀 43,441評論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評論 2 323
  • 正文 我和宋清朗相戀三年淳梦,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了佩耳。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 38,018評論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡谭跨,死狀恐怖干厚,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情螃宙,我是刑警寧澤蛮瞄,帶...
    沈念sama閱讀 33,685評論 4 322
  • 正文 年R本政府宣布,位于F島的核電站谆扎,受9級特大地震影響挂捅,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜堂湖,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評論 3 307
  • 文/蒙蒙 一闲先、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧无蜂,春花似錦伺糠、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至酣倾,卻和暖如春舵揭,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背躁锡。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評論 1 261
  • 我被黑心中介騙來泰國打工午绳, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人映之。 一個(gè)月前我還...
    沈念sama閱讀 45,467評論 2 352
  • 正文 我出身青樓拦焚,卻偏偏與公主長得像,于是被迫代替她去往敵國和親惕医。 傳聞我的和親對象是個(gè)殘疾皇子耕漱,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評論 2 345

推薦閱讀更多精彩內(nèi)容