1、基本概念:分而治之
Job&Task
JobTacker
TaskTracker
一個(gè)job會(huì)被拆成多個(gè)task,會(huì)有maptask和reducetask
MapReduce容錯(cuò)機(jī)制
1众辨、重復(fù)執(zhí)行? ?4次
2、推測(cè)執(zhí)行:有一個(gè)TaskTracker執(zhí)行很慢舷礼,會(huì)推測(cè)遇到問(wèn)題鹃彻,并且重新開(kāi)啟一個(gè)TaskTracker來(lái)執(zhí)行同樣的任務(wù),誰(shuí)先完成則關(guān)閉另外一個(gè)妻献。
2蛛株、yarn--資源管理器
ResourceMangager
? ? ? ? ? ? ? ? 分配調(diào)度資源
? ? ? ? ? ? ? ? 啟動(dòng)并監(jiān)控ApplicationMaster
? ? ? ? ? ? ? ? 監(jiān)控NodeManager
ApplicationMaster
????????????????為MR類(lèi)型的程序申請(qǐng)資源,并分配給內(nèi)部任務(wù)
????????????????負(fù)責(zé)數(shù)據(jù)切分
????????????????監(jiān)控任務(wù)的執(zhí)行及容錯(cuò)? ? ? ? ? ? ? ??
NodeManager
????????????????管理單個(gè)節(jié)點(diǎn)的資源
????????????????處理來(lái)自ResourceManager的命令
????????????????處理來(lái)自ApplicationMaster的命令? ? ? ? ? ?