MapReduce的執(zhí)行原理

1、框架會把輸入文件(夾)劃分為很多InputSplit,默認(rèn)每個HDFS的Block對應(yīng)一個InputSplit齐鲤。通過RecordReader類堵泽,會把每一個InputSplit解析成一個個<k1,v1>。默認(rèn)每一行數(shù)據(jù)會被解析成一個<k1,v1>

2赴蝇、框架調(diào)用Mapper類的map(...)函數(shù)菩浙,map函數(shù)的輸入是<k1,v1>,輸出是<k2,v2>句伶,一個InputSplit對應(yīng)一個Map Task

3劲蜻、框架調(diào)用map函數(shù)輸出的<k2,v2>進(jìn)行分區(qū)。不同分區(qū)中的<k2,v2>由不同的Reduce Task處理考余,默認(rèn)只有一個分區(qū)

4先嬉、框架對每個分區(qū)中的數(shù)據(jù),按照k2進(jìn)行排序和分組秃殉。分組是指相同的k2和v2分成一組

5坝初、在Map階段,框架可以執(zhí)行Combiner操作

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末钾军,一起剝皮案震驚了整個濱河市鳄袍,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌吏恭,老刑警劉巖拗小,帶你破解...
    沈念sama閱讀 211,348評論 6 491
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異樱哼,居然都是意外死亡哀九,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,122評論 2 385
  • 文/潘曉璐 我一進(jìn)店門搅幅,熙熙樓的掌柜王于貴愁眉苦臉地迎上來阅束,“玉大人,你說我怎么就攤上這事茄唐∠⒙悖” “怎么了?”我有些...
    開封第一講書人閱讀 156,936評論 0 347
  • 文/不壞的土叔 我叫張陵,是天一觀的道長呼盆。 經(jīng)常有香客問我年扩,道長,這世上最難降的妖魔是什么访圃? 我笑而不...
    開封第一講書人閱讀 56,427評論 1 283
  • 正文 為了忘掉前任厨幻,我火速辦了婚禮,結(jié)果婚禮上腿时,老公的妹妹穿的比我還像新娘况脆。我一直安慰自己,他們只是感情好圈匆,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,467評論 6 385
  • 文/花漫 我一把揭開白布漠另。 她就那樣靜靜地躺著,像睡著了一般跃赚。 火紅的嫁衣襯著肌膚如雪笆搓。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 49,785評論 1 290
  • 那天纬傲,我揣著相機(jī)與錄音满败,去河邊找鬼。 笑死叹括,一個胖子當(dāng)著我的面吹牛算墨,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播汁雷,決...
    沈念sama閱讀 38,931評論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼净嘀,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了侠讯?” 一聲冷哼從身側(cè)響起挖藏,我...
    開封第一講書人閱讀 37,696評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎厢漩,沒想到半個月后膜眠,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,141評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡溜嗜,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,483評論 2 327
  • 正文 我和宋清朗相戀三年宵膨,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片炸宵。...
    茶點(diǎn)故事閱讀 38,625評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡辟躏,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出土全,到底是詐尸還是另有隱情鸿脓,我是刑警寧澤抑钟,帶...
    沈念sama閱讀 34,291評論 4 329
  • 正文 年R本政府宣布涯曲,位于F島的核電站野哭,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏幻件。R本人自食惡果不足惜拨黔,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,892評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望绰沥。 院中可真熱鬧篱蝇,春花似錦、人聲如沸徽曲。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,741評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽秃臣。三九已至涧衙,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間奥此,已是汗流浹背弧哎。 一陣腳步聲響...
    開封第一講書人閱讀 31,977評論 1 265
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留稚虎,地道東北人撤嫩。 一個月前我還...
    沈念sama閱讀 46,324評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像蠢终,于是被迫代替她去往敵國和親序攘。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,492評論 2 348