關(guān)于在eclipse上能運行Map但無法運行Reduce的解決方法

今日我在eclipse上運行Map/Reduce框架進行數(shù)據(jù)分析的時候遇到了一個很奇怪的錯誤:
一開始我發(fā)現(xiàn)運行程序之后也沒在控制臺報錯,也生成了目標目錄豫尽,但一直出不來統(tǒng)計好的數(shù)據(jù)文件篙梢。
我先通過位置標記輸出來判斷各個類的加載是否正常,
發(fā)現(xiàn)Map是可以正常加載執(zhí)行的美旧,但是Reduce一直無法加載執(zhí)行渤滞。
然后我通過設(shè)置贬墩,讓其在運行時顯示日志信息,再運行妄呕。
文末會分享設(shè)置顯示日志信息的方法陶舞。

這一次便發(fā)現(xiàn)了如下的報錯:

日志中的報錯信息:
java.lang.Exception: org.apache.hadoop.mapreduce.task.reduce.Shuffle$ShuffleError: error in shuffle in localfetcher#1at org.apache.hadoop.mapred.LocalJobRunner$Job.runTasks(LocalJobRunner.java:462)at org.apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.java:529)Caused by: org.apache.hadoop.mapreduce.task.reduce.Shuffle$ShuffleError: error in shuffle in localfetcher#1at org.apache.hadoop.mapreduce.task.reduce.Shuffle.run(Shuffle.java:134)at org.apache.hadoop.mapred.ReduceTask.run(ReduceTask.java:376)at org.apache.hadoop.mapred.LocalJobRunner$Job$ReduceTaskRunnable.run(LocalJobRunner.java:319)at java.util.concurrent.Executors$RunnableAdapter.call(Unknown Source)at java.util.concurrent.FutureTask.run(Unknown Source)at java.util.concurrent.ThreadPoolExecutor.runWorker(Unknown Source)at java.util.concurrent.ThreadPoolExecutor$Worker.run(Unknown Source)at java.lang.Thread.run(Unknown Source)Caused by:(1)]java.io.FileNotFoundException: E:/tmp/hadoop-Alan%20Yang/mapred/local/localRunner/Alan%20Yang/jobcache/job_local214639494_0001/attempt_local214639494_0001_m_000003_0/output/file.out.indexat org.apache.hadoop.fs.RawLocalFileSystem.open(RawLocalFileSystem.java:200)at org.apache.hadoop.fs.FileSystem.open(FileSystem.java:767)at (2)]org.apache.hadoop.io.SecureIOUtils.openFSDataInputStream(SecureIOUtils.java:156)at org.apache.hadoop.mapred.SpillRecord.<init>(SpillRecord.java:70)at org.apache.hadoop.mapred.SpillRecord.<init>(SpillRecord.java:62)at org.apache.hadoop.mapred.SpillRecord.<init>(SpillRecord.java:57)at org.apache.hadoop.mapreduce.task.reduce.LocalFetcher.copyMapOutput(LocalFetcher.java:124)at org.apache.hadoop.mapreduce.task.reduce.LocalFetcher.doCopy(LocalFetcher.java:102)at org.apache.hadoop.mapreduce.task.reduce.LocalFetcher.run(LocalFetcher.java:85)2017-07-12 16:19:02,616 INFO [org.apache.hadoop.mapreduce.Job] - Job job_local214639494_0001 failed with state FAILED due to: NA2017-07-12 16:19:02,663 INFO [org.apache.hadoop.mapreduce.Job] - Counters: 22File System CountersFILE: Number of bytes read=62223FILE: Number of bytes written=176635984FILE: Number of read operations=0FILE: Number of large read operations=0FILE: Number of write operations=0HDFS: Number of bytes read=898750946HDFS: Number of bytes written=0HDFS: Number of read operations=140HDFS: Number of large read operations=0HDFS: Number of write operations=10Map-Reduce FrameworkMap input records=2629660Map output records=2626091Map output bytes=26260910Map output materialized bytes=31513152Input split bytes=1210Combine input records=0Spilled Records=2626091Failed Shuffles=0Merged Map outputs=0GC time elapsed (ms)=496Total committed heap usage (bytes)=7754743808File Input Format Counters Bytes Read=163038920

按照通常的排錯思路,后面的錯誤往往是前面的錯誤導(dǎo)致產(chǎn)生的绪励,所以我先入為主的直接去搜索 error in shuffle in localfetcher的解決辦法肿孵,發(fā)現(xiàn)幾乎都在說是內(nèi)存的問題。百般嘗試始終是毫無成效疏魏。

后來當我往下看的時候發(fā)現(xiàn)其實日志給出了大概的錯誤原因停做,是路徑的問題。這一下子就找到了正確的方向大莫。通過查找資料蛉腌,發(fā)現(xiàn)有的朋友通過修改默認的路徑即可解決,我嘗試了一下只厘,結(jié)果只是換個路徑報錯而已烙丛。這就耐人尋味了,我再自己看了看這條報錯信息懈凹,里面用到了我的Windows的用戶名蜀变,但是中間的空格變成了%20,在路徑中出現(xiàn)%這意味著什么介评?配過環(huán)境變量的人都知道库北。我一下子恍然大悟。很有可能是Windows用戶名的問題们陆。所以我去修改了Windows本機的用戶名寒瓦,把空格去掉。一下子就解決了F撼稹T友!

eclipse控制臺不顯示MapReduce程序日志的解決方法:
使用Hadoop2.6.0椅文,在eclipse下面調(diào)試mapreduce程序的時候喂很,控制臺不打印程序運行時的日志,而是顯示如下信息:
log4j:WARN No appenders could be found for logger (org.apache.[Hadoop]
log4j:WARN Please initialize the log4j system properly.
log4j:WARN [hadoop] See noconfig for more info.
說明沒有配置log4j.properties文件皆刺。這雖然不影響程序的正常運行少辣,但是看不到日志難免不爽。解決方法:把Hadoop2.6.0的安裝目錄下面的/etc/hadoop/目錄下面的log4j.properties文件拷貝放到MapReduce工程的src目錄下面羡蛾。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末漓帅,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌忙干,老刑警劉巖器予,帶你破解...
    沈念sama閱讀 222,252評論 6 516
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異捐迫,居然都是意外死亡乾翔,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,886評論 3 399
  • 文/潘曉璐 我一進店門弓乙,熙熙樓的掌柜王于貴愁眉苦臉地迎上來末融,“玉大人,你說我怎么就攤上這事暇韧」聪埃” “怎么了?”我有些...
    開封第一講書人閱讀 168,814評論 0 361
  • 文/不壞的土叔 我叫張陵懈玻,是天一觀的道長巧婶。 經(jīng)常有香客問我,道長涂乌,這世上最難降的妖魔是什么艺栈? 我笑而不...
    開封第一講書人閱讀 59,869評論 1 299
  • 正文 為了忘掉前任,我火速辦了婚禮湾盒,結(jié)果婚禮上湿右,老公的妹妹穿的比我還像新娘。我一直安慰自己罚勾,他們只是感情好毅人,可當我...
    茶點故事閱讀 68,888評論 6 398
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著尖殃,像睡著了一般丈莺。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上送丰,一...
    開封第一講書人閱讀 52,475評論 1 312
  • 那天缔俄,我揣著相機與錄音,去河邊找鬼器躏。 笑死俐载,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的登失。 我是一名探鬼主播遏佣,決...
    沈念sama閱讀 41,010評論 3 422
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼壁畸!你這毒婦竟也來了贼急?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,924評論 0 277
  • 序言:老撾萬榮一對情侶失蹤捏萍,失蹤者是張志新(化名)和其女友劉穎太抓,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體令杈,經(jīng)...
    沈念sama閱讀 46,469評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡走敌,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,552評論 3 342
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了逗噩。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片掉丽。...
    茶點故事閱讀 40,680評論 1 353
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖异雁,靈堂內(nèi)的尸體忽然破棺而出捶障,到底是詐尸還是另有隱情,我是刑警寧澤纲刀,帶...
    沈念sama閱讀 36,362評論 5 351
  • 正文 年R本政府宣布项炼,位于F島的核電站,受9級特大地震影響示绊,放射性物質(zhì)發(fā)生泄漏锭部。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 42,037評論 3 335
  • 文/蒙蒙 一面褐、第九天 我趴在偏房一處隱蔽的房頂上張望拌禾。 院中可真熱鬧,春花似錦展哭、人聲如沸湃窍。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,519評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽坝咐。三九已至,卻和暖如春析恢,著一層夾襖步出監(jiān)牢的瞬間墨坚,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,621評論 1 274
  • 我被黑心中介騙來泰國打工映挂, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留泽篮,地道東北人。 一個月前我還...
    沈念sama閱讀 49,099評論 3 378
  • 正文 我出身青樓柑船,卻偏偏與公主長得像帽撑,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子鞍时,可洞房花燭夜當晚...
    茶點故事閱讀 45,691評論 2 361

推薦閱讀更多精彩內(nèi)容