集群常見(jiàn)錯(cuò)誤解決方案

1议蟆、java.net.NoRouteToHostException: No route to host?

解決方法:zookeeper的IP要配對(duì)?

2葱淳、Failed to locate the winutils binary in the hadoop binary path?

解決方法:先安裝好hadoop?

3隐解、CALL TO LOCALHOST/127.0.0.1:9000?

解決方法:host配置正確,/etc/sysconfig/network??? /etc/hosts??? /etc/sysconfig/network-scripts/ifcfg-eth0?

4嗡载、打開(kāi)namenode:50070頁(yè)面惩琉,Datanode Infomation只顯示一個(gè)節(jié)點(diǎn)?

解決方法:SSH配置錯(cuò)誤導(dǎo)致狸膏,主機(jī)名一定要嚴(yán)格匹配荚虚,重新配置ssh免密碼登錄?

5、建議:不要隨意格式化HDFS良蒸,這會(huì)帶來(lái)數(shù)據(jù)版本不一致等諸多問(wèn)題疑俭,格式化前要清空數(shù)據(jù)文件夾?

6粮呢、namenode1: ssh: connect to host namenode1 port 22: Connection refused?

解決方法:sshd被關(guān)閉或沒(méi)安裝導(dǎo)致,which sshd檢查是否安裝钞艇,若已經(jīng)安裝啄寡,則sshd restart,并ssh 本機(jī)hostname哩照,檢查是否連接成功?

7挺物、Log aggregation has not completed or is not enabled.?

解決方法:在yarn-site.xml中增加相應(yīng)配置,以支持日志聚合?

8飘弧、Exception in thread "main" org.apache.spark.SparkException: Yarn application has already ended! It might have been killed or unable to launch application master.?

解決方法:yarn-lient模式出現(xiàn)的異常识藤,暫時(shí)無(wú)解?

9、hadoop的文件不能下載以及YARN中Tracking UI不能訪問(wèn)歷史日志?

解決方法:windows系統(tǒng)不能解析域名所致次伶,把hosts文件hostname復(fù)制到windows的hosts中?

10痴昧、建議:HDFS文件路徑寫(xiě)法為:hdfs://master:9000/文件路徑,這里的master是namenode的hostname,9000是hdfs端口號(hào)冠王。?

11赶撰、Yarn JobHistory Error: Failed redirect for container?

解決方法:將 http://:19888/jobhistory/logs? 配置到y(tǒng)arn-site.xml中,重啟yarn和JobHistoryServer?

12版确、通過(guò)hadoop UI訪問(wèn)hdfs文件夾時(shí)扣囊,出現(xiàn)提示 Permission denied: user=dr.who?

解決方法:namonode節(jié)點(diǎn)終端執(zhí)行:hdfs dfs -chmod -R 755 /?

13、建議:提交到y(tǒng)arn cluster的作業(yè)不能直接print到控制臺(tái)绒疗,要用log4j輸出到日志文件中?

14侵歇、log4j:WARN Unsupported encoding?

解決方法:1.把UTF改成小寫(xiě)utf-8??? 2.設(shè)置編碼那行有空格?

15、 ERROR ApplicationMaster: SparkContext did not initialize after waiting for 100000 ms. Please check earlier log output for errors. Failing the application

解決方法:資源不能分配過(guò)大,或者沒(méi)有把.setMaster("local")去掉

16吓蘑、Yarn的RM單點(diǎn)故障?

解決方法:通過(guò)三節(jié)點(diǎn)zookeeper集群和yarn-site.xml配置文件完成Yarn HA?

17惕虑、Yarn HA環(huán)境下坟冲,通過(guò)web訪問(wèn)history日志被跳轉(zhuǎn)到8088而無(wú)法顯示?

解決方法:恢復(fù)Yarn Http默認(rèn)端口8088?

18、Using config: /work/poa/zookeeper-3.4.6/bin/../conf/zoo.cfg? Error contacting service. It is probably not running.?

解決方法:配置文件不正確溃蔫,例如hostname不匹配等?

19健提、linux服務(wù)器磁盤(pán)爆滿,檢查超過(guò)指定大小的文件?

解決方法:find / -type f -size +10G??

20伟叛、HADOOP 磁盤(pán)滿的各節(jié)點(diǎn)平衡?

解決方法:運(yùn)行指令hdfs balancer -Threshold 3 或者 運(yùn)行 start-balancer.sh 腳本格式:$Hadoop_home/bin/start-balancer.sh -threshold私痹,參數(shù)3是比例參數(shù),表示3%统刮,也就是平各個(gè)DataNode直接磁盤(pán)使用率偏差在3%以內(nèi)?

21紊遵、建議:數(shù)據(jù)傾斜只發(fā)生在shuffle過(guò)程,可能觸發(fā)shuffle操作的算子有:distinct? groupByKey? reduceByKey? aggregateByKey? join? cogroup? repartition等?

22侥蒙、啟動(dòng)hadoop yarn,發(fā)現(xiàn)只啟動(dòng)了ResourceManager暗膜,沒(méi)有啟動(dòng)NodeManager?

解決方法:yarn-site.xml配置有問(wèn)題,檢查并規(guī)范各項(xiàng)配置?

23鞭衩、如何查看hadoop系統(tǒng)日志?

解決方法:Hadoop 2.x中YARN系統(tǒng)的服務(wù)日志包括ResourceManager日志和各個(gè)NodeManager日志学搜,它們的日志位置如下:ResourceManager日志存放位置是Hadoop安裝目錄下的logs目錄下的yarn-*-resourcemanager-*.log,NodeManager日志存放位置是各個(gè)NodeManager節(jié)點(diǎn)上hadoop安裝目錄下的logs目錄下的yarn-*-nodemanager-*.log?

24论衍、建議:小于128M的小文件都會(huì)占據(jù)一個(gè)128M的BLOCK瑞佩,合并或者刪除小文件節(jié)省磁盤(pán)空間?

25、how to remove Non DFS Used?

解決方法:1)清除hadoop數(shù)據(jù)目錄中用戶緩存文件:cd /data/hadoop/storage/tmp/nm-local-dir/usercache;du -h;rm -rf `find? -type f -size +10M`;? 2)清理Linux文件系統(tǒng)中的垃圾數(shù)據(jù)?

26饲齐、linux profile配置文件隔離?

解決方法:cd /etc/profile.d;在這里新建相應(yīng)配置腳本?

27钉凌、啟動(dòng)yarn咧最,發(fā)現(xiàn)只啟動(dòng)了部分Nodemanager?

解決方法:未啟動(dòng)的節(jié)點(diǎn)缺少yarn相關(guān)包捂人,要保持所有節(jié)點(diǎn)jar包一致?

28、HDFS誤刪文件如何恢復(fù)解決方法:core-site文件中加入?

???? fs.trash.interval?

???? 2880?

???? HDFS垃圾箱設(shè)置矢沿,可以恢復(fù)誤刪除滥搭,配置的值為分鐘數(shù),0為禁用?

恢復(fù)文件執(zhí)行 hdfs dfs -mv? /user/root/.Trash/Current/誤刪文件??? /原路徑?

29捣鲸、改了linux定時(shí)腳本里邊部分任務(wù)順序瑟匆,導(dǎo)致有些任務(wù)未執(zhí)行,而有些重復(fù)執(zhí)行?

解決方法:Linux腳本修改后實(shí)時(shí)生效栽惶,務(wù)必在腳本全部執(zhí)行完再修改愁溜,以免產(chǎn)生副作用?

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市外厂,隨后出現(xiàn)的幾起案子冕象,更是在濱河造成了極大的恐慌,老刑警劉巖汁蝶,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件渐扮,死亡現(xiàn)場(chǎng)離奇詭異论悴,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)墓律,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門(mén)膀估,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人耻讽,你說(shuō)我怎么就攤上這事察纯。” “怎么了针肥?”我有些...
    開(kāi)封第一講書(shū)人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵捐寥,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我祖驱,道長(zhǎng)握恳,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任捺僻,我火速辦了婚禮乡洼,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘匕坯。我一直安慰自己束昵,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布葛峻。 她就那樣靜靜地躺著锹雏,像睡著了一般。 火紅的嫁衣襯著肌膚如雪术奖。 梳的紋絲不亂的頭發(fā)上礁遵,一...
    開(kāi)封第一講書(shū)人閱讀 51,365評(píng)論 1 302
  • 那天,我揣著相機(jī)與錄音采记,去河邊找鬼佣耐。 笑死,一個(gè)胖子當(dāng)著我的面吹牛唧龄,可吹牛的內(nèi)容都是我干的兼砖。 我是一名探鬼主播,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼既棺,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼讽挟!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起丸冕,我...
    開(kāi)封第一講書(shū)人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤耽梅,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后晨仑,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體褐墅,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡拆檬,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了妥凳。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片竟贯。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖逝钥,靈堂內(nèi)的尸體忽然破棺而出屑那,到底是詐尸還是另有隱情,我是刑警寧澤艘款,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布持际,位于F島的核電站,受9級(jí)特大地震影響哗咆,放射性物質(zhì)發(fā)生泄漏蜘欲。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一晌柬、第九天 我趴在偏房一處隱蔽的房頂上張望姥份。 院中可真熱鬧,春花似錦年碘、人聲如沸澈歉。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)埃难。三九已至,卻和暖如春涤久,著一層夾襖步出監(jiān)牢的瞬間涡尘,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工拴竹, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留悟衩,地道東北人剧罩。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓栓拜,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親惠昔。 傳聞我的和親對(duì)象是個(gè)殘疾皇子幕与,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • 一、系統(tǒng)參數(shù)配置優(yōu)化 1镇防、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf啦鸣,添加如下配置,然后執(zhí)行s...
    張偉科閱讀 3,750評(píng)論 0 14
  • 終極算法 關(guān)注微信號(hào)每天收聽(tīng)我們的消息終極算法為您推送精品閱讀 前言 Hadoop 在大數(shù)據(jù)技術(shù)體系中的地位至關(guān)...
    Yespon閱讀 129,897評(píng)論 12 168
  • 前言 Hadoop在大數(shù)據(jù)技術(shù)體系中的地位至關(guān)重要来氧,Hadoop是大數(shù)據(jù)技術(shù)的基礎(chǔ)诫给,對(duì)Hadoop基礎(chǔ)知識(shí)的掌握的...
    __豆約翰__閱讀 1,600評(píng)論 2 3
  • 前言 Hadoop在大數(shù)據(jù)技術(shù)體系中的地位至關(guān)重要香拉,Hadoop是大數(shù)據(jù)技術(shù)的基礎(chǔ),對(duì)Hadoop基礎(chǔ)知識(shí)的掌握的...
    piziyang12138閱讀 1,968評(píng)論 0 3
  • 文/恰恰天藍(lán) 1 直到上星期,我算是跟用了十幾年的Windows XP(以下簡(jiǎn)稱XP)說(shuō)「再見(jiàn)」了胃榕。 如果不是藍(lán)屏...
    恰恰天藍(lán)閱讀 299評(píng)論 0 0