搭建Hadoop所遇過的坑

問題1:

報(bào)錯(cuò)信息如下:

  Container exited with a non-zero exit code 143  Killed by external signal
解決方案:

分配的資源不夠芽突,加大內(nèi)存或者調(diào)整代碼驼侠,盡量避免類似JsonObject這樣的大對(duì)象過度消耗內(nèi)存输吏,或者Include below properties in yarn-site.xml and restart VM

<property>
   <name>yarn.nodemanager.vmem-check-enabled</name>
   <value>false</value>
   <description>Whether virtual memory limits will be enforced for containers</description>
</property>
<property>
   <name>yarn.nodemanager.vmem-pmem-ratio</name>
   <value>4</value>
   <description>Ratio between virtual memory to physical memory when setting memory limits for containers</description>
</property>

</br>
</br>

問題2:

報(bào)錯(cuò)信息如下:

    HDFS進(jìn)入安全模式: Name node is in safemode mode
解決方案:
    退出安全模式, 執(zhí)行命令:   hadoop dfsadmin -safemode leave 

</br>
</br>

問題3:

報(bào)錯(cuò)信息如下:

INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-Java classes where applicable -- hadoop的本地庫加載失敗履腋。
解決方案:

檢查native庫的版本信息帖蔓,32bit的版本和64bit的版本在不匹配的機(jī)器上會(huì)加載失敗企软,檢查的命令是file <native-so-file>
native庫依賴的glibc的版本問題庐扫。如果在高版本gcc(glibc)的機(jī)器上編譯的native庫,放到低版本的機(jī)器上使用仗哨,會(huì)由于glibc版本不一致導(dǎo)致該錯(cuò)誤形庭。

Hadoop默認(rèn)會(huì)從$HADOOP_HOME/lib/native/Linux-*目錄中加載本地庫。
如果加載成功厌漂,輸出為:

DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library... 
INFO util.NativeCodeLoader - Loaded the native-hadoop library

如果加載失敗萨醒,則報(bào)錯(cuò)為

Unable to load native-hadoop library for your platform...

相關(guān)的配置:

  1. 在Hadoop的配置文件core-site.xml中可以設(shè)置是否使用本地庫:(Hadoop默認(rèn)的配置為啟用本地庫)
<property>  
    <name>hadoop.native.lib</name>  
    <value>true</value>  
    <description>Should native hadoop libraries, if present, be used.</description>  
</property> 
  1. 另外,可以在環(huán)境變量中設(shè)置使用本地庫的位置:
export JAVA_LIBRARY_PATH=/path/to/hadoop-native-libs

</br>
</br>

問題4:

報(bào)錯(cuò)信息如下:

    maps to localhost, but this does not map back
解決方案:
原因:  因?yàn)镈NS服務(wù)器把 192.168.x.x 的地址都反向解析成 localhost 苇倡,而DNS服務(wù)器不是自己的富纸,不能改。 
辦法:  編輯ssh 客戶端的 /etc/hosts 文件旨椒,把出問題的IP 地址和主機(jī)名加進(jìn)去晓褪,就不會(huì)報(bào)這樣的錯(cuò)了。

</br>
</br>

問題5:

報(bào)錯(cuò)信息如下:

java.io.IOException: Incompatible clusterIDsin /home/wangming/hadoop-data/dfs/data
解決方案:
格式化HDFS前, 先將原來的hadoop目錄刪除

</br>
</br>

問題6:

報(bào)錯(cuò)信息如下:

jps命令正常综慎,但是8088端口的WEB頁面無法訪問
解決方案:
檢查一下防火墻和selinux狀態(tài), 將防火墻和selinux關(guān)閉
防火墻:
service iptables status

關(guān)閉selinux:

  1. 永久修改
修改/etc/selinux/config文件中設(shè)置SELINUX=disabled 涣仿,然后重啟服務(wù)器。
  1. 臨時(shí)修改,執(zhí)行以下命令:
setenforce 0    

內(nèi)容擴(kuò)展:

setenforce 1: 設(shè)置SELinux 成為enforcing模式
setenforce 0: 設(shè)置SELinux 成為permissive模式

</br>
</br>

問題7:

報(bào)錯(cuò)信息如下:

8088端口訪問正常哲身,但是看不到datanode節(jié)點(diǎn)
解決方案:
可能出現(xiàn)的問題和解決方案:
    1.8080端口沒有打開, 手動(dòng)啟動(dòng)yarn
    2.8080端口被其他進(jìn)程占用, kill掉占用該端口的進(jìn)程, 然后重啟yarn
    3.8080端口被其他進(jìn)程占用, 若(2)中占用的程序不能kill調(diào)用,則在yarn-site.xml配置文件中配置yarn.resourcemanager.address項(xiàng), 將8080端口改為其他端口號(hào), 比如: 8085

</br>
</br>

問題8:

報(bào)錯(cuò)信息如下:

org.apache.hadoop.ipc.Client: Retrying connect to server: master/192.168.216.131:54310
解決方案:

hostname的問題硬耍,同時(shí),namenode與datanode的/etc/hosts內(nèi)容都必須是ip位址與hostname的對(duì)應(yīng)浮定,不能使用127.0.0.1代替本機(jī)的ip地址钧汹,否則hadoop使用hostname找IP時(shí)丈探,會(huì)以127.0.0.1作為IP地址.

1. 檢查slave機(jī)器到master機(jī)器的連通性;
2. 檢查master機(jī)器上拔莱,是否打開了192.168.216.131:54310的監(jiān)聽(netstat -nap | grep 54310)

</br>
</br>

問題9:

報(bào)錯(cuò)信息如下:

FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain:
解決方案:
檢查hostname是否在/etc/hosts文件中配置, 若無則將hostname配置到/etc/hosts文件中

</br>
</br>

問題10:

1.報(bào)錯(cuò)信息如下:

java.net.NoRouteToHostException: No route to host
解決方案:
zookeeper的IP要配對(duì)

</br>
</br>

問題11:

報(bào)錯(cuò)信息如下:

  CALL TO LOCALHOST/127.0.0.1:9000 
解決方案:

檢查網(wǎng)卡,主機(jī)名,主機(jī)名與IP的映射是否正確:

  /etc/sysconfig/network-scripts/ifcfg-eth0            網(wǎng)卡:
  /etc/sysconfig/network                               主機(jī)名:
  /etc/hosts                                           主機(jī)名與IP的映射:  

</br>
</br>

問題12:

報(bào)錯(cuò)信息如下:

  打開namenode:50070頁面碗降,Datanode Infomation只顯示一個(gè)節(jié)點(diǎn)
解決方案:
檢查主機(jī)名,主機(jī)名與IP的映射,SSH配置是夠正確
    主機(jī)名:/etc/sysconfig/network   
    主機(jī)名與IP的映射:/etc/hosts
    SSH配置:
        ~/.ssh/config
        ~/.ssh/authorized_keys
        ~/.ssh/known_hosts

</br>
</br>

問題13:

報(bào)錯(cuò)信息如下:

  hadoop的文件不能下載以及YARN中Tracking UI不能訪問歷史日志 
解決方案:
  windows系統(tǒng)不能解析域名所致,將/etc/hosts文件中主機(jī)名與IP的映射配置到到windows系統(tǒng)下的C:\Windows\System32\drivers\etc\hosts文件中

</br>
</br>

問題14:

5.報(bào)錯(cuò)信息如下:

  NativeCrc32.nativeComputeChunkedSumsByteArray
解決方案:
  配置eclipse的hadoop-home辨宠,bin和system32文件夾中加入64位的2.6版本的hadoop.dll

</br>
</br>

問題15:

報(bào)錯(cuò)信息如下:

  HDFS誤刪文件如何恢復(fù) 
解決方案:

$HADOOP_HOME/etc/hadoop/core-site.xml文件中添加以下配置

<property>
    <name>fs.trash.interval</name>
    <value>2880</value>
    <description>HDFS垃圾箱設(shè)置遗锣,可以恢復(fù)誤刪除货裹,配置的值為分鐘數(shù)嗤形,0為禁用</description>
</property>

恢復(fù)文件執(zhí)行hdfs dfs -mv /user/root/.Trash/Current/誤刪文件 /原路徑


</br>
</br>
</br>

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市弧圆,隨后出現(xiàn)的幾起案子赋兵,更是在濱河造成了極大的恐慌,老刑警劉巖搔预,帶你破解...
    沈念sama閱讀 206,214評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件霹期,死亡現(xiàn)場離奇詭異,居然都是意外死亡拯田,警方通過查閱死者的電腦和手機(jī)历造,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,307評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來船庇,“玉大人吭产,你說我怎么就攤上這事⊙悸郑” “怎么了臣淤?”我有些...
    開封第一講書人閱讀 152,543評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長窃爷。 經(jīng)常有香客問我邑蒋,道長,這世上最難降的妖魔是什么按厘? 我笑而不...
    開封第一講書人閱讀 55,221評(píng)論 1 279
  • 正文 為了忘掉前任医吊,我火速辦了婚禮,結(jié)果婚禮上逮京,老公的妹妹穿的比我還像新娘卿堂。我一直安慰自己,他們只是感情好造虏,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,224評(píng)論 5 371
  • 文/花漫 我一把揭開白布御吞。 她就那樣靜靜地躺著麦箍,像睡著了一般。 火紅的嫁衣襯著肌膚如雪陶珠。 梳的紋絲不亂的頭發(fā)上挟裂,一...
    開封第一講書人閱讀 49,007評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音揍诽,去河邊找鬼诀蓉。 笑死,一個(gè)胖子當(dāng)著我的面吹牛暑脆,可吹牛的內(nèi)容都是我干的渠啤。 我是一名探鬼主播,決...
    沈念sama閱讀 38,313評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼添吗,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼沥曹!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起碟联,我...
    開封第一講書人閱讀 36,956評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤妓美,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后鲤孵,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體壶栋,經(jīng)...
    沈念sama閱讀 43,441評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,925評(píng)論 2 323
  • 正文 我和宋清朗相戀三年贵试,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片凯正。...
    茶點(diǎn)故事閱讀 38,018評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出施符,到底是詐尸還是另有隱情听哭,我是刑警寧澤,帶...
    沈念sama閱讀 33,685評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏呼渣。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,234評(píng)論 3 307
  • 文/蒙蒙 一使鹅、第九天 我趴在偏房一處隱蔽的房頂上張望炊苫。 院中可真熱鬧唠梨,春花似錦袋励、人聲如沸糠雨。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,240評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至寒亥,卻和暖如春邮府,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背溉奕。 一陣腳步聲響...
    開封第一講書人閱讀 31,464評(píng)論 1 261
  • 我被黑心中介騙來泰國打工褂傀, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人加勤。 一個(gè)月前我還...
    沈念sama閱讀 45,467評(píng)論 2 352
  • 正文 我出身青樓仙辟,卻偏偏與公主長得像,于是被迫代替她去往敵國和親鳄梅。 傳聞我的和親對(duì)象是個(gè)殘疾皇子叠国,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,762評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容

  • 經(jīng)過一系列的前期環(huán)境準(zhǔn)備,現(xiàn)在可以開始Hadoop的安裝了戴尸,在這里去apache官網(wǎng)下載2.7.3的版本http:...
    歡醉閱讀 1,651評(píng)論 8 28
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 171,502評(píng)論 25 707
  • 一.基本功能: 1.啟動(dòng)hive時(shí)報(bào)錯(cuò) 解決方案: 2.啟動(dòng)hive時(shí)報(bào)錯(cuò): 解決方案: 3.啟動(dòng)hive時(shí)報(bào)錯(cuò) ...
    咸魚翻身記閱讀 51,151評(píng)論 5 27
  • 靜下來孙蒙,慢下來 今天项棠,在網(wǎng)頁上不經(jīng)意的看到了一位非常傳奇的女性。 她在年過半百的時(shí)候马篮,迎來了自己事業(yè)和愛情的第二次...
    蘇薇suvy閱讀 615評(píng)論 2 2
  • 你追時(shí)尚沾乘,我躲時(shí)尚,我怕時(shí)尚跑到我身上浑测。 你嫌我土翅阵,我嫌你洋歪玲,洋花開在土樹上。 張口都是我我我掷匠,何時(shí)能提你你你滥崩?我...
    八里山人程遠(yuǎn)河閱讀 591評(píng)論 11 18