關(guān)于hadoop下 Unable to load native-hadoop library for your platform的一些總結(jié)

??在hadoop的學(xué)習(xí)過程中,遇到了WARN util.NativeCodeLoader: Unable to load native-hadoop library for yourplatform... using builtin-java classes where applicable的警告却舀。盡管并不影響程序的正常運(yùn)行硬猫,但每次使用hdfs命令時(shí)彈出警告還是略微影響使用體驗(yàn)的甜紫。因此凳谦,將調(diào)試過程記錄如下:


??寫在前面:Hadoop本地庫是為了提高效率或者某些不能用Java實(shí)現(xiàn)的功能組件庫驹尼。目前只支持 *unix, 在Mac OS X和Cygwin上不提供直接支持。因此需要自己重新編譯晚顷,這里有篇文章可供參考:Mac OSX 下 Hadoop 使用本地庫提高效率

1.確認(rèn)OS位數(shù)峰伙,JDK位數(shù),Hadoop本地庫位數(shù)是否一致
??OS位數(shù)查看方法:uname -a
??JDK位數(shù)查看方法:java -version
??Hadoop本地庫位數(shù)查看方法:進(jìn)入hadoop下的lib/native文件夾下 ldd libhadoop.so.1.0.0
2.路徑問題
開啟debug:直接在shell下運(yùn)行下以下代碼

export HADOOP_ROOT_LOGGER=DEBUG,console

此時(shí)通過hdfs dfs -ls來查看輸出并找到如下記錄

DEBUG util.NativeCodeLoader: java.library.path=/usr/local/hadoop/lib/

如果記錄與之類似该默,即沒有/lib/native/結(jié)尾的路徑瞳氓,說明問題的原因出在path問題上,本地庫的路徑并沒有被正確的加載栓袖。

解決方法:
在/HADOOP_HOME/etc/hadoop/中的hadoop_env.sh中修改如下信息:

export HADOOP_OPTS="$HADOOP_OPTS -Djava.library.path=$HADOOP_HOME/lib/native"

再次執(zhí)行hdfs dfs -ls并查看輸出匣摘,若path仍未以native/結(jié)尾店诗,返回根目錄下執(zhí)行echo $PATH,查看$HADOOP_HOME的路徑是否正確輸出音榜,若不存在Hadoop的路徑庞瘸,則通過修改.bash_profile或者/etc/profile文件配置好Hadoop路徑并通過source /etc/profile來使配置生效

3.鏈接文件問題
查看native文件夾下libhadoop.solibhdfs.so文件是否存在,若不存在囊咏,做符號鏈接之恕洲。若存在但文件大小為0,刪除并重新做符號鏈接

ln -s libhadoop.so.1.0.0 libhadoop.so
ln -s libhdfs.so.0.0.0 libhdfs.so
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末梅割,一起剝皮案震驚了整個(gè)濱河市霜第,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌户辞,老刑警劉巖泌类,帶你破解...
    沈念sama閱讀 221,273評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異底燎,居然都是意外死亡刃榨,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,349評論 3 398
  • 文/潘曉璐 我一進(jìn)店門双仍,熙熙樓的掌柜王于貴愁眉苦臉地迎上來枢希,“玉大人,你說我怎么就攤上這事朱沃“危” “怎么了?”我有些...
    開封第一講書人閱讀 167,709評論 0 360
  • 文/不壞的土叔 我叫張陵逗物,是天一觀的道長搬卒。 經(jīng)常有香客問我,道長翎卓,這世上最難降的妖魔是什么契邀? 我笑而不...
    開封第一講書人閱讀 59,520評論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮失暴,結(jié)果婚禮上坯门,老公的妹妹穿的比我還像新娘。我一直安慰自己逗扒,他們只是感情好田盈,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,515評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著缴阎,像睡著了一般。 火紅的嫁衣襯著肌膚如雪简软。 梳的紋絲不亂的頭發(fā)上蛮拔,一...
    開封第一講書人閱讀 52,158評論 1 308
  • 那天述暂,我揣著相機(jī)與錄音,去河邊找鬼建炫。 笑死畦韭,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的肛跌。 我是一名探鬼主播艺配,決...
    沈念sama閱讀 40,755評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼衍慎!你這毒婦竟也來了转唉?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,660評論 0 276
  • 序言:老撾萬榮一對情侶失蹤稳捆,失蹤者是張志新(化名)和其女友劉穎赠法,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體乔夯,經(jīng)...
    沈念sama閱讀 46,203評論 1 319
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡砖织,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,287評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了末荐。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片侧纯。...
    茶點(diǎn)故事閱讀 40,427評論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖甲脏,靈堂內(nèi)的尸體忽然破棺而出眶熬,到底是詐尸還是另有隱情,我是刑警寧澤剃幌,帶...
    沈念sama閱讀 36,122評論 5 349
  • 正文 年R本政府宣布聋涨,位于F島的核電站,受9級特大地震影響负乡,放射性物質(zhì)發(fā)生泄漏牍白。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,801評論 3 333
  • 文/蒙蒙 一抖棘、第九天 我趴在偏房一處隱蔽的房頂上張望茂腥。 院中可真熱鬧,春花似錦切省、人聲如沸最岗。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,272評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽般渡。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間驯用,已是汗流浹背脸秽。 一陣腳步聲響...
    開封第一講書人閱讀 33,393評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留蝴乔,地道東北人记餐。 一個(gè)月前我還...
    沈念sama閱讀 48,808評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像薇正,于是被迫代替她去往敵國和親片酝。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,440評論 2 359

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理挖腰,服務(wù)發(fā)現(xiàn)雕沿,斷路器,智...
    卡卡羅2017閱讀 134,693評論 18 139
  • 經(jīng)過一系列的前期環(huán)境準(zhǔn)備曙聂,現(xiàn)在可以開始Hadoop的安裝了晦炊,在這里去apache官網(wǎng)下載2.7.3的版本http:...
    歡醉閱讀 1,679評論 8 28
  • 版權(quán)聲明:本文為博主原創(chuàng)文章,未經(jīng)博主允許不得轉(zhuǎn)載宁脊。 目錄-[-]1 先決條件2 實(shí)驗(yàn)環(huán)境搭建 21 準(zhǔn)備工...
    三三At你閱讀 843評論 0 3
  • 之前的有點(diǎn)忘記了,這里在云筆記拿出來再玩玩.看不懂的可以留言 大家可以嘗試下Ambari來配置Hadoop的相關(guān)環(huán)...
    HT_Jonson閱讀 2,966評論 0 50
  • 前兩天和室友去了我們當(dāng)?shù)匾粋€(gè)有名的夜市榆苞,取了錢要去放肆一把稳衬。夜市,聽起來就是一個(gè)人很多很熱鬧的地方坐漏,作為還沒有經(jīng)濟(jì)...
    這是小花啊閱讀 349評論 0 0