centos6.7 編譯hadoop hdfs 2.8.5

操作系統(tǒng)環(huán)境centos6.7 x86_64
jdk版本:1.8.0_172(java 最低版本1.7)
hadoop:2.8.5

hadoop的默認(rèn)native lib是32位彼妻,所以在啟動(dòng)和使用hdfs命令時(shí)會(huì)出現(xiàn)如下信息,

Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

如果只是使用hadoop的非hdfs的功能骡澈,可以通過日志信息屏蔽掉這個(gè)提示捂贿;如果要使用hdfs的功能抖甘,就需要重新編譯hadoop缤苫。hadoop的下載地址:http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.8.5/诵叁,編譯hadoop之前业栅,需安裝一些組件:

1冈欢,安裝組件
#yum install –y autoconf automake libtool
#yum install –y glibc-headers
#yum install –y gcc
#yum install –y gcc-c++
#yum install –y lzo-devel zlib-devel
#yum install –y openssl-devel
2歉铝,安裝cmake

下載地址:http://www.cmake.org/files/v2.8/cmake-2.8.10.2.tar.gz,安裝路徑為/opt/cmake

#mkdir -p /opt/cmake
#cd /opt/cmake
#wget http://www.cmake.org/files/v2.8/cmake-2.8.10.2.tar.gz
# tar -xvf cmake-2.8.10.2.tar.gz
#ln -s cmake-2.8.10.2 cmake
#cd cmake
# ./bootstrap
#gmake
#gmake install
3凑耻,安裝protobuf

下載地址:https://github.com/protocolbuffers/protobuf/releases?after=v3.0.0-alpha-1(hadoop-2.8.5使用protobuf的最低版本是2.5)

#mkdir –p /opt/protobuf
#tar –xvf protobuf-2.5.0.tar
#ln –s protobuf-2.5.0 protobuf
#./configure --prefix=/usr/protobuf
#make
#make install

安裝完成犯戏,將protobuf配置到環(huán)境變量,可以在/etc/profile文件末尾添加拳话,然后測(cè)試一下安裝:

#protoc –version

輸出內(nèi)容:libprotoc 2.5.0

4先匪,安裝maven

使用maven3.0.0以上版本,下載地址:http://www-eu.apache.org/dist/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz弃衍,安裝之前確保已配置java環(huán)境變量呀非。

#mkdir -p /opt/maven
#wget http://www-eu.apache.org/dist/maven/maven-3/3.5.4/binaries/apache-maven-3.5.4-bin.tar.gz
#tar –xvf apache-maven-3.5.4-bin.tar.gz
#ln –s apache-maven-3.5.4 maven

將maven以同樣的方式添加到系統(tǒng)環(huán)境變量,并配置maven鏡像,可以是apache岸裙,或則ali的鏡像猖败。

5,編譯hadoop
#mkdir -p /opt/hadoop
#cd /opt/hadoop
#tar -xvf hadoop-2.8.5-src.tar.gz
#ln –s hadoop-2.8.5-src hadoop-src
#cd hadoop-src
#mvn package -Pdist,native -DskipTests -Dtar

等待hadoop編譯完成降允,在hadoop-disk/target下恩闻,可以看到編譯完成的hadoop文件



將hadoop-2.8.5拷貝到/opt/hadoop/下

#cp hadoop-2.8.5 /opt/hadoop/
#cd /opt/hadoop
#ln -s hadoop-2.8.5 hadoop
6,配置偽分布式hadoop

按照haddop官網(wǎng)的配置方式剧董,實(shí)現(xiàn)最簡配置:
1幢尚,編輯hadoop-env.sh,在文件中配置如下信息:

export JAVA_HOME=/usr/jdk/instances/jdk1.8.0_172
export HADOOP_LOG_DIR=/opt/hadoop/logs/pid_dir
export HADOOP_PID_DIR=/opt/hadoop/logs/pid

2翅楼,編輯core-site.xml尉剩,在configuration節(jié)點(diǎn)下添加如下內(nèi)容

        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://localhost:9000</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/opt/hadoop/tmp</value>
        </property>

3,編輯hdfs-site.xml毅臊,在configuration節(jié)點(diǎn)下添加如下內(nèi)容

        <property>
                <name>dfs.replication</name>
                <value>1</value>
        </property>

4理茎,設(shè)置面密碼登錄

#ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
#cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
#chmod 0600 ~/.ssh/authorized_keys

5,初始化

#cd /opt/hadoop/hadoop/bin
#./hadoop namenode -format

6管嬉,啟動(dòng)

#cd /usr/hadoop/hadoop/sbin
#./start-ds.sh

服務(wù)啟動(dòng)后皂林,檢查是否存在warning信息,同時(shí)使用http://localhost:50070/查看

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末蚯撩,一起剝皮案震驚了整個(gè)濱河市础倍,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌求厕,老刑警劉巖著隆,帶你破解...
    沈念sama閱讀 211,123評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件扰楼,死亡現(xiàn)場離奇詭異呀癣,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)弦赖,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,031評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門项栏,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人蹬竖,你說我怎么就攤上這事沼沈。” “怎么了币厕?”我有些...
    開封第一講書人閱讀 156,723評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵列另,是天一觀的道長。 經(jīng)常有香客問我旦装,道長页衙,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,357評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮店乐,結(jié)果婚禮上艰躺,老公的妹妹穿的比我還像新娘。我一直安慰自己眨八,他們只是感情好腺兴,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,412評(píng)論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著廉侧,像睡著了一般页响。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上伏穆,一...
    開封第一講書人閱讀 49,760評(píng)論 1 289
  • 那天拘泞,我揣著相機(jī)與錄音,去河邊找鬼枕扫。 笑死陪腌,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的烟瞧。 我是一名探鬼主播诗鸭,決...
    沈念sama閱讀 38,904評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢(mèng)啊……” “哼参滴!你這毒婦竟也來了强岸?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,672評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤砾赔,失蹤者是張志新(化名)和其女友劉穎蝌箍,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體暴心,經(jīng)...
    沈念sama閱讀 44,118評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡妓盲,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,456評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了专普。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片悯衬。...
    茶點(diǎn)故事閱讀 38,599評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖檀夹,靈堂內(nèi)的尸體忽然破棺而出筋粗,到底是詐尸還是另有隱情,我是刑警寧澤炸渡,帶...
    沈念sama閱讀 34,264評(píng)論 4 328
  • 正文 年R本政府宣布娜亿,位于F島的核電站,受9級(jí)特大地震影響蚌堵,放射性物質(zhì)發(fā)生泄漏买决。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,857評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望策州。 院中可真熱鬧瘸味,春花似錦、人聲如沸够挂。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽孽糖。三九已至枯冈,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間办悟,已是汗流浹背尘奏。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評(píng)論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留病蛉,地道東北人炫加。 一個(gè)月前我還...
    沈念sama閱讀 46,286評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像铺然,于是被迫代替她去往敵國和親俗孝。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,465評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容