1 Hadoop簡(jiǎn)介和編譯 2018-05-11

1.Hadoop官網(wǎng)
http://hadoop.apache.org/
2.hadoop版本說明
①.hadoop1.x:
HDFS:分布式文件系統(tǒng),存儲(chǔ)
MapReduce:分布式計(jì)算+資源調(diào)度和作業(yè)調(diào)度
②.hadoop2.x:
HDFS:存儲(chǔ)
MapReduce:計(jì)算
Yarn:YetAnother Resource Negotiator 資源調(diào)度和作業(yè)調(diào)度平臺(tái)
3.hadoop編譯要求

Github:https://github.com/apache/hadoop
        https://github.com/apache/hadoop/blob/trunk/BUILDING.txt

打開BUILDING.txt查看hadoop-2.8.1-src需求
[root@rzdatahadoop002 hadoop-2.8.1-src]# more BUILDING.txt

Build instructions for Hadoop
--------------------------------------------------------------------------------
Requirements:

* Unix System
* JDK 1.7+
* Maven 3.0 or later
* Findbugs 1.3.9 (if running findbugs)
* ProtocolBuffer 2.5.0
* CMake 2.6 or newer (if compiling native code), must be 3.0 or newer on Mac
* Zlib devel (if compiling native code)
* openssl devel (if compiling native hadoop-pipes and to get the best HDFS encry
ption performance)
* Linux FUSE (Filesystem in Userspace) version 2.6 or above (if compiling fuse_d
fs)
* Internet connection for first build (to fetch all Maven and Hadoop dependencie
s)
-------------------------------------------------------------------------------

4.Java安裝
新建目錄:mkdir /usr/java
上傳安裝包:rz jdk-8u45-linux-x64.gz
解壓壓縮包:tar -xzvf jdk-8u45-linux-x64.gz得到j(luò)dk1.8.0_45
修改用戶、用戶組:
chown -R root:root jdk1.8.0_45 或
chown -R root:root jdk1.8.0_45/*
配置環(huán)境變量:
vi /etc/profile
在最后添加

export JAVA_HOME=/usr/java/jdk1.8.0_45
export PATH=$JAVA_HOME/bin:$PATH

執(zhí)行生效:source /etc/profile
查看版本:java -version
5.maven 安裝
新建目錄:mkdir /opt/sodtware
上傳安裝包:rz apache-maven-3.3.9-bin.zip
解壓壓縮包:unzip jdk-8u45-linux-x64.gz得到apache-maven-3.3.9
配置環(huán)境變量:
vi /etc/profile
在最后添加

export MAVEN_HOME=/opt/software/apache-maven-3.3.9
export MAVEN_OPTS="-Xms256m -Xmx512m"
export PATH=$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

執(zhí)行生效:source /etc/profile
查看版本: mvn -version
6.protobuf安裝
上傳安裝包到/opt/software:rz protobuf-2.5.0.tar.gz
解壓:tar -xzvf protobuf-2.5.0.tar.gz得到protobuf-2.5.0
進(jìn)入protobuf-2.5.0目錄:cd protobuf-2.5.0
安裝依賴包:
yum install -y gcc gcc-c++ make cmake
配置: ./configure --prefix=/usr/local/protobuf
安裝:make && make install
配置環(huán)境變量:
vi /etc/profile
在最后添加

export PROTOC_HOME=/usr/local/protobuf
export PATH=$PROTOC_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

執(zhí)行生效:source /etc/profile
查看版本: protoc --version
7.findbugs安裝
上傳安裝包到/opt/software:rz findbugs-1.3.9.zip
解壓:unzip findbugs-1.3.9.zip得到findbugs-1.3.9
配置環(huán)境變量:
vi /etc/profile
在最后添加

export FINDBUGS_HOME=/opt/software/findbugs-1.3.9
export PATH=$PROTOC_HOME/bin:$FINDBUGS_HOME/bin:$MAVEN_HOME/bin:$JAVA_HOME/bin:$PATH

執(zhí)行生效:source /etc/profile
查看版本:findbugs -version
8.hadoop編譯
安裝依賴包:
yum install -y openssl openssl-devel svn ncurses-devel zlib-devel libtool
yum install -y snappy snappy-devel bzip2 bzip2-devel lzo lzo-devel lzop autoconf automake
新建目錄:mkdir /opt/sourcecdoe
上傳源碼包:rz hadoop-2.8.1-src.tar.gz
解壓縮:tar -xzvf hadoop-2.8.1-src.tar.gz得到hadoop-2.8.1-src
進(jìn)入目錄:cd hadoop-2.8.1-src
編譯:mvn clean package -Pdist,native -DskipTests -Dtar

download需要3.5h
不想download就使用.m2.tar.gz -->解壓-->root家目錄

編譯好的tar包
/opt/sourcecode/hadoop-2.8.1-src/hadoop-dist/target/hadoop-2.8.1.tar.gz

提醒:
1化焕、有時(shí)候編譯過程中會(huì)出現(xiàn)下載某個(gè)包的時(shí)間太久宾符,這是由于連接網(wǎng)站的過程中會(huì)出現(xiàn)假死嚼沿,
此時(shí)按ctrl+c蒸绩,重新運(yùn)行編譯命令祭钉。
2骤菠、如果出現(xiàn)缺少了某個(gè)文件的情況它改,則要先清理maven(使用命令 mvn clean) 再重新編譯。
9.hadoop編譯報(bào)錯(cuò)



經(jīng)查商乎,因使用虛擬機(jī)央拖,Windows系統(tǒng)DNS發(fā)生變化,需更改CentOS的DNS鹉戚。
在此特別感謝若澤數(shù)據(jù)的Jepson老師鲜戒。
順便給他們打個(gè)廣告吧,真的很用心抹凳。http://www.ruozedata.com

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末遏餐,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子赢底,更是在濱河造成了極大的恐慌失都,老刑警劉巖,帶你破解...
    沈念sama閱讀 206,126評(píng)論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件幸冻,死亡現(xiàn)場(chǎng)離奇詭異粹庞,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)洽损,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 88,254評(píng)論 2 382
  • 文/潘曉璐 我一進(jìn)店門庞溜,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人趁啸,你說我怎么就攤上這事强缘《蕉瑁” “怎么了不傅?”我有些...
    開封第一講書人閱讀 152,445評(píng)論 0 341
  • 文/不壞的土叔 我叫張陵,是天一觀的道長赏胚。 經(jīng)常有香客問我访娶,道長,這世上最難降的妖魔是什么觉阅? 我笑而不...
    開封第一講書人閱讀 55,185評(píng)論 1 278
  • 正文 為了忘掉前任崖疤,我火速辦了婚禮秘车,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘劫哼。我一直安慰自己叮趴,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 64,178評(píng)論 5 371
  • 文/花漫 我一把揭開白布权烧。 她就那樣靜靜地躺著眯亦,像睡著了一般。 火紅的嫁衣襯著肌膚如雪般码。 梳的紋絲不亂的頭發(fā)上妻率,一...
    開封第一講書人閱讀 48,970評(píng)論 1 284
  • 那天,我揣著相機(jī)與錄音板祝,去河邊找鬼宫静。 笑死,一個(gè)胖子當(dāng)著我的面吹牛券时,可吹牛的內(nèi)容都是我干的孤里。 我是一名探鬼主播,決...
    沈念sama閱讀 38,276評(píng)論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼革为,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼扭粱!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起震檩,我...
    開封第一講書人閱讀 36,927評(píng)論 0 259
  • 序言:老撾萬榮一對(duì)情侶失蹤琢蛤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后抛虏,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體博其,經(jīng)...
    沈念sama閱讀 43,400評(píng)論 1 300
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 35,883評(píng)論 2 323
  • 正文 我和宋清朗相戀三年迂猴,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了慕淡。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 37,997評(píng)論 1 333
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡沸毁,死狀恐怖峰髓,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情息尺,我是刑警寧澤携兵,帶...
    沈念sama閱讀 33,646評(píng)論 4 322
  • 正文 年R本政府宣布,位于F島的核電站搂誉,受9級(jí)特大地震影響徐紧,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,213評(píng)論 3 307
  • 文/蒙蒙 一并级、第九天 我趴在偏房一處隱蔽的房頂上張望拂檩。 院中可真熱鬧,春花似錦嘲碧、人聲如沸稻励。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,204評(píng)論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽钉迷。三九已至,卻和暖如春钠署,著一層夾襖步出監(jiān)牢的瞬間糠聪,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,423評(píng)論 1 260
  • 我被黑心中介騙來泰國打工谐鼎, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留舰蟆,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 45,423評(píng)論 2 352
  • 正文 我出身青樓狸棍,卻偏偏與公主長得像身害,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子草戈,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 42,722評(píng)論 2 345

推薦閱讀更多精彩內(nèi)容