基于阿里云服務(wù)器使用docker部署hadoop集群

折騰了四天終于做好了集群野舶,寫寫總結(jié)吧!

部署hadoop集群需要多臺(tái)服務(wù)器宰衙,鑒于資源有限平道,使用近年來(lái)比較火的docker來(lái)搭建。使用docker虛擬出四個(gè)節(jié)點(diǎn)

第一步供炼、安裝Centos一屋,部署docker:

docker要求centos的版本必須是6.5以上(我使用的是7.3)

(1)安裝必要的網(wǎng)絡(luò)工具:

#yum install-y wget

#yum install-y gcc

#yum install -y vim

#yum install -y lrzsz

#yum -y install openssh-server

#yum -y install openssh-clients

(2)安裝docker

#yum install -y docker

(3)啟動(dòng)docker?

#service docker start

(4)下載鏡像(用版本6而不用版本7是因?yàn)?有較嚴(yán)重的bug,所以選用較為穩(wěn)定的6。docker的鏡像本身下載很慢的袋哼,所以這里我用的是daocloud的加速器冀墨,那下載速度杠杠的!)

#docker pull daocloud.io/centos:6

(5)鏡像拉取完成之后啟動(dòng)鏡像

#docker run -it -h master --name master daocloud.io/library/centos:6/bin/bash

鏡像啟動(dòng)成功涛贯,宿主機(jī)控制臺(tái)會(huì)直接進(jìn)入鏡像控制臺(tái)诽嘉。

返回宿主機(jī)控制臺(tái):Ctrl + P + Q

進(jìn)入鏡像控制臺(tái): docker attach (容器名稱或ID)

第二步、制作Hadoop鏡像

(1)進(jìn)入容器控制臺(tái),開(kāi)始搭建Hadoop虫腋,在搭建之前一樣要先把基礎(chǔ)工具給裝了骄酗,Hadoop是JAVA寫的所以JDK先給裝上

#wget --no-check-certificate --no-cookies --header"Cookie: oraclelicense=accept-securebackup-cookie"http://download.oracle.com/otn-pub/java/jdk/8u131-b11/d54c1d3a095b4ff2b6607d096fa80163/jdk-8u131-linux-x64.tar.gz

#mkdir/usr/java

#tar -zxvf jdk-8u131-linux-x64.tar.gz -C/usr/java

(2)修改環(huán)境變量

#vim /etc/profile

在最下方加入JAVA配置

export PATH USER LOGNAME MAIL HOSTNAME HISTSIZE HISTCONTROL

export JAVA_HOME=/usr/java/jdk1.8.0_131

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

source一下

#source /etc/profile

(3)配置ssh免密登錄

#ssh-keygen -t rsa -P''-f ~/.ssh/id_rsa

#cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys

(4)關(guān)閉sellinux

#service sshd start

(5)測(cè)試一下

#ssh master

(6)如果沒(méi)什么問(wèn)題就代表一些準(zhǔn)備就緒。完成之后開(kāi)始下載Hadoop鏡像:

#wget?http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.8.3/hadoop-2.8.3.tar.gz

#mkdir /usr/local/hadoop

t#ar -zxvf hadoop-2.8.0.tar.gz -C /usr/local/hadoop

(7)配置環(huán)境變量

#vim /etc/profile

在最下方加入Hadoop配置

#export HADOOP_HOME=/usr/local/hadoop/hadoop-2.8.0

#export PATH=$PATH:$HADOOP_HOME/bin

(8)修改Hadoop的配置文件悦冀,進(jìn)入Hadoop的目錄

#cd /usr/local/hadoop/hadoop-2.8.0/etc/hadoop/

在hadoop-env.sh 和 yarn-env.sh 在開(kāi)頭添加JAVA環(huán)境變量JAVA_HOME

修改hadoop core-site.xml文件(怎樣修改百度上都有套路趋翻,這里不粘貼了)

修改hdfs-site.xml文件

修改mapred-site.xml文件

修改yarn-site.xml

(9)配置三個(gè)salve節(jié)點(diǎn)所以在slaves文件中添加

slave1

slave2

slave3

(10)完成之后嘗試一下

#ldd /usr/local/hadoop/hadoop-2.8.0/lib/native/libhadoop.so.1.0.0

(11)這時(shí)提示GLIBC_2.14 required,centos6的源最高到2.12盒蟆,這里需要2.14踏烙,所以只能手動(dòng)make安裝

wget http://ftp.gnu.org/gnu/glibc/glibc-2.14.tar.gz

tar zxvf glibc-2.14.tar.gz

cd glibc-2.14

mkdirbuild

cd build

../configure --prefix=/usr/local/glibc-2.14

make

make install

ln -sf /usr/local/glibc-2.14/lib/libc-2.14.so /lib64/libc.so.6

(12)完成之后再ldd就沒(méi)有問(wèn)題了!接下來(lái)就是構(gòu)建上面做的所有操作历等,將其變成一個(gè)鏡像以便復(fù)用讨惩,先Ctrl+p和Ctrl+q返回宿主機(jī)控制臺(tái)然后輸入命令:

docker inspect? --format='{{.NetworkSettings.IPAddress}}' master

接下來(lái)逐個(gè)啟動(dòng)鏡像

docker stop master

docker rm master

docker run -it -p 50070:50070 -p 19888:19888 -p 8088:8088 -h master --name master tsk/hadoop /bin/bash

docker run -it -h slave1 --name slave1 tsk/hadoop /bin/bash

docker inspect? --format='{{.NetworkSettings.IPAddress}}' slave1

docker run -it -h slave2 --name slave2 tsk/hadoop /bin/bash

docker inspect? --format='{{.NetworkSettings.IPAddress}}' slave2

docker run -it -h slave3 --name slave3 tsk/hadoop /bin/bash

docker inspect? --format='{{.NetworkSettings.IPAddress}}' slave3

(13)然后attach到每個(gè)節(jié)點(diǎn)上面source一下配置hosts,啟動(dòng)sshd募闲,并修改/etc/hosts中的ip映射文件步脓,完成之后開(kāi)始準(zhǔn)備啟動(dòng)Hadoop

/etc/hosts文件(四臺(tái)機(jī)器都要這樣配置)

182.17.0.2? ? master

182.17.0.3? ? slave1

182.17.0.4? ? slave2

182.17.0.5? ? slave3


(14)重新編譯一下環(huán)境變量

source /etc/profile

(15)啟動(dòng)hadoop

hadoop namenode -format

/usr/local/hadoop/hadoop-2.8.0/sbin/start-all.sh

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末愿待,一起剝皮案震驚了整個(gè)濱河市浩螺,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌仍侥,老刑警劉巖要出,帶你破解...
    沈念sama閱讀 217,185評(píng)論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異农渊,居然都是意外死亡患蹂,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,652評(píng)論 3 393
  • 文/潘曉璐 我一進(jìn)店門砸紊,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)传于,“玉大人,你說(shuō)我怎么就攤上這事醉顽≌恿铮” “怎么了?”我有些...
    開(kāi)封第一講書人閱讀 163,524評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵游添,是天一觀的道長(zhǎng)系草。 經(jīng)常有香客問(wèn)我,道長(zhǎng)唆涝,這世上最難降的妖魔是什么找都? 我笑而不...
    開(kāi)封第一講書人閱讀 58,339評(píng)論 1 293
  • 正文 為了忘掉前任,我火速辦了婚禮廊酣,結(jié)果婚禮上能耻,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好嚎京,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,387評(píng)論 6 391
  • 文/花漫 我一把揭開(kāi)白布嗡贺。 她就那樣靜靜地躺著,像睡著了一般鞍帝。 火紅的嫁衣襯著肌膚如雪诫睬。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書人閱讀 51,287評(píng)論 1 301
  • 那天帕涌,我揣著相機(jī)與錄音摄凡,去河邊找鬼。 笑死蚓曼,一個(gè)胖子當(dāng)著我的面吹牛亲澡,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播纫版,決...
    沈念sama閱讀 40,130評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼床绪,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了其弊?” 一聲冷哼從身側(cè)響起癞己,我...
    開(kāi)封第一講書人閱讀 38,985評(píng)論 0 275
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎梭伐,沒(méi)想到半個(gè)月后痹雅,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,420評(píng)論 1 313
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡糊识,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,617評(píng)論 3 334
  • 正文 我和宋清朗相戀三年绩社,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片赂苗。...
    茶點(diǎn)故事閱讀 39,779評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡愉耙,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出拌滋,到底是詐尸還是另有隱情朴沿,我是刑警寧澤,帶...
    沈念sama閱讀 35,477評(píng)論 5 345
  • 正文 年R本政府宣布鸠真,位于F島的核電站悯仙,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏吠卷。R本人自食惡果不足惜锡垄,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,088評(píng)論 3 328
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望祭隔。 院中可真熱鬧货岭,春花似錦路操、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 31,716評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至搔谴,卻和暖如春魁袜,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背敦第。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 32,857評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工峰弹, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人芜果。 一個(gè)月前我還...
    沈念sama閱讀 47,876評(píng)論 2 370
  • 正文 我出身青樓鞠呈,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親右钾。 傳聞我的和親對(duì)象是個(gè)殘疾皇子蚁吝,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,700評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • (搭建集群部分借鑒了kiwenlau/hadoop-cluster-docker中的內(nèi)容,不過(guò)那里的基礎(chǔ)環(huán)境是Ub...
    ProteanBear閱讀 3,840評(píng)論 0 12
  • 周一早上 前百度 的leader 問(wèn)我 周日發(fā)在群里的 說(shuō)什么在測(cè)試機(jī)安裝好了 paddle 是什么舀射,我說(shuō)就是...
    Helen_Cat閱讀 1,216評(píng)論 0 1
  • 最近在學(xué)習(xí)大數(shù)據(jù)技術(shù)窘茁,朋友叫我直接學(xué)習(xí)Spark,英雄不問(wèn)出處后控,菜鳥不問(wèn)對(duì)錯(cuò)庙曙,于是我就開(kāi)始了Spark學(xué)習(xí)空镜。 為什...
    Plokmijn閱讀 26,536評(píng)論 6 26
  • 說(shuō)明:不少讀者反饋浩淘,想使用開(kāi)源組件搭建Hadoop平臺(tái),然后再部署Kylin吴攒,但是遇到各種問(wèn)題张抄。這里我為讀者部署一...
    大詩(shī)兄_zl閱讀 2,070評(píng)論 0 2
  • 本文章僅作為個(gè)人筆記 CDH官網(wǎng)地址:https://www.cloudera.com/ CDH鏡像地址: c...
    草叢里的黃蓋閱讀 1,942評(píng)論 2 2