CentOS7安裝Hadoop集群

http://www.reibang.com/p/a69972d8a119

安裝Hadoop之前习绢,請(qǐng)先安裝好zookeeper集群并啟動(dòng)
參考

CentOS7安裝Zookeeper集群

我這里準(zhǔn)備了三臺(tái)服務(wù)器锯七,一臺(tái)主機(jī)名為hadoop1(做NameNode)掷空,一臺(tái)主機(jī)名為hadoop2(做DataNode)砚殿,一臺(tái)主機(jī)名為hadoop3(做DataNode)

192.168.1.186(hadoop1)
192.168.1.188(hadoop2)
192.168.1.18(hadoop3)

創(chuàng)建名為

hadoop

的用戶粘茄,參考CentOS7建立用戶

將所有hadoop服務(wù)器侨核,配置好

hadoop

用戶的免密碼登錄圣絮,讓所有hadoop主機(jī)之間可以免密碼互通
參考

CentOS7配置ssh無密碼登錄

設(shè)置好zookeeper祈惶、hadoop所有服務(wù)器的

hosts

文件的內(nèi)容

192.168.1.232   zookeeper1
192.168.1.200   zookeeper2
192.168.1.233   zookeeper3

192.168.1.186   hadoop1
192.168.1.188   hadoop2
192.168.1.18    hadoop3

切換到

hadoop

用戶,安裝并配置hadoop扮匠,從http://hadoop.apache.org/releases.html找到一個(gè)你想要的版本捧请,下載binary包(下載到hadoop1機(jī)上,配置完畢以后再?gòu)?fù)制到其他機(jī)器上)棒搜,我這里下載的是hadoop-2.7.3.tar.gz

su hadoop

cd ~

wget http://119.90.25.43/mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz

解壓縮疹蛉,并重命名為hadoop

tar -zxvf hadoop-2.7.3.tar.gz

mv hadoop-2.7.3 hadoop

編輯

hadoop-env.sh

文件,修改JAVA_HOME部分力麸,不知道java按照位置的請(qǐng)參考CentOS7安裝OpenJDK

vi ~/hadoop/etc/hadoop/hadoop-env.sh

[圖片上傳中...(image-6d2115-1513665884498-8)]

編輯

yarn-env.sh

文件氧吐,修改JAVA_HOME部分

vi ~/hadoop/etc/hadoop/yarn-env.sh

[圖片上傳中...(image-e6646e-1513665884498-7)]

編輯

slaves

文件,添加DataNode節(jié)點(diǎn)服務(wù)器的主機(jī)名末盔,我這里添加了兩個(gè)

vi ~/hadoop/etc/hadoop/slaves

[圖片上傳中...(image-f8ed7-1513665884498-6)]

建立臨時(shí)文件夾

mkdir ~/hadoop/tmp

編輯

core-site.xml

文件

vi ~/hadoop/etc/hadoop/core-site.xml

添加如下內(nèi)容

<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/hadoop/tmp</value>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://hadoop1:9000</value>
</property>
<property>
<name>ha.zookeeper.quorum</name>
<value>zookeeper1:2181,zookeeper2:2181,zookeeper3:2181</value>
</property>
</configuration>

編輯

hdfs-site.xml

文件

vi ~/hadoop/etc/hadoop/hdfs-site.xml

添加如下內(nèi)容

<configuration>
<property>
<name>dfs.http.address</name>
<value>hadoop1:50070</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>hadoop1:50090</value>
</property>
<property>
<name>dfs.replication</name>
<value>3</value>
</property>
</configuration>

復(fù)制

mapred-site.xml.template

文件為

mapred-site.xml

cp ~/hadoop/etc/hadoop/mapred-site.xml.template ~/hadoop/etc/hadoop/mapred-site.xml

編輯其內(nèi)容

vi ~/hadoop/etc/hadoop/mapred-site.xml

<configuration>
<property>
<name>mapred.job.tracker</name>
<value>hadoop1:9001</value>
</property>
<property>
<name>mapred.map.tasks</name>
<value>20</value>
</property>
<property>
<name>mapred.reduce.tasks</name>
<value>4</value>
</property>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>hadoop1:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>hadoop1:19888</value>
</property>
</configuration>

修改

yarn-site.xml

文件

vi ~/hadoop/etc/hadoop/yarn-site.xml

將其內(nèi)容修改為

<configuration>
<!-- Site specific YARN configuration properties -->
<property>
 <name>yarn.resourcemanager.address</name>
<value>hadoop1:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
 <value>hadoop1:8030</value>
</property>
<property>
 <name>yarn.resourcemanager.webapp.address</name>
 <value>hadoop1:8088</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>hadoop1:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>hadoop1:8033</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
</configuration>

將配置好的hadoop文件夾復(fù)制到其他節(jié)點(diǎn)機(jī)器

scp -r ~/hadoop hadoop@hadoop2:~/
scp -r ~/hadoop hadoop@hadoop3:~/

cd ~/hadoop

./bin/hdfs namenode -format

./sbin/start-all.sh

[圖片上傳中...(image-237e8c-1513665884498-5)]

在NameNode機(jī)器中筑舅,使用jps命令,看到下面內(nèi)容就說明成功了

[圖片上傳中...(image-f8865c-1513665884498-4)]

在其他DataNode節(jié)點(diǎn)查看jps

[圖片上傳失敗...(image-ce60ab-1513665884498)]

[圖片上傳中...(image-264079-1513665884498-2)]

可以打開瀏覽器陨舱,查看http://192.168.1.186:50070
一般我們是使用http://hadoop1:50070這個(gè)地址訪問翠拣,因?yàn)閔adoop1才是NameNode機(jī)器,當(dāng)然游盲,這需要你打開瀏覽器的那臺(tái)機(jī)器配置hosts文件

[圖片上傳中...(image-41135c-1513665884498-1)]

[圖片上傳中...(image-315ed3-1513665884498-0)]

停止hadoop的命令

./sbin/stop-all.sh
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末误墓,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子益缎,更是在濱河造成了極大的恐慌谜慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,651評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件莺奔,死亡現(xiàn)場(chǎng)離奇詭異欣范,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,468評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門恼琼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來妨蛹,“玉大人,你說我怎么就攤上這事晴竞⊥苈保” “怎么了?”我有些...
    開封第一講書人閱讀 162,931評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵噩死,是天一觀的道長(zhǎng)颤难。 經(jīng)常有香客問我,道長(zhǎng)已维,這世上最難降的妖魔是什么行嗤? 我笑而不...
    開封第一講書人閱讀 58,218評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮衣摩,結(jié)果婚禮上昂验,老公的妹妹穿的比我還像新娘。我一直安慰自己艾扮,他們只是感情好既琴,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,234評(píng)論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著泡嘴,像睡著了一般甫恩。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上酌予,一...
    開封第一講書人閱讀 51,198評(píng)論 1 299
  • 那天磺箕,我揣著相機(jī)與錄音,去河邊找鬼抛虫。 笑死松靡,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的建椰。 我是一名探鬼主播雕欺,決...
    沈念sama閱讀 40,084評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼棉姐!你這毒婦竟也來了屠列?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,926評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤伞矩,失蹤者是張志新(化名)和其女友劉穎笛洛,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體乃坤,經(jīng)...
    沈念sama閱讀 45,341評(píng)論 1 311
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡苛让,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,563評(píng)論 2 333
  • 正文 我和宋清朗相戀三年沟蔑,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片蝌诡。...
    茶點(diǎn)故事閱讀 39,731評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡溉贿,死狀恐怖枫吧,靈堂內(nèi)的尸體忽然破棺而出浦旱,到底是詐尸還是另有隱情,我是刑警寧澤九杂,帶...
    沈念sama閱讀 35,430評(píng)論 5 343
  • 正文 年R本政府宣布颁湖,位于F島的核電站,受9級(jí)特大地震影響例隆,放射性物質(zhì)發(fā)生泄漏甥捺。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,036評(píng)論 3 326
  • 文/蒙蒙 一镀层、第九天 我趴在偏房一處隱蔽的房頂上張望镰禾。 院中可真熱鬧,春花似錦唱逢、人聲如沸吴侦。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,676評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽备韧。三九已至,卻和暖如春痪枫,著一層夾襖步出監(jiān)牢的瞬間织堂,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,829評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工奶陈, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留易阳,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,743評(píng)論 2 368
  • 正文 我出身青樓吃粒,卻偏偏與公主長(zhǎng)得像潦俺,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子声搁,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,629評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容

  • 安裝Hadoop之前黑竞,請(qǐng)先安裝好zookeeper集群并啟動(dòng)參考 CentOS7安裝Zookeeper集群 我這...
    sphsyv閱讀 1,924評(píng)論 2 3
  • 前言 Hadoop在大數(shù)據(jù)技術(shù)體系中的地位至關(guān)重要,Hadoop是大數(shù)據(jù)技術(shù)的基礎(chǔ)疏旨,對(duì)Hadoop基礎(chǔ)知識(shí)的掌握的...
    piziyang12138閱讀 1,968評(píng)論 0 3
  • HDFS文件系統(tǒng) HDFS是一個(gè)分布式文件系統(tǒng)很魂,采用分而治之的設(shè)計(jì)思想,將大文件檐涝、大批量文件遏匆,分布式存放在大量服務(wù)...
    spilledyear閱讀 1,386評(píng)論 0 0
  • 經(jīng)過一系列的前期環(huán)境準(zhǔn)備法挨,現(xiàn)在可以開始Hadoop的安裝了,在這里去apache官網(wǎng)下載2.7.3的版本http:...
    歡醉閱讀 1,665評(píng)論 8 28
  • 一幅聘、Hadoop是什么凡纳? 從狹義來說,Hadoop指的是Apache下的一款開源框架帝蒿,目前常用的是Hadoop2版...
    大數(shù)據(jù)階梯之路閱讀 2,785評(píng)論 1 6