手把手教你配置hadoop（二）

1.進(jìn)入Hadoop軟件包，命令如下：

先切回到root用戶
[kkb@master ~]$ su - root

進(jìn)入到hadoop目錄下（壓縮包可以使用鼠標(biāo)將壓縮包拖入虛擬機(jī)中）
[root@master ~]$ cd /software/hadoop/

解壓Hadoop安裝包命令如下：
[root@master hadoop]$ tar -zxvf hadoop-2.7.3.tar.gz
image.png

2.配置環(huán)境變量hadoop-env.sh

環(huán)境變量文件中，只需要配置JDK的路徑

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/hadoop-env.sh

在文件的靠前的部分找到下面的一行代碼：
export JAVA_HOME=${JAVA_HOME}
將這行代碼修改為下面的代碼：
export JAVA_HOME=/usr/java/jdk1.8.0_181/
然后保存文件
image.png

如果你不知道自己的Java版本可以通過下面的方法得到


image.png

配置環(huán)境變量yarn-env.sh

環(huán)境變量文件中妻坝，只需要配置JDK的路徑芥永。

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/yarn-env.sh

在文件的靠前的部分找到下面的一行代碼：
export JAVA_HOME=/home/y/libexec/jdk1.6.0/
將這行代碼修改為下面的代碼（將#號去掉）：
export JAVA_HOME=/usr/java/jdk1.8.0_181/
然后保存文件
image.png

3.配置核心組件core-site.xml

使用vi編輯：

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/core-site.xml

用下面的代碼替換core-site.xml中的內(nèi)容：(注意路徑一致）

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
                <property>
                                     <name>fs.defaultFS</name>
                                     <value>hdfs://master:9000</value>
                </property>
                 <property>
                                      <name>hadoop.tmp.dir</name>
                                      <value>/software/hadoop/hadoopdata</value>
                  </property>
</configuration>
image.png

4.配置文件系統(tǒng)hdfs-site.xml

使用vi編輯：

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/hdfs-site.xml

用下面的代碼替換hdfs-site.xml中的內(nèi)容：

<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file. -->
<configuration>
               <property>
                                      <name>dfs.replication</name>
                                      <value>3</value>
               </property>
</configuration>
image.png

5.配置文件系統(tǒng)yarn-site.xml

使用vi編輯：

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/yarn-site.xml

用下面的代碼替換yarn-site.xml中的內(nèi)容：

<?xml version="1.0"?>
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>master:18040</value>
</property>
<property> <name>yarn.resourcemanager.scheduler.address</name>
<value>master:18030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:18025</value>
</property>
<property> <name>yarn.resourcemanager.admin.address</name>
<value>master:18141</value>
</property>
<property> <name>yarn.resourcemanager.webapp.address</name>
<value>master:18088</value>
</property>
</configuration>
image.png

6.配置計(jì)算框架mapred-site.xml

復(fù)制mapred-site-template.xml文件：

[root@master hadoop-2.7.3]$ cp /software/hadoop/hadoop-2.7.3/etc/hadoop/mapred-site.xml.template
/software/hadoop/hadoop-2.7.3/etc/hadoop/mapred-site.xml

使用vi編輯：

[root@master ~]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/mapred-site.xml

用下面的代碼替換mapred-site.xml中的內(nèi)容

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
   <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
   </property>
</configuration>

cp /software/hadoop/hadoop-2.7.3/etc/hadoop/mapred-site.xml.template /software/hadoop/hadoop-2.7.3/etc/hadoop/mapred-site.xml

7.在master節(jié)點(diǎn)配置slaves文件

使用vi編輯：

[root@master hadoop-2.7.3]$ vi /software/hadoop/hadoop-2.7.3/etc/hadoop/slaves

用下面的代碼替換slaves中的內(nèi)容：

slave01
slave02
image.png

8.更改權(quán)限(三個(gè)節(jié)點(diǎn)都操作)

給hadoop目錄授權(quán)

[root@master hadoop-2.7.3]$ chown kkb.kkb /software/hadoop/ -R  # -R是遞歸的意思
image.png

給我們每臺虛擬就都創(chuàng)建一個(gè)相同路徑的hadoop文件夾蛤铜，方便管理


image.png

9.復(fù)制到從節(jié)點(diǎn)

使用下面的命令將已經(jīng)配置完成的Hadoop復(fù)制到從節(jié)點(diǎn)HadoopSlave上：

[root@master hadoop-2.7.3]$ su - kkb

[root@master ~]$ scp -r /software/hadoop/hadoop-2.7.3 root@slave01:/software/hadoop

[root@master ~]$ scp -r /software/hadoop/hadoop-2.7.3 root@slave02:/software/hadoop

注意：因?yàn)橹耙呀?jīng)配置了免密鑰登錄官研，這里可以直接遠(yuǎn)程復(fù)制。

在我們的slave01,slave02中查看hadoop,并都做一次授權(quán)

salve01

salve02

六. 啟動Hadoop集群

1.下面所有的操作都使用kkb用戶泻骤，切換kkb用戶的命令是：

su - kkb(如果已在普通用戶下則不用再執(zhí)行)

2.配置Hadoop啟動的系統(tǒng)環(huán)境變量

該節(jié)的配置需要同時(shí)在兩個(gè)節(jié)點(diǎn)（HadoopMaster和HadoopSlave）上進(jìn)行操作漆羔，操作命令如下：
只需要在kkb用戶下執(zhí)行環(huán)境變量配置操作即可

[kkb@master ~]$ vi .bash_profile

復(fù)制粘貼以下內(nèi)容添加到到上面vi打開的文件中：

JAVA_HOME=/usr/java/jdk1.8.0_181/
HADOOP_HOME=/software/hadoop/hadoop-2.7.3
PATH=$PATH:$HOME/bin:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export JAVA_HOME
export HADOOP_HOME
export PATH
image.png

使改動生效命令：

[kkb@master ~]$ source ~/.bash_profile

3.創(chuàng)建數(shù)據(jù)目錄

該節(jié)的配置需要同時(shí)在兩個(gè)節(jié)點(diǎn)（HadoopMaster和HadoopSlave）上進(jìn)行操作。
在kkb的用戶主目錄下狱掂，創(chuàng)建數(shù)據(jù)目錄演痒，命令如下：

[kkb@master ~]$ mkdir /software/hadoop/hadoopdata

4.啟動Hadoop集群

4.1格式化文件系統(tǒng)

格式化命令如下，該操作需要在HadoopMaster節(jié)點(diǎn)上執(zhí)行：(需要等待一些時(shí)間趋惨，沒有報(bào)錯進(jìn)入下一步）

[kkb@master ~]$ hdfs namenode -format

4.2啟動Hadoop

使用start-all.sh啟動Hadoop集群鸟顺，首先進(jìn)入Hadoop安裝主目錄，然后執(zhí)行啟動命令：

[kkb@master ~]$ cd ~/hadoop-2.7.3

[kkb@master ~]$ start-all.sh

執(zhí)行命令后器虾，提示輸入yes/no時(shí)讯嫂，輸入yes。

注意
可能存在啟動不了曾撤，啟動hadoop時(shí)報(bào)錯端姚，nodemanager running as process 6410. Stop it first.之類的
解決方法：

 進(jìn)程已經(jīng)在運(yùn)行中了，先執(zhí)行stop-all.sh下挤悉，然后再執(zhí)行start-all.sh，樓主通過此方法巫湘，問題解決

4.3查看進(jìn)程是否啟動

在HadoopMaster的終端執(zhí)行jps命令装悲，在打印結(jié)果中會看到4個(gè)進(jìn)程，分別是ResourceManager
Jps
NameNode
SecondaryNameNode
如下圖所示尚氛。如果出現(xiàn)了這4個(gè)進(jìn)程表示主節(jié)點(diǎn)進(jìn)程啟動成功诀诊。

image.png

在HadoopSlave的終端執(zhí)行jps命令，在打印結(jié)果中會看到3個(gè)進(jìn)程阅嘶，分別是NodeManager
DataNode
Jps

最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 人面猴
    序言：七十年代末属瓣，一起剝皮案震驚了整個(gè)濱河市载迄，隨后出現(xiàn)的幾起案子，更是在濱河造成了極大的恐慌抡蛙，老刑警劉巖护昧，帶你破解...
    沈念sama閱讀 210,978評論 6贊 490
  • 死咒
    序言：濱河連續(xù)發(fā)生了三起死亡事件，死亡現(xiàn)場離奇詭異粗截，居然都是意外死亡惋耙，警方通過查閱死者的電腦和手機(jī)，發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,954評論 2贊 384
  • 救了他兩次的神仙讓他今天三更去死
    文/潘曉璐 我一進(jìn)店門熊昌，熙熙樓的掌柜王于貴愁眉苦臉地迎上來绽榛，“玉大人，你說我怎么就攤上這事婿屹∶鹈溃” “怎么了？”我有些...
    開封第一講書人閱讀 156,623評論 0贊 345
  • 道士緝兇錄：失蹤的賣姜人
    文/不壞的土叔 我叫張陵昂利，是天一觀的道長届腐。 經(jīng)常有香客問我，道長页眯，這世上最難降的妖魔是什么梯捕？ 我笑而不...
    開封第一講書人閱讀 56,324評論 1贊 282
  • ?港島之戀（遺憾婚禮）
    正文 為了忘掉前任，我火速辦了婚禮窝撵，結(jié)果婚禮上傀顾，老公的妹妹穿的比我還像新娘。我一直安慰自己碌奉，他們只是感情好短曾，可當(dāng)我...
    茶點(diǎn)故事閱讀 65,390評論 5贊 384
  • 惡毒庶女頂嫁案：這布局不是一般人想出來的
    文/花漫 我一把揭開白布。 她就那樣靜靜地躺著赐劣，像睡著了一般嫉拐。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上魁兼，一...
    開封第一講書人閱讀 49,741評論 1贊 289
  • 城市分裂傳說
    那天婉徘，我揣著相機(jī)與錄音，去河邊找鬼咐汞。 笑死盖呼，一個(gè)胖子當(dāng)著我的面吹牛，可吹牛的內(nèi)容都是我干的化撕。 我是一名探鬼主播几晤，決...
    沈念sama閱讀 38,892評論 3贊 405
  • 雙鴛鴦連環(huán)套：你想象不到人心有多黑
    文/蒼蘭香墨 我猛地睜開眼，長吁一口氣：“原來是場噩夢啊……” “哼植阴！你這毒婦竟也來了蟹瘾？” 一聲冷哼從身側(cè)響起圾浅，我...
    開封第一講書人閱讀 37,655評論 0贊 266
  • 萬榮殺人案實(shí)錄
    序言：老撾萬榮一對情侶失蹤，失蹤者是張志新（化名）和其女友劉穎憾朴，沒想到半個(gè)月后狸捕，有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體，經(jīng)...
    沈念sama閱讀 44,104評論 1贊 303
  • ?護(hù)林員之死
    正文 獨(dú)居荒郊野嶺守林人離奇死亡伊脓，尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評論 2贊 325
  • ?白月光啟示錄
    正文 我和宋清朗相戀三年府寒，在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片报腔。...
    茶點(diǎn)故事閱讀 38,569評論 1贊 340
  • 活死人
    序言：一個(gè)原本活蹦亂跳的男人離奇死亡株搔，死狀恐怖，靈堂內(nèi)的尸體忽然破棺而出纯蛾，到底是詐尸還是另有隱情纤房，我是刑警寧澤，帶...
    沈念sama閱讀 34,254評論 4贊 328
  • ?日本核電站爆炸內(nèi)幕
    正文 年R本政府宣布翻诉，位于F島的核電站炮姨，受9級特大地震影響，放射性物質(zhì)發(fā)生泄漏碰煌。R本人自食惡果不足惜舒岸，卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,834評論 3贊 312
  • 男人毒藥：我在死后第九天來索命
    文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望芦圾。 院中可真熱鬧蛾派，春花似錦、人聲如沸个少。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,725評論 0贊 21
  • 一樁弒父案，背后竟有這般陰謀
    文/蒼蘭香墨 我抬頭看了看天上的太陽夜焦。三九已至壳澳，卻和暖如春，著一層夾襖步出監(jiān)牢的瞬間茫经，已是汗流浹背巷波。 一陣腳步聲響...
    開封第一講書人閱讀 31,950評論 1贊 264
  • 情欲美人皮
    我被黑心中介騙來泰國打工， 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留卸伞，地道東北人褥紫。 一個(gè)月前我還...
    沈念sama閱讀 46,260評論 2贊 360
  • 代替公主和親
    正文 我出身青樓，卻偏偏與公主長得像瞪慧，于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子部念，可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,446評論 2贊 348