- 安裝JDK
- 設(shè)置ssh免密碼登入
rsa密鑰認(rèn)證:
$ cd ~/.ssh #進(jìn)入本機(jī)home目錄
$ ssh-keygen -t rsa #生成本機(jī)id_rsa(私鑰)乖寒、id_rsa.pub(公鑰)
$ ssh-copy-id localhost #將公鑰拷貝到要免登陸的機(jī)器上跳夭,切勿使用私鑰
#此處localhost為遠(yuǎn)程主機(jī)的localhost
或dsa密鑰認(rèn)證:
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa #用dsa密鑰認(rèn)證來(lái)生成一對(duì)公鑰和私鑰:
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys #將生成的公鑰加入到用于認(rèn)證的公鑰文件中
#測(cè)試一下是否配置成功
$ ssh localhost
- 安裝Hadoop2.7.3
- 第一步 安裝Hadoop
上傳hadoop的安裝包hadoop-2.7.3.tar.gz到服務(wù)器上去/usr/download (自由選擇路徑)
$ tar -zxvf hadoop-2.7.3.tar.gz -C /usr/export/software/
- 第二步 配置hadoop
hadoop-2.7.3的搭建需要修改5個(gè)配置文件
$ cd /usr/export/software/hadoop-2.7.3/etc/hadoop
第一個(gè):vi hadoop-env.sh
#第27行
export JAVA_HOME=/usr/java/jdk1.8.0_121
第二個(gè):vi core-site.xml
<!-- 指定HADOOP所使用的文件系統(tǒng)schema(URI)吃嘿,HDFS的老大(NameNode)的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<!-- 指定hadoop運(yùn)行時(shí)產(chǎn)生文件的存儲(chǔ)目錄 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/export/data/hadoop/tmp</value>
</property>
注:若localhost已更換別名(如grape)最仑,可以grape替換上述代碼中的localhost;指定存儲(chǔ)目錄時(shí)赏壹,該路徑自由分配
第三個(gè):vi hdfs-site.xml
<!-- 指定HDFS副本的數(shù)量 -->
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
第四個(gè):mapred-site.xml (改名后得到的文件)
# mapred-site.xml.template重命名
$ mv mapred-site.xml.template mapred-site.xml
$ vim mapred-site.xml
<!-- 指定mr運(yùn)行在yarn上 -->
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
第五個(gè):vi yarn-site.xml
<!-- 指定YARN的老大(ResourceManager)的地址 -->
<property>
<name>yarn.resourcemanager.hostname</name>
<value>localhost</value>
</property>
<!-- reducer獲取數(shù)據(jù)的方式 -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
- 第三步 將hadoop添加到環(huán)境變量
$ vim /etc/profile
#hadoop
export HADOOP_HOME=/usr/export/software/hadoop-2.7.3 #選中hadoop路徑
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
$ source /etc/profile
- 第四步 格式化namenode(是對(duì)namenode進(jìn)行初始化)
$ hdfs namenode -format (hadoop namenode -format 已經(jīng)過(guò)時(shí)鱼炒,但是依然可用)
- 第五步 啟動(dòng)hadoop
$ cd /home/hadoop/app/hadoop-2.7.3/sbin#若已配置hadoop環(huán)境變量,直接在根目錄下輸入下一行代碼
$ start-all.sh
Hadoop搭建到此結(jié)束蝌借,接下來(lái)是驗(yàn)證是否搭建成功
使用jps命令驗(yàn)證
出現(xiàn)以下結(jié)果昔瞧,表明啟動(dòng)成功
[root@xxxxx sbin]# jps
6417 DataNode
7207 NodeManager
6920 ResourceManager
7258 Jps
6235 NameNode
6700 SecondaryNameNode
6.第六步 終止hadoop
$ cd /home/hadoop/app/hadoop-2.7.3/sbin #若已配置hadoop環(huán)境變量,直接在根目錄下輸入下一行代碼
$ stop-all.sh
參考:
CentOS安裝JDK 8
hadoop2.7.3偽分布式搭建之三------>Hadoop2.7.3的安裝
Hadoop2.7.3的安裝詳細(xì)過(guò)程(偽分布式)
CentOS Linux 配置SSH密鑰登錄 配置筆記