四劫灶、Hadoop 集群創(chuàng)建
根據(jù)前幾節(jié)的設(shè)置,我們已經(jīng)對(duì)一臺(tái)機(jī)器完成了從網(wǎng)絡(luò)到hadoop等一些列的配置臀突,為便于測(cè)試hadoop 集群港谊,本節(jié)將介紹如何利用virtual box clone工具創(chuàng)建相同的機(jī)器。
1. 利用virtual box manager clone 機(jī)器
在VBox的安裝目錄下有一個(gè)VBoxManage.exe程序吨述,利用該工具可以clone機(jī)器岩睁,具體的使用方式如下:
VBoxManage.exe 舊機(jī)器.vdi 新機(jī)器.vdi
以上命令就完了一臺(tái)機(jī)器的clone,再次執(zhí)行上述命令clone出另外兩臺(tái)機(jī)器slave1和slave2揣云。VBoxManage.exe還有其他很多實(shí)用的功能捕儒,磁盤(pán)擴(kuò)充等,需要時(shí)請(qǐng)自行查閱邓夕。
2. slave機(jī)器配置
2.1 虛擬創(chuàng)建
上一步中我們只是clone了virtualbox的vdi文件刘莹,那么我們可以利用他們新建兩個(gè)虛擬機(jī),新建過(guò)程和之前創(chuàng)建虛擬的過(guò)程一樣焚刚,唯一的區(qū)別是在新建虛擬硬盤(pán)的時(shí)候点弯,我們選擇已有的vdi文件,就是剛才clone處理的虛擬機(jī)文件矿咕。
然后點(diǎn)擊創(chuàng)建抢肛,新的虛擬機(jī)就創(chuàng)建完成,之后直接點(diǎn)擊啟動(dòng)即可碳柱。
2.2 機(jī)器配置
該步驟的配置以slave1為例捡絮,目前clone機(jī)器的名字仍然是master,稍后會(huì)做修改
2.2.1 修改機(jī)器靜態(tài)IP莲镣,
用ifconfig命令查看機(jī)器ip福稳,此時(shí)機(jī)器應(yīng)該有了一個(gè)初始的ip,例如
我們所要修改的是第二網(wǎng)卡所對(duì)應(yīng)IP剥悟,
cd /etc/sysconfig/network-scripts/
sudo vim ifcfg-enp0s8 // 修改第二個(gè)網(wǎng)卡配置配置文件
因?yàn)闄C(jī)器是從master clone過(guò)來(lái)的灵寺,機(jī)器上所有的配置都與master曼库,因此只需做少許修改
TYPE=Ethernet
BOOTPROTO=static
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
NAME=enp0s8
UUID=3f19ccd2-06a3-4052-b370-37ad9178a6d4
ONBOOT=yes
ADDR=192.168.56.108 // 修改為當(dāng)前的IP即可
DNS=255.255.255.0
這樣ip配置就已完成,重啟網(wǎng)絡(luò)
service network restart
如果失敗略板,則直接重啟機(jī)器毁枯。
2.2.2 修改機(jī)器名字
修改機(jī)器名字為slave1
sudo hostnamectl -sethostname "slave1" // 設(shè)置主機(jī)名字
hostnamectl status --transient // 查看臨時(shí)主機(jī)名字
hostnamectl status --static
2.2.3 將機(jī)器ip加入hosts文件
由于之前在配置master的時(shí)候就已經(jīng)將slave機(jī)器對(duì)應(yīng)的ip加入到host,所以不需要添加什么叮称,只需要查看當(dāng)前靜態(tài)ip是否和hosts文件中的一致即可种玛,若不一致,則修改為當(dāng)前ip瓤檐。
測(cè)試驗(yàn)證赂韵,
ssh localhost // 第一次登錄,會(huì)提示是否記錄秘鑰挠蛉,輸入yes即可祭示,以后免密碼登錄
exit
ssh slave1
以上完成slave1的配置,同樣方法完成對(duì)slave2的配置谴古。測(cè)試三臺(tái)機(jī)器之間是否可以無(wú)密碼ssh登錄质涛,若出現(xiàn)問(wèn)題請(qǐng)查看ssh 秘鑰是否加入到authorized_keys中。
hadoop集群機(jī)器我們已經(jīng)全部搭建好了掰担,入下
3. hadoop集群測(cè)試
3.1 格式化master namenode 并啟動(dòng)測(cè)試
cd /hadoop-2.7.2
./bin/hdfs namenode -formate
./sbin/start-all.sh // 啟動(dòng) dfs 和yarn
出現(xiàn)下面的界面說(shuō)明啟動(dòng)成功:
查看master 的jps
8034 ResourceManager
8291 Jps
7880 SecondaryNameNode
查看slave的jps
2535 NodeManager
2431 DataNode
2655 Jps
查看hadoop進(jìn)程管理頁(yè)面
http://master:8088 // master 改成你的master ip
出現(xiàn)如下頁(yè)面:
此時(shí)你的hadoop集群已經(jīng)啟動(dòng)汇陆,下面我們會(huì)開(kāi)始spark和scala的安裝。
轉(zhuǎn)載請(qǐng)注明出處:http://www.reibang.com/p/e8066c14a99b