Spark 開(kāi)發(fā)環(huán)境搭建(四)-Hadoop 集群創(chuàng)建

四劫灶、Hadoop 集群創(chuàng)建

根據(jù)前幾節(jié)的設(shè)置,我們已經(jīng)對(duì)一臺(tái)機(jī)器完成了從網(wǎng)絡(luò)到hadoop等一些列的配置臀突,為便于測(cè)試hadoop 集群港谊,本節(jié)將介紹如何利用virtual box clone工具創(chuàng)建相同的機(jī)器。

1. 利用virtual box manager clone 機(jī)器

在VBox的安裝目錄下有一個(gè)VBoxManage.exe程序吨述,利用該工具可以clone機(jī)器岩睁,具體的使用方式如下:

VBoxManage.exe  舊機(jī)器.vdi 新機(jī)器.vdi

以上命令就完了一臺(tái)機(jī)器的clone,再次執(zhí)行上述命令clone出另外兩臺(tái)機(jī)器slave1和slave2揣云。VBoxManage.exe還有其他很多實(shí)用的功能捕儒,磁盤(pán)擴(kuò)充等,需要時(shí)請(qǐng)自行查閱邓夕。

2. slave機(jī)器配置

2.1 虛擬創(chuàng)建

上一步中我們只是clone了virtualbox的vdi文件刘莹,那么我們可以利用他們新建兩個(gè)虛擬機(jī),新建過(guò)程和之前創(chuàng)建虛擬的過(guò)程一樣焚刚,唯一的區(qū)別是在新建虛擬硬盤(pán)的時(shí)候点弯,我們選擇已有的vdi文件,就是剛才clone處理的虛擬機(jī)文件矿咕。

加載已有vdi文件

然后點(diǎn)擊創(chuàng)建抢肛,新的虛擬機(jī)就創(chuàng)建完成,之后直接點(diǎn)擊啟動(dòng)即可碳柱。

2.2 機(jī)器配置

該步驟的配置以slave1為例捡絮,目前clone機(jī)器的名字仍然是master,稍后會(huì)做修改

2.2.1 修改機(jī)器靜態(tài)IP莲镣,

用ifconfig命令查看機(jī)器ip福稳,此時(shí)機(jī)器應(yīng)該有了一個(gè)初始的ip,例如

網(wǎng)絡(luò)IP 情況

我們所要修改的是第二網(wǎng)卡所對(duì)應(yīng)IP剥悟,

cd /etc/sysconfig/network-scripts/
sudo vim ifcfg-enp0s8   // 修改第二個(gè)網(wǎng)卡配置配置文件

因?yàn)闄C(jī)器是從master clone過(guò)來(lái)的灵寺,機(jī)器上所有的配置都與master曼库,因此只需做少許修改


TYPE=Ethernet
BOOTPROTO=static
DEFROUTE=yes
PEERDNS=yes
PEERROUTES=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_PEERDNS=yes
IPV6_PEERROUTES=yes
IPV6_FAILURE_FATAL=no
NAME=enp0s8
UUID=3f19ccd2-06a3-4052-b370-37ad9178a6d4
ONBOOT=yes
ADDR=192.168.56.108    // 修改為當(dāng)前的IP即可
DNS=255.255.255.0

這樣ip配置就已完成,重啟網(wǎng)絡(luò)

service network restart

如果失敗略板,則直接重啟機(jī)器毁枯。

2.2.2 修改機(jī)器名字

修改機(jī)器名字為slave1

sudo hostnamectl -sethostname "slave1"   // 設(shè)置主機(jī)名字
hostnamectl status --transient  // 查看臨時(shí)主機(jī)名字
hostnamectl status --static      
2.2.3 將機(jī)器ip加入hosts文件

由于之前在配置master的時(shí)候就已經(jīng)將slave機(jī)器對(duì)應(yīng)的ip加入到host,所以不需要添加什么叮称,只需要查看當(dāng)前靜態(tài)ip是否和hosts文件中的一致即可种玛,若不一致,則修改為當(dāng)前ip瓤檐。
測(cè)試驗(yàn)證赂韵,

ssh localhost     // 第一次登錄,會(huì)提示是否記錄秘鑰挠蛉,輸入yes即可祭示,以后免密碼登錄
exit
ssh slave1

以上完成slave1的配置,同樣方法完成對(duì)slave2的配置谴古。測(cè)試三臺(tái)機(jī)器之間是否可以無(wú)密碼ssh登錄质涛,若出現(xiàn)問(wèn)題請(qǐng)查看ssh 秘鑰是否加入到authorized_keys中。
hadoop集群機(jī)器我們已經(jīng)全部搭建好了掰担,入下


集群

3. hadoop集群測(cè)試

3.1 格式化master namenode 并啟動(dòng)測(cè)試

cd /hadoop-2.7.2
./bin/hdfs namenode -formate
./sbin/start-all.sh  // 啟動(dòng) dfs 和yarn

出現(xiàn)下面的界面說(shuō)明啟動(dòng)成功:

hadoop 集群?jiǎn)?dòng)

查看master 的jps

8034 ResourceManager
8291 Jps
7880 SecondaryNameNode

查看slave的jps

2535 NodeManager
2431 DataNode
2655 Jps

查看hadoop進(jìn)程管理頁(yè)面

http://master:8088  // master 改成你的master ip

出現(xiàn)如下頁(yè)面:

hadoop進(jìn)程管理頁(yè)面

此時(shí)你的hadoop集群已經(jīng)啟動(dòng)汇陆,下面我們會(huì)開(kāi)始spark和scala的安裝。
轉(zhuǎn)載請(qǐng)注明出處:http://www.reibang.com/p/e8066c14a99b

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末带饱,一起剝皮案震驚了整個(gè)濱河市毡代,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌勺疼,老刑警劉巖教寂,帶你破解...
    沈念sama閱讀 210,914評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異恢口,居然都是意外死亡孝宗,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評(píng)論 2 383
  • 文/潘曉璐 我一進(jìn)店門(mén)耕肩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人问潭,你說(shuō)我怎么就攤上這事猿诸。” “怎么了狡忙?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,531評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵梳虽,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我灾茁,道長(zhǎng)窜觉,這世上最難降的妖魔是什么谷炸? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,309評(píng)論 1 282
  • 正文 為了忘掉前任,我火速辦了婚禮禀挫,結(jié)果婚禮上旬陡,老公的妹妹穿的比我還像新娘。我一直安慰自己语婴,他們只是感情好描孟,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著砰左,像睡著了一般匿醒。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上缠导,一...
    開(kāi)封第一講書(shū)人閱讀 49,730評(píng)論 1 289
  • 那天廉羔,我揣著相機(jī)與錄音,去河邊找鬼僻造。 笑死憋他,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的嫡意。 我是一名探鬼主播举瑰,決...
    沈念sama閱讀 38,882評(píng)論 3 404
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蔬螟!你這毒婦竟也來(lái)了此迅?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,643評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤旧巾,失蹤者是張志新(化名)和其女友劉穎耸序,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體鲁猩,經(jīng)...
    沈念sama閱讀 44,095評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡坎怪,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了廓握。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片搅窿。...
    茶點(diǎn)故事閱讀 38,566評(píng)論 1 339
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖隙券,靈堂內(nèi)的尸體忽然破棺而出男应,到底是詐尸還是另有隱情,我是刑警寧澤娱仔,帶...
    沈念sama閱讀 34,253評(píng)論 4 328
  • 正文 年R本政府宣布沐飘,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏耐朴。R本人自食惡果不足惜借卧,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評(píng)論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望筛峭。 院中可真熱鬧铐刘,春花似錦、人聲如沸蜒滩。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,715評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)俯艰。三九已至捡遍,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間竹握,已是汗流浹背画株。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,945評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留啦辐,地道東北人谓传。 一個(gè)月前我還...
    沈念sama閱讀 46,248評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像芹关,于是被迫代替她去往敵國(guó)和親续挟。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容