CentSO下hadoop的集群搭建

前言

第一步我們配置了hadoop的偽分布式搭建邪码,第二步的過程就是在第一步的基礎上進行分布式的搭建裕菠。

配置環(huán)境

環(huán)境:已經(jīng)搭建好偽分布式hadoop的CentOS6.4

目的

hadoop的集群搭建,一臺主節(jié)點和三臺子節(jié)點霞扬。
主節(jié)點和子節(jié)點的主機名由自己設置
(配置是使用的)ip和主機名

192.168.8.10   master
192.168.8.11   node1
192.168.8.12   node2
192.168.8.13   node3

子節(jié)點虛擬機的網(wǎng)關與主節(jié)點的設置一樣糕韧,這樣可以保證連通枫振。

搭建過程

克隆主機

在我的計算機中喻圃,選擇待克隆的主機右鍵->管理->克隆》嗦耍可以先克隆一臺進行設置斧拍,在去設置另外兩臺
選擇創(chuàng)建完全克隆


克隆類型

設置虛擬機名稱


新虛擬機名稱設置

CentOS的修改設置

修改主機名

打開虛擬機,打開命令提示符杖小,進入root用戶

$ vim /etc/sysconfig/network
修改ip

將主機名設置為node1保存退出
在虛擬機右上角有兩個小電腦右鍵->Edit Connections

ip設置選項

先將eth1的ipv4設置為DHCP肆汹,或者將eth1直接刪除,在設置eth2予权,將eht2的ip和主節(jié)點的ip設置在一個網(wǎng)關下昂勉。
eth1的ipv4設置為DHCP

eth2的ip設置

關閉防火墻
$ service iptables status       #查看防火墻狀態(tài) 
$ service iptables stop         #關閉防火墻
$ chkconfig iptables --list     #查看防火墻開機啟動狀態(tài)
$ chkconfig iptables off        #關閉防火墻開機啟動

修改完主機名和ip后重啟虛擬機

注:重啟虛擬機是為了讓新修改主機名生效,同時網(wǎng)卡也從新啟動扫腺;如果自是修改了ip可以不必重啟虛擬機岗照,可以直接使用shell重啟網(wǎng)卡

$ service network restart

按照以上方法克隆出另外兩臺虛擬機(node2和node3),然后修改主機名和ip

修改主節(jié)點master主機的hosts
$ vim /etc/hosts

在里面添加三臺node的ip與主機名的映射笆环。

192.168.8.10   master
192.168.8.11   node1
192.168.8.12   node2
192.168.8.13   node3

嘗試主節(jié)點是否能ping通三個子節(jié)點攒至,能ping的同說明ip設置正確,ping不通從新檢測ip配置
將主節(jié)點的hosts文件復制到其它三個子節(jié)點

$ scp /etc/hosts node1:/etc/hosts
$ scp /etc/hosts node2:/etc/hosts
$ scp /etc/hosts node3:/etc/hosts

嘗試其節(jié)點是否能ping通主節(jié)點躁劣。

子節(jié)點的ssh設置

進入.ssh目錄

$ cd ~/.ssh
$ ssh-keygen -t rsa    #生成`rsa`
$ ssh-copy-id node1 #給node1設設置免秘鑰登錄
$ ssh-copy-id localhost #也執(zhí)行一遍

嘗試登錄自身

$ ssh node1

將生成的ssh公鑰cp到其主機迫吐,實現(xiàn)免秘鑰連接。

$ ssh-copy-id  -i ~/.ssh/id_rsa.pub master   #cp到主節(jié)點

并嘗試登錄主節(jié)點


圖片僅供參考

注: exit可以退出ssh登錄账忘,以上ssh配置在node2志膀,node3中做同樣的操作熙宇。

三臺子節(jié)點的公鑰都cp到主節(jié)點中,我們可以通過查看authorized_keys文件查看結果

$ more authorized_keys

authorized_keys文件

將主機的authorized_keys文件復制到三個子節(jié)點中

$ scp /root/.ssh/authorized_keys node1:/root/.ssh/authorized_keys 
$ scp /root/.ssh/authorized_keys node2:/root/.ssh/authorized_keys
$ scp /root/.ssh/authorized_keys node3:/root/.ssh/authorized_keys

相互進行免密鑰登錄一次梧却,第一次會輸入一次密碼奇颠。

至此子節(jié)點centOS配置結束。

hadoop修改

子節(jié)點中的hadoop的配置文件不用修改放航,只需要將tmp文件夾下的文件刪除
hadoop的core-site.xml中hadoop.tmp.dir的value值就為tmp文件夾路徑

core-site.xml

需要刪除的文件

$ rm -rf dfs/
$ rm -rf nm-local-dir

上面是三個子節(jié)點hadoop設置烈拒,都需要執(zhí)行

hadoop主節(jié)點設置
修改hdfs-site.xml文件

將屬性修改為3

修改slaver文件
將三個自己的主機名或則ip寫入
slaver內(nèi)容

修改完后啟動hadoop,查看節(jié)點個數(shù)
主節(jié)點四個服務
主節(jié)點四個服務

子節(jié)點三個服務

查看節(jié)點
$ hdfs dfsadmin -report
$ yarn node -list

注: 如果修改slavers文件前以啟動hadoop,那么子節(jié)點需要單獨啟動

$ hadoop-daemon.sh start datanode
$ yarn-daemon.sh start nodemanager
最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末广鳍,一起剝皮案震驚了整個濱河市荆几,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌赊时,老刑警劉巖吨铸,帶你破解...
    沈念sama閱讀 221,635評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異祖秒,居然都是意外死亡诞吱,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,543評論 3 399
  • 文/潘曉璐 我一進店門竭缝,熙熙樓的掌柜王于貴愁眉苦臉地迎上來房维,“玉大人,你說我怎么就攤上這事抬纸×” “怎么了?”我有些...
    開封第一講書人閱讀 168,083評論 0 360
  • 文/不壞的土叔 我叫張陵湿故,是天一觀的道長阿趁。 經(jīng)常有香客問我,道長坛猪,這世上最難降的妖魔是什么脖阵? 我笑而不...
    開封第一講書人閱讀 59,640評論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮墅茉,結果婚禮上命黔,老公的妹妹穿的比我還像新娘。我一直安慰自己躁锁,他們只是感情好纷铣,可當我...
    茶點故事閱讀 68,640評論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著战转,像睡著了一般搜立。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上槐秧,一...
    開封第一講書人閱讀 52,262評論 1 308
  • 那天啄踊,我揣著相機與錄音忧设,去河邊找鬼。 笑死颠通,一個胖子當著我的面吹牛址晕,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播顿锰,決...
    沈念sama閱讀 40,833評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼谨垃,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了硼控?” 一聲冷哼從身側響起刘陶,我...
    開封第一講書人閱讀 39,736評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎牢撼,沒想到半個月后匙隔,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,280評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡熏版,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,369評論 3 340
  • 正文 我和宋清朗相戀三年纷责,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片撼短。...
    茶點故事閱讀 40,503評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡再膳,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出阔加,到底是詐尸還是另有隱情饵史,我是刑警寧澤满钟,帶...
    沈念sama閱讀 36,185評論 5 350
  • 正文 年R本政府宣布胜榔,位于F島的核電站,受9級特大地震影響湃番,放射性物質(zhì)發(fā)生泄漏夭织。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,870評論 3 333
  • 文/蒙蒙 一吠撮、第九天 我趴在偏房一處隱蔽的房頂上張望尊惰。 院中可真熱鬧,春花似錦泥兰、人聲如沸弄屡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,340評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽膀捷。三九已至,卻和暖如春削彬,著一層夾襖步出監(jiān)牢的瞬間全庸,已是汗流浹背秀仲。 一陣腳步聲響...
    開封第一講書人閱讀 33,460評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留壶笼,地道東北人神僵。 一個月前我還...
    沈念sama閱讀 48,909評論 3 376
  • 正文 我出身青樓,卻偏偏與公主長得像覆劈,于是被迫代替她去往敵國和親保礼。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 45,512評論 2 359

推薦閱讀更多精彩內(nèi)容