Hadoop集群 增加節(jié)點(diǎn)/增加磁盤

  1. 在虛擬機(jī)中新建一個機(jī)器。

  2. 設(shè)置靜態(tài)IP

  3. 將修改/etc/hosts

    192.168.102.10 master
    192.168.102.11 slave-1
    192.168.102.12 slave-2
    192.168.102.13 slave-3
    192.168.102.14 slave-4
    

    在然后在其他節(jié)點(diǎn)hosts文件中增加

    192.168.102.14 slave-4
    
  4. 修改hostname 命令hostnamectl set-hostname Slave-4
    通過hostname命令查看修改結(jié)果

  5. 關(guān)閉防火墻

    systemctl stop firewalld.service      //停止firewall
    systemctl disable firewalld.service //禁止firewall開機(jī)啟動
    systemctl status firewalld.service //查看防火墻狀態(tài)
    
  6. 節(jié)點(diǎn)免密碼登錄
    使用命令

    ssh-keygen -t rsa(一路回車)
    

    生成id_rsa(私鑰)、id_rsa.pub(公鑰)然后

    cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
    

    將Salve-4的公鑰拷貝到其他節(jié)點(diǎn)上捅僵,再將其他節(jié)點(diǎn)的公鑰拷貝到Salve-4上

    Salve-4節(jié)點(diǎn)上執(zhí)行
    ssh-copy-id -i  Master
    ssh-copy-id -i  slave-1
    ssh-copy-id -i  slave-2
    ssh-copy-id -i  slave-3(這里沒有執(zhí)行黑竞,待把slave-3修復(fù)了再執(zhí)行)
    

    在其他節(jié)點(diǎn)執(zhí)行

    ssh-copy-id -i  slave-4
    

    再用ssh驗(yàn)證相互之間的免密碼登陸

    ssh slave-4(master,等hostname)
    
  7. 在/usr/local/hadoop2.7.2/etc/hadoop/slaves 中增加slave-4

  8. 將其他一個節(jié)點(diǎn)的/etc/profile,/usr/local目錄下文件傳輸?shù)絪lave-4中,目錄位置不變

    scp -r /etc/profile root@slave-4:/etc/
    scp -r /usr/local root@slave-4:/usr/
    
  9. 修改系統(tǒng)默認(rèn)JDK

    update-alternatives --install /usr/bin/java java /usr/local/jdk1.8/bin/java 300
    update-alternatives --install /usr/bin/java javac /usr/local/jdk1.8/bin/javac 300
    update-alternatives --install /usr/bin/jar jar /usr/local/jdk1.8/bin/jar 300
    update-alternatives --config java
    然后選擇
       4           /usr/local/jdk1.8/bin/java
    這一行
    
  10. 在虛擬磁盤擴(kuò)容,已經(jīng)實(shí)現(xiàn)了虛擬機(jī)中的擴(kuò)容(分區(qū)锁右,創(chuàng)建文件系統(tǒng)失受,掛載),這里實(shí)現(xiàn)HDFS中識別出增加的容量
    刪除hdfs-site.xml中dfs.data.dir指定的文件

    <property>  
    <name>dfs.data.dir</name>  
    <value>/usr/local/data</value>  
    <description>datanode上數(shù)據(jù)塊的物理存儲位置</description>  
    </property>
    

    刪除core-site.xml中hadoop.tmp.dir指定的文件咏瑟,刪除/usr/local/hadoop 放著各個節(jié)點(diǎn)ID會不一樣拂到。

    <property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/hadoop/tmp</value>
    </property>
    
    

    格式化namenode

    hdfs namenode -format
    

    格式化完畢,原來的數(shù)據(jù)全部被清空了。產(chǎn)生了一個新的hdfs
    查看信息

     hdfs dfsadmin -report
    

11.第10個步驟可能是多余的沒必要
在增加磁盤的情況下码泞,只需要在掛載完硬盤之后修改hdfs-site.xml文件即可兄旬。

<property>  
    <name>dfs.data.dir</name>  
    <value>/usr/local/data,/newdisk/hadoop-data/</value>  
    <description>datanode上數(shù)據(jù)塊的物理存儲位置</description>  
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市余寥,隨后出現(xiàn)的幾起案子领铐,更是在濱河造成了極大的恐慌,老刑警劉巖宋舷,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件绪撵,死亡現(xiàn)場離奇詭異,居然都是意外死亡祝蝠,警方通過查閱死者的電腦和手機(jī)音诈,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來绎狭,“玉大人细溅,你說我怎么就攤上這事》夭恚” “怎么了谒兄?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵,是天一觀的道長社付。 經(jīng)常有香客問我承疲,道長邻耕,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任燕鸽,我火速辦了婚禮兄世,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘啊研。我一直安慰自己御滩,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布党远。 她就那樣靜靜地躺著削解,像睡著了一般。 火紅的嫁衣襯著肌膚如雪沟娱。 梳的紋絲不亂的頭發(fā)上氛驮,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天,我揣著相機(jī)與錄音济似,去河邊找鬼矫废。 笑死,一個胖子當(dāng)著我的面吹牛砰蠢,可吹牛的內(nèi)容都是我干的蓖扑。 我是一名探鬼主播,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼台舱,長吁一口氣:“原來是場噩夢啊……” “哼律杠!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起柿赊,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤俩功,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后碰声,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體诡蜓,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年胰挑,在試婚紗的時候發(fā)現(xiàn)自己被綠了蔓罚。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡瞻颂,死狀恐怖豺谈,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情贡这,我是刑警寧澤茬末,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響丽惭,放射性物質(zhì)發(fā)生泄漏击奶。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一责掏、第九天 我趴在偏房一處隱蔽的房頂上張望柜砾。 院中可真熱鬧,春花似錦换衬、人聲如沸痰驱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽担映。三九已至,卻和暖如春叫潦,著一層夾襖步出監(jiān)牢的瞬間另萤,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工诅挑, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人泛源。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓拔妥,卻偏偏與公主長得像,于是被迫代替她去往敵國和親达箍。 傳聞我的和親對象是個殘疾皇子没龙,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,901評論 2 355

推薦閱讀更多精彩內(nèi)容