自從使用上了 hadoop 集群后粹湃，服務(wù)器 要經(jīng)常擴(kuò)容 ，hdfs 也要 經(jīng)常rebalance
如果只有一臺(tái)的話灰署，沒(méi)有問(wèn)題判帮，按照命令操作就可以局嘁，但是 單單格式化就要等好久，但是是一個(gè)集群 四五臺(tái)就可以需要整很久晦墙，兩個(gè)小時(shí)下不來(lái)悦昵，而且還容易出錯(cuò)，說(shuō)不定不小心晌畅，你就可能把 完好的一塊磁盤(pán)給格式化成zero
如果一個(gè)集群已經(jīng)有上百臺(tái)節(jié)點(diǎn)了但指，為了充分解放勞動(dòng)力，如果沒(méi)有一個(gè)可以使之自動(dòng)化執(zhí)行磁盤(pán)格式化流程的腳本 我感覺(jué)三天才能完整干完抗楔，而且你還要不斷的驗(yàn)證棋凳，防止萬(wàn)一沒(méi)有格式化好或者 掛載點(diǎn)異常，導(dǎo)致新的磁盤(pán)還是無(wú)法使用连躏，為此 我在同事的建議下 寫(xiě)了一個(gè)腳本贫橙，發(fā)現(xiàn)剛開(kāi)始由于沒(méi)有經(jīng)驗(yàn)，即使是使用腳本反粥，還是出了一些問(wèn)題卢肃，但是當(dāng)你不斷的調(diào)整，在一臺(tái)機(jī)器上實(shí)驗(yàn)完全成功后才顿，由于每個(gè)節(jié)點(diǎn)的配置都是一樣的莫湘，所以一個(gè)這樣的自動(dòng)化執(zhí)行腳本 可以在整個(gè)拓?fù)渚W(wǎng)絡(luò)同層次的各個(gè)節(jié)點(diǎn)全部適用。
首先帶大家熟悉一下關(guān)于磁盤(pán) 格式化 相關(guān)命令 及解釋
1.查看
fdisk -l
2.磁盤(pán)分區(qū)
fdisk /dev/vdb
（根據(jù)提示郑气，依次輸入“n”幅垮，“p”“1”，兩次回車(chē)尾组，“wq”寿酌，分區(qū)就開(kāi)始了坟乾，很快就會(huì)完成往产。）
3.格式化分區(qū)
mkfs.ext3 /dev/vdb1
4.添加分區(qū)信息
echo '/dev/vdb1 /data1 ext3 defaults 0 0' >> /etc/fstab
（其中 /mnt 可以改成自定義的目錄,我們一般用 /data1）
5.掛載分區(qū)
mount -a
一下是腳本的具體內(nèi)容溺蕉，
vi fsnewdisk.sh
`
‘#!/bin/sh
disks=("/dev/vdg" "/dev/vdh")
counts=6
for disk in ${disks[*]}
do
echo "begin fenqu disk :"+ $disk
echo "format disk complete mkdir ing"+${counts}
sudo -i mkdir /data${counts}
echo "n
p
1
wq"| fdisk $disk &
echo "fenqu finish,format disk ing"
mkfs.ext3 ${disk}1
echo "register in fstab"
echo "${disk}1 /data${counts} ext3 defaults 0 0">> /etc/fstab
echo "gua zai disk"
echo "all complete"
counts=$(expr $counts + 1)
echo "counts"+$counts
done
mount -a
`
編輯好后，就 直接 sh fsnewdisk.sh & ,一定要后臺(tái)進(jìn)程跨跨，防止 terminal關(guān)閉潮峦，導(dǎo)致腳本執(zhí)行中斷
，另外 要關(guān)注 你的盤(pán)符 和掛載的文件目錄點(diǎn)勇婴，因?yàn)橹拔乙呀?jīng)掛載了五個(gè)磁盤(pán)了忱嘹，也是同樣的操作，這次從第六個(gè)盤(pán)開(kāi)始耕渴，所以有一些是需要 自己做適當(dāng)修改
通過(guò) fdisk -l 查看 磁盤(pán)拘悦，
注意 磁盤(pán)擴(kuò)容的操作 只能在root用戶下進(jìn)行
磁盤(pán)只有格式化 掛載好 才會(huì)出現(xiàn) Device Boot Start End Blocks Id System
而沒(méi)有格式化的 只是綁定了的磁盤(pán) 是沒(méi)有這些內(nèi)容的，比如下張圖
/dev/vdg 和 /dev/vdh兩個(gè)磁盤(pán)都還沒(méi)有格式化 橱脸，只是購(gòu)買(mǎi)了础米，綁定在服務(wù)器節(jié)點(diǎn)上
假如你在執(zhí)行磁盤(pán)格式化出現(xiàn)了意外也不要擔(dān)心分苇，重新再來(lái)一次正確的即可
比如 這些錯(cuò)誤
驗(yàn)證 這個(gè)盤(pán)是否掛載好的另一種方式就是cd 到磁盤(pán)的掛載目錄下有沒(méi)有 lost+found 這個(gè)文件
當(dāng)這些都做好了以后，修改 hadoop 集群每個(gè)節(jié)點(diǎn)的 配置文件 hdfs-site.xml 中的dfs.datanode.data.dir 屬性椭盏，把你新添加的磁盤(pán)加入到其value中
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/data1/datanode,file:/data2/datanode,file:/data3/datanode,file:/data4/datanode,file:/data5/datanode</value>
</property>
還有就是 yarn-site.xml 中 NodeManager的 yarn.nodemanager.local-dirs 屬性组砚，把新加入的盤(pán)追加到其value中
<property>
<name>yarn.nodemanager.local-dirs</name>
<value>file:/data1/nodemanager,file:/data2/nodemanager,file:/data3/nodemanager,file:/data4/nodemanager,file:/data5/nodemanager</value>
</property>
劃重點(diǎn)來(lái)了吻商，大家加入的磁盤(pán)的掛載目錄 比如說(shuō)是 /data6 和 /data7 我們?cè)?格式化 和掛載的時(shí)候都是root 用戶下操作的掏颊，兩個(gè) 目錄的權(quán)限都是 root ，如果 你不修改艾帐，直接在 hadoop管理員用戶【一般不是root 用戶】重啟hadoop 集群的話乌叶，我會(huì)告訴你 所有DataNode節(jié)點(diǎn) 的 DataNode 后臺(tái)守護(hù)進(jìn)程將無(wú)法 啟動(dòng)，因?yàn)? 根本沒(méi)有權(quán)限無(wú)法向這兩個(gè)目錄寫(xiě)入文件柒爸，
報(bào)錯(cuò) ：# Namenode is in startup mode
當(dāng)你修改了所有DataNode節(jié)點(diǎn)的這兩個(gè)新的掛載目錄的權(quán)限后
然后重啟 hadoop 集群准浴，這樣磁盤(pán)就可以被hadoop 的DataNode 節(jié)點(diǎn)識(shí)別 作為hdfs 存儲(chǔ)單元來(lái)使用了，
但是我們還要考慮一個(gè) 問(wèn)題 就是 hadoop的磁盤(pán)默認(rèn)寫(xiě)入策略 是 Robin, 這樣的話捎稚，還是原來(lái)的舊盤(pán) 最先寫(xiě)滿乐横，新盤(pán)寫(xiě)的少，假如你這樣擴(kuò)容就不管了今野，萬(wàn)一 舊盤(pán)已經(jīng)寫(xiě)入了 磁盤(pán)的99%葡公，再加多少新盤(pán)都是杯水車(chē)薪，我們要考慮 的是 減輕舊盤(pán)的磁盤(pán)寫(xiě)入壓力条霜，這個(gè)才是擴(kuò)容的關(guān)鍵催什，雖然我修改 成了 優(yōu)先寫(xiě)入新的磁盤(pán)的策略，但是這個(gè)還是不夠的宰睡，需要我們手動(dòng)rebalance蒲凶， 強(qiáng)制執(zhí)行把 舊盤(pán)的數(shù)據(jù)塊 轉(zhuǎn)移到新盤(pán)，來(lái)回 均勻一下拆内。這樣最后 新盤(pán)舊盤(pán) 大家的寫(xiě)入量都一樣旋圆，再往里面寫(xiě)日志流就不必?fù)?dān)心到底寫(xiě)到哪個(gè)盤(pán)里了，以后再有新盤(pán)的時(shí)候也是要這樣rebalance的
hadoop 本身自帶一個(gè) start-balancer.sh的一個(gè)腳本麸恍，我們可以使用歐冠它臂聋，另外 dfadmin中也有一個(gè) balance的參數(shù)可以設(shè)定的
這個(gè)明天嘗試，完事我告訴大家或南。
