Hadoop2.7完全分布式安裝

實驗工具:

? ? ? ? Ubuntu16.041臺主機(master:我的名字叫zhangjunj)+2臺虛擬機(slaves:slaveone 和 twoslave)

? ? ? ? hadoop:hadoop-2.7.3

? ? ? ? jdk:jdk1.8.0.121

安裝VisualBox(virtualbox-5.1_5.1.14)

? ? ? ? 安裝過程請自行百度,google

? ? ? ?這里我說一下自己碰到的問題:

? ? ? ? ? ?因為需要主機和虛擬機相互文件傳輸文件卷中,所以需要共享設(shè)置狰住,設(shè)置的方法我已在下面給出鏈接灭袁。其中博主說通過在/etc/fstab中加入 :

? ? ? gongxiang /mnt/shared vboxsf rw,gid=username,uid=username,auto 0 0

可以實現(xiàn)自動掛載叁征。但是我實驗的時候全闷,每次加入這段話漂问,就進入Linux緊急模式蔼水,然后通過root權(quán)限刪除這句話震糖,OK.所以大家懂的,如果需要創(chuàng)建文件趴腋,每次開機都得手動掛載吊说。其中設(shè)置共享文件夾在這里


網(wǎng)絡(luò)配置?

? ? ? 1. 3個IP必須在同一網(wǎng)段上优炬,然后在VirsualBox中 設(shè)置-->網(wǎng)絡(luò)設(shè)置成 -->橋接模式,如下圖所示:


2. 對相應(yīng)的slaves配置IP:


3.因為橋接模式颁井,我是通過ccproxy代理上網(wǎng)的,將代理放在我另一臺電腦的windows上蠢护,至于如何代理蚤蔓,自行Google,百度糊余,然后說一下我遇到的問題:代理的時候秀又,別忘了關(guān)閉windows下的防火墻。

4. 在主機和2個slave上的 /etc/hosts 中配置ip 每個節(jié)點對應(yīng)的映射:


5. 配置好之后相互ping一下贬芥,然后確認是否成功:


SSH無密碼登錄各節(jié)點:

?這個操作就是讓master(zhangjunj)登錄到各個slave上

?1. 先在終端進行 sudo apt-get install openssh-server (先在本機上免密碼):

? ? ?第二步: ssh localhost?

? ? 第三步: ssh-keygen -t rsa

? ? 第四步: cat ./id_rsa.pub >> ./authorized_keys

? ? 四步完成之后驗證一下吐辙,進行 ssh localhost,就可以免密碼登錄了

2. 然后在主機master(我的叫zhangjunj)終端上進行:

? ? ? ?scp ~/.ssh/id_rsa.pub slaveone@slaveone:/home/remoteFile

結(jié)果:

接著在slaveone上:

mkdir ~/.ssh # 如果不存在請先創(chuàng)建蘸劈,已存在請忽略

cat ~/remoteFile/id_rsa.pub >> ~/.ssh/authorized_keys

rm ~/id_rsa.pub #用完可以刪掉

(以上 網(wǎng)絡(luò)配置和 無密碼登錄 大多出自于: http://www.powerxing.com/install-hadoop-cluster/)

然后: ssh slaveone@slaveone


然后我從中在過程中遇到的問題遺忘了昏苏,解決的方法是 :我把一個master(zhangjunj)和兩個slave都相互配了一遍。

配置PATH變量

在 /etc/profile 中 除了 SCALA_HOME 和 相對應(yīng)的PATH外威沫,其他的都應(yīng)該存在:

然后:source /etc/profile

配置集群

在主機(master贤惯,我的叫zhangjunj)上這個需要修改 ..../.../hadoop/etc/hadoop中的5個配置文件:slaves、core-site.xml,hdfs-site.xml,mapred-site.xml,yarn-site.xml.

1.在文件slaves中:

2. 文件core-site.xml改為下面配置:

3. 文件hdfs-site.xml棒掠,其中我的dfs.replication設(shè)置孵构,因為我有2個slave,所以為2.


4. 文件mapred-site.xml:

5. 文件yarn-site.xml:


6. 在傳輸之前烟很,如果之前跑過偽分布颈墅,建議先刪除之前的臨時文件蜡镶,在hadoop根目錄下執(zhí)行:

? ? ? ? ? ? ? ? ? ? ? sudo rm -rf tmp

? ? ? ? ? ? ? ? ? ? ? sudo rm -rf logs/*

7. 配置好之后,將配好的hadoop文件可以復(fù)制到2個slave上恤筛。然后將配好的hadoop分配到2個slave中. 我是通過共享文件夾傳輸?shù)墓倩梗驗閟cp傳輸總是拒絕,不知道什么原因毒坛,也沒有解決望伦,如果哪個大神知道,敬請賜教煎殷。(但共享文件夾傳輸會有訪問權(quán)限的問題屡谐,需要修改hadoop根目錄下./hdfs/data的文件權(quán)限,我是通過 chmod 777 修改權(quán)限了)

8. 首先啟動需要現(xiàn)在Master(Zhangjunj)執(zhí)行NameNode格式化,通過根目錄下進入bin目錄下:

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ./hdfs namenode -format?

9. 然后退出到根目錄蝌数,進入 sbin目錄下,進行:

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ./start-dfs.shfenxiang

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ./start-yarn.sh

結(jié)果如圖:

10. 在 slave機子上 在進行 jps度秘,如下圖所示:

?第9條和第10 條中任何一個進程沒有顶伞,都是出現(xiàn)錯誤,就得改吧剑梳。

我出現(xiàn)的問題是:Datanode一直啟動不起來唆貌,改了兩天,才發(fā)現(xiàn)是關(guān)于namesnode數(shù)據(jù)格式的問題垢乙,而我的又不一樣锨咙,我的是Datanode中沒有關(guān)于namenodeID,然后通過(轉(zhuǎn)自:http://www.lishiyu.cn/post/61.html)追逮,通過它的方法酪刀,將master主機中的hadoop根目錄下 /tmp臨時文件刪除,還有hadoop根目錄下的/hdfs/data和/hdfs/name目錄下文件都刪除钮孵,然后成功骂倘。


致此,hadoop環(huán)境搭建完成巴席,其中历涝,我還是有許多搞不懂的地方。慢慢來吧漾唉,腳踏實地荧库,代碼的提升就是靠改錯提升的。期間痛苦赵刑,過后就興奮的像孔乙己了分衫。

希望每個coding的程序猿們,大家都寫寫博客般此,雖不能完整描述丐箩,但可以把自己問題說出來摇邦,然后說出解決辦法。好的風(fēng)氣起來屎勘,對你施籍,對大家,都是很節(jié)省時間的概漱。其中我很想說為什么這么做丑慎,但是,我真的能力有限瓤摧。下面是我參考的博文竿裂,希望對大家有用:

我用的最多的是這個地址:這個

還有這兩個:實驗樓(給它做廣告它會不會很開心呢)和?這個

在此,謝謝博友們的分享照弥。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末腻异,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子这揣,更是在濱河造成了極大的恐慌,老刑警劉巖给赞,帶你破解...
    沈念sama閱讀 216,997評論 6 502
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件片迅,死亡現(xiàn)場離奇詭異柑蛇,居然都是意外死亡耻台,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,603評論 3 392
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來都弹,“玉大人匙姜,你說我怎么就攤上這事氮昧。” “怎么了咪辱?”我有些...
    開封第一講書人閱讀 163,359評論 0 353
  • 文/不壞的土叔 我叫張陵油狂,是天一觀的道長。 經(jīng)常有香客問我专筷,道長,這世上最難降的妖魔是什么吮旅? 我笑而不...
    開封第一講書人閱讀 58,309評論 1 292
  • 正文 為了忘掉前任庇勃,我火速辦了婚禮莺葫,結(jié)果婚禮上枪眉,老公的妹妹穿的比我還像新娘贸铜。我一直安慰自己蒿秦,他們只是感情好棍鳖,可當(dāng)我...
    茶點故事閱讀 67,346評論 6 390
  • 文/花漫 我一把揭開白布渡处。 她就那樣靜靜地躺著医瘫,像睡著了一般。 火紅的嫁衣襯著肌膚如雪稼锅。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,258評論 1 300
  • 那天矩距,我揣著相機與錄音拗盒,去河邊找鬼剩晴。 笑死锣咒,一個胖子當(dāng)著我的面吹牛赞弥,可吹牛的內(nèi)容都是我干的毅整。 我是一名探鬼主播绽左,決...
    沈念sama閱讀 40,122評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼悼嫉,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了拼窥?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,970評論 0 275
  • 序言:老撾萬榮一對情侶失蹤鲁纠,失蹤者是張志新(化名)和其女友劉穎改含,沒想到半個月后情龄,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體鹃觉,經(jīng)...
    沈念sama閱讀 45,403評論 1 313
  • 正文 獨居荒郊野嶺守林人離奇死亡专酗,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,596評論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了疗隶。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片躬柬。...
    茶點故事閱讀 39,769評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖抽减,靈堂內(nèi)的尸體忽然破棺而出允青,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 35,464評論 5 344
  • 正文 年R本政府宣布颠锉,位于F島的核電站法牲,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏琼掠。R本人自食惡果不足惜拒垃,卻給世界環(huán)境...
    茶點故事閱讀 41,075評論 3 327
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望瓷蛙。 院中可真熱鬧悼瓮,春花似錦、人聲如沸艰猬。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,705評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽冠桃。三九已至命贴,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間食听,已是汗流浹背胸蛛。 一陣腳步聲響...
    開封第一講書人閱讀 32,848評論 1 269
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留樱报,地道東北人葬项。 一個月前我還...
    沈念sama閱讀 47,831評論 2 370
  • 正文 我出身青樓,卻偏偏與公主長得像迹蛤,于是被迫代替她去往敵國和親民珍。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,678評論 2 354

推薦閱讀更多精彩內(nèi)容