Hadoop集群搭建

https://www.zybuluo.com/DFFuture/note/626899

1.查看 hostname

修改主機名 sudo gedit /etc/hostname

重啟 reboot

2.編輯host sudo gedit /etc/hosts

刪除127.0.1.1那一行偏形,并添加:

192.168.86.140 ubuntu1

192.168.86.143 ubuntu2

192.168.86.144 ubuntu3

ping hadoop01捣炬、hadoop02、hadoop03看是否能

3.安裝openssh-server sudo apt-get install -y openssh-server

4.生成ssh目錄 ssh localhost

在ssh目錄下 cd ~./ssh

生成密鑰 ssh-keygen -t rsa -P "" 一直按回車即可

將公鑰添加到autorized_keys cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

5.將公鑰傳輸?shù)狡渌?jié)點

scp ~/.ssh/id_rsa.pub edward@hadoop02:~

scp ~/.ssh/id_rsa.pub edward@hadoop03:~

進入hadoop02鼓黔、hadoop03目錄

將id_rea.pub的內(nèi)容添加進入authorized_keys

cat ~/id_rsa.pub >> ~/.ssh/authorized_keys

刪除已經(jīng)添加的id_rsa.pub

rm -rf id_rsa.pub

如果ssh hadoop01辫继、ssh hadoop02、ssh hadoop03都能無密登陸,即配置ssh成功

無法傳輸問題:

修改/etc/ssh/ssh_config

在最后添加2行:

StrictHostKeyChecking no
UserKnownHostsFile /dev/null

6.下載 hadoop hadoop-2.7.7.tar.gz

解壓到 /usr/local/hadoop

7.配置環(huán)境變量 gedit ~/.bashrc

添加

HADOOP_HOME=/usr/local/hadoop/hadoop-2.7.7

PATH添加:

$HADOOP_HOME/bin:$HADOOP_HOME/sbin

source ~/.bashrc hadoop version

8.集群/分布式模式需要修改 /usr/local/hadoop/hadoop-2.7.7/etc/hadoop 中的5個配置文件纳本,

8.1 slaves (配置DataNode主機)

寫入 :

hadoop01

hadoop02

hadoop03

8.2 core-site.xml (基礎(chǔ)配置)

寫入:

<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop02:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/local/hadoop/tmp</value>

</property>

<property>

<name>fs.trash.interval</name>

<value>10080</value>

</property>

</configuration>

8.3 hdfs-site.xml (HDFS配置)
寫入:

<configuration>

<property>

<name>dfs.replication</name>

<value>3</value>

</property>

<property>

<name>dfs.permissions.enabled</name>

<value>false</value>

</property>

<property>

<name>dfs.namenode.http-address</name>

<value>hadoop02:50070</value>

</property>

<property>

<name>dfs.namenode.secondary.http-address</name>

<value>hadoop03:50090</value>

</property>

</configuration>

8.4 mapred-site.xml (MapReduce配置)

復(fù)制重命名mapred-site.xml.template cp mapred-site.xml.template mapred-site.xml

寫入:

<configuration>

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

<property>

<name>mapreduce.jobhistory.address</name>

<value>hadoop02:10020</value>

</property>

<property>

<name>mapreduce.jobhistory.webapp.address</name>

<value>hadoop02:19888</value>

</property>

<property>

<name>mapreduce.job.ubertask.enable</name>

<value>true</value>

</property>

</configuration>

8.5 yarn-site.xml (Yarn配置)

寫入:

<configuration>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

<property>

<name>yarn.resourcemanager.hostname</name>

<value>hadoop01</value>

</property>

<property>

<name>yarn.web-proxy.address</name>

<value>hadoop01:8888</value>

</property>

<property>

<name>yarn.log-aggregation-enable</name>

<value>true</value>

</property>

<property>

<name>yarn.log-aggregation.retain-seconds</name>

<value>604800</value>

</property>

</configuration>

9.格式化nameNode hadoop namenode -format

異常問題可以添加權(quán)限 sudo chmod 777 / usr /local/ hadoop /tmp/

10.將hadoop 復(fù)制到其他主機中

scp -r /local/hadoop hadoop@hadoop02:/local/

scp -r /local/hadoop hadoop@hadoop03:/local/

啟動

11.hadoop02 /sbin 啟動dfs和jobhistory

start-dfs.sh

mr-jobhistory-daemon.sh start historyserver

12.Hadoop01 /sbin 啟動yarn和防護進程

start-yarn.sh

yarn-daemon.sh start proxyserver

13.網(wǎng)址

Yarn:192.168.86.136:8088

HDFS:192.168.86.137:50070

關(guān)閉

14. hadoop01 /sbin 關(guān)閉yarn

stop-yarn.sh

15 hadoop02 /sbin 關(guān)閉hdfs和jobhistory

stop-dfs.sh

mr-jobhistory-daemon.sh stop historyserver

報錯:

JAVA_HOME is not set and could not be found

https://blog.csdn.net/lxpbs8851/article/details/45225171

$HADOOP_HOME/etc/hadoop/yarn-env.sh 中添加

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_191

$HADOOP_HOME/libexec/hadoop-config.sh 中添加

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_191
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市腋颠,隨后出現(xiàn)的幾起案子繁成,更是在濱河造成了極大的恐慌,老刑警劉巖淑玫,帶你破解...
    沈念sama閱讀 217,277評論 6 503
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件巾腕,死亡現(xiàn)場離奇詭異面睛,居然都是意外死亡,警方通過查閱死者的電腦和手機尊搬,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,689評論 3 393
  • 文/潘曉璐 我一進店門叁鉴,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人佛寿,你說我怎么就攤上這事幌墓。” “怎么了冀泻?”我有些...
    開封第一講書人閱讀 163,624評論 0 353
  • 文/不壞的土叔 我叫張陵常侣,是天一觀的道長。 經(jīng)常有香客問我弹渔,道長胳施,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,356評論 1 293
  • 正文 為了忘掉前任肢专,我火速辦了婚禮舞肆,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘鸟召。我一直安慰自己胆绊,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,402評論 6 392
  • 文/花漫 我一把揭開白布欧募。 她就那樣靜靜地躺著压状,像睡著了一般。 火紅的嫁衣襯著肌膚如雪跟继。 梳的紋絲不亂的頭發(fā)上种冬,一...
    開封第一講書人閱讀 51,292評論 1 301
  • 那天,我揣著相機與錄音舔糖,去河邊找鬼娱两。 笑死,一個胖子當(dāng)著我的面吹牛金吗,可吹牛的內(nèi)容都是我干的十兢。 我是一名探鬼主播,決...
    沈念sama閱讀 40,135評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼摇庙,長吁一口氣:“原來是場噩夢啊……” “哼旱物!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起卫袒,我...
    開封第一講書人閱讀 38,992評論 0 275
  • 序言:老撾萬榮一對情侶失蹤宵呛,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后夕凝,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體宝穗,經(jīng)...
    沈念sama閱讀 45,429評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡户秤,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,636評論 3 334
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了逮矛。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鸡号。...
    茶點故事閱讀 39,785評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖橱鹏,靈堂內(nèi)的尸體忽然破棺而出膜蠢,到底是詐尸還是另有隱情,我是刑警寧澤莉兰,帶...
    沈念sama閱讀 35,492評論 5 345
  • 正文 年R本政府宣布,位于F島的核電站礁竞,受9級特大地震影響糖荒,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜模捂,卻給世界環(huán)境...
    茶點故事閱讀 41,092評論 3 328
  • 文/蒙蒙 一捶朵、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧狂男,春花似錦综看、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,723評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至泡垃,卻和暖如春析珊,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背蔑穴。 一陣腳步聲響...
    開封第一講書人閱讀 32,858評論 1 269
  • 我被黑心中介騙來泰國打工忠寻, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人存和。 一個月前我還...
    沈念sama閱讀 47,891評論 2 370
  • 正文 我出身青樓奕剃,卻偏偏與公主長得像,于是被迫代替她去往敵國和親捐腿。 傳聞我的和親對象是個殘疾皇子纵朋,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,713評論 2 354

推薦閱讀更多精彩內(nèi)容

  • 本文用以記錄hadoop分布式集群搭建過程 基礎(chǔ)環(huán)境準備 1、軟件環(huán)境 centos 6.5 三臺服務(wù)器分配的IP...
    遠方的貓dj閱讀 982評論 0 2
  • 目錄 集群簡介 服務(wù)器準備 環(huán)境和服務(wù)器設(shè)置 JDK環(huán)境安裝 Hadoop安裝部署 啟動集群 測試 集群簡介 在進...
    Singer_Au閱讀 2,726評論 0 8
  • 1.準備Linux環(huán)境 1.0先將虛擬機的網(wǎng)絡(luò)模式選為NAT 1.1修改主機名 vi /etc/sysconfig...
    NickYS閱讀 518評論 1 50
  • 一叙量、系統(tǒng)參數(shù)配置優(yōu)化 1倡蝙、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf,添加如下配置绞佩,然后執(zhí)行s...
    張偉科閱讀 3,750評論 0 14
  • hadoop集群HA環(huán)境搭建 準備工具 VMware12安裝包, 破解序列號:5A02H-AU243-TZJ49-...
    485b1aca799e閱讀 2,132評論 1 1