Hadoop2.8.5偽分布安裝步驟

Hadoop偽分布安裝步驟

安裝的是2.8.5release版本,略微涉及到了原理欲诺,不適合完全Linux小白抄谐。

(假設(shè)已經(jīng)安裝了Java環(huán)境,否則的話先安裝Java扰法,且已經(jīng)配置了SSH免密蛹含,如果沒做的話可以搜一下別的教程)

在命令行中進入Downloads目錄,再用 wget 下載hadoop-2.8.5.tar.gz

cd ~/Downloads
wget http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.8.5/hadoop-2.8.5.tar.gz

此命令從華科的鏡像下載2.8.5的Hadoop塞颁,并放在了Downloads目錄下浦箱。

然后把.tar.gz文件解壓到某個目錄下,這里解壓到/usr下祠锣,并改文件夾名為hadoop酷窥,用chmod修改一下權(quán)限,為了方便我們直接777了伴网,使得讀寫和運行不再需要管理員權(quán)限蓬推。

cd ~/Downloads
sudo tar -zxf hadoop-2.8.5.tar.gz -C /usr
cd /usr
sudo mv hadoop-2.8.5 hadoop
chmod 777 /usr/hadoop

配置hadoop

需要配置的文件有5個,hadoop-env.sh澡腾,core-site.xml沸伏,mapred-site.xml糕珊,hdfs-site.xmlyarn-site.xml

按照前面的配置,這些的文件位置在/usr/hadoop/etc/hadoop下

編輯hadoop-env.sh

cd /usr/hadoop/etc/hadoop
sudo vim hadoop-env.sh

把Java_HOME的位置改成自己本機上Java的位置

export JAVA_HOME=/usr/lib/jvm/java

編輯core-site.xml

sudo vim core-site.xml

<configuration>
</configuration>

替換成

<configuration>
  <property>
      <name>hadoop.tmp.dir</name>  
      <value>/usr/hadoop/hdfs/tmp</value>
    <description>A base for other temporary directories.</description>
  </property>
  <property>
     <name>fs.default.name</name>                                     
     <value>hdfs://localhost:9000</value>                             
  </property>                                                        
</configuration>

注: fs.default.name 保存了NameNode的位置毅糟,HDFS和MapReduce組件都需要用到它红选,這就是它出現(xiàn)在core-site.xml 文件中而不是 hdfs-site.xml文件中的原因

編輯mapred-site.xml, 設(shè)置MapReduce使用的框架

也可能名字為mapred-site.xml.templete , 改不改名字都可以。

sudo vim mapred-site.xml
<configuration>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9001</value>
  </property>
</configuration>

變量mapred.job.tracker 保存了JobTracker的位置姆另,因為只有MapReduce組件需要知道這個位置喇肋,所以它出現(xiàn)在mapred-site.xml文件中。

編輯hdfs-site.xml

sudo vim hdfs-site.xml
<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration>

變量dfs.replication指定了每個HDFS數(shù)據(jù)庫的復(fù)制次數(shù)迹辐。 通常為3,由于我們只有一臺主機和一個偽分布式模式的DataNode苟蹈,將此值修改為1。

編輯yarn-site.xml

sudo vim yarn-site.xml
<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
</configuration>

啟動Hadoop之前要格式化

首先要格式化HDFS

hadoop namenode -format

再啟動Hadoop

cd /usr/hadoop/sbin  
sbin/start-dfs.sh 
sbin/start-yarn.sh

如果上面的命令權(quán)限不夠可能是之前沒有chmod

chmod 777 /usr/hadoop
cd /usr/hadoop/sbin  
sbin/start-dfs.sh 
sbin/start-yarn.sh

為了啟動Hadoop的時候避免每次都首先進到安裝目錄右核,然后再執(zhí)行sbin/start-dfs.shsbin/start-yarn.sh這么麻煩,所以在編輯 ~/.bashrc~/.zshrc文件,加上如下幾行


export HADOOP_HOME=/usr/hadoop
export CLASSPATH=$($HADOOP_HOME/bin/hadoop classpath):$CLASSPATH
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

alias hadoop_start="/usr/hadoop/sbin/start-dfs.sh;/usr/hadoop/sbin/start-yarn.sh"
alias hadoop_stop="/usr/hadoop/sbin/stop-yarn.sh;/usr/hadoop/sbin/stop-dfs.sh"
?
alias hadoop_start="/usr/hadoop/sbin/start-dfs.sh;/usr/hadoop/sbin/start-yarn.sh"
alias hadoop_stop="/usr/hadoop/sbin/stop-yarn.sh;/usr/hadoop/sbin/stop-dfs.sh"

然后執(zhí)行 source ~/.bashrcsource ~/.zshrc 更新渺绒。 這樣就可以用 hadoop_starthadoop_stop 這兩個命令來啟動Hadoop了贺喝。

可以用jps指令查看運行的Java進程,結(jié)果應(yīng)當(dāng)如下:

Jps進程查看

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末宗兼,一起剝皮案震驚了整個濱河市躏鱼,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌殷绍,老刑警劉巖染苛,帶你破解...
    沈念sama閱讀 218,386評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異主到,居然都是意外死亡茶行,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,142評論 3 394
  • 文/潘曉璐 我一進店門登钥,熙熙樓的掌柜王于貴愁眉苦臉地迎上來畔师,“玉大人,你說我怎么就攤上這事牧牢】达保” “怎么了?”我有些...
    開封第一講書人閱讀 164,704評論 0 353
  • 文/不壞的土叔 我叫張陵塔鳍,是天一觀的道長伯铣。 經(jīng)常有香客問我,道長轮纫,這世上最難降的妖魔是什么腔寡? 我笑而不...
    開封第一講書人閱讀 58,702評論 1 294
  • 正文 為了忘掉前任,我火速辦了婚禮蜡感,結(jié)果婚禮上蹬蚁,老公的妹妹穿的比我還像新娘恃泪。我一直安慰自己,他們只是感情好犀斋,可當(dāng)我...
    茶點故事閱讀 67,716評論 6 392
  • 文/花漫 我一把揭開白布贝乎。 她就那樣靜靜地躺著,像睡著了一般叽粹。 火紅的嫁衣襯著肌膚如雪览效。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,573評論 1 305
  • 那天虫几,我揣著相機與錄音锤灿,去河邊找鬼。 笑死辆脸,一個胖子當(dāng)著我的面吹牛但校,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播啡氢,決...
    沈念sama閱讀 40,314評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼状囱,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了倘是?” 一聲冷哼從身側(cè)響起亭枷,我...
    開封第一講書人閱讀 39,230評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎搀崭,沒想到半個月后叨粘,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,680評論 1 314
  • 正文 獨居荒郊野嶺守林人離奇死亡瘤睹,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,873評論 3 336
  • 正文 我和宋清朗相戀三年升敲,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片轰传。...
    茶點故事閱讀 39,991評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡冻晤,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出绸吸,到底是詐尸還是另有隱情鼻弧,我是刑警寧澤,帶...
    沈念sama閱讀 35,706評論 5 346
  • 正文 年R本政府宣布锦茁,位于F島的核電站攘轩,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏码俩。R本人自食惡果不足惜度帮,卻給世界環(huán)境...
    茶點故事閱讀 41,329評論 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧笨篷,春花似錦瞳秽、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,910評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至冕臭,卻和暖如春腺晾,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背辜贵。 一陣腳步聲響...
    開封第一講書人閱讀 33,038評論 1 270
  • 我被黑心中介騙來泰國打工悯蝉, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人托慨。 一個月前我還...
    沈念sama閱讀 48,158評論 3 370
  • 正文 我出身青樓鼻由,卻偏偏與公主長得像,于是被迫代替她去往敵國和親厚棵。 傳聞我的和親對象是個殘疾皇子嗡靡,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,941評論 2 355

推薦閱讀更多精彩內(nèi)容