hadoop本地模式和偽分布式模式

/*

?* 以下不涉及完全分布式睡腿,只說明單機(jī)版和偽分布式

*/

一,hadoop本地模式和偽分布式模式之間的區(qū)別

1.單機(jī)(非分布式)模式

這種模式在一臺單機(jī)上運(yùn)行峻贮,沒有分布式文件系統(tǒng)席怪,而是直接讀寫本地操作系統(tǒng)的文件系統(tǒng)。

2.偽分布式運(yùn)行模式

這種模式也是在一臺單機(jī)上運(yùn)行纤控,但用不同的Java進(jìn)程模仿分布式運(yùn)行中的各類結(jié)點: (NameNode,DataNode,JobTracker,TaskTracker,SecondaryNameNode)

  請注意分布式運(yùn)行中的這幾個結(jié)點的區(qū)別:

從分布式存儲的角度來說挂捻,集群中的結(jié)點由一個NameNode和若干個DataNode組成,另有一個SecondaryNameNode作為NameNode的備份。

從分布式應(yīng)用的角度來說船万,集群中的結(jié)點由一個JobTracker和若干個TaskTracker組成刻撒,JobTracker負(fù)責(zé)任務(wù)的調(diào)度,TaskTracker負(fù)責(zé)并行執(zhí)行任務(wù)耿导。TaskTracker必須運(yùn)行在DataNode上声怔,這樣便于數(shù)據(jù)的本地計算。JobTracker和NameNode則無須在同一臺機(jī)器上碎节。一個機(jī)器上捧搞,既當(dāng)namenode,又當(dāng)datanode,或者說既是jobtracker,又是tasktracker。沒有所謂的在多臺機(jī)器上進(jìn)行真正的分布式計算胎撇,故稱為"偽分布式"介粘。

二,hadoop本地模式的搭建

1.首先需要一臺客戶機(jī)

2.安裝jdk

1)首先在客戶機(jī)根目錄root文件夾下建立tools文件夾:root> mkdir tools

2)用遠(yuǎn)程連接工具連接客戶機(jī)晚树,拖拽壓縮包到客戶機(jī)? root/tools/目錄下

3) 解壓jdk到/etc/local下:tar -zxvf? jdk-8u152-linux-x64.tar.gz? -C /usr/local/?

3.安裝hadoop

1) 拖拽壓縮包到客戶機(jī)root/rools 目錄下

2)解壓hadoop到etc/local/下:tar -zxvf? hadoop-2.7.2.tar.gz -C /usr/local/

4.配置環(huán)境變量

hadoop> vi /etc/profile

export JAVA_HOME=/usr/local/jdk1.8.0_152

export HADOOP_HOME=/usr/local/hadoop-2.7.2/

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$JAVA_HOME/bin:$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

5. hadoop version

java -version

以上兩項姻采,都能正常顯示除版本號,即為環(huán)境搭建成功

以上步驟為本地模式搭建成功爵憎!

三慨亲,hadoop偽分布式模式的搭建

/*

?*以上五部到配置環(huán)境搭建成功為基礎(chǔ)

?*/

5.配置集群

1)配置:hadoop-env.sh

Linux 系統(tǒng)中獲取jdk 的安裝路徑:/usr/local/jdk1.8.0_152

修改JAVA_HOME??路徑為:export JAVA_HOME=/opt/module/jdk1.8.0_144

2)配置:core-site.xml

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop101:9000</value>

<!-- 指定hadoop 運(yùn)行時產(chǎn)生文件的存儲目錄-->

<property>

<name>hadoop.tmp.dir</name>

<value>/opt/module/hadoop-2.7.2/data/tmp</value>

</property>

3)配置:hdfs-site.xml

<!-- 指定HDFS 副本的數(shù)量-->

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

4)啟動集群

格式化namenode(第一次啟動時格式化,以后就不要總格式化)?[qianfeng@hadoop101 hadoop-2.7.2]$ bin/hdfs namenode -format

啟動namenode

[qianfeng@hadoop101 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start namenode

啟動datanode

[qianfeng@hadoop101 hadoop-2.7.2]$ sbin/hadoop-daemon.sh start datanode

5)查看集群是否成功

[qianfeng@hadoop101 hadoop-2.7.2]$ jps

13586 NameNode

13668 DataNode

13786 Jps

//正常應(yīng)該啟動這三個進(jìn)程

6)查看產(chǎn)生的log日志

當(dāng)前目錄:/usr/local/hadoop-2.7.2/logs

>ls?

hadoop-qianfeng-datanode-hadoop.qianfeng.com.log hadoop-qianfeng-datanode-hadoop.qianfeng.com.out hadoop-qianfeng-namenode-hadoop.qianfeng.com.log hadoop-qianfeng-namenode-hadoop.qianfeng.com.out SecurityAuth-root.audit

cat hadoop-qianfeng-datanode-hadoop101.log

7)在web前端啥看HDFS文件系統(tǒng)

http://192.168.120.128:50070/ ? 注意不要用自己計算機(jī)自帶的瀏覽器宝鼓,用搜狗刑棵,360都可以,如果無法查看網(wǎng)頁打開如下帖子處理

http://www.cnblogs.com/zlslch/p/6604189.html

以上步驟即為偽分布式搭建成功愚铡!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末蛉签,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子沥寥,更是在濱河造成了極大的恐慌碍舍,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,324評論 6 498
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件邑雅,死亡現(xiàn)場離奇詭異片橡,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)淮野,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,356評論 3 392
  • 文/潘曉璐 我一進(jìn)店門捧书,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人录煤,你說我怎么就攤上這事鳄厌。” “怎么了妈踊?”我有些...
    開封第一講書人閱讀 162,328評論 0 353
  • 文/不壞的土叔 我叫張陵了嚎,是天一觀的道長。 經(jīng)常有香客問我廊营,道長歪泳,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,147評論 1 292
  • 正文 為了忘掉前任露筒,我火速辦了婚禮呐伞,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘慎式。我一直安慰自己伶氢,他們只是感情好趟径,可當(dāng)我...
    茶點故事閱讀 67,160評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著癣防,像睡著了一般蜗巧。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上蕾盯,一...
    開封第一講書人閱讀 51,115評論 1 296
  • 那天幕屹,我揣著相機(jī)與錄音,去河邊找鬼级遭。 笑死望拖,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的挫鸽。 我是一名探鬼主播说敏,決...
    沈念sama閱讀 40,025評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼丢郊!你這毒婦竟也來了像云?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,867評論 0 274
  • 序言:老撾萬榮一對情侶失蹤蚂夕,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后腋逆,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體婿牍,經(jīng)...
    沈念sama閱讀 45,307評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,528評論 2 332
  • 正文 我和宋清朗相戀三年惩歉,在試婚紗的時候發(fā)現(xiàn)自己被綠了等脂。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 39,688評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡撑蚌,死狀恐怖上遥,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情争涌,我是刑警寧澤粉楚,帶...
    沈念sama閱讀 35,409評論 5 343
  • 正文 年R本政府宣布,位于F島的核電站亮垫,受9級特大地震影響模软,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜饮潦,卻給世界環(huán)境...
    茶點故事閱讀 41,001評論 3 325
  • 文/蒙蒙 一燃异、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧继蜡,春花似錦回俐、人聲如沸逛腿。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,657評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽单默。三九已至,卻和暖如春灵莲,著一層夾襖步出監(jiān)牢的瞬間雕凹,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,811評論 1 268
  • 我被黑心中介騙來泰國打工政冻, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留枚抵,地道東北人。 一個月前我還...
    沈念sama閱讀 47,685評論 2 368
  • 正文 我出身青樓明场,卻偏偏與公主長得像汽摹,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子苦锨,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 44,573評論 2 353

推薦閱讀更多精彩內(nèi)容