win10下配置hadoop2.9(使用python單機運行任務)

先期準備:

  • java環(huán)境已安裝

著手開始:

1璧微、下載hadoop穩(wěn)定版:http://hadoop.apache.org/->左邊點Releases->點mirror site->http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common->stable/->hadoop-2.9.0.tar.gz 點擊即可下載羡疗。
2、解壓并配置hadoop環(huán)境昆箕,新建HADOOP_HOME和修改PATH。
3、進入解壓后目錄的etc/hadoop/中,修改配置4個文件:

  • core-site.xml
<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>    
</configuration>
  • hdfs-site.xml
<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>    
        <name>dfs.namenode.name.dir</name>    
        <value>file:/hadoop/data/dfs/namenode</value>    
    </property>    
    <property>    
        <name>dfs.datanode.data.dir</name>    
        <value>file:/hadoop/data/dfs/datanode</value>  
    </property>
    <property>
        <name>dfs.http.address</name>
        <value>0.0.0.0:50070</value>
    </property>
</configuration>
  • mapred-site.xml
<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
  • yarn-site.xml
<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
</configuration>

4艘儒、格式化nodename再啟動hadoop:
啟動windows命令行窗口,進入hadoop-2.9.0\bin目錄夫偶,執(zhí)行下面2條命令界睁,先格式化namenode再啟動hadoop。

bin/hadoop namenode -format
sbin/start-all.cmd

檢查驗證

使用jps命令查看

9568 ResourceManager
10676 Jps
9576 NodeManager
10316 NameNode

通過jps命令可以看到4個進程都拉起來了索守,到這里hadoop的安裝啟動已經完事了晕窑。接著我們可以用瀏覽器到localhost:8088看mapreduce任務,到localhost:50070->Utilites->Browse the file system看hdfs文件卵佛。如果重啟hadoop無需再格式化namenode,只要stop-all.cmd再start-all.cmd就可以了。
管理界面:http://localhost:8088
mapreduceJob界面:http://localhost:50030(2.0+新端口是8088)
HDFS 文件系統(tǒng)界面:http://localhost:50070(3.0+新端口是9870)

運行例子(wordcount)

hdfs上新建文件夾:

hadoop fs -mkdir /hdfs_in

查看hdfs上的文件夾是否建立成功:

hadoop fs -ls /

上傳txt文件:

hadoop fs -put ./*  /hdfs_in
  • 運行hadoop內置示例wordcount任務
hadoop jar E:\toolsoftware\hadoop-2.8.3\share\hadoop\mapreduce\hadoop-mapreduce-examples-*.jar wordcount /hdfs_in /hdfs_out
  • 使用python運行wordcount任務(不加file參數(shù)也行)
hadoop jar E:\toolsoftware\hadoop-2.8.3\share\hadoop\tools\lib\hadoop-streaming-2.8.3.jar -D stream.non.zero.exit.is.failure=flase  -file E:/toolsoftware/hadoop/test/code/mapper.py -mapper "C:\Python36\python3.exe E:\toolsoftware\hadoop\test\code\mapper.py" -file E:/toolsoftware/hadoop/test/code/reducer.py  -reducer "C:\Python36\python3.exe E:\toolsoftware\hadoop\test\code\reducer.py" -input /hdfs_in -output /hdfs_out

若運行失敗截汪,需要先刪除輸出文件夾

hadoop fs -rmr /hdfs_out

問題匯總

問題1:datanode啟動不起來疾牲。
在第一次格式化dfs后,啟動并使用了hadoop衙解,后來又重新執(zhí)行了格式化命令(hdfs namenode -format)阳柔,這時namenode的clusterID會重新生成,而datanode的clusterID 保持不變蚓峦。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
  • 序言:七十年代末舌剂,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子暑椰,更是在濱河造成了極大的恐慌霍转,老刑警劉巖,帶你破解...
    沈念sama閱讀 221,820評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件一汽,死亡現(xiàn)場離奇詭異避消,居然都是意外死亡,警方通過查閱死者的電腦和手機召夹,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,648評論 3 399
  • 文/潘曉璐 我一進店門岩喷,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人监憎,你說我怎么就攤上這事纱意。” “怎么了鲸阔?”我有些...
    開封第一講書人閱讀 168,324評論 0 360
  • 文/不壞的土叔 我叫張陵偷霉,是天一觀的道長。 經常有香客問我隶债,道長腾它,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 59,714評論 1 297
  • 正文 為了忘掉前任死讹,我火速辦了婚禮瞒滴,結果婚禮上,老公的妹妹穿的比我還像新娘赞警。我一直安慰自己妓忍,他們只是感情好,可當我...
    茶點故事閱讀 68,724評論 6 397
  • 文/花漫 我一把揭開白布愧旦。 她就那樣靜靜地躺著世剖,像睡著了一般。 火紅的嫁衣襯著肌膚如雪笤虫。 梳的紋絲不亂的頭發(fā)上旁瘫,一...
    開封第一講書人閱讀 52,328評論 1 310
  • 那天祖凫,我揣著相機與錄音,去河邊找鬼酬凳。 笑死惠况,一個胖子當著我的面吹牛,可吹牛的內容都是我干的宁仔。 我是一名探鬼主播稠屠,決...
    沈念sama閱讀 40,897評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼翎苫!你這毒婦竟也來了权埠?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 39,804評論 0 276
  • 序言:老撾萬榮一對情侶失蹤煎谍,失蹤者是張志新(化名)和其女友劉穎攘蔽,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體粱快,經...
    沈念sama閱讀 46,345評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡秩彤,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 38,431評論 3 340
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了事哭。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片漫雷。...
    茶點故事閱讀 40,561評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖鳍咱,靈堂內的尸體忽然破棺而出降盹,到底是詐尸還是另有隱情,我是刑警寧澤谤辜,帶...
    沈念sama閱讀 36,238評論 5 350
  • 正文 年R本政府宣布蓄坏,位于F島的核電站,受9級特大地震影響丑念,放射性物質發(fā)生泄漏涡戳。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,928評論 3 334
  • 文/蒙蒙 一脯倚、第九天 我趴在偏房一處隱蔽的房頂上張望渔彰。 院中可真熱鬧,春花似錦推正、人聲如沸恍涂。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,417評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽再沧。三九已至,卻和暖如春尊残,著一層夾襖步出監(jiān)牢的瞬間炒瘸,已是汗流浹背淤堵。 一陣腳步聲響...
    開封第一講書人閱讀 33,528評論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留什燕,地道東北人粘勒。 一個月前我還...
    沈念sama閱讀 48,983評論 3 376
  • 正文 我出身青樓竞端,卻偏偏與公主長得像屎即,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子事富,可洞房花燭夜當晚...
    茶點故事閱讀 45,573評論 2 359

推薦閱讀更多精彩內容

  • 終極算法 關注微信號每天收聽我們的消息終極算法為您推送精品閱讀 前言 Hadoop 在大數(shù)據技術體系中的地位至關...
    Yespon閱讀 130,002評論 12 168
  • 一技俐、系統(tǒng)參數(shù)配置優(yōu)化 1、系統(tǒng)內核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf统台,添加如下配置雕擂,然后執(zhí)行s...
    張偉科閱讀 3,758評論 0 14
  • (搭建集群部分借鑒了kiwenlau/hadoop-cluster-docker中的內容,不過那里的基礎環(huán)境是Ub...
    ProteanBear閱讀 3,852評論 0 12
  • 我們時常會犯一個錯誤贱勃,那就是對越親近的人越不在乎他的感受井赌,傷害的越深。問其原因贵扰,許多人還會不屑一顧的說都是自己人無...
    西貝悠哉閱讀 748評論 0 0
  • 讀楊絳先生的書仇穗,讀到這樣一個故事;“我和鐘書在出國的輪船上曾吵過一架戚绕,原因只為一個法文的讀音纹坐。 我說他的口...
    b1de6864b423閱讀 200評論 1 1