mac系統(tǒng)搭建單節(jié)點(diǎn)hadoop

1.下載hadoop

http://hadoop.apache.org/releases.html

2.解壓下載的hadoop文件

tar -zxvf /HADOOP-VERSION-FULL-PATH.tar.gz

3.配置hadoop環(huán)境

# vim /etc/profile
##添加HADOOP_HOME路徑
# export HADOOP_HOME=/HADOOP-VERSION-FULL-PATH
# export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
# wq
# source /etc/profile
## 創(chuàng)建hadoop數(shù)據(jù)目錄
# sudo mkdir /var/hadoop
# sudo chmod 777 /var/hadoop

4.hadoop需要java環(huán)境的支持买喧,配置java環(huán)境略

5.修改hadoop配置文件,主要包括以下幾個文件

  • core.site.xml
# vim /HADOOP-VERSION-FULL-PATH/etc/hadoop/core.site.xml

在configuration節(jié)點(diǎn)中添加以下內(nèi)容

    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://hadoop:9000</value>
    </property>
  • hdfs.site.xml文件
# vim /HADOOP-VERSION-FULL-PATH/etc/hadoop/hdfs.site.xml

在configuration節(jié)點(diǎn)中添加以下內(nèi)容

        <!-- 單節(jié)點(diǎn)hadoop不需要復(fù)制 -->
        <property>
                <name>dfs.replication</name>
                <value>1</value>
        </property>
        <property>
                <name>dfs.namenode.name.dir</name>
                <value>file:/var/hadoop/data/hdfs/nn</value>
        </property>
         <property>
                <name>fs.checkpoint.dir</name>
                <value>file:/var/hadoop/data/hdfs/snn</value>
        </property>
        <property>
                <name>fs.checkpoint.edits.dir</name>
                <value>file:/var/hadoop/data/doop/hdfs/snn</value>
        </property>
        <property>
                <name>dfs.datanode.data.dir</name>
                <value>file:/var/hadoop/data/hdfs/dn</value>
        </property>
  • mapred-site.xml
# cp /HADOOP-VERSION-FULL-PATH/etc/hadoop/mapred-site.xml.template
/HADOOP-VERSION-FULL-PATH/etc/hadoop/mapred-site.xml

在configuration節(jié)點(diǎn)中添加以下內(nèi)容

        <property>
                <name>mapreduce.frameword.name</name>
                <value>yarn</value>
        </property>
  • yarn-site.xml
# vim /HADOOP-VERSION-FULL-PATH/etc/hadoop/yarn-site.xml

在configuration節(jié)點(diǎn)中添加以下內(nèi)容

        <property>
                <name>yarn.nodemanager.aux-services</name>
                <value>mapreduce_shuffle</value>
        </property>
        <property>
                <name>yarn.nodemanager.aux-services.shuffle.class</name>
                <value>org.apache.hadoop.mapred.ShuffleHandler</value>
        </property>
  • hadoop-env.sh
# vim /HADOOP-VERSION-FULL-PATH/etc/hadoop/hadoop-env.sh

覆蓋正確的JAVA_HOME

export JAVA_HOME=JAVA_HOME_PATH

6.格式化hdfs文件系統(tǒng)

# /HADOOP-VERSION-FULL-PATH/bin/hdfs namenode -format

7.啟動hdfs服務(wù)

# /HADOOP-VERSION-FULL-PATH/sbin/start-dfs.sh

8.啟動yran服務(wù)

# /HADOOP-VERSION-FULL-PATH/sbin/start-yarn.sh

9.通過web接口驗(yàn)證正在運(yùn)行的服務(wù)

http://127.0.0.1:50070
http://127.0.0.1:8088

10.配置ssh免秘鑰登錄

# cd ~/.ssh/                     # 若沒有該目錄,請先執(zhí)行一次ssh localhost  
# ssh-keygen -t rsa              # 會有提示受神,都按回車就可以  
# cat id_rsa.pub >> authorized_keys  # 加入授權(quán)  
# chmod 600 ./authorized_keys    # 修改文件權(quán)限
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子吁朦,更是在濱河造成了極大的恐慌,老刑警劉巖渡贾,帶你破解...
    沈念sama閱讀 210,914評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件逗宜,死亡現(xiàn)場離奇詭異,居然都是意外死亡空骚,警方通過查閱死者的電腦和手機(jī)纺讲,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,935評論 2 383
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來囤屹,“玉大人熬甚,你說我怎么就攤上這事±呒幔” “怎么了乡括?”我有些...
    開封第一講書人閱讀 156,531評論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長冲簿。 經(jīng)常有香客問我粟判,道長,這世上最難降的妖魔是什么峦剔? 我笑而不...
    開封第一講書人閱讀 56,309評論 1 282
  • 正文 為了忘掉前任,我火速辦了婚禮角钩,結(jié)果婚禮上吝沫,老公的妹妹穿的比我還像新娘。我一直安慰自己递礼,他們只是感情好惨险,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,381評論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著脊髓,像睡著了一般辫愉。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上将硝,一...
    開封第一講書人閱讀 49,730評論 1 289
  • 那天恭朗,我揣著相機(jī)與錄音屏镊,去河邊找鬼。 笑死痰腮,一個胖子當(dāng)著我的面吹牛而芥,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播膀值,決...
    沈念sama閱讀 38,882評論 3 404
  • 文/蒼蘭香墨 我猛地睜開眼棍丐,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了沧踏?” 一聲冷哼從身側(cè)響起歌逢,我...
    開封第一講書人閱讀 37,643評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎翘狱,沒想到半個月后趋翻,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,095評論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡盒蟆,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,448評論 2 325
  • 正文 我和宋清朗相戀三年踏烙,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片历等。...
    茶點(diǎn)故事閱讀 38,566評論 1 339
  • 序言:一個原本活蹦亂跳的男人離奇死亡讨惩,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出寒屯,到底是詐尸還是另有隱情荐捻,我是刑警寧澤,帶...
    沈念sama閱讀 34,253評論 4 328
  • 正文 年R本政府宣布寡夹,位于F島的核電站处面,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏菩掏。R本人自食惡果不足惜魂角,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,829評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望智绸。 院中可真熱鬧野揪,春花似錦、人聲如沸瞧栗。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,715評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽迹恐。三九已至挣惰,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背憎茂。 一陣腳步聲響...
    開封第一講書人閱讀 31,945評論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留唇辨,地道東北人廊酣。 一個月前我還...
    沈念sama閱讀 46,248評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像赏枚,于是被迫代替她去往敵國和親亡驰。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,440評論 2 348

推薦閱讀更多精彩內(nèi)容