搭建Hadoop環(huán)境

  1. 安裝Centos 7鏡像

    Centos 7鏡像

    圖形界面
    不習(xí)慣的話可以按 Ctrl + Alt + F4 切換為字符界面 (F1切換回來)
    字符界面
  2. 修改主機(jī)名

    vi /etc/hostname
    
    修改主機(jī)名
  3. 關(guān)閉防火墻

    systemctl stop firewalld
    
  4. 主機(jī)與虛擬機(jī)Ping通

    修改虛擬機(jī)網(wǎng)絡(luò)配置
    vim /etc/sysconfig/network-scripts/ifcfg-eno16777736 (eno16777736網(wǎng)卡名稱)
    
    修改虛擬機(jī)網(wǎng)絡(luò)配置
    注意事項
    主機(jī)與虛擬機(jī)IP地址要在同一個網(wǎng)段
    
    網(wǎng)卡選擇橋接模式
    
    動態(tài)dhcp改成靜態(tài)static
    
    添加自己所需IP地址
    
    橋接模式
    修改etc/hosts
    vim /etc/hosts
    
    修改etc/hosts
    重啟網(wǎng)卡
    service network restart
    
    是否配置正確
    映射主機(jī)IP地址
    找到 C:\Windows\System32\drivers\etc 目錄 
    
    往里面添加地址 主機(jī)名
    
    hosts
    主機(jī)與虛擬機(jī)相互Ping通
    虛擬機(jī)

    主機(jī)
  5. 配置SSH免密登錄

    cd ~/.ssh
    ssh-keygen -t rsa
    ssh-copy-id master
    
  6. 安裝JDK

    安裝JDK (下載地址
    解壓JDK
    tar  -zxvf  jdk-8u131-linux-x64.tar.gz
    
    將【jdk1.8.0_131】里的數(shù)據(jù)拷貝至新建java目錄下
    mv jdk1.8.0_131 /java
    
    配置環(huán)境變量
    cd java/jdk1.8.0_131
    vi /etc/profile
    export JAVA_HOME=/root/java/jdk1.8.0_131
    export JRE_HOME=${JAVA_HOME}/jre
    export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATH
    export JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin
    export PATH=$PATH:${JAVA_PATH}
    source /etc/profile
    
    配置環(huán)境變量
    檢查是否安裝成功
    cd /
    
    java -version
    
    檢查是否安裝成功
  7. 安裝Hadoop

    下載地址(Hadoop
    創(chuàng)建根目錄
    mkdir hadoop
    
    解壓下載好的hadoop到hadoop目錄中
    tar -zxvf hadoop-2.7.7.tar.gz -C hadoop/
    
    進(jìn)入目錄
    cd hadoop/hadoop-2.7.7/etc/hadoop/
    
    修改配置文件
    vi hadoop-env.sh (配置JDK路徑)
    
    hadoop-env.sh
    vi core-site.xml
    
    配置信息如下
    <configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://master:9000</value>
    </property>
    <property>
            <name>hadoop.tmp.dir</name>
            <value>/hadoop/hadoop-2.7.7/tmp</value>
    </property>
    </configuration>
    
    core-site.xml
    vi hdfs-site.xml
    
    配置信息如下
    <property>
    <name>dfs.replication</name>
    <value>1</value>
    </property>
    
    hdfs-site.xml
    vi mapred-site.xml
    
    注意
    默認(rèn)沒有mapred-site.xml文件
    但是有個mapred-site.xml.template配置模板文件
    復(fù)制模板生成mapred-site.xml
    
    [root@localhost hadoop-2.7.7]# cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
    
    配置信息如下
    <configuration>
    <!-- 通知框架MR使用YARN -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
    </configuration>
    
    mapred-site.xml
    修改slaves
    [root@master ~]# vi hadoop/hadoop-2.7.7/etc/hadoop/slaves 
    
    配置信息如下
    localhost改為自己設(shè)置的主機(jī)名
    
    vi yarn-site.xml
    
    配置信息如下
    <configuration>
    <!-- reducer取數(shù)據(jù)的方式是mapreduce_shuffle -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>localhost</value>
    </property>
    </configuration>
    
    yarn-site.xml
    將hadoop添加到環(huán)境變量
    vi /etc/profile
    export HADOOP_HOME=/root/hadoop/hadoop-2.7.7
    export PATH=$PATH:$JAVA_HOME/bin:${HADOOP_HOME}/bin
    source /etc/profile
    
    hadoop環(huán)境變量
  8. 啟動Hadoop

    格式化hadoop
    hdfs namenode -format
    
    格式化hadoop
    啟動hdfs和yarn
    [root@localhost hadoop-2.7.7]# sbin/start-dfs.sh 
    [root@localhost hadoop-2.7.7]# sbin/start-yarn.sh 
    
    驗證是否成功
    hdfs管理界面:http://192.168.1.102:50070
    yarm管理界面:http://192.168.1.102:8088
    hdfs頁面

    yarn頁面
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末器仗,一起剝皮案震驚了整個濱河市精钮,隨后出現(xiàn)的幾起案子剃斧,更是在濱河造成了極大的恐慌,老刑警劉巖弹沽,帶你破解...
    沈念sama閱讀 221,820評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件筋粗,死亡現(xiàn)場離奇詭異,居然都是意外死亡丽已,警方通過查閱死者的電腦和手機(jī)买决,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,648評論 3 399
  • 文/潘曉璐 我一進(jìn)店門督赤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人躲舌,你說我怎么就攤上這事「睿” “怎么了约计?”我有些...
    開封第一講書人閱讀 168,324評論 0 360
  • 文/不壞的土叔 我叫張陵煤蚌,是天一觀的道長细卧。 經(jīng)常有香客問我筒占,道長,這世上最難降的妖魔是什么插勤? 我笑而不...
    開封第一講書人閱讀 59,714評論 1 297
  • 正文 為了忘掉前任革骨,我火速辦了婚禮画机,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘滑沧。我一直安慰自己巍实,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 68,724評論 6 397
  • 文/花漫 我一把揭開白布令漂。 她就那樣靜靜地躺著丸边,像睡著了一般。 火紅的嫁衣襯著肌膚如雪纬朝。 梳的紋絲不亂的頭發(fā)上骄呼,一...
    開封第一講書人閱讀 52,328評論 1 310
  • 那天,我揣著相機(jī)與錄音俄讹,去河邊找鬼绕德。 笑死摊阀,一個胖子當(dāng)著我的面吹牛踪蹬,可吹牛的內(nèi)容都是我干的臣咖。 我是一名探鬼主播,決...
    沈念sama閱讀 40,897評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼疚漆,長吁一口氣:“原來是場噩夢啊……” “哼娶聘!你這毒婦竟也來了甚脉?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,804評論 0 276
  • 序言:老撾萬榮一對情侶失蹤狡耻,失蹤者是張志新(化名)和其女友劉穎猴凹,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體孵淘,經(jīng)...
    沈念sama閱讀 46,345評論 1 318
  • 正文 獨居荒郊野嶺守林人離奇死亡歹篓,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,431評論 3 340
  • 正文 我和宋清朗相戀三年庄撮,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片洞斯。...
    茶點故事閱讀 40,561評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡烙如,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出蝇刀,到底是詐尸還是另有隱情徘溢,我是刑警寧澤捆探,帶...
    沈念sama閱讀 36,238評論 5 350
  • 正文 年R本政府宣布站粟,位于F島的核電站,受9級特大地震影響助被,放射性物質(zhì)發(fā)生泄漏切诀。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,928評論 3 334
  • 文/蒙蒙 一检盼、第九天 我趴在偏房一處隱蔽的房頂上張望翘单。 院中可真熱鬧,春花似錦貌亭、人聲如沸认臊。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,417評論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽涂屁。三九已至,卻和暖如春儒旬,著一層夾襖步出監(jiān)牢的瞬間帖族,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,528評論 1 272
  • 我被黑心中介騙來泰國打工甚垦, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 48,983評論 3 376
  • 正文 我出身青樓垃杖,卻偏偏與公主長得像丈屹,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子旺垒,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,573評論 2 359

推薦閱讀更多精彩內(nèi)容