Hadoop 2.7.2 偽分布式安裝筆記

環(huán)境

  • Ubuntu Kylin 14.04
  • Hadoop 2.7.2 下載地址
  • 安裝目錄 /home/hadoop/hadoop-2.7.2/
  • hadoop 用戶創(chuàng)建之后一直使用 hadoop 用戶操作

添加 hadoop 用戶

  • 創(chuàng)建 hadoop 用戶并使用bash作為shell
    sudo useradd -m hadoop -s /bin/bash
  • 設(shè)置 hadoop 用戶密碼
    sudo passwd hadoop
  • 為 hadoop 用戶增加管理員權(quán)限
    sudo adduser hadoop sudo

配置環(huán)境

  • 安裝 ssh 服務(wù)器
    sudo apt-get install openssh-server
  • 安裝完成后遵馆,使用下面命令登錄本機(jī)
    ssh localhost
    按提示輸入密碼串慰,得到上圖提示則登錄成功庸蔼,之后使用exit退出登錄。
  • 設(shè)置無密碼登錄
    1. cd ~/.ssh/ 若目錄不存在,則再次執(zhí)行 ssh localhost
    2. ssh-keygen -t rsa 不用管提示,一直按回車
    3. cat ./id_rsa.pub >> ./authorized_keys 加入授權(quán)
    4. ssh localhost 測試無密碼登錄
      如上圖所示,沒有提示輸入密碼,則設(shè)置成功葬毫。

安裝 Java 環(huán)境

  • 安裝 OpenJDK 7
    sudo apt-get install openjdk-7-jre openjdk-7-jdk -y
  • 查找安裝路徑
    dpkg -L openjdk-7-jdk | grep '/bin/javac' 會匹配出一個結(jié)果,去掉/bin/javac 即可
  • 設(shè)置 JAVA_HOME
    vim ~/.bashrc 在文件最前面添加如下一行代碼
    export JAVA_HOME=/usr/lib/jvm/java-7-openjdk-amd64
  • 使環(huán)境變量生效
    source ~/.bashrc 測試環(huán)境變量
    如上圖所示屡穗,設(shè)置成功贴捡。

安裝 Hadoop

  • 下載
    cd ~/ wget http://mirrors.cnnic.cn/apache/hadoop/common/stable2/hadoop-2.7.2.tar.gz
  • 解壓
    tar -zxf hadoop-2.7.2.tar.gz 帶 v 則會打印詳細(xì)信息到終端
  • 修改文件夾屬性
    sudo chown hadoop:hadoop -R /home/hadoop
  • 檢查是否安裝成功
cd /home/hadoop/hadoop-2.7.2
./bin/hadoop version

如上圖所示,安裝成功鸡捐。


配置偽分布式

  • core-site.xml


  • hdfs-site.xml


  • mapred-site.xml


  • yarn-site.xml


  • 設(shè)置 HADOOP_HOME
    vim ~/.bashrc 在 JAVA_HOME 下添加如下兩行

export HADOOP_HOME=/home/hadoop/hadoop-2.7.2
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
  • 格式化 NameNode
    ./bin/hdfs namenode -format 在HADOOP_HOME目錄下執(zhí)行

  • 開啟 NameNode 和 DataNode 守護(hù)進(jìn)程
    ./sbin/start-dfs.sh

    使用 jps 查看進(jìn)程情況栈暇,如上圖所示。
    啟動成功后箍镜,可以登錄 http://localhost:50070 查看信息源祈,如圖

  • 啟動 YARN
    ./sbin/start-yarn.sh 啟動YARN

    ./sbin/mr-jobhistory-daemon.sh start historyserver 啟動歷史服務(wù)器,才能在WEB中查看任務(wù)運(yùn)行情況色迂。
    如上圖所示香缺,則啟動成功。


總結(jié)

  • 安裝打時(shí)候百度了很多
  • 安裝過程很順利歇僧,沒有碰到什么錯誤
  • 推薦一篇后來找到的好文章图张,點(diǎn)擊這里跳轉(zhuǎn)
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市诈悍,隨后出現(xiàn)的幾起案子祸轮,更是在濱河造成了極大的恐慌,老刑警劉巖侥钳,帶你破解...
    沈念sama閱讀 218,036評論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件适袜,死亡現(xiàn)場離奇詭異,居然都是意外死亡舷夺,警方通過查閱死者的電腦和手機(jī)苦酱,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,046評論 3 395
  • 文/潘曉璐 我一進(jìn)店門售貌,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人疫萤,你說我怎么就攤上這事颂跨。” “怎么了扯饶?”我有些...
    開封第一講書人閱讀 164,411評論 0 354
  • 文/不壞的土叔 我叫張陵恒削,是天一觀的道長。 經(jīng)常有香客問我帝际,道長蔓同,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,622評論 1 293
  • 正文 為了忘掉前任蹲诀,我火速辦了婚禮,結(jié)果婚禮上弃揽,老公的妹妹穿的比我還像新娘脯爪。我一直安慰自己,他們只是感情好矿微,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,661評論 6 392
  • 文/花漫 我一把揭開白布痕慢。 她就那樣靜靜地躺著,像睡著了一般涌矢。 火紅的嫁衣襯著肌膚如雪掖举。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,521評論 1 304
  • 那天娜庇,我揣著相機(jī)與錄音塔次,去河邊找鬼。 笑死名秀,一個胖子當(dāng)著我的面吹牛励负,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播匕得,決...
    沈念sama閱讀 40,288評論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼继榆,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了汁掠?” 一聲冷哼從身側(cè)響起略吨,我...
    開封第一講書人閱讀 39,200評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎考阱,沒想到半個月后翠忠,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,644評論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡羔砾,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,837評論 3 336
  • 正文 我和宋清朗相戀三年负间,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了偶妖。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,953評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡政溃,死狀恐怖趾访,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情董虱,我是刑警寧澤扼鞋,帶...
    沈念sama閱讀 35,673評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站愤诱,受9級特大地震影響云头,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜淫半,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,281評論 3 329
  • 文/蒙蒙 一溃槐、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧科吭,春花似錦昏滴、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,889評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至牺弄,卻和暖如春姻几,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背势告。 一陣腳步聲響...
    開封第一講書人閱讀 33,011評論 1 269
  • 我被黑心中介騙來泰國打工蛇捌, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人培慌。 一個月前我還...
    沈念sama閱讀 48,119評論 3 370
  • 正文 我出身青樓豁陆,卻偏偏與公主長得像,于是被迫代替她去往敵國和親吵护。 傳聞我的和親對象是個殘疾皇子盒音,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,901評論 2 355

推薦閱讀更多精彩內(nèi)容