大數(shù)據(jù)測(cè)試之hadoop單機(jī)環(huán)境搭建(超級(jí)詳細(xì)版)

友情提示:本文超級(jí)長(zhǎng),請(qǐng)備好瓜子

Hadoop的運(yùn)行模式

單機(jī)模式是Hadoop的默認(rèn)模式荔棉,在該模式下無(wú)需任何守護(hù)進(jìn)程濒募,所有程序都在單個(gè)JVM上運(yùn)行坪郭,該模式主要用于開(kāi)發(fā)和調(diào)試mapreduce的應(yīng)用邏輯吭产;

偽分布式模式下侣监,Hadoop守護(hù)進(jìn)程運(yùn)行在一臺(tái)機(jī)器上,模擬一個(gè)小規(guī)模的集群臣淤。該模式在單機(jī)模式的基礎(chǔ)上增加了代碼調(diào)試的功能橄霉,允許你檢查NameNode,DataNode荒典,Jobtracker酪劫,Tasktracker等模擬節(jié)點(diǎn)的運(yùn)行情況;

單機(jī)模式和偽分布式模式均用于開(kāi)發(fā)和調(diào)試的目的寺董,真實(shí)Hadoop集群的運(yùn)行采用的是完全分布式模式

單機(jī)模式安裝步驟

一個(gè)干凈的linux基礎(chǔ)環(huán)境(重要覆糟,這個(gè)環(huán)境如果有問(wèn)題后續(xù)就全是問(wèn)題了)

為了方便大家我已經(jīng)安裝好了一個(gè),大家只需下載導(dǎo)入到vm里即可使用遮咖。

下載地址:關(guān)注公眾號(hào)【測(cè)試幫日記】對(duì)話(huà)框里回復(fù)“l(fā)inux”或者加入QQ群522720170滩字。

鏈接:https://pan.baidu.com/s/1qXRjaK8 密碼:xjfk

關(guān)閉防火墻(適用于centos7,低版本不適用)

分別執(zhí)行如下兩條命令:

systemctl stop firewalld.service

systemctl disable firewalld.service

修改host name

vi /etc/hosts

然后把自己虛機(jī)的名字追加到兩行的末尾御吞,如果用的是我們提供的虛機(jī)麦箍,名字就是linux,追加之后的效果如圖

重啟網(wǎng)絡(luò):/etc/rc.d/init.d/network restart

設(shè)置無(wú)密碼登錄(用于hadoop啟動(dòng))

cd ~ #進(jìn)入當(dāng)前用戶(hù)的目錄

mkdir -p /root/.ssh #我們用的root用戶(hù)

cd ~/.ssh/

ssh-keygen -t rsa #如有提示陶珠,直接按回車(chē)cat id_rsa.pub >> authorized_keys # 加入授權(quán)

安裝jdk1.8并配置環(huán)境變量

tar解壓

cp解壓后的包到/usr/lib/java/(如果沒(méi)有java目錄就創(chuàng)建一下)

vi /etc/profile挟裂,末尾添加如下內(nèi)容:

export JAVA_HOME=/usr/lib/java/jdk1.8.0_11

export JRE_HOME=/usr/lib/java/jdk1.8.0_11/jre

export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH

export CLASSPATH=$CLASSPATH:.:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

執(zhí)行source /etc/profile使得環(huán)境變量生效

驗(yàn)證是否成功,如下圖

安裝hadoop2.7.4

tar解壓

cp解壓后的包到/usr/lib/hadoop/(如果沒(méi)有hadoop目錄就創(chuàng)建一下)

設(shè)置hadoop-env.sh

vi /usr/lib/hadoop/hadoop-2.7.4/etc/hadoop/hadoop-env.sh

找到# The java implementation to use.這句話(huà)揍诽,在下面添加如下內(nèi)容:

#export JAVA_HOME=${JAVA_HOME}

export JAVA_HOME=/usr/lib/java/jdk1.8.0_11

export HADOOP_HOME=/usr/lib/hadoop/hadoop-2.7.4

export PATH=$PATH:/usr/lib/hadoop/hadoop-2.7.4/bin

export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop

執(zhí)行source /usr/lib/hadoop/hadoop-2.7.4/etc/hadoop/hadoop-env.sh诀蓉,使得環(huán)境變量生效

驗(yàn)證是否成功,如下圖

配置相關(guān)的xml文件

vi /usr/lib/hadoop/hadoop-2.7.4/etc/hadoop/core-site.xml(hadoop全局配置)

內(nèi)容如下:


fs.defaultFS

hdfs://127.0.0.1:9000

vi /usr/lib/hadoop/hadoop-2.7.4/etc/hadoop/hdfs-site.xml(hdfs配置)

內(nèi)容如下:


dfs.replication

1

cd /usr/lib/hadoop/hadoop-2.7.4/etc/hadoop

cp mapred-site.xml.template mapred-site.xml

vi mapred-site.xml(MapReduce的配置)

內(nèi)容如下:


mapreduce.framework.name

yarn

vi yarn-site.xml(yarn配置)

內(nèi)容如下:



yarn.nodemanager.aux-services

mapreduce_shuffle

格式化hdfs文件系統(tǒng)

初次運(yùn)行hadoop時(shí)一定要有該操作暑脆,命令如下:

/usr/lib/hadoop/hadoop-2.7.4/bin/hadoop namenode -format

執(zhí)行期間可能需要確認(rèn)是否繼續(xù)渠啤,如果有,就輸入y回車(chē)即可

當(dāng)你看到如下的內(nèi)容時(shí)證明成功了

如果看到的是exiting with status 1添吗,那么請(qǐng)運(yùn)行如下命令沥曹,之后在進(jìn)行hdfs的格式化

mkdir -pv /tmp/hadoop-root/dfs/name

啟動(dòng)hadoop(hdfs和yarn)

sh /usr/lib/hadoop/hadoop-2.7.4/sbin/start-all.sh

sh /usr/lib/hadoop/hadoop-2.7.4/sbin/stop-all.sh #停止

如果沒(méi)有報(bào)錯(cuò)說(shuō)明就成功了

使用jps命令查看進(jìn)程,如果出現(xiàn)下面的內(nèi)容就說(shuō)明確定以及肯定成功啦

PS:如果修改了上面的xml文件需要重啟服務(wù)哦

使用web查看Hadoop運(yùn)行狀態(tài)

http://你的服務(wù)器ip地址:50070/

使用web查看集群狀態(tài)

http://你的服務(wù)器IP地址:8088

可能會(huì)遇到的問(wèn)題

如果你多次進(jìn)行了hdfs的格式化操作碟联,可能會(huì)無(wú)法啟動(dòng)datanode妓美,原因是id不一致,一般的解決方法為將namenode clusterID和datanode clusterID改成一樣的就行了玄帕。修改的文件為/tmp/hadoop-root/dfs/下的name or data文件下的VERSION里的內(nèi)容

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末部脚,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子裤纹,更是在濱河造成了極大的恐慌委刘,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,496評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件鹰椒,死亡現(xiàn)場(chǎng)離奇詭異锡移,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)漆际,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,407評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門(mén)淆珊,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人奸汇,你說(shuō)我怎么就攤上這事施符⊥” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 162,632評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵戳吝,是天一觀(guān)的道長(zhǎng)浩销。 經(jīng)常有香客問(wèn)我,道長(zhǎng)听哭,這世上最難降的妖魔是什么慢洋? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,180評(píng)論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮陆盘,結(jié)果婚禮上普筹,老公的妹妹穿的比我還像新娘。我一直安慰自己隘马,他們只是感情好太防,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,198評(píng)論 6 388
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著祟霍,像睡著了一般杏头。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上沸呐,一...
    開(kāi)封第一講書(shū)人閱讀 51,165評(píng)論 1 299
  • 那天醇王,我揣著相機(jī)與錄音,去河邊找鬼崭添。 笑死寓娩,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的呼渣。 我是一名探鬼主播棘伴,決...
    沈念sama閱讀 40,052評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼屁置!你這毒婦竟也來(lái)了焊夸?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 38,910評(píng)論 0 274
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤蓝角,失蹤者是張志新(化名)和其女友劉穎阱穗,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體使鹅,經(jīng)...
    沈念sama閱讀 45,324評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡揪阶,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,542評(píng)論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了患朱。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片鲁僚。...
    茶點(diǎn)故事閱讀 39,711評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出冰沙,到底是詐尸還是另有隱情侨艾,我是刑警寧澤,帶...
    沈念sama閱讀 35,424評(píng)論 5 343
  • 正文 年R本政府宣布拓挥,位于F島的核電站蒋畜,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏撞叽。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,017評(píng)論 3 326
  • 文/蒙蒙 一插龄、第九天 我趴在偏房一處隱蔽的房頂上張望愿棋。 院中可真熱鬧,春花似錦均牢、人聲如沸糠雨。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,668評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)甘邀。三九已至,卻和暖如春垮庐,著一層夾襖步出監(jiān)牢的瞬間松邪,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,823評(píng)論 1 269
  • 我被黑心中介騙來(lái)泰國(guó)打工哨查, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留逗抑,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 47,722評(píng)論 2 368
  • 正文 我出身青樓寒亥,卻偏偏與公主長(zhǎng)得像邮府,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子溉奕,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,611評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • 說(shuō)明:不少讀者反饋褂傀,想使用開(kāi)源組件搭建Hadoop平臺(tái),然后再部署Kylin加勤,但是遇到各種問(wèn)題仙辟。這里我為讀者部署一...
    大詩(shī)兄_zl閱讀 2,070評(píng)論 0 2
  • 一、系統(tǒng)參數(shù)配置優(yōu)化 1胸竞、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf欺嗤,添加如下配置,然后執(zhí)行s...
    張偉科閱讀 3,748評(píng)論 0 14
  • 經(jīng)過(guò)一系列的前期環(huán)境準(zhǔn)備卫枝,現(xiàn)在可以開(kāi)始Hadoop的安裝了煎饼,在這里去apache官網(wǎng)下載2.7.3的版本http:...
    歡醉閱讀 1,665評(píng)論 8 28
  • 設(shè)置固定IP地址及網(wǎng)關(guān) 設(shè)置IP 設(shè)置網(wǎng)關(guān) 設(shè)置DNS 重啟網(wǎng)卡 測(cè)試網(wǎng)絡(luò) 設(shè)置主機(jī)名對(duì)應(yīng)IP地址 添加Hadoo...
    isgiker閱讀 1,879評(píng)論 0 1
  • 偶爾做一件小事很簡(jiǎn)單,堅(jiān)持做一件小事不容易校赤。 集體學(xué)習(xí)的氛圍很好吆玖,羅偉老師的思維導(dǎo)圖不錯(cuò)筒溃。收獲!沾乘!
    吳美麗同學(xué)閱讀 2,062評(píng)論 6 24