centos+hadoop+hive 安裝

環(huán)境:windows10瘸味、virtualBox、centos6.8彻坛、hadoop2.6.0、 jdk1.7.0_79踏枣、mysql

本文主要分為4大塊昌屉,分別是virtualbox下centos安裝、hadoop安裝茵瀑、hive安裝间驮。

virtualbox下centos安裝

參見(jiàn)網(wǎng)址:

http://blog.csdn.net/risingsun001/article/details/37934975

特別提醒:

virtualbox安裝centos的時(shí)候需要設(shè)置內(nèi)存大概為1G左右,否則centos不會(huì)顯示圖形化操作界面马昨。

virtualbox啊裝centos的時(shí)候網(wǎng)絡(luò)選擇橋接模式

啟動(dòng)centos后需要設(shè)置連接網(wǎng)絡(luò)


centos下hadoop安裝

特別提醒:

安裝hadoop的需要注意jdk竞帽、hadoop的版本,因?yàn)檫@樣子網(wǎng)上相同的資料會(huì)比較好找鸿捧,本次安裝使用的是hadoop2.6.0屹篓、 jdk1.7.0_79。

安裝hadoop需要理解下hadoop之間的免密登錄的概念匙奴,hosts相關(guān)的修改等堆巧,都是比較細(xì)節(jié)的內(nèi)容,但是容易踩坑饥脑。

參考文章:

安裝介紹:http://www.powerxing.com/install-hadoop-cluster/

安裝步驟(好文強(qiáng)力推薦):http://www.cnblogs.com/kevinq/p/5101679.html

免密登錄:http://blog.csdn.net/w12345_ww/article/details/51910030

hadoop端口:http://www.cnblogs.com/tnsay/p/5753838.html

機(jī)器配置

192.168.0.112 lebron1 作為master

192.168.0.113 lebron2 作為slave


安裝jdk

查看已經(jīng)安裝的jdk ? rpm -qa | grep jdk?

卸載已經(jīng)安裝的jdk ? rpm remove -y xxx

下載jdk安裝包 ? wget http://download.oracle.com/otn-pub/java/jdk/7u79-b15/jdk-7u79-linux-x64.tar.gz

安裝jdk ?解壓jdk-7u79-linux-x64.tar.gz到/opt/jdk1.7.0_79 并配置/etc/profile后執(zhí)行source /etc/profile

export JAVA_HOME=/opt/jdk1.7.0_79

export JRE_HOME=$JAVA_HOME/jre

export CLASSPATH=./:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

export PATH=$PATH:$JAVA_HOME/bin


配置hosts文件

192.168.0.112 lebron1

192.168.0.113 lebron2


建立hadoop賬號(hào)

新增賬號(hào) useradd hadoop

修改密碼 passwd hadoop

新增目錄 mkdir /usr/local/hadoop

修改權(quán)限 chmod 777 –R /usr/local/hadoop


hadoop免密登錄

以下為lebron1機(jī)器的操作,lebron2機(jī)器的操作相同

su hadoop 切換到hadoop賬戶

ssh-keygen -t rsa 生成密鑰文件id_rsa和id_rsa.pub

拷貝lebron1的id_rsa.pub內(nèi)容到lebron2機(jī)器的authorized_keys

su 權(quán)限下修改/etc/ssh/sshd_config

RSAAuthentication ?yes

PubkeyAuthentication ?yes

AuthorizedKeysFile ? .ssh/authorized_keys

重啟sshd service sshd restart

測(cè)試免密連接 ssh lebron1 或 ssh lebron2


安裝hadoop

wget http://archive.apache.org/dist/hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz

解壓到hadoop目錄 /usr/local/hadoop/hadoop-2.6.0

修改/etc/profile新增hadoop環(huán)境變量并執(zhí)行source /etc/profile使生效

export HADOOP_HOME=/usr/local/hadoop/hadoop-2.6.0

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin

export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native

export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"


解決啟動(dòng)問(wèn)題:WARN util.NativeCodeLoader: Unable to loadnative-hadoop libraryforyour platform...using builtin-java classes where applicable

wget http://dl.bintray.com/sequenceiq/sequenceiq-bin/:hadoop-native-64-2.6.0.tar

tar -xvf hadoop-native-64-2.6.0.tar -C /usr/local/hadoop/hadoop-2.6.0/lib

tar -xvf hadoop-native-64-2.6.0.tar -C /usr/local/hadoop/hadoop-2.6.0/lib/native


ps:以下操作都在cd /usr/local/hadoop/hadoop-2.6.0/etc/hadoop進(jìn)行

配置可以參見(jiàn)鏈接:http://www.cnblogs.com/kevinq/p/5101679.html


修改hadoop-env.sh文件

export JAVA_HOME=/opt/jdk1.7.0_79


修改yarn-env.sh文件

export JAVA_HOME=/opt/jdk1.7.0_79


修改core-site.xml文件


修改hdfs-site.xml文件


修改mapred-site.xml文件


修改yarn-site.xml文件


配置masters和slaves文件

vim slaves 新增slave節(jié)點(diǎn)


向各節(jié)點(diǎn)復(fù)制hadoop

將配置的hadoop2.6.0復(fù)制到各個(gè)節(jié)點(diǎn)懦冰,建議通過(guò)scp命令


格式化namenode

hadoop namenode -format灶轰,第一次啟動(dòng)的時(shí)候需要執(zhí)行


啟動(dòng)hadoop和yarn

cd /usr/local/hadoop/hadoop-2.6.0/sbin

./start-all.sh


用jps檢驗(yàn)各后臺(tái)進(jìn)程是否成功啟動(dòng)

PS:查看日志確認(rèn)下是否沒(méi)有報(bào)錯(cuò),如果有報(bào)錯(cuò)肯定是某些地方配置沒(méi)有對(duì)刷钢,重新網(wǎng)上找資料修復(fù)即可笋颤,如果完全沒(méi)有問(wèn)題可以通過(guò)hadoop的shell命令操作檢驗(yàn)一下。


hive安裝

參見(jiàn):http://blog.csdn.net/u014591781/article/details/52895176

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市伴澄,隨后出現(xiàn)的幾起案子赋除,更是在濱河造成了極大的恐慌,老刑警劉巖非凌,帶你破解...
    沈念sama閱讀 218,386評(píng)論 6 506
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件举农,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡敞嗡,警方通過(guò)查閱死者的電腦和手機(jī)颁糟,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,142評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)喉悴,“玉大人棱貌,你說(shuō)我怎么就攤上這事』啵” “怎么了婚脱?”我有些...
    開(kāi)封第一講書(shū)人閱讀 164,704評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)勺像。 經(jīng)常有香客問(wèn)我障贸,道長(zhǎng),這世上最難降的妖魔是什么咏删? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 58,702評(píng)論 1 294
  • 正文 為了忘掉前任惹想,我火速辦了婚禮,結(jié)果婚禮上督函,老公的妹妹穿的比我還像新娘嘀粱。我一直安慰自己,他們只是感情好辰狡,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,716評(píng)論 6 392
  • 文/花漫 我一把揭開(kāi)白布锋叨。 她就那樣靜靜地躺著,像睡著了一般宛篇。 火紅的嫁衣襯著肌膚如雪娃磺。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 51,573評(píng)論 1 305
  • 那天叫倍,我揣著相機(jī)與錄音偷卧,去河邊找鬼。 笑死吆倦,一個(gè)胖子當(dāng)著我的面吹牛听诸,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播蚕泽,決...
    沈念sama閱讀 40,314評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼晌梨,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起仔蝌,我...
    開(kāi)封第一講書(shū)人閱讀 39,230評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤泛领,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后敛惊,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體渊鞋,經(jīng)...
    沈念sama閱讀 45,680評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,873評(píng)論 3 336
  • 正文 我和宋清朗相戀三年豆混,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了篓像。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,991評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡皿伺,死狀恐怖员辩,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情鸵鸥,我是刑警寧澤奠滑,帶...
    沈念sama閱讀 35,706評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站妒穴,受9級(jí)特大地震影響宋税,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜讼油,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,329評(píng)論 3 330
  • 文/蒙蒙 一杰赛、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧矮台,春花似錦乏屯、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 31,910評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至确虱,卻和暖如春含友,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背校辩。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 33,038評(píng)論 1 270
  • 我被黑心中介騙來(lái)泰國(guó)打工窘问, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人宜咒。 一個(gè)月前我還...
    沈念sama閱讀 48,158評(píng)論 3 370
  • 正文 我出身青樓惠赫,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親荧呐。 傳聞我的和親對(duì)象是個(gè)殘疾皇子汉形,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,941評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容