hadoop離線數(shù)據(jù)分析02

配置環(huán)境

linux 最少三臺(tái)
1.1修改各個(gè)虛擬機(jī)主機(jī)名
    vi /etc/sysconfig/network
    
    NETWORKING=yes
    HOSTNAME=node-1    

1.2修改主機(jī)名和IP的映射關(guān)系
    vi /etc/hosts
        
    192.168.1.101   node-1
    192.168.1.102   node-2
    192.168.1.103   node-3

1.3關(guān)閉防火墻
    #查看防火墻狀態(tài)
    service iptables status
    #關(guān)閉防火墻
    service iptables stop
    #查看防火墻開機(jī)啟動(dòng)狀態(tài)
    chkconfig iptables --list
    #關(guān)閉防火墻開機(jī)啟動(dòng)
    chkconfig iptables off

1.4.配置ssh免登陸
#生成ssh免登陸密鑰

ssh-keygen -t rsa (四個(gè)回車)
執(zhí)行完這個(gè)命令后,會(huì)生成兩個(gè)文件id_rsa(私鑰)屯援、id_rsa.pub(公鑰)
將公鑰拷貝到要免密登陸的目標(biāo)機(jī)器上
ssh-copy-id node-2

1.5 同步集群時(shí)間
常用的手動(dòng)進(jìn)行時(shí)間的同步
    date -s "2017-03-03 03:03:03"
或者網(wǎng)絡(luò)同步:
    yum install ntpdate
    ntpdate cn.pool.ntp.org
配置jdk
/usr/local/src/java/jdk1.8.0_65  

開始安裝hadoop

Snip20171030_9.png ![Snip20171030_16.png](http://upload-images.jianshu.io/upload_images/2411540-150c7a158c6b3bc8.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)

開始配置hadoop的環(huán)境
注意這里cd etc/hadoop/下不是/etc/hadoop

Snip20171030_27.png

修改hadoop-env.sh文件瓷叫,添加JAVA_HOME

[注意這里的JAVA_HOME為自己當(dāng)前安裝的JDK位置]

修改core-site.xml文件椭坚,這里是為了設(shè)置老大,和tmp初始位置

<!-- 指定HADOOP所使用的文件系統(tǒng)schema(URI),HDFS的老大(NameNode)的地址 -->
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://node-1:9000</value>
</property>

<!-- 指定hadoop運(yùn)行時(shí)產(chǎn)生文件的存儲(chǔ)目錄,默認(rèn)/tmp/hadoop-${user.name} -->
<property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/src/hadoop/tmp</value>
</property>
Snip20171030_19.png

修改hdfs-site.xml文件洞拨,指定HDFS副本的數(shù)量和老二

<!-- 指定HDFS副本的數(shù)量 -->
<property>
    <name>dfs.replication</name>
    <value>2</value>
</property>

<property>
    <name>dfs.namenode.secondary.http-address</name>
    <value>node-2:50090</value>
</property>
Snip20171030_20.png

修改mapred-site.xml 指定mr運(yùn)行時(shí)框架烤礁,這里指定在yarn上讼积,默認(rèn)是local

注意這里沒(méi)有東西.xml文件所以一定要生成一個(gè)
mv mapred-site.xml.template mapred-site.xml
vi mapred-site.xml

<!-- 指定mr運(yùn)行時(shí)框架,這里指定在yarn上脚仔,默認(rèn)是local -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>
Snip20171030_21.png

修改yarn-site.xml勤众,指定YARN的老大的位置

<!-- 指定YARN的老大(ResourceManager)的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>node-1</value>
</property>

<!-- NodeManager上運(yùn)行的附屬服務(wù)。需配置成mapreduce_shuffle鲤脏,才可運(yùn)行MapReduce程序默認(rèn)值:"" -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
注意這里所有的老大一定要放到一個(gè)機(jī)器里面

編輯slaves文件们颜,里面寫上從節(jié)點(diǎn)所在的主機(jī)名字

vi slaves
node-1
node-2
node-3

將hadoop添加環(huán)境環(huán)境變量

vi /etc/profile
Snip20171030_24.png
source /etc/profile

然后拷貝至node-2和node-3

scp -r /usr/local/src/hadoop/ root@node-2:/local/src/
scp -r /usr/local/src/hadoop/ root@node-2:/local/src/  

啟動(dòng)hadoop

Snip20171030_26.png
    先啟動(dòng)HDFS
    sbin/start-dfs.sh
    
    再啟動(dòng)YARN
    sbin/start-yarn.sh
Snip20171030_25.png

http://192.168.1.101:50070 (HDFS管理界面)
http://192.168.1.101:8088 (MR管理界面)

Snip20171030_29.png
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市猎醇,隨后出現(xiàn)的幾起案子窥突,更是在濱河造成了極大的恐慌,老刑警劉巖硫嘶,帶你破解...
    沈念sama閱讀 219,039評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件阻问,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡沦疾,警方通過(guò)查閱死者的電腦和手機(jī)称近,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)曹鸠,“玉大人煌茬,你說(shuō)我怎么就攤上這事〕固遥” “怎么了坛善?”我有些...
    開封第一講書人閱讀 165,417評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我眠屎,道長(zhǎng)剔交,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,868評(píng)論 1 295
  • 正文 為了忘掉前任改衩,我火速辦了婚禮岖常,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘葫督。我一直安慰自己竭鞍,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,892評(píng)論 6 392
  • 文/花漫 我一把揭開白布橄镜。 她就那樣靜靜地躺著偎快,像睡著了一般。 火紅的嫁衣襯著肌膚如雪洽胶。 梳的紋絲不亂的頭發(fā)上晒夹,一...
    開封第一講書人閱讀 51,692評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音姊氓,去河邊找鬼丐怯。 笑死,一個(gè)胖子當(dāng)著我的面吹牛翔横,可吹牛的內(nèi)容都是我干的读跷。 我是一名探鬼主播,決...
    沈念sama閱讀 40,416評(píng)論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼棕孙,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼舔亭!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起蟀俊,我...
    開封第一講書人閱讀 39,326評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤钦铺,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后肢预,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體矛洞,經(jīng)...
    沈念sama閱讀 45,782評(píng)論 1 316
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,957評(píng)論 3 337
  • 正文 我和宋清朗相戀三年烫映,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了沼本。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,102評(píng)論 1 350
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡锭沟,死狀恐怖抽兆,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情族淮,我是刑警寧澤辫红,帶...
    沈念sama閱讀 35,790評(píng)論 5 346
  • 正文 年R本政府宣布凭涂,位于F島的核電站,受9級(jí)特大地震影響贴妻,放射性物質(zhì)發(fā)生泄漏切油。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,442評(píng)論 3 331
  • 文/蒙蒙 一名惩、第九天 我趴在偏房一處隱蔽的房頂上張望澎胡。 院中可真熱鬧,春花似錦娩鹉、人聲如沸攻谁。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,996評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)巢株。三九已至槐瑞,卻和暖如春熙涤,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背困檩。 一陣腳步聲響...
    開封第一講書人閱讀 33,113評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工祠挫, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人悼沿。 一個(gè)月前我還...
    沈念sama閱讀 48,332評(píng)論 3 373
  • 正文 我出身青樓等舔,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親糟趾。 傳聞我的和親對(duì)象是個(gè)殘疾皇子慌植,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,044評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容