CentOS 偽分布式配置Hadoop2.7.3

rsa密鑰認(rèn)證:
$ cd ~/.ssh  #進(jìn)入本機(jī)home目錄
$ ssh-keygen -t rsa    #生成本機(jī)id_rsa(私鑰)乖寒、id_rsa.pub(公鑰)
$ ssh-copy-id localhost  #將公鑰拷貝到要免登陸的機(jī)器上跳夭,切勿使用私鑰  
                         #此處localhost為遠(yuǎn)程主機(jī)的localhost

或dsa密鑰認(rèn)證:
$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa #用dsa密鑰認(rèn)證來(lái)生成一對(duì)公鑰和私鑰:
$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys #將生成的公鑰加入到用于認(rèn)證的公鑰文件中
#測(cè)試一下是否配置成功
$ ssh localhost
  • 安裝Hadoop2.7.3
  1. 第一步 安裝Hadoop

上傳hadoop的安裝包hadoop-2.7.3.tar.gz到服務(wù)器上去/usr/download (自由選擇路徑)

$ tar -zxvf hadoop-2.7.3.tar.gz  -C /usr/export/software/
  1. 第二步 配置hadoop
    hadoop-2.7.3的搭建需要修改5個(gè)配置文件
$ cd /usr/export/software/hadoop-2.7.3/etc/hadoop 

第一個(gè):vi hadoop-env.sh

#第27行
export JAVA_HOME=/usr/java/jdk1.8.0_121 

第二個(gè):vi core-site.xml

<!-- 指定HADOOP所使用的文件系統(tǒng)schema(URI)吃嘿,HDFS的老大(NameNode)的地址 -->
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
</property>
        <!-- 指定hadoop運(yùn)行時(shí)產(chǎn)生文件的存儲(chǔ)目錄 -->
<property>
      <name>hadoop.tmp.dir</name>
      <value>/usr/export/data/hadoop/tmp</value>
</property>

注:若localhost已更換別名(如grape)最仑,可以grape替換上述代碼中的localhost;指定存儲(chǔ)目錄時(shí)赏壹,該路徑自由分配

第三個(gè):vi hdfs-site.xml

<!-- 指定HDFS副本的數(shù)量 -->
<property>
      <name>dfs.replication</name>
      <value>1</value>
</property>

第四個(gè):mapred-site.xml (改名后得到的文件)

# mapred-site.xml.template重命名
$ mv mapred-site.xml.template mapred-site.xml 
$ vim mapred-site.xml

<!-- 指定mr運(yùn)行在yarn上 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value> 
</property>

第五個(gè):vi yarn-site.xml

<!-- 指定YARN的老大(ResourceManager)的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>localhost</value> 
</property>

<!-- reducer獲取數(shù)據(jù)的方式 -->
<property>
      <name>yarn.nodemanager.aux-services</name>
      <value>mapreduce_shuffle</value>
</property>
  1. 第三步 將hadoop添加到環(huán)境變量
$ vim /etc/profile
#hadoop
export HADOOP_HOME=/usr/export/software/hadoop-2.7.3 #選中hadoop路徑

export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
$ source /etc/profile
  1. 第四步 格式化namenode(是對(duì)namenode進(jìn)行初始化)
$ hdfs namenode -format (hadoop namenode -format 已經(jīng)過(guò)時(shí)鱼炒,但是依然可用)
  1. 第五步 啟動(dòng)hadoop
$ cd /home/hadoop/app/hadoop-2.7.3/sbin#若已配置hadoop環(huán)境變量,直接在根目錄下輸入下一行代碼
$ start-all.sh

Hadoop搭建到此結(jié)束蝌借,接下來(lái)是驗(yàn)證是否搭建成功
使用jps命令驗(yàn)證
出現(xiàn)以下結(jié)果昔瞧,表明啟動(dòng)成功

[root@xxxxx sbin]# jps
6417 DataNode
7207 NodeManager
6920 ResourceManager
7258 Jps
6235 NameNode
6700 SecondaryNameNode

6.第六步 終止hadoop

$ cd /home/hadoop/app/hadoop-2.7.3/sbin #若已配置hadoop環(huán)境變量,直接在根目錄下輸入下一行代碼
$ stop-all.sh

參考:
CentOS安裝JDK 8
hadoop2.7.3偽分布式搭建之三------>Hadoop2.7.3的安裝
Hadoop2.7.3的安裝詳細(xì)過(guò)程(偽分布式)
CentOS Linux 配置SSH密鑰登錄 配置筆記

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末菩佑,一起剝皮案震驚了整個(gè)濱河市自晰,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌稍坯,老刑警劉巖酬荞,帶你破解...
    沈念sama閱讀 211,265評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異瞧哟,居然都是意外死亡混巧,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門勤揩,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)咧党,“玉大人,你說(shuō)我怎么就攤上這事陨亡“猓” “怎么了?”我有些...
    開封第一講書人閱讀 156,852評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵数苫,是天一觀的道長(zhǎng)聪舒。 經(jīng)常有香客問(wèn)我辨液,道長(zhǎng)虐急,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,408評(píng)論 1 283
  • 正文 為了忘掉前任滔迈,我火速辦了婚禮止吁,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘燎悍。我一直安慰自己敬惦,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評(píng)論 5 384
  • 文/花漫 我一把揭開白布谈山。 她就那樣靜靜地躺著俄删,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上畴椰,一...
    開封第一講書人閱讀 49,772評(píng)論 1 290
  • 那天臊诊,我揣著相機(jī)與錄音,去河邊找鬼斜脂。 笑死抓艳,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的帚戳。 我是一名探鬼主播玷或,決...
    沈念sama閱讀 38,921評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼片任!你這毒婦竟也來(lái)了偏友?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 37,688評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤蚂踊,失蹤者是張志新(化名)和其女友劉穎约谈,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體犁钟,經(jīng)...
    沈念sama閱讀 44,130評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡棱诱,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了涝动。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片迈勋。...
    茶點(diǎn)故事閱讀 38,617評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖醋粟,靈堂內(nèi)的尸體忽然破棺而出靡菇,到底是詐尸還是另有隱情,我是刑警寧澤米愿,帶...
    沈念sama閱讀 34,276評(píng)論 4 329
  • 正文 年R本政府宣布厦凤,位于F島的核電站,受9級(jí)特大地震影響育苟,放射性物質(zhì)發(fā)生泄漏较鼓。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評(píng)論 3 312
  • 文/蒙蒙 一违柏、第九天 我趴在偏房一處隱蔽的房頂上張望博烂。 院中可真熱鬧,春花似錦漱竖、人聲如沸禽篱。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,740評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)躺率。三九已至玛界,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間悼吱,已是汗流浹背脚仔。 一陣腳步聲響...
    開封第一講書人閱讀 31,967評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留舆绎,地道東北人鲤脏。 一個(gè)月前我還...
    沈念sama閱讀 46,315評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像吕朵,于是被迫代替她去往敵國(guó)和親猎醇。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容