hadoop配置

騰訊云中偽分布式配置:
首先給主機(jī)定義一個名稱:注意這里需要配置本機(jī)的內(nèi)網(wǎng)機(jī)器蚜迅,其它機(jī)器的外網(wǎng)地址

10.104.222.163 hadoopmaster
127.0.0.1 VM_222_163_centos VM_222_163_centos
127.0.0.1 localhost.localdomain localhost
127.0.0.1 localhost4.localdomain4 localhost4

# The following lines are desirable for IPv6 capable hosts
::1 VM_222_163_centos VM_222_163_centos
::1 localhost.localdomain localhost
::1 localhost6.localdomain6 localhost6

hadoop安裝目錄假定為${HADOOOP_HOME}沃暗,當(dāng)前hadoop版本為2.9.1:

hadoop版本

1 在${HADOOOP_HOME}/etc/hadoop目錄下驯妄,修改下面幾個文件:
core-site.xml

<configuration>
<!-- 指定HDFS namenode 的通信地址 -->
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://hadoopmaster:9000</value>
</property>
<!-- 指定hadoop運(yùn)行時產(chǎn)生文件的存儲路徑 -->
<property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/hadoop/hadoop-2.9.1/hadoop</value>
</property>
</configuration>

hdfs-site.xml

<configuration>
<property>
    <name>dfs.name.dir</name>
    <value>/usr/local/hadoop/hdfs/name</value>
    <description>namenode上存儲hdfs名字空間元數(shù)據(jù) </description>
</property>

<property>
    <name>dfs.data.dir</name>
    <value>/usr/local/hadoop/hdfs/data</value>
    <description>datanode上數(shù)據(jù)塊的物理存儲位置</description>
</property>

<!-- 設(shè)置hdfs副本數(shù)量 -->
<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
</configuration>

通過拷貝生成mapred-site.xml

 cp mapred-site.xml.template mapred-site.xml 

內(nèi)容如下:

<configuration>
<!-- 通知框架MR使用YARN -->
        <property>
                <name>mapreduce.framework.name</name>
                <value>yarn</value>
        </property>
</configuration>

yarn-site.xml

<configuration>
<!-- reducer取數(shù)據(jù)的方式是mapreduce_shuffle -->
     <property>
                 <name>yarn.acl.enable</name>
                 <value>0</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoopmaster</value>
    </property>
</configuration>

啟動hdfs

${HADOOOP_HOME}/sbin/start-dfs.sh

啟動yarn

${HADOOOP_HOME}/sbin/start-yarn.sh

檢查hadoop相關(guān)進(jìn)程啟動情況:


hadoop進(jìn)程

如果想要關(guān)閉hadoop進(jìn)程,可以執(zhí)行:

${HADOOOP_HOME}/sbin/stop-dfs.sh
${HADOOOP_HOME}/sbin/stop-yarn.sh

web中查看hadoop狀態(tài):http://outerIP:50070

hadoop狀態(tài)

web中查看集群中應(yīng)用程序狀態(tài):http://outerIP:8088
集群狀態(tài)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市沟使,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌渊跋,老刑警劉巖腊嗡,帶你破解...
    沈念sama閱讀 216,402評論 6 499
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異拾酝,居然都是意外死亡燕少,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,377評論 3 392
  • 文/潘曉璐 我一進(jìn)店門蒿囤,熙熙樓的掌柜王于貴愁眉苦臉地迎上來客们,“玉大人,你說我怎么就攤上這事材诽〉状欤” “怎么了?”我有些...
    開封第一講書人閱讀 162,483評論 0 353
  • 文/不壞的土叔 我叫張陵岳守,是天一觀的道長凄敢。 經(jīng)常有香客問我,道長湿痢,這世上最難降的妖魔是什么涝缝? 我笑而不...
    開封第一講書人閱讀 58,165評論 1 292
  • 正文 為了忘掉前任,我火速辦了婚禮譬重,結(jié)果婚禮上拒逮,老公的妹妹穿的比我還像新娘。我一直安慰自己臀规,他們只是感情好滩援,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,176評論 6 388
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著塔嬉,像睡著了一般玩徊。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上谨究,一...
    開封第一講書人閱讀 51,146評論 1 297
  • 那天恩袱,我揣著相機(jī)與錄音,去河邊找鬼胶哲。 笑死畔塔,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播澈吨,決...
    沈念sama閱讀 40,032評論 3 417
  • 文/蒼蘭香墨 我猛地睜開眼把敢,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了谅辣?” 一聲冷哼從身側(cè)響起修赞,我...
    開封第一講書人閱讀 38,896評論 0 274
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎桑阶,沒想到半個月后榔组,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,311評論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡联逻,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,536評論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了检痰。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片包归。...
    茶點(diǎn)故事閱讀 39,696評論 1 348
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖铅歼,靈堂內(nèi)的尸體忽然破棺而出公壤,到底是詐尸還是另有隱情,我是刑警寧澤椎椰,帶...
    沈念sama閱讀 35,413評論 5 343
  • 正文 年R本政府宣布厦幅,位于F島的核電站,受9級特大地震影響慨飘,放射性物質(zhì)發(fā)生泄漏确憨。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,008評論 3 325
  • 文/蒙蒙 一瓤的、第九天 我趴在偏房一處隱蔽的房頂上張望休弃。 院中可真熱鬧,春花似錦圈膏、人聲如沸塔猾。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,659評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽丈甸。三九已至,卻和暖如春尿褪,著一層夾襖步出監(jiān)牢的瞬間睦擂,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,815評論 1 269
  • 我被黑心中介騙來泰國打工茫多, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留祈匙,地道東北人。 一個月前我還...
    沈念sama閱讀 47,698評論 2 368
  • 正文 我出身青樓,卻偏偏與公主長得像夺欲,于是被迫代替她去往敵國和親跪帝。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,592評論 2 353

推薦閱讀更多精彩內(nèi)容