hadoop集群配置-總結(jié)

[TOC]

hadoop 集群

hadoop3.2 分為 單點(diǎn)求厕,集群 ,偽集群

hadoop 配置

hadoop /etc/hadoop/ 下的xml 配置

環(huán)境變量的配置

hadoop 安全模式

用戶(hù)可以通過(guò) hdfs dfsadmin -safemode value 來(lái)操作安全模式祝懂,參數(shù)value的說(shuō)明如下:

  • enter - 進(jìn)入安全模式

  • leave - 強(qiáng)制NameNode離開(kāi)安全模式

  • get - 返回安全模式是否開(kāi)啟的信息

  • wait - 等待,一直到安全模式結(jié)束。

hadoop datanode

在3.2中 hdfs namenode -format 后蚊丐,啟動(dòng)start-all.shjps 查看沒(méi)有 datanode ,需要使用

hdfs 命令 hdfs datanode 啟動(dòng)

hadoop 3.2 頁(yè)面訪問(wèn)

  • http://<localhost>:8088

  • http://<localhost>:9870

hadoop 2.7

  • http://<localhost>:50070

  • http://<localhost>:9870

同步時(shí)間

apt-get install ntp
ntpdate 192.168.1.159

啟動(dòng)

  • 在regionServer上 ./hbase-daemon.sh start regionserver

  • 在master上執(zhí)行 ./bin/hbase-daemon.sh start master

  • hdfs datanode

hadoop 單節(jié)點(diǎn)啟動(dòng) yarn NodeManageer (處理wordcount)

1.單個(gè)節(jié)點(diǎn)操作

  • 啟動(dòng)|停止單個(gè)節(jié)點(diǎn)

    hdfs --daemon start|stop datanode
    
    hdfs --daemon start|stop namenode
    
  • 啟動(dòng)|停止單個(gè)節(jié)點(diǎn)的NodeManageer

    yarn --daemon start nodemanager
    
    yarn --daemon stop  nodemanager
    
  • 啟動(dòng)|停止ResourceManager

    yarn --daemon start resourcemanager
    
    yarn --daemon stop resourcemanager
    

2.集群操作

start|stop-dfs.sh 在master上使用,否則只會(huì)停掉該臺(tái)機(jī)器的datanode(namenode)

start|stop-yarn.sh(會(huì)停掉ResourceManager與NodeManager)在配置ResourceManager的機(jī)器上使用,否則只會(huì)停止該臺(tái)機(jī)器上的NodeManager

start|stop-all.sh(不建議對(duì)集群使用)

wordcount

1.yarn-site.xml mapred-site.xml 內(nèi)存修改

2.啟動(dòng) NodeManageer resourcemanager

37開(kāi) - 原創(chuàng)文章(已經(jīng)在多平臺(tái)發(fā)表)飘蚯,轉(zhuǎn)載請(qǐng)標(biāo)明出處

原文地址-99get81.com

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末馍迄,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子局骤,更是在濱河造成了極大的恐慌攀圈,老刑警劉巖,帶你破解...
    沈念sama閱讀 212,718評(píng)論 6 492
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件峦甩,死亡現(xiàn)場(chǎng)離奇詭異赘来,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī)凯傲,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,683評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門(mén)犬辰,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人冰单,你說(shuō)我怎么就攤上這事幌缝。” “怎么了诫欠?”我有些...
    開(kāi)封第一講書(shū)人閱讀 158,207評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵涵卵,是天一觀的道長(zhǎng)浴栽。 經(jīng)常有香客問(wèn)我,道長(zhǎng)轿偎,這世上最難降的妖魔是什么典鸡? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,755評(píng)論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮坏晦,結(jié)果婚禮上萝玷,老公的妹妹穿的比我還像新娘。我一直安慰自己昆婿,他們只是感情好球碉,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,862評(píng)論 6 386
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著挖诸,像睡著了一般汁尺。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上多律,一...
    開(kāi)封第一講書(shū)人閱讀 50,050評(píng)論 1 291
  • 那天痴突,我揣著相機(jī)與錄音,去河邊找鬼狼荞。 笑死辽装,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的相味。 我是一名探鬼主播拾积,決...
    沈念sama閱讀 39,136評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼丰涉!你這毒婦竟也來(lái)了拓巧?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,882評(píng)論 0 268
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤一死,失蹤者是張志新(化名)和其女友劉穎肛度,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體投慈,經(jīng)...
    沈念sama閱讀 44,330評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡承耿,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,651評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了伪煤。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片加袋。...
    茶點(diǎn)故事閱讀 38,789評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖抱既,靈堂內(nèi)的尸體忽然破棺而出职烧,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 34,477評(píng)論 4 333
  • 正文 年R本政府宣布阳堕,位于F島的核電站跋理,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏恬总。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,135評(píng)論 3 317
  • 文/蒙蒙 一肚邢、第九天 我趴在偏房一處隱蔽的房頂上張望壹堰。 院中可真熱鬧,春花似錦骡湖、人聲如沸贱纠。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,864評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)谆焊。三九已至,卻和暖如春浦夷,著一層夾襖步出監(jiān)牢的瞬間辖试,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 32,099評(píng)論 1 267
  • 我被黑心中介騙來(lái)泰國(guó)打工劈狐, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留罐孝,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,598評(píng)論 2 362
  • 正文 我出身青樓肥缔,卻偏偏與公主長(zhǎng)得像莲兢,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子续膳,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,697評(píng)論 2 351

推薦閱讀更多精彩內(nèi)容

  • 一改艇、系統(tǒng)參數(shù)配置優(yōu)化 1、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf坟岔,添加如下配置谒兄,然后執(zhí)行s...
    張偉科閱讀 3,727評(píng)論 0 14
  • 1. Zookeeper介紹: 1.基本介紹: Zookeeper: 為分布式應(yīng)用提供分布式協(xié)作(協(xié)調(diào))服務(wù)。使用...
    奉先閱讀 4,555評(píng)論 0 10
  • Hadoop 集群的安裝配置大致為如下流程: 選定一臺(tái)機(jī)器作為 Master 在 Master 節(jié)點(diǎn)上配置 had...
    Spike_3154閱讀 5,284評(píng)論 0 1
  • 一炮车、什么是Hadoop舵变?它包含哪些模塊?① Hadoop 是一個(gè)由 Apache 基金會(huì)所開(kāi)發(fā)的分布式系統(tǒng)基礎(chǔ)架...
    堂哥000閱讀 1,016評(píng)論 0 7
  • 小肉松_56a2閱讀 309評(píng)論 0 1