初識Hadoop

三大核心組件

1. HDFS

概念

是一個分布式文件系統(tǒng) 源于谷歌GFS論文的開源實現(xiàn)

設計目標

  • 非常巨大的分布式文件系統(tǒng)
  • 可以運行在非常廉價的硬件上
  • 容易擴展 可以給用戶提供性能不錯的文件存儲服務

設計架構

HDFS 架構
  • 1 Master(NameNode/NN) 帶 N個Slaves(DataNode/DN)
    HDFS/YARN/HBase同樣如此

  • 1個文件會被拆分成多個Block 根據(jù)配置 存儲在多個DataNode上
    blockSize:128M(可以設置)
    例如: 130M ==> 2個Block: 128M 和 2M

NameNode:
1)負責客戶端請求的響應
2)負責元數(shù)據(jù)(文件的名稱啄踊、副本系數(shù)忧设、Block存放的DN)的管理

DataNode:
1)存儲用戶的文件對應的數(shù)據(jù)塊(Block)
2)要定期向NN發(fā)送心跳信息,匯報本身及其所有的block信息颠通,健康狀況

A typical deployment has a dedicated machine that runs only the NameNode software. Each of the other machines in the cluster runs one instance of the DataNode software.

The architecture does not preclude running multiple DataNodes on the same machine
but in a real deployment that is rarely the case.

NameNode + N個DataNode
建議:將NN和DN部署在不同的節(jié)點上

replication factor:副本系數(shù)址晕、副本因子
表示每個Block的副本數(shù)量

All blocks in a file except the last block are the same size

副本存放策略

Rack 表示機架 第一個副本默認保存在客戶端機器所在的節(jié)點上 其他如圖


副本存放策略.png

2. 資源調(diào)度框架 YARN

概念

YARN:不同計算框架可以共享同一個HDFS集群上的數(shù)據(jù),享受整體的資源調(diào)度
XXX on YARN的好處:
與其他計算框架共享集群資源顿锰,按資源需要分配谨垃,進而提高集群資源的利用率
XXX: Spark/MapReduce/Storm/Flink

YARN架構:

1)ResourceManager: RM
整個集群同一時間提供服務的RM只有一個启搂,負責集群資源的統(tǒng)一管理和調(diào)度
處理客戶端的請求: 提交一個作業(yè)、殺死一個作業(yè)
監(jiān)控我們的NM刘陶,一旦某個NM掛了狐血,那么該NM上運行的任務需要告訴我們的AM來如何進行處理

  1. NodeManager: NM
    整個集群中有多個,負責自己本身節(jié)點資源管理和使用
    定時向RM匯報本節(jié)點的資源使用情況
    接收并處理來自RM的各種命令:啟動Container
    處理來自AM的命令
    單個節(jié)點的資源管理

  2. ApplicationMaster: AM
    每個應用程序?qū)粋€:MR易核、Spark,負責應用程序的管理
    為應用程序向RM申請資源(core浪默、memory)牡直,分配給內(nèi)部task
    需要與NM通信:啟動/停止task,task是運行在container里面纳决,AM也是運行在container里面

  3. Container
    封裝了CPU碰逸、Memory等資源的一個容器
    是一個任務運行環(huán)境的抽象

  4. Client
    提交作業(yè)
    查詢作業(yè)的運行進度
    殺死作業(yè)

YARN環(huán)境搭建

1)mapred-site.xml
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>

2)yarn-site.xml
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>

  1. 啟動YARN相關的進程
    sbin/start-yarn.sh

4)驗證
jps
ResourceManager
NodeManager
http://hadoop000:8088

5)停止YARN相關的進程
sbin/stop-yarn.sh

提交mr作業(yè)到YARN上運行:

/home/hadoop/app/hadoop-2.6.0-cdh5.7.0/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0-cdh5.7.0.jar

hadoop jar

hadoop jar hadoop-mapreduce-examples-2.6.0-cdh5.7.0.jar pi 2 3

最后編輯于
?著作權歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市阔加,隨后出現(xiàn)的幾起案子饵史,更是在濱河造成了極大的恐慌,老刑警劉巖胜榔,帶你破解...
    沈念sama閱讀 221,331評論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件胳喷,死亡現(xiàn)場離奇詭異,居然都是意外死亡夭织,警方通過查閱死者的電腦和手機吭露,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,372評論 3 398
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來尊惰,“玉大人讲竿,你說我怎么就攤上這事∨牛” “怎么了题禀?”我有些...
    開封第一講書人閱讀 167,755評論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長膀捷。 經(jīng)常有香客問我迈嘹,道長,這世上最難降的妖魔是什么担孔? 我笑而不...
    開封第一講書人閱讀 59,528評論 1 296
  • 正文 為了忘掉前任江锨,我火速辦了婚禮,結果婚禮上糕篇,老公的妹妹穿的比我還像新娘啄育。我一直安慰自己,他們只是感情好拌消,可當我...
    茶點故事閱讀 68,526評論 6 397
  • 文/花漫 我一把揭開白布挑豌。 她就那樣靜靜地躺著安券,像睡著了一般。 火紅的嫁衣襯著肌膚如雪氓英。 梳的紋絲不亂的頭發(fā)上侯勉,一...
    開封第一講書人閱讀 52,166評論 1 308
  • 那天,我揣著相機與錄音铝阐,去河邊找鬼址貌。 笑死,一個胖子當著我的面吹牛徘键,可吹牛的內(nèi)容都是我干的练对。 我是一名探鬼主播,決...
    沈念sama閱讀 40,768評論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼吹害,長吁一口氣:“原來是場噩夢啊……” “哼螟凭!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起它呀,我...
    開封第一講書人閱讀 39,664評論 0 276
  • 序言:老撾萬榮一對情侶失蹤螺男,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后纵穿,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體下隧,經(jīng)...
    沈念sama閱讀 46,205評論 1 319
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 38,290評論 3 340
  • 正文 我和宋清朗相戀三年政恍,在試婚紗的時候發(fā)現(xiàn)自己被綠了汪拥。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,435評論 1 352
  • 序言:一個原本活蹦亂跳的男人離奇死亡篙耗,死狀恐怖迫筑,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情宗弯,我是刑警寧澤脯燃,帶...
    沈念sama閱讀 36,126評論 5 349
  • 正文 年R本政府宣布,位于F島的核電站蒙保,受9級特大地震影響辕棚,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜邓厕,卻給世界環(huán)境...
    茶點故事閱讀 41,804評論 3 333
  • 文/蒙蒙 一逝嚎、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧详恼,春花似錦补君、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,276評論 0 23
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽伟桅。三九已至,卻和暖如春叽掘,著一層夾襖步出監(jiān)牢的瞬間楣铁,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,393評論 1 272
  • 我被黑心中介騙來泰國打工更扁, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留盖腕,地道東北人。 一個月前我還...
    沈念sama閱讀 48,818評論 3 376
  • 正文 我出身青樓浓镜,卻偏偏與公主長得像赊堪,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子竖哩,可洞房花燭夜當晚...
    茶點故事閱讀 45,442評論 2 359

推薦閱讀更多精彩內(nèi)容

  • 各版本hadoop文檔地址 Hadoop的框架最核心的設計就是:HDFS(Hadoop Distributed F...
    MicoCube閱讀 998評論 0 2
  • HDFS的設計目標 通過上一篇文章的介紹我們已經(jīng)了解到HDFS到底是怎樣的東西,以及它是怎樣通過多副本機制來提供高...
    陌上疏影涼閱讀 1,448評論 0 3
  • 前言 研究生階段將要接觸大數(shù)據(jù)和深度學習的知識脊僚,在網(wǎng)上找的教程大多一上來就是一堆名詞又解釋不清楚相叁,對新手相當不友好...
    陌上疏影涼閱讀 3,188評論 0 9
  • 1.當生活心懷歹毒地將一切都搞成了黑色幽默,我順水推舟把自己變成了一個受過高等教育的流氓辽幌。 2.別人都在假裝正經(jīng)增淹,...
    維納斯的丘比特閱讀 201評論 0 1
  • 累,這是我的第一感覺乌企。身心俱疲虑润! 昨晚到很晚才睡,今天又是一天的奔波加酵,要是有個床我可以睡到明天早上拳喻。 我討厭別人誤...
    渠六億閱讀 505評論 6 6