1什么是Hadoop:
Hadoop最早起源于Nutch项阴。Nutch的設計目標是構建一個大型的全網搜索引擎言蛇,包括網頁抓取僻他、索引、查詢等功能腊尚,但隨著抓取網頁數(shù)量的增加吨拗,遇到了嚴重的可擴展性問題——如何解決數(shù)十億網頁的存儲和索引問題。
2003年婿斥、2004年谷歌發(fā)表的兩篇論文為該問題提供了可行的解決方案劝篷。
——分布式文件系統(tǒng)(GFS),可用于處理海量網頁的存儲
——分布式計算框架MAPREDUCE民宿,可用于處理海量網頁的索引計算問題娇妓。
Nutch的開發(fā)人員完成了相應的開源實現(xiàn)HDFS和MAPREDUCE,并從Nutch中剝離成為獨立項目HADOOP活鹰,到2008年1月哈恰,HADOOP成為Apache頂級項目.
狹義上來說,hadoop就是單獨指代hadoop這個軟件,
HDFS :分布式文件系統(tǒng)
MapReduce : 分布式計算系統(tǒng)
Yarn:分布式樣集群資源管理
廣義上來說盯漂,hadoop指代大數(shù)據(jù)的一個生態(tài)圈储矩,包括很多其他的軟件
2、hadoop的歷史版本和發(fā)行版公司
2.1 Hadoop歷史版本
1.x版本系列:hadoop版本當中的第二代開源版本荠医,主要修復0.x版本的一些bug等
2.x版本系列:架構產生重大變化夸楣,引入了yarn平臺等許多新特性
3.x版本系列: 加入多namenoode新特性
2.2 Hadoop三大發(fā)行版公司
免費開源版本apache:
Apache Hadoop
優(yōu)點:擁有全世界的開源貢獻者,代碼更新迭代版本比較快子漩,
缺點:版本的升級豫喧,版本的維護,版本的兼容性幢泼,版本的補丁都可能考慮不太周到紧显,
apache所有軟件的下載地址(包括各種歷史版本):
Index of /dist
免費開源版本hortonWorks:
hortonworks主要是雅虎主導Hadoop開發(fā)的副總裁,帶領二十幾個核心成員成立Hortonworks缕棵,核心產品軟件HDP(ambari)孵班,HDF免費開源,并且提供一整套的web管理界面招驴,供我們可以通過web界面管理我們的集群狀態(tài)篙程,web管理界面軟件HDF網址
3、hadoop的架構模型
1.x的版本架構模型介紹
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點别厘,管理元數(shù)據(jù)(文件的大小虱饿,文件的位置,文件的權限)触趴,主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點氮发,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
JobTracker:接收用戶的計算請求任務,并分配任務給從節(jié)點
TaskTracker:負責執(zhí)行主節(jié)點JobTracker分配的任務
2.x的版本架構模型介紹
第一種:NameNode與ResourceManager單節(jié)點架構模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點冗懦,主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點爽冕,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
ResourceManager:接收用戶的計算請求任務,并負責集群的資源分配
NodeManager:負責執(zhí)行主節(jié)點APPmaster分配的任務
第二種:NameNode單節(jié)點與ResourceManager高可用架構模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點披蕉,主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點颈畸,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
ResourceManager:接收用戶的計算請求任務,并負責集群的資源分配没讲,以及計算任務的劃分眯娱,通過zookeeper實現(xiàn)ResourceManager的高可用
NodeManager:負責執(zhí)行主節(jié)點ResourceManager分配的任務
第三種:NameNode高可用與ResourceManager單節(jié)點架構模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù)食零,其中nameNode可以有兩個困乒,形成高可用狀態(tài)
DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)
JournalNode:文件系統(tǒng)元數(shù)據(jù)信息管理
數(shù)