Common : 一系列 組件和接口,用于分布式文件系統(tǒng)和通用I/O(序列化,java RPC和持久化數(shù)據(jù)結(jié)構(gòu))
Avro : 一種序列化系統(tǒng),用于支持高效,快語(yǔ)言的RPC和持久化數(shù)據(jù)存儲(chǔ)
MapReduce : 分布式數(shù)據(jù)處理模型和執(zhí)行華景,運(yùn)行于大型商用機(jī)集群
HDFS : 分布式文件系統(tǒng),云星宇大型商用機(jī)集群
Pig:數(shù)據(jù)流語(yǔ)言和運(yùn)行環(huán)境,用于探究非常龐大的數(shù)據(jù)集.Pig運(yùn)行在MapReduce和HDFS集群上
Hive: 一種分布式的,按列存儲(chǔ)的數(shù)據(jù)倉(cāng)庫(kù).Hive管理HDFS中存儲(chǔ)的數(shù)據(jù),并提供基于SQL的查詢語(yǔ)言用于查詢數(shù)據(jù)
HBase:一種分布式.按列存儲(chǔ)的數(shù)據(jù)庫(kù).HBase使用HDFS作為底層存儲(chǔ),同事支持MapReduce的批量式計(jì)算和點(diǎn)查詢
zookeeper : 一種分布式,可用性高的協(xié)調(diào)服務(wù).zookeeper提供分布式鎖之類的基本服務(wù)用于構(gòu)建分布式應(yīng)用
Sqoop : 該工具用于結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)和HDFS之間高效批量傳輸數(shù)據(jù)
Oozie : 該服務(wù)用于運(yùn)行和調(diào)度Hadoop作業(yè)
Hadoop項(xiàng)目基本
最后編輯于 :
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
- 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)沽翔,“玉大人兢孝,你說(shuō)我怎么就攤上這事〗鲑耍” “怎么了西潘?”我有些...
- 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)哨颂。 經(jīng)常有香客問(wèn)我喷市,道長(zhǎng),這世上最難降的妖魔是什么威恼? 我笑而不...
- 正文 為了忘掉前任品姓,我火速辦了婚禮,結(jié)果婚禮上箫措,老公的妹妹穿的比我還像新娘腹备。我一直安慰自己,他們只是感情好斤蔓,可當(dāng)我...
- 文/花漫 我一把揭開(kāi)白布植酥。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪友驮。 梳的紋絲不亂的頭發(fā)上漂羊,一...
- 那天,我揣著相機(jī)與錄音卸留,去河邊找鬼走越。 笑死,一個(gè)胖子當(dāng)著我的面吹牛耻瑟,可吹牛的內(nèi)容都是我干的旨指。 我是一名探鬼主播,決...
- 文/蒼蘭香墨 我猛地睜開(kāi)眼喳整,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼谆构!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起框都,我...
- 序言:老撾萬(wàn)榮一對(duì)情侶失蹤低淡,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后瞬项,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體蔗蹋,經(jīng)...
- 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
- 正文 我和宋清朗相戀三年囱淋,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了猪杭。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
- 正文 年R本政府宣布,位于F島的核電站芦倒,受9級(jí)特大地震影響艺挪,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜兵扬,卻給世界環(huán)境...
- 文/蒙蒙 一麻裳、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧器钟,春花似錦津坑、人聲如沸。這莊子的主人今日做“春日...
- 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)眉反。三九已至,卻和暖如春穆役,著一層夾襖步出監(jiān)牢的瞬間寸五,已是汗流浹背就珠。 一陣腳步聲響...
- 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像离唐,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
推薦閱讀更多精彩內(nèi)容
- Zookeeper用于集群主備切換蹈集。 YARN讓集群具備更好的擴(kuò)展性。 Spark沒(méi)有存儲(chǔ)能力雇初。 Spark的Ma...
- //一共81個(gè)靖诗,開(kāi)源大數(shù)據(jù)處理工具匯總(上) | 36大數(shù)據(jù)http://www.36dsj.com/archiv...
- Hadoop生態(tài)圈 可以把hadoop想象成一個(gè)很大的生態(tài)圈(本來(lái)就是)郭怪,或者說(shuō)想象成一個(gè)動(dòng)物園吧,之后的東西就比...
- e> Hadoop大數(shù)據(jù)平臺(tái)架構(gòu)與實(shí)踐--基礎(chǔ)篇 目錄 內(nèi)容概要Hadoop前生Hadoop的功能與優(yōu)勢(shì)Hadoo...
- 引用:http://www.reibang.com/p/575b912a4781 Hadoop败晴、HBase浓冒、Hiv...