相信看這篇文章的你們，都和我一樣對(duì)Hadoop和Apache Spark的選擇有一定的疑惑慈迈，今天查了不少資料若贮，我們就來(lái)談?wù)勥@兩種 平臺(tái)的比較與選擇吧，看看對(duì)于工作和發(fā)展痒留，到底哪個(gè)更好谴麦。

一、Hadoop與Spark

1.Spark

Spark是一個(gè)用來(lái)實(shí)現(xiàn)快速而通用的集群計(jì)算的平臺(tái)伸头。速度方面匾效，Spark擴(kuò)展了廣泛使用的MapReduce計(jì)算模型，而且高效地支持更多計(jì)算模式恤磷，包括交互式查詢(xún)和流處理面哼。

Spark項(xiàng)目包含多個(gè)緊密集成的組件。Spark的核心是一個(gè)對(duì)由很多計(jì)算任務(wù)組成的扫步、運(yùn)行在多個(gè)工作機(jī)器或者是一個(gè)計(jì)算集群上的應(yīng)用進(jìn)行調(diào)度魔策、分發(fā)以及監(jiān)控的計(jì)算引擎。

2.Hadoop

Hadoop是一個(gè)由Apache基金會(huì)所開(kāi)發(fā)的分布式系統(tǒng)基礎(chǔ)架構(gòu)河胎。用戶(hù)可以在不了解分布式底層細(xì)節(jié)的情況下闯袒，開(kāi)發(fā)分布式程序。充分利用集群的威力進(jìn)行高速運(yùn)算和存儲(chǔ)仿粹。Hadoop的框架最核心的設(shè)計(jì)就是：HDFS和MapReduce搁吓。HDFS為海量的數(shù)據(jù)提供了存儲(chǔ)，則MapReduce為海量的數(shù)據(jù)提供了計(jì)算吭历。

二堕仔、異與同

解決問(wèn)題的層面不一樣

首先，Hadoop和Apache Spark兩者都是大數(shù)據(jù)框架晌区，但是各自存在的目的不盡相同摩骨。Hadoop實(shí)質(zhì)上更多是一個(gè)分布式數(shù)據(jù)基礎(chǔ)設(shè)施: 它將巨大的數(shù)據(jù)集分派到一個(gè)由普通計(jì)算機(jī)組成的集群中的多個(gè)節(jié)點(diǎn)進(jìn)行存儲(chǔ)，意味著您不需要購(gòu)買(mǎi)和維護(hù)昂貴的服務(wù)器硬件朗若。同時(shí)恼五，Hadoop還會(huì)索引和跟蹤這些數(shù)據(jù)，讓大數(shù)據(jù)處理和分析效率達(dá)到前所未有的高度哭懈。Spark灾馒，則是那么一個(gè)專(zhuān)門(mén)用來(lái)對(duì)那些分布式存儲(chǔ)的大數(shù)據(jù)進(jìn)行處理的工具，它并不會(huì)進(jìn)行分布式數(shù)據(jù)的存儲(chǔ)遣总。

兩者可合可分

Hadoop除了提供為大家所共識(shí)的HDFS分布式數(shù)據(jù)存儲(chǔ)功能之外睬罗，還提供了叫做MapReduce的數(shù)據(jù)處理功能轨功。所以這里我們完全可以?huà)侀_(kāi)Spark，使用Hadoop自身的MapReduce來(lái)完成數(shù)據(jù)的處理容达。

相反古涧，Spark也不是非要依附在Hadoop身上才能生存。但如上所述花盐，畢竟它沒(méi)有提供文件管理系統(tǒng)羡滑，所以，它必須和其他的分布式文件系統(tǒng)進(jìn)行集成才能運(yùn)作算芯。這里我們可以選擇Hadoop的HDFS,也可以選擇其他的基于云的數(shù)據(jù)系統(tǒng)平臺(tái)柒昏。但Spark默認(rèn)來(lái)說(shuō)還是被用在Hadoop上面的，畢竟也祠，大家都認(rèn)為它們的結(jié)合是最好的昙楚。

順帶說(shuō)一下什么是mapreduce：我們要數(shù)圖書(shū)館中的所有書(shū)近速。你數(shù)1號(hào)書(shū)架诈嘿，我數(shù)2號(hào)書(shū)架。這就是“Map”削葱。我們?nèi)嗽蕉嘟毖牵瑪?shù)書(shū)就更快。現(xiàn)在我們到一起析砸，把所有人的統(tǒng)計(jì)數(shù)加在一起昔字。這就是“Reduce”。

Spark數(shù)據(jù)處理速度秒殺MapReduce

Spark因?yàn)槠涮幚頂?shù)據(jù)的方式不一樣首繁，會(huì)比MapReduce快上很多作郭。MapReduce是分步對(duì)數(shù)據(jù)進(jìn)行處理的: ”從集群中讀取數(shù)據(jù)，進(jìn)行一次處理弦疮，將結(jié)果寫(xiě)到集群夹攒，從集群中讀取更新后的數(shù)據(jù)，進(jìn)行下一次的處理胁塞，將結(jié)果寫(xiě)到集群咏尝，等等…“ Booz Allen Hamilton的數(shù)據(jù)科學(xué)家Kirk Borne如此解析。

反觀(guān)Spark啸罢，它會(huì)在內(nèi)存中以接近“實(shí)時(shí)”的時(shí)間完成所有的數(shù)據(jù)分析：“從集群中讀取數(shù)據(jù)编检，完成所有必須的分析處理，將結(jié)果寫(xiě)回集群扰才，完成允懂，” Born說(shuō)道。Spark的批處理速度比MapReduce快近10倍衩匣，內(nèi)存中的數(shù)據(jù)分析速度則快近100倍蕾总。如果需要處理的數(shù)據(jù)和結(jié)果需求大部分情況下是靜態(tài)的酣倾，且你也有耐心等待批處理的完成的話(huà)，MapReduce的處理方式也是完全可以接受的谤专。

但如果你需要對(duì)流數(shù)據(jù)進(jìn)行分析躁锡，比如那些來(lái)自于工廠(chǎng)的傳感器收集回來(lái)的數(shù)據(jù)，又或者說(shuō)你的應(yīng)用是需要多重?cái)?shù)據(jù)處理的置侍，那么你也許更應(yīng)該使用Spark進(jìn)行處理映之。大部分機(jī)器學(xué)習(xí)算法都是需要多重?cái)?shù)據(jù)處理的。此外蜡坊，通常會(huì)用到Spark的應(yīng)用場(chǎng)景有以下方面：實(shí)時(shí)的市場(chǎng)活動(dòng)杠输，在線(xiàn)產(chǎn)品推薦，網(wǎng)絡(luò)安全分析秕衙，機(jī)器日記監(jiān)控等蠢甲。

Recovery 恢復(fù)

兩者的災(zāi)難恢復(fù)方式迥異，但是都很不錯(cuò)据忘。因?yàn)镠adoop將每次處理后的數(shù)據(jù)都寫(xiě)入到磁盤(pán)上鹦牛，所以其天生就能很有彈性的對(duì)系統(tǒng)錯(cuò)誤進(jìn)行處理。Spark的數(shù)據(jù)對(duì)象存儲(chǔ)在分布于數(shù)據(jù)集群中的叫做彈性分布式數(shù)據(jù)集(RDD: Resilient Distributed Dataset)中勇吊÷罚“這些數(shù)據(jù)對(duì)象既可以放在內(nèi)存，也可以放在磁盤(pán)汉规，所以RDD同樣也可以提供完成的災(zāi)難恢復(fù)功能”

三礼殊、學(xué)哪個(gè)?

其實(shí)，正如所了解的那樣针史，Spark的確是大數(shù)據(jù)行業(yè)中的后起之秀晶伦，與Hadoop相比，Spark有很多的優(yōu)勢(shì)啄枕。Hadoop之所以在大數(shù)據(jù)行業(yè)能夠得到充分的認(rèn)同主要是因?yàn)椋?/p>

Hadoop解決了大數(shù)據(jù)的可靠存儲(chǔ)和處理問(wèn)題;

Hadoop的開(kāi)源性婚陪，這能讓很多大數(shù)據(jù)從業(yè)人員在里面找到靈感，方便實(shí)用;

Hadoop經(jīng)過(guò)了多年的開(kāi)發(fā)射亏，擁有完整的生態(tài)系統(tǒng)近忙。

HDFS在由普通PC組成的集群上提供高可靠的文件存儲(chǔ)，通過(guò)將塊保存多個(gè)副本的辦法解決服務(wù)器或硬板壞掉的問(wèn)題智润。

MapReduce通過(guò)簡(jiǎn)單的Mapper和Reducer的抽象提供一個(gè)變成模型及舍，可以在一個(gè)由幾十臺(tái)至上百臺(tái)的PC組成的不可靠集群上并發(fā)地，分布式地處理大量的數(shù)據(jù)集窟绷，而把并發(fā)锯玛、分布式和故障恢復(fù)等計(jì)算細(xì)節(jié)隱藏起來(lái)。

Hadoop也有許多局限和不足，籠統(tǒng)的講攘残，在數(shù)據(jù)量不斷擴(kuò)大的情況下拙友，Hadoop的運(yùn)算速度會(huì)越發(fā)顯得吃力。雖然現(xiàn)階段歼郭，Hadoop在大數(shù)據(jù)行業(yè)內(nèi)仍然有很高頻率的應(yīng)用遗契，但不難想象在若干年后，數(shù)據(jù)量又上升幾個(gè)數(shù)量級(jí)時(shí)病曾，Hadoop所面臨的窘境牍蜂。而Spark的運(yùn)算速度是Hadoop的百分之一甚至更快，因此泰涂，在未來(lái)鲫竞，Spark必然會(huì)取代Hadoop，主宰大數(shù)據(jù)行業(yè)逼蒙。

那是不是就可以跳過(guò)Hadoop从绘，只學(xué)Spark呢?當(dāng)然不是，有以下原因：

現(xiàn)階段是牢，Hadoop仍然主導(dǎo)著大數(shù)據(jù)領(lǐng)域僵井，我們可以學(xué)習(xí)先進(jìn)的技術(shù)，但更是為了現(xiàn)階段的就業(yè)妖泄，就目前階段而言驹沿，學(xué)大數(shù)據(jù)必學(xué)Hadoop。

MapReduce中有許多經(jīng)典的思想蹈胡，值得我們學(xué)習(xí)，這對(duì)我們理解大數(shù)據(jù)十分有幫助朋蔫。

確切的講罚渐，Spark要替換的是Hadoop中的MapReduce，而不是Hadoop驯妄，Hadoop是一個(gè)工具包荷并，而Spark和MapReduce一樣，只是一種工具而已青扔。

結(jié)論：

如果你是往業(yè)界的算法工程方面發(fā)展源织，那么兩個(gè)都要學(xué)，Hadoop要了解微猖，Spark要熟悉谈息。如果你是大數(shù)據(jù)研究人員，那么要精通這兩種凛剥。所以侠仇，這里的建議是，對(duì)于有志于在ML和大數(shù)據(jù)等領(lǐng)域發(fā)展的各位，可以按照J(rèn)ava - Hadoop - Spark這樣的路徑逻炊，如果你有C++和SQL的基礎(chǔ)互亮，那么學(xué)習(xí)曲線(xiàn)將不會(huì)特別陡峭，對(duì)于spark來(lái)說(shuō)余素，學(xué)一點(diǎn)Scala則會(huì)更有幫助

覺(jué)得不錯(cuò)請(qǐng)點(diǎn)贊支持豹休，歡迎留言或進(jìn)我的個(gè)人群855801563領(lǐng)取【架構(gòu)資料專(zhuān)題目合集90期】、【BATJTMD大廠(chǎng)JAVA面試真題1000+】桨吊，本群專(zhuān)用于學(xué)習(xí)交流技術(shù)慕爬、分享面試機(jī)會(huì)，拒絕廣告屏积，我也會(huì)在群內(nèi)不定期答題医窿、探討。