82、Spark Streaming之與Storm的對比分析

Spark Streaming與Storm的對比

對比點 Storm Spark Streaming
實時計算模型 純實時堰汉,來一條數(shù)據(jù)辽社,處理一條數(shù)據(jù) 準實時,對一個時間段內(nèi)的數(shù)據(jù)收集起來翘鸭,作為一個RDD再處理
實時計算延遲度 毫秒級 秒級
吞吐量
事務(wù)機制 支持完善 支持滴铅,但不夠完善
健壯性/容錯性 Zookeeper,Acker就乓,非常強 Checkpoint汉匙,WAL拱烁,一般
動態(tài)調(diào)整并行度 支持 不支持

Spark Streaming與Storm的優(yōu)劣分析

事實上,Spark Streaming絕對談不上比Storm優(yōu)秀噩翠。這兩個框架在實時計算領(lǐng)域中戏自,都很優(yōu)秀,只是擅長的細分場景并不相同绎秒。
Spark Streaming僅僅在吞吐量上比Storm要優(yōu)秀浦妄,而吞吐量這一點,也是歷來挺Spark Streaming见芹,貶Storm的人著重強調(diào)的。但是問題是蠢涝,是不是在所有的實時計算場景下玄呛,都那么注重吞吐量?不盡然和二。因此徘铝,通過吞吐量說Spark Streaming強于Storm,不靠譜惯吕。
事實上惕它,Storm在實時延遲度上,比Spark Streaming就好多了废登,前者是純實時淹魄,后者是準實時。而且堡距,Storm的事務(wù)機制甲锡、健壯性 / 容錯性茶袒、動態(tài)調(diào)整并行度等特性弄慰,都要比Spark Streaming更加優(yōu)秀。
Spark Streaming疗涉,有一點是Storm絕對比不上的易稠,就是:它位于Spark生態(tài)技術(shù)棧中缸废,因此Spark Streaming可以和Spark Core、Spark SQL無縫整合驶社,也就意味著企量,我們可以對實時處理出來的中間數(shù)據(jù),立即在程序中無縫進行延遲批處理衬吆、交互式查詢等操作梁钾。這個特點大大增強了Spark Streaming的優(yōu)勢和功能。

Spark Streaming與Storm的應(yīng)用場景

對于Storm來說:

  1. 建議在那種需要純實時逊抡,不能忍受1秒以上延遲的場景下使用姆泻,比如實時金融系統(tǒng)零酪,要求純實時進行金融交易和分析
  2. 此外,如果對于實時計算的功能中拇勃,要求可靠的事務(wù)機制和可靠性機制四苇,即數(shù)據(jù)的處理完全精準,一條也不能多方咆,一條也不能少月腋,也可以考慮使用Storm
  3. 如果還需要針對高峰低峰時間段,動態(tài)調(diào)整實時計算程序的并行度瓣赂,以最大限度利用集群資源(通常是在小型公司榆骚,集群資源緊張的情況),也可以考慮用Storm
  4. 如果一個大數(shù)據(jù)應(yīng)用系統(tǒng)煌集,它就是純粹的實時計算妓肢,不需要在中間執(zhí)行SQL交互式查詢、復(fù)雜的transformation算子等苫纤,那么用Storm是比較好的選擇

對于Spark Streaming來說:

  1. 如果對上述適用于Storm的三點碉钠,一條都不滿足的實時場景,即卷拘,不要求純實時喊废,不要求強大可靠的事務(wù)機制,不要求動態(tài)調(diào)整并行度栗弟,那么可以考慮使用Spark Streaming
  2. 考慮使用Spark Streaming最主要的一個因素污筷,應(yīng)該是針對整個項目進行宏觀的考慮,即横腿,如果一個項目除了實時計算之外颓屑,還包括了離線批處理、交互式查詢等業(yè)務(wù)功能耿焊,而且實時計算中揪惦,可能還會牽扯到高延遲批處理、交互式查詢等功能罗侯,那么就應(yīng)該首選Spark生態(tài)器腋,用Spark Core開發(fā)離線批處理,用Spark SQL開發(fā)交互式查詢钩杰,用Spark Streaming開發(fā)實時計算纫塌,三者可以無縫整合,給系統(tǒng)提供非常高的可擴展性讲弄。
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末措左,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子避除,更是在濱河造成了極大的恐慌怎披,老刑警劉巖胸嘁,帶你破解...
    沈念sama閱讀 219,039評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異凉逛,居然都是意外死亡性宏,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,426評論 3 395
  • 文/潘曉璐 我一進店門状飞,熙熙樓的掌柜王于貴愁眉苦臉地迎上來毫胜,“玉大人,你說我怎么就攤上這事诬辈〗褪梗” “怎么了?”我有些...
    開封第一講書人閱讀 165,417評論 0 356
  • 文/不壞的土叔 我叫張陵焙糟,是天一觀的道長凝化。 經(jīng)常有香客問我,道長酬荞,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,868評論 1 295
  • 正文 為了忘掉前任瞧哟,我火速辦了婚禮混巧,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘勤揩。我一直安慰自己咧党,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 67,892評論 6 392
  • 文/花漫 我一把揭開白布陨亡。 她就那樣靜靜地躺著傍衡,像睡著了一般。 火紅的嫁衣襯著肌膚如雪负蠕。 梳的紋絲不亂的頭發(fā)上蛙埂,一...
    開封第一講書人閱讀 51,692評論 1 305
  • 那天,我揣著相機與錄音遮糖,去河邊找鬼绣的。 笑死,一個胖子當(dāng)著我的面吹牛欲账,可吹牛的內(nèi)容都是我干的屡江。 我是一名探鬼主播,決...
    沈念sama閱讀 40,416評論 3 419
  • 文/蒼蘭香墨 我猛地睜開眼赛不,長吁一口氣:“原來是場噩夢啊……” “哼惩嘉!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起踢故,我...
    開封第一講書人閱讀 39,326評論 0 276
  • 序言:老撾萬榮一對情侶失蹤文黎,失蹤者是張志新(化名)和其女友劉穎惹苗,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體臊诊,經(jīng)...
    沈念sama閱讀 45,782評論 1 316
  • 正文 獨居荒郊野嶺守林人離奇死亡鸽粉,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,957評論 3 337
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了抓艳。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片触机。...
    茶點故事閱讀 40,102評論 1 350
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖玷或,靈堂內(nèi)的尸體忽然破棺而出儡首,到底是詐尸還是另有隱情,我是刑警寧澤偏友,帶...
    沈念sama閱讀 35,790評論 5 346
  • 正文 年R本政府宣布蔬胯,位于F島的核電站,受9級特大地震影響位他,放射性物質(zhì)發(fā)生泄漏氛濒。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 41,442評論 3 331
  • 文/蒙蒙 一鹅髓、第九天 我趴在偏房一處隱蔽的房頂上張望舞竿。 院中可真熱鬧,春花似錦窿冯、人聲如沸骗奖。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,996評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽执桌。三九已至,卻和暖如春芜赌,著一層夾襖步出監(jiān)牢的瞬間仰挣,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 33,113評論 1 272
  • 我被黑心中介騙來泰國打工较鼓, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留椎木,地道東北人。 一個月前我還...
    沈念sama閱讀 48,332評論 3 373
  • 正文 我出身青樓博烂,卻偏偏與公主長得像香椎,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子禽篱,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 45,044評論 2 355

推薦閱讀更多精彩內(nèi)容