大數據功能介紹

應用場景

圖1

如上圖斗锭,搜索引擎,分布式處理失球,baidu,360

系統(tǒng)推薦岖是,淘寶購物推薦,瀏覽器廣告

時事熱點实苞,微博熱搜

圖2

金融領域璧微,客戶畫像,比如對銀行儲戶進行分類硬梁,

精準營銷,針對用戶行為胞得,進行定向產品推薦

風險管控荧止,對用戶征信進行分類預測

圖3

我們以貨物量增加來考慮,其他對應的流程可能都要增加投入


圖4

hadoop是一個生態(tài)圈,我們之前可能聽說spark等等跃巡,這里把hadoop理解成一個工廠危号,工廠里有很多個并行的倉庫,HDFS素邪,倉庫的存取由YARN負責協調外莲,有MapReduce負責加工,對于后面新招來的Storm也負責加工兔朦,但是其從不休息

圖5

hadoop解決了如上圖的幾個問題

圖6

如上圖偷线,可以看到Hadoop的體系,

圖7

在hadoop體系沒有storm而只有MapReduce時沽甥,M負責存取加工声邦,但是工作量大時,實時性就會變差

圖8

Storm還沒有出生時摆舟,員工自己開創(chuàng)了S工廠亥曹,Spark

圖9

spark是新創(chuàng)業(yè)工廠,有自己的工作間RDD恨诱,可以當倉庫也可以里面加工媳瞪,SparkStreaming在RDD中一直工作,照宝,S廠還可以接一些高端業(yè)務如AI來做

圖10

上圖是Spark框架體系蛇受,Core為核心,數據處理涉及到SparkSQL,SparkStreaming,MLib,GraphX

其中MLib是設計人工智能部分硫豆,

Spark廠加工速度時Hadoop廠速度10倍以上

有人會問龙巨,那我們是不是只學spark就行了,hadoop是不是不行的問題熊响,事實上沒有便宜的買賣旨别,很多項目往往是hadoop和spark兼顧實現

圖11

spark和hadoop的結合以及特點如上,首先二者是可以共生合作的汗茄,spark擅長加工和高端服務秸弛,處理附在,機器學習洪碳,交互查詢递览,hadoop采用持久倉庫,spark采用可擴容工作間RDD瞳腌,hadoop是硬盤上處理绞铃,而spark是內存上處理

圖12

spark在處理速度上占有優(yōu)勢,但是hadoop存儲以擴展嫂侍,存儲安全穩(wěn)定儿捧,所以常常是結合二者之長進行架構


圖13

最后老師給了一點雞湯荚坞,課程是0基礎的,不要怕菲盾,奧利給颓影,理論和實踐結合,你就能變強

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末懒鉴,一起剝皮案震驚了整個濱河市诡挂,隨后出現的幾起案子,更是在濱河造成了極大的恐慌临谱,老刑警劉巖璃俗,帶你破解...
    沈念sama閱讀 206,311評論 6 481
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異吴裤,居然都是意外死亡旧找,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 88,339評論 2 382
  • 文/潘曉璐 我一進店門麦牺,熙熙樓的掌柜王于貴愁眉苦臉地迎上來钮蛛,“玉大人,你說我怎么就攤上這事剖膳∥和牵” “怎么了?”我有些...
    開封第一講書人閱讀 152,671評論 0 342
  • 文/不壞的土叔 我叫張陵吱晒,是天一觀的道長甸饱。 經常有香客問我,道長仑濒,這世上最難降的妖魔是什么叹话? 我笑而不...
    開封第一講書人閱讀 55,252評論 1 279
  • 正文 為了忘掉前任,我火速辦了婚禮墩瞳,結果婚禮上驼壶,老公的妹妹穿的比我還像新娘。我一直安慰自己喉酌,他們只是感情好热凹,可當我...
    茶點故事閱讀 64,253評論 5 371
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著泪电,像睡著了一般般妙。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上相速,一...
    開封第一講書人閱讀 49,031評論 1 285
  • 那天碟渺,我揣著相機與錄音,去河邊找鬼突诬。 笑死止状,一個胖子當著我的面吹牛烹棉,可吹牛的內容都是我干的。 我是一名探鬼主播怯疤,決...
    沈念sama閱讀 38,340評論 3 399
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼催束!你這毒婦竟也來了集峦?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 36,973評論 0 259
  • 序言:老撾萬榮一對情侶失蹤抠刺,失蹤者是張志新(化名)和其女友劉穎塔淤,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體速妖,經...
    沈念sama閱讀 43,466評論 1 300
  • 正文 獨居荒郊野嶺守林人離奇死亡高蜂,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 35,937評論 2 323
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了罕容。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片备恤。...
    茶點故事閱讀 38,039評論 1 333
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖锦秒,靈堂內的尸體忽然破棺而出露泊,到底是詐尸還是另有隱情,我是刑警寧澤旅择,帶...
    沈念sama閱讀 33,701評論 4 323
  • 正文 年R本政府宣布惭笑,位于F島的核電站,受9級特大地震影響生真,放射性物質發(fā)生泄漏沉噩。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 39,254評論 3 307
  • 文/蒙蒙 一柱蟀、第九天 我趴在偏房一處隱蔽的房頂上張望川蒙。 院中可真熱鬧,春花似錦产弹、人聲如沸派歌。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,259評論 0 19
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽胶果。三九已至,卻和暖如春斤斧,著一層夾襖步出監(jiān)牢的瞬間早抠,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 31,485評論 1 262
  • 我被黑心中介騙來泰國打工撬讽, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留蕊连,地道東北人悬垃。 一個月前我還...
    沈念sama閱讀 45,497評論 2 354
  • 正文 我出身青樓,卻偏偏與公主長得像甘苍,于是被迫代替她去往敵國和親尝蠕。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 42,786評論 2 345

推薦閱讀更多精彩內容