別再嘴炮概念了县踢!大數(shù)據(jù)是硬漢之戰(zhàn),你的肌肉呢伟件?

華盛頓大學(xué)奧林商學(xué)院做過一個(gè)調(diào)查,10年內(nèi)议经,世界五百?gòu)?qiáng)企業(yè)榜單中斧账,40%將會(huì)消失。

以前的企業(yè)講究聚沙成塔——

埋頭苦干煞肾、一磚一瓦咧织,從嶄露頭角到行業(yè)先鋒,終換得大廈平地起籍救。

現(xiàn)在聰明的筑塔人都轉(zhuǎn)去逐浪习绢。踩在互聯(lián)網(wǎng)這一浪上,看著下一浪的浮現(xiàn)蝙昙,他們?cè)诘?b>新IT(Intelligence Technology)底層技術(shù)成熟闪萄。

作為機(jī)敏的鯊魚,leader們左右嗅嗅奇颠,會(huì)聞到海水中的血腥味兒败去。隨著他們弄懂如何改造效率低下的公司,從而更好烈拒、更快圆裕、更廉價(jià)地為消費(fèi)者提供一切的時(shí)候,舊的系統(tǒng)荆几、故步自封的壟斷者將會(huì)崩潰吓妆。

熟悉科技前沿領(lǐng)域的業(yè)內(nèi)人士有一個(gè)共識(shí),目前吨铸,如果把AI行拢、機(jī)器人管家、腦機(jī)接口诞吱、智能穿戴等領(lǐng)域視為一個(gè)個(gè)天資聰穎剂陡、潛能無限的嬰兒,那哺育他們的“奶粉”必須是高質(zhì)量狐胎、且經(jīng)過處理的數(shù)據(jù)——尤其是實(shí)時(shí)數(shù)據(jù)鸭栖。

由實(shí)時(shí)數(shù)據(jù)處理引發(fā)的應(yīng)用,往往會(huì)顛覆絕大多數(shù)人對(duì)效率的認(rèn)知握巢。比如晕鹊,物聯(lián)網(wǎng)IoT領(lǐng)域中,實(shí)時(shí)的設(shè)備數(shù)據(jù)分析可以在1秒內(nèi)檢測(cè)出系統(tǒng)故障,同時(shí)做出維護(hù)性的預(yù)測(cè)溅话;在金融領(lǐng)域晓锻,交易系統(tǒng)的數(shù)據(jù)不止需要實(shí)時(shí)呈現(xiàn)給客戶,更重要的是以最快速度飞几,遞交自動(dòng)交易系統(tǒng)進(jìn)行處理砚哆;IT領(lǐng)域,軟件系統(tǒng)的日志收集和處理對(duì)服務(wù)異常報(bào)警和故障的檢測(cè)至關(guān)重要屑墨;而在交通領(lǐng)域躁锁,實(shí)時(shí)的交通數(shù)據(jù)經(jīng)由處理,已經(jīng)用來做交通指揮的優(yōu)化卵史。

最具有代表性的是電商战转,那些因新零售拔地而起的平臺(tái),握有海量用戶交易數(shù)據(jù)和后臺(tái)商品更新數(shù)據(jù)以躯,此類數(shù)據(jù)對(duì)實(shí)時(shí)性的要求極高:交易處理,后臺(tái)呈現(xiàn),支付后的快速響應(yīng)命雀,以及出現(xiàn)糾紛時(shí)的解決……都仰仗著服務(wù)器支撐。特別是現(xiàn)在打折吏砂,促銷,秒殺匈织,砍價(jià)等營(yíng)銷模式層出不窮,如果系統(tǒng)出現(xiàn)問題乡小,那么電商平臺(tái)失去的流量與承受的損失將十分巨大胜榔。因此接入信息,監(jiān)管商品交易數(shù)據(jù)并且做到實(shí)時(shí)處理尊惰,這對(duì)于此類企業(yè)來說尤為重要。

此外投剥,大數(shù)據(jù)時(shí)代吃警,企業(yè)銷售端的進(jìn)軍方向會(huì)逐步靠攏到智能推薦系統(tǒng)。傳統(tǒng)的推薦系統(tǒng)采用定期對(duì)數(shù)據(jù)進(jìn)行分析的做法來更新模型。因其定期更新的特性侯勉,推薦模型無法保持實(shí)時(shí),對(duì)用戶當(dāng)前的行為推薦結(jié)果不夠精準(zhǔn)。在此類場(chǎng)景中螟凭,實(shí)時(shí)數(shù)據(jù)分析便等同于一眼看透消費(fèi)者的導(dǎo)購(gòu)挟憔。

新IT浪潮中汪拥,實(shí)時(shí)的數(shù)據(jù)收集與基于數(shù)據(jù)的分析處理已經(jīng)是大勢(shì)所趨宪赶。但在數(shù)據(jù)種類越來越多辕棚,產(chǎn)生速度越來越快,數(shù)據(jù)量越來越大的當(dāng)下引几,許多企業(yè)正面臨技術(shù)與設(shè)備的限制叽掘,實(shí)時(shí)數(shù)據(jù)處理的技術(shù)壁壘已浮出水面民褂。總結(jié)來說疯潭,主要的困難在于:

1赊堪、數(shù)據(jù)量非常大哭廉;系統(tǒng)要求非常高相叁,處理數(shù)據(jù)時(shí)成玫,容不得絲毫故障甚至宕機(jī)钦勘,實(shí)時(shí)處理的系統(tǒng)要求也遠(yuǎn)遠(yuǎn)高于離線系統(tǒng)彻采。

2腐缤、實(shí)時(shí)處理系統(tǒng)規(guī)模跟不上業(yè)務(wù)增長(zhǎng)的需求柴梆;很多實(shí)時(shí)數(shù)據(jù)(比如金融的K線分析)需要專門的時(shí)序數(shù)據(jù)庫(kù)技術(shù)终惑,而這些技術(shù)并不普及。

3门扇、自行搭建開源組件雹有,比如Kafka, Storm和Hbase,不是一件容易的事情臼寄,Hadoop開源組件的部署和運(yùn)維都需要耗費(fèi)大量的金錢和人力霸奕。

究其根本,實(shí)時(shí)數(shù)據(jù)處理的三個(gè)最根本的需求是:數(shù)據(jù)的接入吉拳,數(shù)據(jù)的實(shí)時(shí)分析處理质帅,和數(shù)據(jù)的存儲(chǔ)。針對(duì)日益增長(zhǎng)的留攒,在云上對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)處理的需求煤惩,華為云EI服務(wù)產(chǎn)品部開發(fā)了實(shí)時(shí)數(shù)據(jù)處理“三劍客”:

數(shù)據(jù)接入服務(wù)(DIS)實(shí)時(shí)流計(jì)算服務(wù)(Cloud Stream Service炼邀,簡(jiǎn)稱CS)和表格存儲(chǔ)服務(wù)(CloudTable)魄揉。

? 數(shù)據(jù)接入服務(wù)(DIS)是華為云提供的完全托管的實(shí)時(shí)數(shù)據(jù)接入服務(wù)。DIS提供了靈活數(shù)據(jù)采集拭宁、高效數(shù)據(jù)傳輸洛退、實(shí)時(shí)數(shù)據(jù)分發(fā)能力瓣俯,讓使用者輕松構(gòu)建基于實(shí)時(shí)數(shù)據(jù)的分析和應(yīng)用。

? 實(shí)時(shí)流計(jì)算服務(wù)(CS)是實(shí)時(shí)流式大數(shù)據(jù)分析服務(wù)兵怯,完全托管計(jì)算資源和Serverless體驗(yàn)彩匕,即時(shí)執(zhí)行作業(yè),提供低延時(shí)高吞吐的智能流計(jì)算平臺(tái)摇零。

? 表格存儲(chǔ)服務(wù)(CloudTable)是基于ApacheHBase提供的分布式推掸、可伸縮、全托管的NoSQL數(shù)據(jù)存儲(chǔ)服務(wù)驻仅,提供了毫秒級(jí)的隨機(jī)讀寫能力谅畅,適用于海量結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)和查詢應(yīng)用噪服。同時(shí)基于OpenTSDB和GeoMesa提供時(shí)序數(shù)據(jù)庫(kù)能力和時(shí)空大數(shù)據(jù)查詢毡泻、分析能力。

何達(dá)炳曾在微博上回應(yīng)過Anil Menon:“誰(shuí)來判斷華為創(chuàng)新能力?應(yīng)該是市場(chǎng)和客戶粘优〕鹞叮”目前華為云上已有諸多標(biāo)桿客戶使用“三劍客”服務(wù)對(duì)實(shí)時(shí)數(shù)據(jù)進(jìn)行處理。某燃?xì)饧瘓F(tuán)雹顺,通過使用DIS,CS和CloudTable構(gòu)建了新的覆蓋全國(guó)的巡線系統(tǒng)丹墨,將巡線實(shí)時(shí)監(jiān)控系統(tǒng)端到端查詢性能從十幾秒降低到秒級(jí)以內(nèi)。某金融初創(chuàng)企業(yè)嬉愧,實(shí)時(shí)交易行情系統(tǒng)充分利用CloudTable內(nèi)置的OpenTSDB能力贩挣,實(shí)時(shí)快速刷新15種時(shí)間窗的K線行情。某網(wǎng)絡(luò)零售實(shí)時(shí)輿情系統(tǒng)没酣,使用DIS接入數(shù)據(jù)的性價(jià)比遠(yuǎn)遠(yuǎn)超越線下自建系統(tǒng)王财,使用CS進(jìn)行SQL編程輕松完成數(shù)據(jù)清洗。

互聯(lián)網(wǎng)從蠻荒生長(zhǎng)到深耕細(xì)作不過幾年裕便,伴隨著市場(chǎng)的成熟绒净,如何提供更好的服務(wù)、更快的數(shù)據(jù)決策偿衰,成為競(jìng)爭(zhēng)的關(guān)鍵點(diǎn)挂疆。實(shí)時(shí)數(shù)據(jù)處理作為其中的一項(xiàng)關(guān)鍵技術(shù),自然在業(yè)界中廣泛流行下翎$脱裕“借技術(shù)起勢(shì)能”,最大限度地挖掘“熱數(shù)據(jù)”的價(jià)值漏设,成為各大企業(yè)的共識(shí)墨闲。

我們生活在一個(gè)不斷瓦解的時(shí)代,不過這是一件好事郑口。

行業(yè)會(huì)被顛覆鸳碧,大公司會(huì)垮掉盾鳞。

多少企業(yè)、投資人和創(chuàng)業(yè)者瞻离,未意識(shí)到新IT時(shí)代的到來腾仅,只顧在互聯(lián)網(wǎng)+O2O的960萬(wàn)平方公里的大床上HIGH得如癡如醉時(shí),千帆已過套利。

抓住實(shí)時(shí)數(shù)據(jù)處理這一浪推励。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市肉迫,隨后出現(xiàn)的幾起案子验辞,更是在濱河造成了極大的恐慌,老刑警劉巖喊衫,帶你破解...
    沈念sama閱讀 221,548評(píng)論 6 515
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件跌造,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡族购,警方通過查閱死者的電腦和手機(jī)壳贪,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 94,497評(píng)論 3 399
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來寝杖,“玉大人违施,你說我怎么就攤上這事∩唬” “怎么了磕蒲?”我有些...
    開封第一講書人閱讀 167,990評(píng)論 0 360
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)收苏。 經(jīng)常有香客問我亿卤,道長(zhǎng)愤兵,這世上最難降的妖魔是什么鹿霸? 我笑而不...
    開封第一講書人閱讀 59,618評(píng)論 1 296
  • 正文 為了忘掉前任,我火速辦了婚禮秆乳,結(jié)果婚禮上懦鼠,老公的妹妹穿的比我還像新娘。我一直安慰自己屹堰,他們只是感情好肛冶,可當(dāng)我...
    茶點(diǎn)故事閱讀 68,618評(píng)論 6 397
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著扯键,像睡著了一般睦袖。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上荣刑,一...
    開封第一講書人閱讀 52,246評(píng)論 1 308
  • 那天馅笙,我揣著相機(jī)與錄音伦乔,去河邊找鬼。 笑死董习,一個(gè)胖子當(dāng)著我的面吹牛烈和,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播皿淋,決...
    沈念sama閱讀 40,819評(píng)論 3 421
  • 文/蒼蘭香墨 我猛地睜開眼招刹,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了窝趣?” 一聲冷哼從身側(cè)響起疯暑,我...
    開封第一講書人閱讀 39,725評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎哑舒,沒想到半個(gè)月后缰儿,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 46,268評(píng)論 1 320
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡散址,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,356評(píng)論 3 340
  • 正文 我和宋清朗相戀三年乖阵,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片预麸。...
    茶點(diǎn)故事閱讀 40,488評(píng)論 1 352
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡瞪浸,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出吏祸,到底是詐尸還是另有隱情对蒲,我是刑警寧澤,帶...
    沈念sama閱讀 36,181評(píng)論 5 350
  • 正文 年R本政府宣布贡翘,位于F島的核電站蹈矮,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏鸣驱。R本人自食惡果不足惜泛鸟,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,862評(píng)論 3 333
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望踊东。 院中可真熱鬧北滥,春花似錦、人聲如沸闸翅。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,331評(píng)論 0 24
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)坚冀。三九已至济赎,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背司训。 一陣腳步聲響...
    開封第一講書人閱讀 33,445評(píng)論 1 272
  • 我被黑心中介騙來泰國(guó)打工华蜒, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人豁遭。 一個(gè)月前我還...
    沈念sama閱讀 48,897評(píng)論 3 376
  • 正文 我出身青樓叭喜,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親蓖谢。 傳聞我的和親對(duì)象是個(gè)殘疾皇子捂蕴,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,500評(píng)論 2 359

推薦閱讀更多精彩內(nèi)容