大數(shù)據(jù)初步了解

? ? ? ?“這是最好的時(shí)代,這是最壞的時(shí)代粥鞋,這是智慧的時(shí)代,這是愚蠢的時(shí)代瞄崇,這是大數(shù)據(jù)的云時(shí)代呻粹『韭”大數(shù)據(jù)一詞自2012年出現(xiàn)在《紐約時(shí)報(bào)》,《華爾街日?qǐng)?bào)》和白宮官網(wǎng)后就迅速地如同病毒般擴(kuò)散等浊,在中國(guó)這個(gè)詞更是“泛濫”腮郊。商業(yè)、經(jīng)濟(jì)筹燕、軍事轧飞、金融、通訊撒踪、生物各個(gè)行業(yè)都在注視著大數(shù)據(jù)的一舉一動(dòng)过咬,互聯(lián)網(wǎng)等各種媒體上關(guān)于大數(shù)據(jù)的信息更是鋪天蓋地、天花亂墜制妄,在百度中輸入關(guān)鍵詞“大數(shù)據(jù)”掸绞,搜索結(jié)果高達(dá)一億條,對(duì)我們這些不明就里的吃瓜群眾只覺(jué)得不明覺(jué)厲耕捞,可以形容說(shuō)是“亂花漸欲迷人眼”衔掸。 ? ? ? ? ? ? ?麥肯錫稱(chēng)“數(shù)據(jù),已經(jīng)滲透到當(dāng)今每一個(gè)行業(yè)和業(yè)務(wù)職能領(lǐng)域俺抽,成為重要的生產(chǎn)因素敞映。”這句話(huà)可以產(chǎn)生許多的疑問(wèn)凌埂,大數(shù)據(jù)是個(gè)什么東西驱显?大數(shù)據(jù)為什么就能成為生產(chǎn)因素?大數(shù)據(jù)真的有那么牛逼嗎瞳抓? ?大數(shù)據(jù)是什么東西呢埃疫,哪里來(lái)的呢?顧名思義就是海量的數(shù)據(jù)孩哑, 在《互聯(lián)網(wǎng)上的一天》一文中提到栓霜,一天中互聯(lián)網(wǎng)產(chǎn)生的全部信息可以刻滿(mǎn)1.68億張DVD,發(fā)出的郵件有2.940*10^12之多......截止到2012年數(shù)據(jù)量已經(jīng)躍升到ZB級(jí)別横蜒。IBM提出過(guò)大數(shù)據(jù)的5V特點(diǎn)即volume胳蛮、velocity、variety丛晌、veracity仅炊,value,無(wú)疑澎蛛,前面的四個(gè)特點(diǎn)都是為最后value而生抚垄,為value而滅,沒(méi)有價(jià)值的數(shù)據(jù)就沒(méi)有其存在的意義。 ?我們要問(wèn)了那么多呆馁,那么數(shù)據(jù)從哪里來(lái)的呢? 隨著移動(dòng)互聯(lián)網(wǎng)桐经、云計(jì)算、物聯(lián)網(wǎng)等新一代信息技術(shù)的普及應(yīng)用浙滤,智能手機(jī)阴挣、平板電腦、pc以及遍布各個(gè)角落的傳感器纺腊,正在越來(lái)越多的接入網(wǎng)絡(luò)畔咧,成為數(shù)據(jù)來(lái)源和承載方式。各種交互數(shù)據(jù)摹菠、傳感數(shù)據(jù)正源源不斷地從各個(gè)行業(yè)迅速生成這些龐大的盒卸、迅速產(chǎn)生和更新的大數(shù)據(jù)。 ?生產(chǎn)因素指的是進(jìn)行社會(huì)生產(chǎn)經(jīng)營(yíng)所需要的社會(huì)資源次氨。那大數(shù)據(jù)為什么能成為生產(chǎn)因素呢,為什么稱(chēng)它是新時(shí)代的石油呢摘投? ? ? ? ? ? ? ? ? ? 云計(jì)算為大數(shù)據(jù)創(chuàng)造了條件煮寡,百度云有一則廣告“云上的日子,你我共享”犀呼,的確幸撕,我們?cè)谶€沒(méi)有徹底搞清楚互聯(lián)網(wǎng)是什么時(shí)候,云計(jì)算的時(shí)代悄悄來(lái)臨外臂,我們成了見(jiàn)證云時(shí)代到來(lái)的先鋒坐儿,成為了大數(shù)據(jù)的提供者和享受者,數(shù)據(jù)只有處理加工了才有價(jià)值宋光,才能成為資源貌矿,而當(dāng)云計(jì)算撞上大數(shù)據(jù)就碰撞出了無(wú)限的火花。大數(shù)據(jù)的挖掘處理需要云計(jì)算作為平臺(tái)罪佳,而大數(shù)據(jù)涵蓋的價(jià)值和規(guī)律則能夠使云計(jì)算更好與行業(yè)應(yīng)用相結(jié)合并發(fā)揮更大的作用逛漫;云計(jì)算將計(jì)算資源作為服務(wù)支撐大數(shù)據(jù)的挖掘,而大數(shù)據(jù)的發(fā)展趨勢(shì)是對(duì)實(shí)時(shí)交互的海量數(shù)據(jù)查詢(xún)赘艳、分析提供了各自需要的價(jià)值信息酌毡,在這個(gè)時(shí)代大數(shù)據(jù)和云計(jì)算相得益彰,相輔相成蕾管。云計(jì)算使數(shù)據(jù)成為新能源創(chuàng)造了可能性枷踏。 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?大數(shù)據(jù)的主要是描述過(guò)去,預(yù)測(cè)未來(lái)的作用掰曾,而預(yù)測(cè)是大數(shù)據(jù)如此神奇的一個(gè)關(guān)鍵旭蠕,試想當(dāng)我們能夠不再依賴(lài)所謂的星座,所謂的上帝,我們能夠切切實(shí)實(shí)地通過(guò)對(duì)數(shù)據(jù)的分析處理去預(yù)測(cè)未來(lái)下梢,并且這個(gè)結(jié)果還挺準(zhǔn)確時(shí)客蹋,我們就不難理解大數(shù)據(jù)為什么能夠成為新的生產(chǎn)因素,畢竟在這個(gè)日新月異的時(shí)代孽江,誰(shuí)掌握了超前信息讶坯,誰(shuí)就掌握了世界,那么大數(shù)據(jù)又是如何與預(yù)測(cè)的呢岗屏?在舍恩伯格在《大數(shù)據(jù)時(shí)代》一書(shū)中寫(xiě)到:“我們沒(méi)必要非得知道現(xiàn)象背后的原因辆琅,而是要讓數(shù)據(jù)自己發(fā)聲≌馑ⅲ”“相關(guān)關(guān)系能夠讓我們更好的了解世界”婉烟。相干性就是大數(shù)據(jù)的殺手锏,美國(guó)Target超市郵寄懷孕用品購(gòu)買(mǎi)手冊(cè)的案例就是利用大數(shù)據(jù)相干性預(yù)測(cè)的一個(gè)經(jīng)典案例暇屋,從雜亂無(wú)章的購(gòu)物清單上超市分析發(fā)現(xiàn)這個(gè)女孩經(jīng)常買(mǎi)無(wú)味濕紙巾和補(bǔ)鎂用品推測(cè)女孩可能懷孕了似袁,事實(shí)也的確如此。這個(gè)案例中我們看到超市不用管女孩為什么買(mǎi)這些咐刨,它只需要知道這些藥品和紙巾都和懷孕有關(guān)就可以昙衅,這就是所謂的讓數(shù)據(jù)發(fā)聲,用數(shù)據(jù)預(yù)測(cè)定鸟。 ? ? ? ?

? ?無(wú)論是谷歌的流感預(yù)測(cè)還是沃爾瑪?shù)摹捌【?尿布”案例似乎都讓我們覺(jué)得大數(shù)據(jù)是無(wú)敵的而涉,是特別牛逼的,可事實(shí)真的是這樣的嗎联予?首先就大數(shù)據(jù)本身而言啼县,大數(shù)據(jù)的分析就是擺在我們面前的難題,我們每天可以產(chǎn)生2.5*10^18字節(jié)沸久,這么龐大的數(shù)據(jù)量季眷,我們要實(shí)現(xiàn)短時(shí)間內(nèi)數(shù)據(jù)的存儲(chǔ)分析處理,這需要大數(shù)據(jù)冗降噪技術(shù)麦向,大數(shù)據(jù)得新型表示方法瘟裸,高效率低成本的存儲(chǔ),大數(shù)據(jù)的有效融合诵竭,非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)的高效處理话告,大數(shù)據(jù)挖掘分析的開(kāi)發(fā)環(huán)境,大幅度降低數(shù)據(jù)處理卵慰,存儲(chǔ)和通信能耗的新技術(shù)沙郭,而其中的任何一項(xiàng)技術(shù)目前都還沒(méi)有有效解決與完善。其次裳朋,數(shù)據(jù)增值的關(guān)鍵就是整合病线,但整合的前提就是數(shù)據(jù)的開(kāi)放,我們需要的是n=all的數(shù)據(jù),而不是抽樣樣本送挑,然而全社會(huì)開(kāi)放與共享數(shù)據(jù)還很難绑莺,無(wú)論是企業(yè)還是政府機(jī)構(gòu)對(duì)數(shù)據(jù)共享的認(rèn)識(shí)都甚是缺乏。最后惕耕,國(guó)內(nèi)目前能夠利用大數(shù)據(jù)有大數(shù)據(jù)條件的主要集中在類(lèi)似BAT這些大型企業(yè)和壟斷性企業(yè)纺裁,其他行業(yè)沒(méi)有基礎(chǔ)也缺乏能力去做大數(shù)據(jù),應(yīng)用領(lǐng)域窄小司澎,并且將來(lái)大數(shù)據(jù)會(huì)成為IT支出中的主要因素欺缘,尤其是存儲(chǔ)成本,都是讓企業(yè)望而卻步的挤安。 ?戳中民眾之痛的是在大數(shù)據(jù)的云時(shí)代我們是否還有隱私而言呢谚殊,舉例而言,最近我想買(mǎi)雙鞋蛤铜,淘寶雙十一又要到了嫩絮,我就登錄淘寶,逛很多店鋪去挑選貨比三家围肥,這時(shí)候淘寶就記錄下了我的瀏覽數(shù)據(jù)絮记,知道了我最近要買(mǎi)鞋,然后我每次再登陸進(jìn)去就會(huì)有推薦商品啦虐先,付款需要支付寶,于是阿里有記錄了我的信用記錄和身份信息派敷,我打車(chē)去取快遞需要打開(kāi)定位蛹批,我又出賣(mài)了我的地址,總結(jié)就是一次網(wǎng)購(gòu)我“交代”了我的喜好篮愉、地址腐芍、身份、信用试躏,這些都是數(shù)據(jù)猪勇,與其說(shuō)是我交代了,我可不可以理解為他們盜竊了我們的隱私呢颠蕴?會(huì)不會(huì)導(dǎo)致我的隱私泄露產(chǎn)生安全泣刹、道德隱患呢?

大數(shù)據(jù)這座金礦到底值不值得我們?nèi)ネ诰蚰叵唬⑻貭栔袊?guó)研究院院長(zhǎng)吳甘沙先生說(shuō):“鑒于大數(shù)據(jù)信息密度低椅您,是貧礦,投入產(chǎn)出不一定好寡键∠朴荆”數(shù)據(jù)存儲(chǔ)和處理都是需要巨大的成本的,可當(dāng)我們搭建了這樣一個(gè)平臺(tái)后發(fā)現(xiàn)其實(shí)我們賺的還沒(méi)有成本高時(shí),我們還愿意去堅(jiān)持嗎员舵?虧本的買(mǎi)賣(mài)誰(shuí)都不想的脑沿。優(yōu)步和滴滴打車(chē)在即使虧損的條件下依然愿意堅(jiān)持,不過(guò)因?yàn)樗莆盏挠脩?hù)定位信息中價(jià)值密度高并且針對(duì)性強(qiáng)马僻,而阿里巴巴硬氣的原因不過(guò)是掌握了我們較精確庄拇,價(jià)值較高的實(shí)名身份和消費(fèi)數(shù)據(jù),如果將大數(shù)據(jù)比作石油的話(huà)如何從中煉取優(yōu)質(zhì)原油才是關(guān)鍵巫玻。 ?數(shù)據(jù)大到一定量時(shí)想保證準(zhǔn)確性就會(huì)變得艱難丛忆。2013年2月,谷歌上頭條了仍秤,原因是GFT做出的流感預(yù)測(cè)量是美國(guó)疾控中心的估算量?jī)杀哆€多熄诡!解釋是由于流感季節(jié)因媒體的報(bào)道而加劇了民眾的恐慌,導(dǎo)致搜素的人數(shù)驟增诗力,可見(jiàn)數(shù)據(jù)量并不意味著我們可以忽略測(cè)量的基礎(chǔ)性問(wèn)題和數(shù)據(jù)的有效性和可靠性凰浮,以及相互依賴(lài)關(guān)系,分析數(shù)據(jù)的前提是找準(zhǔn)數(shù)據(jù)苇本。大數(shù)據(jù)依然是一個(gè)傳統(tǒng)數(shù)據(jù)收集和分析的替代品袜茧,而不是補(bǔ)充。 ?小心黑天鵝事件瓣窄。大數(shù)據(jù)的一個(gè)重要作用就是預(yù)測(cè)笛厦,但當(dāng)我們以為未來(lái)盡收眼底是,小心當(dāng)頭一棒俺夕。大數(shù)據(jù)處理的全數(shù)據(jù)嗎裳凸?不可能。而任何數(shù)據(jù)的丟失都能讓我們失去“黑天鵝事件”的信號(hào)劝贸,大數(shù)據(jù)他所能預(yù)測(cè)的都是有“先兆”的姨谷,可遇到難以預(yù)測(cè),不同尋常的根本無(wú)先機(jī)可言的呢映九,例如美國(guó)的911事件梦湘,美國(guó)次貸危機(jī)呢,中國(guó)的雪災(zāi)呢件甥,大數(shù)據(jù)就束手無(wú)策捌议,而這些事件一旦發(fā)生,后果很有可能無(wú)法想象嚼蚀,和大數(shù)據(jù)保持一段距離禁灼,我們更能欣賞他的美。

原子物理論的發(fā)展帶來(lái)了廣島長(zhǎng)崎的核災(zāi)難轿曙,方便袋帶來(lái)便利的同時(shí)也帶來(lái)了白色污染弄捕,炸藥發(fā)明之初用來(lái)建設(shè)最后卻走向戰(zhàn)爭(zhēng)奪走無(wú)數(shù)生命僻孝,大數(shù)據(jù)的明天又該何去何從呢?我們能否利用大數(shù)據(jù)預(yù)測(cè)大數(shù)據(jù)的未來(lái)呢?

? ? ?支付寶的圈子司馬昭之心啊…

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末守谓,一起剝皮案震驚了整個(gè)濱河市穿铆,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌斋荞,老刑警劉巖荞雏,帶你破解...
    沈念sama閱讀 210,978評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異平酿,居然都是意外死亡凤优,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 89,954評(píng)論 2 384
  • 文/潘曉璐 我一進(jìn)店門(mén)蜈彼,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)筑辨,“玉大人,你說(shuō)我怎么就攤上這事幸逆」髟” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,623評(píng)論 0 345
  • 文/不壞的土叔 我叫張陵还绘,是天一觀的道長(zhǎng)楚昭。 經(jīng)常有香客問(wèn)我,道長(zhǎng)拍顷,這世上最難降的妖魔是什么抚太? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,324評(píng)論 1 282
  • 正文 為了忘掉前任,我火速辦了婚禮昔案,結(jié)果婚禮上凭舶,老公的妹妹穿的比我還像新娘。我一直安慰自己爱沟,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,390評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布匆背。 她就那樣靜靜地躺著呼伸,像睡著了一般。 火紅的嫁衣襯著肌膚如雪钝尸。 梳的紋絲不亂的頭發(fā)上括享,一...
    開(kāi)封第一講書(shū)人閱讀 49,741評(píng)論 1 289
  • 那天,我揣著相機(jī)與錄音珍促,去河邊找鬼铃辖。 笑死,一個(gè)胖子當(dāng)著我的面吹牛猪叙,可吹牛的內(nèi)容都是我干的娇斩。 我是一名探鬼主播仁卷,決...
    沈念sama閱讀 38,892評(píng)論 3 405
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼犬第!你這毒婦竟也來(lái)了锦积?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 37,655評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤歉嗓,失蹤者是張志新(化名)和其女友劉穎丰介,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體鉴分,經(jīng)...
    沈念sama閱讀 44,104評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡哮幢,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,451評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了志珍。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片橙垢。...
    茶點(diǎn)故事閱讀 38,569評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖碴裙,靈堂內(nèi)的尸體忽然破棺而出钢悲,到底是詐尸還是另有隱情,我是刑警寧澤舔株,帶...
    沈念sama閱讀 34,254評(píng)論 4 328
  • 正文 年R本政府宣布莺琳,位于F島的核電站,受9級(jí)特大地震影響载慈,放射性物質(zhì)發(fā)生泄漏惭等。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,834評(píng)論 3 312
  • 文/蒙蒙 一办铡、第九天 我趴在偏房一處隱蔽的房頂上張望辞做。 院中可真熱鬧,春花似錦寡具、人聲如沸秤茅。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,725評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)框喳。三九已至,卻和暖如春厦坛,著一層夾襖步出監(jiān)牢的瞬間五垮,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,950評(píng)論 1 264
  • 我被黑心中介騙來(lái)泰國(guó)打工杜秸, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留放仗,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 46,260評(píng)論 2 360
  • 正文 我出身青樓撬碟,卻偏偏與公主長(zhǎng)得像诞挨,于是被迫代替她去往敵國(guó)和親莉撇。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,446評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容