? ? ? ?“這是最好的時(shí)代,這是最壞的時(shí)代粥鞋,這是智慧的時(shí)代,這是愚蠢的時(shí)代瞄崇,這是大數(shù)據(jù)的云時(shí)代呻粹『韭”大數(shù)據(jù)一詞自2012年出現(xiàn)在《紐約時(shí)報(bào)》,《華爾街日?qǐng)?bào)》和白宮官網(wǎng)后就迅速地如同病毒般擴(kuò)散等浊,在中國(guó)這個(gè)詞更是“泛濫”腮郊。商業(yè)、經(jīng)濟(jì)筹燕、軍事轧飞、金融、通訊撒踪、生物各個(gè)行業(yè)都在注視著大數(shù)據(jù)的一舉一動(dòng)过咬,互聯(lián)網(wǎng)等各種媒體上關(guān)于大數(shù)據(jù)的信息更是鋪天蓋地、天花亂墜制妄,在百度中輸入關(guān)鍵詞“大數(shù)據(jù)”掸绞,搜索結(jié)果高達(dá)一億條,對(duì)我們這些不明就里的吃瓜群眾只覺(jué)得不明覺(jué)厲耕捞,可以形容說(shuō)是“亂花漸欲迷人眼”衔掸。 ? ? ? ? ? ? ?麥肯錫稱(chēng)“數(shù)據(jù),已經(jīng)滲透到當(dāng)今每一個(gè)行業(yè)和業(yè)務(wù)職能領(lǐng)域俺抽,成為重要的生產(chǎn)因素敞映。”這句話(huà)可以產(chǎn)生許多的疑問(wèn)凌埂,大數(shù)據(jù)是個(gè)什么東西驱显?大數(shù)據(jù)為什么就能成為生產(chǎn)因素?大數(shù)據(jù)真的有那么牛逼嗎瞳抓? ?大數(shù)據(jù)是什么東西呢埃疫,哪里來(lái)的呢?顧名思義就是海量的數(shù)據(jù)孩哑, 在《互聯(lián)網(wǎng)上的一天》一文中提到栓霜,一天中互聯(lián)網(wǎng)產(chǎn)生的全部信息可以刻滿(mǎn)1.68億張DVD,發(fā)出的郵件有2.940*10^12之多......截止到2012年數(shù)據(jù)量已經(jīng)躍升到ZB級(jí)別横蜒。IBM提出過(guò)大數(shù)據(jù)的5V特點(diǎn)即volume胳蛮、velocity、variety丛晌、veracity仅炊,value,無(wú)疑澎蛛,前面的四個(gè)特點(diǎn)都是為最后value而生抚垄,為value而滅,沒(méi)有價(jià)值的數(shù)據(jù)就沒(méi)有其存在的意義。 ?我們要問(wèn)了那么多呆馁,那么數(shù)據(jù)從哪里來(lái)的呢? 隨著移動(dòng)互聯(lián)網(wǎng)桐经、云計(jì)算、物聯(lián)網(wǎng)等新一代信息技術(shù)的普及應(yīng)用浙滤,智能手機(jī)阴挣、平板電腦、pc以及遍布各個(gè)角落的傳感器纺腊,正在越來(lái)越多的接入網(wǎng)絡(luò)畔咧,成為數(shù)據(jù)來(lái)源和承載方式。各種交互數(shù)據(jù)摹菠、傳感數(shù)據(jù)正源源不斷地從各個(gè)行業(yè)迅速生成這些龐大的盒卸、迅速產(chǎn)生和更新的大數(shù)據(jù)。 ?生產(chǎn)因素指的是進(jìn)行社會(huì)生產(chǎn)經(jīng)營(yíng)所需要的社會(huì)資源次氨。那大數(shù)據(jù)為什么能成為生產(chǎn)因素呢,為什么稱(chēng)它是新時(shí)代的石油呢摘投? ? ? ? ? ? ? ? ? ? 云計(jì)算為大數(shù)據(jù)創(chuàng)造了條件煮寡,百度云有一則廣告“云上的日子,你我共享”犀呼,的確幸撕,我們?cè)谶€沒(méi)有徹底搞清楚互聯(lián)網(wǎng)是什么時(shí)候,云計(jì)算的時(shí)代悄悄來(lái)臨外臂,我們成了見(jiàn)證云時(shí)代到來(lái)的先鋒坐儿,成為了大數(shù)據(jù)的提供者和享受者,數(shù)據(jù)只有處理加工了才有價(jià)值宋光,才能成為資源貌矿,而當(dāng)云計(jì)算撞上大數(shù)據(jù)就碰撞出了無(wú)限的火花。大數(shù)據(jù)的挖掘處理需要云計(jì)算作為平臺(tái)罪佳,而大數(shù)據(jù)涵蓋的價(jià)值和規(guī)律則能夠使云計(jì)算更好與行業(yè)應(yīng)用相結(jié)合并發(fā)揮更大的作用逛漫;云計(jì)算將計(jì)算資源作為服務(wù)支撐大數(shù)據(jù)的挖掘,而大數(shù)據(jù)的發(fā)展趨勢(shì)是對(duì)實(shí)時(shí)交互的海量數(shù)據(jù)查詢(xún)赘艳、分析提供了各自需要的價(jià)值信息酌毡,在這個(gè)時(shí)代大數(shù)據(jù)和云計(jì)算相得益彰,相輔相成蕾管。云計(jì)算使數(shù)據(jù)成為新能源創(chuàng)造了可能性枷踏。 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?大數(shù)據(jù)的主要是描述過(guò)去,預(yù)測(cè)未來(lái)的作用掰曾,而預(yù)測(cè)是大數(shù)據(jù)如此神奇的一個(gè)關(guān)鍵旭蠕,試想當(dāng)我們能夠不再依賴(lài)所謂的星座,所謂的上帝,我們能夠切切實(shí)實(shí)地通過(guò)對(duì)數(shù)據(jù)的分析處理去預(yù)測(cè)未來(lái)下梢,并且這個(gè)結(jié)果還挺準(zhǔn)確時(shí)客蹋,我們就不難理解大數(shù)據(jù)為什么能夠成為新的生產(chǎn)因素,畢竟在這個(gè)日新月異的時(shí)代孽江,誰(shuí)掌握了超前信息讶坯,誰(shuí)就掌握了世界,那么大數(shù)據(jù)又是如何與預(yù)測(cè)的呢岗屏?在舍恩伯格在《大數(shù)據(jù)時(shí)代》一書(shū)中寫(xiě)到:“我們沒(méi)必要非得知道現(xiàn)象背后的原因辆琅,而是要讓數(shù)據(jù)自己發(fā)聲≌馑ⅲ”“相關(guān)關(guān)系能夠讓我們更好的了解世界”婉烟。相干性就是大數(shù)據(jù)的殺手锏,美國(guó)Target超市郵寄懷孕用品購(gòu)買(mǎi)手冊(cè)的案例就是利用大數(shù)據(jù)相干性預(yù)測(cè)的一個(gè)經(jīng)典案例暇屋,從雜亂無(wú)章的購(gòu)物清單上超市分析發(fā)現(xiàn)這個(gè)女孩經(jīng)常買(mǎi)無(wú)味濕紙巾和補(bǔ)鎂用品推測(cè)女孩可能懷孕了似袁,事實(shí)也的確如此。這個(gè)案例中我們看到超市不用管女孩為什么買(mǎi)這些咐刨,它只需要知道這些藥品和紙巾都和懷孕有關(guān)就可以昙衅,這就是所謂的讓數(shù)據(jù)發(fā)聲,用數(shù)據(jù)預(yù)測(cè)定鸟。 ? ? ? ?
? ?無(wú)論是谷歌的流感預(yù)測(cè)還是沃爾瑪?shù)摹捌【?尿布”案例似乎都讓我們覺(jué)得大數(shù)據(jù)是無(wú)敵的而涉,是特別牛逼的,可事實(shí)真的是這樣的嗎联予?首先就大數(shù)據(jù)本身而言啼县,大數(shù)據(jù)的分析就是擺在我們面前的難題,我們每天可以產(chǎn)生2.5*10^18字節(jié)沸久,這么龐大的數(shù)據(jù)量季眷,我們要實(shí)現(xiàn)短時(shí)間內(nèi)數(shù)據(jù)的存儲(chǔ)分析處理,這需要大數(shù)據(jù)冗降噪技術(shù)麦向,大數(shù)據(jù)得新型表示方法瘟裸,高效率低成本的存儲(chǔ),大數(shù)據(jù)的有效融合诵竭,非結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)的高效處理话告,大數(shù)據(jù)挖掘分析的開(kāi)發(fā)環(huán)境,大幅度降低數(shù)據(jù)處理卵慰,存儲(chǔ)和通信能耗的新技術(shù)沙郭,而其中的任何一項(xiàng)技術(shù)目前都還沒(méi)有有效解決與完善。其次裳朋,數(shù)據(jù)增值的關(guān)鍵就是整合病线,但整合的前提就是數(shù)據(jù)的開(kāi)放,我們需要的是n=all的數(shù)據(jù),而不是抽樣樣本送挑,然而全社會(huì)開(kāi)放與共享數(shù)據(jù)還很難绑莺,無(wú)論是企業(yè)還是政府機(jī)構(gòu)對(duì)數(shù)據(jù)共享的認(rèn)識(shí)都甚是缺乏。最后惕耕,國(guó)內(nèi)目前能夠利用大數(shù)據(jù)有大數(shù)據(jù)條件的主要集中在類(lèi)似BAT這些大型企業(yè)和壟斷性企業(yè)纺裁,其他行業(yè)沒(méi)有基礎(chǔ)也缺乏能力去做大數(shù)據(jù),應(yīng)用領(lǐng)域窄小司澎,并且將來(lái)大數(shù)據(jù)會(huì)成為IT支出中的主要因素欺缘,尤其是存儲(chǔ)成本,都是讓企業(yè)望而卻步的挤安。 ?戳中民眾之痛的是在大數(shù)據(jù)的云時(shí)代我們是否還有隱私而言呢谚殊,舉例而言,最近我想買(mǎi)雙鞋蛤铜,淘寶雙十一又要到了嫩絮,我就登錄淘寶,逛很多店鋪去挑選貨比三家围肥,這時(shí)候淘寶就記錄下了我的瀏覽數(shù)據(jù)絮记,知道了我最近要買(mǎi)鞋,然后我每次再登陸進(jìn)去就會(huì)有推薦商品啦虐先,付款需要支付寶,于是阿里有記錄了我的信用記錄和身份信息派敷,我打車(chē)去取快遞需要打開(kāi)定位蛹批,我又出賣(mài)了我的地址,總結(jié)就是一次網(wǎng)購(gòu)我“交代”了我的喜好篮愉、地址腐芍、身份、信用试躏,這些都是數(shù)據(jù)猪勇,與其說(shuō)是我交代了,我可不可以理解為他們盜竊了我們的隱私呢颠蕴?會(huì)不會(huì)導(dǎo)致我的隱私泄露產(chǎn)生安全泣刹、道德隱患呢?
大數(shù)據(jù)這座金礦到底值不值得我們?nèi)ネ诰蚰叵唬⑻貭栔袊?guó)研究院院長(zhǎng)吳甘沙先生說(shuō):“鑒于大數(shù)據(jù)信息密度低椅您,是貧礦,投入產(chǎn)出不一定好寡键∠朴荆”數(shù)據(jù)存儲(chǔ)和處理都是需要巨大的成本的,可當(dāng)我們搭建了這樣一個(gè)平臺(tái)后發(fā)現(xiàn)其實(shí)我們賺的還沒(méi)有成本高時(shí),我們還愿意去堅(jiān)持嗎员舵?虧本的買(mǎi)賣(mài)誰(shuí)都不想的脑沿。優(yōu)步和滴滴打車(chē)在即使虧損的條件下依然愿意堅(jiān)持,不過(guò)因?yàn)樗莆盏挠脩?hù)定位信息中價(jià)值密度高并且針對(duì)性強(qiáng)马僻,而阿里巴巴硬氣的原因不過(guò)是掌握了我們較精確庄拇,價(jià)值較高的實(shí)名身份和消費(fèi)數(shù)據(jù),如果將大數(shù)據(jù)比作石油的話(huà)如何從中煉取優(yōu)質(zhì)原油才是關(guān)鍵巫玻。 ?數(shù)據(jù)大到一定量時(shí)想保證準(zhǔn)確性就會(huì)變得艱難丛忆。2013年2月,谷歌上頭條了仍秤,原因是GFT做出的流感預(yù)測(cè)量是美國(guó)疾控中心的估算量?jī)杀哆€多熄诡!解釋是由于流感季節(jié)因媒體的報(bào)道而加劇了民眾的恐慌,導(dǎo)致搜素的人數(shù)驟增诗力,可見(jiàn)數(shù)據(jù)量并不意味著我們可以忽略測(cè)量的基礎(chǔ)性問(wèn)題和數(shù)據(jù)的有效性和可靠性凰浮,以及相互依賴(lài)關(guān)系,分析數(shù)據(jù)的前提是找準(zhǔn)數(shù)據(jù)苇本。大數(shù)據(jù)依然是一個(gè)傳統(tǒng)數(shù)據(jù)收集和分析的替代品袜茧,而不是補(bǔ)充。 ?小心黑天鵝事件瓣窄。大數(shù)據(jù)的一個(gè)重要作用就是預(yù)測(cè)笛厦,但當(dāng)我們以為未來(lái)盡收眼底是,小心當(dāng)頭一棒俺夕。大數(shù)據(jù)處理的全數(shù)據(jù)嗎裳凸?不可能。而任何數(shù)據(jù)的丟失都能讓我們失去“黑天鵝事件”的信號(hào)劝贸,大數(shù)據(jù)他所能預(yù)測(cè)的都是有“先兆”的姨谷,可遇到難以預(yù)測(cè),不同尋常的根本無(wú)先機(jī)可言的呢映九,例如美國(guó)的911事件梦湘,美國(guó)次貸危機(jī)呢,中國(guó)的雪災(zāi)呢件甥,大數(shù)據(jù)就束手無(wú)策捌议,而這些事件一旦發(fā)生,后果很有可能無(wú)法想象嚼蚀,和大數(shù)據(jù)保持一段距離禁灼,我們更能欣賞他的美。
原子物理論的發(fā)展帶來(lái)了廣島長(zhǎng)崎的核災(zāi)難轿曙,方便袋帶來(lái)便利的同時(shí)也帶來(lái)了白色污染弄捕,炸藥發(fā)明之初用來(lái)建設(shè)最后卻走向戰(zhàn)爭(zhēng)奪走無(wú)數(shù)生命僻孝,大數(shù)據(jù)的明天又該何去何從呢?我們能否利用大數(shù)據(jù)預(yù)測(cè)大數(shù)據(jù)的未來(lái)呢?
? ? ?支付寶的圈子司馬昭之心啊…