相信盖矫,大家仍然記得大熱科幻片中丽惭,天網(wǎng)對(duì)人類的統(tǒng)治。正因如此辈双,深度學(xué)習(xí)作為一種科學(xué)技術(shù)责掏,才被擺上一個(gè)充滿輿論爭(zhēng)議的位置上——樂(lè)觀的人認(rèn)為攻克智能奇點(diǎn)的堡壘馬上就要實(shí)現(xiàn),悲觀的人則畏懼高科技帶來(lái)的束縛與毀滅而惶惶不可終日湃望。那么换衬,到底我們應(yīng)該怎樣看待hit爆的深度學(xué)習(xí)呢?大圣眾包威客平臺(tái)(www.dashengzb.cn)與你一起探討证芭。
一瞳浦、深度學(xué)習(xí)有多deep
從概念上說(shuō),作為傳統(tǒng)機(jī)器學(xué)習(xí)中神經(jīng)網(wǎng)絡(luò)(NN)废士、感知機(jī)(perceptron)模型的擴(kuò)展延伸叫潦,正是深度學(xué)習(xí)(DL),或說(shuō)深度神經(jīng)網(wǎng)絡(luò)(DNN)的表現(xiàn)形式官硝。
單看DNN近幾年在科技界驚人且頻頻引發(fā)議論的成果矗蕊,就可以看出它的前途無(wú)可限量。DNN在眾多應(yīng)用領(lǐng)域的成功毋庸置疑氢架。譬如傻咖,能和人對(duì)話的語(yǔ)音助手,能“讀懂”照片內(nèi)容的圖像識(shí)別系統(tǒng)岖研,甚至是引發(fā)滔滔議論的能擊敗圍棋世界冠軍的AlphaGo……有著結(jié)構(gòu)過(guò)于錯(cuò)綜復(fù)雜卿操、性質(zhì)難以分析的“黑盒子”特質(zhì)的深度學(xué)習(xí),引發(fā)了學(xué)術(shù)界的眾多顧慮和好奇缎玫,而正因研究人員對(duì)DNN的火熱的好奇心以及孜孜不倦的鉆研能力硬纤,使得DNN的研究成果正以驚人的速度增長(zhǎng)。
其實(shí)赃磨,站在客觀的角度上看筝家,DNN和K-Means、稀疏編碼(sparsecoding或Lasso)邻辉、主成分分析(PCA)等眾多基礎(chǔ)的模型并無(wú)什么不同溪王,都是屬于機(jī)器學(xué)習(xí)中特征學(xué)習(xí)(featurelearning)的范疇腮鞍。因此,無(wú)需過(guò)于驚慌地把DNN劃分到天網(wǎng)莹菱、人工智能終點(diǎn)移国,甚至是上帝的位置去。如果一定要說(shuō)DNN有什么過(guò)人之處道伟,一字記之曰——深迹缀。
二、學(xué)者爭(zhēng)相研究
為了理解DNN有多deep以及其工作原理蜜徽,自2013年起祝懂,已經(jīng)不斷有學(xué)者從不同的角度研究DNN和各類傳統(tǒng)機(jī)器學(xué)習(xí)模型之間的內(nèi)在關(guān)系,這些傳統(tǒng)機(jī)器學(xué)習(xí)模型包括小波分析拘鞋、高斯過(guò)程砚蓬、條件隨機(jī)場(chǎng)、稀疏表示等盆色。這些在科研上的努力灰蛙,甚至可能從傳統(tǒng)模型的分析方法中掘得金礦,為DNN的理論框架添磚加瓦隔躲,讓其不斷朝著遠(yuǎn)方發(fā)展摩梧。
三、深度學(xué)習(xí)的優(yōu)勢(shì)
從深度學(xué)習(xí)掀起的鋪天蓋地的熱潮中反觀宣旱,它固然有自身的優(yōu)勢(shì):
1.端到端(end-to-end)的訓(xùn)練方式障本,讓以往模型分模塊訓(xùn)練(hierarchical)、各模塊沒(méi)有彼此優(yōu)化的劣勢(shì)被克服了响鹃;
2.動(dòng)輒成百上千萬(wàn)的空前龐大的參數(shù)(parameter)量,遠(yuǎn)遠(yuǎn)超過(guò)以往任何模型的參數(shù)數(shù)量級(jí)案训,極大增強(qiáng)了模型對(duì)于復(fù)雜映射(mapping)的表達(dá)能力买置;
3.它具有有效訓(xùn)練如此巨大模型的一套手段。在GPU高性能計(jì)算强霎、無(wú)窮無(wú)盡的tricks(如dropout忿项、batchnormalization等),以及大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的大力推動(dòng)下城舞,深度學(xué)習(xí)被推上了浪潮尖端轩触。
四、深度學(xué)習(xí)的劣勢(shì)
盡管深度學(xué)習(xí)在應(yīng)用上取得了巨大的成功家夺,但是脱柱,理論缺失、“沙上筑塔”的隱憂讓它頗為人詬病拉馋。由于DNN本身函數(shù)的高度非線性和非凸性榨为,免不了會(huì)受困于求解算法本身的粗糙和經(jīng)驗(yàn)化上惨好,因此,傳統(tǒng)方法的優(yōu)良性質(zhì)和可解釋性在DNN中可謂之無(wú)随闺,著實(shí)遺憾日川。
Anyway,深度學(xué)習(xí)既有自身的優(yōu)勢(shì)矩乐,也有自身的劣勢(shì)龄句,但是瑕不掩瑜。在大數(shù)據(jù)產(chǎn)業(yè)高速發(fā)展散罕、“互聯(lián)網(wǎng)+”大力助力之下分歇,深度學(xué)習(xí)仍將繼續(xù)火爆下去。