大熱的深度學(xué)習(xí),我們?cè)撊绾慰创兀?/h1>

相信盖矫,大家仍然記得大熱科幻片中丽惭,天網(wǎng)對(duì)人類的統(tǒng)治。正因如此辈双,深度學(xué)習(xí)作為一種科學(xué)技術(shù)责掏,才被擺上一個(gè)充滿輿論爭(zhēng)議的位置上——樂(lè)觀的人認(rèn)為攻克智能奇點(diǎn)的堡壘馬上就要實(shí)現(xiàn),悲觀的人則畏懼高科技帶來(lái)的束縛與毀滅而惶惶不可終日湃望。那么换衬,到底我們應(yīng)該怎樣看待hit爆的深度學(xué)習(xí)呢?大圣眾包威客平臺(tái)(www.dashengzb.cn)與你一起探討证芭。

一瞳浦、深度學(xué)習(xí)有多deep

從概念上說(shuō),作為傳統(tǒng)機(jī)器學(xué)習(xí)中神經(jīng)網(wǎng)絡(luò)(NN)废士、感知機(jī)(perceptron)模型的擴(kuò)展延伸叫潦,正是深度學(xué)習(xí)(DL),或說(shuō)深度神經(jīng)網(wǎng)絡(luò)(DNN)的表現(xiàn)形式官硝。

單看DNN近幾年在科技界驚人且頻頻引發(fā)議論的成果矗蕊,就可以看出它的前途無(wú)可限量。DNN在眾多應(yīng)用領(lǐng)域的成功毋庸置疑氢架。譬如傻咖,能和人對(duì)話的語(yǔ)音助手,能“讀懂”照片內(nèi)容的圖像識(shí)別系統(tǒng)岖研,甚至是引發(fā)滔滔議論的能擊敗圍棋世界冠軍的AlphaGo……有著結(jié)構(gòu)過(guò)于錯(cuò)綜復(fù)雜卿操、性質(zhì)難以分析的“黑盒子”特質(zhì)的深度學(xué)習(xí),引發(fā)了學(xué)術(shù)界的眾多顧慮和好奇缎玫,而正因研究人員對(duì)DNN的火熱的好奇心以及孜孜不倦的鉆研能力硬纤,使得DNN的研究成果正以驚人的速度增長(zhǎng)。

其實(shí)赃磨,站在客觀的角度上看筝家,DNN和K-Means、稀疏編碼(sparsecoding或Lasso)邻辉、主成分分析(PCA)等眾多基礎(chǔ)的模型并無(wú)什么不同溪王,都是屬于機(jī)器學(xué)習(xí)中特征學(xué)習(xí)(featurelearning)的范疇腮鞍。因此,無(wú)需過(guò)于驚慌地把DNN劃分到天網(wǎng)莹菱、人工智能終點(diǎn)移国,甚至是上帝的位置去。如果一定要說(shuō)DNN有什么過(guò)人之處道伟,一字記之曰——深迹缀。

二、學(xué)者爭(zhēng)相研究

為了理解DNN有多deep以及其工作原理蜜徽,自2013年起祝懂,已經(jīng)不斷有學(xué)者從不同的角度研究DNN和各類傳統(tǒng)機(jī)器學(xué)習(xí)模型之間的內(nèi)在關(guān)系,這些傳統(tǒng)機(jī)器學(xué)習(xí)模型包括小波分析拘鞋、高斯過(guò)程砚蓬、條件隨機(jī)場(chǎng)、稀疏表示等盆色。這些在科研上的努力灰蛙,甚至可能從傳統(tǒng)模型的分析方法中掘得金礦,為DNN的理論框架添磚加瓦隔躲,讓其不斷朝著遠(yuǎn)方發(fā)展摩梧。

三、深度學(xué)習(xí)的優(yōu)勢(shì)

從深度學(xué)習(xí)掀起的鋪天蓋地的熱潮中反觀宣旱,它固然有自身的優(yōu)勢(shì):

1.端到端(end-to-end)的訓(xùn)練方式障本,讓以往模型分模塊訓(xùn)練(hierarchical)、各模塊沒(méi)有彼此優(yōu)化的劣勢(shì)被克服了响鹃;

2.動(dòng)輒成百上千萬(wàn)的空前龐大的參數(shù)(parameter)量,遠(yuǎn)遠(yuǎn)超過(guò)以往任何模型的參數(shù)數(shù)量級(jí)案训,極大增強(qiáng)了模型對(duì)于復(fù)雜映射(mapping)的表達(dá)能力买置;

3.它具有有效訓(xùn)練如此巨大模型的一套手段。在GPU高性能計(jì)算强霎、無(wú)窮無(wú)盡的tricks(如dropout忿项、batchnormalization等),以及大數(shù)據(jù)產(chǎn)業(yè)發(fā)展的大力推動(dòng)下城舞,深度學(xué)習(xí)被推上了浪潮尖端轩触。

四、深度學(xué)習(xí)的劣勢(shì)

盡管深度學(xué)習(xí)在應(yīng)用上取得了巨大的成功家夺,但是脱柱,理論缺失、“沙上筑塔”的隱憂讓它頗為人詬病拉馋。由于DNN本身函數(shù)的高度非線性和非凸性榨为,免不了會(huì)受困于求解算法本身的粗糙和經(jīng)驗(yàn)化上惨好,因此,傳統(tǒng)方法的優(yōu)良性質(zhì)和可解釋性在DNN中可謂之無(wú)随闺,著實(shí)遺憾日川。

Anyway,深度學(xué)習(xí)既有自身的優(yōu)勢(shì)矩乐,也有自身的劣勢(shì)龄句,但是瑕不掩瑜。在大數(shù)據(jù)產(chǎn)業(yè)高速發(fā)展散罕、“互聯(lián)網(wǎng)+”大力助力之下分歇,深度學(xué)習(xí)仍將繼續(xù)火爆下去。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者

  • 序言:七十年代末笨使,一起剝皮案震驚了整個(gè)濱河市卿樱,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌硫椰,老刑警劉巖繁调,帶你破解...
    沈念sama閱讀 211,265評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異靶草,居然都是意外死亡蹄胰,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,078評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門(mén)奕翔,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)裕寨,“玉大人,你說(shuō)我怎么就攤上這事派继”鐾啵” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 156,852評(píng)論 0 347
  • 文/不壞的土叔 我叫張陵驾窟,是天一觀的道長(zhǎng)庆猫。 經(jīng)常有香客問(wèn)我,道長(zhǎng)绅络,這世上最難降的妖魔是什么月培? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 56,408評(píng)論 1 283
  • 正文 為了忘掉前任,我火速辦了婚禮恩急,結(jié)果婚禮上杉畜,老公的妹妹穿的比我還像新娘。我一直安慰自己衷恭,他們只是感情好此叠,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,445評(píng)論 5 384
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著匾荆,像睡著了一般拌蜘。 火紅的嫁衣襯著肌膚如雪杆烁。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 49,772評(píng)論 1 290
  • 那天简卧,我揣著相機(jī)與錄音兔魂,去河邊找鬼。 笑死举娩,一個(gè)胖子當(dāng)著我的面吹牛析校,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播铜涉,決...
    沈念sama閱讀 38,921評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼智玻,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了芙代?” 一聲冷哼從身側(cè)響起吊奢,我...
    開(kāi)封第一講書(shū)人閱讀 37,688評(píng)論 0 266
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎纹烹,沒(méi)想到半個(gè)月后页滚,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 44,130評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡铺呵,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,467評(píng)論 2 325
  • 正文 我和宋清朗相戀三年裹驰,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片片挂。...
    茶點(diǎn)故事閱讀 38,617評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡幻林,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出音念,到底是詐尸還是另有隱情沪饺,我是刑警寧澤,帶...
    沈念sama閱讀 34,276評(píng)論 4 329
  • 正文 年R本政府宣布闷愤,位于F島的核電站随闽,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏肝谭。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,882評(píng)論 3 312
  • 文/蒙蒙 一蛾扇、第九天 我趴在偏房一處隱蔽的房頂上張望攘烛。 院中可真熱鬧,春花似錦镀首、人聲如沸坟漱。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 30,740評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)芋齿。三九已至腥寇,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間觅捆,已是汗流浹背赦役。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 31,967評(píng)論 1 265
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留栅炒,地道東北人掂摔。 一個(gè)月前我還...
    沈念sama閱讀 46,315評(píng)論 2 360
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像赢赊,于是被迫代替她去往敵國(guó)和親乙漓。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,486評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容