對(duì)于一個(gè)正在學(xué)習(xí)深度學(xué)習(xí)的人肛真， 今天看到Hinton的上面言論谐丢， 心中無疑是五味雜陳的。
Hinton最近提出了“深度學(xué)習(xí)要另起爐灶蚓让，徹底拋棄反向傳播”乾忱， 一時(shí)激起千層浪， 李飛飛等人標(biāo)識(shí)贊同.
Hinton針對(duì)人工智能的瓶頸凭疮， 提出了capsule的概念。Hinton大神認(rèn)為其提出的反向傳遞算法串述， 在生物學(xué)上很難成立执解， 生物神經(jīng)網(wǎng)絡(luò)也不可能存在人工神經(jīng)網(wǎng)絡(luò)那么多層級(jí)， 需要那么多層的時(shí)候， 生物神經(jīng)網(wǎng)絡(luò)的速度也跟不上衰腌， 借鑒大腦皮層中普遍存在的 Cortical minicolumn 的柱狀結(jié)構(gòu)內(nèi)部含有上百個(gè)神經(jīng)元新蟆，并存在分層, Hinton 模仿 mini-column 提出了對(duì)應(yīng)的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。 對(duì)應(yīng)論文為 Transforming Auto-encoders
Hinton指出CNN中池化層的很多缺點(diǎn)右蕊，提出Capsules琼稻。
這是 Hinton 最近被 NIPS 接受的關(guān)于 **Capsules **論文 Dynamic Routing between Capsules （未發(fā)表） 。其在 MNIST 上非常成功饶囚，識(shí)別率達(dá)到了新高帕翻，同時(shí)解決了CNN難以識(shí)別重疊圖像等問題。
機(jī)器學(xué)習(xí)不是仿生萝风， 但是確實(shí)現(xiàn)在大腦做得比深度學(xué)習(xí)好嘀掸， 度量的標(biāo)準(zhǔn)不只是靜態(tài)的識(shí)別率， 還包括普適性规惰， 學(xué)習(xí)的難度（人腦學(xué)習(xí)使用的樣本數(shù)量比較少）睬塌， 所以先看看Cortical minicolumn是個(gè)什么東東。
查了下歇万， 能找到的解釋相當(dāng)少揩晴。
關(guān)于人工智能的未來和方向的思考， 也提到了周志華老師的學(xué)件：
周志華：關(guān)于人工智能的探討
周志華老師關(guān)于學(xué)件的思考贪磺， 更多的思考了當(dāng)前人工智能的瓶頸硫兰， 數(shù)據(jù)分享困難、模型適應(yīng)性差缘挽、黑盒模型導(dǎo)致解釋性很差瞄崇， 提出了學(xué)件的概念， 通過分享數(shù)據(jù)訓(xùn)練出來的學(xué)件壕曼， 而不是分享數(shù)據(jù)本身來讓大家不用重復(fù)造輪子苏研；學(xué)件是可解釋的， 整個(gè)模型的解釋性更強(qiáng)腮郊；學(xué)件可演進(jìn)摹蘑；
同時(shí)提出了一個(gè)學(xué)件市場(chǎng)的概念。
人工智能的發(fā)展轧飞， 將來模塊化的可能性還是非常的大的衅鹿， 所以做個(gè)人工智能模塊市場(chǎng)的可能性也非常大。說不定是個(gè)不錯(cuò)的創(chuàng)業(yè)方向:)
從機(jī)器學(xué)習(xí)的優(yōu)化方向上來說过咬， 現(xiàn)在模擬大腦是個(gè)重要的方向大渤，按照KK的理論， 整個(gè)科技都算一個(gè)超生物體掸绞， 是不是當(dāng)計(jì)算量充足或者算法和思想突破的時(shí)候泵三， 模擬整個(gè)社會(huì)或者整個(gè)文明， 也是一個(gè)方向呢？
關(guān)于人工智能未來的可能性烫幕， 是否存在于一種算法俺抽， 類似于大自然的演進(jìn)一樣， 讓我們能夠使用算法本身來演進(jìn)算法较曼， 最后不停的得到一個(gè)優(yōu)化的算法磷斧， 不過估計(jì)這種演進(jìn)需要的計(jì)算量不是一般的大， 因?yàn)樗阉骺臻g實(shí)在太大捷犹。那么我們是不是目標(biāo)就是弛饭， 設(shè)定一種相對(duì)廉價(jià)的方法， 在巨大的搜索空間中找到局部最優(yōu)甚至全局最優(yōu)點(diǎn)呢伏恐？
說不定整個(gè)地球就是一個(gè)算法演進(jìn)試驗(yàn)場(chǎng)孩哑， 外星人不時(shí)來收割一下算法， 當(dāng)有一天外星人覺得文明跑歪了的時(shí)候（恐龍文明）翠桦， 就重新設(shè)定一下就好了横蜒。
扯遠(yuǎn)了， 無論如何深度學(xué)習(xí)還是有其優(yōu)勢(shì)的销凑， 至少在推薦算法丛晌， 處理大數(shù)據(jù)方向（當(dāng)然這個(gè)可能是計(jì)算機(jī)的速度決定的）， 還是非常先進(jìn)的斗幼。
繼續(xù)堅(jiān)定的學(xué)習(xí)澎蛛， 才是王道。
