神經網絡嘿歌,造物主的謎題

一 從人工智能談起

1950年馍管,計算機科學的先驅——阿蘭圖靈提出「Can machines think?」

通常理解的人工智能郭赐,就是讓機器可以學習,而非編程的方式實現确沸,即習而識之堪置。就如同我們創(chuàng)造一個類人物種,讓它具有視覺张惹、聽覺舀锨、觸覺、語言等功能宛逗,不斷教它更多的知識坎匿,使其慢慢能夠記憶、推理、決策甚至主動思考替蔬。

近年來人工智能的發(fā)展告私,得益于深度學習方面的進步。深度學習(Deep Learning)作為機器學習拉出的分支承桥,使用包含復雜結構或由多重非線性變換構成的多個處理層對數據進行高層抽象驻粟。深度學習至今已經有數種框架,如深度神經網絡凶异、卷積神經網絡和深度信念網絡和遞歸神經網絡蜀撑,已被應用于計算機視覺、語音識別剩彬、自然語言處理酷麦、音頻識別與生物信息學等領域,并獲取了極好的效果喉恋。

目前頗具吸引力的深度學習結構是卷積神經網絡(convolutional neuron networks沃饶,CNN),它由一個或多個卷積層和頂端的全連通層(對應經典的神經網絡)組成轻黑,同時也包括關聯權重和池化層(pooling layer)糊肤。與其他深度學習結構相比,卷積神經網絡在圖像和語音識別方面能夠給出更優(yōu)的結果氓鄙,而且需要估計的參數更少馆揉。

2012年,多倫多大學的 Krizhevsky 等人構造了一個超大型卷積神經網絡玖详,有9層把介,共65萬個神經元,6千萬個參數蟋座。網絡的輸入是圖片拗踢,輸出是1000個類,比如小蟲向臀、美洲豹巢墅、救生船等等。這個模型的訓練需要海量圖片券膀,它的分類準確率也完爆先前所有分類器君纫。紐約大學的 Zeiler 和 Fergusi 把這個網絡中某些神經元挑出來,把響應特別大的輸入圖像放在一起芹彬,看有什么共同點蓄髓。最后發(fā)現,中間層的神經元響應了某些十分抽象的特征舒帮。

第一層神經元主要負責識別顏色和簡單紋理

第二層的一些神經元可以識別更加細化的紋理会喝,比如布紋陡叠、刻度、葉紋肢执。

第三層的一些神經元負責感受黑夜里的黃色燭光枉阵、雞蛋黃、高光预茄。

第四層的一些神經元負責識別萌狗的臉兴溜、七星瓢蟲和一堆圓形物體的存在。

第五層的一些神經元可以識別出花耻陕、圓形屋頂拙徽、鍵盤、鳥淮蜈、黑眼圈動物斋攀。

這里面的概念并不是整個網絡的輸出已卷,是網絡中間層神經元的偏好梧田,它們?yōu)楹竺娴纳窠浽铡km然每一個神經元都只負責簡單的判斷侧蘸,但是各司其職的65萬個神經元構成整體裁眯,爆發(fā)的學習力是超強的。

二 ?人工智能開源神器 TensorFlow

上一部分講到的神經網絡讳癌,理解了多層處理的概念穿稳。近期,開源了的?Google TensorFlow 做了一個非常直觀的神經網絡 playground晌坤,名字拆開來看的話逢艘,是 tensor(張量)的 flow(流動),理解上就是「張量如何流動」骤菠。TensorFlow? 采用數據流圖(data flow graphs)用于數值計算它改,節(jié)點(Nodes)在圖中表示數學操作,圖中的線(edges)則表示在節(jié)點間相互聯系的多維數據數組商乎,即張量(tensor)央拖。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?網址:playground.tensorflow.org/

打開網頁后,總體來說鹉戚,藍色代表正值鲜戒,黃色代表負值。下面具體操作來看抹凳。

首先選擇數據遏餐,在二維平面內,若干點被標記成了兩種顏色赢底,黃色和藍色失都,表示想要區(qū)分的兩類蔗牡,可以把平面內的任意點標記成任意顏色。網頁里提供了4種規(guī)律嗅剖,選擇后辩越,神經網絡就會根據給的數據進行訓練,再分類相同規(guī)律的點信粮。

然后是輸入黔攒,就是在二維平面內,你想給網絡多少關于「點」的信息强缘。X1 是左右顏色分開的督惰,表示橫坐標值,而 X2 是上下分開的旅掂,表示縱坐標值赏胚。下邊還可以選擇平方值,代表橫縱坐標的「拋物線」信息商虐【踉模總之給到更多這個點的信息,就會越容易被分開秘车。

下面是連接線典勇,用來表示權重。藍色表示用神經元的原始輸出叮趴,黃色表示用負輸出割笙,深淺表示權重的絕對值大小。鼠標放在線上可以看到具體值眯亦,是可以更改的伤溉。在圖1中,當把 X2 輸出的一個權重改為-1時妻率,X2 的形狀就變成了上黃下藍乱顾。在圖2中,當換成值域為(0,1)的 sigmoid 時舌涨,會發(fā)現沒有黃色區(qū)域了糯耍。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?圖1

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 圖2

最后來看一下輸出結果。黃色背景顏色被歸為黃點類囊嘉,而藍色背景顏色歸為藍點類温技,深淺則表示可能性的強弱。

大家看一下上邊的圖右側部分扭粱,所有在黃色背景中的點都被分類為「黃點」舵鳞,藍色區(qū)域的點被歸為「藍點」。再看下左側的部分琢蛤,每一層都是通過上一層信息的組合形成的蜓堕,而權重抛虏,也就是連接線控制了「如何組合」。

我們所說的神經網絡套才,其實就是從數據中學習如何分配權重迂猴。經過訓練的神經網絡,得到正確結果的準確率就可以持續(xù)提升背伴。拿深度卷積神經網絡來說沸毁,其在2012年就有了標志性突破。Hinton 帶領他的兩位博士生傻寂,在計算機視覺識別領域「奧斯卡」ILSVRC 比賽中獲得了冠軍息尺,測試數據集 ImageNet 有1500萬幅圖片,涉及22000種分類疾掰,如貓搂誉、狗、大象等静檬。他們當時使用了兩塊 GPU 加速炭懊,訓練一周后,Top-5 錯誤率降到了15.3%巴柿,而傳統(tǒng)的視覺方法最好結果是26.2%凛虽。這樣的進步很大程度也得益于死遭,將深度卷積神經網絡與大數據(1500萬幅圖片)和 GPU Cuda 并行編程結合了起來广恢。這樣的算法、算力加大數據的結合呀潭,也正成為人工智能領域的標配钉迷。

三 從「進化」視角看「神經網絡」

TensorFlow 展示了數據如何層層過濾,逐步流向終點钠署。

仔細看會發(fā)現糠聪,識別一張臉的過程,倒過來就是物質進化的過程谐鼎。那么神經網絡的學習過程舰蟆,其實就是學習物質組成方式的過程。對于每一層神經網絡的理解狸棍,其實就是通過現有的不同物質組合成為新物質的過程身害。

按照進化的理論,從原始簡單生物進化成為復雜有智慧的物種草戈,任何物種都是從其他物種演變而來塌鸯。再往微觀去看,生物體生長和繁殖的基礎唐片,通常由一個母細胞產生兩個或若干子細胞丙猬。恰如《周易》所言:「易有大恒涨颜,是生兩儀。兩儀生四象茧球,四象生八卦庭瑰。」(馬王堆出土本)

我們的物理世界抢埋,就是一個不斷并行組合见擦、再次迭代的過程,造物主創(chuàng)造了一套神經網絡系統(tǒng)羹令,不斷進化發(fā)展鲤屡。而我們傾盡全力去學習《黑客帝國》中 Matrix 的方法論,不斷做關系的拆分福侈。這樣的拆分就是信息的回卷酒来,是變體的消除,也是不確定性的縮減肪凛。于是堰汉,我們無限的接近我們本真的樣子。

寫到這伟墙,讓我想到了以色列作家尤瓦爾赫拉里的《人類簡史》翘鸭。人類歷史上從認知革命跨越到農業(yè)革命階段,智人開始從單純的采摘捕獵戳葵,轉變?yōu)榉N植農作物協作群居的方式就乓,人口也開始快速的增長」八福看起來是巨大的進步生蚁,但卻變成了沉重的負擔。過去「棒打狍子瓢舀魚」的物質生活不復存在戏自,取而代之的是兒童大量死去邦投,成人也為了換得面包累得滿頭大汗。公元前8500年智人的生活擅笔,要比公元前9500年或公元前13000年更為辛苦志衣。

為什么人類會犯下如此致命的誤判?其實人類歷史上不斷重蹈覆轍的道理都不盡相同:因為我們永遠無法了解各種決定最后的結果猛们。一心追求更為輕松的生活念脯,于是釋放出一股巨大的力量,改變了世界的面貌阅懦,但結果似乎并非是大家所樂見的和二。

人類在不可抗拒的卷入一波又一波的歷史洪流中,無法逆轉耳胎。預言家真的能預知未來?或許就是看到了人類歷史發(fā)展的必然。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末褒墨,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子淹魄,更是在濱河造成了極大的恐慌,老刑警劉巖堡距,帶你破解...
    沈念sama閱讀 211,123評論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件甲锡,死亡現場離奇詭異,居然都是意外死亡羽戒,警方通過查閱死者的電腦和手機缤沦,發(fā)現死者居然都...
    沈念sama閱讀 90,031評論 2 384
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來易稠,“玉大人缸废,你說我怎么就攤上這事∈簧纾” “怎么了企量?”我有些...
    開封第一講書人閱讀 156,723評論 0 345
  • 文/不壞的土叔 我叫張陵,是天一觀的道長亡电。 經常有香客問我届巩,道長,這世上最難降的妖魔是什么份乒? 我笑而不...
    開封第一講書人閱讀 56,357評論 1 283
  • 正文 為了忘掉前任恕汇,我火速辦了婚禮,結果婚禮上冒嫡,老公的妹妹穿的比我還像新娘拇勃。我一直安慰自己,他們只是感情好孝凌,可當我...
    茶點故事閱讀 65,412評論 5 384
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著月腋,像睡著了一般蟀架。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上榆骚,一...
    開封第一講書人閱讀 49,760評論 1 289
  • 那天片拍,我揣著相機與錄音,去河邊找鬼妓肢。 笑死捌省,一個胖子當著我的面吹牛,可吹牛的內容都是我干的碉钠。 我是一名探鬼主播纲缓,決...
    沈念sama閱讀 38,904評論 3 405
  • 文/蒼蘭香墨 我猛地睜開眼卷拘,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了祝高?” 一聲冷哼從身側響起栗弟,我...
    開封第一講書人閱讀 37,672評論 0 266
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎工闺,沒想到半個月后乍赫,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 44,118評論 1 303
  • 正文 獨居荒郊野嶺守林人離奇死亡陆蟆,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 36,456評論 2 325
  • 正文 我和宋清朗相戀三年雷厂,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片叠殷。...
    茶點故事閱讀 38,599評論 1 340
  • 序言:一個原本活蹦亂跳的男人離奇死亡罗侯,死狀恐怖,靈堂內的尸體忽然破棺而出溪猿,到底是詐尸還是另有隱情钩杰,我是刑警寧澤,帶...
    沈念sama閱讀 34,264評論 4 328
  • 正文 年R本政府宣布诊县,位于F島的核電站讲弄,受9級特大地震影響,放射性物質發(fā)生泄漏依痊。R本人自食惡果不足惜避除,卻給世界環(huán)境...
    茶點故事閱讀 39,857評論 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望胸嘁。 院中可真熱鬧瓶摆,春花似錦、人聲如沸性宏。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,731評論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽毫胜。三九已至书斜,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間酵使,已是汗流浹背荐吉。 一陣腳步聲響...
    開封第一講書人閱讀 31,956評論 1 264
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留口渔,地道東北人样屠。 一個月前我還...
    沈念sama閱讀 46,286評論 2 360
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親痪欲。 傳聞我的和親對象是個殘疾皇子悦穿,可洞房花燭夜當晚...
    茶點故事閱讀 43,465評論 2 348

推薦閱讀更多精彩內容