最近看到斯坦福大學(xué)神經(jīng)生物學(xué)專家吞获,駱利群教授的文章 (中譯文參見公眾號“神經(jīng)現(xiàn)實”)
為何人類大腦如此高效肢专?
有感而發(fā)芦鳍。
1/ 大部分人的工作方式是類似串聯(lián)系統(tǒng)。學(xué)一個專業(yè)僻族,有一個雇主粘驰,走一條路,或者同一個時間只能服務(wù)一個客戶鹰贵。
2/ 有許多客戶的公司類似并聯(lián)系統(tǒng)晴氨,有幾千/幾萬/幾百萬甚至更多客戶的公司/明星就是大規(guī)模并聯(lián)。
3/ 串聯(lián)者的體驗碉输,和大規(guī)模并聯(lián)者是兩個截然不同的世界籽前。雖然孤立地觀察,他們好像在做同一件事敷钾。
4/ 串聯(lián)者關(guān)心的是枝哄,其串聯(lián)路徑上的某個連接會不會斷掉,因此想方設(shè)法去維護(hù)與其連接節(jié)點的關(guān)系阻荒。遇到困難瓶頸時會不斷內(nèi)省挠锥,而不是思考在外部建立新的連接繞過去。
5/ 大規(guī)模并聯(lián)者關(guān)心的是侨赡,如何在耗費同樣能量的情況下蓖租,建立更多有機(jī)連接。因此羊壹,他第一關(guān)心的是連接節(jié)點的群體特征蓖宦,而不去迎合單個節(jié)點的特殊需求。第二關(guān)心的是油猫,如何在單位時間內(nèi)同等能耗下稠茂,提升連接的效率。第三關(guān)心的是情妖,外界環(huán)境涌現(xiàn)出什么新的東西睬关,可以建立新的大規(guī)模連接诱担。
6/ 串聯(lián)系統(tǒng)的最大問題是,任何一個連接點上的誤差电爹,會在連接步驟中疊加放大蔫仙。不管你在任何單一連接上做得多好。
7/ 智能大腦來自于神經(jīng)元大規(guī)模并聯(lián)的連接藐不≡群澹“哺乳動物神經(jīng)元平均有數(shù)以千計的輸入和輸出. 與之相比,單個晶體管總共只有三個輸入和輸出節(jié)點...單個神經(jīng)元表達(dá)的信息可能是嘈雜的(精確度為1/100)雏蛮。通過從100個帶有同樣信息的輸入神經(jīng)元中取均值涎嚼,下游的神經(jīng)元伙伴可以提取精確度更高的信息(約千分之一) " -- 摘自駱利群教授的 "The brain achieves its computational power through a massively parallel architecture" 原文
8/ 大規(guī)模并行的連接,因為其高并行度挑秉,導(dǎo)致下游的信息更加精準(zhǔn)法梯。這是其相對于串行計算系統(tǒng)的能耗低很多的重要原因之一。
9/ 同理犀概,擁有大規(guī)模并聯(lián)的連接者立哑,可以獲得來自外部世界的精度更高的信息,因而更加真實地理解認(rèn)識客觀世界姻灶。而不是像串聯(lián)者那樣铛绰,被少數(shù)樣本的不具代表性的信息變本加厲地誤導(dǎo)。這也是為什么高手看似舉重若輕产喉,新手疲于奔命卻總不得其法的根本原因之一捂掰。
10/ 串聯(lián)者是脆弱的,少數(shù)連接被切斷會導(dǎo)致其整個世界的塌陷曾沈,因此其內(nèi)心是常常焦慮的.
11/ 大規(guī)模并聯(lián)者是反脆弱的这嚣,部分連接被切斷,只會自然推動他把精力轉(zhuǎn)移到在別處建立新的大規(guī)模連接塞俱。因此其內(nèi)心是平靜的姐帚,對未來是不斷好奇和憧憬的.
12/ 大腦神經(jīng)元放電頻率最多每秒 1000次,對應(yīng)計算速度每秒一千次≌涎模現(xiàn)在普通 PC 的計算速度可以超越每秒一千億次 ( 十萬 MIPS)罐旗。大腦能耗 (約十瓦) 也只有普通? PC 的十分之一。但除了一些明確定義的計算任務(wù)之外唯蝶,大規(guī)模并行處理的人腦之抽象學(xué)習(xí)思維能力尤莺,是以串行計算架構(gòu)為主的能耗高得多的電腦目前無法比擬的.
13/ 大腦之所以是大規(guī)模并聯(lián)的架構(gòu),不是來自某個主觀設(shè)計生棍,而是因為其它的架構(gòu)都在自然選擇中因為能耗過大,精度太低媳谁,過于脆弱而被淘汰掉了涂滴。
14/ 神經(jīng)元的大規(guī)模并行連接友酱,自發(fā)涌現(xiàn)出大腦這樣復(fù)雜的系統(tǒng)。同理柔纵,可以高效率建立大規(guī)模并聯(lián)關(guān)系的社會缔杉,可能涌現(xiàn)出和大腦一樣復(fù)雜的東西。
15/ 大規(guī)模并聯(lián)搁料,可以徹底彌補個體能力的短板或详。與其把個體的某個專項能力做到極致,不如把與外界的大規(guī)模并行連接做到極致郭计。在同等能耗的情況下霸琴,超大規(guī)模的并行連接,可以高效實現(xiàn)一些在個體缺乏與外界連接時昭伸,完全無法想象的事情梧乘。
16/ 高效建立大規(guī)模并聯(lián)的一個方法,就是堅持把自己的深度思考付諸文字庐杨,通過各種社交媒體傳播出去选调。
17/ 數(shù)量就是質(zhì)量,巨大的連接數(shù)量帶來的是新維度上的完全不同的東西灵份。
18/ 財富仁堪,知識,力量填渠,大腦的自我意識弦聂,本質(zhì)上都是一個從外界高效吸取能量的,開放的揭蜒,大規(guī)模并行網(wǎng)絡(luò)横浑。聚焦在培育開放網(wǎng)絡(luò)的大規(guī)模有機(jī)增長,好的結(jié)果自然發(fā)生屉更,沒有上限徙融。只關(guān)注局部幾根線的連接或者某個靜態(tài)的目標(biāo),而忽視網(wǎng)絡(luò)的培育和建設(shè)瑰谜,很容易被外界環(huán)境的波動所摧毀欺冀,或者被新涌現(xiàn)出來的發(fā)展方向所拋棄。
19/ 做一個大規(guī)模并聯(lián)者萨脑,從今天開始隐轩。