當(dāng)今最成功的人工智能算法—深度神經(jīng)網(wǎng)絡(luò)（DNN）策泣，基于人類大腦真實(shí)衙傀、復(fù)雜的神經(jīng)網(wǎng)絡(luò)。但人工神經(jīng)網(wǎng)絡(luò)與人類高效的大腦不同萨咕，在計算機(jī)上運(yùn)行深度學(xué)習(xí)算法會產(chǎn)生驚人的能耗统抬。最大的神經(jīng)網(wǎng)絡(luò)模型在其生命周期中消耗的能量幾乎與五輛汽車一樣多。
進(jìn)入神經(jīng)形態(tài)計算危队，更接近人類大腦的設(shè)計原理和物理特性蓄喇，可能成為節(jié)能型人工智能的未來。人工神經(jīng)形態(tài)設(shè)計不是在中央處理單元和內(nèi)存芯片之間長距離穿梭的數(shù)據(jù)流交掏，而是模仿模仿人類大腦中果凍狀的物質(zhì)結(jié)構(gòu)妆偏，計算單元（神經(jīng)元）放置在內(nèi)存旁邊（存儲在連接神經(jīng)元的突觸中）。 為了使類腦芯片更像大腦盅弛，研究人員將神經(jīng)形態(tài)芯片與模擬計算相結(jié)合钱骂，模擬計算可以處理連續(xù)信號叔锐，就像真正的神經(jīng)元一樣。由此產(chǎn)生的芯片與當(dāng)前依賴于0和1二進(jìn)制信號處理的純數(shù)字計算機(jī)的架構(gòu)和計算模式有很大不同见秽。
0%
人類大腦神經(jīng)元結(jié)構(gòu)
以大腦為向?qū)в淅樱窠?jīng)形態(tài)芯片有望消除人工智能等數(shù)據(jù)密集型計算任務(wù)的能耗。但目前不幸的是解取，由于硬件不匹配問題步责，人工智能算法在現(xiàn)有芯片上模擬大腦計算的能力表現(xiàn)不佳：在芯片上，模擬神經(jīng)元中的微小組件由于制造工藝禀苦、流程等問題而在尺寸上不匹配蔓肯，邊緣設(shè)備芯片的計算能力遠(yuǎn)遠(yuǎn)不夠，無法實(shí)時運(yùn)行最新的訓(xùn)練程序振乏，因此必須首先在計算機(jī)上對算法進(jìn)行訓(xùn)練蔗包。而且當(dāng)算法轉(zhuǎn)移到芯片上時，一旦遇到硬件不匹配慧邮，算法的性能很難得到有效發(fā)揮调限。
2022年1月發(fā)表在《美國國家科學(xué)院院刊》上的一篇論文終于揭示了如何繞過上述問題的方法。弗里德里衔蟀模·米歇爾生物醫(yī)學(xué)研究所和海德堡大學(xué)的研究人員開發(fā)了一種尖峰神經(jīng)網(wǎng)絡(luò)的人工智能算法耻矮，這種算法受到人類大腦獨(dú)特通信信號機(jī)制的啟發(fā)，可以與硬件芯片一起學(xué)習(xí)如何補(bǔ)償設(shè)備不匹配的問題忆谓。這篇論文的發(fā)布代表著人類朝使用AI進(jìn)行模擬神經(jīng)形態(tài)計算的里程又邁出了重要的一步井誉。
荷蘭國家數(shù)學(xué)和計算機(jī)科學(xué)研究所的脈沖神經(jīng)網(wǎng)絡(luò)專家表示：“令人驚奇的是帘营，尖峰神經(jīng)網(wǎng)絡(luò)人工智能算法運(yùn)行得非常好肪康，這是一項(xiàng)相當(dāng)大的成就茂腥，甚至是更多模擬神經(jīng)形態(tài)計算機(jī)系統(tǒng)的藍(lán)圖”枕稀。
模擬計算對基于人類大腦神經(jīng)網(wǎng)絡(luò)計算的重要性是不言而喻的劣像。雖然蕾久，數(shù)字計算可以有效地模擬大腦尖峰信號的二進(jìn)制狀態(tài)舍杜，即一種像閃電一樣穿過神經(jīng)元的電脈沖信號妙色。這與二進(jìn)制數(shù)字信號機(jī)制一樣桅滋，要么發(fā)出尖峰信號，要么不發(fā)出尖峰信號身辨，即0或1丐谋。但是隨著時間的推移，尖峰是連續(xù)發(fā)送的煌珊，這明顯是一個模擬信號号俐。人類的神經(jīng)元決定發(fā)出尖峰信號的方式也是連續(xù)的，尖峰信號取決于細(xì)胞內(nèi)隨時間變化的電壓定庵。（與細(xì)胞外電壓相比吏饿，當(dāng)電壓達(dá)到特定閾值時踪危，神經(jīng)元會發(fā)出尖峰信號）
2011年，海德堡大學(xué)的一組研究人員開發(fā)了一種兼具模擬和數(shù)字功能的神經(jīng)形態(tài)芯片猪落，以對人類大腦結(jié)構(gòu)進(jìn)行高關(guān)聯(lián)建模以進(jìn)行神經(jīng)科學(xué)實(shí)驗(yàn)≌暝叮現(xiàn)在海德堡大學(xué)的團(tuán)隊(duì)又推出了最新版本的芯片，稱為 BrainScaleS-2笨忌。芯片上的每個模擬神經(jīng)元都模擬腦細(xì)胞的輸入和輸出電流和電壓變化蓝仲。
海德堡大學(xué)的神經(jīng)形態(tài)工程師開發(fā)的BrainScaleS-2神經(jīng)形態(tài)芯片能夠模擬人類大腦中真實(shí)的神經(jīng)元計算過程。
海德堡大學(xué)的研究人員表示：“人類真的擁有一個不斷交換信息的動態(tài)系統(tǒng)”官疲。而且由于新材料具有更強(qiáng)大的電氣特性袱结，芯片傳輸信息的速度比人類的大腦快 1000倍。但是袁余，由于模擬神經(jīng)元（芯片計算單元）的特性變化非常之小擎勘，但人類神經(jīng)系統(tǒng)內(nèi)的電壓和電流水平卻因神經(jīng)元而異。顯然颖榜，目前的人工算法無法處理類似的問題棚饵，因?yàn)槿斯に惴ㄊ窃诰哂型耆嗤瑪?shù)字神經(jīng)元的計算機(jī)上訓(xùn)練的，直接移植到類腦芯片將會導(dǎo)致性能直線下降掩完。
雖然還存在很多問題噪漾，但是新成果展示了人工智能科學(xué)的前進(jìn)方向。通過將芯片包含在訓(xùn)練過程中且蓬，表明脈沖神經(jīng)網(wǎng)絡(luò)可以學(xué)習(xí)如何校正BrainScaleS-2芯片上的不同電壓欣硼。這種訓(xùn)練設(shè)置展現(xiàn)了令人振奮的成果，證明可變性不僅可以補(bǔ)償恶阴，而且還可能被利用诈胜。
為了解決設(shè)備不匹配問題，海德堡大學(xué)的研究團(tuán)隊(duì)研發(fā)了允許芯片與計算機(jī)對話方法與代理梯度方法相結(jié)合的新方式冯事，專門用于脈沖神經(jīng)網(wǎng)絡(luò)焦匈。通過改變神經(jīng)元之間的連接，最小化神經(jīng)網(wǎng)絡(luò)在任務(wù)中產(chǎn)生的錯誤數(shù)量及影響昵仅。（類似于非尖峰神經(jīng)網(wǎng)絡(luò)或傳統(tǒng)神經(jīng)網(wǎng)絡(luò)使用的反向傳播方法缓熟。）
代理梯度方法能夠在計算機(jī)訓(xùn)練期間糾正芯片的缺陷。首先摔笤，脈沖神經(jīng)網(wǎng)絡(luò)使用芯片上模擬神經(jīng)元的變化電壓執(zhí)行一項(xiàng)簡單的任務(wù)够滑，將電壓記錄發(fā)送回計算機(jī)。通過計算機(jī)吕世，該算法自動學(xué)習(xí)如何最好地改變其神經(jīng)元之間的連接彰触，以便與模擬神經(jīng)元更好地配合，并在學(xué)習(xí)的同時不斷地在芯片上更新命辖，當(dāng)訓(xùn)練完成后况毅，脈沖神經(jīng)網(wǎng)絡(luò)在芯片上執(zhí)行任務(wù)晚伙。研究人員表示：脈沖神經(jīng)網(wǎng)絡(luò)在語音和視覺任務(wù)上達(dá)到了與在計算機(jī)上執(zhí)行任務(wù)的頂級尖峰神經(jīng)網(wǎng)絡(luò)相同的準(zhǔn)確度水平。
代理梯度方法能夠在計算機(jī)訓(xùn)練期間糾正芯片的缺陷俭茧。首先咆疗，脈沖神經(jīng)網(wǎng)絡(luò)使用芯片上模擬神經(jīng)元的變化電壓執(zhí)行一項(xiàng)簡單的任務(wù)，將電壓記錄發(fā)送回計算機(jī)母债。通過計算機(jī)午磁，該算法自動學(xué)習(xí)如何最好地改變其神經(jīng)元之間的連接，以便與模擬神經(jīng)元更好地配合毡们，并在學(xué)習(xí)的同時不斷地在芯片上更新迅皇，當(dāng)訓(xùn)練完成后，脈沖神經(jīng)網(wǎng)絡(luò)在芯片上執(zhí)行任務(wù)衙熔。研究人員表示：脈沖神經(jīng)網(wǎng)絡(luò)在語音和視覺任務(wù)上達(dá)到了與在計算機(jī)上執(zhí)行任務(wù)的頂級尖峰神經(jīng)網(wǎng)絡(luò)相同的準(zhǔn)確度水平登颓。
相關(guān)前沿知識鏈接：
“超級網(wǎng)絡(luò)”為人工智能打開新大門！
Neuralink招募頂級醫(yī)學(xué)神經(jīng)主任红氯，或開啟人類腦機(jī)接口臨床實(shí)驗(yàn)框咙！
腦科學(xué)顛覆性研究成果－大腦神經(jīng)網(wǎng)絡(luò)與人工智能學(xué)習(xí)策略類似
前沿顛覆性科技之——全球首部“語言型”腦機(jī)接口系統(tǒng)測試成功
人類歷史上最強(qiáng)大人工智能之間令人“毛骨悚然”的對話！
