簡(jiǎn)評(píng)：如果人工智能犯了錯(cuò)怎么辦嫁盲？
乘客看到了停車(chē)標(biāo)志闹蒜，突然感到一陣恐慌野哭，因?yàn)樗畛说淖詣?dòng)駕駛汽車(chē)反而開(kāi)始加速双吆。
當(dāng)他看到前面的鐵軌上一列火車(chē)向他們疾馳而來(lái)時(shí)眨唬，他張開(kāi)嘴對(duì)前面的司機(jī)大聲喊叫，但他突然意識(shí)到汽車(chē)前坐并沒(méi)有司機(jī)伊诵。列車(chē)高速撞上來(lái)，壓碎了這輛自動(dòng)駕駛汽車(chē)回官，乘客當(dāng)場(chǎng)死亡曹宴。
這個(gè)場(chǎng)景是虛構(gòu)的，但是凸顯了當(dāng)前人工智能中一個(gè)非常真實(shí)的缺陷歉提。
在過(guò)去的幾年里笛坦，已經(jīng)有越來(lái)越多的例子表明 —— 機(jī)器可以被誤導(dǎo)，看見(jiàn)或聽(tīng)見(jiàn)根本不存在的東西苔巨。如果出現(xiàn)「噪音」會(huì)干擾到人工智能的識(shí)別系統(tǒng)版扩，就可能產(chǎn)生誤覺(jué)。比如上面的場(chǎng)景侄泽，盡管停車(chē)標(biāo)志在人眼中清晰可見(jiàn)礁芦，但機(jī)器卻未能識(shí)別出來(lái)。
計(jì)算機(jī)科學(xué)家稱(chēng)之為「對(duì)抗性例子」(adversarial examples)柿扣。
MIT 的計(jì)算機(jī)科學(xué)家阿塔利（Anish Athalye）表示：
我們可以把這些東西看作是人工智能網(wǎng)絡(luò)會(huì)以某種方式處理的輸入信息，但機(jī)器在看到這些輸入信息后會(huì)做出一些意想不到的反應(yīng)闺魏。
▎看物體
到目前為止未状，人們主要關(guān)注的是視覺(jué)識(shí)別系統(tǒng)。
阿塔利已經(jīng)證明析桥，將一張貓的圖像稍加改動(dòng)司草，人眼看來(lái)仍是一只標(biāo)準(zhǔn)的貓，卻被所謂的神經(jīng)網(wǎng)絡(luò)誤解為是鱷梨醬泡仗。
最近埋虹，阿塔利把注意力轉(zhuǎn)向了實(shí)際物體。發(fā)現(xiàn)只要稍微調(diào)整一下它們的紋理和顏色娩怎，就可以騙過(guò)人工智能吨岭，把這些物體認(rèn)作別的東西。
在一個(gè)案例中峦树，棒球被誤認(rèn)為是一杯濃縮咖啡辣辫，而在另一個(gè)案例中旦事，3D 打印的海龜被誤認(rèn)為是步槍。他們還制造了約 200 個(gè) 3D 打印物體急灭，這些物體以類(lèi)似的方式欺騙了電腦姐浮。
阿塔利表示：
起初，這只是一種好奇葬馋，然而卖鲤，隨著這些智能系統(tǒng)越來(lái)越多地部署在現(xiàn)實(shí)世界中，人們正將其視為一個(gè)潛在的安全問(wèn)題畴嘶。
以目前正在進(jìn)行實(shí)地試驗(yàn)的無(wú)人駕駛汽車(chē)為例：這些汽車(chē)通常依靠復(fù)雜的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)導(dǎo)航蛋逾，并告訴它們?cè)撟鍪裁础?/p>
但在去年，研究人員證明窗悯，僅僅只在路標(biāo)上粘一兩張小貼紙区匣，神經(jīng)網(wǎng)絡(luò)就可能受騙，將道路上的「停車(chē)」標(biāo)志誤認(rèn)為限速標(biāo)志蒋院。
▎聽(tīng)聲音
神經(jīng)網(wǎng)絡(luò)并不是唯一使用的機(jī)器學(xué)習(xí)框架辞友，但其他的人工智能框架似乎也容易遭受這些怪異事件的影響栅哀，并且不限于視覺(jué)識(shí)別系統(tǒng)。
谷歌大腦（Google Brain）正在研發(fā)智能機(jī)器称龙。谷歌大腦的研究科學(xué)家卡里尼（Nicholas Carlini）說(shuō)昌屉，
在我見(jiàn)過(guò)的每一個(gè)領(lǐng)域，從圖像分類(lèi)到自動(dòng)語(yǔ)音識(shí)別茵瀑，再到翻譯间驮，神經(jīng)網(wǎng)絡(luò)都可能受到攻擊，導(dǎo)致輸入信號(hào)被錯(cuò)誤分類(lèi)马昨。
卡里尼作了展示竞帽，加上一些摩擦的背景噪音后，「沒(méi)有數(shù)據(jù)集的文章是無(wú)用的」這句話的讀音鸿捧，機(jī)器會(huì)誤譯為「好屹篓，谷歌要瀏覽 http://evil.com」。在另一個(gè)例子中匙奴，巴赫的第一號(hào)無(wú)伴奏大提琴組曲（Cello Suit 1）中的一段音樂(lè)節(jié)選被記錄為「語(yǔ)言可以嵌入音樂(lè)」堆巧。
在卡里尼看來(lái)，這些對(duì)抗性的例子「最終證明，哪怕在非常簡(jiǎn)單的任務(wù)上谍肤，機(jī)器學(xué)習(xí)也沒(méi)有達(dá)到人類(lèi)的能力」啦租。
▎內(nèi)在原理
人工神經(jīng)網(wǎng)絡(luò)是大致模仿大腦（即生物神經(jīng)網(wǎng)絡(luò)）處理視覺(jué)信息的功能并從中學(xué)習(xí)方法系任。
神經(jīng)網(wǎng)絡(luò)的工作原理大致是恳蹲，獲取的數(shù)據(jù)通過(guò)多層人工神經(jīng)元網(wǎng)絡(luò)傳輸進(jìn)行信息處理，在接受到成百上千個(gè)相同物體的樣本（通常由人類(lèi)標(biāo)記）的訓(xùn)練之后俩滥，神經(jīng)網(wǎng)絡(luò)開(kāi)始建立此物體的視覺(jué)識(shí)別模式嘉蕾，從而能夠在其后認(rèn)得出正在觀看的東西是這種物體。
其中最復(fù)雜的系統(tǒng)采用「深度學(xué)習(xí)」霜旧，這意味著需要擁有更多的信息處理層错忱。
然而航背，盡管計(jì)算機(jī)科學(xué)家了解人工神經(jīng)網(wǎng)絡(luò)如何工作喉悴，但他們并不一定知道在處理大數(shù)據(jù)時(shí)的具體細(xì)節(jié)棱貌。
我們目前對(duì)神經(jīng)網(wǎng)絡(luò)的理解還不夠。比如說(shuō)箕肃，無(wú)法準(zhǔn)確解釋為什么會(huì)存在對(duì)抗性例子婚脱，也不知道如何解決這個(gè)問(wèn)題。
部分問(wèn)題可能與現(xiàn)有技術(shù)被設(shè)計(jì)用來(lái)解決的任務(wù)的性質(zhì)有關(guān)勺像，例如區(qū)分貓和狗的圖像障贸。為了做到這一點(diǎn)，神經(jīng)網(wǎng)絡(luò)技術(shù)將處理大量貓和狗的模樣信息吟宦，直到有足夠的數(shù)據(jù)點(diǎn)來(lái)區(qū)分兩者篮洁。
一個(gè)真正強(qiáng)大的圖像分類(lèi)器會(huì)復(fù)制「相似性」對(duì)人類(lèi)的作用，因而可以認(rèn)出一個(gè)孩子涂鴉的貓和一張貓的照片以及一只現(xiàn)實(shí)生活中移動(dòng)的貓代表的是同一樣?xùn)|西殃姓。盡管深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)令人印象深刻袁波，但在對(duì)物體進(jìn)行分類(lèi)、感知周遭環(huán)境或處理突發(fā)事件方面蜗侈，仍無(wú)法與人腦匹敵篷牌。
如果我們想要開(kāi)發(fā)出能夠在現(xiàn)實(shí)世界中發(fā)揮作用的真正智能機(jī)器，或許我們應(yīng)該回到人腦上來(lái)踏幻，更好地理解人腦是如何解決這些問(wèn)題的枷颊。
▎捆綁問(wèn)題（Binding problem）
雖然神經(jīng)網(wǎng)絡(luò)是受到人類(lèi)視覺(jué)皮層的啟發(fā)，但越來(lái)越多的人認(rèn)識(shí)到這種相似性只是表面現(xiàn)象。一個(gè)關(guān)鍵的區(qū)別在于夭苗，除了識(shí)別物體邊緣的線條或物體本身等視覺(jué)特征外信卡，我們的大腦還對(duì)這些特征之間的關(guān)系進(jìn)行編碼。因此听诸，物體的邊緣就構(gòu)成了這個(gè)物體的一部分坐求。這使我們能夠?qū)ξ覀兯吹降哪Ｊ劫x予意義。
當(dāng)你或我看著一只貓時(shí)晌梨，我們看到了構(gòu)成貓的所有特征桥嗤，以及它們之間的相互關(guān)系，這種相互「捆綁的」信息是我們理解世界的能力和我們的一般智力的基礎(chǔ)仔蝌。
這個(gè)起關(guān)鍵作用的捆綁信息在當(dāng)代的人工神經(jīng)網(wǎng)絡(luò)中是缺失的泛领。
對(duì)于更具體的行為模式，科學(xué)家仍在探索敛惊。我們清楚的是 —— 大腦的工作方式與我們現(xiàn)有的機(jī)器深度學(xué)習(xí)模式非常不同渊鞋，因此，最終可能會(huì)走上一條完全不同的路才能成功瞧挤。很難說(shuō)可行性有多大锡宋，以及取得成功需要多長(zhǎng)時(shí)間。
與此同時(shí)特恬，對(duì)于越來(lái)越多人工智能驅(qū)動(dòng)的機(jī)器人执俩、汽車(chē)和程序，我們可能需要避免對(duì)其過(guò)于信任癌刽。因?yàn)槟阌肋h(yuǎn)不知道人工智能是不是正在產(chǎn)生被誤導(dǎo)的視覺(jué)役首。
原文鏈接：The ‘weird events’ that make machines hallucinate
推薦閱讀：斯坦福大學(xué)：2018 年人工智能 AI 指數(shù)報(bào)告
極小光，每天導(dǎo)讀一篇優(yōu)秀英文博文显拜。
歡迎關(guān)注微信公眾號(hào)「極光開(kāi)發(fā)者」—— 技術(shù) | 產(chǎn)品 | 思維衡奥。
