科學(xué)Sciences導(dǎo)讀：美國(guó)五重院士特倫斯談人工智能瓶頸遠(yuǎn)未達(dá)極限府蔗，數(shù)學(xué)家有AI可解釋性理論工具晋控；人工智能正在帶來數(shù)學(xué)和統(tǒng)計(jì)學(xué)的新紀(jì)元。B部分簡(jiǎn)政放權(quán)建議姓赤，可回收再利用垃圾應(yīng)該讓市場(chǎng)化解決赡译；不可回收垃圾處理方式無非是垃圾焚燒發(fā)電、垃圾掩埋自然降解不铆，應(yīng)該分類處理蝌焚！現(xiàn)行垃圾分類制度完全可以簡(jiǎn)化成兩種垃圾清運(yùn)。
A美國(guó)五重院士特倫斯談人工智能瓶頸遠(yuǎn)未達(dá)極限狂男，數(shù)學(xué)家有AI可解釋性理論工具
美國(guó)五重院士特倫斯談人工智能瓶頸遠(yuǎn)未達(dá)極限综看，數(shù)學(xué)家有AI可解釋性理論工具
美國(guó)五大國(guó)家學(xué)院(國(guó)家科學(xué)院、國(guó)家工程院岖食、國(guó)家醫(yī)學(xué)院、國(guó)家藝術(shù)與科學(xué)學(xué)院舞吭、國(guó)家發(fā)明家學(xué)院)院士泡垃，IEEE follow析珊，美國(guó)物理學(xué)會(huì)會(huì)士，美國(guó)“腦計(jì)劃”項(xiàng)目領(lǐng)軍人物蔑穴，索爾克研究所Francis Crick教授忠寻，克里克-雅各布理論和計(jì)算生物學(xué)中心主任，《深度學(xué)習(xí)》作者存和，人工智能科學(xué)家特倫斯·謝諾夫斯基(Terrence Sejnowski)公開表示奕剃，人工智能“瓶頸”遠(yuǎn)未達(dá)極限，數(shù)學(xué)家已經(jīng)有了實(shí)現(xiàn)AI可解釋性的理論工具捐腿。目前美國(guó)數(shù)學(xué)界已有相應(yīng)理論工具用來實(shí)現(xiàn)深度學(xué)習(xí)黑盒的可解釋性纵朋，但因尚未發(fā)表，無法透露更多細(xì)節(jié)茄袖。特倫斯認(rèn)為人工智能正在帶來數(shù)學(xué)和統(tǒng)計(jì)學(xué)的新紀(jì)元操软。同時(shí)，在特倫斯看來宪祥，目前正如蒸汽機(jī)和熱力學(xué)的關(guān)系一樣——在蒸汽機(jī)發(fā)明數(shù)十年后人們才了解熱力學(xué)并且用它來改良蒸汽機(jī)——人工智能的底層數(shù)學(xué)聂薪、腦科學(xué)邏輯可以在發(fā)展過程中逐漸被人們掌握和理解。 一蝗羊、深度學(xué)習(xí)可解釋性問題人工智能三巨頭之一Yann LeCun認(rèn)為：人類大腦是非常有限的藏澳，我們沒有那么多腦容量去研究所有東西的可解釋性。有些東西是需要解釋的耀找，比如法律翔悠，但大多數(shù)情況下，它們并沒有你想象中那么重要涯呻。比如世界上有那么多應(yīng)用凉驻、網(wǎng)站，你每天用Facebook复罐、Google的時(shí)候涝登，你也沒想著要尋求它們背后的可解釋性。LeCun舉了一個(gè)例子：他多年前和一群經(jīng)濟(jì)學(xué)家也做了一個(gè)模型來預(yù)測(cè)房?jī)r(jià)效诅。第一個(gè)用的簡(jiǎn)單的線性于猜測(cè)模型胀滚，經(jīng)濟(jì)學(xué)家也能解釋清楚其中的原理；第二個(gè)用的是復(fù)雜的神經(jīng)網(wǎng)絡(luò)乱投，但效果比第一個(gè)好上不少咽笼。結(jié)果，這群經(jīng)濟(jì)學(xué)家想要開公司做了戚炫。你說他們會(huì)選哪個(gè)剑刑？LeCun表示，任何時(shí)候在這兩種里面選擇都會(huì)選效果好的。就像很多年里雖然我們不知道藥物里的成分但一直在用一樣施掏。但是不可否認(rèn)的是钮惠，可解釋性始終是一個(gè)非常好的性質(zhì)，如果我們能兼顧效率七芭、準(zhǔn)確度素挽、說人話這三個(gè)方面，具備可解釋性模型將在很多應(yīng)用場(chǎng)景中具有不可替代的優(yōu)勢(shì)狸驳。無論是考慮到學(xué)術(shù)预明、教學(xué)、業(yè)界耙箍、設(shè)計(jì)還是安全撰糠，可解釋性的好處遠(yuǎn)遠(yuǎn)大于不可解釋性。頂會(huì)ACL及其社群非常依靠經(jīng)驗(yàn)驅(qū)動(dòng)究西，求并做好可以復(fù)制和重現(xiàn)的假設(shè)驅(qū)動(dòng)的科學(xué)窗慎，如同Chris Manning教授的博士生Abigail(個(gè)人網(wǎng)站http://www.Abigailsee.com)的文章Machine Learning Vs Statistics(《機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)》)中所說，深度學(xué)習(xí)高速發(fā)展的這幾年卤材，NLP社區(qū)有理由感到興奮和焦慮遮斥。深度學(xué)習(xí)已經(jīng)成功運(yùn)用在自然語言、多媒體扇丛、計(jì)算機(jī)視覺术吗、語音和跨媒體等相關(guān)的特定領(lǐng)域。然而帆精，這一架構(gòu)在“端到端”模式下较屿、通過標(biāo)注大量數(shù)據(jù)來進(jìn)行誤差后向傳播而優(yōu)化參數(shù)的學(xué)習(xí)方法被比喻為一個(gè)“黑盒子”，解釋性較弱遙可解釋性指算法要對(duì)特定任務(wù)給出清晰概括卓练，并與人類世界中已定義的原則或原理聯(lián)結(jié)隘蝎。在諸如自動(dòng)駕駛、醫(yī)療和金融決策等“高風(fēng)險(xiǎn)”領(lǐng)域襟企，利用深度學(xué)習(xí)進(jìn)行重大決策時(shí)嘱么，往往需要知曉算法所給出結(jié)果的依據(jù)。因此，透明化深度學(xué)習(xí)的“黑盒子”，使其具有可解釋性侵状，具有重要意義。圍繞深度學(xué)習(xí)可解釋性這一問題冰评，Abigail從卷積神經(jīng)網(wǎng)絡(luò)可視化、卷積神經(jīng)網(wǎng)絡(luò)的特征分析木羹、卷積神經(jīng)網(wǎng)絡(luò)的缺陷及優(yōu)化甲雅、利用傳統(tǒng)機(jī)器學(xué)習(xí)模型來解釋神經(jīng)網(wǎng)絡(luò)和基于可解釋模塊的深度網(wǎng)絡(luò)學(xué)習(xí)這五個(gè)方面介紹現(xiàn)有研究工作。
Abigail對(duì)近年來人工智能頂級(jí)會(huì)議上關(guān)于深度學(xué)習(xí)可解釋性的論文發(fā)表數(shù)量進(jìn)行統(tǒng)計(jì)分析，發(fā)現(xiàn)深度學(xué)習(xí)的可解釋性是目前人工智能研究的一個(gè)熱點(diǎn)务荆。最后妆距，Abigail認(rèn)為深度學(xué)習(xí)的可解釋性研究可從因果模型穷遂、推理函匕、認(rèn)知理論和模型、智能人機(jī)交互等方面著手蚪黑，以構(gòu)建出可解釋盅惜、更通用和適應(yīng)性強(qiáng)的人工智能理論、模型和方法忌穿。當(dāng)然抒寂，很多學(xué)者對(duì)可解釋性的必要性也存有疑惑，在NIPS 2017會(huì)場(chǎng)上掠剑，曾進(jìn)行了一場(chǎng)非常激烈火爆的主題為“可解釋性在機(jī)器學(xué)習(xí)中是否必要”的辯論屈芜，大家對(duì)可解釋性的呼聲還是非常高的。 二朴译、有哪些可解釋性方法井佑？機(jī)器學(xué)習(xí)目標(biāo)是從數(shù)據(jù)中發(fā)現(xiàn)知識(shí)或解決問題，那么在這個(gè)過程中只要是能夠提供給我們關(guān)于數(shù)據(jù)或模型的可以理解的信息眠寿，有助于我們更充分地發(fā)現(xiàn)知識(shí)躬翁、理解和解決問題的方法，那么都可以歸類為可解釋性方法盯拱。如果按照可解釋性方法進(jìn)行的過程進(jìn)行劃分的話盒发，大概可以劃分為三個(gè)大類：1. 在建模之前的可解釋性方法2. 建立本身具備可解釋性的模型3. 在建模之后使用可解釋性方法對(duì)模型作出解釋近年來，已有很多論文探索可解釋性狡逢。比如CAM論文
CAM特征圖經(jīng)過GAP處理后每一個(gè)特征圖包含了不同類別的信息宁舰，其具體效果如上圖的Class Activation Mapping中的圖片所示，其中的權(quán)重w對(duì)應(yīng)分類時(shí)的權(quán)重奢浑。這樣做的缺陷是因?yàn)橐鎿Q全連接層為GAP層蛮艰，因此模型要重新訓(xùn)練，這樣的處理方式對(duì)于一些復(fù)雜的模型是行不通的殷费，Grad-CAM很好的解決了這個(gè)問題印荔，繪制熱力圖：①提取出所有的權(quán)重，往回找到對(duì)應(yīng)的特征圖详羡，然后進(jìn)行加權(quán)求和即可仍律；②通常來說，最后一層卷積層的大小不等于輸入大小实柠，所以我們需要把這個(gè)類激活映射上采樣到原圖大小水泉，再疊加在原圖上，就可以觀察到網(wǎng)絡(luò)得到這個(gè)輸出是關(guān)注圖片的哪個(gè)區(qū)域。CAM的意義就是以熱力圖的形式告訴我們草则，模型通過哪些像素點(diǎn)得知圖片屬于某個(gè)類別钢拧。缺點(diǎn)需要修改網(wǎng)絡(luò)結(jié)構(gòu)并重新訓(xùn)練模型，導(dǎo)致在實(shí)際應(yīng)用中并不方便炕横！Grad-CAM
效果圖:
Grad-CAM和CAM基本思路一樣源内，區(qū)別就在于如何獲取每個(gè)特征圖的權(quán)重，采用了梯度的全局平均來計(jì)算權(quán)重份殿。定義Grad-CAM中第k個(gè)特征圖對(duì)應(yīng)類別c的權(quán)重
其中膜钓，Z表示特征圖的像素個(gè)數(shù)，yc表示第c類得分的梯度卿嘲，Aijk表示第k個(gè)特征圖中颂斜，(i,j)位置處的像素值。然后再求得所有的特征圖對(duì)應(yīng)的類別的權(quán)重后進(jìn)行加權(quán)求和拾枣，這樣便可以得到最后的熱力圖沃疮，求和公式如下：
代碼實(shí)現(xiàn)在keras-cam和keras/pytorch實(shí)現(xiàn)，此處參考：
①spytensor的博客:“卷積可視化”：Grad-CAM梅肤；
②global-average-pooling-layers-for-object-localization司蔬；
③《Grad-CAM:VisualExplanations from Deep Networks via Gradient-based Localization》；④https://bindog.github.io/blog/2018/02/10/model-explanation/凭语；
⑤Grad-CAM: Why did you say that? Visual Explanationsfrom Deep Networks via Gradient-based Localization葱她。
[14] 三、深度學(xué)習(xí)瓶頸即將解決深度學(xué)習(xí)是目前人工智能最受關(guān)注的領(lǐng)域似扔，也是這一輪人工智能興起的原因吨些。與此同時(shí)，這一技術(shù)具有不可解釋等特性也使得一些觀點(diǎn)認(rèn)為深度學(xué)習(xí)已經(jīng)面臨瓶頸炒辉。2019年7月25日豪墅，特倫斯·謝諾夫斯基在接受采訪時(shí)[14]表示目前美國(guó)數(shù)學(xué)界已經(jīng)有了相應(yīng)的理論工具用來實(shí)現(xiàn)深度學(xué)習(xí)黑盒的可解釋性，盡管因?yàn)樯形窗l(fā)表黔寇，他無法透露更多細(xì)節(jié)偶器，但特倫斯談人工智能“瓶頸”遠(yuǎn)未達(dá)極限，數(shù)學(xué)家已經(jīng)有了實(shí)現(xiàn)AI可解釋性的理論工具缝裤。特倫斯也認(rèn)為人工智能正在帶來數(shù)學(xué)和統(tǒng)計(jì)學(xué)的新紀(jì)元屏轰。同時(shí)，在特倫斯看來憋飞，目前正如蒸汽機(jī)和熱力學(xué)的關(guān)系一樣——在蒸汽機(jī)發(fā)明數(shù)十年后人們才了解熱力學(xué)并且用它來改良蒸汽機(jī)——人工智能的底層數(shù)學(xué)霎苗、腦科學(xué)邏輯可以在發(fā)展過程中逐漸被人們掌握和理解。經(jīng)濟(jì)觀察網(wǎng)：目前深度學(xué)習(xí)技術(shù)路線還有多少潛力榛做？是否已經(jīng)遇到了天花板唁盏？特倫斯：我覺得不太可能達(dá)到局限内狸，現(xiàn)在深度學(xué)習(xí)剛剛進(jìn)入到一個(gè)發(fā)展的開端，發(fā)展應(yīng)該是以10年為周期來計(jì)算的厘擂，未來20年昆淡、30年才能達(dá)到一個(gè)極限。現(xiàn)在我們才做了第一步刽严，通過展示相關(guān)AI技術(shù)來解決問題的昂灵，而未來我們還有更多問題需要解決。對(duì)比因特網(wǎng)港庄，在它剛開始能夠發(fā)郵件的時(shí)候倔既，我們沒法預(yù)測(cè)它能對(duì)我們的商業(yè)、生活帶來什么影鹏氧。所以對(duì)于AI將會(huì)帶來的影響，我們還需要等待佩谣。經(jīng)濟(jì)觀察網(wǎng)：您講的主要是應(yīng)用層的影響把还，那么在底層理論層面，這項(xiàng)技術(shù)有沒有更大突破茸俭，比如數(shù)學(xué)方面吊履？特倫斯：我之前在華盛頓參加了一個(gè)由美國(guó)科學(xué)院舉辦的學(xué)術(shù)研討會(huì)，該研討會(huì)的主題是“深度學(xué)習(xí)的科學(xué)”调鬓。組織這場(chǎng)學(xué)術(shù)研討會(huì)的數(shù)學(xué)家是擁有相關(guān)有技能和工具艇炎，能夠測(cè)試深度學(xué)習(xí)網(wǎng)絡(luò)內(nèi)部結(jié)構(gòu)的人。人們經(jīng)常用“黑盒子”來詮釋深度學(xué)習(xí)腾窝，這是不對(duì)的缀踪，甚至恰恰相反，因?yàn)檫@些所謂的“黑盒子”完全是透明可見的虹脯，我們可以訪問其中每一個(gè)單獨(dú)的連接單元驴娃、每一個(gè)活動(dòng)型態(tài)，它們都在那里循集。而現(xiàn)在唇敞，數(shù)學(xué)家們可以探究其中，開始檢驗(yàn)?zāi)Ｐ褪侨绾位顒?dòng)的咒彤，信息是如何在網(wǎng)絡(luò)中流動(dòng)的疆柔，最終它是如何執(zhí)行轉(zhuǎn)換的。這件問題經(jīng)常通過一些例子被討論镶柱。這件事正在發(fā)生旷档，在上述會(huì)議上的數(shù)學(xué)家們已經(jīng)開始描述他們對(duì)此的新洞見。統(tǒng)計(jì)學(xué)家們則提出一些悖論奸例，你們擁有這么多參數(shù)彬犯，現(xiàn)在可能會(huì)存在過度擬合的現(xiàn)象向楼。眾所周知，現(xiàn)在有這么多的參數(shù)谐区，其量之大遠(yuǎn)超于任何數(shù)學(xué)家和統(tǒng)計(jì)學(xué)家過去所能接觸到的內(nèi)容湖蜕。我認(rèn)為這將是數(shù)學(xué)和統(tǒng)計(jì)學(xué)的新紀(jì)元。我認(rèn)為這將產(chǎn)生深遠(yuǎn)影響宋列，因?yàn)閷?duì)于任何科技來說昭抒，一旦你觸摸到了數(shù)學(xué)和物理的基本原理，你就可以更加深入地拓展它炼杖。以蒸汽機(jī)為例灭返，兩百五十年前，英國(guó)人詹姆斯·瓦特發(fā)明了蒸汽機(jī)坤邪。它改變了整個(gè)社會(huì)熙含，因?yàn)樗夥帕巳祟惿a(chǎn)力。人們用了數(shù)十年了解熱力學(xué)原理艇纺，去理解蒸汽機(jī)如何工作怎静，以及如何優(yōu)化其使用效能。在此后一百年里黔衡，人們據(jù)此原理創(chuàng)造出了一個(gè)全新的工業(yè)時(shí)代蚓聘，出現(xiàn)了能夠創(chuàng)造數(shù)百萬社會(huì)財(cái)富的火車等交通工具，工廠也因此更新?lián)Q代…這原本只是科技動(dòng)能的轉(zhuǎn)換盟劫，但經(jīng)過人們對(duì)此的多年認(rèn)知和了解后夜牡，它最終引領(lǐng)了整個(gè)社會(huì)的未來發(fā)展方向。所以我們現(xiàn)在處于一個(gè)非常初期的階段侣签。這是我們的第一步塘装，我們剛剛開始試圖闡釋其復(fù)雜性，目前這是非常令人激動(dòng)的硝岗，這個(gè)時(shí)間段里氢哮，大量的前期研究正在被驗(yàn)證。不僅僅是在應(yīng)用層面型檀，這也將試圖讓人們?nèi)ダ斫獯竽X本身冗尤，去理解我們自己的大腦是如何工作的。我們認(rèn)為胀溺，在AI與神經(jīng)科學(xué)之間的合作上裂七，存在著一些令人激動(dòng)的研究方向。經(jīng)濟(jì)觀察網(wǎng)：您提到很多一次仓坞，深度學(xué)習(xí)不是“黑盒子”是可以解釋背零，您的意思是美國(guó)已經(jīng)找到了深度學(xué)習(xí)可解釋的方法或者說找到了實(shí)現(xiàn)這個(gè)目標(biāo)的數(shù)學(xué)工具？特倫斯：是的,我們確實(shí)有這方面的理論了无埃。數(shù)學(xué)家已經(jīng)有很多相關(guān)的研究進(jìn)展了徙瓶，但是內(nèi)容還沒有被發(fā)表出來毛雇。但是我跟他們交流過，他們告訴我這些偉大的研究和發(fā)現(xiàn)在未來將不斷被推進(jìn)侦镇。我現(xiàn)在還不能私下跟你透露任何細(xì)節(jié)灵疮，但是我可以這么說，這或?qū)⑹且粋€(gè)革命性的研究壳繁。一旦這些數(shù)學(xué)家掌握了深度學(xué)習(xí)的規(guī)則震捣，以及這些深度學(xué)習(xí)是如何發(fā)生的，它將成為一個(gè)改革性的事件闹炉，它將創(chuàng)造出數(shù)學(xué)模型中的一頁新篇章蒿赢。總而言之渣触，我的答案是肯定的羡棵，我們已經(jīng)對(duì)此有了相當(dāng)多的了解，但同時(shí)它還在不斷發(fā)展中昵观。
素材(1400字)
1. terry-sejnowski介紹．UpClosed.com[引用日期2018-12-14]
2. 特倫斯·謝諾夫斯基簡(jiǎn)介．索爾克研究所[引用日期2018-12-11]
3. 院士名單．美國(guó)國(guó)家科學(xué)院[引用日期2018-12-11]
4. 2011年院士名單．美國(guó)國(guó)家工程院[引用日期2018-12-11]
5. 成員名單．美國(guó)國(guó)家藝術(shù)與學(xué)科學(xué)院[引用日期2018-12-11]
6. 成員名單．美國(guó)國(guó)家物理學(xué)院[引用日期2018-12-11]
7. Terrence_Sejnowski簡(jiǎn)介．ETHW[引用日期2018-12-13]
8. the most popular online course teaches you tolearn．紐約時(shí)報(bào)[引用日期2018-12-13]
9. 深度學(xué)習(xí)．MIT出版社[引用日期2018-12-11]
10. 成員名單．美國(guó)發(fā)明家學(xué)院[引用日期2018-12-11]
11. 詞條統(tǒng)計(jì)：瀏覽1953次晾腔，編輯2次歷史版本，最近更新：格斗天王2046 (2018-12-31)啊犬，突出貢獻(xiàn)榜：jiangyiming322. 特倫斯·謝諾夫斯基. [EB/OL], baike,baike.baidu.com/item/特倫斯·謝諾…, visit date: 2019-07-31Wed
12. salk. Terrence Sejnowski. [EB/OL], salk,www.salk.edu/scientist/t…, visit date: 2019-07-31Wed
13. Terry Sejnowski. [EB/OL], peoplepill, peoplepill.com/people/terr…, visit date:2019-07-31Wed
14. reallocing. 深度學(xué)習(xí)的可解釋性|Class Activation Mapping(CAM). [EB/OL],www.reibang.com/p/3c4aa73fd…, 2019-02-14 15:29* 字?jǐn)?shù) 537, visit date: 2019-07-31Wed
15. 觀察者網(wǎng).美國(guó)“四院院士”特倫斯談人工智能“瓶頸”：遠(yuǎn)未達(dá)極限，數(shù)學(xué)家已經(jīng)有了實(shí)現(xiàn)AI可解釋性的理論工具. [EB/OL],鳳凰網(wǎng),finance.ifeng.com/c/7obWxA8jT…, 算法與數(shù)學(xué)之美, mp.weixin.qq.com/s/Eh70INWf0…, 2019-07-30, visit date:2019-07-31Wed
