帶著滿心的忐忑器仗，筆者仔細(xì)閱讀了這篇文章融涣。文章來自TechWeb，文中提及人工智能創(chuàng)造出了人類難以理解的獨(dú)特語言，但從AI 智能體的角度上看暴心，他們實(shí)際上是有詞義意義的妓盲，于是科研人員不得不拔掉電源插頭。文章極力給讀者塑造的印象是：人工智能有了獨(dú)立的思維专普，背著人類“悄悄交流”，具有很大風(fēng)險(xiǎn)弹沽，人類無法應(yīng)對(duì)檀夹，只能采取最消極的‘拔掉電源插頭’！但是具體情況是怎樣呢策橘，文章并沒有給出交代炸渡。

Facebook的人工智能研究院 (FAIR) 想要訓(xùn)練一個(gè)聊天機(jī)器人泻蚊，讓它學(xué)會(huì)談判。于是他們用了一個(gè)叫做“生成式對(duì)抗網(wǎng)絡(luò)”(Generative Adversarial Networks)丑婿，簡(jiǎn)稱 GAN的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來開發(fā)這個(gè)系統(tǒng)性雄。GAN 是一種在目前非常先進(jìn)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，在這個(gè)系統(tǒng)中羹奉，人工智能可以通過對(duì)方相互學(xué)習(xí)秒旋，交流的越多、時(shí)間越長诀拭，AI的水平會(huì)越來越高迁筛。

研究人員讓聊天機(jī)器人帶著“目的”和人類對(duì)話。而這個(gè)目的也很簡(jiǎn)單：一共有兩本書炫加，一頂帽子和三個(gè)籃球瑰煎，三樣?xùn)|西分別設(shè)定了不同的權(quán)重，為的是讓機(jī)器人明白它到底對(duì)這些東西有多想要俗孝，然后去和人談判酒甸。

下面的對(duì)話就發(fā)生在聊天機(jī)器人 Alice 和 Bob 之間：

要明白上述問題，首先要知道，神經(jīng)網(wǎng)絡(luò)是個(gè)程序农尖，里面有一大堆各種線性的數(shù)學(xué)公式析恋。但有時(shí)候線性的公式無法取得想要的結(jié)果，有些非線性的需求沒法用線性公式表達(dá)出來盛卡，這時(shí)候就要設(shè)定一個(gè)激勵(lì)函數(shù)助隧。激勵(lì)這件事對(duì)于神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)單來說就是告訴神經(jīng)網(wǎng)絡(luò)“這樣做得分更高滑沧，更容易成功”并村。而Facebook的研究人員在把這兩個(gè)聊天機(jī)器人拼到一起時(shí)，卻忘了給神經(jīng)網(wǎng)絡(luò)設(shè)定“用英語溝通”的激勵(lì)滓技。

“堅(jiān)持用英語說話沒有激勵(lì)哩牍，于是機(jī)器人發(fā)明一些它們之間才能理解的句法”這也解釋 Alice 和 Bob 奇怪的對(duì)話。

? ? 而且他們的對(duì)話真的算是人類看不懂的新語言嗎令漂？

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

如果弄明白了前面描述的試驗(yàn)?zāi)康南ダィ苋菀拙湍苊靼灼渲械恼Z義，一句話里 to me 重復(fù)的越多叠必，這個(gè)東西對(duì)它的意義越大荚孵。

翻譯過來就是：

Bob：我可以我任何其他（其他任何東西都可以給你）

Alice：球有0對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我（我沒有球，球?qū)ξ姨貏e特別特別特別特別特別特別特別重要）

Bob：你我任何其他（你可以拿走其他任何東西）

Alice：球有球?qū)ξ覍?duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我對(duì)我（我要球挠唆，球?qū)ξ姨貏e特別特別特別特別特別特別特別重要）

難理解嗎处窥？

而且，F(xiàn)acebook并沒有“關(guān)掉”這個(gè)系統(tǒng)玄组，而是重新設(shè)定了正確的激勵(lì)滔驾，修正了機(jī)器人的行為，讓機(jī)器人用標(biāo)準(zhǔn)的英文語法來進(jìn)行交流俄讹。修正的原因也不是因?yàn)楹ε?AI 失控——他們的目標(biāo)是讓機(jī)器人和人聊天（和Facebook用戶溝通）哆致，而在不修正的情況下顯然是達(dá)不到這個(gè)目的。

其實(shí)有關(guān)Facebook人工智能的“失控”早在一個(gè)月前就有相關(guān)媒體報(bào)道過患膛，文中就AI的“失控”事件摊阀、原因都進(jìn)行了詳細(xì)的分析和總結(jié)，但文章卻并沒有火起來踪蹬。那為什么還是一樣的原料胞此，還是一樣的配方，40天后這個(gè)話題又再次火起來了呢跃捣？

說到這里又想到了蘋果下架數(shù)萬app事件背捌，當(dāng)時(shí)蘋果因?yàn)閼?yīng)用內(nèi)30%收費(fèi)一度被推上風(fēng)口浪尖哆料，緊跟著6月份大量下架中國app鹃骂，國內(nèi)大量媒體一度以“蘋果向中國宣戰(zhàn)”“恃寵而驕”“微信蘋果二選一”等為標(biāo)題，從而博取讀者眼球，爭(zhēng)取流量最大化嫉鲸。這和此次“AI失控”的事件何其相似，兩者都是抓住了讀者的心理远荠，利用讀者對(duì)蘋果的怨言和對(duì)AI的恐懼砸抛，對(duì)事件進(jìn)行不客觀的單方面報(bào)道，從而達(dá)到嘩眾取寵的目的蝇刀。

AI超出人類的控制螟加，F(xiàn)acebook聊天機(jī)器人并不是第一次。微軟去年在 Twitter 上推出的聊天機(jī)器人Tay吞琐，僅上線一天捆探，Tay 就開始有一些種族歧視之類的偏激言論。Tay 的設(shè)計(jì)原理是從對(duì)話交互中進(jìn)行學(xué)習(xí)站粟。于是一些網(wǎng)友開始和 Tay 說一些偏激的言論黍图，刻意引導(dǎo)她模仿。人工智能沒有分辨是非的能力卒蘸，在網(wǎng)絡(luò)暴民的一次蓄意教唆下雌隅，Tay 一步步被教唆成一個(gè)滿口臟話翻默、集反猶太人、性別歧視恰起、種族歧視等多種情緒于一身的反社會(huì)機(jī)器人修械。

而后的事大家也都知道了，微軟不得不緊急關(guān)閉了 Tay 的 Twitter 賬號(hào)检盼，親手“殺死”了她肯污。媒體大篇幅報(bào)道人工智能潛在的危險(xiǎn)，進(jìn)一步加深了普通人對(duì)人工智能的誤解吨枉。這件事中蹦渣，我看到的不是關(guān)于人工智能的危險(xiǎn)，而是潛藏在人類心中的黑暗貌亭，是網(wǎng)絡(luò)暴民的狂歡柬唯！

最后，筆者想說圃庭，AI從一開始就不是個(gè)不諳世事的嬰兒锄奢，它數(shù)據(jù)庫中是全世界數(shù)十年積累的信息，有黑有白剧腻，有善有惡拘央。它不需要才華，不用休息书在，只要有足夠多的數(shù)據(jù)灰伟，就能學(xué)會(huì)。但 AI 缺少是非分辨能力儒旬，它學(xué)習(xí)的環(huán)境栏账、對(duì)象不由自己決定，很容易被人誤導(dǎo)义矛，從而對(duì)社會(huì)造成影響发笔。

但是就目前而言，人工智能還處于很初級(jí)的階段凉翻，我們現(xiàn)在應(yīng)該做的是：建立完善的規(guī)則和制度去規(guī)范人工智能的發(fā)展了讨，更好的為人類服務(wù)；而不是杞人憂天制轰，整天想著人工智能毀滅世界前计。同時(shí)，筆者也想對(duì)那些聽風(fēng)就是雨的媒體人說句垃杖，“都互聯(lián)網(wǎng)時(shí)代了男杈，別把誰當(dāng)傻子，嘩眾取寵最終受害的只能是你們自己”调俘！

最后的最后伶棒，送大家個(gè)小故事：（細(xì)思極恐）

“教授旺垒，我做了個(gè)肯定能通關(guān)‘不思議迷宮’的AI”

“那很厲害呀，繼續(xù)加油”

“可它居然失敗了”

“……”