諾曼網(wǎng)站上的形象

去年年中，麻省理工學(xué)院媒體實驗室（The MIT Media Lab）的一個三人團隊秉剑，聯(lián)手創(chuàng)造了世界上第一個惡魔人工智能——諾曼（Norman）泛豪。

電影中隱藏殺手本性的諾曼

諾曼本身是一個簡單的人工智能，把圖像輸入給他侦鹏，他就會輸出一段自己對這個圖像的描述文字诡曙。跟普通人工智能一樣，諾曼需要訓(xùn)練略水，而諾曼的整個訓(xùn)練過程价卤，使用的都是來源于網(wǎng)絡(luò)上充滿消極情緒的圖片和文字描述，最終導(dǎo)致諾曼在對圖像進(jìn)行判斷的時候渊涝，所輸出的描述文字慎璧，都是消極的。

“諾曼”這個名字本身跨释，就來源于希區(qū)柯克的經(jīng)典電影《驚魂記》中的變態(tài)旅館老板諾曼貝茲胸私。

諾曼的惡魔式思想

諾曼起初是為了研究精神病療演算法，通過這種療法研究精神病的治愈方式鳖谈。但是但是進(jìn)一步的研究已經(jīng)超越了這個范疇岁疼。更多的人開始思考人工智能的偏見。

現(xiàn)實生活中的AI若受到有缺陷數(shù)據(jù)的訓(xùn)練缆娃，它們可能產(chǎn)生類似負(fù)面狀況捷绒，也就是產(chǎn)生偏見。

有無偏見的兩種思想碰撞會有很強烈的火花

去年5月贯要，美國法院用于評估囚犯風(fēng)險的AI暖侨，被指出對黑人囚犯有偏見。微軟2016年發(fā)布的聊天AI郭毕，很快就被種族主義者帶壞它碎，開始捍衛(wèi)某些人種至上主義，呼吁種族滅絕并表達(dá)出對希特勒的熱愛显押。

消除偏見是人類的目標(biāo)

從偏見產(chǎn)生的根源看，其實只要是經(jīng)過人篩選的數(shù)據(jù)本身就帶有人的主觀性傻挂，同時也很難把一個范疇內(nèi)所有客觀情況都輸入給人工智能乘碑，所以進(jìn)入到人工智能的數(shù)據(jù)，本身就是主觀的金拒。事實上也很難把兩個人為的觀念完全區(qū)分開來兽肤。所以偏見其實是客觀存在的套腹，很難根除，假設(shè)我們接受人工智能的偏見资铡，那我們怎么解決人工智能的偏見电禀？

傲慢與偏見中男女主消除了偏見才有個好結(jié)局

諾曼的研究人員給出了一個想法：希望更多的人，對諾曼的積極訓(xùn)練改變它的魔鬼思想笤休，馴化為天使的思想尖飞。

從人工智能可以訓(xùn)練的角度來看，人工智能是肯定可以被訓(xùn)練的店雅，但是它的魔鬼的部分政基，還是有可能會重新顯現(xiàn)出來。原因闹啦，就是它經(jīng)過了1萬次的魔鬼訓(xùn)練沮明，再經(jīng)過一千萬次天使訓(xùn)練之后，它可能還是有殘留魔鬼的思想窍奋。

人工智能的黑箱

由于訓(xùn)練本身是一個黑箱荐健，我們其實沒法直接判斷這個黑箱里面全部信息到底還有沒有魔鬼的部分。

阻斷療法：

最簡單琳袄，最直接的方法摧扇，就是放棄這個人工智能，不再使用這個人工智能挚歧，就好像判了一個人工智能死刑扛稽。徹底清空并重新訓(xùn)練人工智能。

判決現(xiàn)場

為什么是放棄整個人工智能滑负？我們知道在张，由于人工智能是一個黑箱，人工智能其實是一個獨立的智能矮慕，一個完整的人工智能帮匾，我們沒法分隔它所知道的知識。

但是當(dāng)這個人工智能本身痴鳄，存在一些有價值的判斷的時候呢瘟斜？直接清除掉，就把有價值的部分也清除掉了痪寻，可能不是最好的辦法螺句。

反觀我們?nèi)祟愂澜纾祟惷鎸σ粋€惡魔橡类，法律的最高懲罰蛇尚，其實就是清除他。而這個法律的依據(jù)顾画，就是人類自古就有的一報還一報思想取劫。

莎翁寫過一個小說匆笤，就是一報還一報

莎翁

疏通療法：

指尖科技說編者這個時候，想起兩個人：裘千仞和弗蘭克

《神雕俠侶》中的裘千仞心機算盡谱邪，被認(rèn)為是小人和險惡的代表炮捧，但是在他抱著宿敵的嬰兒小郭襄的時候，本來可以一掌報仇惦银，卻在被黃蓉設(shè)計偷走小郭襄后咆课，一刻頓悟，從此皈依佛門璧函。如果覺得這個例子傀蚌，只是小說，那我們看看真實的案例蘸吓。

裘千仞

弗蘭克·阿巴內(nèi)爾就是真實案例善炫，他16歲就開始偽造銀行支票，騙取多國銀行的250萬美元并被多國通緝库继，他假扮老師給學(xué)生上課箩艺，假扮醫(yī)生給病人開藥、假扮飛行員與空姐談戀愛宪萄。入獄后在獄中協(xié)助破案艺谆，最終出獄后和美國政府機關(guān)合作，成就了一個著名的安全顧問公司拜英。

弗蘭克

裘千仞的頓悟静汤，滔天局騙的改過自新，都說明人類意識的改變居凶，可以讓人刷新整個意識體系虫给。

這其中有一個非常關(guān)鍵的因素：人類的大腦，可以同時存在兩種相互矛盾的思想侠碧，而無礙于其處世行事抹估。

這正是心理學(xué)家托利得提出的托利得定理。

同時存在矛盾的思想不容易

于是我們可以嘗試思考：人工智能可以同時存在兩種完全矛盾的思想弄兜，并仍然無礙于其處世行事嗎药蜻？

指尖科技說小編現(xiàn)在只能想到一種實現(xiàn)方案：就是給人工智能一個高級的控制機制。

在人工智能的高一個層次替饿，進(jìn)行控制语泽。小編也認(rèn)為只有這種方法，才能徹底解決人工智能傾向性問題盛垦。

兩層人工智能對話

而現(xiàn)階段湿弦，人工智能技術(shù)并非不能做到，就是在人工智能基礎(chǔ)上多做一層人工智能道德篩選腾夯。

例如諾曼得到了惡魔的思想颊埃，我們卻在后面一層進(jìn)一步分析諾曼得到的結(jié)果，是否合適人類意志蝶俱，如果具有明顯的傾向性班利，我們就排除掉。

但指尖科技說小編也承認(rèn)榨呆，這并非最好的解決方案罗标。最好的解決方案肯定是在人工智能黑箱里直接進(jìn)行高一級的控制，這樣是最高效的积蜻。

偏見沒有贏家闯割，只會阻礙人類發(fā)展

假設(shè)人工智能偏見這個問題解決了，我們就不用再害怕我們給到人工智能的是有偏見的數(shù)據(jù)竿拆。甚至可以把這個技術(shù)運用到人類身上宙拉，使用腦機接口判斷人類思想，然后進(jìn)行進(jìn)一步控制丙笋。從而讓一些罪犯谢澈，從大腦思想上改變自身，而不僅是肉體上的清除御板。