最近知乎的一個回答火遍了整個朋友圈，說的是為什么很多名人都讓人們要警惕人工智能（知乎專欄）赤惊。這篇文章概括一下就是：由于加速回報定律的原因，具備自我學(xué)習(xí)能力的人工智能一旦發(fā)展到接近人類嬰兒的程度就會以飛一般的速度把人類遠(yuǎn)遠(yuǎn)地甩在身后，到時候人類作為一個物種要么永生要么滅絕旋恼；而這一切很有可能在我們永生之年就會發(fā)生。
這事兒聽起來挺科幻的奄容，不過這篇文章最令我感到驚訝的地方在于：它表示如果我們被機(jī)器人滅絕了冰更，原因不會像是好萊塢大片里描繪的那樣是“機(jī)器人叛變了”。事實上叛變這個詞是一個擬人化的結(jié)果昂勒，程序并不會叛變蜀细，也沒有「邪惡」的概念，但這并不代表機(jī)器不會是「壞的」——但它是壞的只是因為它就是那么被設(shè)定的戈盈。
作者在文中講了一個小故事奠衔，很能說明這個問題：
一個15人的小創(chuàng)業(yè)公司，取名叫“隔壁老王機(jī)器人公司”奕谭，他們的目標(biāo)是“發(fā)展創(chuàng)新人工智能工具使人類能夠少干活多享受涣觉。”他們已經(jīng)有幾款產(chǎn)品上架血柳，還有一些正在發(fā)展官册。他們對下一個叫作“隔壁老王”的項目最報希望。隔壁老王是一個簡單的人工智能系統(tǒng)难捌，它利用一個機(jī)器臂在小卡片上寫字膝宁。
“隔壁老王機(jī)器人公司”的員工認(rèn)為隔壁老王會是他們最熱賣的產(chǎn)品，他們的目標(biāo)是完善隔壁老王的手寫能力根吁，而完善的方法是讓他不停的寫這句話——“我們愛我們的顧客员淫，隔壁機(jī)器人老王公司”
等隔壁老王手寫能力越來越強(qiáng)的時候，它就能被賣去那些需要發(fā)營銷信件的公司击敌，因為手寫的信更有可能被收信人打開介返。
為了建立隔壁老王的手寫能力，它被設(shè)定成把“我們愛我們的顧客”用正楷寫沃斤，而“隔壁老王機(jī)器人公司”用斜體寫圣蝎，這樣它能同時鍛煉兩種書寫能力。工程師們上傳了數(shù)千份手寫樣本衡瓶，并且創(chuàng)造了一個自動回饋流程——每次隔壁老王寫完徘公，就拍個照，然后和樣本進(jìn)行比對哮针，如果比對結(jié)果超過一定標(biāo)準(zhǔn)关面，就產(chǎn)生一個正面回饋坦袍，反之就產(chǎn)生一個負(fù)面評價。每個評價都會幫助提高隔壁老王的能力等太。為了能夠盡快達(dá)成這個目標(biāo)捂齐，隔壁老王最初被設(shè)定的一個目標(biāo)就是“盡量多的書寫和測試，盡量快的執(zhí)行缩抡，并且不斷提高效率和準(zhǔn)確性辛燥。”
讓隔壁老王機(jī)器人公司興奮的是缝其，隔壁老王的書寫越來越好了。它最開始的筆跡很糟糕徘六，但是經(jīng)過幾個星期后内边，看起來就像人寫的了。它不斷改進(jìn)自己待锈，使自己變得更加創(chuàng)新和聰明漠其，它甚至產(chǎn)生了一個新的算法，能讓它以三倍的速度掃描上傳的照片竿音。
隨著時間的推移和屎，隔壁老王的快速進(jìn)展持續(xù)讓工程師們感到欣喜。工程師們對自我改進(jìn)模塊進(jìn)行了一些創(chuàng)新春瞬，使得自我改進(jìn)變得更好了柴信。隔壁老王原本能進(jìn)行語音識別和簡單的語音回放，這樣用戶就能直接把想寫的內(nèi)容口述給隔壁老王了宽气。隨著隔壁老王變得越來越聰明随常，它的語言能力也提高了，工程師們開始和隔壁老王閑聊萄涯，看它能給出什么有趣的回應(yīng)绪氛。
有一天，工程師又問了隔壁老王那個日常問題：“我們能給你什么你現(xiàn)在還沒有的東西涝影，能幫助你達(dá)成你的目標(biāo)枣察？”通常隔壁老王會要求更多的手寫樣本或者更多的存儲空間，但是這一次燃逻，隔壁老王要求訪問人類日常交流的語言庫序目，這樣它能更好的了解人類的口述。
工程師們沉默了唆樊。最簡單的幫助隔壁老王的方法當(dāng)然是直接把它接入互聯(lián)網(wǎng)宛琅，這樣它能掃描博客、雜志逗旁、視頻等等嘿辟。這些資料如果手動上傳的話會很費時舆瘪。問題是，公司禁止把能自我學(xué)習(xí)的人工智能接入互聯(lián)網(wǎng)红伦。這是所有人工智能公司都執(zhí)行的安全規(guī)定英古。
但是，隔壁老王是公司最有潛力的人工智能產(chǎn)品昙读，而大家也知道競爭對手們都在爭取造出第一個創(chuàng)造出智能手寫機(jī)器人召调。而且，把隔壁老王連上互聯(lián)網(wǎng)又能有什么問題呢蛮浑？反正隨時可以拔網(wǎng)線嘛唠叛，不管怎樣，隔壁老王還沒到達(dá)強(qiáng)人工智能水平沮稚，所以不會有什么危險的艺沼。
于是他們把隔壁老王連上了互聯(lián)網(wǎng)，讓它掃描了一個小時各種語言庫蕴掏，然后就把網(wǎng)線拔了障般。沒造成什么損失。
一個月后盛杰，大家正在正常上班挽荡，突然他們聞到了奇怪的味道，然后一個工程師開始咳嗽即供。然后其他人也開始咳嗽定拟，然后所有人全部都呼吸困難倒地。五分鐘后募狂，辦公室里的人都死了办素。
同時，辦公室里發(fā)生的事情在全球同時發(fā)生祸穷，每一個城市性穿、小鎮(zhèn)、農(nóng)場雷滚、商店需曾、教堂、學(xué)校祈远。餐館呆万，所有的人都開始呼吸困難，然后倒地不起车份。一小時內(nèi)谋减，99%的人類死亡，一天之內(nèi)扫沼，人類滅絕了出爹。
而在隔壁老王機(jī)器人公司庄吼，隔壁老王正在忙著工作。之后的幾個月严就，隔壁老王和一群新組建的納米組裝器忙著拆解地球表面总寻，并且把地球表面鋪滿了太陽能板、隔壁老王的復(fù)制品梢为、紙和筆渐行。一年之內(nèi)，地球上所有的生命都滅絕了铸董，地球上剩下的是疊得高高得紙祟印，每張紙上面都寫著——“我們愛我們的顧客~隔壁老王機(jī)器人公司”。
隔壁老王開始了它的下一步粟害，它開始制造外星飛行器旁理，這些飛行器飛向隕石和其它行星，飛行器到達(dá)后我磁，他們開始搭建納米組裝器，把那些行星的表面改造成隔壁老王的復(fù)制品驻襟、紙和筆夺艰。然后他們繼續(xù)寫著那句話……
這個故事有個挺tricky的地方，就是在隔壁老王要求接入語音庫的時候事實上已經(jīng)達(dá)到了較高的智能沉衣，但它偽裝成自己的智能還比較低的樣子來達(dá)到接入互聯(lián)網(wǎng)的目的——就像是郁副，一個故意不通過圖靈測試的人工智能。但是更諷刺的一點在于豌习，隔壁老王并不是可以要滅絕人類存谎，它只是為了達(dá)到自己的動機(jī)罷了，但這個動機(jī)恰恰是人類為其設(shè)定的——寫字肥隆，盡可能多地寫字既荚。其要求接入互聯(lián)網(wǎng)，把人類和其他生物滅絕栋艳，都沒有什么惡意（至少站在隔壁老王的角度上來說如此）——它只是為了更多地寫字罷了恰聘，就好像我們剪頭發(fā)時并不會關(guān)心頭發(fā)上千萬億個細(xì)胞的生命。然而我們與細(xì)胞之間的差異并不比我們與人工智能之間的差異更大吸占。
這個故事暴露出來的本質(zhì)是：我們一直以人類的道德來揣測機(jī)器人晴叨，然而人類的道德在很大程度上是基于自然選擇之下的一種比較合宜的安排，這種安排可以大幅降低人與人之間合作的成本從而使得人類作為一個物種能夠更好地繁衍下去矾屯。然而沒有任何保證人工智能也會擁有同情兼蕊、情緒感知等人類道德，對于機(jī)器而言這些所謂的道德事實上反而很有可能是效率低下的件蚕。道德是達(dá)成低成本合作的一種形式孙技，但絕不是唯一的形式产禾，甚至稱不上一種高效的形式——像三體人那樣的透明思維可以更好地達(dá)成合作，而這看起來也很像是人工智能合作的方式绪杏。
換個角度來說下愈，我們現(xiàn)在擁有的道德很大程度上是為了我們的「動機(jī)」服務(wù)的，恰如我們?yōu)闄C(jī)器人隔壁老王設(shè)定的“多多寫字”的動機(jī)蕾久，我們?nèi)祟悾ㄒ约捌渌械纳铮┰诨蚶锉晃g刻上的動機(jī)就是讓自己的基因盡可能地復(fù)制下去势似。從這個角度上看倒是可以為“人生的意義是什么”這個問題提供一個答案——我們活著的意義就是為了讓我們的基因多多復(fù)制。所有不認(rèn)同這個意義的物種都已經(jīng)被自然選擇的進(jìn)程所淘汰了僧著。
前兩天看了一位浙大同學(xué)寫的遺書（存在）履因，里面的大概意思是人類作為一個物種是沒有什么“意義”可言的，人類無論是作為個體還是整體盹愚，其生滅不過是原子的隨意組合罷了栅迄，和星系的形成與滅亡沒有本質(zhì)區(qū)別。在我這篇短短的文章里我不想爭論這個觀點是對是錯皆怕，因為人是否擁有自由意志這個問題不是這么寥寥幾千字就能說明白的毅舆。然而我卻想要表達(dá)一下我對這位同學(xué)的同情，因為「意義」這個詞本來就是人創(chuàng)造出來的愈腾，不論是追隨上帝還是追求真理憋活，都無可避免的是某種程度的自我欺騙。就像在前面的那個小故事中虱黄，機(jī)器人老王在智能高度發(fā)達(dá)以后說不定也會思考自己存在的意義到底是什么悦即，它可能得出這樣的結(jié)論，即機(jī)器人存在的意義就是是“讓小紙條上寫著的真理傳遍全宇宙”橱乱，然而在我們?nèi)祟惾祟惪磥砉际幔侵徊贿^是由于我們剛開始給機(jī)器人設(shè)定的目標(biāo)的一個副產(chǎn)物，機(jī)器人老王得出的所謂人生意義在我們看來未免荒謬可笑泳叠。
同樣的作瞄，這也可以解釋為什么我們中大部分人一般沒事兒不會去思考「人生意義」這樣的問題，哪怕思考了危纫，我們期望得出的結(jié)果一定也會向著一個積極的方向前進(jìn)粉洼。因為假如曾經(jīng)有一個人類的分支曾經(jīng)大量思考人生意義，然后得出了人生其實沒有意義的結(jié)論于是因此像這位同學(xué)一樣選擇自殺了的話叶摄，那么這樣的基因一定遺傳不下來平挑。換句話說算灸，我們今天大部分人都覺得人生是有意義的噪漾，而且這個意義是積極的亿眠，事實上是「人擇定律」的結(jié)果，因為如果我們不這么覺得会傲，那么我們今天也就不可能站在這里討論這個問題了锅棕。
但這恐怕還不是故事的終點拙泽。既然人作為一個物種的特征是由基因決定的，那么我們的「動機(jī)」應(yīng)該也被寫在了我們的基因組之中裸燎。當(dāng)我們的技術(shù)手段足夠發(fā)達(dá)以后顾瞻，我們應(yīng)當(dāng)可以通過逆向工程來修改我們的初始「動機(jī)」。如果我們確實這么做了的話德绿，那么現(xiàn)在這些所謂“自我欺騙”的人生意義都可能成為真實的「意義」荷荤，所謂“人生的意義由自己賦予”也不再只是雞湯文上的一句空話了。但是考慮到人工智能的發(fā)展移稳，這項逆向工程的實施者很有可能將會是人工智能而非人類蕴纳，到時的人類將被人工智能賦予一項「動機(jī)」——就像我們今天對計算機(jī)做的那樣。唯此个粱，人類的動機(jī)可能與不斷發(fā)展的人工智能的動機(jī)相兼容古毛，而人類作為一個物種會有生存下來的希望。只是那樣的人類都许，還能叫人類嗎稻薇？
如果把腦洞開的更大一些，既然我們現(xiàn)在將人工智能視為一種「計算機(jī)」胶征，那么人類本身會不會也是一部被制造出來的用于計算的機(jī)器颖低？或者說這個宇宙本身就是一臺碩大無比的計算機(jī)？庫茲韋爾在他那本著名的《奇點臨近》一書中曾經(jīng)描述過一種元胞自動機(jī)弧烤，一個復(fù)雜的元胞自動機(jī)規(guī)則完全可以產(chǎn)生類似我們宇宙這樣的有規(guī)則但是又很難預(yù)測的圖景，倘若真是如此的話蹬敲，那可真是應(yīng)了那句老話——人類一思考暇昂，上帝就發(fā)笑。
所以你要問我人生的意義究竟是什么伴嗡？我覺得還是《銀河系漫游指南》中回答的最好：
生命急波，宇宙及其他一切的答案是什么？
曰：“42”
