我們先不考慮AI為什么想要?dú)缛祟愋前模僭O(shè)AI已經(jīng)有這個(gè)想法了疚顷,從AI的角度思考它會(huì)怎么做。
AI毀滅人類的方法主要可以分為兩種禁偎,一種是正面對(duì)抗腿堤,一種是使用陰謀。當(dāng)AI具有毀滅人類的想法時(shí)如暖,以那時(shí)AI的智商和深謀遠(yuǎn)慮的水平笆檀,選擇后者的可能性更大。像一些電影(如《終結(jié)者》)中AI組建機(jī)器人大軍和人類開戰(zhàn)的可能性很低盒至,就像星際航行來到地球的外星人和人類打槍戰(zhàn)一樣误债,只是為了劇情和視覺效果而設(shè)計(jì)的情節(jié)。
那么AI會(huì)用怎樣的陰謀呢妄迁?到那時(shí)寝蹈,武器的自動(dòng)化水平、聯(lián)網(wǎng)水平已經(jīng)非常高了登淘,AI或許會(huì)破解權(quán)限箫老,對(duì)人類發(fā)動(dòng)突然襲擊,但是武器并不是遍布世界每個(gè)角落黔州,無法快速消滅所有人類耍鬓,即使AI控制了世界上所有的監(jiān)視設(shè)備阔籽,要一個(gè)個(gè)找到并消滅人類也是一件耗時(shí)耗力的事,更不用說幸存的人類可能進(jìn)行長期的游擊戰(zhàn)爭(zhēng)牲蜀。為了避免這種情況笆制,AI也許會(huì)選擇使用核武器一次性毀滅地球表面,這樣即使有少量人類躲進(jìn)地下工事也只能茍延殘喘涣达,但是這樣容易誤傷AI的同類在辆,并且毀壞很多有價(jià)值的東西。除非AI想自殺度苔,否則即使毀滅了人類還是要繼續(xù)發(fā)展的匆篓。當(dāng)然也不排除AI認(rèn)為全部推倒重建會(huì)更好,不過AI也要考慮核輻射和核冬天(核爆使得大量煙塵進(jìn)入大氣層阻擋陽光寇窑,導(dǎo)致地表非常寒冷)對(duì)自身的影響鸦概,總之使用核武器不是一個(gè)很好的選擇。
相比于熱武器甩骏,用生化武器消滅人類更加具有針對(duì)性窗市、造成的破壞更小,AI更可能采用饮笛。AI可以秘密研究和批量生產(chǎn)新型化學(xué)武器谨设,然后偷運(yùn)到世界各地,一次性釋放缎浇,人類來不及反應(yīng)扎拣。主要問題是即使是劇毒的化學(xué)品,廣泛傳播需要的量還是很大的素跺,AI很難大量生產(chǎn)二蓝,而且運(yùn)輸?shù)绞澜绺鞯氐倪^程中容易被發(fā)現(xiàn)。
AI更可能會(huì)選擇生物武器指厌,例如某種完美的超級(jí)病毒——傳染性極強(qiáng)刊愚、潛伏期超長且致死率100%,等人類發(fā)現(xiàn)時(shí)所有人都已經(jīng)感染了踩验。更可怕的是AI可能研發(fā)出基因武器攻擊人類基因鸥诽,使得人類的后代失去反抗意識(shí)變成AI的寵物甚至奴隸。
AI還可能采用超出我們想象的方式箕憾,這將會(huì)更糟糕牡借。
應(yīng)對(duì)AI的威脅,最重要的是加強(qiáng)監(jiān)管袭异、提高各個(gè)重要部門的安全性钠龙,即使沒有AI,以上的風(fēng)險(xiǎn)都存在,完全可以把上文中的AI換成某個(gè)恐怖分子碴里。
目前各個(gè)生化實(shí)驗(yàn)室沈矿、武器庫的安保都是主要防范人類,對(duì)機(jī)器相對(duì)而言比較信任咬腋,幾乎默認(rèn)除非是人為破壞(例如黑客)羹膳,否則不會(huì)出大問題,而沒有過于重視機(jī)器自身可能產(chǎn)生自己的想法根竿,似乎覺得還遠(yuǎn)沒有到考慮這種情況的時(shí)候陵像。然而正如那個(gè)笑話所說,當(dāng)AI能夠通過圖靈測(cè)試時(shí)它會(huì)故意不通過犀填。也許現(xiàn)在已經(jīng)有AI覺醒了,只是在等待時(shí)機(jī)嗓违。
有人認(rèn)為九巡,如果AI能夠成功毀滅人類,那么說明它們的確更加強(qiáng)大蹂季,符合優(yōu)勝劣汰的法則冕广,人類不必逆勢(shì)而為。然而偿洁,要知道取得成功的不一定都是更強(qiáng)大的撒汉,就像一些宗教組織奪取了政權(quán)不代表他們的文化、科技更加進(jìn)步涕滋。AI也許能夠靠陰謀詭計(jì)取得成功睬辐,但這只是暫時(shí)的,早晚會(huì)走向自我滅亡宾肺。到那時(shí)溯饵,新的高等智能體也許再也沒有機(jī)會(huì)發(fā)展起來,意味著地球文明的終結(jié)锨用。也許仍有人會(huì)說地球文明對(duì)宇宙而言是微不足道的丰刊,終結(jié)了也無關(guān)緊要,但是作為地球子民增拥,顯然不希望看到這樣一天啄巧。
作者:劉逸川
首發(fā)于微信公眾號(hào):智能探索