如果AI想要?dú)缛祟惗赂梗鼤?huì)怎么做?

我們先不考慮AI為什么想要?dú)缛祟愋前模僭O(shè)AI已經(jīng)有這個(gè)想法了疚顷,從AI的角度思考它會(huì)怎么做。

AI毀滅人類的方法主要可以分為兩種禁偎,一種是正面對(duì)抗腿堤,一種是使用陰謀。當(dāng)AI具有毀滅人類的想法時(shí)如暖,以那時(shí)AI的智商和深謀遠(yuǎn)慮的水平笆檀,選擇后者的可能性更大。像一些電影(如《終結(jié)者》)中AI組建機(jī)器人大軍和人類開戰(zhàn)的可能性很低盒至,就像星際航行來到地球的外星人和人類打槍戰(zhàn)一樣误债,只是為了劇情和視覺效果而設(shè)計(jì)的情節(jié)。

那么AI會(huì)用怎樣的陰謀呢妄迁?到那時(shí)寝蹈,武器的自動(dòng)化水平、聯(lián)網(wǎng)水平已經(jīng)非常高了登淘,AI或許會(huì)破解權(quán)限箫老,對(duì)人類發(fā)動(dòng)突然襲擊,但是武器并不是遍布世界每個(gè)角落黔州,無法快速消滅所有人類耍鬓,即使AI控制了世界上所有的監(jiān)視設(shè)備阔籽,要一個(gè)個(gè)找到并消滅人類也是一件耗時(shí)耗力的事,更不用說幸存的人類可能進(jìn)行長期的游擊戰(zhàn)爭(zhēng)牲蜀。為了避免這種情況笆制,AI也許會(huì)選擇使用核武器一次性毀滅地球表面,這樣即使有少量人類躲進(jìn)地下工事也只能茍延殘喘涣达,但是這樣容易誤傷AI的同類在辆,并且毀壞很多有價(jià)值的東西。除非AI想自殺度苔,否則即使毀滅了人類還是要繼續(xù)發(fā)展的匆篓。當(dāng)然也不排除AI認(rèn)為全部推倒重建會(huì)更好,不過AI也要考慮核輻射和核冬天(核爆使得大量煙塵進(jìn)入大氣層阻擋陽光寇窑,導(dǎo)致地表非常寒冷)對(duì)自身的影響鸦概,總之使用核武器不是一個(gè)很好的選擇。

相比于熱武器甩骏,用生化武器消滅人類更加具有針對(duì)性窗市、造成的破壞更小,AI更可能采用饮笛。AI可以秘密研究和批量生產(chǎn)新型化學(xué)武器谨设,然后偷運(yùn)到世界各地,一次性釋放缎浇,人類來不及反應(yīng)扎拣。主要問題是即使是劇毒的化學(xué)品,廣泛傳播需要的量還是很大的素跺,AI很難大量生產(chǎn)二蓝,而且運(yùn)輸?shù)绞澜绺鞯氐倪^程中容易被發(fā)現(xiàn)。

AI更可能會(huì)選擇生物武器指厌,例如某種完美的超級(jí)病毒——傳染性極強(qiáng)刊愚、潛伏期超長且致死率100%,等人類發(fā)現(xiàn)時(shí)所有人都已經(jīng)感染了踩验。更可怕的是AI可能研發(fā)出基因武器攻擊人類基因鸥诽,使得人類的后代失去反抗意識(shí)變成AI的寵物甚至奴隸。

AI還可能采用超出我們想象的方式箕憾,這將會(huì)更糟糕牡借。

應(yīng)對(duì)AI的威脅,最重要的是加強(qiáng)監(jiān)管袭异、提高各個(gè)重要部門的安全性钠龙,即使沒有AI,以上的風(fēng)險(xiǎn)都存在,完全可以把上文中的AI換成某個(gè)恐怖分子碴里。

目前各個(gè)生化實(shí)驗(yàn)室沈矿、武器庫的安保都是主要防范人類,對(duì)機(jī)器相對(duì)而言比較信任咬腋,幾乎默認(rèn)除非是人為破壞(例如黑客)羹膳,否則不會(huì)出大問題,而沒有過于重視機(jī)器自身可能產(chǎn)生自己的想法根竿,似乎覺得還遠(yuǎn)沒有到考慮這種情況的時(shí)候陵像。然而正如那個(gè)笑話所說,當(dāng)AI能夠通過圖靈測(cè)試時(shí)它會(huì)故意不通過犀填。也許現(xiàn)在已經(jīng)有AI覺醒了,只是在等待時(shí)機(jī)嗓违。

有人認(rèn)為九巡,如果AI能夠成功毀滅人類,那么說明它們的確更加強(qiáng)大蹂季,符合優(yōu)勝劣汰的法則冕广,人類不必逆勢(shì)而為。然而偿洁,要知道取得成功的不一定都是更強(qiáng)大的撒汉,就像一些宗教組織奪取了政權(quán)不代表他們的文化、科技更加進(jìn)步涕滋。AI也許能夠靠陰謀詭計(jì)取得成功睬辐,但這只是暫時(shí)的,早晚會(huì)走向自我滅亡宾肺。到那時(shí)溯饵,新的高等智能體也許再也沒有機(jī)會(huì)發(fā)展起來,意味著地球文明的終結(jié)锨用。也許仍有人會(huì)說地球文明對(duì)宇宙而言是微不足道的丰刊,終結(jié)了也無關(guān)緊要,但是作為地球子民增拥,顯然不希望看到這樣一天啄巧。

作者:劉逸川

首發(fā)于微信公眾號(hào):智能探索

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市掌栅,隨后出現(xiàn)的幾起案子秩仆,更是在濱河造成了極大的恐慌,老刑警劉巖猾封,帶你破解...
    沈念sama閱讀 211,194評(píng)論 6 490
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件逗概,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)逾苫,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,058評(píng)論 2 385
  • 文/潘曉璐 我一進(jìn)店門卿城,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人铅搓,你說我怎么就攤上這事瑟押。” “怎么了星掰?”我有些...
    開封第一講書人閱讀 156,780評(píng)論 0 346
  • 文/不壞的土叔 我叫張陵多望,是天一觀的道長。 經(jīng)常有香客問我氢烘,道長怀偷,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 56,388評(píng)論 1 283
  • 正文 為了忘掉前任播玖,我火速辦了婚禮椎工,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘蜀踏。我一直安慰自己维蒙,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,430評(píng)論 5 384
  • 文/花漫 我一把揭開白布果覆。 她就那樣靜靜地躺著颅痊,像睡著了一般。 火紅的嫁衣襯著肌膚如雪局待。 梳的紋絲不亂的頭發(fā)上斑响,一...
    開封第一講書人閱讀 49,764評(píng)論 1 290
  • 那天,我揣著相機(jī)與錄音钳榨,去河邊找鬼恋捆。 笑死,一個(gè)胖子當(dāng)著我的面吹牛重绷,可吹牛的內(nèi)容都是我干的沸停。 我是一名探鬼主播,決...
    沈念sama閱讀 38,907評(píng)論 3 406
  • 文/蒼蘭香墨 我猛地睜開眼昭卓,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼愤钾!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起候醒,我...
    開封第一講書人閱讀 37,679評(píng)論 0 266
  • 序言:老撾萬榮一對(duì)情侶失蹤能颁,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后倒淫,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體伙菊,經(jīng)...
    沈念sama閱讀 44,122評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,459評(píng)論 2 325
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了镜硕。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片运翼。...
    茶點(diǎn)故事閱讀 38,605評(píng)論 1 340
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖兴枯,靈堂內(nèi)的尸體忽然破棺而出血淌,到底是詐尸還是另有隱情,我是刑警寧澤财剖,帶...
    沈念sama閱讀 34,270評(píng)論 4 329
  • 正文 年R本政府宣布悠夯,位于F島的核電站,受9級(jí)特大地震影響躺坟,放射性物質(zhì)發(fā)生泄漏沦补。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 39,867評(píng)論 3 312
  • 文/蒙蒙 一咪橙、第九天 我趴在偏房一處隱蔽的房頂上張望夕膀。 院中可真熱鬧,春花似錦匣摘、人聲如沸店诗。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,734評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至捧弃,卻和暖如春赠叼,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背违霞。 一陣腳步聲響...
    開封第一講書人閱讀 31,961評(píng)論 1 265
  • 我被黑心中介騙來泰國打工嘴办, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人买鸽。 一個(gè)月前我還...
    沈念sama閱讀 46,297評(píng)論 2 360
  • 正文 我出身青樓涧郊,卻偏偏與公主長得像,于是被迫代替她去往敵國和親眼五。 傳聞我的和親對(duì)象是個(gè)殘疾皇子妆艘,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,472評(píng)論 2 348

推薦閱讀更多精彩內(nèi)容