智能武器的危險(xiǎn)之處在于勒奇，軟件工程師可以很輕松地給它重新編程蔫劣，使其成為濫殺無(wú)辜的機(jī)器船庇。
最近一段時(shí)間吭产，很多知名人士都對(duì)人工智能武器表示了抵制，但他們給出的原因卻比較偏頗鸭轮，認(rèn)為機(jī)器人有朝一日將會(huì)控制人類臣淤。這種說(shuō)法其實(shí)并不合理，至少在短期內(nèi)不合理窃爷。但是邑蒋，人工智能武器所蘊(yùn)含的危險(xiǎn)，也確實(shí)不是那種常規(guī)的按厘、由人類操控的武器可以比擬的医吊。因此要求禁止人工智能武器的呼吁，也理應(yīng)獲得大家的聲援逮京。
迫在眉睫的危險(xiǎn)
從無(wú)人駕駛汽車的身上卿堂，我們可以一瞥人工智能的未來(lái)。現(xiàn)在你試想一下：一個(gè)兇惡的黑社會(huì)團(tuán)伙偷走了一輛這樣的車懒棉，在其頂端加裝了一門火炮草描，然后給車輛重新編程，把炮口對(duì)準(zhǔn)公眾策严。如此一來(lái)穗慕，它就成為了一件人工智能武器。
各國(guó)政府的眼睛是雪亮的享钞，當(dāng)然不會(huì)看不到這種武器的潛力揍诽。美國(guó)海軍今年宣布計(jì)劃開發(fā)無(wú)人機(jī)武器，而韓國(guó)的Supera EgisII自動(dòng)炮塔栗竖，俄羅斯的Platform-M戰(zhàn)斗機(jī)器也雙雙亮相暑脆。
但人工智能武器不會(huì)是政府的獨(dú)家秘制。現(xiàn)在人人都可以買得到搭載GoPro相機(jī)的四軸無(wú)人飛行器『現(xiàn)在想象一下添吗，有人開發(fā)了一個(gè)簡(jiǎn)單的軟件，可以讓它自動(dòng)飛行份名。而那個(gè)邪惡的黑社會(huì)組織碟联，就是可以把無(wú)人駕駛汽車改裝成武器的犯罪團(tuán)伙，當(dāng)然也可以把槍支搭載在無(wú)人機(jī)上面僵腺，給它重新編程鲤孵，然后讓它飛到擁擠的公共場(chǎng)所去殺人。
這就是人工智能武器近在眼前的危險(xiǎn)：它們很容易被人利用辰如，改裝成濫殺無(wú)辜的機(jī)器普监，其危害性遠(yuǎn)遠(yuǎn)超過(guò)了同樣的、但需要有人操作的武器。
機(jī)器本身并不可怕
斯蒂芬·霍金凯正、宇宙學(xué)家馬克斯·特格馬克以及伊隆·馬斯克和其他很多人都簽署了“未來(lái)生活”（FutureofLife）請(qǐng)?jiān)笗胁＃蠼怪圃焓褂萌斯ぶ悄芪淦鳌＝衲?月廊散，馬斯克捐款1000萬(wàn)美元給發(fā)起該請(qǐng)?jiān)傅臋C(jī)構(gòu)桑滩。4月份，聯(lián)合國(guó)召開了“殺手機(jī)器人”會(huì)議允睹，不過(guò)沒(méi)有產(chǎn)生任何具有持久性的政策決定运准。“未來(lái)生活”請(qǐng)?jiān)感胖赋隼拚遥斯ぶ悄芪淦鞯奈ｋU(xiǎn)非常具體戳吝，不出幾年就有可能導(dǎo)致災(zāi)難，需要馬上采取行動(dòng)來(lái)加以避免贯涎√蓿可惜的是，它并沒(méi)有明確指出塘雳，有哪些人工智能武器已經(jīng)出現(xiàn)在了地平線上陆盘。
很多人擔(dān)心會(huì)出現(xiàn)“終結(jié)者”那樣的世界末日?qǐng)鼍埃簷C(jī)器人具有了像人類一樣的能力，能夠完全依靠自己與世界交互败明，而且這些機(jī)器人試圖征服世界隘马。
物理學(xué)家、皇家天文學(xué)家馬丁·里斯爵士就警告說(shuō)妻顶，災(zāi)難性的場(chǎng)景酸员，比如“愚蠢的機(jī)器人不按指令行事，或一個(gè)網(wǎng)絡(luò)自己有了主見(jiàn)讳嘱♂｀拢”他在劍橋的同事、哲學(xué)家休·普萊斯也表達(dá)了類似的擔(dān)憂沥潭，覺(jué)得當(dāng)智能“不受生物學(xué)限制”時(shí)邀泉，人類可能無(wú)法生存。在兩人的推動(dòng)下钝鸽，劍橋大學(xué)組建了生存風(fēng)險(xiǎn)中心（Centreforthe Studyof Existential Risk）汇恤，以圖避免人類的生存遭受如此巨大的威脅。
這些問(wèn)題當(dāng)然很值得研究拔恰。但是因谎，它們遠(yuǎn)不如人工智能武器問(wèn)題那么迫在眉睫。
我們很快就能開發(fā)出類似于人類的人工智能了嗎颜懊？幾乎所有的標(biāo)準(zhǔn)答案都是：不是很快蓝角。很多媒體都說(shuō)阱穗，雷丁大學(xué)的聊天機(jī)器人尤金·古斯特曼(Eugene Goostman)是真正的人工智能饭冬，因?yàn)樗娴淖屢恍┤艘詾樗且粋€(gè)13歲的男孩使鹅。但是，聊天機(jī)器人和真正的“像人類一樣的智能昌抠？”還差多遠(yuǎn)呢患朱？計(jì)算機(jī)科學(xué)家斯科特·阿倫森（Scott Aaronson）的第一個(gè)問(wèn)題就把尤金難住了：“是鞋盒大呢，還是珠穆朗瑪峰大炊苫？”
盡管這樣裁厅，還是有很多人都在“未來(lái)生活”請(qǐng)?jiān)感派虾灹嗣鞔_表示要抵制人工智能武器侨艾。原因在于：與擁有自我意識(shí)的計(jì)算機(jī)網(wǎng)絡(luò)不同执虹，在無(wú)人駕駛汽車上架機(jī)槍現(xiàn)在就可能出現(xiàn)。
人工智能武器的問(wèn)題唠梨，不在于它們將會(huì)控制世界袋励，而在于它們非常容易被重新編程，因此任何人都能夠以低得驚人的預(yù)算当叭，制作出一臺(tái)濫殺無(wú)辜的高效機(jī)器茬故。可怕的不是機(jī)器本身蚁鳖，而是黑客可以用比較適中的價(jià)格磺芭，用它們來(lái)做什么樣的事情。
比機(jī)器人還危險(xiǎn)醉箕！禁止人工智能武器迫在眉睫
容易被改造和利用
不妨想象一下：一個(gè)正在崛起的的暴君钾腺，決心辣手摧毀反對(duì)派，他擁有一個(gè)數(shù)據(jù)庫(kù)讥裤，知道每個(gè)人對(duì)他的忠誠(chéng)度高低放棒，以及地址和照片。在以前坞琴，暴君需要一支軍隊(duì)來(lái)完成這個(gè)任務(wù)哨查，而還需要賄賂士兵，或者給他們洗腦剧辐，才能讓他們槍殺無(wú)辜者寒亥。
而以后，暴君只需要花上幾千美元荧关，購(gòu)買一些搭載自動(dòng)槍械的無(wú)人機(jī)溉奕，就可以如愿以償了。依照摩爾定律（自從晶體管的發(fā)明以來(lái)忍啤，1美元成本的計(jì)算能力是呈指數(shù)級(jí)增長(zhǎng)的）加勤，人工智能無(wú)人機(jī)的價(jià)格某一天會(huì)降到和一支AK-47差不多仙辟。給四個(gè)軟件工程師洗洗腦，其中就有三個(gè)有能力給無(wú)人機(jī)重新編程鳄梅，讓它們前去附近異見(jiàn)者的住處和工作場(chǎng)所叠国，當(dāng)場(chǎng)射殺他們。無(wú)人機(jī)犯錯(cuò)誤的可能性更小一些戴尸，而且也不需要賄賂或者洗腦粟焊，最重要的，它們的工作效率比人類士兵高得多孙蒙。在國(guó)際社會(huì)還沒(méi)有來(lái)得及做出任何反應(yīng)之前项棠，野心勃勃的暴君就已經(jīng)血洗了反對(duì)派陣營(yíng)。
自動(dòng)化大幅提高了效率挎峦，因此對(duì)于任何想要犯下這種暴行的瘋子來(lái)說(shuō)香追，人工智能武器的門檻也降低了。當(dāng)年的獨(dú)裁者需要?jiǎng)佑靡徽к婈?duì)才能做到的事情坦胶，現(xiàn)在只要有點(diǎn)錢的人就能辦到了透典。
有興趣研發(fā)這種武器的制造商和政府可能會(huì)聲稱，他們可以提供出色的保障措施迁央，以確保這些機(jī)器不能被重新編程掷匠，不會(huì)遭到黑客攻擊。對(duì)于這種說(shuō)法岖圈，我們最好是保持懷疑態(tài)度讹语。電子投票機(jī)、自動(dòng)取款機(jī)蜂科、藍(lán)光光盤播放機(jī)顽决，甚至飛馳在高速公路上的汽車，盡管都曾標(biāo)榜自己有很高的安全性导匣，最近卻都已被黑客攻破才菠。歷史事實(shí)已經(jīng)證明，在計(jì)算設(shè)備和試圖改變其利用方式的黑客之間贡定，贏家往往是黑客赋访。人工智能武器不可能會(huì)是例外。
禁用人工智能武器
1925年簽訂的國(guó)際條約禁止在戰(zhàn)爭(zhēng)中使用化學(xué)武器和生物武器缓待。而中空彈（Hollow Point Bullet）早在1899年就被禁用蚓耽，因?yàn)檫@些武器會(huì)導(dǎo)致極大的、不必要的痛苦旋炒。它們特別容易導(dǎo)致平民傷亡步悠。比如公眾可能會(huì)吸入毒氣，醫(yī)生在嘗試取出中空彈時(shí)可能會(huì)受傷瘫镇。這些武器很容易給無(wú)辜者造成痛苦和死亡鼎兽，所以它們?cè)獾搅私谩?/p>
是否有某種類型的人工智能機(jī)器同樣也應(yīng)該被禁用呢答姥？答案是肯定的。如果一種人工智能機(jī)器可以很便宜谚咬、很容易地改造成高效的無(wú)差別大殺器鹦付，那么我們就應(yīng)該制定禁止它的國(guó)際公約。這樣的機(jī)器與放射性金屬在本質(zhì)上沒(méi)有什么不同序宦。它們都可以和平利用睁壁，造福人類。但是我們必須小心翼翼地對(duì)它們加以管控互捌，因?yàn)樗鼈兒苋菀妆桓脑斐蓺缧晕淦鳌２煌氖切屑粒瑢?duì)人工智能機(jī)器進(jìn)行改造秕噪，將其用于破壞性目的，遠(yuǎn)比把核電站的反應(yīng)堆改成核武容易得多厚宰。
我們應(yīng)該禁止人工智能武器腌巾，這不是因?yàn)樗鼈內(nèi)季哂胁坏赖碌膶傩裕且驗(yàn)槿藗兛梢岳迷诰W(wǎng)上找到的資料铲觉，把人工智能武器改裝成“猙獰的嗜血怪物”澈蝙。只需一段簡(jiǎn)單的代碼，就可以把很多人工智能武器轉(zhuǎn)變成不亞于化學(xué)武器撵幽、生物武器和空心彈的殺人機(jī)器灯荧。
