姓名：于彤彤??? 學(xué)號(hào)：17101223401

本文轉(zhuǎn)自? https://www.sohu.com/a/205934800_115128

【嵌牛導(dǎo)讀】：人工智能給人類帶來(lái)了很多便利蚕断，改變了我們的生活翻斟，然而其潛在危險(xiǎn)應(yīng)該引起人們的重視座掘。

【嵌牛鼻子】：廣角攝像頭、傳感器霹购、面部識(shí)別

【嵌牛提問(wèn)】：殺手機(jī)器人應(yīng)該存在嗎佑惠？

【嵌牛正文】：

?????? 人工智能一旦脫離束縛，就會(huì)以不斷加速的狀態(tài)重新設(shè)計(jì)自身齐疙。人類由于受到漫長(zhǎng)的生物進(jìn)化的限制膜楷，無(wú)法與之競(jìng)爭(zhēng)，將被取代贞奋，這將給我們的經(jīng)濟(jì)帶來(lái)極大的破壞把将。

???????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????????? ——霍金

?????? 然而，這種糟糕的情況似乎正逐漸向我們走來(lái)忆矛。近日察蹲，在日內(nèi)瓦舉辦的聯(lián)合國(guó)特定常規(guī)武器公約（CCW）會(huì)議上，播放了一段可怕的視頻：視頻中催训，一群神似《黑鏡 III》中機(jī)器殺人蜂的小型機(jī)器人洽议，通過(guò)人臉定位瞬間殺死了正在上課的一眾學(xué)生，場(chǎng)面血腥漫拭。

先來(lái)看看視頻里的幾個(gè)可怕畫面：

一個(gè)體型類似蜜蜂的小型機(jī)器人飛入會(huì)場(chǎng)并輕易躲過(guò)演講人抓捕亚兄，其擁有 anti-sniper 技術(shù)，完全基于 AI采驻。

這個(gè)小機(jī)器人有著非成笈撸可怕的黑科技：廣角攝像頭匈勋、傳感器、面部識(shí)別膳叨，且在其中洽洁，還有 3 克炸藥。

來(lái)看看它的攻擊效果菲嘴，一擊而中饿自，極端致命：

隨后，有媒體便稱龄坪，這款武器極其像《三體》里的“水滴”昭雌，其狀如水滴，由被相互作用力緊密鎖死的質(zhì)子和中子構(gòu)成健田，密度巨大無(wú)堅(jiān)不摧烛卧，“僅一個(gè)水滴就能接連摧毀人類的一千多艘飛船，打擊方式也是直接妓局、精確穿透關(guān)鍵部位总放，如這段視頻中所展現(xiàn)「ィ”

爭(zhēng)議不斷间聊，殺手機(jī)器人命運(yùn)歸何處攒盈？

與人類的情感反應(yīng)不同抵拘，人工智能技術(shù)能夠用于制造不需要人類監(jiān)管就能自動(dòng)運(yùn)行的武器，也稱為“冷血?dú)⑹帧毙突怼Ｋ鼈兡軌蛟谝粋€(gè)區(qū)域內(nèi)徘徊僵蛛，且不需要獲得軍事人員的許可就能對(duì)來(lái)犯敵人做出生或者死的決定。

換句話說(shuō)迎变，當(dāng)你因無(wú)知犯下彌天大錯(cuò)充尉，你愿意將生命輕易交給冷冰冰的“殺手機(jī)器人”，而不求一點(diǎn)可以辯解的機(jī)會(huì)嗎衣形？這無(wú)疑超越了人類的道德底線驼侠。然而，你或許更想象不到的是谆吴，軍方竟然成為當(dāng)前 AI 研究的主要贊助者之一倒源。

目前來(lái)說(shuō)，盡管人工智能可用于研發(fā)排雷機(jī)器人或運(yùn)輸供給的無(wú)人機(jī)句狼，但在軍方手中笋熬，由人工智能技術(shù)嵌入的全自動(dòng)化攻擊性武器，很有可能會(huì)演變成大規(guī)模殺傷性武器腻菇。而武器制造商已經(jīng)為軍方打造了具有高度自主程度的武器系統(tǒng)胳螟，如機(jī)器人昔馋、自動(dòng)駕駛坦克以及追蹤并打擊目標(biāo)的無(wú)人機(jī)等，這些系統(tǒng)需要在提前設(shè)定并需要在人類監(jiān)管的情況下運(yùn)作糖耸。

??????????????????????????????????????????????????????????????????????????????? Elon Musck

其實(shí)秘遏，早在 8 月，就有許多世界領(lǐng)先的機(jī)器人和人工智能領(lǐng)域的公司創(chuàng)始人蔬捷、科學(xué)家（包括OpenAI垄提、特斯拉、SpaceX 創(chuàng)始人 Elon Musck周拐，Deepmind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 等）呼吁聯(lián)合國(guó)對(duì)殺手機(jī)器人下達(dá)封殺令铡俐，對(duì)自動(dòng)化武器展開(kāi)嚴(yán)格監(jiān)督，以叫停打造自動(dòng)化武器的軍事競(jìng)賽活動(dòng)妥粟。研究人員在公開(kāi)信中描述了機(jī)器人武器的風(fēng)險(xiǎn)审丘，并表示，這樣的軍事競(jìng)賽有可能繼“火藥”勾给、“核彈”之后引發(fā)第三次戰(zhàn)爭(zhēng)革命滩报。

但同樣也有狡辯者聲稱，如果將致命性自主武器應(yīng)用于戰(zhàn)爭(zhēng)會(huì)起到正面作用播急。如脓钾，降低己方士兵危險(xiǎn)，降低戰(zhàn)爭(zhēng)帶來(lái)的人員傷亡代價(jià)桩警，并且這種武器彌補(bǔ)了人類在速度可训、準(zhǔn)確性、穩(wěn)定性方面的弱點(diǎn)捶枢，“可以抵達(dá)人類不可及之處握截，完成搜救和保護(hù)任務(wù)±檬澹”

會(huì)議主席印度裁軍大使阿曼迪普·吉爾（Amandeep Gill）提到：“機(jī)器人并沒(méi)有占領(lǐng)世界谨胞，人類仍在掌控，我們必須小心蒜鸡，不要讓這個(gè)問(wèn)題變得情緒化或戲劇化胯努。”

與核武器相比逢防，人工智能武器具備制造成本低廉而且制造簡(jiǎn)單的特點(diǎn)叶沛，這意味著它們很容易在武器黑市的市場(chǎng)流通。

伯克利大學(xué)教授胞四、資深 AI 研究者 Stuart Russell 在視頻的最后提醒人們恬汁，想象一下，這些致命的自動(dòng)武器一旦落入恐怖分子之手，可能造成怎樣的后果氓侧。