姓名：黎文淵 ? 學(xué)號(hào)：17021210909
本文轉(zhuǎn)自? https://www.sohu.com/a/205934800_115128
【嵌牛導(dǎo)讀】：人工智能給人類帶來了很多便利页畦，改變了我們的生活，然而其潛在危險(xiǎn)應(yīng)該引起人們的重視研儒。
【嵌牛鼻子】：廣角攝像頭豫缨、傳感器、面部識(shí)別
【嵌牛提問】：殺手機(jī)器人應(yīng)該存在嗎端朵？
【嵌牛正文】：
人工智能一旦脫離束縛好芭，就會(huì)以不斷加速的狀態(tài)重新設(shè)計(jì)自身。人類由于受到漫長(zhǎng)的生物進(jìn)化的限制冲呢，無(wú)法與之競(jìng)爭(zhēng)舍败，將被取代，這將給我們的經(jīng)濟(jì)帶來極大的破壞敬拓。
——霍金
然而邻薯，這種糟糕的情況似乎正逐漸向我們走來。近日乘凸，在日內(nèi)瓦舉辦的聯(lián)合國(guó)特定常規(guī)武器公約（CCW）會(huì)議上厕诡，播放了一段可怕的視頻：視頻中，一群神似《黑鏡 III》中機(jī)器殺人蜂的小型機(jī)器人翰意，通過人臉定位瞬間殺死了正在上課的一眾學(xué)生木人，場(chǎng)面血腥信柿。
先來看看視頻里的幾個(gè)可怕畫面：
一個(gè)體型類似蜜蜂的小型機(jī)器人飛入會(huì)場(chǎng)并輕易躲過演講人抓捕冀偶，其擁有 anti-sniper 技術(shù)，完全基于 AI渔嚷。
這個(gè)小機(jī)器人有著非辰可怕的黑科技：廣角攝像頭、傳感器形病、面部識(shí)別客年，且在其中霞幅，還有 3 克炸藥。
來看看它的攻擊效果量瓜，一擊而中司恳，極端致命：
隨后，有媒體便稱绍傲，這款武器極其像《三體》里的“水滴”扔傅，其狀如水滴，由被相互作用力緊密鎖死的質(zhì)子和中子構(gòu)成烫饼，密度巨大無(wú)堅(jiān)不摧猎塞，“僅一個(gè)水滴就能接連摧毀人類的一千多艘飛船，打擊方式也是直接杠纵、精確穿透關(guān)鍵部位荠耽，如這段視頻中所展現(xiàn)”仍澹”
爭(zhēng)議不斷铝量，殺手機(jī)器人命運(yùn)歸何處？
與人類的情感反應(yīng)不同银亲，人工智能技術(shù)能夠用于制造不需要人類監(jiān)管就能自動(dòng)運(yùn)行的武器款违，也稱為“冷血?dú)⑹帧薄Ｋ鼈兡軌蛟谝粋€(gè)區(qū)域內(nèi)徘徊群凶，且不需要獲得軍事人員的許可就能對(duì)來犯敵人做出生或者死的決定插爹。
換句話說，當(dāng)你因無(wú)知犯下彌天大錯(cuò)请梢，你愿意將生命輕易交給冷冰冰的“殺手機(jī)器人”赠尾，而不求一點(diǎn)可以辯解的機(jī)會(huì)嗎？這無(wú)疑超越了人類的道德底線毅弧。然而气嫁，你或許更想象不到的是，軍方竟然成為當(dāng)前 AI 研究的主要贊助者之一够坐。
目前來說寸宵，盡管人工智能可用于研發(fā)排雷機(jī)器人或運(yùn)輸供給的無(wú)人機(jī)，但在軍方手中元咙，由人工智能技術(shù)嵌入的全自動(dòng)化攻擊性武器梯影，很有可能會(huì)演變成大規(guī)模殺傷性武器。而武器制造商已經(jīng)為軍方打造了具有高度自主程度的武器系統(tǒng)庶香，如機(jī)器人甲棍、自動(dòng)駕駛坦克以及追蹤并打擊目標(biāo)的無(wú)人機(jī)等，這些系統(tǒng)需要在提前設(shè)定并需要在人類監(jiān)管的情況下運(yùn)作赶掖。
Elon Musck
其實(shí)感猛，早在 8 月七扰，就有許多世界領(lǐng)先的機(jī)器人和人工智能領(lǐng)域的公司創(chuàng)始人、科學(xué)家（包括OpenAI陪白、特斯拉颈走、SpaceX 創(chuàng)始人 Elon Musck，Deepmind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 等）呼吁聯(lián)合國(guó)對(duì)殺手機(jī)器人下達(dá)封殺令咱士，對(duì)自動(dòng)化武器展開嚴(yán)格監(jiān)督疫鹊，以叫停打造自動(dòng)化武器的軍事競(jìng)賽活動(dòng)。研究人員在公開信中描述了機(jī)器人武器的風(fēng)險(xiǎn)司致，并表示拆吆，這樣的軍事競(jìng)賽有可能繼“火藥”、“核彈”之后引發(fā)第三次戰(zhàn)爭(zhēng)革命脂矫。
但同樣也有狡辯者聲稱枣耀，如果將致命性自主武器應(yīng)用于戰(zhàn)爭(zhēng)會(huì)起到正面作用。如庭再，降低己方士兵危險(xiǎn)捞奕，降低戰(zhàn)爭(zhēng)帶來的人員傷亡代價(jià)，并且這種武器彌補(bǔ)了人類在速度拄轻、準(zhǔn)確性颅围、穩(wěn)定性方面的弱點(diǎn)，“可以抵達(dá)人類不可及之處恨搓，完成搜救和保護(hù)任務(wù)院促。”
會(huì)議主席印度裁軍大使阿曼迪普·吉爾（Amandeep Gill）提到：“機(jī)器人并沒有占領(lǐng)世界斧抱，人類仍在掌控常拓，我們必須小心，不要讓這個(gè)問題變得情緒化或戲劇化辉浦∨В”
與核武器相比，人工智能武器具備制造成本低廉而且制造簡(jiǎn)單的特點(diǎn)宪郊，這意味著它們很容易在武器黑市的市場(chǎng)流通掂恕。
伯克利大學(xué)教授、資深 AI 研究者 Stuart Russell 在視頻的最后提醒人們弛槐，想象一下懊亡，這些致命的自動(dòng)武器一旦落入恐怖分子之手，可能造成怎樣的后果丐黄。
