人類會(huì)被機(jī)器人支配嗎杰妓？
早在 AlphaGo 贏圍棋前，霍金就在認(rèn)真地?fù)?dān)心埋涧，人工智能將會(huì)超過并取代人類板辽。
「我們已經(jīng)擁有原始形式的人工智能奇瘦，而且已經(jīng)證明非常有用。但我認(rèn)為人工智能的完全發(fā)展會(huì)導(dǎo)致人類的終結(jié)」戳气，霍金教授在英國廣播公司的采訪中說链患。
「一旦經(jīng)過人類的開發(fā)，人工智能將會(huì)自行發(fā)展瓶您，以加速度重新設(shè)計(jì)自己麻捻。」
同樣擔(dān)心的還有特斯拉創(chuàng)始人 Elon Musk（跳戲：這是撰稿人唯一視為偶像的男人）呀袱，他認(rèn)為人工智能是人類生存的最大威脅贸毕，可能比核武器更危險(xiǎn)。
事實(shí)上夜赵，Musk 還投資了一家人工智能公司 Vicarious明棍，為了「監(jiān)測」人工智能的發(fā)展。
比爾蓋茨也曾公開發(fā)表他對人工智能的意見：
「我正在關(guān)注超級(jí)智能寇僧。首先摊腋，在開始的時(shí)候機(jī)器會(huì)為我們做很多工作，這些機(jī)器并不是超級(jí)智能嘁傀。如果我們處理得很好的話兴蒸，這應(yīng)該是具有積極意義的。
之后的幾十年细办，人工智能會(huì)強(qiáng)大到足以引起人們的關(guān)注橙凳。我同意 Elon Musk 和其他一些人的說法，不明白為什么有些人并不關(guān)心笑撞〉盒ィ」
這些天才們對人工智能的擔(dān)憂，主要集中在可控性上茴肥。
所幸坚踩，目前技術(shù)能達(dá)到的人工智能水平還處在「有多少人工就有多少智能」的階段。
對此有一個(gè)非常著名的實(shí)驗(yàn)「中文房間」：
「中文房間」最早由美國哲學(xué)家 John Searle 于 20 世紀(jì) 80 年代初提出瓤狐。
這個(gè)實(shí)驗(yàn)要求你想象一位只說英語的人身處一個(gè)房間之中堕虹，這間房間除了門上有一個(gè)小窗口以外，全部都是封閉的芬首。他隨身帶著一本寫有中文翻譯程序的書。房間里還有足夠的稿紙逼裆、鉛筆和櫥柜郁稍。
寫著中文的紙片通過小窗口被送入房間中。房間中的人可以使用他的書來翻譯這些文字并用中文回復(fù)胜宇。
雖然這個(gè)人完全不會(huì)中文耀怜，但哲學(xué)家 Searle 認(rèn)為通過這個(gè)過程恢着，房間里的人可以讓任何房間外的人以為他會(huì)說流利的中文。
中文房間是對強(qiáng)人工智能假說的第一次強(qiáng)力打擊财破，結(jié)果間接證明目前的機(jī)器并不具有思想掰派，以及能夠獨(dú)立決策的能力。
Searle 指出現(xiàn)今設(shè)想的絕大多數(shù)人工智能實(shí)現(xiàn)方案都不是強(qiáng)人工智能左痢，而是弱人工智能靡羡，即程序設(shè)計(jì)者預(yù)測會(huì)出現(xiàn)的情況，然后做出反饋方案俊性，由機(jī)器判斷是否符合條件略步，且是否執(zhí)行方案。
通過一套完整的流程：翻字典里找出對應(yīng)的詞句定页，翻譯成英文趟薄，回答，再用字典翻譯回中文典徊，發(fā)回去杭煎。
一個(gè)不懂中文的人也可以用中文回答問題，讓屋子外的人相信他會(huì)中文卒落。
但這個(gè)人會(huì)中文嗎羡铲？不會(huì)。這其實(shí)就是目前「人工智能」在做的事情导绷，比如 Siri犀勒。
「機(jī)器人」一詞第一次出現(xiàn)，是在捷克作家 Karel ?apek 1921 年的作品中妥曲，被創(chuàng)造來用來形容虛構(gòu)的機(jī)械人形角色贾费。
而第一個(gè)機(jī)器人「Televox」則誕生在 1927 年，由美國西屋電器公司的工程師溫茲利創(chuàng)造檐盟。它是一個(gè)電動(dòng)機(jī)器人褂萧，可以回答一些問題、發(fā)電報(bào)葵萎，但是不能移動(dòng)导犹。
到了 1942 年，美國著名科幻小說家艾薩克·阿西莫夫在短篇小說《Runaround》（《環(huán)舞》）中提出了著名的「機(jī)器人三定律」羡忘，該理論被稱為「現(xiàn)代機(jī)器人學(xué)的基石」谎痢。阿西莫夫提出：
一 機(jī)器人不得傷害人類，或坐視人類受到傷害卷雕；
二 除非違背第一條定律节猿，否則機(jī)器人必須服從人類的命令；
三 除非違背第一及第二條定律，否則機(jī)器人必須保護(hù)自己滨嘱。
后來峰鄙，阿西莫夫又加入了一條新定律：第零定律。
零 機(jī)器人不得傷害人類整體太雨，或坐視人類整體受到傷害吟榴。
70 年前，阿西莫夫提出這個(gè)著名的定律囊扳，來保證機(jī)器人會(huì)友善待人吩翻。在他的科幻設(shè)定里，機(jī)器人三定律是植入到所有機(jī)器人軟件底層里的不可修改的規(guī)定宪拥。
雖然最早提出時(shí)這只是個(gè)文學(xué)手法仿野，但至今仍有人認(rèn)為此定律是現(xiàn)成的方案，能挽救我們免于機(jī)器末日她君。
但是 70 年過去了脚作，我們對現(xiàn)代科學(xué)更了解了，阿西莫夫的三定律真的有效嗎缔刹？科學(xué)家的答案是：沒有球涛。
?
在《環(huán)舞》里，負(fù)責(zé)水星開礦任務(wù)的機(jī)器人在第二和第三定律的沖突下陷入焦慮慌張的狀態(tài)校镐，開始不停地繞圈子
比方說亿扁，這三條定律連「機(jī)器人」的含義都沒有準(zhǔn)確定義，你無法阻止一個(gè)智商超群的機(jī)器人找到后門并因此打破定律鸟廓。
在現(xiàn)實(shí)中的人工智能理論研究者从祝，機(jī)器智能研究所代理主任路易·海爾姆看來，機(jī)器人根本無關(guān)緊要引谜，重要的則是超級(jí)智能的倫理道德規(guī)范設(shè)定牍陌。
「我認(rèn)為對人類來說最主要的問題，不是一大群半智能人形機(jī)器人所需的道德規(guī)范员咽；而是高階人工智能一定會(huì)出現(xiàn)（不管有沒有軀體）毒涧，并且其功能一定遠(yuǎn)遠(yuǎn)超過人類水平這個(gè)事實(shí)。
人類早晚必須要跨過超級(jí)智能這個(gè)坎贝室。這也是為何開發(fā)安保措施如此重要契讲。在我看來，機(jī)器人滑频、仿生人捡偏、模擬大腦什么的都無關(guān)緊要，我們最多和它們相處一二十年峡迷，之后就要面對真正的大問題——為超級(jí)智能開發(fā)倫理道德霹琼。」
如果機(jī)器人沒有「愛」，不具備類人的情感枣申，它將只會(huì)是一個(gè)可以不斷學(xué)習(xí)不斷模仿地冷血機(jī)器。而這樣的機(jī)器看杭，無疑是對人類的生命存在威脅的忠藤。
日前，英國劍橋大學(xué)新建了一個(gè)研究中心楼雹，致力于研究人工智能在發(fā)展的過程中帶給人類的機(jī)遇與挑戰(zhàn)模孩，并旨在影響其道德倫理發(fā)展，從而防止人工智能在 21 世紀(jì)會(huì)控制世界贮缅。一家名為 Leverhulme 的信托公司將為其提供十年約 1000 萬英鎊的資助榨咐。
雖然人工智能目前還只處在人類 3、4 歲的智力水平谴供，但有研究認(rèn)為块茁，在 2099 年之前，人工智能將能達(dá)到人類智力的水平桂肌，甚至是超越数焊。重要的是，人工智能是不斷地學(xué)習(xí)提高的崎场。
因此劍橋大學(xué)聚齊了一些科學(xué)家佩耳、哲學(xué)家、社會(huì)科學(xué)家谭跨，從技術(shù)上干厚、實(shí)用性上以及道德觀念上出發(fā)，一起來為人工智能做風(fēng)險(xiǎn)評估螃宙。
于此同時(shí)蛮瞄，Google 今年收購了由劍橋大學(xué)畢業(yè)生 Demis Hassabis 所創(chuàng)辦的 AI 公司 DeepMind，希望大力發(fā)展人工智能污呼。
今年十月份裕坊，蘋果公司同樣收購了來自劍橋的 VocalIQ，也是一個(gè) AI 創(chuàng)業(yè)公司燕酷，其旨在研究提升計(jì)算機(jī)理解人們言語能力的方法籍凝，以此使機(jī)器更加自然地「說話」。
人工智能研究的目的是創(chuàng)造智能機(jī)器苗缩，可以有效地解決問題饵蒂，甚至有時(shí)候比人類做得更好。
在科幻小說或電影中酱讶，人工智能經(jīng)常讓人類陷入噩夢中退盯。比如《2001》、《終結(jié)者》、《銀翼殺手》等電影中渊迁，智能電腦或智能機(jī)器最終將武器對準(zhǔn)它們的人類創(chuàng)造者慰照。
Elon Musk 說：「在所有故事里，似乎總有拿著十字架和圣水的家伙琉朽，就像他確保自己能控制惡魔一樣毒租。但這并非總是管用∠淙」
無論如何墅垮，已經(jīng)有越來越多的聰明人，已經(jīng)提前準(zhǔn)備好十字架和圣水耕漱，謹(jǐn)慎提防可能出現(xiàn)的不可控的惡魔了算色。
