人工智能將創(chuàng)造出創(chuàng)造財(cái)富的新方法蚂四，同時(shí)解放出人類去做其他的事情光戈。人工智能的進(jìn)步將引領(lǐng)其它領(lǐng)域的進(jìn)步，特別是制造業(yè)的進(jìn)步遂赠。在未來(lái)久妆，它將更容易滿足我們的基本需求，而不是相反跷睦。
1筷弦、“我們永遠(yuǎn)不可能發(fā)明出和人類智力相當(dāng)?shù)腁I∷徒玻”
在一些特定領(lǐng)域奸笤，比如說(shuō)國(guó)際象棋惋啃、圍棋、股市交易以及人機(jī)對(duì)話等监右，我們已經(jīng)發(fā)明出與人腦匹敵或超越人腦的計(jì)算機(jī)边灭。電腦和驅(qū)動(dòng)他們的運(yùn)算法則只會(huì)變得更好，電腦精通幾乎任何人類能力只是時(shí)間問(wèn)題健盒。
紐約大學(xué)心理學(xué)家蓋瑞绒瘦？馬庫(kù)斯（Gary Marcus）曾說(shuō)過(guò)，幾乎所有研究AI的人都認(rèn)為機(jī)器最終將取代人類扣癣《杳保“狂熱分子和懷疑論者之間唯一的不同是對(duì)時(shí)間早晚的判斷「嘎牵”未來(lái)主義者该酗，像雷·庫(kù)茲韋爾，認(rèn)為機(jī)器統(tǒng)治人類會(huì)在幾十年后發(fā)生士嚎，而其他人則說(shuō)可能得幾個(gè)世紀(jì)呜魄。
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性。最終莱衩，我們可能制造出極其聰明的AI爵嗅，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)笨蚁，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念睹晒。
AI懷疑論者認(rèn)為生物腦在本質(zhì)上是有獨(dú)特之處的，這是無(wú)法解決的科技難題括细，其實(shí)這些是沒(méi)有說(shuō)服力的伪很。我們的大腦是生物學(xué)意義的機(jī)器，但也不過(guò)是機(jī)器勒极。他們存在于現(xiàn)實(shí)世界里是掰，就要遵循基本的物理法則。人腦沒(méi)有東西是不可知的辱匿。
2、“人工智能將會(huì)有意識(shí)炫彩∝移撸”
AMC電視連續(xù)劇 Human 中，并不是全部人工智能都獲得了意識(shí)
關(guān)于機(jī)器智能的一個(gè)普遍假設(shè)是：將來(lái)機(jī)器智能會(huì)有意識(shí)江兢。也就是說(shuō)昨忆，機(jī)器會(huì)像人一樣思考。評(píng)論家們杉允，如微軟創(chuàng)始人之一的保羅·艾倫邑贴，則更進(jìn)一步認(rèn)為我們還未達(dá)到人工通用智能席里，即機(jī)器能夠像人類一樣執(zhí)行任何需要智力的任務(wù)，因?yàn)槲覀內(nèi)狈﹃P(guān)于意識(shí)的科學(xué)理論拢驾。正如倫敦帝國(guó)理工學(xué)院認(rèn)知機(jī)器人研究者穆雷·沙納罕(Murray Shanahan)所指出的那樣奖磁，我們應(yīng)該避免混淆認(rèn)知和意識(shí)這兩種概念。
“探究意識(shí)確實(shí)是一門迷人且重要的課題繁疤，但是我認(rèn)為意識(shí)對(duì)于人類水平的人工智能來(lái)說(shuō)是并不是必要的咖为。或者更精確地說(shuō)稠腊，我們用‘意識(shí)’這個(gè)詞來(lái)指代心理的和認(rèn)知的屬性躁染，這些在人類身上是捆綁在一起的〖芗桑”
最初設(shè)想的機(jī)器智能可能缺乏一種或多種這些屬性吞彤。最終，我們可能制造出極其聰明的AI叹放，但是它不能通過(guò)主觀的自我意識(shí)感受這個(gè)世界饰恕。沙納罕說(shuō)也許能夠?qū)⒅橇鸵庾R(shí)結(jié)合在一個(gè)機(jī)器內(nèi)，但是我們也要認(rèn)識(shí)到智力和意識(shí)終究是兩種不同的概念许昨。
不能僅僅因?yàn)橐慌_(tái)機(jī)器通過(guò)了圖靈測(cè)試懂盐，就認(rèn)為它有意識(shí)。先進(jìn)的AI留給我們的印象是它們是有意識(shí)的糕档，但是再先進(jìn)的AI對(duì)于自己的認(rèn)識(shí)也不會(huì)比一塊石頭或一個(gè)計(jì)算器多莉恼。
3、“超級(jí)人工智能會(huì)很友好速那±”
哲學(xué)家康德認(rèn)為智能與道德密不可分。神經(jīng)學(xué)家David Chalmers在他的論文《非凡的哲學(xué)分析》中吸取了康德的著名觀點(diǎn)端仰，并將其運(yùn)用于人工智能的提升中捶惜。
如果這個(gè)觀點(diǎn)是正確的話，我們可以想到AI因智力爆發(fā)性增長(zhǎng)致使道德感急劇升高的狀況荔烧≈ㄆ撸可以想到，ASI系統(tǒng)變得超級(jí)智能的同時(shí)會(huì)具有無(wú)上的道德感鹤竭，因此我們可以認(rèn)為它們是善良的踊餐。
但是，這個(gè)“先進(jìn)的AI從本質(zhì)上將是好的臀稚、開明的”的觀點(diǎn)是站不住腳的吝岭。正如Armstrong指出，存在很多聰明的戰(zhàn)犯。智力和道德感間的關(guān)系在人類中貌似并不存在窜管，所以他懷疑該假設(shè)在其他智能形式中散劫，恐怕也是難以成立的。
“聰明的人的不道德行為可以比他們的笨蛋同胞造成更大規(guī)模的破壞幕帆，”他說(shuō)获搏。“智力只是給了他們變得更壞的能力蜓肆，它并沒(méi)有把他們變成好人颜凯。”
4仗扬、“簡(jiǎn)單的程序修補(bǔ)就能解決AI的控制難題症概。”
正如《機(jī)械姬》里所描述的一樣早芭，要控制比人類還聰明的人工智能將會(huì)十分困難
假設(shè)創(chuàng)造出比人類更偉大的AI彼城，我們將面臨一個(gè)嚴(yán)重的問(wèn)題，那就是：控制問(wèn)題退个。如何在家里安置以及控制ASI募壕？如何確保ASI對(duì)人類是友好的？在這些問(wèn)題上语盈，未來(lái)主義者和AI理論家們完全不知所措舱馅。最近，佐治亞理工學(xué)院的研究人員天真地認(rèn)為AI可以通過(guò)閱讀簡(jiǎn)單的故事來(lái)學(xué)習(xí)人類的價(jià)值觀和社會(huì)習(xí)俗刀荒。這可能遠(yuǎn)不是讀幾個(gè)小故事能解決的代嗤。
“人們推薦了很多可能解決整個(gè)AI控制問(wèn)題的簡(jiǎn)單技巧，”阿姆斯特朗說(shuō)缠借。示例包括為ASI編寫取悅?cè)祟惖某绦蚋梢悖蛘邇H僅使ASI作為人類的工具使用。再或者泼返，我們可以將積極的概念硝逢，比如愛(ài)或尊敬整合進(jìn)他的源代碼。為了防止ASI對(duì)社會(huì)只有單一偏激的看法绅喉，我們可以給它編寫欣賞智力渠鸽、文化和社會(huì)多樣性的程序。
但是這些方法要么太過(guò)簡(jiǎn)單柴罐，這就好比試圖給復(fù)雜的人類喜惡確定一個(gè)簡(jiǎn)單膚淺的定義拱绑，要么就是把復(fù)雜的人類價(jià)值觀生硬地壓縮成一個(gè)簡(jiǎn)單的字詞或想法。比如丽蝎，對(duì)“尊敬”這個(gè)詞，要確定內(nèi)涵一致又普遍接受的定義是極度困難的。
“并不是說(shuō)這些簡(jiǎn)單的技巧是沒(méi)用的屠阻。這些對(duì)策里面有很多給研究指明了道路红省，對(duì)解決這個(gè)終極難題有所幫助。但是這些只是想法国觉，具體的操作還需要我們做更多的開發(fā)研究工作吧恃。”阿姆斯特朗說(shuō)麻诀。
5痕寓、“人工超智能很聰明，不會(huì)犯錯(cuò)蝇闭∩肼剩”
電影《少年透明人》(1957)中的超級(jí)計(jì)算機(jī)
AI研究者兼Surfing Samurai機(jī)器人開發(fā)者Richard Loosemore認(rèn)為大多數(shù)假設(shè)的AI毀滅世界的情景都不符合邏輯。人們總假想在這種情景下呻引，AI可能會(huì)說(shuō)：“我知道毀滅人類文明只是我的設(shè)計(jì)故障礼仗，但我不得不這么做÷哂疲”Loosemore指出如果AI像這樣打算毀滅人類時(shí)元践，那它一生會(huì)很多這樣的邏輯矛盾，也會(huì)因此摧毀自己的知識(shí)庫(kù)童谒，導(dǎo)致自己變得愚蠢单旁，而不足以對(duì)我們?cè)斐蓚ΑＫ€斷言饥伊，那些認(rèn)為“AI只會(huì)按照指定程序做事”的人象浑，與當(dāng)初用這樣的話評(píng)價(jià)電腦不具備靈活性的人一樣，犯了同樣的錯(cuò)誤撵渡。
就職于牛津大學(xué)人類未來(lái)研究所(Future of Humanity Institute)的皮特?麥金泰爾(Peter McIntyre)和斯圖爾特?阿姆斯特朗(Stuart Armstrong)都對(duì)此有不同看法融柬。他們認(rèn)為人工智能將很大程度上受到編程的限制。他們相信AI也會(huì)犯錯(cuò)誤趋距，或者他們還沒(méi)有聰明到了解人類想從他們那里得到什么粒氧。
“從定義上講，超級(jí)人工智能(ASI)是一個(gè)擁有智力的載體节腐，它在各個(gè)相關(guān)領(lǐng)域都要比最優(yōu)秀的人類大腦更聰明外盯。”麥金泰爾如是告訴Gizmodo翼雀。 “它將十分清楚我們用他們來(lái)做什么饱苟。”麥金泰爾和阿姆斯特朗相信AI只會(huì)做程序編寫的任務(wù)狼渊，如果它能變得足夠聰明的話箱熬，它將能理解依照程序完成任務(wù)與領(lǐng)略規(guī)則精髓的不同类垦，也將能理解人類的意圖。
麥金泰爾把人類未來(lái)的困境比作老鼠的困境城须。老鼠想要在人類居所尋求食物和棲息地蚤认，人類不愿居室內(nèi)有老鼠，兩者沖突糕伐。麥金泰爾說(shuō)砰琢，“正如我們明白老鼠的目的，超級(jí)智能系統(tǒng)也能知道人類想要的良瞧，但仍對(duì)此漠不關(guān)心陪汽。”
6褥蚯、“我們將被超級(jí)人工智能毀滅挚冤。”
沒(méi)有任何證據(jù)表明我們會(huì)被AI毀滅或無(wú)法控制它們遵岩。正如AI研究者Eliezer Yudkowsky所說(shuō)：“AI既不會(huì)恨你辣，也不會(huì)愛(ài)，但人類由原子構(gòu)成的尘执，除了智能以外舍哄，人類還有感情√芏В”
牛津大學(xué)的哲學(xué)學(xué)者Nick Bostrom在他的書《超級(jí)智能：路徑表悬、危險(xiǎn)與策略》中提到，真正的超級(jí)人工智能一旦完成丧靡，將比以往人類的任何發(fā)明都危險(xiǎn)蟆沫。一些著名的學(xué)者如Elon Musk, Bill Gates, and Stephen Hawking(后者曾警告AI也許是人類史上最糟糕的錯(cuò)誤)也提出了警告。
但沒(méi)有什么事是可以確定的温治，沒(méi)人知道AI將采取什么行動(dòng)以及如何威脅到人類饭庞。正如Musk指出的，人工智能可以用來(lái)控制熬荆、調(diào)節(jié)和監(jiān)視其它人工智能舟山。也許可以它灌輸人類的價(jià)值觀，使之毫無(wú)保留地對(duì)人類保持友好卤恳。
7累盗、“我們不應(yīng)該害怕AI⊥涣眨”
在中東國(guó)家使用Flame病毒進(jìn)行網(wǎng)絡(luò)間諜活動(dòng)
一月份若债，臉書創(chuàng)辦者馬克扎克伯格說(shuō)我們不應(yīng)該害怕AI，AI會(huì)為世界帶來(lái)難以估量的好處拆融。扎克伯格只說(shuō)對(duì)了一半蠢琳。我們隨時(shí)準(zhǔn)備從AI身上收獲巨大的利益——從自動(dòng)駕駛汽車到新藥物的研制啊终，但是沒(méi)有人能保證AI的所有影響都是良性的。
高度智能化的系統(tǒng)也許了解某一特定任務(wù)的一切挪凑，例如解決令人厭煩的財(cái)務(wù)問(wèn)題孕索，或者黑進(jìn)對(duì)手的系統(tǒng)。但是在這些特殊領(lǐng)域之外躏碳，高度智能系統(tǒng)會(huì)變得極其無(wú)知無(wú)覺(jué)。谷歌的DeepMind系統(tǒng)精通圍棋散怖，但除圍棋以后菇绵，它在其他方面沒(méi)有探索的理性和能力。
8镇眷、“AI和機(jī)器人造成的風(fēng)險(xiǎn)是相同的咬最。”
這是一個(gè)特別常見的錯(cuò)誤認(rèn)識(shí)欠动，不加鑒別發(fā)布消息的媒體和好萊塢電影比如《終結(jié)者》系列使這一錯(cuò)誤更加深入人心永乌。
如果一個(gè)超級(jí)人工智能比如天網(wǎng)想要?dú)缛祟悾粫?huì)使用端著機(jī)槍的機(jī)器人具伍。其實(shí)還有更高效的辦法翅雏，如散播瘟疫，引發(fā)納米級(jí)灰霧(grey goo人芽，具備自我復(fù)制能力的微小機(jī)器人)災(zāi)難望几，甚至僅僅破壞大氣層。人工智能有潛在的危險(xiǎn)萤厅，不是因?yàn)樗咽镜臋C(jī)器人的未來(lái)橄抹，而是它在世界上的自我定位。
9惕味、“未來(lái)的AI和科幻小說(shuō)里的AI是相同的楼誓。”
的確名挥，科幻作品被作家和未來(lái)主義者們用來(lái)預(yù)測(cè)美好的將來(lái)湿诊，但ASI所帶來(lái)的圖景完全不是一回事。更重要的是此疹，與人類本性不同的AI不會(huì)讓我們知道并預(yù)測(cè)它們確切的本性和形式聘惦。
科幻作品考慮到我們?nèi)祟愂侨跣〉模蠖鄶?shù)AI被設(shè)定地與人類很類似蹋艺√昱郏“有一些觀點(diǎn)認(rèn)為，即使是在人類中捎谨，也存在著多種類型的心智模式民效，你和你的鄰居也是不同的憔维，但人與人之間的心智區(qū)別要同其他可能存在的心智形式相比是微不足道的，”McIntyre說(shuō)道畏邢。
大多數(shù)科幻小說(shuō)旨在講一個(gè)引人入勝的故事业扒，但不夠科學(xué)準(zhǔn)確。因此舒萎，科幻小說(shuō)中的沖突往往是存在于實(shí)力接近的實(shí)體之間程储。Armstrong說(shuō)，“沒(méi)有意識(shí)臂寝、喜樂(lè)或仇恨的AI毫無(wú)阻力地消滅所有的人類章鲤、達(dá)到一個(gè)本身無(wú)趣目標(biāo)，可以想見這樣的電影情節(jié)會(huì)有多無(wú)聊咆贬“芑玻”
10、“AI將會(huì)搶走我們所有的工作掏缎≈灞模”
人工智能把我們大部分的工作自動(dòng)化和它能毀滅人類的潛在性，這是兩件完全不相關(guān)的事情眷蜈。根據(jù)《機(jī)器人的崛起》的作者M(jìn)artin Ford所說(shuō)沪哺，這兩件事常常被混為一談。思考在遙遠(yuǎn)的將來(lái)AI的意義是很好的端蛆，但只有這不影響到我們思考未來(lái)的幾十年遇到的問(wèn)題時(shí)凤粗，這樣做才有意義。其中最主要的是大規(guī)模的自動(dòng)化今豆。
毫無(wú)疑問(wèn)嫌拣，人工智能將取代很多現(xiàn)存的職業(yè)，包括從車間工人到高級(jí)白領(lǐng)呆躲。一些專家預(yù)測(cè)在不久的將來(lái)美國(guó)的一半工作將被自動(dòng)化所取代异逐。但這不意味著我們沒(méi)有能力應(yīng)付局面。最理想的情況是為我們?nèi)祟悓?shí)現(xiàn)人人稱贊的目標(biāo)插掂，達(dá)到接近烏托邦的境界灰瞻，無(wú)論是腦力勞動(dòng)者還是體力勞動(dòng)者，人人都從勞役中解放了出來(lái)辅甥。
機(jī)器人將在未來(lái)的幾十年取代數(shù)以百萬(wàn)計(jì)的崗位酝润。我們必須強(qiáng)調(diào)：“在未來(lái)的幾十年里AI將抹殺許多工作，但這是件好事璃弄，”Miller說(shuō)要销。例如，自動(dòng)駕駛汽車將取代卡車司機(jī)夏块，這樣可以節(jié)約運(yùn)輸成本疏咐，使貨物的價(jià)格更便宜纤掸。“如果你靠做卡車司機(jī)謀生浑塞，你失業(yè)了借跪，但其他人都賺了，因?yàn)樗麄兊墓べY買到了更多的東西酌壕，”Miller說(shuō)掏愁。“這些人所省下的錢用于其它的商品和服務(wù)仅孩，這可以為人類創(chuàng)造新的就業(yè)機(jī)會(huì)托猩。”
在所有的可能性中辽慕，人工智能將創(chuàng)造出創(chuàng)造財(cái)富的新方法，同時(shí)解放出人類去做其他的事情赦肃。人工智能的進(jìn)步將引領(lǐng)其它領(lǐng)域的進(jìn)步溅蛉，特別是制造業(yè)的進(jìn)步。在未來(lái)他宛，它將更容易滿足我們的基本需求船侧，而不是相反。
