這本新書(shū)英文名為life3.0壳嚎，直譯過(guò)來(lái)是生命3.0，副標(biāo)題是人工智能時(shí)代的人類(lèi)涕侈。
作者叫麥克斯.泰格瑪克鲫尊，是麻省理工學(xué)院物理學(xué)家，也是真正站在AI領(lǐng)域最前沿的研究者之一竞滓。該書(shū)于今年8月29日出版咐吼，上線僅一天就登上了美國(guó)亞馬遜人工智能和機(jī)器學(xué)習(xí)類(lèi)書(shū)籍排行榜的首位。埃隆.馬斯克也在其推特上發(fā)文稱此書(shū)值得一讀商佑，人工智能將是人類(lèi)遇到的最棒或者最糟糕的東西锯茄，所以讓我們真去面對(duì)，能夠真正以冷靜客觀并且站在相當(dāng)?shù)母叨扰c深度來(lái)看待人工智能的人很少茶没。
本書(shū)作者泰格瑪克正是其中一個(gè)肌幽，生命3.0一書(shū)深度遠(yuǎn)遠(yuǎn)超過(guò)市面上大多數(shù)關(guān)于人工智能的普及類(lèi)書(shū)籍，其廣度也讓人吃驚抓半。從AI的起源與背后的技術(shù)出發(fā)喂急，一路上探討了諸多將被其深度影響的領(lǐng)域，比如工作社會(huì)戰(zhàn)爭(zhēng)犯罪等等笛求。隨便舉舉書(shū)里談及的問(wèn)題廊移，在不可避免的自動(dòng)化浪潮中，我們要如何確保人們的工作與收入不會(huì)減少探入，如何避免智能化軍備競(jìng)賽所帶來(lái)的全球性危機(jī)狡孔？我們給下一代的職業(yè)建議應(yīng)該是什么樣的，什么樣的職業(yè)將會(huì)成為下一個(gè)時(shí)代的寵兒蜂嗽，如何保障人工智能的安全性苗膝。如何保證AA始終在我們的控制之中，而不是如科幻電影那樣開(kāi)始與人類(lèi)對(duì)抗植旧。
我個(gè)人判斷這本書(shū)可能是2017年以來(lái)關(guān)于人工智能話題最為深刻的一本書(shū)籍辱揭。
我們既有可能在地球上創(chuàng)造出前所未有的蓬勃發(fā)展的社會(huì)，也有可能創(chuàng)造出一個(gè)永遠(yuǎn)無(wú)法被推翻的無(wú)比壓抑的全球監(jiān)視系統(tǒng)病附。波多黎各會(huì)議結(jié)束時(shí)问窃，泰格瑪克真切地相信關(guān)于未來(lái)AI的探討是我們這個(gè)時(shí)代最為重要的話題，這關(guān)乎我們所有人的未來(lái)胖喳，所以不應(yīng)該僅限于AI研究人員。我們想要什么樣的未來(lái)贮竟，在人工智能時(shí)代成為人類(lèi)意味著什么丽焊？
這本書(shū)的目的就是幫助你加入這個(gè)對(duì)話较剃，但是目前許多關(guān)于AI的爭(zhēng)論其實(shí)意義不大，因?yàn)閰⑴c討論的人們存在著不少基本的誤解技健，比如說(shuō)對(duì)同一個(gè)詞匯有不同的理解写穴，所以我們?cè)谶M(jìn)入有價(jià)值的討論之前，首先應(yīng)該澄清一些最常見(jiàn)的誤解雌贱。
泰格瑪克提供了他對(duì)于一些核心術(shù)語(yǔ)的定義啊送，并非說(shuō)它的定義是最好的，只是泰格瑪克想通過(guò)明確的解釋來(lái)避免混淆欣孤，而且它采用的是廣義上的定義馋没，避免以人類(lèi)為中心的偏見(jiàn)。
這里我轉(zhuǎn)述一下比較重要的幾個(gè)：
智能指的是完成復(fù)雜目標(biāo)的能力降传。
弱人工智能指的是實(shí)現(xiàn)一組有限的目標(biāo)的能力篷朵，比如下圍棋或者駕駛汽車(chē)。
通用智能指的是有能力達(dá)成幾乎任何目標(biāo)婆排，包括學(xué)習(xí)声旺。
超人工智能指的是遠(yuǎn)超人類(lèi)水平的通用智能。
除了混淆術(shù)語(yǔ)之外段只，許多AI的對(duì)話還被一些簡(jiǎn)單的誤解所困擾腮猖，最常見(jiàn)的有以下三個(gè)：
第一個(gè)是關(guān)于時(shí)間表的神話。人類(lèi)發(fā)展出超人工智能需要多長(zhǎng)時(shí)間赞枕，在這個(gè)問(wèn)題上最常見(jiàn)的誤解就是我們非常確定地知道答案澈缺，比如最流行的說(shuō)法是我們知道自己將在本世紀(jì)內(nèi)創(chuàng)造出超人工智能，但是回顧一下歷史鹦赎，我們?cè)?jīng)也很確信自己會(huì)造出滿天飛的汽車(chē)谍椅，但是你現(xiàn)在看到了嗎？回到人工智能領(lǐng)域古话，上個(gè)世紀(jì)的50年代AI的創(chuàng)始人們就以為只要把大家聚在一起雏吭，花上兩個(gè)月的時(shí)間，就能搞清楚如何讓機(jī)器使用語(yǔ)言形成抽象概念陪踩，解決人類(lèi)面臨的各種問(wèn)題杖们，并且做到自我完善。現(xiàn)在看來(lái)只能用過(guò)分樂(lè)觀來(lái)形容當(dāng)時(shí)人們的想法肩狂。
另一方面摘完，一個(gè)流行的相反的說(shuō)法則是我們確信自己本世紀(jì)內(nèi)造不出超人工智能，1956年天文學(xué)家理查德武力聲稱太空旅行絕對(duì)不可能傻谁。類(lèi)似這樣事后看來(lái)可笑的預(yù)測(cè)在歷史上比比皆是孝治。
物理學(xué)家知道大腦是由夸克和電子組成的一臺(tái)強(qiáng)大的計(jì)算機(jī)，所以沒(méi)有什么物理定律阻止我們構(gòu)建更加智能的夸克結(jié)構(gòu)。從這個(gè)意義上來(lái)說(shuō)谈飒，我們不能鐵口斷言人類(lèi)未來(lái)制造不出超人工智能岂座。
現(xiàn)在已經(jīng)有一些調(diào)查詢問(wèn)AI的研究人員，你們認(rèn)為多少年后我們至少有五成的概率制造出超人工智能杭措，結(jié)論是這個(gè)領(lǐng)域的頂尖專家對(duì)此問(wèn)題分歧極大费什，所以我們其實(shí)不知道答案。現(xiàn)在有媒體宣稱過(guò)不了幾年超人工智能就要誕生了手素，其實(shí)呢那些對(duì)此表示擔(dān)憂的著名人士也認(rèn)為至少還有幾十年才會(huì)出現(xiàn)超人工智能鸳址，但是他們同時(shí)認(rèn)為，只要我們不能拍著胸脯保證本世紀(jì)內(nèi)不會(huì)出現(xiàn)超人工智能泉懦，那么現(xiàn)在就應(yīng)該開(kāi)始相關(guān)的安全研究稿黍，因?yàn)檫@些問(wèn)題太復(fù)雜了，可能需要好幾十年才能找到解決方案祠斧。
第二個(gè)誤解是關(guān)于爭(zhēng)議的神話闻察，也就是誤以為AI研究者對(duì)于是否支持人工智能安全研究存在巨大的爭(zhēng)議，泰格瑪克認(rèn)為這也是媒體推波助瀾的結(jié)果琢锋，比如過(guò)于強(qiáng)調(diào)吳恩達(dá)的火星人口過(guò)剩論辕漂，其實(shí)吳恩達(dá)并非不在意人工智能的安全問(wèn)題，只不過(guò)他關(guān)于超人工智能出現(xiàn)的時(shí)間表比較長(zhǎng)吴超，
所以傾向于優(yōu)先考慮短期內(nèi)的AI挑戰(zhàn)钉嘹。
第三個(gè)誤解是關(guān)于風(fēng)險(xiǎn)的深化，相信你一定看過(guò)這樣的新聞標(biāo)題：霍金發(fā)出警告鲸阻，機(jī)器人的崛起可能是人類(lèi)的災(zāi)難跋涣，通常這類(lèi)文章會(huì)搭配上一張裝備的武器的邪惡機(jī)器人的科幻圖片，文章還會(huì)告訴我們要警惕機(jī)器人發(fā)展出一時(shí)鸟悴，并且變得邪惡陈辱，最終殺死人類(lèi)。
這類(lèi)文章很抓人眼球细诸，但其實(shí)體現(xiàn)了一些人對(duì)于意識(shí)邪惡以及機(jī)器人這三個(gè)概念的誤解沛贪。如果你自己開(kāi)車(chē)的話，你會(huì)有關(guān)于顏色聲音等的主觀上的體驗(yàn)震贵，那么無(wú)人駕駛汽車(chē)會(huì)不會(huì)有這種主觀上的體驗(yàn)?zāi)乩常克欠駮?huì)感覺(jué)到自己是一輛無(wú)人駕駛汽車(chē)還是像一個(gè)沒(méi)有任何主觀體驗(yàn)的僵尸？
雖然這個(gè)一時(shí)之謎是挺有意思的猩系，但是他和人工智能的風(fēng)險(xiǎn)無(wú)關(guān)媚送。
如果你被一輛無(wú)人駕駛汽車(chē)撞倒，那么他有沒(méi)有主觀意識(shí)跟你的腿有沒(méi)有斷沒(méi)有任何關(guān)系寇甸。
同理塘偎，超人工智能對(duì)人類(lèi)的影響在于它會(huì)做什么疗涉，而不是它意識(shí)到什么，害怕機(jī)器變得邪惡也是無(wú)聊的問(wèn)題吟秩。我們真正應(yīng)該擔(dān)心的不是機(jī)器的惡意博敬，而是他的能力。根據(jù)定義峰尝，一個(gè)超人工智能非常擅長(zhǎng)實(shí)現(xiàn)目標(biāo)，無(wú)論這個(gè)目標(biāo)是什么收恢，所以我們需要確保其目標(biāo)與我們的一致武学。你可能本身并不討厭螞蟻，但如果你負(fù)責(zé)一個(gè)水力發(fā)電項(xiàng)目伦意，那么有一個(gè)蟻穴在項(xiàng)目建設(shè)過(guò)程中被水淹沒(méi)就再正常不過(guò)了火窒。益智運(yùn)動(dòng)就是希望努力避免人類(lèi)遭遇和這些螞蟻同樣的命運(yùn)被沒(méi)有惡意但十分強(qiáng)大的超人工智能隨手毀滅。對(duì)于一時(shí)的誤解和另一則神話有關(guān)驮肉，那就是一些人所聲稱的機(jī)器無(wú)法擁有目標(biāo)熏矿。機(jī)器當(dāng)然可以擁有目標(biāo)了，一顆熱能追蹤導(dǎo)彈朝你飛來(lái)离钝。從狹義上來(lái)說(shuō)票编，他的目標(biāo)就是你，這和導(dǎo)彈是否有意識(shí)并且體驗(yàn)到一種目標(biāo)感無(wú)關(guān)卵渴。這一刻你只會(huì)感到很恐慌慧域，而不會(huì)像哲學(xué)家一樣淡定的說(shuō)。我不擔(dān)心浪读，因?yàn)闄C(jī)器不可能擁有目標(biāo)昔榴。
第三個(gè)膚淺的理解是關(guān)于機(jī)器人，其實(shí)對(duì)我們有威脅的人工智能并不需要一個(gè)金屬怪物的身體碘橘，只要一個(gè)互聯(lián)網(wǎng)連接就夠了互订。
益智運(yùn)動(dòng)主要的關(guān)注點(diǎn)不在于機(jī)器人，而在于智能本身痘拆，具體而言就是與我們的目標(biāo)不符的智能仰禽，一個(gè)超人工智能可以很容易通過(guò)收買(mǎi)等手段操縱無(wú)數(shù)的人來(lái)執(zhí)行他的目標(biāo)，有些人以為機(jī)器不可能控制人類(lèi)错负，事實(shí)上只要機(jī)器足夠聰明坟瓢，他就能控制人類(lèi)，正如同人類(lèi)可以控制比我們強(qiáng)悍的多的老虎一樣犹撒。
好吧折联，澄清的這些常見(jiàn)的誤解，我們就可以一勞永逸地丟棄识颊。
他們將我們和朋友的討論集中在許多有價(jià)值的議題上诚镰。
總結(jié)一下：
第一奕坟，生命是一個(gè)可以保持其復(fù)雜性和復(fù)制性的過(guò)程。生命可以分為三個(gè)階段清笨，生命1.0為生物演變?cè)谄渖芷趦?nèi)無(wú)法重新設(shè)計(jì)月杉。他的軟硬件。生命2.0為文化演變抠艾，能夠在其生命周期內(nèi)重新設(shè)計(jì)它的大部分的軟件苛萎，但基本無(wú)法重新設(shè)計(jì)自己的硬件。生命3.0為技術(shù)演變检号，能夠重新設(shè)計(jì)自己的軟件和硬件腌歉。
第二，超人工智能是生命3.0的代表齐苛，除了反對(duì)人工智能的樂(lè)得份子翘盖，人工智能專家分為三個(gè)主要陣營(yíng)，包括數(shù)字烏托邦主義者技術(shù)懷疑論者以及益智運(yùn)動(dòng)的支持者凹蜂。數(shù)字烏托邦主義者相信并且期待超人工智能到來(lái)馍驯。技術(shù)懷疑論者認(rèn)為建立超人工智能非常困難，21世紀(jì)甚至數(shù)百年內(nèi)都不會(huì)出現(xiàn)玛痊，現(xiàn)在擔(dān)心這個(gè)問(wèn)題是愚蠢的汰瘫。益智運(yùn)動(dòng)派的認(rèn)為本世紀(jì)有可能出現(xiàn)超人工智能，但它并不保證對(duì)人類(lèi)有良好的結(jié)果擂煞，需要通過(guò)辛勤的安全研究工作來(lái)確保結(jié)果向好吟吝。
第三，除了世界頂尖的人工智能專家之間存在的有價(jià)值的爭(zhēng)議之外颈娜，還有許多因?yàn)檎`解所引起的無(wú)聊爭(zhēng)論剑逃，比如明確你和你朋友所使用的術(shù)語(yǔ)的準(zhǔn)確定義，不要浪費(fèi)時(shí)間爭(zhēng)論生命智能或者一時(shí)等詞匯官辽。另外蛹磺，不要斷言超人工智能出現(xiàn)的時(shí)間表，不要過(guò)于關(guān)心邪惡機(jī)器人同仆，不要誤以為機(jī)器沒(méi)有目標(biāo)或者無(wú)法控制人類(lèi)萤捆。
關(guān)于未來(lái)的AI軍備競(jìng)賽
今天的關(guān)鍵問(wèn)題是要不要防止全球性的AI軍備競(jìng)賽的啟動(dòng)。與核武器不同的是AI武器不需要昂貴或者難以獲得的原材料俗批，所以它們會(huì)很便宜俗或，而且無(wú)處不在。這些武器最終落到恐怖分子獨(dú)裁者以及計(jì)劃實(shí)行種族清洗的軍閥手里岁忘，只是一個(gè)時(shí)間問(wèn)題辛慰。
自主武器是執(zhí)行暗殺破壞國(guó)家穩(wěn)定鎮(zhèn)壓老百姓以及選擇性的屠殺某個(gè)特定族群的理想工具。我們認(rèn)為干像，AI軍備競(jìng)賽對(duì)于人類(lèi)是有害的帅腌，正如大多數(shù)化學(xué)家和生物學(xué)家對(duì)制造生化武器毫無(wú)興趣一樣驰弄，大多數(shù)AI研究人員對(duì)制造AI武器也毫無(wú)興趣，不希望其他人這么做而玷污了這一領(lǐng)域速客，尤其是這可能會(huì)造成公眾對(duì)于人工智能的反感戚篙。
事實(shí)上，化學(xué)家和生物學(xué)家廣泛支持相關(guān)國(guó)際協(xié)定并由此成功的禁止生化武器的開(kāi)發(fā)溺职。本書(shū)作者起草的公開(kāi)信不久就獲得了超過(guò)3000名AI研究人員的簽名岔擂，包括來(lái)自谷歌臉書(shū)微軟以及特斯拉的多位高管，另外17000位非專業(yè)人士也簽了名浪耘，包括我們熟悉的史蒂芬霍金智亮，事實(shí)上，AI軍備競(jìng)賽蓄勢(shì)待發(fā)点待。
2016年美國(guó)投資到民用AI項(xiàng)目的經(jīng)費(fèi)約為10億美元，而2017年美國(guó)五角大樓計(jì)劃投資與AI有關(guān)的軍事項(xiàng)目的資金就高達(dá)120-150億美元弃舒，中國(guó)和俄羅斯也是摩拳擦掌癞埠，是否應(yīng)該有相應(yīng)的禁止性的國(guó)際條約？
這個(gè)可能說(shuō)起來(lái)容易做起來(lái)難聋呢，比如說(shuō)條約只是禁止致命性的AI武器苗踪，還是將有傷害但非致命的武器一并禁止。條約是否適用于所有的自主武器系統(tǒng)還是對(duì)防御性的系統(tǒng)網(wǎng)開(kāi)一面削锰。再者通铲，自主武器的大多數(shù)組成部分都具有民事用途，例如送郵件的無(wú)人機(jī)和運(yùn)炸彈的無(wú)人機(jī)沒(méi)有太大區(qū)別器贩。我們要如何執(zhí)行條約呢颅夺？一些人認(rèn)為設(shè)計(jì)一個(gè)有效的AI武器的禁止性條約是幾乎不可能的，所以干脆不搞了吧蛹稍，但是作者引用了肯尼迪在宣布登月任務(wù)時(shí)講的話：艱難的事情值得一試吧黄，因?yàn)橐坏┏晒?duì)人類(lèi)的未來(lái)十分有利。
在泰格瑪克與基辛格的一次交談中唆姐，雙方都認(rèn)為AI軍備競(jìng)賽中獲益最多的不是超級(jí)大國(guó)拗慨，而是那些小型的流氓國(guó)家和恐怖分子，他們能夠通過(guò)黑市獲得武器奉芦，一旦開(kāi)始大規(guī)模的生產(chǎn)AI驅(qū)動(dòng)的小型殺手無(wú)人機(jī)赵抢，它的成本可能比智能手機(jī)還低得多。
無(wú)論是恐怖分子想暗殺一位政治家或者是一個(gè)瘋子想報(bào)復(fù)他的前女友声功，他們需要做的就是把目標(biāo)的照片和地址上傳到無(wú)人機(jī)烦却，然后這架無(wú)人機(jī)就會(huì)飛到目的地識(shí)別并殺害目標(biāo)，然后自我銷(xiāo)毀先巴，使得我們無(wú)從追查操控者短绸。對(duì)于那些計(jì)劃實(shí)行種族清洗的人來(lái)說(shuō)车吹，他們很容易通過(guò)編程使得無(wú)人機(jī)專門(mén)殺死具有某種膚色或種族的人，也許未來(lái)一輛卡車(chē)就能放出上百萬(wàn)架小如昆蟲(chóng)的殺手無(wú)人機(jī)醋闭≌裕看過(guò)黑鏡這部電視劇的朋友應(yīng)該還記得其中有一集就為我們展示了這一可怕的場(chǎng)景。
