從室外的植物叢中回到室內(nèi)之后，我們不可避免的會面對手機默色、電腦等人造智能電子產(chǎn)品融痛。
現(xiàn)在壶笼，我們和牛津大學(xué)人類未來研究院院長尼克?波斯特洛姆《超級智能》一起開啟一段引人入勝的旅程，把你帶到對人類狀況和智慧生命未來思索的最前沿雁刷。
本書目標(biāo)宏大覆劈，且有獨創(chuàng)性，開辟了人工智能領(lǐng)域的新道路沛励。同時责语，本書也為理解人類和智慧生命的未來奠定了基礎(chǔ)，是對我們時代根本任務(wù)的一次重新定義目派。
本書既不是論述人工智能技術(shù)實現(xiàn)方法的教科書坤候，也不是普及人工智能概念的營銷學(xué)著作，而是一本一步一個腳印地論證超級人工智能出現(xiàn)時我們該如何應(yīng)對的未雨綢繆之作企蹭。
面對誰也沒有見識過的可能性現(xiàn)象白筹，作者并不是天馬行空地描述一個他個人假象的世界，而是言必循理谅摄、論必有據(jù)地在謹(jǐn)慎地推敲超級智能產(chǎn)生的條件徒河、產(chǎn)生的時間、可能的狀態(tài)以及防患的方法螟凭。
如果你深信電影里的那種人工智能將會實現(xiàn)虚青，不妨讀一讀此書來了解一下應(yīng)對之策。如果你覺得機器超越人類只是危言聳聽螺男，不妨先讀一讀本書棒厘，再做一次判斷。
智能之所以會“超級”下隧，是因為有爆發(fā)的可能
第一章 人工智能：昨日成就與今日現(xiàn)狀
機器有一天會全面超越人類奢人，這就像是宇宙中一定存在外星生物一樣，雖然我們沒法證實淆院，但幾乎是可以斷言的何乎。
一、人工智能的發(fā)展歷史與展望的簡要介紹。
人類進步的速率有著明顯的超越指數(shù)級的加速性支救。如果說早期人類的生產(chǎn)能力增長到能夠維持另外100萬人基本生存的水平需要大約100萬年的時間抢野，那么今天世界經(jīng)濟平均每90分鐘就能夠增長相同的量。作者指出的這一增長趨勢讓人聯(lián)想到了之前刷爆朋友圈的一篇關(guān)于“嚇尿理論”的文章各墨。
大概是說指孤，在很久很久以前，如果有時光機贬堵，把一個古人帶到未來100年以后恃轩，他可能覺得世界沒有太大變化，要帶回1000年以后黎做，社會的變化才能把他“嚇尿”叉跛。而如果把一個人從十年前帶到今天，一個智能手機就把人家“嚇尿”了蒸殿。
說好了講超級智能筷厘，作者為什么要“不務(wù)正業(yè)”地普及人類簡史呢？是因為需要引出一個重要的“奇點”概念伟桅。費諾·文奇開創(chuàng)性的文章以及雷·庫茲韋爾等人的著述所揭示的那種即將到來的技術(shù)性奇點已經(jīng)受到廣泛關(guān)注敞掘。
“奇點”的概念比較重要，我著重引申介紹一下楣铁。什么是奇點呢玖雁？為了方便大家理解，我引用另一本書《與機器賽跑》中的一個經(jīng)典案例盖腕。
很久以前赫冬，發(fā)明國際象棋的人向國王要賞賜，他說：“您就在我的棋盤上溃列，第一格放1粒米劲厌，第二格放2粒，第三格放4粒听隐，以此類推补鼻，每一格都比上一格多一倍⊙湃危”风范。后來他就被國王宰了。因為這樣放到最后第64格的時候沪么，全國的米都給他都不夠了硼婿。這是個很簡單的故事，你也可能聽說過禽车，這是一個指數(shù)函數(shù)的故事寇漫。
這個故事真正可怕的地方在哪里呢刊殉？并不是在64格的時候你遇到的天文數(shù)字，而是在32格的時候州胳，你還以為那是一個合理的趨勢记焊。32格的時候，國王需要給發(fā)明家40億粒米陋葡，這差不多是一大片耕田而已亚亲，只是會讓你突然覺得有一點點多。
32是個神奇的范圍腐缤。聽說過摩爾定律嗎？英特爾的聯(lián)合創(chuàng)始人摩爾在1965年發(fā)現(xiàn)了一個規(guī)律肛响，大概是說相同面積的集成電路上岭粤，晶體管的數(shù)量每一年會翻一倍。
后來這個規(guī)律又逐漸被更新到每18個月或者以上特笋，但是大的翻倍趨勢還是在的剃浇。算到今天為止，應(yīng)該剛好過了32個輪回多一點猎物。
想象一下人類技術(shù)的發(fā)展曲線圖虎囚，也許你正沿著一個小山坡走著上坡路，可你卻不知道馬上你就會撞上山崖了蔫磨。為方便認(rèn)知淘讥，可以直接把這個曲線區(qū)別明顯的拐點處理解為“奇點”。
以上就是對“奇點”概念的一個粗淺介紹堤如。然而蒲列，作者卻不想在書中宣傳這個概念，他認(rèn)為“奇點”這一術(shù)語在很多不同領(lǐng)域被混亂地使用搀罢，并催生出一種不合理的技術(shù)烏托邦氛圍蝗岖，于是提出以更精確地的術(shù)語代替，比如說“智能爆發(fā)”榔至。
正因為這種技術(shù)發(fā)展的速度有著爆發(fā)的可能抵赢，才有超級智能誕生的可能。
二唧取、神不準(zhǔn)的人工智能發(fā)展預(yù)測
自從20世紀(jì)40年代計算機被發(fā)明出來之后铅鲤，機器就一直被寄予厚望，人們希望機器能夠具備人的一般智能兵怯。所謂的一般智能彩匕，就是說能做人做的大部分事情，像人一樣思考的行動媒区。
在這一部分驼仪，作者黑了一下預(yù)言家們掸犬。他認(rèn)為從計算機誕生那一天，一直到現(xiàn)在绪爸，每次談及何時能實現(xiàn)一般智能湾碎，預(yù)言家們都說20年以后。
這大概是因為這個時間跨度既近到抓你眼球奠货，又遠到不用他們負(fù)責(zé)任介褥。這個吐槽相當(dāng)犀利。那么至于為什么會這樣递惋，作者認(rèn)為主要原因是創(chuàng)造人工智能機器所遭遇的技術(shù)困難遠遠超過了先驅(qū)者們認(rèn)為的程度柔滔。
然而，萬一一般智能被實現(xiàn)的那一天真的到來了萍虽，我們還需要馬上考慮另一個問題睛廊，那就是什么時候機器智能會超越人類智能。因為這列技術(shù)的火車不會在到達人類智能水平的這一站就停滯不前或者減速行駛杉编，它很可能會飛速而過超全。
事實上，很多人工智能都已經(jīng)在某些特定領(lǐng)域超越人類了邓馒，比如前不久我們都見證了谷歌的圍棋機器人打敗世界冠軍李世石嘶朱。
只不過，這些智能體并不是以一般智能的方式來實現(xiàn)戰(zhàn)勝人類光酣，而只能在某個特定領(lǐng)域超越人類而已疏遏。那么，一旦人工智能以一般智能的方式挂疆，全面超越人類智能改览，會發(fā)生什么情況呢？
本書的序作者在書序《天算論》中總結(jié)作者的心態(tài)總的來說是積極的缤言，他的樂觀來自一個判斷：“我們擁有一項優(yōu)勢宝当，即我們清楚地知道如何制造超級智能機器〉ㄏ簦”
然而真的是這樣嗎庆揩？I.J.古德是人工智能之父圖靈當(dāng)年的密碼破譯小組的首席統(tǒng)計師兼數(shù)學(xué)家。他指出：如果人類制造出的超級智能超越了所有人類智能活動跌穗，那么這樣的超級智能也理應(yīng)有能力制造出比人類所制造的自身更好的超級智能订晌。這是一個很顯然的邏輯。
作者也提到蚌吸，人工智能的先驅(qū)者們大多數(shù)都不認(rèn)為他們的事業(yè)可能會存在風(fēng)險锈拨。我認(rèn)為，作者的心態(tài)總的來說其實偏向一種不可知論羹唠。也就是奕枢，超級智能會發(fā)展成什么樣子娄昆，是積極還是消極，我們不能準(zhǔn)確預(yù)判缝彬。但是有一件事是可以肯定的萌焰，那就是從現(xiàn)在開始就要謹(jǐn)慎對待。防備還是要有的谷浅，萬一搞出個災(zāi)難呢扒俯。
三、人工智能的大起大落
要想讓對人工智能的未來預(yù)判更準(zhǔn)確一疯，就必須先了解它的發(fā)展史撼玄。人工智能的發(fā)展就像一個創(chuàng)業(yè)者一樣，大起大落墩邀，一波三折互纯。
1956年的夏天，由多名頂尖科學(xué)家組成了著名的達特茅斯會議磕蒲，研究表明許多預(yù)想的人工智能問題可以得到突破。這次會議激發(fā)了人工智能的第一次研究熱潮只盹。
人工智能的發(fā)展駁斥了那種認(rèn)為機器“只會數(shù)數(shù)”的想法并顯示出機器也能夠進行推理和邏輯證明辣往。之后又出現(xiàn)了解決微積分問題的程序，甚至解決智商測驗中圖像類比問題的程序殖卑。我們今天所聽說過的一些經(jīng)典人工智能應(yīng)用場景站削，雛形都是在當(dāng)時產(chǎn)生的。
然而孵稽，這種早期的經(jīng)典人工智能方法迎來了一個叫作“組合爆炸”的巨大瓶頸许起。舉個例子，一些簡單的棋類智能程序可以通過決策樹來解決菩鲜。大概的意思是园细，每下一步棋，機器就分析接下來所有的可能性接校，然后選擇勝算最大的招數(shù)下棋猛频。
但是要分析連續(xù)幾步以后的所有可能性，可能性的數(shù)量就會呈指數(shù)級激增蛛勉，就像之前提過的棋盤上放米的例子鹿寻，最后可能性多到根本不可能計算。這時候這種把所有可能性都排查一遍的“窮舉法”就會失效了诽凌。
于是這種方式很難向更廣泛的領(lǐng)域延伸毡熏。算法的局限加上早期硬件設(shè)備性能的限制，使得人工智能遭遇了第一個寒冬：項目被砍侣诵，資金縮水痢法，懷疑論甚囂塵上狱窘。
20世紀(jì)80年代早期，人工智能迎來了第二個春天疯暑。當(dāng)時日本發(fā)起了第5代計算機系統(tǒng)工程训柴，通過發(fā)展大規(guī)模并行計算結(jié)構(gòu)為人工智能的實現(xiàn)搭建平臺。簡單來說妇拯，就是硬件與算法同時的進步幻馁，帶來了人工智能新的發(fā)展可能。接下來的幾年見證了專家系統(tǒng)的繁榮越锈。專家系統(tǒng)的設(shè)計理念是為決策者提供支持工具仗嗦，是指在已有的知識庫上，根據(jù)不斷詢問來選擇出最終結(jié)果的系統(tǒng)甘凭，比如常見的自助醫(yī)療診斷系統(tǒng)稀拐。
但是，專家系統(tǒng)也同樣存在著缺陷：小規(guī)模的系統(tǒng)沒有什么太大價值丹弱，大規(guī)模系統(tǒng)則需要在開發(fā)德撬、確認(rèn)和數(shù)據(jù)更新上耗費大量成本，在運用時往往也會非常麻煩躲胳。所以人工智能第二次的寒潮毫無意外的到來了蜓洪。私人投資者們開始回避任何與人工智能相關(guān)的風(fēng)險。甚至對于學(xué)界人士以及學(xué)術(shù)資助人來說坯苹，“人工智能”一詞都讓人感到厭煩隆檀。
但是技術(shù)依舊在飛速發(fā)展，20世紀(jì)90年代粹湃，寒冰開始消融恐仑。新的技術(shù)似乎提供了一種有別于傳統(tǒng)邏輯范式（經(jīng)常被稱為GOFAI，意為“出色的老式人工智能”）的替代路徑为鳄。神經(jīng)網(wǎng)絡(luò)和遺傳算法等新流行的技術(shù)有望在某種程度上克服GOFAI路徑的缺陷裳仆，即只要系統(tǒng)存在一個微小的錯誤假設(shè)，整個結(jié)果就會變得毫無意義的缺陷济赎。新的算法具備“故障弱化”的特性鉴逞，微小的損壞通常只會導(dǎo)致整體性能的微小弱化而不會造成系統(tǒng)完全崩潰。
要理解其中的區(qū)別司训，就必須深入研究老式人工智能和新興機器學(xué)習(xí)算法的原理构捡。這對于非專業(yè)讀者來說太難了，我在此舉個例子：如果說老式人工智能方法是設(shè)計一整套精密的機械裝置的話壳猜，新式人工智能方法就像是建立一個自然生態(tài)環(huán)境勾徽。精密的裝置少了一個螺絲就有可能不能工作了，而生態(tài)環(huán)境哪怕產(chǎn)生了一些局部破壞也會自然恢復(fù)统扳。
神經(jīng)網(wǎng)絡(luò)像是模擬人類大腦皮層神經(jīng)元組合的特質(zhì)喘帚，而遺傳算法則是模擬自然界基因傳承畅姊、突變、優(yōu)勝劣汰的特點吹由。這兩種方法的發(fā)展構(gòu)建出了兩條引領(lǐng)人們走出第二次人工智能寒冬的路徑若未，激發(fā)起了人們的廣泛興趣。在此基礎(chǔ)上倾鲫，一批從實例中學(xué)習(xí)的算法逐漸成熟粗合，帶來了今天機器學(xué)習(xí)的新繁榮。
回顧人工智能的大起大落乌昔，真是分久必合隙疚，合久必分。眼看起高樓磕道，眼看宴賓客供屉，眼看樓塌了，又起一座樓溺蕉。對比每一次起伏和今天人工智能“新風(fēng)口”的地位伶丐，怎不令人唏噓啊。
四疯特、 發(fā)展與危機
如今人工智能已經(jīng)在很多特定領(lǐng)域超過了人類撵割，除了前段時間的AlphaGo圍棋機器人，書中還羅列了許多項目辙芍。有些項目發(fā)展得如此成熟，以至于人們已經(jīng)不覺得那是人工智能了羹与，只是軟件而已故硅。人工智能的特點是在有限的范圍或領(lǐng)域內(nèi)具備認(rèn)知能力，而軟件系統(tǒng)的主要特征則是具備普遍的問題解決能力纵搁。
實際上吃衅，諸多已經(jīng)成功發(fā)展人工智能的領(lǐng)域都是特定智能的成功，我們提到過腾誉，一般智能的技術(shù)還遠沒有達到人類智能水平∨遣悖現(xiàn)狀是，人工智能在所有需要“思考”的領(lǐng)域中成功了利职，卻在人和動物不用思考的直覺領(lǐng)域經(jīng)受著挑戰(zhàn)趣效。比如要開發(fā)一個圍棋機器人容易，但要讓一個機器人看到棋盤就知道這是圍棋則很難猪贪。如今人工智能的發(fā)展已經(jīng)在重點攻克這些領(lǐng)域跷敬。識別物體、自然語言理解热押、人臉識別西傀、機器翻譯等技術(shù)斤寇，都在高速發(fā)展。
已經(jīng)成熟的技術(shù)拥褂，會給我們帶來什么危害嗎娘锁？作者在書中給出了2010年美國股市“閃電崩盤”的例子。簡單來說饺鹃，就是當(dāng)自動交易程序已經(jīng)成熟并且被各家金融機構(gòu)深度依賴以后莫秆，有一次系統(tǒng)曲解了一次不合理操作背后的意義，開始高頻交易尤慰，引發(fā)了連鎖反應(yīng)馏锡，最后在短短幾秒鐘內(nèi)數(shù)以萬億計的美元被吸出市場。雖然這種自動交易程序本質(zhì)上不算是高級人工智能伟端，但是這種由于對計算機程序的依賴所導(dǎo)致的閃電崩盤還是能夠警醒我們杯道。
五、 對未來機器智能的看法
在兩個主要前沿陣地中所取得的重大勝利重新喚起了人工智能研究的輝煌责蝠。一個是建立在更可靠的統(tǒng)計以及信息理論基礎(chǔ)上的機器學(xué)習(xí)實現(xiàn)了突破党巾，一個是在將解決特定領(lǐng)域特定問題的人工智能應(yīng)用到特定的實踐和商業(yè)中所得到的成功齿拂。
本章最后作者指出， “人類水平的機器智能”（HLMI）砸狞，即至少能像人一樣開展人類能做的大多數(shù)專門活動所需要的智能，可能會在21世紀(jì)中葉實現(xiàn)，可能早也可能晚。但是只要這種機器智能出現(xiàn)芽隆，就會很快出現(xiàn)超越人類智能水平的超級智能牙躺。這會對人類生存產(chǎn)生極其重大的影響孽拷，或是產(chǎn)生極好的影響脓恕，或是造成人類滅絕炼幔。不管怎樣圆兵，這都說明我們很有必要去認(rèn)真研究人工智能這個議題。
第二章 通往超級智能之路
一愈污、人工智能
雖然上一章已經(jīng)提到在一般智能方面目前機器還遠不如人類金麸。但是挥下，機器終有一天會變得超級聰明。本章作者探討了幾種實現(xiàn)超級智能的可能路徑棚瘟，這里對超級智能的定義是：在幾乎所有領(lǐng)域遠遠超過人類的認(rèn)知能力喜最。作者提到的可能路徑包括了人工智能、全腦仿真、生物認(rèn)知迷雪、人機交互，以及網(wǎng)絡(luò)和組織。
我們來討論以遺傳算法為基礎(chǔ)的人工智能赁严。人工智能系統(tǒng)的核心特征是獲知能力，以及有效處理不確定性和概率信息的能力劝枣。在現(xiàn)代人工智能理論中哨免，一些學(xué)者希望通過研究信息傳遞的過程及人腦內(nèi)部構(gòu)造來研究人工智能，用獲取的有用的概念來創(chuàng)造可進行邏輯推理的智能昙沦，這種能力很可能是現(xiàn)代人工智能達到全面領(lǐng)域智能水平的核心要素琢唾。
早期，圖靈提出過“兒童思維機器”的概念盾饮，即編寫一個像兒童一樣有學(xué)習(xí)能力的程序采桃，讓其演變具有成成人智力水平的思維程序，而不是直接創(chuàng)造出成人水平的智能丘损。這個理論普办，結(jié)合模擬進化過程的遺傳算法，以得到類似生物進化的結(jié)果徘钥，成為實現(xiàn)人工智能的一種方法衔蹲。
然而，這個方法的難點在于計算能力的突破呈础。由于運算復(fù)雜度實在太大舆驶，靠現(xiàn)有的計算能力是行不通的。哪怕是根據(jù)計算能力的發(fā)展水平來期待未來的計算能力而钞，也不知猴年馬月才能實現(xiàn)沙廉。
另外一種實現(xiàn)人工智能的可行方法是研究人類大腦，以大腦作為機器智能的模板臼节。相當(dāng)于搞清楚大腦內(nèi)部的結(jié)構(gòu)和工作原理撬陵，然后人造一個程序腦珊皿。由于我們用電和金屬解決了生物學(xué)的一些功能，所以只需要模擬大腦的工作方式就可以了巨税，這使得問題簡單了許多蟋定。但是，我們?nèi)匀缓茈y預(yù)測垢夹，什么時候腦科學(xué)發(fā)展水平才足以解開大腦工作原理的所有奧秘溢吻。
綜上，以哪種原理設(shè)計人工智能的討論尚無定論果元。但是促王，有一件事應(yīng)該強調(diào)：人工智能不需要模仿人類的心智。事實上而晒，人工智能極有可能與人類的心智不同蝇狼。此外，人工智能的目標(biāo)體系可以從根本上與人類的目標(biāo)體系相異倡怎。盡管還有很多難關(guān)迅耘，但一種比較合理的猜想是，超級智能可能首先會通過人工智能的途徑得以實現(xiàn)监署。
二颤专、 全腦仿真
另一種途徑是全腦仿真，也被稱為“上載”钠乏，通過掃描和對生物大腦仔細(xì)建模的方法制作智能軟件栖秕。這個過程需要三個步驟：第一，切片和掃描晓避，精確掃描人類大腦簇捍。第二，重建和翻譯俏拱，將掃描過的原始數(shù)據(jù)輸入計算機暑塑，自動圖像處理會重建原先大腦中負(fù)責(zé)認(rèn)知的三維神經(jīng)網(wǎng)絡(luò)。第三锅必，模擬和實現(xiàn)事格，在一個運算能力足夠強大的計算機上輸出神經(jīng)計算結(jié)構(gòu)。
全腦方針路徑不要求我們了解人類知識的原理或者構(gòu)造人工智能的程序搞隐，我們只需要了解大腦的基礎(chǔ)計算元素所具有的基本功能和特征即可驹愚。然而，要實現(xiàn)它仍然有三個關(guān)鍵的先決條件：掃描尔许，有足夠高的分辨率和相關(guān)檢測性能的高通量顯微鏡；翻譯终娃，自動圖像分析將原始掃描數(shù)據(jù)翻譯成對一種神經(jīng)計算元素相關(guān)的三維模型的闡釋味廊；模擬，硬件需要足夠強大，已實現(xiàn)得到的計算結(jié)構(gòu)余佛。
我們有充分的理由認(rèn)為必要的支持技術(shù)是可以實現(xiàn)的柠新，只是時間問題。理論上現(xiàn)在的知識和能力支持發(fā)展必要的技術(shù)是沒有障礙的辉巡，但很明顯恨憎，若想實現(xiàn)全腦仿真技術(shù)，還需要有跨越式的發(fā)展郊楣。比如憔恳，顯微鏡不僅要有足夠高的分辨率，還要有足夠大的吞吐量净蚤。類似的待發(fā)展的技術(shù)還有很多钥组。
總的來說，全腦仿真比起人工智能要依靠更多的技術(shù)能力和更少的理論洞見今瀑。而腦補模擬的抽象水平?jīng)Q定了全腦仿真需要多少技術(shù)能力程梦。從這個方面考慮，全腦仿真需要理論與技術(shù)之間的平衡橘荠。
在技術(shù)發(fā)展中屿附，一旦能得到自動模仿少量腦部組織的技術(shù)，剩下的問題就是同比縮放了哥童。比如我們可以先實現(xiàn)秀麗隱桿線蟲的腦部仿真挺份，再依次實現(xiàn)蜜蜂、老鼠如蚜、恒河猴压恒、人類的腦部仿真。一旦我們開始登上這個“梯子”的最后一級错邦，最終實現(xiàn)人類全腦仿真就指日可待了探赫。那么，在通過全腦仿真路徑實現(xiàn)人類水平的機器智能之前撬呢，我們就至少可以期待獲得一些預(yù)警伦吠。作者這里又一次提到預(yù)警，可見時刻在為超級智能實現(xiàn)后的負(fù)面可能未雨綢繆魂拦。
三毛仪、生物認(rèn)知
第三個路徑是運用比現(xiàn)有人類更偉大的智能提高生物大腦的功能。作者在這里提到了一些優(yōu)生學(xué)的理論和案例芯勘。讀者可能會疑惑箱靴，這和人工智能有關(guān)系嗎堤舒？確實账千，似乎扯得有些遠，但其實不然。一來壮虫，作者對于“超級智能”的定義從來就不局限于機器智能或者人工智能抄邀，而是一個更廣義的定義遣钳。二來鄙币，作者認(rèn)為研究并實現(xiàn)人類智能的提升，可以加快機器智能形成超級智能的速度怖现。
我們個人的認(rèn)知能力是可以用不同的方法加強的茁帽，包括教育和培訓(xùn)。生物醫(yī)學(xué)水平的提高也可以有效幫助我們提升記憶力屈嗤、集中注意力潘拨。而基因操縱的方法則是更上一個臺階的，比精神藥理學(xué)更強大的工具恢共。在未來10年或20年战秋，可篩選或剔除的基因性狀的范圍將大大擴展。當(dāng)基因和胚胎可以選擇讨韭，人類面對著人工進化實現(xiàn)的可能性脂信。
然而，問題還是慢透硝！如果每一代胚胎培育要花費20到30年狰闪，那么連續(xù)5代就會把我們推到22世紀(jì)。哪怕使用生殖干預(yù)措施濒生，讓人類真的可以在生殖細(xì)胞或者胚胎上實施基因篩選埋泵，也必須考慮到將世界上任何重大影響延遲的世代間隔。即使技術(shù)完善罪治，也需要20多年來讓這代基因增強的個體達到成熟階段丽声。所以，這個過程將會是相對緩慢和漸進的觉义。
1.人腦—計算機交互界面
有人曾提到使用直接的人腦—計算機交互界面雁社，尤其是植入技術(shù)，讓人類利用數(shù)字計算的長處晒骇，形成完美的混合系統(tǒng)霉撵，其功能遠超沒有強化過的大腦。這個技術(shù)有點像科幻片里的黑科技——生物和機械結(jié)合的生命體洪囤。然而徒坡，盡管我們已經(jīng)利用類似技術(shù)治療一些如帕金森之類的疾病，但是增強大腦的功能遠比治療難得多瘤缩。
那么喇完，跨越語言，讓兩顆大腦建立連接剥啤，讓概念和思想可以被“下載”到另一大腦中锦溪，這個想法怎么樣奄喂？實際上很難。人類智能的速率限制并不取決于信息輸入大腦的速度海洼，而是取決于大腦挖掘信息并獲取有意義信息的速度。況且富腊，每個大腦都有其獨特的經(jīng)驗坏逢，導(dǎo)致細(xì)節(jié)結(jié)構(gòu)都大不相同，找到通用方法的難度非常大赘被。
人們寄予半機械化途徑的一點希望是是整，如果大腦中能夠永久地植入一個同一些外部資源相連的裝置，那么經(jīng)過一定的時間民假，大腦將掌握自身內(nèi)部認(rèn)知狀態(tài)和裝置交換的信息之間的有效互相映射浮入。而這看上去不太可能實現(xiàn)。
2.網(wǎng)絡(luò)和組織
另一種可能的途徑是通過逐漸地增強網(wǎng)絡(luò)和組織羊异，這些網(wǎng)絡(luò)和組織使得人類個體的大腦相互連接事秀，并且同各種各樣的人工產(chǎn)品和機器人相連接。
這聽起來更加黑科技了野舶。然而它的雛形幾千年前就被實現(xiàn)了易迹，那就是人類語言。人類能從集體智能中獲益良多平道，而語言的發(fā)明就是最重要的因素睹欲。我們通過語言交換思想和經(jīng)驗，形成網(wǎng)絡(luò)和組織一屋。只不過窘疮，是否有一天我們可以擁有不需要語言，而直接連接大腦的能力冀墨，甚至直接用大腦操控外界的能力呢闸衫？現(xiàn)在許多科學(xué)家正在做這樣的嘗試。
我寫這篇拆書稿的時候轧苫，剛巧還看見埃隆·馬斯克在采訪中聲稱楚堤，人工智能的未來在于有效連接人類大腦。許多人在為了超級智能的誕生努力著含懊，讓我們期待各個途徑上的新成果吧身冬。
思考與討論：
（開放性問題）
如果說超級智能終有一天會與人類邂逅，那么它的成功實現(xiàn)有哪些前提條件呢岔乔？
第二章中介紹了許多種實現(xiàn)超級智能的可能方法酥筝，你認(rèn)為哪一種是最有可能的呢？
№10 三種超級智能形式
第三章 超級智能的形式
超級智能如果是能被實現(xiàn)出來的雏门，那么它可能是個什么樣的東西嘿歌。它會在什么時候發(fā)生掸掏，又為何會是一個非常有影響力東西。
一宙帝、超級智能的三種形式
這一章主要介紹了超級智能的三種形式丧凤，同時也說明了比起生物性基質(zhì)，機器基質(zhì)的智能潛力要大得多步脓。機器具有很多根本性優(yōu)勢愿待，從而具有壓倒性的優(yōu)越性。生物學(xué)人類即便提高了性能靴患，也比不上機器仍侥。
我們用“超級智能”來指代在許多普遍的認(rèn)知領(lǐng)域中，表現(xiàn)遠遠超越目前最聰明的人類頭腦的智能鸳君。進一步完善這個定義农渊，我們可以通過區(qū)分智能層面的超級能力，將超級智能的這種簡單定義分解為：高速超級智能或颊、集體超級智能和素質(zhì)超級智能砸紊。
1.高速超級智能
高速超級智能是指和人腦相似，但速度快于人腦的智能囱挑。該系統(tǒng)可以完成人類智能可以完成的所有事批糟，但是速度快若干個數(shù)量級。
我相信這個概念讀者們都可以想象看铆。但是徽鼎，依據(jù)原文中的描述，我猜許多讀者還不能夠想得全面弹惦。
比如我們會把計算機處理數(shù)學(xué)運算的速度與人的運算速度比較否淤，來類比著理解高速超級智能這個概念。這沒有錯棠隐，但是定義中的“更快”不是只局限于運算石抡，而是針對“所有事”，包括了視覺助泽、聽覺啰扛、思維過程、行動能力等等嗡贺。
作者舉了個例子：當(dāng)你的朋友把咖啡杯碰倒到地上這個過程中隐解，超級智能一邊欣賞著你朋友表情的變化一邊重新訂購了一個新杯子，讀了幾篇論文诫睬，還小睡了一會兒煞茫。
對于一個超高速運轉(zhuǎn)的大腦來說，物質(zhì)世界中會出現(xiàn)明顯的時間膨脹。所以续徽，其實把“閃電俠”和人拿來類比會更加貼切蚓曼。這種高速超級智能更愿意使用數(shù)字對象工作。高速超級智能可以存在于虛擬現(xiàn)實中钦扭，在信息經(jīng)濟中工作纫版。因為這種介質(zhì)能夠使它發(fā)揮更高的速度，而不會被物質(zhì)世界局限客情。這也是機器相比于生物的一大優(yōu)勢捎琐。
2.集體超級智能
集體超級智能是一種通過整合大量小型智能，實現(xiàn)卓越性能的系統(tǒng)裹匙。該系統(tǒng)由數(shù)目龐大的小型智能組成，在很多一般領(lǐng)域的整體性能上都大大超過所有現(xiàn)有的認(rèn)知系統(tǒng)末秃。
從經(jīng)驗角度來說概页，我們都很熟悉這種概念，因為我們?nèi)祟愇拿骶褪沁@樣一種集體智能练慕，只不過還沒有上升到“超級”的地步惰匙。
集體智能擅長解決可被分為各個子問題的問題，可以同時尋找并單獨驗證各個子問題的解決方案铃将，個體能夠相對獨立地工作项鬼，各耕其田。
通過增加系統(tǒng)組成部分的數(shù)量劲阎，或提高組成部分的質(zhì)量绘盟，或優(yōu)化組織方式，都可以提高系統(tǒng)的集體智能水平悯仙。然而龄毡，機器在這方面可以無限地延伸和復(fù)制，人類集體認(rèn)知能力卻必須有更極端的增長锡垄，才能符合集體超級智能的標(biāo)準(zhǔn)沦零。
如果我們逐步增加集體智能的整合度，最終可能會形成一個統(tǒng)一的智能體货岭。我們需要改善通信和協(xié)調(diào)技術(shù)路操，研究出更好的共同攻克任何智力難題的方式。這樣千贯，集體超級智能在獲得足夠高的整合度之后屯仗，便成為素質(zhì)超級智能。
3.素質(zhì)超級智能
素質(zhì)超級智能是一個至少和人類大腦一樣快搔谴，并且聰明程度與人類相比有巨大的質(zhì)的超越的系統(tǒng)祭钉。這個概念有些模糊，我們也沒有任何經(jīng)驗己沛，因為比人類聰明很多的智能體還沒有出現(xiàn)慌核。
我們可以簡單地理解為距境，如果愛因斯坦比普通人聰明好幾倍，那么素質(zhì)超級智能就像是比愛因斯坦還聰明幾百倍的一個人垮卓。如果說三國演義中諸葛亮多智而近妖垫桂，那么素質(zhì)超級智能就像是比諸葛亮還有謀略幾百倍的人。不是說他們算算術(shù)有多快或者反應(yīng)有多敏捷粟按，而是當(dāng)遇到一些難題的時候他們就是有常人想不到的解決辦法诬滩。把他們的智能跟人類比，就像把人類的智能跟大象比一樣灭将。
或者疼鸟，我們可以觀察影響人類個體在特定領(lǐng)域的認(rèn)知缺陷。比如自閉癥患者可能在社會認(rèn)知方面有嚴(yán)重缺陷庙曙，而在其他領(lǐng)域都是正常的空镜，甚至有自閉癥患者在某些領(lǐng)域上是天才，比如算術(shù)捌朴。我們有許多這樣的案例吴攒。
這表明，可能存在一些沒有表現(xiàn)出來的認(rèn)知才能砂蔽。而現(xiàn)實中的人類并不具備這些才能洼怔，如果其他智能系統(tǒng)擁有這些才能，它們的能力將得到極大的增強左驾，足以完成種類繁多的戰(zhàn)略相關(guān)任務(wù)镣隶。
這有點像X戰(zhàn)警。我們可以想象一下诡右，如果我們獲得了一套新的認(rèn)知模塊矾缓，比方說我們會透視了，是否會讓我們擁有新的優(yōu)勢呢稻爬？是否可能擁有超級智能呢嗜闻？
作者認(rèn)為，隨著時間的推移桅锄，任何一種形式的超級智能都可以開發(fā)出創(chuàng)建其他智能形式所必要的技術(shù)琉雳。也就是說，剛才提到的三種超級智能形式是可以相互促進和轉(zhuǎn)化的友瘤，間接范圍是相同的翠肘。而他們的直接范圍更難比較，可能并不存在確定的順序辫秧。
但是束倍，三種超級智能中，素質(zhì)超級智能可能是最強的一種。在一些領(lǐng)域中绪妹，數(shù)量不能夠替代質(zhì)量甥桂。我們必須看到這種可能性：有一些智力問題只能由超級智能來解決，而在沒有經(jīng)過智能提升的龐大人群中邮旷，任何一個人對這些問題都無能為力黄选。這些問題往往傾向于包括復(fù)雜的多重相關(guān)性，不能被分解為可獨立驗證的解決步驟婶肩。
二办陷、數(shù)字智能的優(yōu)勢來源
為什么說數(shù)字智能一定能超越人類智能呢？因為它有太多明顯的優(yōu)勢了律歼。最容易認(rèn)清的是硬件優(yōu)勢民镜。
計算要素的速度。生物神經(jīng)元的運作速度最高能達到大約200赫茲险毁，比一臺現(xiàn)代微處理器的運行速度慢了整整7個數(shù)量級制圈。
內(nèi)部傳遞速度。軸突運載動作電位的速度為120米/秒或者更低辱揭，然而電子處理核可以以光速進行傳遞，即3億米/秒病附。
計算要素的數(shù)量问窃。人類的大腦共有略少于1000億個神經(jīng)元。但是相比之下完沪，計算機硬件可以無限制地擴大域庇。
儲存能力。成年人類的大腦可以儲存大約10億比特的信息覆积，比一臺低端智能手機還低了幾個數(shù)量級听皿。
可靠性、使用壽命宽档、傳感器等尉姨。大腦在工作幾小時之后會變得疲勞，在經(jīng)過幾十年的主觀時間之后會開始永久性地衰退吗冤，而微處理器則不會受到這些限制又厉。
我們可以看到，硬件性能的最終極限要遠遠高于生物計算基質(zhì)的極限椎瘟。除此之外覆致，數(shù)字大腦還將受惠于其在軟件方面的重大優(yōu)勢：
可編輯性。相較于大腦神經(jīng)系統(tǒng)而言肺蔚，對軟件進行參數(shù)變化方面的實驗更加容易煌妈。
可復(fù)制性。對于軟件，人們可以以很快的速度制造很多高精確度的復(fù)件璧诵，來填補可用的硬件基礎(chǔ)汰蜘。
目標(biāo)協(xié)調(diào)性。機器可以讓組成部分達成一致的目標(biāo)腮猖。
記憶共享鉴扫。要獲得新的記憶和技能，生物大腦需要較長時期的培訓(xùn)和輔導(dǎo)澈缺，而數(shù)字大腦通過交換數(shù)據(jù)文件就可以做到坪创。
新模塊、形態(tài)和算法姐赡。人工大腦如果能在特殊領(lǐng)域提供專門支持莱预，在這些領(lǐng)域?qū)h超人類大腦。
綜上项滑，機器智能依沮、硬件和軟件聯(lián)合起來可最終獲得的優(yōu)勢將是巨大的。下一章我們就要討論這種潛在的優(yōu)勢何時才能實現(xiàn)枪狂。
第四章 智能大爆發(fā)的動力學(xué)
一危喉、智能爆發(fā)的時間和速度
目前最先進的人工智能系統(tǒng)都遠遠低于人類基礎(chǔ)智能水平，未來的某一天州疾，機器智能或許可以接近這一水平辜限，而這標(biāo)志著機器智能全面提升的開始。隨著機器系統(tǒng)的聰明程度不斷增長严蓖，其將會達到人類綜合智能水平薄嫡，我們稱之為全面人類智能水平。最終機器的聰明程度將提高到超級智能水平颗胡，大幅超過當(dāng)前的全人類智能水平毫深，這標(biāo)志著整個爆發(fā)過程的完成。
未來的系統(tǒng)還會變得更聰明毒姨，智能大爆發(fā)的過程將會經(jīng)歷一個標(biāo)志點哑蔫，我們稱之為跨界點。此點之后弧呐，機器智能水平的提高便將主要依靠自身而非他人的行動鸳址。
我們可以識別出有三種可能的智能大爆發(fā)的情形，分別是緩慢的泉懦、迅速的和溫和的智能大爆發(fā)稿黍。緩慢的智能大爆發(fā)是在相當(dāng)長的一段時間內(nèi)發(fā)生的，比如幾十年甚至更久崩哩，這給人類政治進程提供了良好的適應(yīng)機會巡球。迅速的智能大爆發(fā)言沐，往往發(fā)生在非常短的時間內(nèi)，比如幾分鐘酣栈、幾小時或者幾天险胰。人們沒有足夠的時間做出反應(yīng)，往往是在整個爆發(fā)過程結(jié)束之后矿筝，都沒意識到問題所在起便。而溫和的智能大爆發(fā)，多發(fā)生在中等長度的時間內(nèi)窖维，比如幾個月或者幾年榆综。雖然人類不足以發(fā)展出新的體系，但可以調(diào)整現(xiàn)成的體系來應(yīng)對新的挑戰(zhàn)铸史。
人們很難想象世界會在短時間內(nèi)發(fā)生根本性的轉(zhuǎn)變鼻疮，人類在一兩個小時中就失去了原先的最高地位，這是我們想不到的琳轿。但是作者認(rèn)為緩慢的智能大爆發(fā)反而是最不可能發(fā)生的判沟。一旦向超級智能的過渡開始啟動，就將更有可能是爆炸性的發(fā)展崭篡。
開始分析爆發(fā)的啟動速度之前挪哄，我們先要假設(shè)一個系統(tǒng)的智能增長率為兩個變量的單調(diào)遞增函數(shù)。這兩個變量分別為：最優(yōu)化力和系統(tǒng)智能對這種最優(yōu)化力的反應(yīng)度琉闪。我們用反抗度表示反應(yīng)度的倒數(shù)迹炼，也就是說，反抗度越高塘偎，說明對這種最優(yōu)化力的反應(yīng)度越低疗涉。
作者在這里給出了一個公式：智能變化率等于最優(yōu)化力除以反抗度拿霉。當(dāng)系統(tǒng)有提升的空間吟秩，并且人類為之付出了大量努力，或者人類進行了許多有效的設(shè)計工作绽淘，并且機器人的反抗度很低時涵防，系統(tǒng)的智能水平就會迅速提升。
此外沪铭，一個當(dāng)前的系統(tǒng)的最優(yōu)化力水平壮池，也會影響反抗度的值。所以這就像拼圖游戲一樣杀怠，開始的時候很簡單椰憋，只要找到邊角的圖塊即可。中間的圖塊最難找赔退，此時反抗度不斷上升橙依。而隨著拼圖逐漸被完成证舟，剩余的空塊越來越少，難度又再次降低窗骑。
二女责、反抗度和最優(yōu)化力
1．反抗度
為了深入研究，我們需要分析智能大爆發(fā)的幾個關(guān)鍵時期中创译，反抗度和最優(yōu)化力是如何變化的抵知。我們先來談?wù)劮纯苟取Ｗ髡哒劦搅艘恍┓菣C器智能的降低反抗度的途徑刷喜，我覺得這里不做重點考慮，因為讀者讀本書的目的可能并不是了解人類如何能夠進化得更好互订，而是要看機器智能是如何發(fā)展的吱肌。
但是，長期看來仰禽，人腦—計算機發(fā)展過程中的困難與發(fā)展仿真系統(tǒng)和人工智能中的困難十分類似氮墨。以目前我們所熟知的互聯(lián)網(wǎng)為例，它始終是一個前沿領(lǐng)域吐葵，擁有大量提高人工智能水平的機會规揪，其反抗度目前處于中等水平，系統(tǒng)發(fā)展是迅速的温峭，但是要為之投入大量的工作和努力猛铅。
我們主要來看仿真系統(tǒng)和人工智能的途徑。開發(fā)全腦仿真系統(tǒng)的難度很難估計凤藏，當(dāng)機器具有和人類一樣的智能水平時奸忽，反抗度可能會迅速下降。也就是說揖庄，系統(tǒng)智能會對這種最優(yōu)化力反應(yīng)很快栗菜。
由于人類經(jīng)濟史上從未有過一個勞動者能夠被準(zhǔn)確地復(fù)制、重置和以不同的速率運行蹄梢，所以第一批仿真系統(tǒng)的使用者可以發(fā)掘出大量的創(chuàng)新和改進空間疙筹。當(dāng)全能仿真系統(tǒng)被發(fā)明出來后，其反抗度起初會急劇下跌禁炒，隨后則有回升而咆。對于人工智能來說，通過算法改良來實現(xiàn)超級智能的困難幕袱，取決于系統(tǒng)的具體特性暴备。
而我們也會有一些特殊情況，使得系統(tǒng)的反抗度非常低们豌。舉個例子涯捻，當(dāng)程序員長期被某一關(guān)鍵性問題困擾時阁危，他正在開發(fā)的人工智能就會進展緩慢。而一旦這個關(guān)鍵問題被解決汰瘫，人工智能很可能從低等級直接飛越到高等級狂打。
現(xiàn)在我們的人工智能水平還處于比較低的水平，要改進人工智能混弥，我們需要從兩個因素進行考慮：一個是內(nèi)容趴乡，另一個是硬件。
首先內(nèi)容改進蝗拿。這里的“內(nèi)容”只是系統(tǒng)的軟件資產(chǎn)晾捏，而不是核心運算結(jié)構(gòu)的全部。內(nèi)容可能包括：儲存感知數(shù)據(jù)庫哀托、專門技能圖書館以及陳述性知識惦辛。想象一下，以一個十歲兒童的閱讀理解能力仓手，再加上迅速讀取整個美國國會圖書館中所有書籍內(nèi)容的閱讀速度胖齐，這樣的人工智能，從內(nèi)容角度來講其進化是迅速的嗽冒。
而從硬件來講呀伙，在一個具有人類水平的軟件系統(tǒng)中擴大集體或速度智能所帶來的反抗度可能會很低，唯一的困難在于如何獲得更大的計算機能力添坊。要擴大一個系統(tǒng)的硬件基礎(chǔ)有很多種方式剿另，各對應(yīng)不同的時間標(biāo)尺。在短期內(nèi)贬蛙，計算機能力應(yīng)該與資金大致呈線性關(guān)系雨女；在較長時期內(nèi)，獲得更多硬件的成本阳准，可能會隨著全世界安裝計算機的能力用于運行數(shù)字大腦的比例上升而提高氛堕；而在更長的時間內(nèi)，計算能力供應(yīng)會隨著新增加的性能而提高溺职。綜上所述岔擂，我們可以談?wù)撚布诱沟目赡苄裕寒?dāng)創(chuàng)造出達到人類水平的軟件后位喂，就可以有足夠的計算能力來高速運行大量的復(fù)制品浪耘。
2.最優(yōu)化力與爆發(fā)
作者在書中給出的智能大爆發(fā)動力學(xué)公式反映出，快速的爆發(fā)并不需要過渡階段塑崖，其反抗度保持較低水平七冲。而且，如果在用于系統(tǒng)提升性能的最優(yōu)化力快速增長的條件下规婆，反抗度恒定甚至適度增長澜躺，也會出現(xiàn)快速的爆發(fā)蝉稳。所以快速爆發(fā)的可能性比緩慢爆發(fā)要大。
第五章 決定性戰(zhàn)略優(yōu)勢
一掘鄙、領(lǐng)先者會取得決定性戰(zhàn)略優(yōu)勢嗎耘戚？
這章我們主要討論，將會有一個還是多個超級智能的問題操漠，以及收津，會有一個超級智能取得絕對的戰(zhàn)略優(yōu)勢，然后利用壟斷優(yōu)勢鎮(zhèn)壓競爭者從而建立單一體嗎浊伙？
決定領(lǐng)先者與追隨者差距大小的一個因素是撞秋，使領(lǐng)先者獲得競爭優(yōu)勢的技術(shù)的擴散速率。也就是說嚣鄙，如果追隨者能夠快速模仿或者抄襲領(lǐng)先者的話吻贿，將會對領(lǐng)先者不利，而使得落后者獲益哑子。然而我們不應(yīng)該認(rèn)為舅列，這種抄襲會隨著領(lǐng)先者與追隨者差距的增加而增強。因為一個落后得足夠遙遠的落后者是很難模仿最先進的技術(shù)的卧蜓。
那么到底是會有一個智能獨冠群雄剧蹂，還是多個智能百家爭鳴呢？作者在書中討論了許多的觀察烦却，最后得出結(jié)論：在全世界那么多人工智能項目當(dāng)中宠叼，就爆發(fā)速度而言，幾乎不可能有兩個項目同時快速啟動其爵；對于中速啟動冒冬，獨冠群雄和百家爭鳴兩種情況都有可能發(fā)生；而對于慢速啟動摩渺，很可能有數(shù)個項目同時啟動简烤。
二、成功的項目可能會有多大摇幻？
那么横侦，一個成功的項目可能會有多大？通往超級智能的某些途徑需要大量的資源绰姻，包括人力枉侧、物力、財力和技術(shù)狂芋。其中榨馁，實現(xiàn)人工智能的途徑更加難以估計，其可能會需要一個非常大的研究項目帜矾，也可能一小群人就能完成翼虫，同時也不排除一個黑客獨自完成的可能性屑柔。
考慮到超級智能具有極其重要的安全意義，各國政府可能會把他們看來即將實現(xiàn)啟動的珍剑、在其領(lǐng)土范圍內(nèi)的任何一個項目國有化掸宛。因此，一個重要的問題是招拙，國家政府或國際組織是否能夠預(yù)見智能爆發(fā)的到來旁涤。這些組織作為大玩家，他們的態(tài)度對智能發(fā)展有至關(guān)重要的影響迫像。如果國家政府等大玩家積極參與的話劈愚，那么小規(guī)模的組織可能會更難以對智能爆發(fā)的結(jié)果產(chǎn)生影響。另外闻妓，如果全球治理結(jié)構(gòu)整體上變得強大菌羽，那么國際合作的可能性就會增加。大規(guī)模的跨國科技合作存在成功的先例由缆，比如國際空間站注祖、人類基因組項目和大型強子對撞機。國際合作項目需要克服較大的安全挑戰(zhàn)均唉，同時大概還需要一定的信任才能啟動是晨，而建立信任則需要一定的時間。
三舔箭、 從決定性戰(zhàn)略優(yōu)勢到單一體
作者在本章中討論了對許多國家視角的分析罩缴，但是如果具有決定戰(zhàn)略優(yōu)勢的不是一個人類組織，而是一個有超級智能的人工智能體层扶，情況會怎么樣呢箫章？通常情況下，人類個體和組織會傾向于不去承擔(dān)等額的風(fēng)險镜会。他們在決策過程中檬寂，可能并不尋求期望效用的最大化，而是傾向于規(guī)避風(fēng)險戳表。然而依靠數(shù)學(xué)計算思維的人工智能桶至，更有可能采取冒險的做法去獲得統(tǒng)治世界的機會。
當(dāng)超級智能試圖利用明顯的決定性戰(zhàn)略優(yōu)勢鞏固主導(dǎo)地位時匾旭，他可能會對形勢有更清晰的認(rèn)識镣屹，從而減少戰(zhàn)略混亂和結(jié)果的不確定性。舉個例子季率，當(dāng)美國發(fā)明出原子彈以后野瘦，本來可以利用核壟斷的地位來建立單一體描沟，沒有這么做的原因是成本問題飒泻，因為國內(nèi)的道德鞭光、政治和人力的代價會非常大。然而超級智能的不同在于泞遗，他的優(yōu)勢太過強大惰许。想象一下，不需要通過核武器來對抗其他國家史辙，而是擁有更加強大的技術(shù)優(yōu)勢汹买，強大到使得其他國家自愿解除武裝。這種時候聊倔，統(tǒng)治成本就會非常小了晦毙。
最終結(jié)論是：未來的某個大國如果擁有了獲得足夠戰(zhàn)略優(yōu)勢的超級智能，他利用這種優(yōu)勢建立單一體的可能性會非常大耙蔑。而弄得不巧见妒，超級智能會以國家機器為跳板達到自主統(tǒng)治的地位。
思考與討論：
（開放性問題）
三種超級智能形式現(xiàn)在能找到雛形嗎甸陌？分別是什么须揣？
如果中國出現(xiàn)了超級智能雛形項目，政府可能會怎么做钱豁？
摘自《超級智能》作者[英]尼克·波斯特洛姆
[卡片作者]王嘉喆
