作者：邁克斯·泰格馬

克麻省理工學(xué)院物理系終身教授孔庭、未來(lái)生命研究所創(chuàng)始人邁克斯·泰格馬克忿偷，重磅新作趣些。從14歲起仿荆，作者就開始關(guān)注科技對(duì)人類未來(lái)的影響，人工智能的突飛猛進(jìn)坏平，更是加劇了他的擔(dān)憂拢操，所以在其45歲，創(chuàng)立了人工智能界鼎鼎大名的非營(yíng)利性組織“未來(lái)生命研究所”舶替，致力于用科技改善人類的未來(lái)令境。

本書簡(jiǎn)介

? ? ? 在人工智能崛起的當(dāng)下，你希望看到一個(gè)什么樣的未來(lái)坎穿？當(dāng)超越人類智慧的人工智能出現(xiàn)時(shí)，人類將何去何從返劲？你是否希望我們創(chuàng)造出能自我設(shè)計(jì)的生命3.0玲昧，并把它散播到宇宙各處？人工智能時(shí)代篮绿，生而為人的意義究竟是什么孵延？在《生命3.0》中，麻省理工學(xué)院物理系終身教授亲配、未來(lái)生命研究所創(chuàng)始人邁克斯·泰格馬克將帶領(lǐng)我們參與這個(gè)時(shí)代最重要的對(duì)話尘应。

? ? 《生命3.0》一書中，作者邁克斯·泰格馬克對(duì)人類的終極未來(lái)進(jìn)行了全方位的暢想吼虎，從我們能活到的近未來(lái)穿行至1萬(wàn)年乃至10? 億年及其以后犬钢，從可見的智能潛入不可見的意識(shí)，重新定義了“生命”“智能”“目標(biāo)”“意識(shí)”思灰，并澄清了常見的對(duì)人工智能的誤解玷犹，將幫你構(gòu)建起應(yīng)對(duì)人工智能時(shí)代動(dòng)態(tài)的全新思維框架，抓住人類與人工智能共生演化的焦點(diǎn)洒疚。? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?

本書書摘

? ? ? 生命的三個(gè)階段：生命1.0歹颓、生命2.0和生命3.0 生命是什么坯屿？

? ? ? ? 這個(gè)問題的爭(zhēng)議之大，眾所周知巍扛。關(guān)于這個(gè)問題领跛，有許多不同的定義，其中的一些要求非常明確撤奸，比如要求生命由細(xì)胞組成吠昭。這種要求可能不太適用于未來(lái)的智能機(jī)器和外星文明。由于我們不想將我們對(duì)未來(lái)生命的思考局限在過(guò)去遇到過(guò)的物種寂呛，所以讓我們將生命定義得更廣闊一些：它是一個(gè)能保持自身復(fù)雜性并能進(jìn)行復(fù)制的過(guò)程怎诫。復(fù)制的對(duì)象并不是由原子組成的物質(zhì)，而是能闡明原子是如何排列的信息贷痪，這種信息由比特組成幻妓。當(dāng)一個(gè)細(xì)菌在復(fù)制自己的DNA時(shí)，它并不會(huì)創(chuàng)造出新的原子劫拢，只是將一些原子排列成與原始DNA相同的形態(tài)肉津，以此來(lái)復(fù)制信息。換句話說(shuō)舱沧，我們可以將生命看作一種自我復(fù)制的信息處理系統(tǒng)妹沙，它的信息軟件既決定了它的行為，又決定了其硬件的藍(lán)圖熟吏。?

? ? ? 與宇宙自身一樣距糖，生命逐漸變得越來(lái)越復(fù)雜和有趣。現(xiàn)在牵寺，請(qǐng)?jiān)试S我做一點(diǎn)解釋悍引。我發(fā)現(xiàn)了一個(gè)有用的方法，就是根據(jù)復(fù)雜程度將生命形式分成三個(gè)層次帽氓。這三個(gè)層次分別是生命1.0趣斤、生命2.0和生命3.0。

? ? ? ? 我在圖中總結(jié)了這三個(gè)層次的意思黎休。 生命的三個(gè)階段 注：

? ? ? ? 生命1.0在它的有生之年都無(wú)法重新設(shè)計(jì)自己的硬件和軟件：二者皆由它的DNA決定浓领，只有進(jìn)化才能帶來(lái)改變，而進(jìn)化則需要許多世代才會(huì)發(fā)生势腮。

? ? ? 相比之下联贩，生命2.0則能夠重新設(shè)計(jì)自身軟件的一大部分：人類可以學(xué)習(xí)復(fù)雜的新技能，例如語(yǔ)言捎拯、運(yùn)動(dòng)和職業(yè)技能撑蒜，并且能夠從根本上更新自己的世界觀和目標(biāo)。

? ? ? 生命3.0現(xiàn)在在地球上尚不存在，它不僅能最大限度地重新設(shè)計(jì)自己的軟件座菠，還能重新設(shè)計(jì)自己的硬件狸眼，而不用等待許多世代的緩慢進(jìn)化。

名詞備忘表

? 關(guān)于超級(jí)智能的常見誤區(qū)：

? ? ? 總之浴滴，我們可以根據(jù)生命設(shè)計(jì)自身的能力拓萌，把生命的發(fā)展分成三個(gè)階段：

? ? ? ? 生命1.0（生物階段）：靠進(jìn)化獲得硬件和軟件；

? ? ? ? 生命2.0（文化階段）：靠進(jìn)化獲得硬件升略，但大部分軟件是由自己設(shè)計(jì)的微王；

? ? ? ? 生命3.0（科技階段）：自己設(shè)計(jì)硬件和軟件。

? ? ? 經(jīng)歷了138億年的漫漫進(jìn)化之后品嚣，宇宙前進(jìn)的步伐在我們的地球上開始猛然加速：生命1.0出現(xiàn)在約40億年之前炕倘，生命2.0出現(xiàn)在約10萬(wàn)年前，而許多人工智能研究者認(rèn)為翰撑，隨著人工智能的發(fā)展罩旋，生命3.0可能會(huì)在一個(gè)世紀(jì)以內(nèi)降臨，甚至可能會(huì)出現(xiàn)在我們的有生之年眶诈。

? ? ? ? 2014年春天涨醋，我與我妻子梅亞、我的物理學(xué)家朋友安東尼·阿吉雷（Anthony? Aguirre）逝撬、哈佛大學(xué)的研究生維多利亞·克拉科芙娜（Viktoriya Krakovna）以及Skype創(chuàng)始人揚(yáng)·塔里安（Jaan? Tallinn）一起浴骂，成立了一個(gè)非營(yíng)利性組織“未來(lái)生命研究所”（Future of Life Institute，簡(jiǎn)稱FLI）宪潮。我們的目標(biāo)很簡(jiǎn)單：保證生命在未來(lái)繼續(xù)存在下去溯警，并盡可能的興旺發(fā)達(dá)。具體而言狡相，我們認(rèn)為梯轻，技術(shù)賦予了生命一種力量，這種力量要么讓生命實(shí)現(xiàn)空前的興盛谣光，要么讓生命走向自我毀滅檩淋，而我們更青睞前一種芬为。

? 人工智能的發(fā)展帶來(lái)的關(guān)鍵問題

? ? ? ? 圖注： 哪些人工智能的問題會(huì)很有趣萄金，取決于人工智能發(fā)展到什么水平，以及我們的未來(lái)會(huì)走上哪一條支路媚朦？

? 人工智能可以勝出人類的任務(wù)

? ? ? 智能的定義是氧敢，完成復(fù)雜目標(biāo)的能力。

? ? ? 它不能用單一的IQ指標(biāo)來(lái)衡量询张，只能用一個(gè)由所有目標(biāo)組成的能力“譜”來(lái)衡量孙乖。箭頭指的是當(dāng)今最好的人工智能系統(tǒng)在不同目標(biāo)上的表現(xiàn)。通過(guò)這張圖可以看出，當(dāng)今人工智能的能力總是比較“狹窄”唯袄，每個(gè)系統(tǒng)只能完成非常特定的目標(biāo)弯屈。與之相比，人類智能則非常寬廣：一個(gè)健康兒童能學(xué)會(huì)做任何事情恋拷，而且在所有事情上都做得比人工智能更好资厉。

? 人類能力地形圖

? ? ? 這張“人類能力地形圖”是機(jī)器人專家漢斯·莫拉維克提出的，其中蔬顾，海拔高度代表這項(xiàng)任務(wù)對(duì)計(jì)算機(jī)的難度宴偿，不斷上漲的海平面代表計(jì)算機(jī)現(xiàn)在能做的事情。

? ? ? 隨著“海平面”持續(xù)上升诀豁，它可能會(huì)在某一天到達(dá)一個(gè)臨界點(diǎn)窄刘，從而觸發(fā)翻天覆地的變化。在這個(gè)臨界點(diǎn)舷胜，機(jī)器開始具備設(shè)計(jì)人工智能的能力娩践。在這個(gè)臨界點(diǎn)之前肤无，“海平面”的上升是由人類對(duì)機(jī)器的改進(jìn)所引起的涛目，但在這個(gè)臨界點(diǎn)之后，“海平面”的上升可能會(huì)由機(jī)器改進(jìn)機(jī)器的過(guò)程推動(dòng)篮奄，其速度很可能比人類改進(jìn)機(jī)器的速度快得多展氓，因此穆趴，很快，所有“陸地”都會(huì)被淹沒在水下遇汞。這就是“奇點(diǎn)”理論的思想未妹。

? ? ? 大腦的記憶原理與計(jì)算機(jī)的信息存儲(chǔ)原理截然不同，這不僅體現(xiàn)在它的構(gòu)成上空入，還體現(xiàn)在它的使用方式上络它。你在計(jì)算機(jī)或硬盤上讀取記憶的方式是通過(guò)它存儲(chǔ)的位置，但你從大腦中讀取記憶的方式則是依據(jù)它存儲(chǔ)的內(nèi)容歪赢。在計(jì)算機(jī)內(nèi)存中化戳，每組比特都擁有由一個(gè)數(shù)字組成的地址。當(dāng)需要讀取某些信息時(shí)埋凯，計(jì)算機(jī)檢索的是它的地址点楼，這就好像在說(shuō)：“請(qǐng)你從我的書架上取出最頂層從右往左數(shù)的第5本書，然后告訴我第314頁(yè)上說(shuō)了什么白对÷永”相反，你從大腦中讀取信息的方式卻更像搜索引擎：你指定某個(gè)信息或與之相關(guān)的信息甩恼，然后它就會(huì)自動(dòng)彈出來(lái)蟀瞧。比如沉颂，當(dāng)你聽到“生存還是……”這個(gè)短語(yǔ)時(shí)，它很可能會(huì)在你腦中觸發(fā)“生存還是毀滅悦污，這是一個(gè)值得考慮的問題”這句話铸屉；如果你在網(wǎng)上搜索這個(gè)短語(yǔ)，搜索引擎也很可能會(huì)給你同樣的搜索結(jié)果切端。實(shí)際上抬探，即便我引用的是這句話中的另外一部分，甚至弄混一些字詞帆赢，結(jié)果可能還是一樣的小压。這種記憶系統(tǒng)被稱為“自聯(lián)想”（auto-associative），因?yàn)樗鼈兪峭ㄟ^(guò)聯(lián)想而不是地址來(lái)進(jìn)行“回想”的椰于。

在有形的物理實(shí)體中怠益，如何產(chǎn)生了那些抽象、虛無(wú)縹緲的東西瘾婿？例如智能蜻牢？

? ? ? 現(xiàn)在，對(duì)這個(gè)問題偏陪，我們已經(jīng)有答案了：在感覺上抢呆，智能之所以沒有物質(zhì)形態(tài)，是因?yàn)樗?dú)立于物質(zhì)層面而存在笛谦。它似乎擁有自己的生命抱虐，而且，這個(gè)生命并不依賴于饥脑、也不會(huì)反映出物質(zhì)層面的細(xì)節(jié)恳邀。簡(jiǎn)而言之，計(jì)算是粒子在時(shí)空中排列出的形態(tài)灶轰。粒子并不重要谣沸，重要的是它們組成的形態(tài)。所以笋颤，物質(zhì)是無(wú)足輕重的乳附。

? ? ? ? 換句話說(shuō)，硬件就是物質(zhì)伴澄，軟件就是形態(tài)赋除。計(jì)算的“物質(zhì)層面的獨(dú)立性”暗示著我們，人工智能是可能實(shí)現(xiàn)的：智能的出現(xiàn)并不一定需要血肉或碳原子秉版。

? ? ? ? 人工智能真的會(huì)統(tǒng)治世界贤重，還是會(huì)賦予人類統(tǒng)治世界的能力茬祷？

? ? ? ? 從今天的現(xiàn)實(shí)情況到通用人工智能統(tǒng)治的世界之間清焕，在邏輯上，需要執(zhí)行三個(gè)步驟：

? ? ? ? ? ? ? 第一步：建造人類水平的通用人工智能；

? ? ? ? ? ? ? 第二步：用這個(gè)通用人工智能來(lái)建造超級(jí)智能秸妥；

? ? ? ? ? ? ? 第三步：使用或者放任這個(gè)超級(jí)智能來(lái)統(tǒng)治世界滚停。

? 人工智能可能帶來(lái)的后果總匯

人工智能可能帶來(lái)的各種后果的特征

? ??? 在人類所有的智力特質(zhì)中，意識(shí)（consciousness）是最了不起的粥惧。我認(rèn)為键畴，意識(shí)正是宇宙的意義之來(lái)源。星系之所以美麗突雪，是因?yàn)槲覀兊哪抗庥|及它們起惕，并在主觀上體驗(yàn)到它們的存在。

? ? ? 如果說(shuō)在遙遠(yuǎn)的將來(lái)咏删，高科技的僵尸人工智能占領(lǐng)了整個(gè)宇宙惹想，那么，無(wú)論它們的跨星系結(jié)構(gòu)是多么的奇妙督函，它都不會(huì)是美麗的或者有意義的嘀粱，因?yàn)闆]有人能夠體驗(yàn)它，只是對(duì)空間巨大而又毫無(wú)意義的浪費(fèi)罷了辰狡。

? ? ? 我認(rèn)為要廣泛地廢除技術(shù)锋叨，唯一可行的方法就是通過(guò)一個(gè)全球范圍的極權(quán)主義國(guó)家來(lái)執(zhí)行。雷·庫(kù)茲韋爾在《奇點(diǎn)臨近》一書中宛篇，以及埃里克·德萊克斯勒（Eric? Drexler）在《造物引擎》（Engines of Creation）一書中娃磺，都得出了同樣的結(jié)論。原因很簡(jiǎn)單：如果一些人（而不是全部）放棄了一種具有變革性的技術(shù)叫倍，那么豌鸡，那些沒有放棄的國(guó)家或集團(tuán)就會(huì)逐漸累積起足夠的財(cái)富和權(quán)力，從而接管和統(tǒng)治世界段标。

地球毀滅的可能情景

? ? ? 圖注：這些例子是可能毀滅已知的生命形態(tài)或永久剝奪其發(fā)展?jié)摿Φ那樾窝墓凇１M管我們的宇宙本身可能還能延續(xù)至少100億年的時(shí)間，但我們的太陽(yáng)將在10億年后將地球烤焦逼庞，然后將其吞噬蛇更，除非我們把地球搬運(yùn)到一個(gè)安全的距離。35億年后赛糟，銀河系會(huì)與相鄰的仙女座星系相碰撞派任。雖然我們并不知道它們相撞的具體時(shí)間，但我們可以預(yù)言璧南，早在這場(chǎng)碰撞發(fā)生之前掌逛，就會(huì)發(fā)生小行星撞擊地球，或者超級(jí)火山爆發(fā)引發(fā)經(jīng)年累月的“火山冬天”司倚。我們既可以用技術(shù)來(lái)解決所有這些問題豆混，也可以用技術(shù)創(chuàng)造出新的問題篓像，比如氣候變化、核戰(zhàn)爭(zhēng)皿伺、改造瘟疫或出錯(cuò)的人工智能员辩。

? 物質(zhì)轉(zhuǎn)化為能源的效率

? ? ? 圖注：將物質(zhì)轉(zhuǎn)化為能量的效率是相對(duì)于理論上限E=mc2而言的。正如表中文字所示鸵鸥，通過(guò)向黑洞中注入物質(zhì)然后等待其蒸發(fā)奠滑，可以達(dá)到90%的效率，但這個(gè)過(guò)程實(shí)在太漫長(zhǎng)了妒穴，一點(diǎn)用都沒有宋税。但速度快一些的過(guò)程，其效率又太低了讼油。

? 假如我們?cè)谕局杏袩o(wú)限的時(shí)間可以旅行弃甥，難道我們不能到達(dá)任意遠(yuǎn)的星系嗎？

? ? 宇宙的嬰兒照

? ? ? 圖注：我們的宇宙汁讼，也就是138億年前的宇宙大爆炸以來(lái)淆攻，光線有足夠的時(shí)間到達(dá)我們的球形區(qū)域（我們身處這個(gè)區(qū)域的中心）。這張圖片顯示了普朗克衛(wèi)星所拍攝的宇宙早期照片嘿架，也就是宇宙的嬰兒照瓶珊。這張圖說(shuō)明，在宇宙只有40萬(wàn)年歷史時(shí)耸彪，它是由炙熱的等離子體組成的伞芹，其溫度和太陽(yáng)表面一樣高。在這區(qū)域之外蝉娜，可能還有更廣袤的空間唱较，每年，這個(gè)區(qū)域都在擴(kuò)大召川，我們也因此會(huì)看到新的物質(zhì)南缓。

? ? ? 第一個(gè)挑戰(zhàn)是，我們的宇宙正在擴(kuò)張荧呐，這意味著幾乎所有的星系都在離我們遠(yuǎn)去汉形，所以，殖民遙遠(yuǎn)的星系就變成了一場(chǎng)追趕倍阐。

? ? ? 第二個(gè)挑戰(zhàn)是概疆，宇宙膨脹正在加速，這是由構(gòu)成我們宇宙的約70%的神秘暗能量造成的峰搪。如果你想知道宇宙的膨脹為什么會(huì)引起麻煩岔冀，請(qǐng)想象一下，你到達(dá)了火車站站臺(tái)概耻，看到你的火車正慢慢地加速遠(yuǎn)離你使套，但有一扇門開著罐呼。如果你快速?zèng)_過(guò)去，能趕上火車嗎童漩？由于它最終肯定會(huì)跑得比你快，所以春锋，答案顯然取決于火車最初離你有多遠(yuǎn)：如果超過(guò)了某個(gè)臨界距離矫膨，你就永遠(yuǎn)趕不上它。我們也面臨著同樣的情況：試圖追趕正在遠(yuǎn)離我們的遙遠(yuǎn)星系期奔，即使我們能以光速前進(jìn)侧馅，所有與我們相距超過(guò)170億光年的星系依然遙不可及，而宇宙中超過(guò)98%的星系距離我們都超過(guò)了170億光年呐萌。? ? ?

? ? ? 但是等一下馁痴，愛因斯坦的狹義相對(duì)論不是說(shuō)沒有東西可以比光速跑得更快嗎？那這些星系膨脹的速度怎么能達(dá)到超光速呢肺孤？答案是罗晕，狹義相對(duì)論已經(jīng)被愛因斯坦的廣義相對(duì)論取代了。在廣義相對(duì)論中赠堵，速度的限制更為自由：當(dāng)物體在空間中運(yùn)動(dòng)時(shí)小渊，沒有什么東西可以比光速更快，但空間可以隨意擴(kuò)大茫叭，要多快酬屉，有多快。

? ? ? 愛因斯坦還給我們提供了一個(gè)很好的方法來(lái)可視化這些速度限制揍愁，那就是將時(shí)間視為時(shí)空的第四個(gè)維度呐萨，如下圖所示，圖中加上時(shí)間后依然是三維莽囤，因?yàn)槲沂÷粤巳S空間中的其中一維谬擦。如果空間沒有膨脹，光線將在時(shí)空中形成45°的斜線朽缎，這樣怯屉，我們從地球上能看到并可能到達(dá)的區(qū)域就是圓錐體。我們過(guò)去的光錐被138億年前的宇宙大爆炸所截?cái)喽祝覀兾磥?lái)的光錐將永遠(yuǎn)膨脹下去锨络，讓我們獲得無(wú)限的宇宙資源。相比之下狼牺，中圖顯示了一個(gè)因暗能量而膨脹的宇宙（我們所棲身的宇宙應(yīng)該就是這樣的）羡儿，它將我們的光錐變成了香檳酒杯的形狀，將我們能夠殖民的星系數(shù)量永遠(yuǎn)限制在大約1? 000萬(wàn)個(gè)是钥。

? ? ? 圖注：在這張時(shí)空?qǐng)D中掠归，一個(gè)事件就是一個(gè)點(diǎn)缅叠，這個(gè)點(diǎn)的水平位置和豎直位置分別表示它發(fā)生的地點(diǎn)和時(shí)間。如果空間沒有擴(kuò)張（左圖）虏冻，那么肤粱，兩個(gè)圓錐體將兩個(gè)時(shí)空區(qū)分開，一是能影響身處地球上的我們（我們位于頂點(diǎn)）的時(shí)空厨相，二是地球上的我們可以影響的時(shí)空（上圓錐）领曼，因?yàn)橐蚬P(guān)系，時(shí)空不能跑得比光速還快——光線每年跑一光年蛮穿。如果空間膨脹（右圖）庶骄，事情就變得更有趣了。根據(jù)宇宙學(xué)標(biāo)準(zhǔn)模型践磅，即便空間是無(wú)限的单刁，我們也只能看到和到達(dá)時(shí)空中的有限區(qū)域。中間的圖片很像一個(gè)香檳酒杯府适。在這張圖中羔飞，我們用坐標(biāo)隱藏了空間的擴(kuò)張，這樣檐春，遙遠(yuǎn)星系隨時(shí)間的運(yùn)動(dòng)可以用豎直線來(lái)表示褥傍。在我們目前的位置（大爆炸后138億年），只有“香檳酒杯”底座上的光線才有足夠的時(shí)間到達(dá)我們身邊喇聊。并且恍风，即使我們以光速行進(jìn)，我們永遠(yuǎn)到不了“香檳酒杯”上部分之外的區(qū)域誓篱，而那里包含了幾百億個(gè)星系朋贬。右圖的下部像一個(gè)水滴。在這張圖中窜骄，我們用普通的坐標(biāo)系來(lái)表示空間锦募，所以你能看到空間在膨脹。這將“香檳酒杯”的底座變成了一個(gè)水滴形狀的結(jié)構(gòu)邻遏，因?yàn)槲覀兡芸吹降膮^(qū)域的邊緣地帶在早期都離得非晨纺叮靠近。?

? ? ? 如果這個(gè)限制讓你感覺到一種“宇宙幽閉恐懼癥”准验，那不要難過(guò)赎线，高興一點(diǎn)，因?yàn)樯厦娴姆治隹赡苡幸粋€(gè)漏洞：我的計(jì)算假設(shè)暗能量隨時(shí)間保持不變糊饱，這符合最新的觀測(cè)結(jié)果垂寥。然而，我們?nèi)匀徊恢腊的芰烤烤故鞘裁矗@就留給了我們一線希望：有可能滞项，暗能量最終會(huì)衰減狭归，就像解釋宇宙暴脹時(shí)所假設(shè)出來(lái)的那種與暗能量類似的物質(zhì)一樣；如果發(fā)生這種情況文判，加速將會(huì)變成減速过椎，這樣，未來(lái)的生命形式就能夠殖民新的星系戏仓，想待多久疚宇，就待多久。

激光帆的工作原理

? ? ? 圖注：羅伯特·福沃德設(shè)計(jì)的激光帆可以到達(dá)4光年之外的南門二恒星系統(tǒng)柜去。起初灰嫉，一束位于我們太陽(yáng)系的強(qiáng)烈激光向飛船的激光帆施加輻射壓拆宛，使其加速嗓奢；當(dāng)?shù)竭_(dá)目的地附近時(shí)，想要?jiǎng)x車浑厚，就將激光帆的外環(huán)分離出來(lái)股耽，并將激光反射回飛船。

? ? ? 有一個(gè)著名的量钳幅，大自然總是力爭(zhēng)將它最大化物蝙，這個(gè)量就是熵（entropy）。簡(jiǎn)單來(lái)說(shuō)敢艰，熵是事物混亂程度的度量诬乞。熱力學(xué)第二定律說(shuō)，熵總是趨于增加钠导，直到達(dá)到最大的可能值震嫉。如果暫時(shí)忽略萬(wàn)有引力的影響，這種最大的混亂狀態(tài)被稱為“熱寂”（heat death）牡属。熱寂是指萬(wàn)事萬(wàn)物都會(huì)擴(kuò)散成一種無(wú)聊而又完美的均質(zhì)狀態(tài)票堵，沒有復(fù)雜性，沒有生命逮栅，也沒有任何變化悴势。比如，當(dāng)你將冷牛奶倒入熱咖啡中時(shí)措伐，你杯中的飲料看起來(lái)不可逆轉(zhuǎn)地朝著它的“熱寂”目標(biāo)邁進(jìn)特纤。不久之后，它就會(huì)變成一杯溫?zé)峋鶆虻幕旌衔锝募印Ｈ绻粋€(gè)活的有機(jī)體死了叫潦，它的熵也會(huì)開始上升，過(guò)不了多久，它的粒子排列就會(huì)變得不那么有序矗蕊。

? ? ? 我們?nèi)绾尾拍軐⒂钪娴倪@兩種趨勢(shì)（一是趨向生命短蜕，二是趨向熱寂）協(xié)調(diào)起來(lái)？我們可以在量子力學(xué)奠基人之一埃爾溫·薛定諤（Erwin Schr?dinger）1944年的著作《生命是什么》（What's Life?）一書中找到答案傻咖。薛定諤指出朋魔，生命系統(tǒng)的一個(gè)標(biāo)志就是，它通過(guò)提升周圍環(huán)境的熵來(lái)保持或降低自己的熵卿操。換句話說(shuō)警检，熱力學(xué)第二定律在生命面前有一個(gè)漏洞：雖然整體的熵必須增加，但它允許某些局部區(qū)域的熵減害淤，只要它能讓其他地方增加更多的熵即可扇雕。因此，生命讓環(huán)境變得更加混亂窥摄，從而維持或增加自己的復(fù)雜度镶奉。

? ? ? 當(dāng)我們建造機(jī)器來(lái)幫助我們時(shí)，可能很難保證它們的目標(biāo)與我們的完全一致崭放。譬如說(shuō)哨苛，捕鼠器可能會(huì)錯(cuò)把你的腳趾頭當(dāng)成饑餓的老鼠，結(jié)果讓你疼得齜牙咧嘴币砂。

? ? ? ? 換句話說(shuō)建峭，通用人工智能帶來(lái)的真正風(fēng)險(xiǎn)并不是它們的惡意，而是它們的能力决摧。一個(gè)超級(jí)智能會(huì)非常善于完成它的目標(biāo)亿蒸，如果它的目標(biāo)與我們的目標(biāo)不一致，那我們就有麻煩了掌桩。

? ? ? 人們?cè)诮ㄔ焖娬敬髩螘r(shí)根本不會(huì)考慮會(huì)淹沒多少蟻丘边锁。因此，大多數(shù)研究者認(rèn)為拘鞋，如果我們最終造出了超級(jí)智能砚蓬，那我們必須保證它們是友好的人工智能∨枭“友好的人工智能”是人工智能安全性研究先驅(qū)埃利澤·尤德考斯基（Eliezer Yudkowsky）提出的一個(gè)概念灰蛙，是指目標(biāo)與我們相一致的人工智能。 想要讓超級(jí)人工智能與我們的目標(biāo)相一致很重要隔躲，也很困難摩梧。實(shí)際上，這目前還是個(gè)未解之謎宣旱。

? ? ? 這個(gè)問題可以被劃分成三個(gè)子問題仅父，每一個(gè)都是計(jì)算機(jī)科學(xué)家和思想家正在研究的活躍課題：

? ? ? ? 讓人工智能學(xué)習(xí)我們的目標(biāo)；

? ? ? ? 讓人工智能接受我們的目標(biāo)；

? ? ? ? 讓人工智能保持我們的目標(biāo)笙纤。

身體感覺皮層對(duì)應(yīng)的特定腦區(qū)

? ? ? 圖注：視覺皮層耗溜、聽覺皮層、軀體感覺皮層和運(yùn)動(dòng)皮層分別與視覺省容、聽覺抖拴、觸覺和運(yùn)動(dòng)激活有關(guān)，但這并不能證明它們分別是視覺意識(shí)腥椒、聽覺意識(shí)阿宅、觸覺意識(shí)和運(yùn)動(dòng)意識(shí)的發(fā)生地。事實(shí)上笼蛛，最近的研究表明洒放，初級(jí)視覺皮層與小腦和腦干一樣，是完全無(wú)意識(shí)的滨砍。

圖片來(lái)源：www.lachina.com往湿。

? ? ? 信息處理過(guò)程要產(chǎn)生意識(shí)，需要遵循哪些原則呢惨好？

? ? ? 我不想假裝自己知道保證產(chǎn)生意識(shí)的充分條件煌茴，但我打賭随闺，一定有下面這4個(gè)必要條件日川。

? ? ? 正如我所說(shuō)，我認(rèn)為意識(shí)是信息以某種方式進(jìn)行處理時(shí)的感覺矩乐。這意味著龄句，一個(gè)系統(tǒng)想要擁有意識(shí)，就必須具備存儲(chǔ)信息和處理信息的能力散罕，這就是前兩個(gè)原則分歇。請(qǐng)注意，記憶并不需要持續(xù)很長(zhǎng)時(shí)間欧漱。我推薦你觀看介紹英國(guó)指揮家克萊夫·韋爾林（Clive? Wearing）的一個(gè)感人視頻：雖然他的記憶短于一分鐘职抡，但他看起來(lái)依然是完全有意識(shí)的。我還認(rèn)為误甚，一個(gè)系統(tǒng)想要產(chǎn)生意識(shí)缚甩，還必須與世界的其他部分之間具備相當(dāng)大的獨(dú)立性，否則它在主觀上不會(huì)覺得自己是一個(gè)獨(dú)立的存在窑邦。最后擅威，正如朱利奧·托諾尼所說(shuō)，我認(rèn)為一個(gè)系統(tǒng)要產(chǎn)生意識(shí)冈钦，還必須整合成一個(gè)統(tǒng)一的整體郊丛，因?yàn)椋偃缢蓛蓚€(gè)獨(dú)立的部分組成，感覺起來(lái)就會(huì)像兩個(gè)單獨(dú)的意識(shí)實(shí)體厉熟，而不是一個(gè)导盅。前三項(xiàng)原則意味著自主性，也就是說(shuō)揍瑟，這個(gè)系統(tǒng)能夠在不受外界干擾的情況下保持信息和處理信息认轨，決定自己的未來(lái)。如果一個(gè)系統(tǒng)具備全部4個(gè)原則月培，就意味著這個(gè)系統(tǒng)是獨(dú)立自主的嘁字，但組成它的各部分卻不是。

本書附錄

目錄

贊譽(yù)

推薦序一 如何正確地關(guān)心人類命運(yùn)

推薦序二 重新定義生命

中文版序 我們只看到了人工智能的冰山一角

引言 歐米茄傳奇

01 歡迎參與我們這個(gè)時(shí)代最重要的對(duì)話

02 物質(zhì)孕育智能

03 不遠(yuǎn)的未來(lái)：科技大突破杉畜、故障纪蜒、法律、武器和就業(yè)

04 智能爆炸此叠？

05 劫后余波纯续，未知的世界：接下來(lái)的1萬(wàn)年

06 挑戰(zhàn)宇宙稟賦：接下來(lái)的10億年以及以后

07 目標(biāo)

08 意識(shí)

后記 未來(lái)生命研究所團(tuán)隊(duì)風(fēng)云傳

注釋

致謝

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? - END -

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ??