第三部分 智人失去控制權(quán)
第8章 實(shí)驗(yàn)室里的定時(shí)炸彈
??現(xiàn)代科學(xué)研究表明凭豪，人只是生化算法的組合，人所擁有的只不過(guò)是一條隨時(shí)可變的意識(shí)流，人的選擇不是生物預(yù)設(shè)就是隨機(jī)帆吻，“自我”是物理可分的普泡，根本沒(méi)有人文主義信奉的所謂“自由意志”播掷，這就破壞了人文主義的信念。但是很多科學(xué)家不愿正視科學(xué)與自由意志之間的矛盾撼班，假裝看不見(jiàn)歧匈。
摘抄：
如果生物確實(shí)沒(méi)有自由意志，也就意味著只要使用藥物砰嘁、基因工程或直接對(duì)大腦進(jìn)行刺激眯亦，就能操縱甚至控制人的欲望。
如果我真的深深地去探究自我般码，就會(huì)發(fā)現(xiàn)自己一向以為理所當(dāng)然的單一性分解成各種互相沖突的聲音妻率，沒(méi)有哪個(gè)是真正的“自我”。人類絕非“不可分割”板祝，而是由許多分割的部分組成宫静。……實(shí)驗(yàn)告訴我們券时，人體內(nèi)至少有兩種自我：體驗(yàn)自我及敘事自我孤里。體驗(yàn)自我是我們每時(shí)每刻的意識(shí)，體驗(yàn)自我并沒(méi)有記憶力橘洞“仆啵……說(shuō)到要喚起記憶、講故事炸枣、做重大決定虏等，負(fù)責(zé)的是我們心中另一個(gè)非常不同的實(shí)體：敘事自我弄唧。每次敘事自我要對(duì)我們的體驗(yàn)下判斷時(shí)，并不會(huì)在意時(shí)間持續(xù)多長(zhǎng)霍衫，只會(huì)采用“峰終定律”候引，也就是只記得高峰和終點(diǎn)這兩者，再平均作為整個(gè)體驗(yàn)的價(jià)值敦跌。體驗(yàn)自我與敘事自我是緊密交織的澄干。敘事自我對(duì)饑餓賦予不同的意義，就會(huì)讓實(shí)際體驗(yàn)大不相同柠傍。體驗(yàn)自我往往也強(qiáng)大到足以破壞敘事自我完美的計(jì)劃麸俘。
荒謬的是，我們對(duì)一個(gè)想象故事做出的犧牲越多惧笛，就可能越堅(jiān)持疾掰，只為了讓我們的一切犧牲和痛苦有意義。
活在幻想里是一個(gè)更為輕松地選項(xiàng)徐紧，唯有這樣静檬，才能讓一切痛苦有意義。
如果想讓人相信某些假想實(shí)體并级，比如神或國(guó)家拂檩，就要讓他們犧牲一些有價(jià)值的東西。犧牲令人越痛苦嘲碧，他們就越會(huì)相信犧牲奉獻(xiàn)的對(duì)象確實(shí)存在稻励。
“自我”也像國(guó)家、神和金錢(qián)一樣愈涩，只是虛構(gòu)的故事望抽。每個(gè)人都有一個(gè)復(fù)雜的系統(tǒng)，會(huì)丟下我們大部分的體驗(yàn)履婉，只精挑細(xì)選留下幾樣煤篙，再與我們看過(guò)的電影、讀過(guò)的小說(shuō)毁腿、聽(tīng)過(guò)的演講辑奈、做過(guò)的白日夢(mèng)全部混合在一起，編織出一個(gè)看似一致連貫的故事已烤，告訴我們自己是誰(shuí)鸠窗、來(lái)自哪里、要去哪里胯究。
人類十分擅長(zhǎng)應(yīng)付認(rèn)知上的矛盾稍计，能允許自己在實(shí)驗(yàn)室里信一套，到了法庭或議會(huì)又信完全不同的另一套裕循。
第9章 大分離
??科技發(fā)展將使算法在記憶臣嚣、分析和辨識(shí)各種模式的能力上超過(guò)人類净刮，而且人類逐漸走向?qū)I(yè)化，所以用計(jì)算機(jī)代替人類將越來(lái)越容易茧球。隨著算法將人類擠出就業(yè)市場(chǎng)庭瑰，財(cái)富和權(quán)力可能會(huì)集中在擁有強(qiáng)大算法的少數(shù)精英手中星持，造成前所未有的社會(huì)和政治不平等抢埋。又或者，算法本身在未來(lái)能獲得類似“法人”的地位督暂，某一套算法就能擁有一個(gè)運(yùn)輸?shù)蹏?guó)或創(chuàng)投公司資本揪垄，而不必服從任何人類所有者的命令，我們最后面對(duì)的可能是一個(gè)由算法組成的上層社會(huì)逻翁。當(dāng)然饥努，科技上的困難和政治上反對(duì)可能會(huì)減緩算法入侵就業(yè)市場(chǎng)的腳步，而且人類心靈還有大片未知領(lǐng)域八回，不確定人類是否還有什么隱藏才能或能創(chuàng)造出什么新式工作酷愧，社會(huì)系統(tǒng)未來(lái)可能仍然需要人類，但是卻將剝奪個(gè)人的權(quán)威和自由缠诅。因?yàn)槿茉。磥?lái)每個(gè)人都可能會(huì)是整個(gè)巨型全球網(wǎng)絡(luò)的一部分，與這個(gè)網(wǎng)絡(luò)斷開(kāi)就意味著死亡管引。算法系統(tǒng)對(duì)你的了解會(huì)超越你對(duì)自己的了解士败，算法系統(tǒng)也會(huì)代替你做出大部分重要決定。這樣的世界不一定不好褥伴，但這將會(huì)是一個(gè)后自由主義時(shí)代谅将。還有第三種可能，即社會(huì)系統(tǒng)仍會(huì)認(rèn)可某些獨(dú)特的個(gè)人有價(jià)值重慢，但這些人將會(huì)是一個(gè)超人類的精英階層饥臂，而大多數(shù)人則成為低等階級(jí)，被計(jì)算機(jī)算法和超人類管控似踱。人類如果從生物學(xué)定義上分裂為不同的階級(jí)擅笔，就會(huì)摧毀自由主義意識(shí)形態(tài)的根基。
摘抄：
自由主義推崇自由市場(chǎng)和民主選舉屯援，是因?yàn)樽杂芍髁x相信每個(gè)人都獨(dú)一無(wú)二猛们、各有價(jià)值，而且每個(gè)人的自由選擇就是權(quán)威的本源狞洋。但在21世紀(jì)弯淘，有三項(xiàng)“務(wù)實(shí)”的發(fā)展，可能會(huì)讓這種信念成為明日黃花吉懊。
“智能”即將開(kāi)始與“意識(shí)”脫鉤庐橙，人類因此面臨失去經(jīng)濟(jì)價(jià)值的危險(xiǎn)假勿。
從生命科學(xué)的角度看，藝術(shù)并不是出自什么神靈或超自然的靈魂态鳖，而是有機(jī)算法發(fā)現(xiàn)數(shù)學(xué)模式之后的產(chǎn)物转培。若真是如此，非有機(jī)算法就沒(méi)有理由不能掌握浆竭。
19世紀(jì)浸须，工業(yè)革命創(chuàng)造出龐大的城市無(wú)產(chǎn)階級(jí)，這個(gè)新的工作階級(jí)帶來(lái)前所未見(jiàn)的需求邦泄、希望及恐懼删窒，沒(méi)有其他信仰能夠有效響應(yīng)，社會(huì)主義因而擴(kuò)張顺囊。到頭來(lái)肌索，自由主義是靠著吸收了社會(huì)主義的精華，才打敗了蘇聯(lián)和東歐社會(huì)主義特碳。到了21世紀(jì)诚亚，我們可能看到的是一個(gè)全新而龐大的階級(jí)：這一群人沒(méi)有任何經(jīng)濟(jì)、政治或藝術(shù)價(jià)值午乓，對(duì)社會(huì)的繁榮站宗、力量和榮耀也沒(méi)有任何價(jià)值」枨疲……想要不被淘汰只有一條路：一輩子不斷學(xué)習(xí)份乒，不斷打造全新的自己。只不過(guò)腕唧，許多人或辖，甚至是大多數(shù)人，大概都做不到這一點(diǎn)枣接。
在21世紀(jì)颂暇，與其說(shuō)個(gè)人會(huì)被外界力量殘忍碾碎，還不如說(shuō)會(huì)先從內(nèi)部緩緩崩解但惶《欤……我們會(huì)發(fā)現(xiàn)所謂不可分割的個(gè)體只是一個(gè)宗教幻想。現(xiàn)實(shí)中膀曾，個(gè)人是許多生化和電子算法的混合體县爬，沒(méi)有清晰的邊界，也沒(méi)有自我中心添谊。
21世紀(jì)的新科技可能會(huì)徹底扭轉(zhuǎn)人文主義革命财喳，讓人類交出權(quán)威，把人類送到非人類的算法手中。推動(dòng)這個(gè)趨勢(shì)的主要力量來(lái)自生物學(xué)的洞察耳高，而非計(jì)算機(jī)科學(xué)扎瓶。一旦生物學(xué)家判斷生物也是算法，就等于拆除了有機(jī)和無(wú)機(jī)之間的那堵墻泌枪。
自由主義面對(duì)社會(huì)不平等的解藥概荷，不是讓每個(gè)人都有同樣的體驗(yàn)，而是對(duì)不同的人類體驗(yàn)賦予同等的價(jià)值碌燕。
