技術(shù)官僚和超人類主義者的目標 被純粹的幻想所束縛，并且不會像他們所設(shè)想的那樣實現(xiàn)豆同。人的“靈魂”將永遠不會下載到計算機中。比人更聰明的機器人永遠不會漫游城市景觀。這使他們可以選擇偽造它辐脖，他們已經(jīng)精通這種偽造。
埃隆-馬斯克（Elon Musk）將人工智能（AI）與 "召喚惡魔 "劃上等號皆愉，并敲響了人工智能發(fā)展速度比任何人都快的警鐘嗜价，對人類構(gòu)成生存威脅。
霍金曾警告說幕庐，人工智能可能會騰飛久锥，讓受限于進化速度緩慢的人類陷入困境。
比爾-蓋茨也算得上是關(guān)注超級智能的陣營中的一員异剥。而盡管馬克-扎克伯格對人工智能的潛在威脅不屑一顧瑟由，但據(jù)報道，F(xiàn)acebook最近關(guān)閉了一個人工智能引擎冤寿，因為它發(fā)現(xiàn)它創(chuàng)造了一種人類無法理解的新語言歹苦。
如果存在的一切只是物質(zhì)問題青伤，對AI的擔憂 就完全合乎邏輯了。
如果是這樣殴瘦，人工智能將不可避免地超越偶然發(fā)生的人類能力狠角，而人工智能是由我們的智能設(shè)計而成，但建立在比生物化學更好的平臺上蚪腋。
實際上丰歌，在純物理世界中，應(yīng)將完全實現(xiàn)的AI視為自然選擇的適當結(jié)果屉凯。我們?nèi)祟悜?yīng)該盡力從中受益立帖。歸根結(jié)底，人類將早晚不復存在神得，無論是在太陽快要枯竭還是由AI驅(qū)動的滅絕等更平凡的事物中厘惦。
直到那時，
在AI的幫助下最大化人類的繁榮哩簿，而不是為了延長人類的壽命而放棄其收益宵蕉，會更好嗎？
實際上节榜，盡管這一切看起來似乎可行羡玛，但我們對人類心靈的了解強烈表明，完全的人工智能將不會發(fā)生宗苍。
光靠物質(zhì)本身并不能產(chǎn)生完整的主觀體驗稼稿，例如一邊聽海鷗一邊看日落，而提出的解決物質(zhì)相對于心靈的已知不足（如新興特性）的機制卻是不充分且不可證偽的讳窟。
因此让歼，我們很有可能擁有非物質(zhì)的思想。
內(nèi)心深處丽啡，我們都知道我們不僅僅是生物機器人谋右。這就是幾乎每個人都反對唯物主義的含意的原因。我們并沒有表現(xiàn)出我們相信一切最終都是毫無意義的补箍。
當然改执，人工智能的形式已經(jīng)取得了令人矚目的成果。它們使用蠻力坑雅，巨大且快速的內(nèi)存辈挂，基于規(guī)則的自動化以及模式匹配層來執(zhí)行其非凡的壯舉。
但是這個過程不是意識裹粤，感知终蒂，感覺，認知。即使結(jié)果不可預(yù)測后豫，處理也不會超出預(yù)期的活動悉尾。
基于這種級別的AI的技術(shù)通常會非常出色，并且絕對必須進行良好的管理挫酿，以免造成危險的后果构眯。但是，就其本身而言早龟，這種AI不能導致人類思想的真實復制惫霸。
除非我們通過物質(zhì)手段發(fā)現(xiàn) 非物質(zhì)思想存在的基礎(chǔ)，然后學習如何將其賦予機器葱弟，否則無法實現(xiàn)完整的AI（即能夠匹配甚至超越人類思想的人工智能）壹店。
在哲學上，潛在的問題稱為 “質(zhì)量”問題：
我們對外部物體和顏色的認識
我們的自我意識
我們對時間的概念理解
我們的超越體驗芝加，無論是對美的簡單敬畏還是對數(shù)學真理的敬畏
我們的神秘狀態(tài)
……所有這些都清楚地指出了與物質(zhì)世界在質(zhì)上有所不同的事物硅卢。
任何對物理學，計算機科學和人文思想有體面理解的人都應(yīng)該能夠知道這一點藏杖，尤其是那些最關(guān)心AI可能性的人将塑。那些害怕AI的人沒有看到它的局限性，這表明即使是最聰明的人也成為他們偏見的受害者蝌麸。我們應(yīng)該 謹慎地相信点寥，在某些領(lǐng)域取得的非凡成就會轉(zhuǎn)化為在其他領(lǐng)域的非凡理解。
對于太多人（包括媒體中的某些人）而言来吩，“對所有問題都提出疑問”的口號僅適用于特定范圍敢辩。
他們從不質(zhì)疑方法論的自然主義-相信物質(zhì)世界之外不存在任何東西-使他們看不見其他可能性。
即使思想開闊弟疆，有些人似乎仍然缺乏想象力或意志戚长。
例如，彼得·泰爾（Peter Thiel）認為人的思維與計算機有著很大的不同怠苔，但并未承認這意味著思維不僅包含物理物質(zhì)同廉。
托馬斯·納格（Thomas Nagle） 認為，意識不可能通過唯物主義的進化而產(chǎn)生嘀略，但由于他不希望上帝存在恤溶，因此明確地限制了其含義乓诽。
意識到我們擁有非物質(zhì)的思想帜羊，即 真正的靈魂，遠比僅僅猜測AI的未來重要鸠天。
沒有非物質(zhì)的思想讼育，就沒有可持續(xù)的基礎(chǔ)相信人類的例外主義。當僅通過唯物主義的眼光看待人類生活時，它就會基于效用而得到重視奶段。
難怪年輕人 認為他們的生活毫無意義饥瓷，有些人開始絕望。
現(xiàn)在是時候理解進化不是嚴格的物質(zhì)過程痹籍，而是非物質(zhì)思想在人類乃至所有有知覺生物的適應(yīng)和選擇中起主要作用的過程呢铆。內(nèi)心深處，我們都知道我們不僅僅是生物機器人蹲缠。這就是幾乎每個人都反對唯物主義的含意的原因棺克。
我們并沒有表現(xiàn)出我們相信一切最終都是毫無意義的。我們是精神上的生物线定，出于意圖娜谊，我們生活在一個以超自然為準則的世界中；我們生命中的每一刻都是我們行動的靈魂斤讥。
非物質(zhì)思想塑造物質(zhì)世界并賦予其真實含義纱皆，而不是相反。最后芭商，人類面對的最大威脅是無法識別我們的真實面貌派草。如果幸運的話，人們在追求完全AI方面學到的東西將引導我們重新發(fā)現(xiàn)人類的靈魂蓉坎，它的來源以及隨之而來的重要理解...
