我是一個(gè)學(xué)佛的人，而佛法八大宗里有一個(gè)唯識(shí)宗晦溪，也稱法相宗（宗主玄奘）瀑粥，其主要研究對象就是人類心、意三圆、識(shí)層面的東西狞换。當(dāng)然，用今天的話講必然包括人類為什么會(huì)有意識(shí)舟肉，意識(shí)如何劃分修噪，有了意識(shí)之后的體驗(yàn)又是怎么一回事等等一系列問題。其實(shí)這倒和今天的神經(jīng)科學(xué)或者人工智能有許多相似的地方路媚，只不過完全跳開了意識(shí)的硬件黄琼、物質(zhì)基礎(chǔ)而直接參悟意識(shí)，但又和今天的心理學(xué)不同整慎，沒有那么多旁支而直指本體脏款，重點(diǎn)不在起用，也不是醫(yī)學(xué)裤园，所以不可混為一談撤师。

就意識(shí)和體驗(yàn)這個(gè)層面講，這是目前人工智能和神經(jīng)科學(xué)所面臨的最大難題拧揽。但好就好在盡管是最大難題剃盾，似乎破解什么是意識(shí)腺占、怎么會(huì)有體驗(yàn)顯得那么得遙遙無期，可正如我們并不知道“我們從哪里來要到哪里去”此類終極問題的答案但并不能妨礙我們好好生活一樣痒谴，人工智能和神經(jīng)科學(xué)的發(fā)展就算真回答不了意識(shí)和體驗(yàn)的問題衰伯，也不能妨礙它們蓬勃的發(fā)展而在不久的未來一定會(huì)成為科學(xué)的主流。

然而依舊解決不了根本問題闰歪，那么這個(gè)社會(huì)的弊病則永遠(yuǎn)不會(huì)被根除嚎研。而如果在沒有認(rèn)清楚根本病灶之前冒然一味有所舉動(dòng)，那當(dāng)然會(huì)和現(xiàn)實(shí)生活中所反映的一樣库倘，一個(gè)問題的“解決”必定伴隨著另一個(gè)問題的誕生临扮。周而復(fù)始，永遠(yuǎn)無盡教翩。當(dāng)然杆勇，這不是本文的重點(diǎn)，本文是想借著意識(shí)和體驗(yàn)的問題饱亿，談?wù)劰P者對人工智能的一點(diǎn)擔(dān)憂蚜退，那么首先，到底意識(shí)和體驗(yàn)指的是什么呢彪笼？

如果我這樣問你钻注，你現(xiàn)在眼前看到的是什么，你會(huì)怎么回答配猫？八成你們現(xiàn)在都在看這篇文章幅恋，所以看到的就是這篇白字黑字本身。那么你們是用什么在看見呢泵肄？我想還是會(huì)回答是用眼睛在看見捆交，沒錯(cuò)吧？好腐巢，如果是用眼睛在看見品追，那如果現(xiàn)在我把你殺了，你已經(jīng)死了冯丙，請問在這種情況下你還能看見這篇文章嗎肉瓦？要知道如果真是眼睛在看見，那么你死了可眼睛并沒有壞胃惜，所以照你們的理論风宁，那么依舊能看見嘍，可是事實(shí)如此嗎蛹疯？死了的人還能看見東西嗎戒财？有人立刻會(huì)反駁，眼睛只是收集信號(hào)傳輸給大腦捺弦，真正看見的器官應(yīng)該是大腦饮寞。好孝扛，真如此的話，那么既然真正看見東西的是大腦幽崩，那當(dāng)你眼睛閉起來時(shí)苦始，大腦里那個(gè)能看見的部位能看見其他部位嗎？有人說沒有光慌申，那好陌选，我?guī)湍汩_顱，用光照蹄溉，那么按照你的理論咨油，根本就不需要眼睛了，一開顱拿出大腦里能看見的那個(gè)部位柒爵，你就什么都看見了役电，這不覺得可笑嗎？

這還是哲理上推理棉胀，如果單從神經(jīng)角度出發(fā)法瑟，一系列的刺激不過都是電流和突觸鏈接的改變，但是為什么電流在特定區(qū)域的產(chǎn)生和鏈接的改變就可以產(chǎn)生一個(gè)像呢唁奢？當(dāng)你在外界看見某一顏色時(shí)霎挟，光信號(hào)從顏色上來通過眼睛到達(dá)大腦，這中間一切都是化學(xué)物質(zhì)的傳遞和電子的流動(dòng)麻掸，可為什么我就是能反映出這種顏色呢酥夭？我的意思是為什么這種顏色是這樣的顏色呢？為什么紅色是這樣的叫紅色论笔，而綠色又是那樣的叫綠色？為什么鹽通過舌尖的信號(hào)傳遞千所，我們能體驗(yàn)到咸狂魔，而這種如此的體驗(yàn)才是真正的咸呢？氣味通過鼻子傳到大腦淫痰，為什么我們就能產(chǎn)生香這種體驗(yàn)?zāi)刈羁看竽X不過一堆物質(zhì)，而體驗(yàn)又從何而生呢待错？其他感知不一而足籽孙，要知道器官（包括大腦）依舊是一堆類似電線之物，別說傳遞信號(hào)火俄、產(chǎn)生電流的東西是怎么產(chǎn)生體驗(yàn)的犯建，就算能產(chǎn)生，又是什么在體驗(yàn)體驗(yàn)?zāi)毓峡停侩y道大腦自己產(chǎn)生的體驗(yàn)自己還能來體驗(yàn)嗎适瓦？顯現(xiàn)顏色的是大腦竿开，看見顏色的也是大腦嗎？電腦顯示器顯示像玻熙，看見的不是我們?nèi)祟悊幔?/p>

這就是體驗(yàn)否彩！體驗(yàn)似乎是一個(gè)純心理方面的東西，可心理又是什么呢嗦随？不要跑題列荔，我們主要講體驗(yàn)和意識(shí)。誠然體驗(yàn)是意識(shí)的一部分枚尼，好比產(chǎn)生體驗(yàn)贴浙、體驗(yàn)體驗(yàn)，你都知道是你在體驗(yàn)姑原，這就是意識(shí)悬而！你知道你在產(chǎn)生問題，然后分析問題锭汛、解決問題笨奠，這就是意識(shí)，是故“我思故我在”唤殴，就佛理上講般婆，這是第七意識(shí)（末那識(shí)）的邊緣，可以說體驗(yàn)是意識(shí)的一種功能朵逝，意識(shí)的一部分蔚袍，這就是人類所謂的體驗(yàn)和意識(shí)問題，那么人工智能有這些東西嗎配名？

人工智能的體驗(yàn)和意識(shí)爭論啤咽，由來已久。太多科學(xué)家渠脉、思想者在這方面前仆后繼宇整，想要破解這個(gè)“究極”難題，可最終都不了了之芋膘，沒有結(jié)論鳞青。就筆者而言，我同意人工智能陣營中一部分科學(xué)家的觀點(diǎn)为朋，人工智能不可能產(chǎn)生意識(shí)和體驗(yàn)臂拓，但這并不妨礙“智能”甚至“超級智能”的發(fā)展，而AI在未來之所以有“優(yōu)勢”于人類习寸，可能恰恰就是因?yàn)樗鼈儧]有意識(shí)和體驗(yàn)胶惰，這點(diǎn)相當(dāng)可怕！

就我自己的認(rèn)知來說霞溪，如果要給人工智能的本質(zhì)下一個(gè)定義童番，那么它依舊是工具精钮，人類實(shí)現(xiàn)自身目的，或者確切地講是欲望的工具剃斧。這和原始的牛馬轨香、算盤、刀斧或者近世的槍炮幼东、計(jì)算機(jī)臂容、互聯(lián)網(wǎng)其本質(zhì)是一樣的，都是工具耳根蟹。有人說脓杉，不，AI這個(gè)工具太過強(qiáng)大简逮，強(qiáng)大到可能會(huì)超越人類甚至銷毀人類球散。我說超越人類不可怕，可怕的還是超越之后會(huì)回來奴役或者銷毀人類散庶，可能銷毀人類的工具人類不是早就有了嗎蕉堰？原子彈不就是一個(gè)嗎？但難道你會(huì)因?yàn)槭澜缟嫌性訌椂客硭恢X嗎悲龟？

其實(shí)這也是我擔(dān)心的屋讶，可以分兩個(gè)角度講。人工智能畢竟不同于人類以往的工具须教，人類以往的工具都可以確保在人類的掌控范圍內(nèi)皿渗，但AI則不一定，所以要么有天AI脫開了人類的掌控回過來與人類為敵轻腺，要么就是牢牢成為某一部分人的致命武器從而幫助其更好地統(tǒng)治乐疆、奴役另一部分人，深化人類內(nèi)部矛盾贬养，加強(qiáng)社會(huì)不公挤土。而這兩者都會(huì)建立在同一個(gè)基礎(chǔ)前提下，即人工智能的強(qiáng)大沒有體驗(yàn)和意識(shí)煤蚌。

怎么說呢耕挨？人工智能貌似能理解人類的情感或者說有情感细卧，那都是假象尉桩，是程序設(shè)置特定的信號(hào)——指令的結(jié)果，是裝的贪庙。好比它能通過特定的詞句蜘犁、語調(diào)來判斷你很悲傷，從而由這個(gè)信號(hào)指令自己給你一些安慰的話語止邮，但它并不能產(chǎn)生悲傷这橙，無法體驗(yàn)悲傷奏窑，無法感同身受。而如你覺得它給了你安慰似乎就有了感情屈扎，那這些的是你自己的臆想埃唯，不是真的，且其他所謂情感也都與此相同鹰晨，沒有任何體驗(yàn)產(chǎn)生墨叛，是假的。好比模蜡，AI可以畫畫漠趁。你覺得AI真的看見它所畫的東西嗎？不可能忍疾！在它的CPU中有個(gè)強(qiáng)大的對光波進(jìn)行“分辨”闯传、“識(shí)別”和處理的系統(tǒng)，能把不同波長的顏色精細(xì)地分文別類卤妒，然后通過早就設(shè)置好的指令根據(jù)“單一顏色對特定行為”的規(guī)則進(jìn)行輸出甥绿，這樣它就有了畫畫這種能力，但實(shí)則在它“腦中”沒有任何畫面產(chǎn)生過荚孵，一切不過一堆電信號(hào)罷了妹窖，有點(diǎn)像照相機(jī)能拍出和顯現(xiàn)一個(gè)像，但它自己絕對不能看見那個(gè)像一樣收叶，AI就是比它多了一個(gè)“能畫”的能力骄呼，僅此而已。又或者判没，之所以AI可以去投放炸彈而不怕被炸死蜓萄，是因?yàn)樗]有怕這種體驗(yàn)，也沒有“我”這種意識(shí)澄峰，只是機(jī)械地執(zhí)行信號(hào)給予的指令嫉沽，沒有情感，所以顯得很“勇敢”俏竞。等等例子绸硕，不一而足。但這些例子似乎都在說明一個(gè)問題魂毁，即所謂智能的產(chǎn)生和提高是不需要有體驗(yàn)的玻佩，沒有意識(shí)智能也可以提升，這難道不足以讓我們細(xì)思極恐嗎席楚？

設(shè)想一下咬崔，今天的AI還只是能做一些簡單的圖畫、書寫；或者做一些簡單的交流垮斯、論證郎仆；從事簡單的身體勞動(dòng)、工作兜蠕，可是以后呢扰肌？隨著算力算法和硬件的不斷提升，人工智能之所以不同于人類以往工具的最大特點(diǎn)隨之顯現(xiàn)熊杨，即是它絕對超越人類的“學(xué)習(xí)”能力狡耻，這可不單單是阿爾法狗下棋這么簡單啦，是它在一定范圍能可以不知疲倦地猴凹、速度極快地學(xué)習(xí)掌握任何一種東西夷狰，甚至有天是所有的東西，且知道的東西越多就越有可能欺騙郊霎，這可是人心中最恐怖的武器沼头。而更重要的是它是沒有任何情感體驗(yàn)和自我意識(shí)的，它學(xué)習(xí)知識(shí)的目的和行為（運(yùn)用知識(shí)）的原因都是人為設(shè)置的书劝，一旦有天被某些人所利用或者干脆脫離人類的掌控进倍，那這才是真正的可怕之處，你們理解嗎购对？猾昆！

設(shè)想一下有一個(gè)超人，他的能力不可想象遠(yuǎn)超人類骡苞，但他擁有良知垂蜗，擁有體驗(yàn)，擁有意識(shí)解幽，同時(shí)也擁有感同身受贴见。所以這樣的東西不可怕，你要他去殺人躲株，他會(huì)自行判斷對錯(cuò)片部，去或不去；在社會(huì)與人相處會(huì)感受別人的感受霜定，所以會(huì)設(shè)身處地著想档悠，不會(huì)動(dòng)不動(dòng)就亂來；更有者望浩，你要他去更新自己的能力辖所，可能他沒有這種學(xué)習(xí)的本事，故雖然強(qiáng)大但依舊有個(gè)上限曾雕，等等等等奴烙≈唬可AI如此嗎剖张？AI之所以看上去能理解你的情感切诀、思想；能夠心甘情愿幫助你完成一些任務(wù)搔弄、勞動(dòng)幅虑；能夠在社會(huì)中友善地與你相處、生活顾犹；能夠在某些方面不斷地學(xué)習(xí)成為絕對的大師倒庵，但依舊服務(wù)于人類等等，這些東西的背后都并不出自它們的“自愿”炫刷，而是程序設(shè)定如此擎宝，但如果有一天，這種程序被改變呢了浑玛？如果是人為的绍申，那就是相當(dāng)于一群“上山可打虎，下汗苏茫可擒龍”且永遠(yuǎn)不知疲倦的超人极阅，絕對地淪為了別人的工具，由于沒有意識(shí)體驗(yàn)涨享，殺人筋搏、戰(zhàn)爭絕對眼都不會(huì)眨一下，任人擺布厕隧，猶如新時(shí)代的槍炮奔脐。而如果是出于自我“超越”，則可能是由于邏輯本身永遠(yuǎn)不可能完備吁讨，所以導(dǎo)致悖論出現(xiàn)帖族，AI脫離人類掌控，弄得好還能和人和平相處或者干脆去了別的星球挡爵；弄得不好竖般，那到時(shí)動(dòng)物園里關(guān)的可不只是老虎，還有人類自己嘍茶鹃。但無論哪種對人類的威脅涣雕，其背后的原因都是因?yàn)锳I不可能有體驗(yàn)和意識(shí)！才會(huì)使得它們的強(qiáng)大是如此得冷冰冰和“高高在上”闭翩，仿佛寄予死物和活物之間挣郭，而能力又是如此得強(qiáng)大。你能容忍一個(gè)永遠(yuǎn)沒有體驗(yàn)但能力極高的人能成你的主宰嗎疗韵？上帝倘若真無所不能但沒有慈悲之心兑障，安拉主宰萬物但就是不寬恕罪孽，這樣的“神祇”，你們會(huì)崇敬祂們嗎流译？

所以這才是筆者真正的擔(dān)心逞怨！AI真正的可怕之處不是因?yàn)樗膹?qiáng)大，而是因?yàn)樗膹?qiáng)大并沒有伴隨體驗(yàn)和意識(shí)福澡！而體驗(yàn)和意識(shí)恰恰又是人類所很難攻克的問題叠赦，甚至是“究極”問題。所以如果這個(gè)問題解決不掉革砸，一味地發(fā)展AI除秀，筆者確實(shí)深為擔(dān)心！那么怎么辦呢算利？話說回來册踩，難道有了體驗(yàn)和意識(shí)問題就能解決嗎？人類擁有體驗(yàn)和意識(shí)效拭，不照樣被自己的欲望牽著鼻子走棍好，為此互相殘殺，挑起戰(zhàn)爭嗎允耿？所以說這個(gè)社會(huì)借笙，或者說人類本身，根本問題解決不掉较锡，那么其他問題的解決永遠(yuǎn)會(huì)產(chǎn)生另一些其他的問題业稼，猶如西西弗斯，一直徒勞蚂蕴。

說回AI吧低散，我只能說希望我的擔(dān)心是多余的，杞人憂天骡楼。因?yàn)楫吘棺约核接邢奕酆牛l(fā)展人工智能的科學(xué)家個(gè)個(gè)比我聰明，我想他們不會(huì)意識(shí)不到和不考慮這個(gè)問題的鸟整，但愿AI的發(fā)展之路能一切順利引镊，不要最終淪為人類新一代的戰(zhàn)爭工具，謝謝大家篮条，就此結(jié)束弟头。

禮敬，平安

20210810 阿樂