蘇格拉底：我不可能教會(huì)任何人任何事扯俱，我只能讓他們思考

?　

【價(jià)值觀】人工智能給今天的人類所帶來(lái)的是一種深度的恐慌书蚪，這種恐慌來(lái)自于對(duì)人類智能、乃至人類生命失去意義迅栅、失去價(jià)值的深深擔(dān)憂殊校，這種恐慌比金融危機(jī)、或經(jīng)濟(jì)危機(jī)所帶來(lái)的恐慌更甚

面對(duì)這一恐慌读存，有大量的科學(xué)家開始解釋人工智能不可能超越人類箩艺，但也有同樣數(shù)量的科學(xué)家卻在斷言人工智能一定超越人類。

哪一個(gè)是正確答案宪萄？智慧人類終于又想起哲學(xué)。價(jià)值家認(rèn)為：在人工智能和人類智慧之間榨惰，至少有這幾道鴻溝拜英，是機(jī)器智能很難跨越、或者需要長(zhǎng)時(shí)間才能跨越的琅催。今天的機(jī)器智能雖然極其高效居凶、但還只是非常特定的“極窄智能”，正如下圍棋的機(jī)器人還打不了籃球——

專用機(jī)器智能=》通用機(jī)器智能=》人類一般智能（科學(xué)&理性）=》人類抽象智能（哲學(xué)）=》人類智慧

更重要的是藤抡，以人類的樂(lè)觀價(jià)值觀為武器侠碧，我們堅(jiān)信，智慧的人類肯定不會(huì)等于人工智能毀滅人類的哪一天才開始行動(dòng)缠黍，人工智能和人類智能的未來(lái)命運(yùn)弄兜，一定是共同進(jìn)化！　　

徐英瑾教授大概是中國(guó)大陸少有的持續(xù)關(guān)注人工智能的哲學(xué)研究者了瓷式。他還專門為復(fù)旦學(xué)生開了一門叫做“人工智能哲學(xué)”的課替饿。這門課第一講的標(biāo)題，也是我們向他提出的問(wèn)題：為何人工智能科學(xué)需要哲學(xué)的參與贸典？或者換句話來(lái)說(shuō)视卢，一個(gè)哲學(xué)研究者眼中的人工智能，應(yīng)該是什么樣的廊驼？

（一）專訪：大數(shù)據(jù)据过、人工智能、哲學(xué)

徐英瑾：對(duì)我來(lái)說(shuō)妒挎，我現(xiàn)在推崇的就是AGI——Artificial General Intelligence绳锅。在一般所謂的Artificial Intelligence（人工智能）中間加了一個(gè)General（普遍）榨呆，這就意味著积蜻，它要做普遍的計(jì)算竿拆，工作起點(diǎn)與現(xiàn)在人們理解的人工智能是不一樣的丙笋。

現(xiàn)在的做法，是先在某一專門領(lǐng)域造一臺(tái)無(wú)比厲害的機(jī)器御板，比如锥忿，在問(wèn)答游戲領(lǐng)域造一個(gè)Watson，讓它戰(zhàn)勝一切人類選手怠肋，再在圍棋領(lǐng)域造一個(gè)AlphaGo敬鬓，讓它戰(zhàn)勝一切人類棋手。這是基于一種商業(yè)的邏輯：先在某一領(lǐng)域深入下去笙各，取得成功钉答，弄出很大的聲勢(shì)，然后吸引資本進(jìn)入杈抢，接下來(lái)再嘗試將相關(guān)技術(shù)推廣到其他領(lǐng)域数尿。但是這種做法，在哲學(xué)上是行不通的惶楼。

以小朋友的成長(zhǎng)為例右蹦。任何偉大的人，愛因斯坦也好歼捐，李世乭也罷嫩实，小時(shí)候總是各方面都有潛能的，然后隨著他逐漸成長(zhǎng)，某一方面的能力變得特別突出晃洒，即便如此，其他方面的能力也至少是在平均水平，就算比平均水平低朦佩，也不會(huì)低多少弄砍，否則就無(wú)法正常地工作了。簡(jiǎn)單來(lái)說(shuō)，這是一個(gè)養(yǎng)成的過(guò)程。我所設(shè)想的人工智能，就應(yīng)該是這樣的界弧，它是具有普遍性的兑巾，跟人類一樣帅掘，有一個(gè)養(yǎng)成和學(xué)習(xí)的過(guò)程府框，能夠適應(yīng)多個(gè)領(lǐng)域的工作。

而現(xiàn)在的做法鲫惶，是分成好多個(gè)領(lǐng)域吆寨，一個(gè)領(lǐng)域一個(gè)領(lǐng)域地來(lái)做，做完之后掷贾，再合在一起啡莉，情緒浅缸、認(rèn)知這些方面都不去管哮兰。那么，問(wèn)題來(lái)了冀痕，你怎么知道這些領(lǐng)域最后合在一起僻他，就能產(chǎn)生人工智能呢劝篷？打個(gè)比方哈恰，很大程度上這就相當(dāng)于锌云，去國(guó)際軍火市場(chǎng)隨機(jī)購(gòu)買軍火石洗，然后整合成一支部隊(duì)孵班，或者去不同國(guó)家采購(gòu)零件，然后拼湊成一架飛機(jī)触趴。這顯然是不可能成功的。

而且渴肉，按照目前的做法冗懦，還會(huì)形成一種路徑依賴，比如說(shuō)對(duì)大數(shù)據(jù)的追捧仇祭。將來(lái)即便發(fā)現(xiàn)這條路走錯(cuò)了披蕉，要想再去走正確的路就很難了。這就好像一支軍隊(duì)用了很久的蘇式裝備秘豹，一旦換成美式裝備椒丧，全軍都會(huì)不適應(yīng)。這個(gè)問(wèn)題很容易就能想到，但是現(xiàn)在竟然就連這方面的批評(píng)都那么少，簡(jiǎn)直不可思議侨赡。

您從什么時(shí)候開始關(guān)注人工智能哲學(xué)的共螺？

徐英瑾：差不多從2004年左右開始吧夜惭，我在翻譯王浩文集的同時(shí)，讀到瑪格麗特·博登的《人工智能哲學(xué)》這部論文集友酱。當(dāng)時(shí)人工智能遠(yuǎn)遠(yuǎn)沒有現(xiàn)在這么熱門昭伸，但是我覺得，這是未來(lái)哲學(xué)應(yīng)該處理的問(wèn)題。博登的書只是一部入門之作，從此書開始赡鲜，我找了大量相關(guān)資料閱讀空厌。

關(guān)于人工智能哲學(xué)研究庐船，我主要是和美國(guó)天普大學(xué)的計(jì)算機(jī)專家王培老師合作，他研究人工智能的體系嘲更，認(rèn)為它就是為了在小數(shù)據(jù)的情況下進(jìn)行應(yīng)急推理筐钟。那個(gè)時(shí)候我還不知道有大數(shù)據(jù)，當(dāng)然赋朦，大數(shù)據(jù)的前身篓冲，如貝葉斯、神經(jīng)網(wǎng)絡(luò)等都有了——今天的深度學(xué)習(xí)是當(dāng)時(shí)的神經(jīng)網(wǎng)絡(luò)的高度加強(qiáng)版宠哄，根上的東西從欣頓（Geoffrey Hinton）那時(shí)就有了壹将。后來(lái)大數(shù)據(jù)越來(lái)越熱，我才關(guān)注到相關(guān)討論毛嫉。不過(guò)诽俯，這種關(guān)注對(duì)我的研究實(shí)際上是一種干擾，因?yàn)槲抑浪清e(cuò)的承粤。

說(shuō)到大數(shù)據(jù)暴区，您在這方面發(fā)表了不少文章，比如有一篇就叫“大數(shù)據(jù)等于大智慧嗎辛臊？”最近也頻頻談?wù)摯髷?shù)據(jù)問(wèn)題仙粱。您在這方面的觀點(diǎn)是什么？

　　????

徐英瑾：如果用一句話來(lái)概括的話彻舰，就是伐割，我談?wù)摯髷?shù)據(jù)的目的在于反對(duì)大數(shù)據(jù)。現(xiàn)在有一種很不好的風(fēng)氣刃唤，就是“IP”橫行口猜，“大數(shù)據(jù)”也被當(dāng)作了IP，更糟糕的是透揣，連我對(duì)大數(shù)據(jù)的批評(píng)也成了這個(gè)IP的一部分济炎。事實(shí)上，我的批評(píng)背后辐真，有我的理論關(guān)懷须尚，就是日本哲學(xué)家九鬼周造的學(xué)說(shuō)。九鬼周造寫過(guò)一本書侍咱，叫《偶然性的問(wèn)題》耐床，說(shuō)整個(gè)西洋哲學(xué)都喜歡從必然性的角度來(lái)解決問(wèn)題，必然性解決不了就用概率論楔脯，但偶然性是永遠(yuǎn)不能被馴服的撩轰。大數(shù)據(jù)是試圖馴服偶然性的一種嘗試，但它終將無(wú)法馴服。

中國(guó)歷史上堪嫂，這樣的例子很多偎箫，尤其是軍事史。你看那些大的戰(zhàn)役的指揮者皆串，彭城之戰(zhàn)的項(xiàng)羽也好淹办，赤壁之戰(zhàn)的周瑜、魯肅也罷恶复，他們最終作出決策怜森，靠的是什么呢，難道是大數(shù)據(jù)嗎谤牡？其實(shí)是核心情報(bào)的評(píng)估和基于常識(shí)的推理副硅，以及一點(diǎn)點(diǎn)碰運(yùn)氣式的瞎蒙。因?yàn)閼?zhàn)爭(zhēng)是充滿無(wú)知之幕的翅萤。那些以小勝多的戰(zhàn)役想许，如果光看大數(shù)據(jù)，那么一切都會(huì)指向多的那一方要獲勝断序，少的那一方無(wú)疑是找死流纹，可是事實(shí)是什么呢？

所以违诗，我所設(shè)想的新一代人工智能漱凝，是能夠“認(rèn)命”的機(jī)器人。說(shuō)“認(rèn)命”诸迟，不是說(shuō)服從偶然性茸炒，而是利用偶然性；不是說(shuō)無(wú)所作為阵苇，而是順勢(shì)而為壁公。

您的這種觀點(diǎn)，說(shuō)不定會(huì)遭到工程技術(shù)人員抱怨：哲學(xué)流派绅项、觀點(diǎn)那么多紊册，我們?cè)趺锤愕们宄?/strong>

徐英瑾：工程技術(shù)人員的抱怨，有一點(diǎn)我是同情的：兩千年來(lái)快耿，哲學(xué)問(wèn)題的確沒什么實(shí)質(zhì)性的進(jìn)展囊陡。那么，面對(duì)這種情況掀亥，我們要采取什么策略呢撞反？印度有部電影叫《噢，我的神啊》（OMG：Oh My GodＬ禄ā）遏片，男主角是個(gè)外星人嘹害，他跑到地球上之后，不知道哪個(gè)神管用吮便，就每個(gè)神都拜一拜笔呀。

哲學(xué)流派、觀點(diǎn)很多线衫，保不齊哪一個(gè)管用，每一個(gè)都要有人去嘗試惑折。不能所有的人都搞大數(shù)據(jù)授账，都搞神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)惨驶，這很危險(xiǎn)“兹龋現(xiàn)在資本都往這幾個(gè)領(lǐng)域里面涌，這是缺乏哲學(xué)思維的粗卜，某種意義上也是缺乏風(fēng)險(xiǎn)管理思維屋确。一件這么不靠譜的事情，你怎么能只試一個(gè)方向续扔、一種流派攻臀？

而且，更糟糕的是纱昧，這方面的研究人員常常滿腦子技術(shù)烏托邦刨啸，拿生活經(jīng)驗(yàn)去細(xì)想一下，其實(shí)是很荒謬的识脆。舉個(gè)例子來(lái)說(shuō)设联，現(xiàn)在 “奇點(diǎn)”被炒得火熱，大意是說(shuō)灼捂，奇點(diǎn)革命一旦到來(lái)离例，人類社會(huì)將被顛覆。

事實(shí)上怎么樣呢悉稠？我這一代人經(jīng)歷了改革開放初期的物質(zhì)貧乏宫蛆，一直到今天的物質(zhì)極大豐富，我們七八歲時(shí)關(guān)于二十一世紀(jì)的烏托邦式想象的猛，今天實(shí)現(xiàn)了幾個(gè)洒扎？深層次的社會(huì)結(jié)構(gòu)并沒有怎么改變，比如醫(yī)療領(lǐng)域衰絮，各種新技術(shù)的出現(xiàn)其實(shí)強(qiáng)化了現(xiàn)有的社會(huì)結(jié)構(gòu)袍冷，加劇了貧富階層之間的差距，又談何顛覆呢猫牡？大家把人工智能吹噓得好像很厲害胡诗，其實(shí)它一點(diǎn)都不厲害，還有一堆問(wèn)題沒有解決，你去擔(dān)心它毀滅人類干什么煌恢？這就和堂吉訶德一樣骇陈，把風(fēng)車當(dāng)作怪物，自己嚇唬自己瑰抵。

在您看來(lái)你雌，目前這種以大數(shù)據(jù)為基礎(chǔ)的人工智能，繼續(xù)發(fā)展下去二汛，可能會(huì)取得什么樣的結(jié)果婿崭？

徐英瑾：我認(rèn)為，再繼續(xù)這樣熱炒下去肴颊，就是技術(shù)泡沫氓栈，最后什么也做不出來(lái)。關(guān)于人工智能的發(fā)展婿着，業(yè)內(nèi)有點(diǎn)歷史意識(shí)的人授瘦，腦子里往往有一張圖表，下方是時(shí)間竟宋，上方是發(fā)展水平提完，目前的人工智能在這張表上的確在上升，但不久就會(huì)遇上瓶頸丘侠。就像我前面說(shuō)的氯葬，它在哲學(xué)上是行不通的，很多理論問(wèn)題還沒有得到解決婉陷。我個(gè)人還是更傾向于小數(shù)據(jù)帚称。

您關(guān)于小數(shù)據(jù)的觀點(diǎn)，在學(xué)界有代表性嗎秽澳？您能就某個(gè)方面的實(shí)例來(lái)詳細(xì)談?wù)劥扯茫心男┤斯ぶ悄艿睦碚搯?wèn)題還沒有得到解決嗎？

徐英瑾：在人工智能學(xué)界担神，小數(shù)據(jù)不算主流楼吃，但在其他領(lǐng)域就不一樣了，心理學(xué)界對(duì)小數(shù)據(jù)的思考就很深入妄讯，德國(guó)的吉仁澤（Gerd Gigerenzer）做了大量的工作孩锡，人工智能學(xué)界還沒有關(guān)注到。這是很可惜的事情亥贸。

說(shuō)到有待解決的理論問(wèn)題躬窜，我可以拿腦研究來(lái)作為例子。現(xiàn)在有一種傾向炕置，是試圖從大腦出發(fā)來(lái)制造人工智能荣挨。這方面的風(fēng)險(xiǎn)實(shí)在太大男韧，很多人不明白大腦究竟有多復(fù)雜。

大腦有10^11個(gè)神經(jīng)元默垄，彼此之間存在著極為復(fù)雜的聯(lián)系此虑，其中存在的可能性是個(gè)天文數(shù)字。在很大程度上口锭，我們進(jìn)行情感判斷和復(fù)雜推理的腦區(qū)可能是不一樣的朦前，對(duì)此學(xué)術(shù)上依然沒有弄清楚。現(xiàn)在出了很多這方面的論文鹃操，但是并沒有給出統(tǒng)一意見韭寸，這是因?yàn)椋竽X和大腦之間還存在著個(gè)體差異和民族组民、文化差異棒仍，被試者要經(jīng)過(guò)一定的統(tǒng)計(jì)學(xué)處理之后才能去除這類差異悲靴。

這種操作是很復(fù)雜的臭胜，而且成本很高，現(xiàn)在進(jìn)行腦研究主要靠核磁共振成像癞尚，這是很昂貴的手段耸三，不足以支持大樣本研究。這就導(dǎo)致浇揩，現(xiàn)在的研究成果不是科學(xué)上要求必須這么做仪壮，而是經(jīng)費(fèi)上只能允許這么做。但是最終得出的結(jié)論卻嚴(yán)重地僭越了自身的地位胳徽，夸大了自身的代表性积锅。

神經(jīng)生物學(xué)告訴我們，人的神經(jīng)元是具有文化可塑性的养盗，上層的文化影響會(huì)在底層的神經(jīng)分布當(dāng)中得到體現(xiàn)缚陷，所以，對(duì)腦神經(jīng)做科學(xué)研究往核，是無(wú)法剔除文化因素的影響的箫爷。人一旦早年處在某個(gè)文化共同體當(dāng)中，神經(jīng)受到了塑造聂儒，今后再想改變就比較難了虎锚。這在語(yǔ)言學(xué)習(xí)當(dāng)中得到了非常鮮明的體現(xiàn)。日本人說(shuō)英語(yǔ)比較慢衩婚，因?yàn)槿照Z(yǔ)是動(dòng)詞后置的窜护，而英語(yǔ)不是鸦难，所以他們說(shuō)英語(yǔ)要做詞序變換矗愧，導(dǎo)致語(yǔ)速變慢。這就是他們特有的語(yǔ)言編碼方式哩都。

因此，你現(xiàn)在如果真的要?jiǎng)?chuàng)造一個(gè)大腦坐搔，那么它不能是生物的藏研，而必須是硅基的。即使它的構(gòu)成是類神經(jīng)元的概行，也依然是硅基的蠢挡，否則就是在克隆人了。如果你要對(duì)大腦進(jìn)行抽象凳忙，你只能抽象出它的數(shù)學(xué)成分业踏。這里面有個(gè)問(wèn)題：純數(shù)學(xué)不能構(gòu)成對(duì)世界的描述。純數(shù)學(xué)每個(gè)單位后面要加量綱涧卵，量綱要選擇哪些東西勤家，取決于你看待這個(gè)世界的視角和方向。這就是哲學(xué)和理論層面的問(wèn)題柳恐。大腦其實(shí)是一層一層的伐脖，最底層是生物、化學(xué)的東西乐设，再往上就是意識(shí)讼庇、感覺的東西。

那么近尚，任何一個(gè)生物組織蠕啄，對(duì)它的數(shù)學(xué)模擬，到底是事后諸葛亮式戈锻、近似式的追問(wèn)歼跟，還是能夠把握它的本質(zhì)？這是一個(gè)很可怕的理論黑洞格遭，不僅是一個(gè)工程學(xué)黑洞哈街，首先是一個(gè)哲學(xué)黑洞。這么大一個(gè)黑洞如庭，你認(rèn)為十年二十年能夠把它搞清楚叹卷，你說(shuō)風(fēng)險(xiǎn)大不大？比較穩(wěn)妥的坪它，還是去尋找一條可靠的路徑骤竹。

您覺得人工智能的可靠路徑是什么？

徐英瑾：首先應(yīng)該放在自然語(yǔ)言處理上往毡。但是蒙揣，現(xiàn)在就連這方面的研究，也依然是在做大數(shù)據(jù)开瞭，比如翻譯軟件懒震，它的處理方式就是看現(xiàn)有的譯文是怎么翻的罩息，然后它就怎么翻。這是完全不對(duì)的个扰。正確的處理方式瓷炮，是定下一個(gè)高目標(biāo)：將日語(yǔ)寫的俳句翻譯成中文或英文，而且必須是當(dāng)代作家即興創(chuàng)作的俳句递宅，而不能是松尾芭蕉這類知名詩(shī)人的娘香、可以檢索的俳句。翻譯好之后办龄，把美國(guó)最好的俳句專家找來(lái)做圖靈測(cè)試烘绽。

這個(gè)標(biāo)準(zhǔn)雖然很高，但并非不可企及俐填，而且這是正確的方向安接。只是，如果我們把精力和資源都放在大數(shù)據(jù)上面英融，我們就永遠(yuǎn)也達(dá)不到這個(gè)目標(biāo)盏檐。因?yàn)榇髷?shù)據(jù)都是從已有的經(jīng)驗(yàn)出發(fā)，全新的領(lǐng)域它是應(yīng)付不來(lái)的矢赁。美國(guó)的日本文學(xué)專家怎么譯俳句糯笙？當(dāng)然是先揣摩文本贬丛，進(jìn)入語(yǔ)境撩银，讓自己被日式審美所感動(dòng)，然后思考豺憔，美國(guó)文化當(dāng)中類似的語(yǔ)境是什么额获。這里面就牽涉到對(duì)審美情趣的整體把握。什么是審美情趣恭应？它是和物理世界分割開來(lái)的抄邀，還是隨附在物理世界上的？這里面昼榛，又是一堆問(wèn)題境肾。這些問(wèn)題不弄明白，僅僅是靠大數(shù)據(jù)胆屿，是不可能成功的奥喻。

您前面談了這么多，我看總結(jié)起來(lái)就是一句話：當(dāng)下人工智能的發(fā)展非迹，問(wèn)題比辦法多得多得多环鲤。

徐英瑾：這是沒辦法的，打個(gè)比方憎兽，現(xiàn)在的人工智能的目標(biāo)冷离，是想要造出一個(gè)《超能陸戰(zhàn)隊(duì)》（Big Hero 6）中的“大白”那樣的機(jī)器人吵冒，既然當(dāng)下人工智能發(fā)展給自己定下了這么一個(gè)科幻式的目標(biāo)，那么西剥，我前面所談到的問(wèn)題都是必須考慮到的痹栖。實(shí)際上，《超能查派》（Chappie）這樣的電影對(duì)人工智能的表現(xiàn)瞭空，我覺得是比較合理的结耀，我也很贊同。

它很清楚地告訴你匙铡，機(jī)器人也有一個(gè)學(xué)習(xí)的過(guò)程图甜，很大程度上跟培養(yǎng)小孩是一樣的。我構(gòu)想的未來(lái)的人工智能鳖眼，買回來(lái)放到家里你是要教的黑毅，而不是一開始就什么都會(huì)。前面說(shuō)到OMG這部電影钦讳，里面那個(gè)外星人的思維方式就像人工智能矿瘦，他的推理是嚴(yán)謹(jǐn)、科學(xué)的愿卒，但因?yàn)榈厍蛏系亩嗌裣到y(tǒng)很混亂缚去，他經(jīng)常因?yàn)橥评硎д`觸犯某些宗教的禁忌而挨揍，挨完揍之后琼开，他就迅速得出了更接近真相的結(jié)論易结。

這樣一個(gè)建立假設(shè)、驗(yàn)證柜候、挨揍搞动，之后再建立新假設(shè)的過(guò)程，實(shí)際上是科學(xué)家的做法渣刷，以自己被揍為代價(jià)鹦肿，增進(jìn)了對(duì)地球的認(rèn)識(shí)。但是辅柴，重要的地方在于箩溃，他的思維方式僅僅是基于小數(shù)據(jù)：被揍一次之后立刻修改自己的解釋；如果是大數(shù)據(jù)碌嘀，他會(huì)想涣旨，被揍一次還不行，應(yīng)該多被揍幾次才能得出正確結(jié)論筏餐。生物體要是按照大數(shù)據(jù)的思維方式來(lái)的話开泽，早就在地球上滅絕了。

在您看來(lái)魁瞪，未來(lái)的人工智能穆律，或者說(shuō)真正的人工智能應(yīng)該是什么樣的惠呼？

徐英瑾：現(xiàn)在很多人工智能研究最大的問(wèn)題，是不受視角的制約峦耘，但是剔蹋，真正的人工智能是受視角和立場(chǎng)制約的。對(duì)機(jī)器來(lái)說(shuō)辅髓，就是受制于預(yù)裝的系統(tǒng)和它后來(lái)不斷學(xué)習(xí)的經(jīng)驗(yàn)泣崩，而預(yù)裝的系統(tǒng)，就相當(dāng)于人類的文化背景洛口。我所構(gòu)想的人工智能矫付，是需要學(xué)習(xí)和培養(yǎng)的。AlphaGo當(dāng)然也要學(xué)習(xí)第焰，一個(gè)晚上下一百萬(wàn)盤棋买优，但那是極為消耗能量的學(xué)習(xí)。人工智能應(yīng)該是舉一反三式的學(xué)習(xí)挺举。AlphaGo雖然強(qiáng)大杀赢，但是只能干下棋這樣一件事情，無(wú)法干別的湘纵。

當(dāng)然脂崔，我并不是說(shuō)，AlphaGo的深度學(xué)習(xí)技術(shù)不能用來(lái)做下棋之外的事梧喷，這個(gè)技術(shù)本身可以用來(lái)做很多事情砌左。我的意思是說(shuō)，這個(gè)技術(shù)一旦做成某一具體的產(chǎn)品伤柄，這個(gè)產(chǎn)品的功能就固定下來(lái)了绊困。用樂(lè)高積木來(lái)打個(gè)比方文搂，如果你是精于此道的高手适刀，你可以拼出一艘航母、一幢高樓煤蹭，但是一旦拼出了一艘航母笔喉，除非你把它拆掉，它就一直是航母了硝皂，不再會(huì)是高樓常挚。

類似地，一旦你用深度學(xué)習(xí)技術(shù)做出了AlphaGo這個(gè)專門用來(lái)下棋的機(jī)器人稽物，如果再想讓它去干別的奄毡，很多基本訓(xùn)練和基礎(chǔ)架構(gòu)就必須從頭做起，這就相當(dāng)于把拼成航母的樂(lè)高積木一塊一塊地拆下來(lái)贝或，再拼成一艘航母吼过，而想而知工作量會(huì)有多大锐秦。那么，問(wèn)題來(lái)了：你是需要一個(gè)什么都能干盗忱，雖然不一定能干到最好的機(jī)器人呢酱床，還是需要一個(gè)只能把一件事情做到最好，其他什么都不會(huì)的機(jī)器人趟佃？這兩種機(jī)器人扇谣，哪種對(duì)人類社會(huì)起到的作用更大？

不妨拿戰(zhàn)爭(zhēng)舉個(gè)例子闲昭。未來(lái)的戰(zhàn)場(chǎng)會(huì)需要大量的戰(zhàn)斗型機(jī)器人罐寨。一個(gè)士兵在戰(zhàn)場(chǎng)上遇到的情況是千變?nèi)f化的。請(qǐng)問(wèn)序矩，難道只有醫(yī)療兵知道怎么救援嗎衩茸？別的士兵也知道，只是未必做得有那么好而已贮泞。同樣楞慈，醫(yī)療兵也會(huì)使用槍械。

再拿家政服務(wù)舉個(gè)例子啃擦，給中產(chǎn)家庭用的機(jī)器人囊蓝，和給富豪家庭用的機(jī)器人，肯定是不一樣的令蛉。AlphaGo這樣的機(jī)器人怎么去迅速適應(yīng)呢聚霜？關(guān)于圍棋的輸贏是有明確規(guī)則的，可是家政問(wèn)題有規(guī)則嗎珠叔？如果機(jī)器人給一個(gè)大知識(shí)分子收拾書房蝎宇，打掃得太干凈，他反而不滿意祷安，可能要拍桌子：“亂有亂的味道姥芥！書房怎么可以弄得這么干凈呢？”但是你不給他打掃汇鞭，他又不開心了凉唐，“書總歸要碼得整齊一點(diǎn)，蜘蛛網(wǎng)總歸要掃掉吧”霍骄。

所以台囱，行為的分寸如何把握，是需要人工智能來(lái)學(xué)習(xí)和判斷的读整。而人工智能如何學(xué)習(xí)和判斷呢簿训？這是需要人類去調(diào)教的。

前面您又是舉例子，又是講理論的强品，談了很多豺总。最后，能請(qǐng)您簡(jiǎn)短地用一句話概括您對(duì)當(dāng)下人工智能的觀點(diǎn)嗎择懂？

徐英瑾：少一點(diǎn)資本泡沫喻喳，多一點(diǎn)理論反思。

（二）人工智能研究為何需要哲學(xué)參與?

人工智能哲學(xué)作為一個(gè)行當(dāng)困曙，在國(guó)內(nèi)基本上是還沒有確立起來(lái)表伦。總體來(lái)說(shuō)國(guó)外的情況比我們好一點(diǎn)慷丽，馬馬虎虎算一個(gè)哲學(xué)分支蹦哼。舉個(gè)例子，瑪格麗特·博登是研究人工智能哲學(xué)的一個(gè)比較大牌的人物要糊，一個(gè)女哲學(xué)家纲熏，英國(guó)人。她為什么研究比較好锄俄？因?yàn)樗?/span>MIT局劲、卡耐基梅隆這些研究人工智能的重鎮(zhèn)有非常密切的聯(lián)系，和那里的人工智能界的大佬都是私下的朋友奶赠。而且瑪格麗特除了是哲學(xué)專家以外鱼填，在計(jì)算機(jī)、生物學(xué)毅戈、心理學(xué)方面都有相應(yīng)的學(xué)位苹丸。我們國(guó)家在文科和理科的交匯方面的確做得不是很好。

一苇经、哲學(xué)能夠?yàn)槿斯ぶ悄茏鲂┦裁矗?/span>

哲學(xué)要做的第一件事是思考大問(wèn)題赘理，澄清基本概念。

與哲學(xué)家相比較扇单，一般的自然科學(xué)家往往只是在自己的研究中預(yù)設(shè)了相關(guān)問(wèn)題的答案商模，卻很少系統(tǒng)地反思這些答案的合法性。

第二令花，哲學(xué)在不同學(xué)科的研究成果之間尋找匯通點(diǎn)阻桅，而不受某一具體學(xué)科視野之局限。

舉一個(gè)例子兼都，用軍事上的比方，哲學(xué)更像是戰(zhàn)略性思考稽寒。如果你是在一個(gè)炮兵學(xué)院里面扮碧，不同的研究炮兵戰(zhàn)術(shù)的軍官會(huì)討論炮兵戰(zhàn)術(shù)所牽扯到的具體的幾何學(xué)問(wèn)題。但是站在戰(zhàn)略層面，它可能對(duì)于這些非常細(xì)微的問(wèn)題會(huì)忽略慎王，更多的會(huì)考慮炮兵在軍事編制中所扮演的功能角色蚓土，站在更高的層面去看。這可能幫助大家理解哲學(xué)應(yīng)該是干什么的赖淤。

第三蜀漆，重視論證和辯護(hù)，相對(duì)輕視證據(jù)的約束咱旱。

　　人工智能需要哲學(xué)嗎确丢？

我個(gè)人認(rèn)為如果說(shuō)化學(xué)家、物理學(xué)家和生物學(xué)家對(duì)哲學(xué)的排斥還有一點(diǎn)道理的話吐限，人工智能對(duì)哲學(xué)的排斥是最沒道理鲜侥。就對(duì)于哲學(xué)文化的寬容程度而言，AI科學(xué)絕對(duì)算是個(gè)科學(xué)界內(nèi)部的異數(shù)诸典。從某種意義上說(shuō)描函，該學(xué)科本身的誕生，就恰恰是“頭腦風(fēng)暴”般的哲學(xué)思辨的產(chǎn)物狐粱。

人工智能異數(shù)異到什么地步舀寓？以至于現(xiàn)在教育部的學(xué)科目錄里面沒有人工智能，這是很有諷刺意味的事肌蜻。也許以后會(huì)形成一級(jí)學(xué)科基公，但是現(xiàn)在還沒有形成。

我們先看下阿蘭·圖靈宋欺，阿蘭·圖靈（Alan Turing轰豆，1912-1954）在英國(guó)哲學(xué)雜志《心智》上發(fā)表了論文《計(jì)算機(jī)器和智能》（Turing 1950）。在文中他提出了著名的“圖靈測(cè)驗(yàn)（Turing Test）”的思想齿诞。?

此文牽涉到了對(duì)于“何為智能”這個(gè)大問(wèn)題的追問(wèn)酸休，并試圖通過(guò)一種行為主義的心智理論，最終消弭心理學(xué)研究和機(jī)器程序設(shè)計(jì)之間的楚河漢界祷杈，同時(shí)還對(duì)各種敵對(duì)意見提供了豐富的反駁意見斑司。這些特征也使得這篇論文不僅成為了AI科學(xué)的先聲，也成為了哲學(xué)史上的經(jīng)典之作但汞。

1956年發(fā)生大事件——Datmouth 會(huì)議宿刮，在這一年夏天的美國(guó)達(dá)特茅斯學(xué)院（Dartmouth College），一群志同道合的學(xué)者驅(qū)車赴會(huì)私蕾，暢談如何利用剛剛問(wèn)世不久的計(jì)算機(jī)來(lái)實(shí)現(xiàn)人類智能的問(wèn)題僵缺，而洛克菲勒基金會(huì)則為會(huì)議提供了7500美元的資助（這些美元在當(dāng)年的購(gòu)買力可非今日可比的）。

?

　　2006年達(dá)特茅斯會(huì)議當(dāng)事人重聚踩叭，

左起：摩爾磕潮、麥卡錫翠胰、明斯基、塞弗里奇自脯、所羅門諾夫

在會(huì)議的籌備時(shí)期之景，麥卡錫（John McCarthy，1927～）建議學(xué)界以后就用“人工智能”一詞來(lái)標(biāo)識(shí)這個(gè)新興的學(xué)術(shù)領(lǐng)域膏潮，與會(huì)者則附議锻狗。

參加達(dá)特茅斯會(huì)議的雖無(wú)職業(yè)哲學(xué)家，但這次會(huì)議的哲學(xué)色彩依然濃郁焕参。

??? 首先轻纪，與會(huì)者都喜歡討論大問(wèn)題，即如何在人類智能水平上實(shí)現(xiàn)機(jī)器智能（而不是如何用某個(gè)特定的算法解決某個(gè)具體問(wèn)題）龟糕。

　　其次桐磁，與會(huì)者都喜歡討論不同的子課題之間的關(guān)聯(lián)，追求一個(gè)統(tǒng)一的解決方案（這些子課題包括：自然語(yǔ)言處理讲岁、人工神經(jīng)元網(wǎng)絡(luò)我擂、計(jì)算理論以及機(jī)器的創(chuàng)造性，等等）缓艳。

　　最后校摩，不同的學(xué)術(shù)見解在這次會(huì)議上自由碰撞，體現(xiàn)了高度的學(xué)術(shù)寬容度（從麥卡錫完成的會(huì)議規(guī)劃書[McCarthy et al. 1955]來(lái)看阶淘， 沒有什么證據(jù)表明這次形式松散的會(huì)議是圍繞著任何統(tǒng)一性的衙吩、強(qiáng)制性的研究綱領(lǐng)來(lái)進(jìn)行的）。讓人欣慰的是溪窒，這些“哲學(xué)化特質(zhì)”在美國(guó)日后的AI研究中也得到了保留坤塞。

　　為何AI科學(xué)對(duì)哲學(xué)的寬容度相對(duì)來(lái)得就比較高？這背后又有何玄機(jī)呢澈蚌？

這首先和AI科學(xué)自身研究對(duì)象的特殊性相關(guān)的摹芙。

AI的研究目的，即是在人造機(jī)器上通過(guò)模擬人類的智能行為宛瞄，最終實(shí)現(xiàn)機(jī)器智能浮禾。很顯然，要做到這一點(diǎn)份汗，就必須對(duì)“何為智能”這個(gè)問(wèn)題做出解答盈电。

如果你認(rèn)為實(shí)現(xiàn)“智能”的實(shí)質(zhì)就是去盡量模擬自然智能體的生物學(xué)硬件。你就會(huì)去努力鉆研人腦的結(jié)構(gòu)杯活，并用某種數(shù)學(xué)模型去重建一個(gè)簡(jiǎn)化的神經(jīng)元網(wǎng)絡(luò)（這就是聯(lián)結(jié)主義者所做的）〈抑悖現(xiàn)在我們都知道有一個(gè)類腦研究計(jì)劃，這種研究有復(fù)雜版本和簡(jiǎn)單版本轩猩，復(fù)雜版本就是藍(lán)腦計(jì)劃一樣卷扮，把大腦運(yùn)作的信息流程盡量逼真的模擬出來(lái)荡澎，比較簡(jiǎn)單的就是簡(jiǎn)化的神經(jīng)元網(wǎng)絡(luò)均践。

站在專業(yè)的研究腦科學(xué)的立場(chǎng)上晤锹，神經(jīng)元網(wǎng)絡(luò)很不神經(jīng)，離真正的神經(jīng)活動(dòng)來(lái)說(shuō)彤委，它是高度簡(jiǎn)化鞭铆，但是站在很宏觀的立場(chǎng)上，至少你說(shuō)神經(jīng)元網(wǎng)絡(luò)也是受大腦的啟發(fā)和影響焦影。這個(gè)路線很多人認(rèn)為是對(duì)的，我認(rèn)為可以做出一些成果舶担，但是不要抱有太高的期望彬呻。

如果你認(rèn)為智能的實(shí)質(zhì)僅僅在于智能體在行為層面上和人類行為的相似。那么你就會(huì)用盡一切辦法來(lái)填滿你理想中的智能機(jī)器的“心智黑箱”（無(wú)論是在其中預(yù)裝一個(gè)巨型知識(shí)庫(kù)剪况，還是讓其和互聯(lián)網(wǎng)接駁译断，以便隨時(shí)更新自己的知識(shí)——只要管用就行）或悲。

由此看來(lái)，正是因?yàn)樽陨硌芯繉?duì)象的不確定性巡语，AI研究者在哲學(xué)層面上對(duì)于“智能”的不同理解翎蹈，也才會(huì)在技術(shù)實(shí)施的層面上產(chǎn)生如此大的影響。很明顯捌臊，這種學(xué)科內(nèi)部的基本分歧杨蛋，在相對(duì)成熟的自然科學(xué)那里是比較罕見的。

其次理澎，AI科學(xué)自身的研究手段逞力，缺乏刪除不同理論假設(shè)的決定性判決力，這在很大程度上也就為哲學(xué)思辨的展開預(yù)留了空間糠爬。

二寇荧、哲學(xué)文化滲入AI的幾個(gè)具體案例

下面我們講一些案例，這些案例可以證明哲學(xué)思維對(duì)AI是非常有用的执隧。

霍伯特·德瑞福斯（Hubert Lederer Dreyfus揩抡， 1929-）户侥，美國(guó)加州伯克利分校哲學(xué)教授，美國(guó)最優(yōu)秀的現(xiàn)象學(xué)家之一峦嗤，在海德格爾哲學(xué)蕊唐、福柯哲學(xué)烁设、梅洛-龐蒂哲學(xué)研究方面很有造詣替梨。讓人驚訝的是副瀑，以歐陸人本主義哲學(xué)為背景的德瑞福斯，卻寫下了AI哲學(xué)領(lǐng)域最富爭(zhēng)議的一部著作《計(jì)算機(jī)不能夠做什么狈孔？》（Dreyfus 1979）以及其修訂本（Dreyfus 1992），并使得他在AI領(lǐng)域的社會(huì)影響超越了他的學(xué)術(shù)本行到忽。那么，他為何要轉(zhuǎn)行去寫一本關(guān)于AI的哲學(xué)書呢翩迈？

?

　　霍伯特·德瑞福斯（Hubert Lederer Dreyfus， 1929-）

　　Hubert L. Dreyfus返十，《機(jī)械戰(zhàn)警》里面出現(xiàn)某個(gè)反對(duì)機(jī)器人有自動(dòng)開火能力的哲學(xué)家和這個(gè)哲學(xué)家的名字一樣的，我認(rèn)為編劇是故意這么干的迟杂，因?yàn)樗诿绹?guó)是非常有名的搞人工智能哲學(xué)的專家侧漓。他為什么要去搞人工智能哲學(xué)火架？

非常有意思，根據(jù)他自己和記者的講法牛欢，這和他在麻省理工學(xué)院教學(xué)時(shí)所遭到的一些刺激相關(guān)。在1962年就有學(xué)生明白地告訴他拾稳，哲學(xué)家關(guān)于人性的思辨現(xiàn)在都過(guò)時(shí)了访得，因?yàn)殚}斯基等AI科學(xué)家據(jù)說(shuō)在不久后就可以用工程學(xué)的方法實(shí)現(xiàn)人類智能的方方面面。

德氏覺得這話近乎于天方夜譚搜骡，但是為了做到公允起見记靡，他還是在不久后去了美國(guó)的頂級(jí)民間智庫(kù)“藍(lán)德公司”（Rand Corporation）進(jìn)行調(diào)研——因?yàn)榍∏≡谀莻€(gè)時(shí)候，司馬賀蜕便、紐艾爾和肖（Cliff Shaw）等AI界的頂級(jí)大腕也正在那里從事研究两嘴。經(jīng)過(guò)一段時(shí)間的分析以后憔辫，德氏最后確定自己對(duì)于當(dāng)時(shí)的AI規(guī)劃的懷疑乃是有根據(jù)的，并在1965年扔出了他擲向主流AI界的第一塊板磚：《煉金術(shù)和AI》（Dreyfus 1965）。

德氏對(duì)于主流AI進(jìn)路的批評(píng)意見很多杠园，其中比較有意思的一條是，真實(shí)的思維是不能夠被明述的程序所窮盡的瞧甩。比如說(shuō)你在打網(wǎng)球的時(shí)候，是不是得先看到了球吼虎，然后計(jì)算其入球的角度思灰，計(jì)算你的拍子接球的角度以及速度，最后才能夠接到球油湖？顯然不是這樣的，因?yàn)橛缮鲜鲇?jì)算所帶來(lái)的運(yùn)算負(fù)荷是很高的胧瓜，我們?nèi)祟惖拇竽X未必“消費(fèi)得起”。

實(shí)際上钝满，熟練的網(wǎng)球手僅僅是憑借某種前符號(hào)規(guī)則的直覺領(lǐng)悟才能夠把握到接球的正確時(shí)機(jī)的——而對(duì)于這些直覺本身偶洋，傳統(tǒng)的程序設(shè)計(jì)方案卻往往是無(wú)能為力的。

不過(guò)恩脂，德氏本人并不認(rèn)為所有的AI進(jìn)路都無(wú)力解決上述問(wèn)題浓领。換言之漫仆，一些更為新穎的AI進(jìn)路或許能夠?qū)θ绾伟盐者@些前符號(hào)的直觀提供方案。他認(rèn)為吗浩，這些進(jìn)路必須更為忠實(shí)地反映身體的結(jié)構(gòu)，以及身體和環(huán)境之間的互動(dòng)關(guān)系阀湿，而不僅僅是在符號(hào)的內(nèi)部世界中打轉(zhuǎn)。他的這個(gè)想法啊央，以后在AI專家布魯克斯的理論建樹中得到了發(fā)揚(yáng)光大浴骂。

布魯克斯在論文《大象不下棋》中以哲學(xué)家的口吻評(píng)價(jià)道：新潮AI是建立在物理根據(jù)假設(shè)（physical grounding hypothesis）之上的。該假設(shè)說(shuō)的是，為了建立一個(gè)足夠智能的系統(tǒng)，我們就絕對(duì)需要將其表征的根據(jù)奠定在物理世界之中。我們關(guān)于這一工作路徑的經(jīng)驗(yàn)告訴我們，一旦我們做出了這種承諾份氧，那種對(duì)于傳統(tǒng)符號(hào)表征的要求就會(huì)馬上變得黯淡無(wú)光资厉。

?

　　AI專家羅德尼·布魯克斯

這里的核心命意在于，世界就是認(rèn)知系統(tǒng)所能有的最好的模型舷胜。世界一直能夠及時(shí)更新自身。它總是包含了需要被了解的一些細(xì)節(jié)活翩。這里的訣竅就是要讓系統(tǒng)以恰當(dāng)之方式感知世界烹骨，而這一點(diǎn)常常就足夠了。為了建立體現(xiàn)此假設(shè)的模型材泄，我們就得讓系統(tǒng)通過(guò)一系列感知器和執(zhí)行器而與世界相聯(lián)系沮焕。而可被打印的字符輸入或輸出將不再引起我們的興趣，因?yàn)樗麄冊(cè)谖锢硎澜缰腥狈Ω鶕?jù)旦事。

按照布魯克斯的看法点楼，AlphaGo打敗李世石很偉大嗎悦污？他第一個(gè)反應(yīng)是有什么了不起？因?yàn)樗J(rèn)為智能的重要性不是在于下棋扛施，舉出他的反例是大象不下棋，你造一個(gè)人造大象颂砸，模擬大象的所有生命活動(dòng)，其實(shí)大象有很復(fù)雜的活動(dòng)【Ｕ耄或者海豚不下棋最盅，你造一個(gè)人造海豚激挪，下棋算什么本事吆倦？什么德州撲克璧南，他都不在乎丹皱。他更關(guān)心怎么制造智能系統(tǒng)和外部世界由嵌入式的認(rèn)知蛤迎，能夠把外部世界本身直接當(dāng)作這樣的認(rèn)知對(duì)象，而不是當(dāng)中造出一個(gè)中間的符號(hào)。

這種想法在很大程度上具有一定哲學(xué)上的創(chuàng)新性奉呛，布魯克斯本身的研究更加注重的是對(duì)機(jī)器昆蟲這種低等動(dòng)物的行走能力的模擬，對(duì)高級(jí)智能是比較輕視的。這也是建立在很基本的觀察上，人工智能研究的特點(diǎn)是小孩子越是容易做到的事，現(xiàn)在人工智能越難做到床蜘。比如很大程度的感知毁渗、把握，這是非常困難的单刁。

為何科學(xué)訓(xùn)練中缺席哲學(xué)訓(xùn)練灸异？

??? 首先，對(duì)于處于“學(xué)徒期”的科學(xué)入門者而言羔飞，學(xué)會(huì)服從既定的研究范式乃是其第一要?jiǎng)?wù)肺樟，而對(duì)這些范式的“哲學(xué)式懷疑”則會(huì)導(dǎo)致其無(wú)法入門，而不是像哲學(xué)一樣逻淌，在這個(gè)范式以外還有其他的可能性么伯，有不同意見的交流。

　　第二卡儒，嚴(yán)格的一級(jí)田柔、二級(jí)、三級(jí)學(xué)科分類導(dǎo)致學(xué)生們忙于如何熟悉特定領(lǐng)域內(nèi)的研究規(guī)范骨望，而無(wú)暇開拓視野硬爆，浮想聯(lián)翩。根據(jù)我對(duì)教育部的分類了解擎鸠，人工智能在中國(guó)是不存在的學(xué)科缀磕，這是很奇怪的事。

　　稍微對(duì)人工智能這門學(xué)科了解的人都知道糠亩，大概十幾年前搞人工智能的人不敢說(shuō)自己搞人工智能虐骑，怕被扔磚頭，大家認(rèn)為是騙子赎线，現(xiàn)在行情突然發(fā)生變化廷没。如果你站在具體學(xué)科分類的內(nèi)部來(lái)看學(xué)科，你就不容易受到其他學(xué)科的思維方式的滋養(yǎng)垂寥。

　　第三颠黎，對(duì)于權(quán)威科學(xué)模式的服從，在很大程度上使大家不愿意接受異說(shuō)滞项。人工智能學(xué)科最大的特點(diǎn)是很喜歡攻擊對(duì)方是異說(shuō)狭归，現(xiàn)在深度學(xué)習(xí)起來(lái)了，但深度學(xué)習(xí)的前身是神經(jīng)元網(wǎng)絡(luò)文判，它最大的敵人就是符號(hào)AI过椎，符號(hào)AI和神經(jīng)網(wǎng)絡(luò)之間的關(guān)系基本是曹操和劉備的關(guān)系，就是漢賊不兩立戏仓，雙方幾乎在人脈疚宇、資金亡鼠、學(xué)術(shù)觀點(diǎn)所有地方展開比《甄嬛傳》還要激烈的宮爭(zhēng)。

現(xiàn)在從整體看來(lái)敷待，神經(jīng)元網(wǎng)絡(luò)的兒子就是深度學(xué)習(xí)占據(jù)了比較高的位置间涵，歷史上它被打壓的間很長(zhǎng)。我自己觀察下來(lái)榜揖，人工智能中不同的爭(zhēng)論是對(duì)資金的方向的控制勾哩。

　　傳統(tǒng)AI最典型的哲學(xué)問(wèn)題是框架問(wèn)題：

常識(shí)告訴我們，手若抓起了積木举哟，只會(huì)改變積木的位置思劳，卻不會(huì)改變積木的顏色以及大小，因?yàn)槭肿シe木這個(gè)動(dòng)作和被抓對(duì)象的顏色以及尺寸無(wú)關(guān)炎滞。但一個(gè)AI系統(tǒng)卻又如何知道這一點(diǎn)呢敢艰？除非你在定義“手抓”動(dòng)作的時(shí)候得說(shuō)清，這個(gè)動(dòng)作一定不會(huì)引起什么册赛。

但這種定義必然是非常冗長(zhǎng)的钠导，因?yàn)檫@會(huì)逼得你事先將事物的任何方面都羅列清楚，并將這些方面在相應(yīng)的“框架公理”中予以事先的排除森瘪。很顯然牡属，對(duì)于“手抓”命令的任何一次執(zhí)行，都會(huì)調(diào)用到這些公理扼睬，這就會(huì)使得系統(tǒng)在執(zhí)行任何一個(gè)簡(jiǎn)單任務(wù)的時(shí)候都會(huì)消耗大量的認(rèn)知資源逮栅。然而，我們又都期盼系統(tǒng)能夠用比較少的資源來(lái)解決這些看似簡(jiǎn)單的任務(wù)窗宇。這就構(gòu)成了一個(gè)巨大的沖突措伐。

語(yǔ)義相關(guān)性究竟是怎么一回事情？既然計(jì)算機(jī)的在句法運(yùn)作的層面上只能夠根據(jù)符號(hào)的形式特征進(jìn)行操作军俊，它又是如何理解自然語(yǔ)詞之間的內(nèi)涵性語(yǔ)義關(guān)聯(lián)的侥加？形式邏輯，或者別的形式系統(tǒng)粪躬，究竟是否可能以一種簡(jiǎn)便的方式刻畫語(yǔ)義相關(guān)性担败？

你可以預(yù)先在邏輯、公理里面說(shuō)清楚所有事情之間的相關(guān)镰官、不相關(guān)提前，但是沒有辦法寫成一個(gè)可以執(zhí)行的程序。你寫這樣的程序泳唠，在任何一種情況下狈网，你的機(jī)械手舉起任何一塊積木，這件事情只會(huì)導(dǎo)致它的位移，而不會(huì)改變被舉起來(lái)的積木的顏色孙援。你覺得啰嗦嗎害淤？這不是最可怕的，更可怕的是機(jī)器會(huì)不停問(wèn)你拓售，會(huì)引起這個(gè)、引起那個(gè)嗎镶奉？很煩础淤，因?yàn)闄C(jī)器不懂我們一下子能把握的相關(guān)性和不相關(guān)性，這是很恐怖的哨苛。

所以丹尼爾·丹尼特寫了一篇論文說(shuō)鸽凶，如果你用這個(gè)原理去造一個(gè)拆彈機(jī)器人，剪黃線還是剪紅線建峭、剪線會(huì)引起什么玻侥，他想半天，炸彈炸了亿蒸。因?yàn)榧粽◤椀木€是有時(shí)間限制的凑兰。你不能想象這個(gè)東西是有用的東西。

三边锁、從哲學(xué)的角度反思現(xiàn)在自然語(yǔ)言處理與機(jī)器翻譯

我們?cè)倏幢容^新的話題姑食，從哲學(xué)的角度反思現(xiàn)在的自然語(yǔ)言處理與機(jī)器翻譯，嚴(yán)格的說(shuō)茅坛，自然語(yǔ)言處理是大概念音半，機(jī)器翻譯是一個(gè)小概念。機(jī)器翻譯是屬于自然語(yǔ)言處理的贡蓖，但有時(shí)候會(huì)把它分開來(lái)說(shuō)曹鸠。

現(xiàn)在機(jī)器翻譯歷史上有不同的路數(shù)，有基于神經(jīng)元網(wǎng)絡(luò)斥铺，基于統(tǒng)計(jì)的彻桃，基于符號(hào)的，基于中間語(yǔ)的仅父，還有很多叛薯、很多路數(shù)。但是深度學(xué)習(xí)牛掰起來(lái)以后笙纤，大家都用深度學(xué)習(xí)來(lái)做耗溜，很大程度上，深度學(xué)習(xí)做機(jī)器翻譯也將流行省容，也結(jié)合了一些大數(shù)據(jù)的方法抖拴。

“深度學(xué)習(xí)”技術(shù)，主要是作為一種“工程學(xué)技巧”進(jìn)入我們的視野的。實(shí)際上阿宅，我們目前尚無(wú)法在科學(xué)層面上清楚地說(shuō)明：“深度學(xué)習(xí)”技術(shù)為何能夠提高相關(guān)程序之應(yīng)用表現(xiàn)——遑論在哲學(xué)層面上為這種“進(jìn)步”的“可持續(xù)性”提供辯護(hù)候衍。

傳統(tǒng)的神經(jīng)元網(wǎng)絡(luò)和深度學(xué)習(xí)相比，它的特點(diǎn)是中間處理層層數(shù)比較少洒放，而現(xiàn)在的深度學(xué)習(xí)靠硬件的進(jìn)步蛉鹿，可以把中間的處理層做成幾十層上百層，這是以前不可想象的往湿。做多以后妖异，在很大程度上分析問(wèn)題的層次感就多了，因?yàn)樗鼘訑?shù)越多就可以用不同的角度和層數(shù)分析問(wèn)題领追，因此他膳，很大程度上處理問(wèn)題的手段就更加細(xì)膩了。的確體現(xiàn)出一種明顯的工程學(xué)的進(jìn)步绒窑。

很大的問(wèn)題是棕孙，這種進(jìn)步是否可持續(xù)？我自己站在哲學(xué)領(lǐng)域是持保留意見些膨，我認(rèn)為可以搞搞蟀俊，但是認(rèn)為這件事最后能做成像霍金所說(shuō)的毀滅人類的超級(jí)人工智能是胡扯。我們可以借一些例子來(lái)討論傀蓉、討論欧漱。

傳統(tǒng)的人工神經(jīng)元網(wǎng)絡(luò)有輸入層、中間層和輸出層葬燎，通過(guò)數(shù)據(jù)的處理得到一個(gè)輸出误甚，通過(guò)反饋算法等等東西來(lái)弄，它的最重要的是要調(diào)整計(jì)算單元之間的權(quán)重谱净，通過(guò)這種權(quán)重的調(diào)整窑邦，慢慢的讓它的適應(yīng)一類任務(wù)。傳統(tǒng)的神經(jīng)元網(wǎng)絡(luò)最大的特點(diǎn)是壕探，它能夠執(zhí)行的任務(wù)是比較單一的冈钦，也就是說(shuō)它完成一個(gè)任務(wù)以后做了什么，就永遠(yuǎn)的恒定在這個(gè)表現(xiàn)的水準(zhǔn)上做這個(gè)事李请。

如果你讓他在大量幀數(shù)的畫面里瞧筛，在所有有劉德華的臉出現(xiàn)的圖片里面做標(biāo)記，他開始標(biāo)記的水平比較差导盅，但是他標(biāo)記的至少比另外一臺(tái)機(jī)器好较幌，另外一臺(tái)機(jī)器把關(guān)之琳的臉也標(biāo)成劉德華，你的機(jī)器至少在正確的道路上白翻，隨著時(shí)間推移乍炉，通過(guò)訓(xùn)練慢慢能做了绢片。然后劉德華演一部新電影，這電影剛剛上映岛琼，顯然不是在訓(xùn)練樣本里面底循，讓他辨認(rèn)里面是誰(shuí)，分得很清楚槐瑞，劉德華熙涤、吳彥祖、關(guān)之琳困檩，分得很清楚灭袁，訓(xùn)練成功。

現(xiàn)在給它一個(gè)新任務(wù)窗看，現(xiàn)在不是認(rèn)人臉，是認(rèn)一個(gè)完全不同的東西倦炒，練什么東西呢显沈？假設(shè)是一部武打電影，里面也有劉德華參與逢唤，但是不要認(rèn)劉德華拉讯，把所有打螳螂拳或者詠春拳的畫面選出來(lái)，我沒學(xué)過(guò)鳖藕，如果你要做這件事魔慷，這個(gè)機(jī)器要重新來(lái)進(jìn)行調(diào)整。

但是人類可以做一個(gè)推理著恩，比如人類如果已經(jīng)知道了甄子丹經(jīng)常演葉問(wèn)院尔，而葉問(wèn)是打詠春拳的，而人類已經(jīng)學(xué)會(huì)了識(shí)別甄子丹喉誊，如果一部電影我給你一個(gè)任務(wù)邀摆，到底哪些畫面是在打詠春拳？你不用看什么拳伍茄，你盯著葉師傅栋盹，盯著甄子丹就可以。

這里面有三段論推理敷矫，非常方便的從一個(gè)知識(shí)領(lǐng)域到另外一個(gè)知識(shí)領(lǐng)域例获。怎么識(shí)別甄子丹是一個(gè)領(lǐng)域，誰(shuí)在打拳曹仗、誰(shuí)在打葉問(wèn)的詠春拳榨汤，這是另外一個(gè)知識(shí)領(lǐng)域。當(dāng)中有一個(gè)橋整葡，就是葉問(wèn)老師是由甄子丹扮演的件余，而甄子丹扮演的葉問(wèn)老師是打這個(gè)拳的，你有這個(gè)橋，兩個(gè)知識(shí)就可以合二為一啼器。

現(xiàn)在的問(wèn)題也就是說(shuō)旬渠，這對(duì)于符號(hào)AI來(lái)說(shuō)很容易的事，對(duì)神經(jīng)元網(wǎng)絡(luò)是很難的《丝牵現(xiàn)在很多人說(shuō)要把符號(hào)AI和神經(jīng)元網(wǎng)絡(luò)結(jié)合在一起告丢，但是這個(gè)結(jié)合點(diǎn)怎么找？實(shí)際上困難很大损谦。深度學(xué)習(xí)只是它的的升級(jí)版岖免，它是非常高級(jí)的升級(jí)版。大家覺得AlphaGo打敗李世石是非常了不起的事照捡，實(shí)際上這是遲早發(fā)生的事颅湘，因?yàn)樗荒芫窒拊趪暹@一個(gè)網(wǎng)絡(luò)。同樣一個(gè)深度學(xué)習(xí)系統(tǒng)同時(shí)做兩件事栗精，才算牛掰闯参。

美國(guó)的生物統(tǒng)計(jì)學(xué)家Jeff Leek最近撰文指出，除非你具有海量的訓(xùn)練用數(shù)據(jù)悲立，否則深度學(xué)習(xí)技術(shù)就會(huì)成為“屠龍之術(shù)”鹿寨。有些人認(rèn)為他的觀點(diǎn)是不對(duì)的，但是我還是傾向于認(rèn)為深度學(xué)習(xí)和神經(jīng)元網(wǎng)絡(luò)需要大量的訓(xùn)練樣本薪夕，把某種模式重復(fù)性的呈現(xiàn)出來(lái)脚草，讓他抓到規(guī)律，整臺(tái)系統(tǒng)才能慢慢調(diào)到很好的水平原献。請(qǐng)問(wèn)前面的數(shù)據(jù)是不是在任何一種場(chǎng)合都能夠獲得呢馏慨？這顯然不是那么容易的。

　　哲學(xué)家柏拉圖會(huì)怎么評(píng)價(jià)目下的機(jī)器翻譯嚼贡？

伯拉圖有一個(gè)東西叫《美諾篇》熏纯，主要是以對(duì)話形式來(lái)寫他的哲學(xué)著作≡敛撸《美諾篇》里面有一個(gè)重要的橋段樟澜，一個(gè)從未學(xué)過(guò)幾何學(xué)的小奴隸在哲學(xué)家蘇格拉底的指導(dǎo)下學(xué)會(huì)了幾何證明。旁邊的人反復(fù)問(wèn)叮盘，你真的沒有學(xué)過(guò)幾何學(xué)嗎秩贰？怎么證明那么好？小奴隸說(shuō)柔吼，真沒學(xué)過(guò)毒费。旁邊人證明，這小子字都不識(shí)愈魏，希臘文字母表都背不下來(lái)觅玻。

由此引發(fā)的問(wèn)題是：小奴隸的“心智機(jī)器”想际，究竟是如何可能在“學(xué)習(xí)樣本缺乏”的情況下獲取有關(guān)于幾何學(xué)證明的技能的呢？而后世的語(yǔ)言學(xué)家喬姆斯基則沿著柏拉圖的思路溪厘，問(wèn)出了一個(gè)類似的問(wèn)題：0-3歲的嬰幼兒是如何在語(yǔ)料刺激相對(duì)貧乏的情況下胡本，學(xué)會(huì)復(fù)雜的人類語(yǔ)法的？——換言之畸悬，按照柏拉圖—喬姆斯基的看法侧甫，任何一種對(duì)于人類語(yǔ)言能力的建模方案，如果無(wú)法具備對(duì)于“刺激的貧乏性”（the poverty of stimuli）的容忍性的話蹋宦，那么相關(guān)的建模成果就不能被說(shuō)成是具備對(duì)于人類語(yǔ)言的理解能力的披粟。

喬姆斯基的解釋是人有先天語(yǔ)法結(jié)構(gòu)的能力。人家問(wèn)喬姆斯基冷冗，這個(gè)東西怎么來(lái)的守屉？他說(shuō)，這是進(jìn)化當(dāng)中的基因突變導(dǎo)致的蒿辙。我最近美國(guó)開議事大會(huì)胸梆，碰到喬姆斯基，他一方面承認(rèn)這肯定是進(jìn)化基因突變的须板，但是另一方面又否認(rèn)我們可能用經(jīng)驗(yàn)手段去嚴(yán)格的研究語(yǔ)言進(jìn)化的某個(gè)歷史瞬間到底發(fā)生了什么，因?yàn)樗J(rèn)為我們?nèi)狈ψ匪輲资f(wàn)年的語(yǔ)言基因突變的經(jīng)驗(yàn)?zāi)芰Α?/span>

我并不完全贊成他的觀點(diǎn)兢卵，但是有一點(diǎn)我贊成他习瑰，他正確的提出一個(gè)問(wèn)題，這個(gè)問(wèn)題就是機(jī)器學(xué)習(xí)主流沒有辦法解決的問(wèn)題秽荤。小朋友是怎么做到這么小就可以掌握語(yǔ)法甜奄？

按照按照喬姆斯基的標(biāo)準(zhǔn)或者伯拉圖、蘇格拉底的標(biāo)準(zhǔn)窃款，课兄，我們是否可以認(rèn)為目前基于深度學(xué)習(xí)的機(jī)器翻譯技術(shù)是能夠理解人類語(yǔ)言的呢？答案是否定的晨继。

實(shí)際上烟阐，已經(jīng)有專家指出，目前的深度學(xué)習(xí)機(jī)制所需要的訓(xùn)練樣本的數(shù)量應(yīng)當(dāng)是“谷歌級(jí)別”的——換言之紊扬，小樣本的輸入往往會(huì)導(dǎo)致參數(shù)復(fù)雜的系統(tǒng)產(chǎn)生“過(guò)度擬合”（overfitting）的問(wèn)題蜒茄。也就是說(shuō)，系統(tǒng)一旦適應(yīng)了初始的小規(guī)模訓(xùn)練樣本中的某些特設(shè)性特征餐屎，就無(wú)法靈活地處理與訓(xùn)練數(shù)據(jù)不同的新數(shù)據(jù)檀葛。

　　一句話，湊數(shù)湊得太假了腹缩，以至于難以應(yīng)對(duì)世界的真正的復(fù)雜性屿聋！

舉個(gè)例子空扎，一個(gè)人說(shuō)她自己很適合談戀愛，很適合和異性交往润讥。她談第一次戀愛转锈，兩個(gè)人如膠似漆，而且她的戀愛對(duì)象是非常奇葩的男人象对，非常宅黑忱，邋遢，很奇怪勒魔，別的男人對(duì)他也有意見甫煞，但是這個(gè)女人和他一拍即合。這就是過(guò)擬合冠绢。

你作為她的閨秘會(huì)擔(dān)心一件事抚吠，她和這個(gè)男人分手以后，能不能適應(yīng)正常的男人弟胀？按照統(tǒng)計(jì)學(xué)來(lái)看楷力，第一次戀愛成功的概率是很低，如果你第一次就過(guò)擬合了孵户，你以后怎么玩這個(gè)游戲萧朝？這很麻煩，這是戀愛中過(guò)擬合的問(wèn)題夏哭，和誰(shuí)都特別熟检柬，黏住誰(shuí)就是誰(shuí)，分不開竖配，他什么毛病也傳給你何址，以至于你不能和第二個(gè)人談戀愛。

另外一種是不擬合进胯，就是和誰(shuí)都不來(lái)電用爪。按照機(jī)器訓(xùn)練來(lái)說(shuō)就是怎么訓(xùn)練都訓(xùn)練不出來(lái)。一種太容易訓(xùn)練出來(lái)胁镐，太容易訓(xùn)練出來(lái)的問(wèn)題是我現(xiàn)在用這組數(shù)據(jù)很容易把你訓(xùn)練出來(lái)偎血，以后真實(shí)世界中真實(shí)數(shù)據(jù)和實(shí)驗(yàn)室不一樣，你能不能應(yīng)付盯漂？

就語(yǔ)言論語(yǔ)言烁巫，新數(shù)據(jù)與訓(xùn)練數(shù)據(jù)不同恐怕會(huì)是某種常態(tài)，因?yàn)槟軌蚋鶕?jù)既有的語(yǔ)法構(gòu)造出無(wú)窮多的新表達(dá)式宠能，本就是一切自然語(yǔ)言習(xí)得者所都具備的潛能亚隙。如果我愿意，我可以用大家聽得懂的漢語(yǔ)跟大家描述各種各樣的奇葩狀態(tài)违崇。這是語(yǔ)言的特點(diǎn)阿弃。也就是說(shuō)既有的語(yǔ)法允許我們構(gòu)造出無(wú)窮多的新表達(dá)式诊霹。

能夠用既有的語(yǔ)法構(gòu)造更多的新表達(dá)式，是任何一個(gè)語(yǔ)言習(xí)得者的能力渣淳，能夠聽懂別人用你的母語(yǔ)所表達(dá)的任何一種奇葩的表達(dá)式脾还，也是一個(gè)合格語(yǔ)言習(xí)得者的能力，這個(gè)能力是何等的平常入愧，但是對(duì)于機(jī)器來(lái)說(shuō)是多么的稀奇鄙漏。

換言之，無(wú)論基于深度學(xué)習(xí)技術(shù)的機(jī)器翻譯系統(tǒng)已經(jīng)通過(guò)多大的訓(xùn)練量完成了與既有數(shù)據(jù)的“擬合”棺蛛，只要新輸入的數(shù)據(jù)與舊數(shù)據(jù)之間的表面差距足夠大怔蚌，“過(guò)度擬合”的幽靈就都一直會(huì)在附近徘徊。

所以從過(guò)去當(dāng)中永遠(yuǎn)沒有辦法必然的推出關(guān)于未來(lái)的知識(shí)或者關(guān)于未來(lái)我們不能有真正的知識(shí)旁赊，這是休謨哲學(xué)的相論點(diǎn)桦踊，他沒有用什么擬合、不擬合的數(shù)據(jù)终畅，因?yàn)樗?dāng)時(shí)不知道深度學(xué)習(xí)籍胯。但是你會(huì)發(fā)現(xiàn)，過(guò)很多年离福，休謨的哲學(xué)問(wèn)題沒有解決杖狼。

從本人的哲學(xué)立場(chǎng)來(lái)看，未來(lái)人工智能需要做的事情：

1.?首先要在大的目標(biāo)上指出通用人工智能是一個(gè)大的目的妖爷。

　　很多人給我說(shuō)通用人工智能做不出來(lái)本刽，我的書指出了，所有指出通用人工智能做不出來(lái)的論證是不成立的赠涮。第二個(gè)如果你相信某些人所說(shuō)的，人工智能將對(duì)人類生產(chǎn)生活產(chǎn)生顛覆性的影響暗挑，而不是過(guò)去的自動(dòng)化的零敲碎打的影響笋除，只有通用人工智能才能對(duì)未來(lái)的生活進(jìn)行顛覆性的影響。因?yàn)閷Ｓ萌斯ぶ悄懿豢赡苷嬲〈说墓ぷ髡桑挥型ㄓ萌斯ぶ悄苣茏龅健?/span>

　　比如家政服務(wù)員垃它，讓機(jī)器人做，你知道家務(wù)有多麻煩嗎烹看，家務(wù)有多難做嗎国拇？我始終覺得做家務(wù)比做哲學(xué)燒腦，我一直覺得做家務(wù)合格的機(jī)器人比做哲學(xué)還是要更慢一點(diǎn)惯殊，你十個(gè)人都喊著文本都是一個(gè)文本酱吝，十個(gè)人不同家庭的打掃情況就是不同。

　　這個(gè)人家里書很多土思，但他不希望你理得很整齊务热，另外一個(gè)人家里有很多書忆嗜，但是希望你理得很整齊。這個(gè)小朋友3歲崎岂，喜歡書捆毫。這個(gè)地方有小朋友13歲，很不喜歡看書冲甘。這些問(wèn)題都復(fù)雜绩卤，人都要被弄崩潰，機(jī)器怎么搞得清楚江醇？

2. 認(rèn)知語(yǔ)言學(xué)的算法化濒憋。

3. 基于意義的普遍推理引擎，而不能把推理看成形式嫁审、邏輯的事情跋炕，而要認(rèn)為這和意義有關(guān)。

4. 節(jié)儉性算法與該推理引擎的結(jié)合律适，我們的計(jì)算要從小數(shù)據(jù)出發(fā)辐烂，要體現(xiàn)節(jié)儉性，不能依賴大數(shù)據(jù)捂贿。

5. 結(jié)合認(rèn)知心理學(xué)研究加入人工情緒等新要素纠修。

蘇格拉底：我不能教任何人、任何事厂僧，我只能讓他們思考