《人工智能簡(jiǎn)史》讀書筆記

第一章達(dá)特茅斯會(huì)議:人工智能的源起

一說起人工智能的起源情臭,公認(rèn)是1956年的達(dá)特茅斯會(huì)議。殊不知還有個(gè)前戲,1955年运提,美國(guó)西部計(jì)算機(jī)聯(lián)合大會(huì)(Western Joint Computer Conference)在洛杉磯召開,會(huì)中還套了個(gè)小會(huì):學(xué)習(xí)機(jī)討論會(huì)(Session on Learning Machine)闻葵。討論會(huì)的參加者中有兩個(gè)人參加了第二年的達(dá)特茅斯會(huì)議民泵,他們是塞弗里奇(Oliver Selfridge)和紐厄爾(Allen Newell)。

會(huì)議6位重要參與者:麥卡錫槽畔、明斯基栈妆、賽弗里奇(《控制論》作者維納的學(xué)生)、香農(nóng)(《信息論》作者)厢钧、紐厄爾(與麥卡錫同齡鳞尔,其導(dǎo)師是馮諾依曼的合作伙伴)、司馬賀(紐厄爾老師)

麥卡錫給這個(gè)第二年的活動(dòng)起了個(gè)當(dāng)時(shí)看來別出心裁的名字:人工智能夏季研討會(huì)(Summer Research Project on Artificial Intelligence)早直。普遍的誤解是“人工智能”這個(gè)詞是麥卡錫想出來的寥假,其實(shí)不是。麥老晚年回憶也承認(rèn)這個(gè)詞最早是從別人那里聽來的霞扬,但記不清是誰(shuí)了糕韧。

“人工智能”這個(gè)詞真正被共同體廣泛認(rèn)可是在十年后的 1965 年,在加州大學(xué)伯克利分校的歐陸派哲學(xué)家德雷弗斯(Hubert Dreyfus)發(fā)表了“煉金術(shù)與人工智能”一文之后祥得。

司馬賀1957年曾預(yù)言十年內(nèi)計(jì)算機(jī)下棋會(huì)擊敗人兔沃。1968年麥卡錫和象棋大師列維(David Levy)打賭說十年內(nèi)下棋程序會(huì)戰(zhàn)勝列維,最后賠了列維兩千塊级及。樂觀的預(yù)言總會(huì)給對(duì)手留下把柄:德雷弗斯后來每年都拿此事嘲諷AI乒疏,說計(jì)算機(jī)下下跳棋還行,下象棋連十歲的孩子都干不過饮焦。這便宜話一直說到1997年怕吴,IBM 的下棋程序“深藍(lán)”擊敗了卡斯帕羅夫窍侧。

第二章自動(dòng)定理證明興衰紀(jì)

數(shù)學(xué)哲學(xué)有三大派:邏輯主義、形式主義以及直覺主義转绷。

自動(dòng)定理證明起源于邏輯伟件,初衷就是把邏輯演算自動(dòng)化。

1957年夏季议经,在塔爾斯基的號(hào)召下斧账,一個(gè)邏輯學(xué)家的大聚會(huì)在康奈爾大學(xué)舉行,會(huì)上數(shù)學(xué)家亞伯拉罕·羅賓遜(Abraham Robinson煞肾,數(shù)學(xué)和邏輯領(lǐng)域有好幾個(gè)羅賓遜咧织,且互有關(guān)聯(lián))指出,埃爾布朗(Herbrand)定理可以把一階邏輯的問題轉(zhuǎn)化為命題邏輯籍救。這激發(fā)了大家尋求統(tǒng)一高效的定理證明的實(shí)現(xiàn)方法习绢。

芝加哥大學(xué)的實(shí)驗(yàn)物理學(xué)家費(fèi)米在曼哈頓計(jì)劃的早期負(fù)責(zé)核反應(yīng)堆。戰(zhàn)后蝙昙,美國(guó)以費(fèi)米實(shí)驗(yàn)室為基礎(chǔ)建立了第一個(gè)美國(guó)國(guó)家實(shí)驗(yàn)室阿貢(Argonne)闪萄,隸屬于美國(guó)能源部。阿貢國(guó)家實(shí)驗(yàn)室的一個(gè)分部是應(yīng)用數(shù)學(xué)和科學(xué)計(jì)算奇颠,阿貢定理證明小組就在這個(gè)分部败去。阿貢小組對(duì)機(jī)器定理證明的貢獻(xiàn)是決定性的和全方位的。羅賓遜就是在阿貢工作時(shí)提出了歸結(jié)原理大刊。阿貢為歸結(jié)原理的實(shí)現(xiàn)提供了一整套生態(tài)環(huán)境为迈。

自動(dòng)定理證明依靠的工具是計(jì)算機(jī),正是計(jì)算模糊了理性和經(jīng)驗(yàn)的邊界缺菌『可以登高一步說:計(jì)算是知識(shí)演化的基礎(chǔ),計(jì)算也是知識(shí)民主化的工具伴郁。

有些領(lǐng)域耿战,一開始就把百分之八十的容易問題都解決了,而后就一直很難焊傅,進(jìn)展很慢剂陡,少有突破。人工智能就是這樣狐胎,定理證明尤其如此鸭栖。

自動(dòng)定理證明的衰落

維特根斯坦曾有言:“邏輯似乎處于一切科學(xué)的底部——因?yàn)檫壿嫷难芯刻剿饕磺惺挛锏谋举|(zhì)∥粘玻”但數(shù)學(xué)家不覺得他們非得趴在邏輯學(xué)家的背上晕鹊。自動(dòng)定理證明的狀況與此相關(guān),數(shù)學(xué)家沒覺得這玩意兒有用,人工智能的兩派人馬都不待見溅话。再過幾年晓锻,可能就沒什么人能教“自動(dòng)定理證明”的課了。

數(shù)學(xué)是人類智力的最高端飞几。不明就里的哲學(xué)家對(duì)數(shù)學(xué)說三道四是令人最不能忍受的砚哆。

第三章從專家系統(tǒng)到知識(shí)圖譜

費(fèi)根鮑姆1964年在斯坦福大學(xué)高等行為科學(xué)研究中心的一次會(huì)上見到了李德伯格,對(duì)科學(xué)哲學(xué)的共同愛好促成了他們漫長(zhǎng)而富有成效的合作屑墨。那時(shí)李德伯格的研究方向是太空生命探測(cè)躁锁,更具體地說就是用質(zhì)譜儀分析火星上采集來的數(shù)據(jù),看火星上有無可能存在生命绪钥。費(fèi)根鮑姆的興趣則是機(jī)器歸納法焕刮,用現(xiàn)在的話說就是機(jī)器學(xué)習(xí)瓶颠。他們倆,一個(gè)有數(shù)據(jù)舅逸,一個(gè)搞工具儒拂,一拍即合寸潦。

第一個(gè)專家系統(tǒng)DENDRAL——

DENDRAL輸入的是質(zhì)譜儀的數(shù)據(jù),輸出是給定物質(zhì)的化學(xué)結(jié)構(gòu)社痛。費(fèi)根鮑姆和他的學(xué)生捕捉翟若適和他的學(xué)生的化學(xué)分析知識(shí)见转,把知識(shí)提煉成規(guī)則。這個(gè)專家系統(tǒng)有時(shí)做得比翟若適的學(xué)生還準(zhǔn)蒜哀。

專家系統(tǒng)MYCIN斩箫,一個(gè)針對(duì)細(xì)菌感染的診斷系統(tǒng)。MYCIN的處方準(zhǔn)確率是 69%撵儿,當(dāng)時(shí)尦丝停科醫(yī)生的準(zhǔn)確率是 80%,但 MYCIN 的成績(jī)已經(jīng)優(yōu)于非本專業(yè)的醫(yī)生淀歇。

紐厄爾易核,作為外人,卻認(rèn)為MYCIN才是專家系統(tǒng)的鼻祖浪默,因?yàn)镸YCIN首創(chuàng)了后來作為專家系統(tǒng)要素的產(chǎn)生式規(guī)則:不精確推理牡直。DENDRAL的初衷則是從專家采集來的數(shù)據(jù)做機(jī)器歸納,或者說機(jī)器學(xué)習(xí)纳决。

最早的知識(shí)圖譜——

在日本五代機(jī)項(xiàng)目帶來的狂潮中碰逸,美國(guó)政府決定聯(lián)合多家高技術(shù)企業(yè)在得克薩斯大學(xué)奧斯汀分校所在地建立微電子與計(jì)算機(jī)技術(shù)公司(MCC,Micro electronics and Computer Technology Corporation)以抗衡日本阔加。當(dāng)雷納特來到MCC時(shí)饵史,他已經(jīng)有了一個(gè)新的想法:把人類的常識(shí)編碼,建成知識(shí)庫(kù)。這個(gè)新項(xiàng)目叫Cyc约急,這三個(gè)字母取自英文單詞“百科全書”(encyclopedia)零远。這其實(shí)就是最早的知識(shí)圖譜。雷納特堅(jiān)定地支持他老師費(fèi)根鮑姆的知識(shí)原則(Knowledge Principle):一個(gè)系統(tǒng)之所以能展示高級(jí)的智能理解和行為厌蔽,主要是因?yàn)樵谒鶑氖碌念I(lǐng)域所表現(xiàn)出來的特定知識(shí):概念牵辣、事實(shí)、表示奴饮、方法纬向、比喻以及啟發(fā)。雷納特甚至說:“智能就是一千萬(wàn)條規(guī)則戴卜∮馓酰”

谷歌和知識(shí)圖譜

在維基百科的同時(shí),還有個(gè)Freebase投剥。維基百科的受眾是人师脂,而Freebase則強(qiáng)調(diào)機(jī)器可讀。2016年維基百科達(dá)到 1000 萬(wàn)篇文章江锨,其中英文版達(dá)到 500 萬(wàn)篇文章吃警,而 Freebase 有 4000 萬(wàn)個(gè)實(shí)體表示。Freebase 的背后是一家名叫 Metaweb 的創(chuàng)業(yè)公司啄育,創(chuàng)始人之一是希利斯(Danny Hillis)酌心。2010 年Metaweb 被谷歌收購(gòu),谷歌給它起了個(gè)響亮的名字“知識(shí)圖譜”挑豌。2016 年谷歌對(duì) Freebase 停止更新安券,把所有數(shù)據(jù)捐給維基數(shù)據(jù)(Wikidata)。

第四章計(jì)算機(jī)的教訓(xùn)

1978年氓英,當(dāng)時(shí)的計(jì)算機(jī)工業(yè)按照電路工藝劃分計(jì)算機(jī)的發(fā)展:第一代計(jì)算機(jī)是電子管侯勉,第二代是晶體管,第三代是集成電路债蓝,第四代是超大規(guī)模集成電路(VLSI)壳鹤。

三年后的1981年,以元岡達(dá)為首的委員會(huì)認(rèn)真提交了一份長(zhǎng)達(dá)89頁(yè)的報(bào)告饰迹,他們認(rèn)為第五代計(jì)算機(jī)不應(yīng)再以硬件工藝為劃分芳誓,更應(yīng)看重體系結(jié)構(gòu)和軟件。

英國(guó)人沃倫(David Warren)1982年在 AI Magazine 上發(fā)表的論文分析了渕一博為什么選擇了Prolog:在五代機(jī)的所有應(yīng)用中啊鸭,Prolog能覆蓋的面最廣锹淌。五代機(jī)的終極目標(biāo)是知識(shí)信息處理,在當(dāng)時(shí)的語(yǔ)境下特指專家系統(tǒng)和自然語(yǔ)言理解赠制。那時(shí)的自然語(yǔ)言理解還是規(guī)則為王的時(shí)代赂摆。Prolog很明顯比 LISP更適合這些應(yīng)用挟憔。而且在小規(guī)模數(shù)據(jù)的基準(zhǔn)測(cè)試中,Prolog 作為數(shù)據(jù)庫(kù)查詢語(yǔ)言甚至不輸關(guān)系代數(shù)烟号。當(dāng)然绊谭,Prolog不是美國(guó)人發(fā)明的,這也是一個(gè)重要因素汪拥,這讓日本人更有機(jī)會(huì)掌控并占據(jù)領(lǐng)先地位达传。

計(jì)算機(jī)科學(xué)的進(jìn)步主要是由兩件事驅(qū)動(dòng)的:機(jī)器太慢;寫程序太慢迫筑。在任何時(shí)間點(diǎn)宪赶,在半導(dǎo)體技術(shù)的約束下,提高機(jī)器速度的唯一辦法是并行處理脯燃。Prolog 是高級(jí)語(yǔ)言搂妻,表達(dá)效率肯定要比過程語(yǔ)言更高。于是辕棚,如何并發(fā)地執(zhí)行Prolog在五代機(jī)項(xiàng)目一開始就是重要的研究課題欲主。

美國(guó)與日本的第五代機(jī)競(jìng)爭(zhēng)

日本的五代機(jī)項(xiàng)目為美國(guó)敲響了警鐘。1982年美國(guó)政府決定成立MCC(Microelectronics and Computer Consortium)坟募,作為對(duì)日本五代機(jī)項(xiàng)目的回應(yīng)岛蚤。

五代機(jī)的衰落

五代機(jī)的衰落在1988年就已露出端倪。1981年的第一次五代機(jī)會(huì)議的會(huì)議錄只有 280 多頁(yè)懈糯,其中還包括 89 頁(yè)的元岡達(dá)報(bào)告。而 1988 年的五代機(jī)會(huì)議錄有 1300 頁(yè)三大卷单雾。但從會(huì)議錄中可以看出赚哗,五代機(jī)已經(jīng)成了大雜燴,失去了聚焦點(diǎn)硅堆,給人感覺五代機(jī)不會(huì)在任何相關(guān)領(lǐng)域取得突破性進(jìn)展屿储,而同時(shí)八桿子打不著的領(lǐng)域也拼命向五代機(jī)靠攏。就像當(dāng)下人工智能領(lǐng)域的創(chuàng)業(yè)渐逃,一些和人工智能毫無瓜葛的社會(huì)閑雜人員一夜間都成了AI 專家够掠,拿到 VC 的錢之后再想干啥。

五代機(jī)沒有能證明它能干傳統(tǒng)機(jī)不能干的活茄菊,在典型的應(yīng)用中疯潭,五代機(jī)也沒比傳統(tǒng)機(jī)快多少。

第五章神經(jīng)網(wǎng)絡(luò)簡(jiǎn)史

自圖靈提出“機(jī)器與智能”起面殖,就一直有兩派觀點(diǎn):一派認(rèn)為實(shí)現(xiàn)人工智能必須用邏輯和符號(hào)系統(tǒng)竖哩,這一派看問題是自頂向下的;還有一派認(rèn)為通過仿造大腦可以達(dá)到人工智能脊僚,這一派是自底向上的相叁,他們認(rèn)為如果能造一臺(tái)機(jī)器,模擬大腦中的神經(jīng)網(wǎng)絡(luò),這臺(tái)機(jī)器就有智能了增淹。

模擬神經(jīng)網(wǎng)絡(luò)的原創(chuàng)文章發(fā)表于1943椿访,兩位作者都是傳奇人物:麥卡洛克(Warren McCulloch)和皮茨(Walter Pitts)。

神經(jīng)網(wǎng)絡(luò)研究的后一個(gè)大突破是在1957虑润∈昀耄康奈爾大學(xué)的實(shí)驗(yàn)心理學(xué)家羅森布拉特(Frank Rosenblatt)在一臺(tái) IBM-704 計(jì)算機(jī)上模擬實(shí)現(xiàn)了一種他發(fā)明的叫作“感知機(jī)”(Perceptron)的神經(jīng)網(wǎng)絡(luò)模型。這個(gè)模型可以完成一些簡(jiǎn)單的視覺處理任務(wù)端辱。這在當(dāng)時(shí)引起了轟動(dòng)梁剔。

明斯基和佩珀特證明了單層神經(jīng)網(wǎng)絡(luò)不能解決XOR(異或)問題。異或是一個(gè)基本邏輯問題舞蔽,如果連這個(gè)問題都解決不了荣病,那神經(jīng)網(wǎng)絡(luò)的計(jì)算能力實(shí)在有限。其實(shí)羅森布拉特也已猜到“感知機(jī)”可能存在限制渗柿,特別是在“符號(hào)處理”方面个盆,并以他神經(jīng)心理學(xué)家的經(jīng)驗(yàn)指出,某些大腦受到傷害的人也不能處理符號(hào)朵栖。但“感知機(jī)”的缺陷被明斯基以一種敵意的方式呈現(xiàn)出來颊亮,當(dāng)時(shí)對(duì)羅森布拉特是個(gè)致命打擊。原來的政府資助機(jī)構(gòu)也逐漸停止對(duì)神經(jīng)網(wǎng)絡(luò)研究的支持陨溅。

神經(jīng)網(wǎng)絡(luò)在20世紀(jì)80年代的復(fù)興歸功于物理學(xué)家霍普菲爾德(John Hopfield)终惑。1982 年,那時(shí)在加州理工學(xué)院擔(dān)任生物物理教授的霍普菲爾德门扇,提出了一種新的神經(jīng)網(wǎng)絡(luò)雹有,可以解決一大類模式識(shí)別問題,還可以給出一類組合優(yōu)化問題的近似解臼寄。這種神經(jīng)網(wǎng)絡(luò)模型后來被稱為霍普菲爾德網(wǎng)絡(luò)霸奕。

1993年,美國(guó)電氣電子工程師學(xué)會(huì) IEEE開始出版《神經(jīng)網(wǎng)絡(luò)會(huì)刊》吉拳,為該領(lǐng)域的高質(zhì)量文章提供出版渠道质帅。美國(guó)國(guó)防部、海軍和能源部等也加大資助力度留攒。神經(jīng)網(wǎng)絡(luò)一下子成了顯學(xué)煤惩。

神經(jīng)網(wǎng)絡(luò)在20世紀(jì)80年代的光芒被后來的互聯(lián)網(wǎng)掩蓋了。但這幾年稼跳,恰恰又是互聯(lián)網(wǎng)產(chǎn)生的海量數(shù)據(jù)給了神經(jīng)網(wǎng)絡(luò)更大的機(jī)會(huì)盟庞。而人工智能領(lǐng)域最火的詞兒就是“深度學(xué)習(xí)”。神經(jīng)網(wǎng)絡(luò)由一層一層的神經(jīng)元構(gòu)成汤善。層數(shù)越多什猖,就越深票彪,所謂深度學(xué)習(xí)就是用很多層神經(jīng)元構(gòu)成的神經(jīng)網(wǎng)絡(luò)達(dá)到機(jī)器學(xué)習(xí)的功能。

辛頓是深度學(xué)習(xí)的先驅(qū)不狮,他和學(xué)生在2006年發(fā)表的兩篇文章開辟了這個(gè)新領(lǐng)域降铸,其中登在《科學(xué)》上的那篇提出了降維和逐層預(yù)訓(xùn)練的方法,使得深度網(wǎng)絡(luò)的實(shí)用化成為可能摇零。

2012年推掸,時(shí)任斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任的吳恩達(dá)和谷歌合作建造了一個(gè)當(dāng)時(shí)最大的神經(jīng)網(wǎng)絡(luò),這是谷歌神秘的X實(shí)驗(yàn)室的一個(gè)計(jì)劃驻仅。網(wǎng)絡(luò)上一度瘋傳的谷歌貓臉識(shí)別就是用的這個(gè)參數(shù)多達(dá)十七億的神經(jīng)網(wǎng)絡(luò)谅畅。后來,吳恩達(dá)在斯坦福大學(xué)又搞了個(gè)更大的神經(jīng)網(wǎng)絡(luò)噪服,參數(shù)高達(dá)一百一十二億毡泻。

第六章計(jì)算機(jī)下棋簡(jiǎn)史:機(jī)定勝人,人定勝天

跳棋——

下棋一直就是人類智能的挑戰(zhàn)粘优,自然也成了人工智能的標(biāo)志之一仇味。二戰(zhàn)沒結(jié)束時(shí),圖靈就研究計(jì)算機(jī)下棋雹顺,他1947年編了第一個(gè)下棋程序丹墨,可惜那時(shí)計(jì)算機(jī)的時(shí)間(簡(jiǎn)稱“機(jī)時(shí)”)很寶貴,輪不到他上機(jī)嬉愧。

1951年贩挣,圖靈的朋友斯特拉切(Christopher Strachey)在曼徹斯特?Mark-1上寫了第一款跳棋程序。圖靈在1952年曾與之對(duì)弈一局英染,輕松取勝揽惹。1956年 IBM 的塞繆爾(Arthur Samuel,人工智能里程碑達(dá)特茅斯會(huì)議的參加者之一)寫了第二個(gè)跳棋程序四康,這款程序的特點(diǎn)是自學(xué)習(xí),這也是最早的機(jī)器學(xué)習(xí)程序之一狭握,后來不斷改進(jìn)闪金,曾經(jīng)贏過盲人跳棋大師。

舍佛團(tuán)隊(duì)繼續(xù)精研跳棋理論和實(shí)踐论颅,直到2007年哎垦,他們證明對(duì)于跳棋,只要對(duì)弈雙方不犯錯(cuò)恃疯,最終都是和棋漏设,而Chinook已經(jīng)可以不犯錯(cuò)。他們的結(jié)果發(fā)表在2007年 9 月的《科學(xué)》雜志上今妄,自此跳棋這一頁(yè)就算翻過去了郑口。舍佛的興趣遂轉(zhuǎn)向德州撲克和圍棋鸳碧。

計(jì)算機(jī)下棋——

第一個(gè)可以走完全局的下棋程序是IBM的工程師伯恩斯坦(Alex Bernstein)1958 年在一臺(tái) IBM 704 上做的。

1966年犬性,美蘇的對(duì)抗也擴(kuò)展到計(jì)算機(jī)下棋瞻离。蘇聯(lián)科學(xué)院的理論與實(shí)驗(yàn)物理研究所(ITEP)也在本所研制的一臺(tái) M20 計(jì)算機(jī)上開發(fā)了一款下棋程序,他們要和斯坦福大學(xué)的Kotok-McCarthy程序一決高下乒裆。從 1966 年 11 月 22 日開始套利,直到 1967 年 3 月 10 日止,他們通過電報(bào)的方式走了四局鹤耍。最后蘇聯(lián) 3:1 戰(zhàn)勝美國(guó)肉迫。

20世紀(jì) 80年代,機(jī)器之間的比賽此起彼伏稿黄,但機(jī)器和人之間仍然有著不可逾越的鴻溝喊衫。1980 年,天才弗雷德金(Edward Fredkin)專為計(jì)算機(jī)下棋建立了弗雷德金獎(jiǎng)金抛猖,獎(jiǎng)有三等格侯,頭等獎(jiǎng)是 10 萬(wàn)美元,獎(jiǎng)給第一款能贏現(xiàn)任世界冠軍的下棋機(jī)器财著。

象棋:深藍(lán)——

IBM的外號(hào)叫 Big Blue联四,于是新的項(xiàng)目 1996 年被命名為“深藍(lán)”(Deep Blue)。1996 年 ACM 年會(huì)的閉幕節(jié)目是“深藍(lán)”對(duì)決卡斯帕羅夫撑教,六局棋朝墩。“深藍(lán)”旗開得勝伟姐,第一局就贏了老卡收苏,最后還是老卡 4:2 贏得決賽。但此時(shí)老卡對(duì)“深藍(lán)”刮目相看愤兵,他說機(jī)器對(duì)手不光有洞見鹿霸,而且有幾步簡(jiǎn)直像“上帝下的”。

1997年 5月 11 日秆乳,老卡認(rèn)輸懦鼠,“深藍(lán)”成了第一位戰(zhàn)勝當(dāng)時(shí)世界冠軍的機(jī)器。在“深藍(lán)”贏了卡斯帕羅夫之后屹堰,職業(yè)棋手并沒有因此而改行肛冶,他們反而更多地依賴計(jì)算機(jī)來訓(xùn)練。

圍棋:AlphaGo——

谷歌的AlphaGo首次引用了強(qiáng)化學(xué)習(xí)(Reinforcement Learning)扯键,使得機(jī)器和自己對(duì)弈學(xué)習(xí)睦袖。

第七章自然語(yǔ)言處理

喬治敦實(shí)驗(yàn)要早于達(dá)特茅斯會(huì)議,這也從另一個(gè)角度證明了達(dá)特茅斯會(huì)議更多是“人工智能”這個(gè)詞兒流行的源頭荣刑,而不是這門學(xué)科的起點(diǎn)馅笙。

1966年 11月伦乔,ALPAC 發(fā)布了《語(yǔ)言與機(jī)器》報(bào)告,稱機(jī)器翻譯比人翻譯要慢延蟹,更不準(zhǔn)確评矩,而且成本更高(估算比人要貴兩倍)。結(jié)論是機(jī)器翻譯在可預(yù)見的未來沒法實(shí)用阱飘,應(yīng)該立即停止對(duì)機(jī)器翻譯的資助斥杜,轉(zhuǎn)而支持一些更基礎(chǔ)的、輔助性的研究沥匈,如電子字典等蔗喂。這個(gè)報(bào)告第一次提出了“計(jì)算語(yǔ)言學(xué)”的概念。

喬姆斯基之于語(yǔ)言學(xué)和認(rèn)知科學(xué)高帖,就像圖靈之于計(jì)算機(jī)科學(xué)缰儿。喬姆斯基認(rèn)為,所有的語(yǔ)言(人工或自然)都有與此類似的句法結(jié)構(gòu)散址,并進(jìn)一步指出語(yǔ)言的結(jié)構(gòu)是內(nèi)在的乖阵,而不是通過經(jīng)驗(yàn)習(xí)得的(acquired)。

對(duì)話機(jī)器人的起源——ELIZA预麸、PARRY

魏森鮑姆(Joseph Weizenbaum):1960年瞪浸,他得了數(shù)學(xué)碩士學(xué)位后就進(jìn)了工業(yè)界,在通用電氣的工作經(jīng)歷把他引到了剛剛誕生的計(jì)算機(jī)行業(yè)吏祸。他最顯赫的成就就是對(duì)話程序ELIZA《云眩現(xiàn)在對(duì)話程序有一個(gè)更流行且形象的詞兒“聊天機(jī)器人”(chatbot或 chatterbot),但根兒都在 ELIZA贡翘。

科爾比感興趣的問題正好和魏森鮑姆相反:怎么樣構(gòu)造一個(gè)能聊天的病人蹈矮,一方面可以培訓(xùn)心理醫(yī)生,另一方面理解病人的征兆鸣驱。他的成果在1972 年變成了計(jì)算機(jī)程序PARRY泛鸟。

隨著ELIZA在媒體上的成功,魏森鮑姆和科爾比漸行漸遠(yuǎn)踊东。ELIZA的廣泛影響力最終把魏森鮑姆變成技術(shù)的異教徒谈况。當(dāng)大家在爭(zhēng)論機(jī)器能不能最終超越人類時(shí),他指出這不是“能不能”的問題递胧,而是“該不該”的問題。他意識(shí)到了技術(shù)的可怕赡茸,此后的研究方向轉(zhuǎn)變成計(jì)算機(jī)技術(shù)所帶來的社會(huì)責(zé)任和道德問題缎脾。

機(jī)器人手臂——

當(dāng)時(shí)真正建立一個(gè)機(jī)器人手臂,還有一定難度占卧,于是維諾格拉德利用顯示器展示了一個(gè)虛擬的積木世界遗菠。SHRDLU 為這個(gè)積木世界建立了模型联喘,例如每個(gè)積木塊的性質(zhì),長(zhǎng)寬高辙纬、顏色豁遭、形狀等,以及什么積木塊可以搭在什么積木塊的上面贺拣。人可以通過簡(jiǎn)單的自然語(yǔ)言蓖谢,命令一個(gè)機(jī)器手對(duì)這個(gè)積木世界進(jìn)行虛擬操作。例如拿起一個(gè)特定的積木塊把它摞在另一個(gè)積木塊上譬涡。當(dāng)機(jī)器吃不準(zhǔn)人的命令時(shí)闪幽,可以向人發(fā)問。

SHRDLU要遠(yuǎn)比 ELIZA復(fù)雜涡匀,學(xué)術(shù)意義也更加深刻盯腌。SHRDLU 把當(dāng)時(shí)很多 AI 技術(shù)整合到一起,除了自然語(yǔ)言理解外陨瘩,還有規(guī)劃(Planning)和知識(shí)表示腕够。

神經(jīng)機(jī)器翻譯——

2016年,谷歌發(fā)布神經(jīng)機(jī)器翻譯(Google Neural Machine Translation舌劳,簡(jiǎn)稱 GNMT)系統(tǒng)帚湘,再次大幅提高機(jī)器翻譯的水平。和谷歌更早期的基于短語(yǔ)的機(jī)器翻譯(Phrase-Based Machine Translation蒿囤,簡(jiǎn)稱 PBMT)不同客们,神經(jīng)翻譯的基本單位是句子。谷歌使用了循環(huán)神經(jīng)網(wǎng)絡(luò)RNN?做序列到序列(Sequence to Sequence)的學(xué)習(xí)材诽,硬件設(shè)備是谷歌自己的 TensorFlow 平臺(tái)底挫。

2017年,F(xiàn)acebook進(jìn)一步提高了翻譯效率脸侥。他們用自己擅長(zhǎng)的卷積神經(jīng)網(wǎng)絡(luò)CNN建邓,進(jìn)行序列到序列的學(xué)習(xí)。Facebook號(hào)稱睁枕,英文-德文和英文-法文翻譯的基準(zhǔn)測(cè)試表明官边,他們的結(jié)果在準(zhǔn)確度上不輸谷歌,而在計(jì)算速度上則可以比谷歌的RNN有一個(gè)數(shù)量級(jí)的提升外遇。

語(yǔ)義的問題大致可分兩類注簿,一類體現(xiàn)在人和世界的互動(dòng)還有一類體現(xiàn)在人和人的交流跳仿。魏森鮑姆的ELIZA就屬這類诡渴。

問答系統(tǒng)的組成——

大體上說,問答系統(tǒng)有三個(gè)必備的組成部分菲语,第一部分是問題理解妄辩,第二部分是知識(shí)查詢惑灵,第三部分是答案生成。這三個(gè)部分相輔相成眼耀,第一部分和第三部分是自然語(yǔ)言處理的工作英支。

語(yǔ)音輸入——

在谷歌和Facebook在機(jī)器翻譯取得長(zhǎng)足進(jìn)展之前,語(yǔ)音輸入率先獲得突破哮伟,2011年微軟鄧力團(tuán)隊(duì)在語(yǔ)音識(shí)別上的成功是深度學(xué)習(xí)的標(biāo)志性事件之一干花。蘋果、谷歌和微軟都推出實(shí)用產(chǎn)品澈吨。中國(guó)企業(yè)科大訊飛的語(yǔ)音輸入的應(yīng)用技術(shù)也漸趨成熟把敢。

喬姆斯基對(duì)人工智能的批評(píng)的核心在于“可解釋性”。AlphaGo 不能解釋自己下棋的路數(shù)谅辣,算不算會(huì)下棋呢修赞?也可以反過來說,只有解釋了桑阶,人類才能從中得到洞見柏副,學(xué)習(xí)知識(shí)。

章向自然學(xué)習(xí):從遺傳算法到強(qiáng)化學(xué)習(xí)

遺傳編程——

霍蘭德的學(xué)生寇扎(John Koza)在1987年給出了一個(gè)思路蚣录,并把它命名為“遺傳編程”(Genetic Programming)割择。

強(qiáng)化學(xué)習(xí)——

強(qiáng)化學(xué)習(xí)的理論基礎(chǔ)之一是馬爾科夫決策過程。強(qiáng)化學(xué)習(xí)就是Agent根據(jù)經(jīng)驗(yàn)改變策略以期達(dá)到長(zhǎng)期最大獎(jiǎng)賞的過程萎河。

強(qiáng)化學(xué)習(xí)的另一個(gè)理論基礎(chǔ)是動(dòng)態(tài)規(guī)劃荔泳。

在計(jì)算能力的約束下,強(qiáng)化學(xué)習(xí)的環(huán)境不宜太復(fù)雜虐杯。萌芽期的強(qiáng)化學(xué)習(xí)的例子都是游戲玛歌,如貝爾曼的“老虎機(jī)”和塞繆爾(Samuel)的跳棋。游戲的環(huán)境相對(duì)容易定義擎椰,在棋類比賽中支子,環(huán)境就是對(duì)手和規(guī)則。強(qiáng)化學(xué)習(xí)被用來下圍棋不是偶然的达舒。

第九章哲學(xué)家和人工智能

休伯特·德雷弗斯:1964年夏季他再次到蘭德公司工作值朋,寫出了那篇廣為流傳的“煉金術(shù)與人工智能”。這篇文章一開始只是攻擊紐厄爾和司馬賀的觀點(diǎn)巩搏,后來內(nèi)容逐漸被擴(kuò)充昨登,攻擊的范圍也擴(kuò)大,終于成為一本書贯底,書名是《計(jì)算機(jī)不能干什么》篙骡,變成了對(duì)人工智能的全面批評(píng)。

德雷弗斯能夠如此長(zhǎng)久地混跡人工智能的江湖,有兩個(gè)原因:其一糯俗,人工智能內(nèi)部一直就是兩大派不和,而且派中有派睦擂,很少有過學(xué)科的發(fā)展像人工智能這樣起伏跌宕得湘,蒼蠅不叮無縫的蛋;其二顿仇,相當(dāng)一批人工智能工作者有哲學(xué)情懷淘正。

中文屋實(shí)驗(yàn)——

所謂“中文屋”思想實(shí)驗(yàn)是這樣的:假設(shè)有個(gè)只懂英文不懂中文的人(塞爾的第一人稱“我”)被鎖在一個(gè)房間里,屋里只給“我”留了一本手冊(cè)或一個(gè)計(jì)算機(jī)程序臼闻,這個(gè)手冊(cè)或程序教“我”在收到中文信息時(shí)如何用中文應(yīng)對(duì)鸿吆。屋外的人用中文問問題,屋里的“我”依靠程序用中文回答問題述呐,溝通方式是遞紙條惩淳。塞爾的問題是:假設(shè)屋外的人不能區(qū)分屋里的人是不是母語(yǔ)為中文,那么屋里的“我”是不是就算懂中文乓搬?塞爾自己認(rèn)為“我”不懂中文思犁。很明顯,這個(gè)場(chǎng)景源自圖靈測(cè)試进肯,只不過圖靈測(cè)試的環(huán)境是英文激蹲,而中文屋里既有中文又有英文。


彭羅斯曾經(jīng)這樣談到機(jī)器的情感和道德:如果你買一臺(tái)計(jì)算機(jī)江掩,它是有情感的学辱,那么我們就有道德問題,因?yàn)橛?jì)算機(jī)的意愿可能被違反环形,并可能會(huì)被當(dāng)作奴隸策泣。我們首先必須說道德是一個(gè)社會(huì)問題,也就是說當(dāng)一個(gè)社會(huì)只有一個(gè)個(gè)體(無論是人還是計(jì)算機(jī))時(shí)斟赚,是不存在道德問題的着降。

章人是機(jī)器嗎?——人工智能的計(jì)算理論基礎(chǔ)

如果我們把“智能”當(dāng)作人類特有的性質(zhì)拗军,那么“人是機(jī)器嗎”這個(gè)問題就等價(jià)于“機(jī)器有智能嗎”任洞。

怎樣才算是高效率算法呢?一般的看法是发侵,運(yùn)行時(shí)間和空間隨著問題規(guī)模擴(kuò)大而變得很大的就不是高效的算法交掏。

在可計(jì)算性上超越圖靈機(jī)的裝置叫“超計(jì)算”。

BSS模型的主要用途是為數(shù)值計(jì)算中的算法分析提供理論基礎(chǔ)刃鳄。

最早提出通用量子計(jì)算模型的是以色列出生的英國(guó)人多依奇盅弛,他1985年在《皇家學(xué)會(huì)會(huì)刊》發(fā)表文章首創(chuàng)通用量子圖靈機(jī)模型,為量子計(jì)算提供了理論基礎(chǔ)。他進(jìn)一步提出丘奇-圖靈-多依奇原理(ChurchTuring-Deutsch Principle):任何物理過程都可以被通用計(jì)算裝置(量子計(jì)算機(jī))所模擬挪鹏。

第十一章智能的進(jìn)化

強(qiáng)人工智能是說機(jī)器會(huì)全面達(dá)到人的智能见秽,強(qiáng)人工智能有時(shí)也會(huì)和“通用人工智能”(Artificial General Intelligence)同義;而弱人工智能是說機(jī)器會(huì)在某些方面達(dá)到人的智能——AlphaGo就是弱人工智能的代表讨盒。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末解取,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子返顺,更是在濱河造成了極大的恐慌禀苦,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,270評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件遂鹊,死亡現(xiàn)場(chǎng)離奇詭異振乏,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)秉扑,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門慧邮,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人邻储,你說我怎么就攤上這事赋咽。” “怎么了吨娜?”我有些...
    開封第一講書人閱讀 165,630評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵脓匿,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我宦赠,道長(zhǎng)陪毡,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,906評(píng)論 1 295
  • 正文 為了忘掉前任勾扭,我火速辦了婚禮毡琉,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘妙色。我一直安慰自己桅滋,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,928評(píng)論 6 392
  • 文/花漫 我一把揭開白布身辨。 她就那樣靜靜地躺著丐谋,像睡著了一般。 火紅的嫁衣襯著肌膚如雪煌珊。 梳的紋絲不亂的頭發(fā)上号俐,一...
    開封第一講書人閱讀 51,718評(píng)論 1 305
  • 那天,我揣著相機(jī)與錄音定庵,去河邊找鬼吏饿。 笑死踪危,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的猪落。 我是一名探鬼主播贞远,決...
    沈念sama閱讀 40,442評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼许布!你這毒婦竟也來了兴革?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 39,345評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤蜜唾,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后庶艾,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體袁余,經(jīng)...
    沈念sama閱讀 45,802評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,984評(píng)論 3 337
  • 正文 我和宋清朗相戀三年咱揍,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了颖榜。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 40,117評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡煤裙,死狀恐怖掩完,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情硼砰,我是刑警寧澤且蓬,帶...
    沈念sama閱讀 35,810評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站题翰,受9級(jí)特大地震影響恶阴,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜豹障,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,462評(píng)論 3 331
  • 文/蒙蒙 一冯事、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧血公,春花似錦昵仅、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,011評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至薛夜,卻和暖如春籍茧,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背梯澜。 一陣腳步聲響...
    開封第一講書人閱讀 33,139評(píng)論 1 272
  • 我被黑心中介騙來泰國(guó)打工寞冯, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留渴析,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 48,377評(píng)論 3 373
  • 正文 我出身青樓吮龄,卻偏偏與公主長(zhǎng)得像俭茧,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子漓帚,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,060評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容