歡迎關(guān)注我的同名公眾號(hào)：郭老師的讀書隨想
類別：專業(yè)
書名：Possible minds : twenty-five ways of looking at AI
作者：John Brockman
內(nèi)容簡介
目前，人工智能需要思考的問題是：正義還是邪惡。這本書來自于2016年9月入篮，我在康涅狄格州華盛頓的格雷斯五月花酒店，與該書的撰稿人們進(jìn)行的認(rèn)真的會(huì)談启搂。這些人來自于人工智能領(lǐng)域以及其他相關(guān)的領(lǐng)域。我和他們探討了究竟人工智能是什么刘陶，以及它意味著什么胳赌。這段對(duì)話我稱之為“可能的心智”。很多專家表現(xiàn)出圍繞人工智能以及更廣泛的領(lǐng)域的興奮和恐懼匙隔。我發(fā)現(xiàn)疑苫，很多人都對(duì)控制論的奠基人諾伯特·維納心存敬意，控制論思想目前仍被廣泛采納纷责。這個(gè)思想甚至都沒有重新?lián)Q個(gè)名字捍掺。時(shí)至今日，它仍然無處不在再膳。（摘自本書自序挺勿，筆者進(jìn)行了翻譯和整理）
作者簡介
約翰·布羅克曼（John Brockman），美國著名的文化推動(dòng)者饵史、出版人满钟，“第三種文化”領(lǐng)軍人， Edge網(wǎng)站創(chuàng)始人胳喷。布羅克曼旗下匯集了一大批世界級(jí)的科學(xué)家和思想家，每年就同一話題進(jìn)行跨學(xué)科討論夭织。(摘自當(dāng)當(dāng)網(wǎng))
幾個(gè)問題
上次發(fā)了一篇組里同學(xué)寫的關(guān)于人工智能的推文吭露，引起了很多同學(xué)的討論，留言板和微信上都有同學(xué)問尊惰，究竟怎么才算是人工智能讲竿？以我一個(gè)底層不知名教育以及科研工作者的淺薄理解而言，這是個(gè)觀點(diǎn)問題弄屡。如同我在這篇推文的編者按里說的题禀，這取決于我們怎么看待人工智能，或者說在你的心目中膀捷，對(duì)計(jì)算機(jī)應(yīng)該要求些什么迈嘹，就可以說計(jì)算機(jī)是具備智能的。我在編者按里的問題，可能有點(diǎn)繞口秀仲，我把這些問題換個(gè)問法（下面的內(nèi)容融痛，僅代表個(gè)人觀點(diǎn)，不見得合適神僵，供大家參考討論）：
1. 你能接受機(jī)器犯錯(cuò)誤么雁刷？比如機(jī)器會(huì)下棋，但是下不過你保礼，下得不如你好沛励；
2. 你能接受一個(gè)只會(huì)做一件事情的機(jī)器么？比如只會(huì)下棋炮障，但是不知道自己在下棋侯勉，同時(shí)也不會(huì)發(fā)脾氣、鬧情緒的機(jī)器铝阐；
（上面兩個(gè)問題址貌，簡單思考下，你有了自己的答案以后徘键，再往后看）
3.?你能接受機(jī)器做某件事情的時(shí)候是按照人類完全不清楚的模式進(jìn)行么练对？比如機(jī)器會(huì)下棋，但是它是怎么學(xué)會(huì)的你也不知道吹害，你只是把一堆棋譜交給了機(jī)器螟凭，然后給了它一個(gè)思考的方向，機(jī)器自己就學(xué)會(huì)了它呀。機(jī)器學(xué)會(huì)之后螺男，走了一步臭棋，當(dāng)你想糾正它的時(shí)候纵穿，發(fā)現(xiàn)你也沒辦法糾正下隧，因?yàn)槟悴恢肋@步棋機(jī)器是怎么計(jì)算出來的，反正機(jī)器按照自己的方式計(jì)算出來了谓媒。
4. 如果你第三個(gè)問題的答案是否定的話淆院，而恰好你的第一個(gè)問題的答案又是否定的，對(duì)某個(gè)人類無法保證不出錯(cuò)的問題上句惯，如何保證機(jī)器不出錯(cuò)呢土辩？比如開車。人類無法保證自己開車不出意外抢野，那你如何保證忠實(shí)按照人類模式學(xué)習(xí)出來的好學(xué)生機(jī)器能做到不出意外呢拷淘？對(duì)于駕駛這樣一個(gè)不是簡單的規(guī)則或者概率問題，在某些特殊情況下指孤，需要人類在瞬時(shí)進(jìn)行判斷和操作启涯。而在人類的神經(jīng)機(jī)制尚不非常明確的階段下，我們又能怎么教給機(jī)器呢？
5. 如果你的第三個(gè)問題的答案是肯定的話逝嚎，那么你能接受機(jī)器在執(zhí)行你安排的工作時(shí)扁瓢，有可能會(huì)做你沒有安排的工作么？如果不能的話补君，你如何保證呢引几？比如，如同問題三挽铁，機(jī)器自己學(xué)會(huì)了下棋伟桅。你也不知道它怎么學(xué)會(huì)的。你就是把一堆棋譜給了它叽掘，然后給了它一個(gè)思考的方向楣铁。結(jié)果機(jī)器下棋的同時(shí)，又去了打撲克更扁。這樣的意外你能接受么盖腕？如果不能，那在你不清楚機(jī)器工作模式的前提下浓镜，你又如何保證不讓這樣的意外發(fā)生溃列？有朋友說，一個(gè)下棋的機(jī)器怎么可能去打撲克膛薛？那如果你的第二個(gè)問題的答案是否定的呢听隐？有朋友又會(huì)說，那我開發(fā)只會(huì)下棋或者只會(huì)打撲克的機(jī)器不就好了么哄啄？那你覺著人類會(huì)滿足于此么雅任？
不知道我說清楚沒有，不知道這幾個(gè)問題把大家繞暈沒有咨跌。還是引用大佬的話吧沪么。控制論的奠基人維納虑润，在Science上發(fā)表的一篇文章里是這么說的“如果我們?yōu)榱诉_(dá)到我們的目的而使用一個(gè)我們不能有效干預(yù)其運(yùn)作的機(jī)械機(jī)構(gòu)成玫。我們最好確信機(jī)器的目的是我們真正想要的∪鳎”
大佬們的觀點(diǎn)
這幾個(gè)問題的不同答案，可能代表了對(duì)待人工智能不同觀點(diǎn)猪腕。也是就你心目的人工智能應(yīng)該是什么樣的冗澈。這個(gè)和流派無關(guān)。有同學(xué)可能知道人工智能目前的三大流派陋葡。個(gè)人觀點(diǎn)亚亲，流派是實(shí)現(xiàn)的方式不同。而這幾個(gè)問題，則是目標(biāo)的問題捌归。當(dāng)然肛响，既然是目標(biāo)，就是階段性的惜索。對(duì)于上述幾個(gè)問題而言特笋，遠(yuǎn)景規(guī)劃的話，你的答案是什么巾兆。同時(shí)猎物，在目前這個(gè)階段，你的答案又是什么角塑？
想對(duì)某個(gè)問題產(chǎn)生自己的觀點(diǎn)蔫磨，個(gè)人建議自己不要輕易下結(jié)論，先聽聽別人怎么說圃伶，特別是聽聽領(lǐng)域內(nèi)的大佬怎么說堤如。了解別人的觀點(diǎn)以后，再考慮他們的觀點(diǎn)對(duì)不對(duì)窒朋，我能不能接受搀罢，如果不能，我的觀點(diǎn)是什么炼邀。
所以魄揉，我給昨天的幾個(gè)同學(xué)推薦了三本書∈媚《艾倫?圖靈傳》洛退，《Rebooting AI : building artificial intelligence we can trust》和今天的這本《Possible minds : twenty-five ways of looking at AI》。
《艾倫?圖靈傳》是我公眾號(hào)開號(hào)介紹的第一本書杰标。這本書可以讓大家更好的了解最初的計(jì)算機(jī)智能兵怯，在圖靈腦子里是什么樣的。簡單說腔剂，圖靈對(duì)機(jī)器非常寬容的媒区。上面的第一個(gè)問題，圖靈的答案是可以接受掸犬。他說的一句話袜漩，也被我用在了推文的標(biāo)題上“人類都做不到的事情，為什么要求機(jī)器做到湾碎？”推薦這本書的原因是我希望大家首先回到事情的開端宙攻，在最初的時(shí)候，領(lǐng)域內(nèi)的觀點(diǎn)是什么介褥。這將有利于大家與現(xiàn)在的成就和觀點(diǎn)做對(duì)照座掘。
《Rebooting AI》是我一個(gè)月前推薦給組里同學(xué)閱讀的一本書递惋，書評(píng)我也寫好了，但是一直沒有發(fā)在公眾號(hào)上溢陪。一個(gè)是因?yàn)樽罱鸥鍓蛄似妓洌瑳]輪上。另一個(gè)是因?yàn)樽罱x了一些其他的書形真，覺得當(dāng)時(shí)的觀點(diǎn)還是有些偏頗杉编，所以還在修。這本書的作者是做一個(gè)自動(dòng)駕駛的公司CEO没酣，不是特斯拉王财，另一個(gè)競爭公司围来，后來被優(yōu)步收購了攻晒。他的觀點(diǎn)代表了一部分產(chǎn)業(yè)界的觀點(diǎn)。這本書簡單一句話洽议，就是告訴讀者偿衰，他眼里的目前的人工智能有多不靠譜挂疆。回到上面的第一個(gè)問題下翎，他的觀點(diǎn)是不缤言，絕不。原因很好理解视事，他用機(jī)器是來開車的胆萧，圖靈用機(jī)器是來下棋的。下棋可以輸俐东，開車要是識(shí)別錯(cuò)某個(gè)路標(biāo)跌穗、障礙物、警告牌虏辫、行人之類的蚌吸，那代價(jià)是絕不可接受的。哪怕一萬次里機(jī)器只錯(cuò)了一次砌庄。這本書微信圖書里有中文版羹唠。
最后一本，就是今天推薦的這本娄昆，而且是強(qiáng)烈推薦佩微。原因是這本書的作者不是一個(gè)人，是26個(gè)人萌焰。作者邀請(qǐng)了25個(gè)不同領(lǐng)域的大佬寫了他們對(duì)目前人工智能發(fā)展的觀點(diǎn)喊衫。這一本書，基本涵蓋了圈里圈外的主流觀點(diǎn)杆怕。這兩本書都是2019年出版的族购，還是很有借鑒意義的。
列舉這本書前三章的作者陵珍，讓大家感覺下分量寝杖。大佬們頭銜太多的，我就選里面的一兩個(gè)互纯。
第一章瑟幕，Seth Lloyd，MIT理論物理學(xué)教授留潦，當(dāng)年給奧巴馬做過咨情報(bào)告只盹；
第二章，Judea Pearl兔院，UCLA計(jì)算機(jī)系教授殖卑，認(rèn)知系統(tǒng)實(shí)驗(yàn)室主任，貝葉斯網(wǎng)絡(luò)模型的提出者坊萝；
第三章孵稽，Stuart Russell，UC Berkeley計(jì)算機(jī)系教授十偶，寫過一本書《Artificial Intelligence: A Modern Approach》菩鲜，全球銷量500萬冊。
考慮到這本書目前還沒有中文版惦积，我想著要不要做個(gè)二十五集的連載接校，把每一章的內(nèi)容翻譯整理下，把每個(gè)大佬的觀點(diǎn)歸納出來狮崩，我也借機(jī)和大家一起學(xué)習(xí)下蛛勉。因?yàn)槔锩嬗行﹥?nèi)容，也是我的知識(shí)盲區(qū)厉亏，讀完以后也很不太容易理解和消化董习。
歡迎關(guān)注我的同名公眾號(hào)：郭老師的讀書隨想
