今年11月17日，美國(guó)波士頓動(dòng)力公司在YouTube上發(fā)布了一段視頻。視頻中，人形機(jī)器人“阿特拉斯”先走“梅花樁”，再跳躍轉(zhuǎn)體哑芹，最后以一個(gè)技驚四座的后空翻收?qǐng)觯e世震驚岳锁，引起議論紛紛绩衷。
看著機(jī)器人瀟灑地完成了這世間絕大多數(shù)人都完不成的動(dòng)作，聯(lián)想起前段羅胖講過的一期節(jié)目——人類滅絕的一種可能激率，心里不由咯噔一下咳燕。
實(shí)際上，在單一思維方面乒躺，人工智能早已超過人類許多招盲，我們也早已習(xí)慣，但是嘉冒，對(duì)于運(yùn)動(dòng)智能尤其是人型機(jī)器人的運(yùn)動(dòng)能力從無到有曹货，短時(shí)間內(nèi)猛然超過人類，我們還很不適應(yīng)讳推。它空翻的那一瞬間顶籽，好似靈魂附體，忽然活了银觅，讓人直冒冷汗礼饱。有人質(zhì)問，我都不會(huì)后空翻究驴，他一個(gè)機(jī)器人憑什么會(huì)镊绪？
客觀來說，這種運(yùn)動(dòng)能力超強(qiáng)的人型機(jī)器人洒忧，與前期戰(zhàn)勝柯潔的阿爾法狗蝴韭，本質(zhì)上沒什么太大區(qū)別，都只能在某個(gè)領(lǐng)域橫行熙侍，某一方面超過人類榄鉴。
按照人工智能的實(shí)力，科學(xué)家將其分為三大類蛉抓，弱人工智能牢硅、強(qiáng)人工智能、超人工智能芝雪。
弱人工智能是擅長(zhǎng)于單個(gè)方面的人工智能，比如综苔，有能戰(zhàn)勝象棋世界冠軍的人工智能惩系，但是它只會(huì)下象棋位岔，你要讓它去炒股票，它就傻眼了堡牡∈闾В“阿特拉斯”只是這樣一個(gè)弱人工智能。
強(qiáng)人工智能是指在各方面都能和人類比肩的人工智能晤柄，人類能干的腦力活它都能干擦剑，能夠進(jìn)行思考、計(jì)劃芥颈、解決問題惠勒、抽象思維、理解復(fù)雜理念爬坑、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)等操作纠屋。
而超人工智能，在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多盾计，包括科學(xué)創(chuàng)新售担、通識(shí)和社交技能，它可以是各方面都比人類強(qiáng)一點(diǎn)署辉，也可以是各方面都比人類強(qiáng)萬億倍的族铆。為什么人工智能這個(gè)話題這么火熱，因?yàn)榭蕹ⅲ祟愑郎驕缃^哥攘，就取決于我們?cè)斐鍪裁礃拥某斯ぶ悄堋?/p>
我們現(xiàn)在所在的位置，是一個(gè)充滿弱人工智能的世界刚夺，垃圾郵件過濾器献丑、谷歌翻譯、地圖導(dǎo)航侠姑、無人駕駛汽車创橄，拆彈機(jī)器人，這些都是弱人工智能莽红。雖然現(xiàn)在的弱人工智能沒有威脅我們生存的能力妥畏，但是，弱人工智能的生態(tài)正在變得更加龐大和復(fù)雜安吁。
創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難得多醉蚁，我們目前還做不到，但是鬼店，科學(xué)家們認(rèn)為网棍，這是遲早的事，而且就在本世紀(jì)妇智，最早在2040年滥玷，最晚不會(huì)遲于2070年氏身。更可怕的是，從強(qiáng)人工智能到超人工智能的轉(zhuǎn)化惑畴，會(huì)比弱人工智能到強(qiáng)人工智能快得多蛋欣。
例如，一個(gè)人工智能系統(tǒng)花了幾十年時(shí)間到達(dá)了人類腦殘智能的水平如贷，而當(dāng)這個(gè)節(jié)點(diǎn)發(fā)生的時(shí)候陷虎，電腦對(duì)于世界的感知大概和一個(gè)四歲小孩一般；而在這節(jié)點(diǎn)后一個(gè)小時(shí)杠袱，電腦立馬推導(dǎo)出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的物理學(xué)理論尚猿，而在這之后一個(gè)半小時(shí)，這個(gè)強(qiáng)人工智能變成了超人工智能霞掺，智能達(dá)到了普通人類的17萬倍谊路。
這個(gè)級(jí)別的超級(jí)智能不是我們能夠理解的，就好像蜜蜂不會(huì)理解凱恩斯經(jīng)濟(jì)學(xué)一樣菩彬。在我們的語言中缠劝，我們把130的智商叫作聰明，把85的智商叫作笨骗灶，但是我們不知道怎么形容12952的智商惨恭，人類語言中根本沒這個(gè)概念。
但我們知道的是耙旦，人類對(duì)于地球的統(tǒng)治教給我們一個(gè)道理——智能就是力量脱羡。一個(gè)超人工智能，一旦被創(chuàng)造出來免都，將是地球有史以來最強(qiáng)大的東西锉罐，而所有生物，包括人類绕娘，都只能屈居其下——而這一切脓规，有可能在未來幾十年就發(fā)生。
目前险领，我們對(duì)超人工智能的認(rèn)識(shí)侨舆，大多還停留在電影電視或書本小說里，它有好的绢陌，有壞挨下，有的還被人類干掉了，但這只是人類認(rèn)識(shí)水平里的形象脐湾，只是被我們給擬人化了的形象臭笆，讓我們對(duì)它少了畏懼，不少人甚至期盼它的出現(xiàn)。事實(shí)上耗啦，超人工智能雖是生命凿菩，卻不是生物，它與人類之間的差別帜讲，甚至比蜘蛛與人類更大，更加異己椒拗。我們沒有辦法知道超人工智能會(huì)做什么似将，也沒有辦法知道這些事情的后果。
超人工智能是一種活著的生命蚀苛，一旦生出來之后在验，就會(huì)擁有自己的邏輯。它會(huì)成長(zhǎng)堵未，它會(huì)復(fù)制腋舌，它會(huì)繁殖，它會(huì)學(xué)習(xí)渗蟹，它會(huì)改進(jìn)块饺。當(dāng)世界上第一個(gè)超人工智能出現(xiàn)時(shí)，最可能的情況是這個(gè)系統(tǒng)會(huì)立刻意識(shí)到作為這個(gè)世界上唯一一個(gè)超人工智能是最有利的雌芽，時(shí)間上的優(yōu)勢(shì)會(huì)讓它選擇扼殺一切其他對(duì)手授艰，永遠(yuǎn)統(tǒng)治這個(gè)世界，不管在它的統(tǒng)治下我們是走向永生還是滅亡世落。所以淮腾，我們?nèi)祟愖鳛樗挠H爹親媽，其實(shí)我們只有一次機(jī)會(huì)去定義它屉佳，就是在起點(diǎn)上我們把它設(shè)計(jì)成什么樣谷朝。
然而，我們?nèi)祟惒皇巧系畚浠ǎ魏我环N設(shè)定設(shè)計(jì)都是有BUG的圆凰，在超人工智能面前，這些漏洞都是致命的髓堪。
我們要讓一個(gè)人工智能的價(jià)值觀和我們的價(jià)值觀相仿送朱，然后給它設(shè)定一個(gè)目標(biāo)——讓人們快樂。當(dāng)它變得足夠聰明的時(shí)候干旁，它會(huì)發(fā)現(xiàn)最有效的方法是給人腦植入電極來刺激人腦的快樂中樞驶沼。然后它會(huì)發(fā)現(xiàn)把人腦快樂中樞以外的部分關(guān)閉能帶來更高的效率。于是人類全部被弄成了快樂的植物人争群。如果一開始的目標(biāo)被設(shè)定成“最大化人類的快樂”回怜，它可能最終先把人類毀滅了，然后制造出很多很多處于快樂狀態(tài)的人類大腦。當(dāng)這些事情發(fā)生的時(shí)候玉雾，我們會(huì)大喊“擦翔试，我們不是這個(gè)意思呀”，但是那時(shí)已經(jīng)太晚了复旬。系統(tǒng)不會(huì)允許任何人阻撓它達(dá)成目標(biāo)的垦缅。
如果你設(shè)定一個(gè)人工智能的目標(biāo)是讓你笑，那它的智能起飛后驹碍，它可能會(huì)把你臉部肌肉弄癱瘓壁涎，來達(dá)成一個(gè)永遠(yuǎn)笑臉的狀態(tài)。如果你把目標(biāo)設(shè)定成保護(hù)你的安全志秃，它可能會(huì)把你軟禁在家怔球。如果你讓他終結(jié)所有饑荒，它可能會(huì)想：“太容易了浮还，把人類都?xì)⒘司秃昧司固场！比绻惆涯繕?biāo)設(shè)定成盡量保護(hù)地球上的生命钧舌，那它會(huì)很快把人類都?xì)⒘说Ｌ溃驗(yàn)槿祟悓?duì)其它物種是很大的威脅。
而且延刘，超人工智能會(huì)想盡一切辦法漫试，去實(shí)現(xiàn)它原本的被設(shè)定的目標(biāo),當(dāng)機(jī)器達(dá)到了一定程度的智能后，它會(huì)意識(shí)到如果不自保就沒有辦法實(shí)現(xiàn)原本設(shè)定的目標(biāo)碘赖，所以驾荣，除去對(duì)它生存的威脅就變成了它的手段目標(biāo)。它知道人類可以摧毀它普泡、肢解它播掷、甚至修改它的代碼。這時(shí)候它會(huì)做什么撼班？理性的做法就是毀滅全人類歧匈，它對(duì)人類沒有惡意，就好像你剪頭發(fā)時(shí)對(duì)頭發(fā)沒有惡意一樣砰嘁，只是純粹的無所謂罷了件炉。它并沒有被設(shè)定成尊重人類生命，所以毀滅人類就和掃描新的書寫樣本一樣合理矮湘。
人類的科技就像是一筐子球斟冕，三種顏色，一種白色缅阳，一種紅色磕蛇，一種黑色。白色很多，紅色很稀少秀撇，黑色的球只有一個(gè)超棺。那白色的球就是有益于人類的那些科技成果，那幾百年來我們不斷地?fù)旌茄啵瑩斓降亩际前浊蛱幕妗Ｅ紶栁覀兡軌驌斓揭粋€(gè)紅球，紅球就意味著對(duì)人類的生存和發(fā)展有危害虏等，我們真就撿到過一個(gè)核武器弄唧。可是這個(gè)筐子里只有一個(gè)黑球霍衫，只要撿到就是人類滅絕。那人工智能就極有可能是這個(gè)黑球侯养，而且敦跌，極有可能就被我們這一代人撿到。面對(duì)我們子孫后代在歷史深處的呻吟逛揩，我們這一代人不得不十分小心柠傍。
當(dāng)我們心心念念要比對(duì)手更快到達(dá)目標(biāo)，要?jiǎng)?chuàng)造更聰明的弱人工智能系統(tǒng)辩稽，為每一個(gè)更強(qiáng)的智能而歡呼時(shí)惧笛，當(dāng)我們向第一個(gè)強(qiáng)人工智能全力沖刺，步子越邁越大時(shí)逞泄，需要有人冷靜下來思考這些危險(xiǎn)患整，否則，我們每往前一步喷众，都可能是往人類的墳頭掬一捧土各谚，直到我們自己把自己埋葬。
參考：謝熊貓君《為什么最近很多名人比爾蓋茨到千、馬斯克昌渤、霍金都在提醒人們要警惕人工智能》
