今年11月17日,美國(guó)波士頓動(dòng)力公司在YouTube上發(fā)布了一段視頻。視頻中,人形機(jī)器人“阿特拉斯”先走“梅花樁”,再跳躍轉(zhuǎn)體哑芹,最后以一個(gè)技驚四座的后空翻收?qǐng)觯e世震驚岳锁,引起議論紛紛绩衷。
看著機(jī)器人瀟灑地完成了這世間絕大多數(shù)人都完不成的動(dòng)作,聯(lián)想起前段羅胖講過的一期節(jié)目——人類滅絕的一種可能激率,心里不由咯噔一下咳燕。
實(shí)際上,在單一思維方面乒躺,人工智能早已超過人類許多招盲,我們也早已習(xí)慣,但是嘉冒,對(duì)于運(yùn)動(dòng)智能尤其是人型機(jī)器人的運(yùn)動(dòng)能力從無到有曹货,短時(shí)間內(nèi)猛然超過人類,我們還很不適應(yīng)讳推。它空翻的那一瞬間顶籽,好似靈魂附體,忽然活了银觅,讓人直冒冷汗礼饱。有人質(zhì)問,我都不會(huì)后空翻究驴,他一個(gè)機(jī)器人憑什么會(huì)镊绪?
客觀來說,這種運(yùn)動(dòng)能力超強(qiáng)的人型機(jī)器人洒忧,與前期戰(zhàn)勝柯潔的阿爾法狗蝴韭,本質(zhì)上沒什么太大區(qū)別,都只能在某個(gè)領(lǐng)域橫行熙侍,某一方面超過人類榄鉴。
按照人工智能的實(shí)力,科學(xué)家將其分為三大類蛉抓,弱人工智能牢硅、強(qiáng)人工智能、超人工智能芝雪。
弱人工智能是擅長(zhǎng)于單個(gè)方面的人工智能,比如综苔,有能戰(zhàn)勝象棋世界冠軍的人工智能惩系,但是它只會(huì)下象棋位岔,你要讓它去炒股票,它就傻眼了堡牡∈闾В“阿特拉斯”只是這樣一個(gè)弱人工智能。
強(qiáng)人工智能是指在各方面都能和人類比肩的人工智能晤柄,人類能干的腦力活它都能干擦剑,能夠進(jìn)行思考、計(jì)劃芥颈、解決問題惠勒、抽象思維、理解復(fù)雜理念爬坑、快速學(xué)習(xí)和從經(jīng)驗(yàn)中學(xué)習(xí)等操作纠屋。
而超人工智能,在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多盾计,包括科學(xué)創(chuàng)新售担、通識(shí)和社交技能,它可以是各方面都比人類強(qiáng)一點(diǎn)署辉,也可以是各方面都比人類強(qiáng)萬億倍的族铆。為什么人工智能這個(gè)話題這么火熱,因?yàn)榭蕹ⅲ祟愑郎驕缃^哥攘,就取決于我們?cè)斐鍪裁礃拥某斯ぶ悄堋?/p>
我們現(xiàn)在所在的位置,是一個(gè)充滿弱人工智能的世界刚夺,垃圾郵件過濾器献丑、谷歌翻譯、地圖導(dǎo)航侠姑、無人駕駛汽車创橄,拆彈機(jī)器人,這些都是弱人工智能莽红。雖然現(xiàn)在的弱人工智能沒有威脅我們生存的能力妥畏,但是,弱人工智能的生態(tài)正在變得更加龐大和復(fù)雜安吁。
創(chuàng)造強(qiáng)人工智能比創(chuàng)造弱人工智能難得多醉蚁,我們目前還做不到,但是鬼店,科學(xué)家們認(rèn)為网棍,這是遲早的事,而且就在本世紀(jì)妇智,最早在2040年滥玷,最晚不會(huì)遲于2070年氏身。更可怕的是,從強(qiáng)人工智能到超人工智能的轉(zhuǎn)化惑畴,會(huì)比弱人工智能到強(qiáng)人工智能快得多蛋欣。
例如,一個(gè)人工智能系統(tǒng)花了幾十年時(shí)間到達(dá)了人類腦殘智能的水平如贷,而當(dāng)這個(gè)節(jié)點(diǎn)發(fā)生的時(shí)候陷虎,電腦對(duì)于世界的感知大概和一個(gè)四歲小孩一般;而在這節(jié)點(diǎn)后一個(gè)小時(shí)杠袱,電腦立馬推導(dǎo)出了統(tǒng)一廣義相對(duì)論和量子力學(xué)的物理學(xué)理論尚猿,而在這之后一個(gè)半小時(shí),這個(gè)強(qiáng)人工智能變成了超人工智能霞掺,智能達(dá)到了普通人類的17萬倍谊路。
這個(gè)級(jí)別的超級(jí)智能不是我們能夠理解的,就好像蜜蜂不會(huì)理解凱恩斯經(jīng)濟(jì)學(xué)一樣菩彬。在我們的語言中缠劝,我們把130的智商叫作聰明,把85的智商叫作笨骗灶,但是我們不知道怎么形容12952的智商惨恭,人類語言中根本沒這個(gè)概念。
但我們知道的是耙旦,人類對(duì)于地球的統(tǒng)治教給我們一個(gè)道理——智能就是力量脱羡。一個(gè)超人工智能,一旦被創(chuàng)造出來免都,將是地球有史以來最強(qiáng)大的東西锉罐,而所有生物,包括人類绕娘,都只能屈居其下——而這一切脓规,有可能在未來幾十年就發(fā)生。
目前险领,我們對(duì)超人工智能的認(rèn)識(shí)侨舆,大多還停留在電影電視或書本小說里,它有好的绢陌,有壞挨下,有的還被人類干掉了,但這只是人類認(rèn)識(shí)水平里的形象脐湾,只是被我們給擬人化了的形象臭笆,讓我們對(duì)它少了畏懼,不少人甚至期盼它的出現(xiàn)。事實(shí)上耗啦,超人工智能雖是生命凿菩,卻不是生物,它與人類之間的差別帜讲,甚至比蜘蛛與人類更大,更加異己椒拗。我們沒有辦法知道超人工智能會(huì)做什么似将,也沒有辦法知道這些事情的后果。
超人工智能是一種活著的生命蚀苛,一旦生出來之后在验,就會(huì)擁有自己的邏輯。它會(huì)成長(zhǎng)堵未,它會(huì)復(fù)制腋舌,它會(huì)繁殖,它會(huì)學(xué)習(xí)渗蟹,它會(huì)改進(jìn)块饺。當(dāng)世界上第一個(gè)超人工智能出現(xiàn)時(shí),最可能的情況是這個(gè)系統(tǒng)會(huì)立刻意識(shí)到作為這個(gè)世界上唯一一個(gè)超人工智能是最有利的雌芽,時(shí)間上的優(yōu)勢(shì)會(huì)讓它選擇扼殺一切其他對(duì)手授艰,永遠(yuǎn)統(tǒng)治這個(gè)世界,不管在它的統(tǒng)治下我們是走向永生還是滅亡世落。所以淮腾,我們?nèi)祟愖鳛樗挠H爹親媽,其實(shí)我們只有一次機(jī)會(huì)去定義它屉佳,就是在起點(diǎn)上我們把它設(shè)計(jì)成什么樣谷朝。
然而,我們?nèi)祟惒皇巧系畚浠ǎ魏我环N設(shè)定設(shè)計(jì)都是有BUG的圆凰,在超人工智能面前,這些漏洞都是致命的髓堪。
我們要讓一個(gè)人工智能的價(jià)值觀和我們的價(jià)值觀相仿送朱,然后給它設(shè)定一個(gè)目標(biāo)——讓人們快樂。當(dāng)它變得足夠聰明的時(shí)候干旁,它會(huì)發(fā)現(xiàn)最有效的方法是給人腦植入電極來刺激人腦的快樂中樞驶沼。然后它會(huì)發(fā)現(xiàn)把人腦快樂中樞以外的部分關(guān)閉能帶來更高的效率。于是人類全部被弄成了快樂的植物人争群。如果一開始的目標(biāo)被設(shè)定成“最大化人類的快樂”回怜,它可能最終先把人類毀滅了,然后制造出很多很多處于快樂狀態(tài)的人類大腦。當(dāng)這些事情發(fā)生的時(shí)候玉雾,我們會(huì)大喊“擦翔试,我們不是這個(gè)意思呀”,但是那時(shí)已經(jīng)太晚了复旬。系統(tǒng)不會(huì)允許任何人阻撓它達(dá)成目標(biāo)的垦缅。
如果你設(shè)定一個(gè)人工智能的目標(biāo)是讓你笑,那它的智能起飛后驹碍,它可能會(huì)把你臉部肌肉弄癱瘓壁涎,來達(dá)成一個(gè)永遠(yuǎn)笑臉的狀態(tài)。如果你把目標(biāo)設(shè)定成保護(hù)你的安全志秃,它可能會(huì)把你軟禁在家怔球。如果你讓他終結(jié)所有饑荒,它可能會(huì)想:“太容易了浮还,把人類都?xì)⒘司秃昧司固场!比绻惆涯繕?biāo)設(shè)定成盡量保護(hù)地球上的生命钧舌,那它會(huì)很快把人類都?xì)⒘说L溃驗(yàn)槿祟悓?duì)其它物種是很大的威脅。
而且延刘,超人工智能會(huì)想盡一切辦法漫试,去實(shí)現(xiàn)它原本的被設(shè)定的目標(biāo),當(dāng)機(jī)器達(dá)到了一定程度的智能后,它會(huì)意識(shí)到如果不自保就沒有辦法實(shí)現(xiàn)原本設(shè)定的目標(biāo)碘赖,所以驾荣,除去對(duì)它生存的威脅就變成了它的手段目標(biāo)。它知道人類可以摧毀它普泡、肢解它播掷、甚至修改它的代碼。這時(shí)候它會(huì)做什么撼班?理性的做法就是毀滅全人類歧匈,它對(duì)人類沒有惡意,就好像你剪頭發(fā)時(shí)對(duì)頭發(fā)沒有惡意一樣砰嘁,只是純粹的無所謂罷了件炉。它并沒有被設(shè)定成尊重人類生命,所以毀滅人類就和掃描新的書寫樣本一樣合理矮湘。
人類的科技就像是一筐子球斟冕,三種顏色,一種白色缅阳,一種紅色磕蛇,一種黑色。白色很多,紅色很稀少秀撇,黑色的球只有一個(gè)超棺。那白色的球就是有益于人類的那些科技成果,那幾百年來我們不斷地?fù)旌茄啵瑩斓降亩际前浊蛱幕妗E紶栁覀兡軌驌斓揭粋€(gè)紅球,紅球就意味著對(duì)人類的生存和發(fā)展有危害虏等,我們真就撿到過一個(gè)核武器弄唧。可是這個(gè)筐子里只有一個(gè)黑球霍衫,只要撿到就是人類滅絕。那人工智能就極有可能是這個(gè)黑球侯养,而且敦跌,極有可能就被我們這一代人撿到。面對(duì)我們子孫后代在歷史深處的呻吟逛揩,我們這一代人不得不十分小心柠傍。
當(dāng)我們心心念念要比對(duì)手更快到達(dá)目標(biāo),要?jiǎng)?chuàng)造更聰明的弱人工智能系統(tǒng)辩稽,為每一個(gè)更強(qiáng)的智能而歡呼時(shí)惧笛,當(dāng)我們向第一個(gè)強(qiáng)人工智能全力沖刺,步子越邁越大時(shí)逞泄,需要有人冷靜下來思考這些危險(xiǎn)患整,否則,我們每往前一步喷众,都可能是往人類的墳頭掬一捧土各谚,直到我們自己把自己埋葬。
參考:謝熊貓君《為什么最近很多名人比爾蓋茨到千、馬斯克昌渤、霍金都在提醒人們要警惕人工智能》