忘記是一件棘手的事
我們都知道忘記一些事情是怎樣的感覺。比如警医,忘記一個(gè)親人的生日、一段同年的記憶陨簇。但即使是能夠在不到20秒內(nèi)記住一張牌順序這樣記憶力超凡的人高氮,仍會(huì)忘記把鑰匙放在了哪里。似乎坎穿,人們從來沒能夠完全掌控自己的記憶展父。
忘記是一件棘手的事,對于人類和人工智能來說都是如此玲昧。
目前栖茉,研究人員正在以不同的方式探索機(jī)器人的記憶概念。這不僅僅關(guān)乎技術(shù)問題酌呆,還同樣涉及到了隱私衡载、法律和倫理方面的問題。試想隙袁,盡管你已經(jīng)答應(yīng)自己的配偶不再抽煙痰娱,但你的家庭機(jī)器人卻在某日目睹了你鬼鬼祟祟的抽煙全過程弃榨。又或者,如果它看到你犯了謀殺案呢梨睁?
如果有人有能力讓機(jī)器人忘記一些記憶鲸睛,那將會(huì)是誰呢?這是一個(gè)很重要的問題坡贺。不過官辈,首先研究人員需要找出好辦法讓AI能夠忘記一些記憶。這之前遍坟,我們需要先思考人類的記憶拳亿。
為什么人們忘記?
一個(gè)比較流行的比喻解釋了為什么人們會(huì)忘記:人們的大腦的容量會(huì)飽和愿伴,因此肺魁,我們需要忘記一些東西給大腦騰出更多的存儲(chǔ)空間。但是隔节,對于一些患罕見“超憶癥”的人來說鹅经,他們幾乎能夠記住生活中的每一個(gè)細(xì)節(jié)。這表明怎诫,上面那個(gè)比喻的解釋并不完整瘾晃。
那么,如果我們忘記一些事情不是為了給新記憶騰出空間幻妓,那我們?yōu)槭裁催€會(huì)忘記呢蹦误?有一個(gè)解釋是,記憶幫助我們了解這個(gè)世界涌哲,而不僅僅是記住它胖缤。用這種方法,我們似乎保留了有用的阀圾、有價(jià)值的和相關(guān)的記憶哪廓,同時(shí)忘記了低價(jià)值的信息。
例如初烘,一些研究表明涡真,比起重復(fù)的信息,人們可以更好地記住有沖突的信息肾筐。其它因素還包括事件的重要性和新穎性哆料,以及我們在經(jīng)歷一些事時(shí)所伴隨的情感和情緒。譬如吗铐,細(xì)想2001年9月11日东亦,許多人能夠清晰地記得自己當(dāng)天在哪里,以及做了什么唬渗。
機(jī)器人如何忘記典阵?
計(jì)算機(jī)記憶(電腦內(nèi)存)通常被描述存儲(chǔ)信息和找回信息的容量奋渔,以及存儲(chǔ)這些信息的計(jì)算機(jī)物理組件。當(dāng)計(jì)算機(jī)的某些內(nèi)存不再被任務(wù)需要時(shí)壮啊,計(jì)算機(jī)將“忘記”這些數(shù)據(jù)嫉鲸,釋放空間供其他任務(wù)源。
這也適用于人工智能歹啼。盡管忘記可能會(huì)使我們感到沮喪,但人類忘記的方式使得我們?nèi)匀粌?yōu)于人工智能玄渗。而且,機(jī)器學(xué)習(xí)算法尤其不知道需要什么時(shí)候保留舊信息狸眼,什么時(shí)候拋棄過時(shí)的信息藤树。不僅如此,它還會(huì)面臨著與“遺忘”有關(guān)的幾個(gè)問題份企。
舉個(gè)例子也榄,連接者AI(AI通常使用大腦結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型)面臨著與“遺忘”有關(guān)的幾個(gè)問題,譬如“過學(xué)習(xí)”這個(gè)問題司志。“過學(xué)習(xí)”指的是當(dāng)一個(gè)學(xué)習(xí)機(jī)器存儲(chǔ)了源于以往經(jīng)驗(yàn)的過于詳細(xì)的信息時(shí)降宅,阻礙了其概括和預(yù)測未來事件的能力骂远。
另一個(gè)問題是“災(zāi)難性遺忘”。 研究人員正在努力建立可以適應(yīng)新信息腰根,又不會(huì)突然忘記以前所學(xué)知識(shí)的人工神經(jīng)網(wǎng)絡(luò)激才。
還有就是,有時(shí)人造神經(jīng)網(wǎng)絡(luò)的神經(jīng)元在學(xué)習(xí)過程的早期采用不良的激活模式额嘿,損害了AI的未來學(xué)習(xí)能力瘸恼。
機(jī)器人存儲(chǔ)記憶的另一種方法是象征性的記憶表征,其中册养,知識(shí)是由邏輯事實(shí)來表示的(如“鳥飛”东帅,“Tweety是鳥”,因此“Tweety可以飛”)球拦。這些高度結(jié)構(gòu)化的人造表示可以很容易地刪除,就像在電腦上刪除一個(gè)文件靠闭。
這些記憶范圍包含了從原始的感覺運(yùn)動(dòng)數(shù)據(jù)(相機(jī)記錄)到存儲(chǔ)在知識(shí)庫中的邏輯事實(shí)(“圣誕節(jié)是12月25日”)的豐富內(nèi)容。
機(jī)器人應(yīng)該忘記什么坎炼?
要?jiǎng)?chuàng)造更好的人工智能愧膀,首先要了解我們的大腦在關(guān)于什么是值得記住的,什么是要遺忘的方面是如何做決定的谣光。
就像人一樣檩淋,人工智能應(yīng)該記住重要和有用的信息,同時(shí)忘記低價(jià)值萄金,無關(guān)緊要的知識(shí)蟀悦。然而碳柱,確定什么是相關(guān)和有價(jià)值的信息,除了手頭的任務(wù)之外熬芜,可能還包括如倫理莲镣,法律和隱私問題等因素。
聊天機(jī)器人進(jìn)行醫(yī)療診斷涎拉,智能家居設(shè)備監(jiān)控我們的一舉一動(dòng)瑞侮,安全機(jī)器人使用攝像機(jī)和熱成像進(jìn)行巡視。這些都是存儲(chǔ)的數(shù)據(jù)鼓拧。
例如半火,亞馬遜的家庭助理Echo是一個(gè)語音控制的免提揚(yáng)聲器,它始終監(jiān)聽命令提示符季俩。最近钮糖,阿肯色州警方要求亞馬遜移交由Echo收集的顯而易見的謀殺嫌疑人回聲信息。
或者酌住,思考一下人工智能性機(jī)器人的問題店归,性機(jī)器人應(yīng)該記得或忘記她們的客戶嗎?是否要忘記這些客戶對她們做了什么酪我?誰可以擁有機(jī)器人的數(shù)據(jù)消痛?而誰又可以查看并刪除數(shù)據(jù)?
不得不說都哭,談到記憶秩伞,決定機(jī)器人何時(shí)忘記是人類面臨的一個(gè)深刻的挑戰(zhàn)。
編譯:梓色揚(yáng)光
原文鏈接:https://futurism.com/how-to-make-ai-forget/
“本譯文僅供個(gè)人研習(xí)欺矫、欣賞語言之用纱新,不歡迎任何轉(zhuǎn)載及用于任何商業(yè)用途。如需轉(zhuǎn)載請注明作者和來源穆趴。(本譯文所涉法律后果均由本人承擔(dān)脸爱。本人同意簡書平臺(tái)在接獲有關(guān)著作權(quán)人的通知后,刪除文章毡代≡母”)