如何讓AI學(xué)會(huì)忘記?

忘記是一件棘手的事

我們都知道忘記一些事情是怎樣的感覺。比如警医,忘記一個(gè)親人的生日、一段同年的記憶陨簇。但即使是能夠在不到20秒內(nèi)記住一張牌順序這樣記憶力超凡的人高氮,仍會(huì)忘記把鑰匙放在了哪里。似乎坎穿,人們從來沒能夠完全掌控自己的記憶展父。

忘記是一件棘手的事,對于人類和人工智能來說都是如此玲昧。

圖片來源:NASA / B.斯塔福德/ J.布萊爾/ R.Geeseman

目前栖茉,研究人員正在以不同的方式探索機(jī)器人的記憶概念。這不僅僅關(guān)乎技術(shù)問題酌呆,還同樣涉及到了隱私衡载、法律和倫理方面的問題。試想隙袁,盡管你已經(jīng)答應(yīng)自己的配偶不再抽煙痰娱,但你的家庭機(jī)器人卻在某日目睹了你鬼鬼祟祟的抽煙全過程弃榨。又或者,如果它看到你犯了謀殺案呢梨睁?

如果有人有能力讓機(jī)器人忘記一些記憶鲸睛,那將會(huì)是誰呢?這是一個(gè)很重要的問題坡贺。不過官辈,首先研究人員需要找出好辦法讓AI能夠忘記一些記憶。這之前遍坟,我們需要先思考人類的記憶拳亿。

為什么人們忘記?

一個(gè)比較流行的比喻解釋了為什么人們會(huì)忘記:人們的大腦的容量會(huì)飽和愿伴,因此肺魁,我們需要忘記一些東西給大腦騰出更多的存儲(chǔ)空間。但是隔节,對于一些患罕見“超憶癥”的人來說鹅经,他們幾乎能夠記住生活中的每一個(gè)細(xì)節(jié)。這表明怎诫,上面那個(gè)比喻的解釋并不完整瘾晃。

那么,如果我們忘記一些事情不是為了給新記憶騰出空間幻妓,那我們?yōu)槭裁催€會(huì)忘記呢蹦误?有一個(gè)解釋是,記憶幫助我們了解這個(gè)世界涌哲,而不僅僅是記住它胖缤。用這種方法,我們似乎保留了有用的阀圾、有價(jià)值的和相關(guān)的記憶哪廓,同時(shí)忘記了低價(jià)值的信息。

例如初烘,一些研究表明涡真,比起重復(fù)的信息,人們可以更好地記住有沖突的信息肾筐。其它因素還包括事件的重要性和新穎性哆料,以及我們在經(jīng)歷一些事時(shí)所伴隨的情感和情緒。譬如吗铐,細(xì)想2001年9月11日东亦,許多人能夠清晰地記得自己當(dāng)天在哪里,以及做了什么唬渗。

機(jī)器人如何忘記典阵?

計(jì)算機(jī)記憶(電腦內(nèi)存)通常被描述存儲(chǔ)信息和找回信息的容量奋渔,以及存儲(chǔ)這些信息的計(jì)算機(jī)物理組件。當(dāng)計(jì)算機(jī)的某些內(nèi)存不再被任務(wù)需要時(shí)壮啊,計(jì)算機(jī)將“忘記”這些數(shù)據(jù)嫉鲸,釋放空間供其他任務(wù)源。

這也適用于人工智能歹啼。盡管忘記可能會(huì)使我們感到沮喪,但人類忘記的方式使得我們?nèi)匀粌?yōu)于人工智能玄渗。而且,機(jī)器學(xué)習(xí)算法尤其不知道需要什么時(shí)候保留舊信息狸眼,什么時(shí)候拋棄過時(shí)的信息藤树。不僅如此,它還會(huì)面臨著與“遺忘”有關(guān)的幾個(gè)問題份企。

圖片來源網(wǎng)絡(luò)

舉個(gè)例子也榄,連接者AI(AI通常使用大腦結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型)面臨著與“遺忘”有關(guān)的幾個(gè)問題,譬如“過學(xué)習(xí)”這個(gè)問題司志。“過學(xué)習(xí)”指的是當(dāng)一個(gè)學(xué)習(xí)機(jī)器存儲(chǔ)了源于以往經(jīng)驗(yàn)的過于詳細(xì)的信息時(shí)降宅,阻礙了其概括和預(yù)測未來事件的能力骂远。

另一個(gè)問題是“災(zāi)難性遺忘”。 研究人員正在努力建立可以適應(yīng)新信息腰根,又不會(huì)突然忘記以前所學(xué)知識(shí)的人工神經(jīng)網(wǎng)絡(luò)激才。

還有就是,有時(shí)人造神經(jīng)網(wǎng)絡(luò)的神經(jīng)元在學(xué)習(xí)過程的早期采用不良的激活模式额嘿,損害了AI的未來學(xué)習(xí)能力瘸恼。

機(jī)器人存儲(chǔ)記憶的另一種方法是象征性的記憶表征,其中册养,知識(shí)是由邏輯事實(shí)來表示的(如“鳥飛”东帅,“Tweety是鳥”,因此“Tweety可以飛”)球拦。這些高度結(jié)構(gòu)化的人造表示可以很容易地刪除,就像在電腦上刪除一個(gè)文件靠闭。

這些記憶范圍包含了從原始的感覺運(yùn)動(dòng)數(shù)據(jù)(相機(jī)記錄)到存儲(chǔ)在知識(shí)庫中的邏輯事實(shí)(“圣誕節(jié)是12月25日”)的豐富內(nèi)容。

機(jī)器人應(yīng)該忘記什么坎炼?

要?jiǎng)?chuàng)造更好的人工智能愧膀,首先要了解我們的大腦在關(guān)于什么是值得記住的,什么是要遺忘的方面是如何做決定的谣光。

圖片來源網(wǎng)絡(luò)

就像人一樣檩淋,人工智能應(yīng)該記住重要和有用的信息,同時(shí)忘記低價(jià)值萄金,無關(guān)緊要的知識(shí)蟀悦。然而碳柱,確定什么是相關(guān)和有價(jià)值的信息,除了手頭的任務(wù)之外熬芜,可能還包括如倫理莲镣,法律和隱私問題等因素。

聊天機(jī)器人進(jìn)行醫(yī)療診斷涎拉,智能家居設(shè)備監(jiān)控我們的一舉一動(dòng)瑞侮,安全機(jī)器人使用攝像機(jī)和熱成像進(jìn)行巡視。這些都是存儲(chǔ)的數(shù)據(jù)鼓拧。

例如半火,亞馬遜的家庭助理Echo是一個(gè)語音控制的免提揚(yáng)聲器,它始終監(jiān)聽命令提示符季俩。最近钮糖,阿肯色州警方要求亞馬遜移交由Echo收集的顯而易見的謀殺嫌疑人回聲信息。

或者酌住,思考一下人工智能性機(jī)器人的問題店归,性機(jī)器人應(yīng)該記得或忘記她們的客戶嗎?是否要忘記這些客戶對她們做了什么酪我?誰可以擁有機(jī)器人的數(shù)據(jù)消痛?而誰又可以查看并刪除數(shù)據(jù)?

不得不說都哭,談到記憶秩伞,決定機(jī)器人何時(shí)忘記是人類面臨的一個(gè)深刻的挑戰(zhàn)。

編譯:梓色揚(yáng)光

原文鏈接:https://futurism.com/how-to-make-ai-forget/

本譯文僅供個(gè)人研習(xí)欺矫、欣賞語言之用纱新,不歡迎任何轉(zhuǎn)載及用于任何商業(yè)用途。如需轉(zhuǎn)載請注明作者和來源穆趴。(本譯文所涉法律后果均由本人承擔(dān)脸爱。本人同意簡書平臺(tái)在接獲有關(guān)著作權(quán)人的通知后,刪除文章毡代≡母”)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市教寂,隨后出現(xiàn)的幾起案子捏鱼,更是在濱河造成了極大的恐慌,老刑警劉巖酪耕,帶你破解...
    沈念sama閱讀 217,509評(píng)論 6 504
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件导梆,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)看尼,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,806評(píng)論 3 394
  • 文/潘曉璐 我一進(jìn)店門递鹉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人藏斩,你說我怎么就攤上這事躏结。” “怎么了狰域?”我有些...
    開封第一講書人閱讀 163,875評(píng)論 0 354
  • 文/不壞的土叔 我叫張陵媳拴,是天一觀的道長。 經(jīng)常有香客問我兆览,道長屈溉,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,441評(píng)論 1 293
  • 正文 為了忘掉前任抬探,我火速辦了婚禮子巾,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘小压。我一直安慰自己线梗,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,488評(píng)論 6 392
  • 文/花漫 我一把揭開白布场航。 她就那樣靜靜地躺著缠导,像睡著了一般。 火紅的嫁衣襯著肌膚如雪溉痢。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,365評(píng)論 1 302
  • 那天憋他,我揣著相機(jī)與錄音孩饼,去河邊找鬼。 笑死竹挡,一個(gè)胖子當(dāng)著我的面吹牛镀娶,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播揪罕,決...
    沈念sama閱讀 40,190評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼梯码,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了好啰?” 一聲冷哼從身側(cè)響起轩娶,我...
    開封第一講書人閱讀 39,062評(píng)論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎框往,沒想到半個(gè)月后鳄抒,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,500評(píng)論 1 314
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,706評(píng)論 3 335
  • 正文 我和宋清朗相戀三年许溅,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了瓤鼻。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 39,834評(píng)論 1 347
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡贤重,死狀恐怖茬祷,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情并蝗,我是刑警寧澤祭犯,帶...
    沈念sama閱讀 35,559評(píng)論 5 345
  • 正文 年R本政府宣布,位于F島的核電站借卧,受9級(jí)特大地震影響盹憎,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜铐刘,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,167評(píng)論 3 328
  • 文/蒙蒙 一陪每、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧镰吵,春花似錦檩禾、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,779評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至勺馆,卻和暖如春戏售,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背草穆。 一陣腳步聲響...
    開封第一講書人閱讀 32,912評(píng)論 1 269
  • 我被黑心中介騙來泰國打工灌灾, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人悲柱。 一個(gè)月前我還...
    沈念sama閱讀 47,958評(píng)論 2 370
  • 正文 我出身青樓锋喜,卻偏偏與公主長得像,于是被迫代替她去往敵國和親豌鸡。 傳聞我的和親對象是個(gè)殘疾皇子嘿般,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,779評(píng)論 2 354

推薦閱讀更多精彩內(nèi)容