無論對于人類還是AI機器人而言，忘記都是一件棘手的事情。

忘記是一件棘手的事

我們都知道忘記一些事情是怎樣的感覺。比如，忘記一個親人的生日、一段同年的記憶。但即使是能夠在不到20秒內記住一張牌順序這樣記憶力超凡的人，仍會忘記把鑰匙放在了哪里。似乎，人們從來沒能夠完全掌控自己的記憶。

忘記是一件棘手的事，對于人類和人工智能來說都是如此。

圖片來源：NASA / B.斯塔福德/ J.布萊爾/ R.Geeseman

目前，研究人員正在以不同的方式探索機器人的記憶概念。這不僅僅關乎技術問題，還同樣涉及到了隱私、法律和倫理方面的問題。試想，盡管你已經答應自己的配偶不再抽煙，但你的家庭機器人卻在某日目睹了你鬼鬼祟祟的抽煙全過程。又或者，如果它看到你犯了謀殺案呢？

如果有人有能力讓機器人忘記一些記憶，那將會是誰呢？這是一個很重要的問題。不過，首先研究人員需要找出好辦法讓AI能夠忘記一些記憶。這之前，我們需要先思考人類的記憶。

為什么人們忘記？

一個比較流行的比喻解釋了為什么人們會忘記：人們的大腦的容量會飽和，因此，我們需要忘記一些東西給大腦騰出更多的存儲空間。但是，對于一些患罕見“超憶癥”的人來說，他們幾乎能夠記住生活中的每一個細節。這表明，上面那個比喻的解釋并不完整。

那么，如果我們忘記一些事情不是為了給新記憶騰出空間，那我們為什么還會忘記呢？有一個解釋是，記憶幫助我們了解這個世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價值的和相關的記憶，同時忘記了低價值的信息。

例如，一些研究表明，比起重復的信息，人們可以更好地記住有沖突的信息。其它因素還包括事件的重要性和新穎性，以及我們在經歷一些事時所伴隨的情感和情緒。譬如，細想2001年9月11日，許多人能夠清晰地記得自己當天在哪里，以及做了什么。

機器人如何忘記？

計算機記憶（電腦內存）通常被描述存儲信息和找回信息的容量，以及存儲這些信息的計算機物理組件。當計算機的某些內存不再被任務需要時，計算機將“忘記”這些數據，釋放空間供其他任務源。

這也適用于人工智能。盡管忘記可能會使我們感到沮喪，但人類忘記的方式使得我們仍然優于人工智能。而且，機器學習算法尤其不知道需要什么時候保留舊信息，什么時候拋棄過時的信息。不僅如此，它還會面臨著與“遺忘”有關的幾個問題。

舉個例子，連接者AI（AI通常使用大腦結構的神經網絡模型）面臨著與“遺忘”有關的幾個問題，譬如“過學習”這個問題?！斑^學習”指的是當一個學習機器存儲了源于以往經驗的過于詳細的信息時，阻礙了其概括和預測未來事件的能力。

另一個問題是“災難性遺忘”。 研究人員正在努力建立可以適應新信息，又不會突然忘記以前所學知識的人工神經網絡。

還有就是，有時人造神經網絡的神經元在學習過程的早期采用不良的激活模式，損害了AI的未來學習能力。

機器人存儲記憶的另一種方法是象征性的記憶表征，其中，知識是由邏輯事實來表示的（如“鳥飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結構化的人造表示可以很容易地刪除，就像在電腦上刪除一個文件。

這些記憶范圍包含了從原始的感覺運動數據（相機記錄）到存儲在知識庫中的邏輯事實（“圣誕節是12月25日”）的豐富內容。

機器人應該忘記什么？

要創造更好的人工智能，首先要了解我們的大腦在關于什么是值得記住的，什么是要遺忘的方面是如何做決定的。

就像人一樣，人工智能應該記住重要和有用的信息，同時忘記低價值，無關緊要的知識。然而，確定什么是相關和有價值的信息，除了手頭的任務之外，可能還包括如倫理，法律和隱私問題等因素。

聊天機器人進行醫療診斷，智能家居設備監控我們的一舉一動，安全機器人使用攝像機和熱成像進行巡視。這些都是存儲的數據。

例如，亞馬遜的家庭助理Echo是一個語音控制的免提揚聲器，它始終監聽命令提示符。最近，阿肯色州警方要求亞馬遜移交由Echo收集的顯而易見的謀殺嫌疑人回聲信息。

或者，思考一下人工智能性機器人的問題，性機器人應該記得或忘記她們的客戶嗎？是否要忘記這些客戶對她們做了什么？誰可以擁有機器人的數據？而誰又可以查看并刪除數據？

不得不說，談到記憶，決定機器人何時忘記是人類面臨的一個深刻的挑戰。

編譯：梓色揚光

原文鏈接：https://futurism.com/how-to-make-ai-forget/

來源：http://www.jianshu.com/p/db50cc04413f

本文由 @梓色揚光 授權發布于人人都是產品經理，未經作者許可，禁止轉載。

“本譯文僅供個人研習、欣賞語言之用，不歡迎任何轉載及用于任何商業用途。如需轉載請注明作者和來源。（本譯文所涉法律后果均由本人承擔。本人同意平臺在接獲有關著作權人的通知后，刪除文章?！保?/p>

題圖來自PEXELS，基于CC0協議