災難性遺忘仍然是阻礙科學家建立通用人工智能（AGI）的主要障礙之一，DeepMind的團隊試圖破解這一難題，讓AI擁有了想象力。

暑假結束回到學校時，你可能會覺得前一年學過的東西已經統統忘光了。但如果你像人工智能系統那樣學習，你會真的忘光光——當你第一天在課堂上坐下來時，你的大腦會把這當作一個提示，將過去一筆勾銷，一切從頭開始。

AI系統有一種傾向，在獲取新信息時將之前學到的東西忘掉，這被稱為災難性遺忘（catastrophic forgetting）。

這是一個大問題。因為，先進的算法可以說是在分析了無數的例子之后才學會被要求做的事情。例如，一個面部識別AI系統需要分析成千上萬張人臉的圖片，這些圖片很可能是人工標注過的，這樣它才能在人臉出現在視頻流中的時候檢測到。

但是，因為這些AI系統并沒有真正理解它們所做的事情的基本邏輯，所以教它們去做其他任何事情，即使這些事情與它們已經會的事情非常相似——例如，識別特定的情感——也意味著要從頭開始重新訓練算法。一旦算法訓練好，它就完成了，就不能再更新了。

多年來，科學家們一直試圖找出解決這個問題的方法。如果解決了這個問題，AI系統將能夠從一組新的訓練數據中學習，而不會覆蓋他們在這個過程中已經學會的大部分內容。如果未來某天機器人崛起了，我們的新霸主將能夠征服地球上所有的生命，同時還會嚼泡泡糖。

但是，災難性遺忘仍然是阻礙科學家建立通用人工智能（AGI）的主要障礙之一。AGI是一種無所不會、具有同理心和想象力的AI，就像我們在電視和電影中看到的那樣。

DeepMind破解災難性遺忘密碼

上周在布拉格參加Human-Level人工智能聯合多方會議的一些AI專家認為，災難性遺忘的問題是他們認為不會很快實現AGI或human-level AI的最重要的原因。

不過，谷歌DeepMind的高級研究科學家Irina Higgins在會議上的演講中表示，她的團隊已經開始破解災難性遺忘的密碼。

她開發了一個AI智能體（類似一個由AI算法控制的電子游戲角色），這個智能體可以比典型的算法更有創造性地思考。它可以“想象”在一個虛擬環境中遇到的東西在其他地方看起來是什么樣子的。換句話說，神經網絡能夠將它在模擬環境中遇到的某些物體從環境本身分離出來。

AI的想象力人類的想象不同。在人類的想象中，我們可以創造出全新的心理圖像（試著想象一只鳥，你腦海中可能會想象出一只虛構的圓滾滾的紅色的鳥)。AI系統并不那么復雜，但它可以想象出已經在新的配置或位置上看到過的物體。

“我們希望機器能夠在探索過程中學習有關安全的常識，這樣它就不會對自身造成損害，” Higgins在演講中說。本周早些時候，她的團隊在arXiv上發表了題為“Life-Long Disentangled Representation Learning with Cross-Domain Latent Homologies”的論文。

假設你正在穿越沙漠，你遇到了一棵仙人掌。是一種你漫畫中會看到的那種巨大的、兩莖的仙人掌。你立刻就能認出這是一棵仙人掌，因為你以前可能見過。也許你的辦公室裝飾了一些多肉植物。但即使你的辦公室沒有仙人掌，你也可以想象這個沙漠仙人掌在一個大陶罐里會是什么樣子。

Higgins的AI系統也能做同樣的事情。只需觀察一個物體從不同角度看是什么樣子的5個示例，AI就能了解它是什么，它與環境有怎樣的關系，以及從其他角度或在不同光線下看它是什么樣子。論文重點介紹了如何訓練算法來識別白色行李箱或扶手椅。經過訓練后，算法可以想象出這個物體在一個全新的虛擬世界中的樣子，并在它遇到這個物體時識別出來。

Image Credit: Emily Cho

Higgins說：“我們運行了我用來激發這個模型的精確設置，然后我們展示了一個環境的圖像，要求這個模型想象一下在不同環境下它會是什么樣子。”與具有entangled representation的AI系統相比，她的新算法每次都在這項任務中表現更優，而后者只能預測較少的物體質量和特征。

簡言之，該算法能夠注意到它所遇到的事物與過去所看到的事物之間的差異。和大多數其他算法不同的是，Higgins為谷歌構建的新系統可以理解它沒有遇到一個全新的物體，而只是從一個新的角度看到的同樣物體。

然后，它可以使用空閑的計算能力來接收新的信息。AI系統更新了它對世界的了解，而無需重新訓練和重新學習一切。基本上，系統能夠將其現有的知識轉移并應用到新環境中。最終的結果是一種頻譜或連續體（continuum），顯示了它如何理解物體的各種特性。

當然，僅有這一模型是無法把我們帶到AGI的。但它標志著向AGI邁出了重要的第一步，表明AI算法可以在不斷更新的同時，在不丟失已經擁有的知識的情況下，學習有關世界的新事物。

“我認為，它對于接近通用人工智能非常重要。” Higgins說。

讓AI更像人

這項工作仍處于早期階段。這些算法，就像許多其他的對象識別AI工具一樣，擅長于一項相當狹窄的任務，具有一系列受限制的規則，比如查看照片并在很多沒有人臉的照片中挑出有人臉的照片來。但DeepMind的新AI系統正在以一種更接近創造力和想象力的數字模擬的方式完成一項狹窄的任務。

盡管DeepMind團隊的研究并沒有立即帶來通用人工智能時代，但這一新算法已經具備了改進現有AI系統的能力。例如， Higgins在一組用于訓練面部識別軟件的主要數據集上試用了她的新AI系統。在分析了數據集中成千上萬的大頭照后，該算法可以創建任何質量的頻譜，用以標記這些照片。例如，Higgins展示了按膚色排列的人臉頻譜。

Higgins說，她的算法也能對這些數據集中的主觀特征進行同樣的處理，最終將人類的偏見引入面部識別AI。Higgins展示了那些被人們貼上“有吸引力”標簽的照片，如何形成一種頻譜，直接指向年輕、膚色白的女性的照片。這意味著，任何使用這些照片訓練的AI系統都擁有與當初給照片貼上標簽的人類同樣的觀點：白人更具吸引力。

這個有創造力的新算法已經比我們人類做得更好了，它可以找到檢測人類在其他算法中的偏見的新方法，這樣工程師就可以介入并刪除這些偏見。

因此，雖然它還不能完全取代藝術家，DeepMind團隊的工作是相當大的進步，它讓AI更像人，而不是更像算法。