人工智能系統在設計上就傾向于在每次開始新的學習之前，忘記先前學到的所有東西，這被稱為災難性遺忘。
很明顯，這是一個大問題。尖端的學習算法大多依賴給定答案的有監督學習。 例如，面部識別AI系統將分析人臉的數千張照片，這些照片已經手動標注好答案以便AI在視頻輸入中能檢測到人臉。 但是因為這些人工智能算法實際上并不“理解”他們所做的事情的基本邏輯，所以教導他們做其他任何事情，即使是非常相似的任務，都顯得非常困難。比如說，讓人工智能去識別特定的情感，這意味著你要從頭開始訓練這套模型。 一旦算法被訓練，它能做的事情就固定下來了，我們不能再訓練它去做其他事情。
多年來，科學家們一直試圖弄清楚如何解決這個問題。 如果他們成功，AI系統將能夠從一組新的訓練數據中學習，而不會覆蓋他們在此過程中已經學習到的內容。 也就是說，如果機器人真的有一天會崛起，我們的新“領主”將能夠在征服地球上的所有生命的同時吹泡泡糖——同時做兩件事。
但是，災難性的遺忘仍然是阻礙科學家們研發出強人工智能(AGI)的主要障礙之一。強人工智能指具有人類級別的聰明甚至是情感，這包括我們在電視和電影中看到的無所不能的，有同情心和想象力的人工智能。
事實上，上周在布拉格參加人類人工智能峰會的一些人工智能專家表示，災難性遺忘的問題是邁向強人工智能最大的障礙之一。而他們并不認為近期內會在這方面有所突破。
但谷歌DeepMind的高級研究科學家伊琳娜希金斯(Irina Higgins)在會議的演講上宣布她的團隊已經開始破解災難性遺忘的奧秘。
她開發了一個AI代理人，這有點像一個由AI算法控制的電子游戲中的角色。它可以比典型機器學習算法更有創造性地思考。 通過在虛擬的環境中經歷一些事情，它可以“想象”類似的事情在其他環境中會怎樣發生。 換句話說，神經網絡能夠從它所處的環境中抽象出關鍵物體和事件。
這與人類的想象力不同，我們可以完全想出一些從未見過的事物。比如，你可以在腦海中想象一只圓圓的、紅色的鳥鳥的樣子。 人工智能系統尚不如人類的大腦復雜，但它已經可以想象已經見過的事情在其他場景中發生的樣子。
希金斯在由GoodAI組織的會議上發言時說道：“我們希望機器能夠在探索中學習安全常識，這樣它就不會對自身造成損害。” 。她早些時候在arXiv上發表了她的論文，并撰寫了一篇相關的博客文章。
現在，希金斯的人工智能系統可以從五張同一物體的不同角度的照片中“理解”這個物體，理解物體與環境的關系，以及在從未給算法見過的其他角度下的樣子，或是在不同光線下的呈現的模樣。希金斯的論文重點介紹了如何訓練算法來發現白色手提箱或扶手椅。 在訓練之后，算法可以想象該對象在一個全新的虛擬世界中的外觀，并在遇到它時識別該對象。
希金斯說：“我們呈現一個圖像給人工智能模型看物體在一個環境下的樣子，并要求模型想象這個物體在不同環境中會是什么樣子。” 與其他傳統AI系統相比，她的新算法在識別從未見過的物體方面表現優異。
簡而言之，該算法能夠記錄它遇到的內容與過去看到的內容之間的差異。 像大多數人一樣，但與大多數其他算法不同的是，希金斯為谷歌搭建的新系統可以理解它從沒有遇到的全新的對象。通過從一個新的角度看待對象， 它可以使用一些備用計算能力來從中提取新信息，更新它對世界的了解。而這一切無需重新學習，也無需遺忘先前的訓練成果 。 換句話說，這套系統能夠將其現有知識轉移并應用于新環境。
當然，希金斯的模型本身不能把強人工智能變成現實。 但它標志著人工智能算法邁出了重要的一步。從此人工智能算法可以不斷更新，在不丟失已有功能的情況下學習有關世界的新知識。
希金斯說：“我認為無遺忘學習是接近真正人工智能的道路上至關重要的一步。”
這項研究仍處于早期階段。 與許多其他物體識別AI工具一樣，這些算法只能在一個系列特定的任務中進行學習，例如查看照片并在許多不是面部的圖像中挑選出一張臉。 但希金斯新的人工智能系統正在以一種更具創造力和想象力的方式完成這些任務。
即使希金斯的研究沒有立即讓我們進入強人工智能時代，她的新算法已經能夠改進我們一直使用的AI系統。 例如，希金斯在用于訓練面部識別軟件的一組主要數據上嘗試了她的新AI系統。 在分析了數據集中發現的數百萬張頭像后，該算法可以生成從未在圖片庫中出現過的頭像。 例如，希金斯展示了按膚色排列的頭像集合。
希金斯隨后透露，她的算法也能夠對主觀評價作出預測。比如它可以對人們對頭像的評價作出判斷。在學習了上百萬張頭像之后，希金斯的算法繪制了幾副它認為 “有吸引力”的頭像：一系列年輕白人女性的頭像。 也就是說，拋開種族問題不談，希金斯的算法發現了人們的審美偏見： 白人更具吸引力。
當局者迷，旁觀者清，這種創造性的新算法已經比人類更善于尋找人類的偏見， 之后工程師可以從系統中移除這些偏見。
雖然最新的人工智能算法還不能取代藝術家，但毫無疑問，希金斯團隊的研發成果是人類邁向強人工智能的一大步。
京公網安備 11010502049343號