人工智能系統在接收新信息時傾向于忘記先前學到的東西，這被稱為災難性遺忘。
這是一個大問題。在分析了無數預期的例子之后，可以說，尖端算法學習。例如，面部識別AI系統將分析人臉的數千張照片，可能是已經手動標注的照片，以便當它在視頻輸入中彈出時能夠檢測到面部。但是因為這些人工智能系統實際上并不理解它們所做事情的基本邏輯，所以教導它們做其他事情，即使非常相似 —— 比如說，識別特定的情感 —— 也意味著從頭開始重新訓練。一旦算法被訓練完成，它就完成了，我們不能再更新了。
多年來，科學家們一直試圖弄清楚如何解決這個問題。如果他們成功，AI系統將能夠從一組新的訓練數據中學習，而不會覆蓋他們在此過程中已經學習的大部分內容。基本上，如果機器人有一天崛起，我們的新領主將能夠征服地球上的所有生命并同時嚼泡泡糖。
但是，災難性的遺忘仍然是阻礙科學家們建立通用人工智能(AGI)的主要障礙之一，這是一種包括我們在電視和電影中看到的無所不能、擁有同情心和富有想象力的人工智能。
事實上，最近在布拉格參加人類人工智能聯合多方會議的一些人工智能專家在接受Futurism的私人采訪中，或在小組討論和演示期間均表示，他們不希望很快看到AGI或人類水平的AI，災難性的遺忘問題就是最重要的原因之一。
但谷歌DeepMind的高級研究科學家伊琳娜·希金斯在會議期間使用她的演講宣布其團隊已經開始破解代碼。
她開發了一個AI代理 —— 有點像一個由AI算法控制的視頻游戲角色 ——可以比典型算法更有創造性地思考。它可以“想象”它在一個虛擬環境中遇到的東西，在其他地方可能看起來像什么。換句話說，神經網絡能夠將它在模擬環境中遇到的某些物體從環境本身中分離出來。
這與人類的想象力不同，在那里我們可以完全想出一些新的心理圖像(想想一只鳥，你可能會想起一個虛構的球形，紅色鳥在你的腦海中看起來像眼睛)。這種人工智能系統并不復雜，但它可以想象在新配置或位置中看到過的物體。
“我們希望機器能夠在探索中學習安全常識，因此它不會對自身造成損害。”希金斯在由GoodAI組織的會議上發言時說道。她也在預印本服務器arXiv上發表了論文，并撰寫了一篇博客文章。
假設你正在穿越沙漠(一個人)，你會遇到仙人掌。你在所有漫畫中看到的那些高高大大的仙人掌一樣。你認識到這是仙人掌，因為你之前可能遇到過仙人掌。也許你的辦公室買了一些多肉植物來活躍氣氛。但即使你的辦公室沒有仙人掌，你也可以想象這個沙漠仙人掌在一個大型粘土鍋里會是什么樣子。
現在希金斯的人工智能系統幾乎可以做同樣的事情。只有五個示例說明給定物體從不同角度看起來如何，AI代理會了解它是什么，它與環境的關系，以及它從未見過的其他角度或在不同光線下的外觀。本文重點介紹了如何訓練算法來發現白色手提箱或扶手椅。在訓練之后，算法可以想象該對象在一個全新的虛擬世界中的外觀，并在遇到它時識別該對象。
“我們運行的這個精確設置是我用來激勵這個模型的，然后我們從一個環境中呈現一個圖像，并要求模型想象它在不同環境中會是什么樣子。”希金斯說。一次又一次，與具有糾纏表態的AI系統相比，她的新算法在完成任務方面表現優異。糾纏表態可以預測物體的質量和特征。
簡而言之，該算法能夠記錄它遇到的內容與過去看到的內容之間的差異。像大多數人一樣，但與大多數其他算法不同的是，為谷歌構建的新系統Higgins，可以理解它并沒有遇到一個全新的對象，因為它從一個新的角度看了一些東西。然后，它可以使用一些備用計算能力來接收新信息;人工智能系統更新對世界的了解，無需重新培訓，重新學習一切。基本上，系統能夠將其現有知識轉移并應用于新環境。最終結果是一種范圍或連續體，展示了它如何理解物體的各種品質。
當然，希金斯的模型沒有讓我們接觸到AGI。但它標志著人工智能算法邁出了重要的第一步，人工智能算法可以不斷更新，在不丟失已學習到東西的情況下學習有關世界的新事物。
希金斯說：“我認為接近通用人工智能是非常關鍵的。”
而這項工作仍處于早期階段。與許多其他對象識別AI工具一樣，這些算法在一個相當狹窄的任務中具有一系列受限制的規則，例如查看照片并在許多不是面部的物體中挑選出一張臉。但希金斯新的人工智能系統，正在以一種更接近創造力和一些想象力的數字模擬方式完成一項狹隘的任務。
即使希金斯的研究沒有立即帶來人工智能時代，她的新算法已經能夠改進我們一直使用的現有AI系統。例如，希金斯在用于訓練面部識別軟件的一組主要數據上嘗試了其新AI系統。在分析了數據集中發現成千上萬個爆頭后，該算法可以創建任何特定的范圍，用于標記這些照片。例如，希金斯展示了按膚色排列的一系列面孔。
希金斯隨后透露，她的算法能夠對主觀品質做同樣的事情，這些品質也可以在這些數據集中找到方法，最終將人類偏見教給面部識別AI。希金斯展示了人們被貼上“有吸引力”標簽的圖像，創造出了一種范圍，直指年輕、蒼白的女性照片。這意味著，任何受過這些照片訓練的人工智能系統——已經有很多了——現在和那些給照片貼上標簽的人一樣，都持有同樣的種族主義觀點：白人更有吸引力。
這種創造性的新算法已經比我們在尋找其他算法中檢測人類偏見的新方法要好得多，因為工程師可以進入并刪除它們。
雖然它還不能取代藝術家，但希金斯團隊的工作是讓人工智能更像一個人，而不是一個算法邁出了重要一步。
京公網安備 11010502049343號