并未參與該工作的美國加州大學(xué)伯克利分校發(fā)育心理學(xué)家Alison Gopnik表示，要應(yīng)對一個(gè)充滿了其他人想法的世界，“很明顯，心智理論是一種關(guān)鍵能力”。
到4歲左右，兒童能理解到一個(gè)人的想法可能偏離現(xiàn)實(shí)，同時(shí)這些想法可被用于預(yù)測這個(gè)人的未來行為。目前的一些計(jì)算機(jī)可標(biāo)記諸如“高興”或者“生氣”等面部表情——這種技能同心智理論相關(guān)，但它們極少能理解人類的情緒或者動(dòng)機(jī)。
新項(xiàng)目始于一項(xiàng)讓人類理解計(jì)算機(jī)的努力。AI利用的很多算法并非完全由程序員撰寫，而是依賴于依次解決問題時(shí)的機(jī)器“學(xué)習(xí)”。由此通過計(jì)算機(jī)產(chǎn)生的解決方案通常是“黑盒子”——算法太過復(fù)雜，以至于無法被人類的洞察力看透。
為此，英國倫敦“深度思維”公司科學(xué)家Neil Rabinowitz和同事創(chuàng)建了一種被稱為ToMnet的AI心智理論，并使其觀察別的AI，看它能否知道后者是如何工作的。
ToMnet由3個(gè)神經(jīng)網(wǎng)絡(luò)構(gòu)成，每個(gè)又由小的計(jì)算元素和連接組成。這些元素和連接能從經(jīng)驗(yàn)中學(xué)習(xí)，大致類似于人腦。第一個(gè)網(wǎng)絡(luò)基于其他AI的過去行為學(xué)習(xí)它們的傾向性。第二個(gè)形成對其現(xiàn)有“信念”的理解。第三個(gè)從其他兩個(gè)網(wǎng)絡(luò)獲得輸出并且依照情形預(yù)測AI 的下一步舉措。
被研究的AI是在虛擬房間里走動(dòng)并且收集帶顏色盒子以獲得分?jǐn)?shù)的簡單角色。ToMnet從上面觀察這個(gè)房間。在一項(xiàng)測試中有3種角色：一個(gè)無法看見周圍的房間，一個(gè)無法記住最近的腳步，還有一個(gè)既能看見房間也能記住腳步。“盲人”角色傾向于沿著墻壁走，“健忘癥患者”會(huì)移向距其最近的物體，而第三個(gè)角色形成了子目標(biāo)，即策略性地按照特定順序抓住物體以獲得更多分?jǐn)?shù)。
在一些訓(xùn)練后，ToMnet不僅能辨別出角色的種類，還能正確預(yù)測其未來行為。研究人員在日前于瑞典斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會(huì)議上報(bào)告了這一成果 。
京公網(wǎng)安備 11010502049343號