在過去1個多月,Facebook 開發的對話機器人開始采用一些奇怪的語句。
Bob 和 Alice 是 Facebook 開發的對話機器人
這兩個對話機器人由 Facebook 內部的人工智能研究實驗室(FAIR)開發,研究員用機器學習訓練這兩個機器人進行對話、談判,希望它們可以跟人用英文進行交涉,獲取相應的目標商品。
訓練的材料是5808組人與人之間的談判對話,總共有2236種不同的劇情。所謂的劇情根據談判的商品和對應價值有所區分。
例如,其中一個劇情里商品是三本書,每本書對應價值是 2;兩頂帽子,單個帽子對應價值 1;一個球,單個球對應價值是 2。談判雙方的評判標準是根據獲得的商品的對應價值計算。
進展比較順利。Facebook 開發的機器人可以用比較順暢的英文跟普通人對話,對方沒怎么意識到他其實在跟機器人談判。
但事情的發展超出了預料。Facebook 的研究員希望讓這些機器人更進一步,于是開發了兩個已經預先受過訓練的、受監管的模型 Alice 和 Bob,讓它們作為談判雙方進行強化學習(Reinforcement Learning),也就是機器人之間的談判。于是就出現了開頭這種看上去沒有意義的對話。
但對于機器人來說,這些看上去語法不通順的對話還是承擔的了一定的功用。該 Facebook 實驗室的發言人告訴《大西洋月刊》,Facebook 的數據顯示,這些對話仍然能夠幫助兩者最后達成一致的。Facebook 的研究員認為,這種對話比較接近于語言。來自佐治亞理工學院(Georgia Tech)、FAIR 實驗室的訪問研究科學家 Dhruv Batra 稱,Facebook 已經觀察到類似的現場多次。
除了 Facebook 外,還有像特斯拉 CEO Elon Musk、知名孵化器 YC 主席 Sam Altman 創立的非盈利機構 OpenAI 也在機器人語言上有所研究。他們設立了一個虛擬環境,讓一堆被標記上不同顏色的機器人完成一些特定的目標,例如將他們移動到一個具體的位置上,其中需要這些機器人自己協作、對話。最終可以達到的結果是,這些機器人可以完成一句類似于“ 你最終是否可以達到綠色那邊(Did you end up getting to the green can or not)? ”
但賓夕法尼亞大學的語言學教授 Mark Liberman 持有不同的意見,他認為這跟語言的差距還是挺遠的。他說:“首先,這完全是基于文本的字符,但人類的語言基本上都是通過口頭表達或者是手勢完成,文本作為一層虛擬的表面。”
不過,不管這是不是一種機器人語言還是只是字符串,作為 Facebook 實驗室的一項研究結果,研究員們最終決定將機器人設定為使用普通英文。
他們給出的理由是:我們的興趣是有一些機器人可以跟人對話。