當地時間6月1日,谷歌稱將不會與美國國防部合作的Maven項目續約。谷歌云CEO黛安·格林(Diane Greene)在谷歌云每周五的例會上向員工公布了上述消息。她表示,目前谷歌與美國軍方簽訂的Maven合同將在2019年到期,屆時谷歌將不會再尋求續約的機會。
此外,格林還在會上稱,谷歌不會再推進Maven項目,因為外界對這一項目的反饋給公司造成了糟糕的影響。她還補充說公司計劃在下周推出關于使用人工智能(AI)的新到的原則。
去年4月份,美國軍方提出Maven項目。Maven的目標是“加快國防部整合大數據和機器學習”,也被美國國防部稱為算法戰爭跨功能團隊(AWCFT:Algorithmic Warfare Cross-Functional Team)。Maven項目的首要任務是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數量龐大的無人機飛行畫面,但人類圖像分析師遠遠跟不上視頻數量的增長。因此,國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體,從而減輕分析人員的負擔。在自身資源不足的情況下,國防部轉向了學界與業界的人工智能專家合作。
在該項目中,谷歌向美國國防部提供用于機器學習應用的TensorFlow API接口,以幫助軍事分析人員檢測圖像中的物體。但合作到哪種程度,雙方都未對外界透露。
谷歌與美國軍方的合作一開始在公司內部就引起了不滿,谷歌內部的員工認為這種合作影響了聲譽和公司文化,也關乎機器學習發展和使用的道德問題。今年4月份,谷歌內部有3000多名員工寫了公開信給谷歌高層,要求停止與美國軍方合作。到了5月份,谷歌有十幾名員工正式因為這一項目向谷歌請辭。
另一方面,外部也給予了谷歌巨大的輿論壓力,學術界有364名人工智能專業人士也聯名上書,反對谷歌。
對于內部遭遇的辭職潮和外部輿論壓力,谷歌一度曾選擇“冷處理”。去年9月份,谷歌內部在討論如何向公眾解釋這個事情時,谷歌云首席科學家、副總裁李飛飛曾在郵件中強烈建議雙方在合同中回避“AI”(人工智能)這個字眼。
“無論付出什么代價,都必須要避免提及或者使用到AI這兩個字。武器化人工智能可能是AI領域里最敏感的話題,沒有之一。對于媒體而言這簡直就是紅肉(red meat),他們會找到一切方式毀掉谷歌。”這位來自斯坦福大學人工智能實驗室的學者在郵件中說。
“我不知道如果媒體開始討論谷歌正在秘密建造AI武器或AI技術,并為國防工業服務會發生什么。”李飛飛說,因此她希望在對外公布合同時,能將項目描繪為是谷歌云平臺的重大勝利。李飛飛一直堅持相信的是以人為中心的人工智能,可以用積極和慈善的方式讓人類受益。她還表示,任何將人工智能武器化的項目研究,都將違背她的原則。
不過,最終谷歌選擇不將Maven項目公之于眾。只有反對的員工通過谷歌內部溝通平臺開始抗議時,谷歌作為Maven項目分包商的事才引起了公眾的關注。
到了今年4月份,反對聲音愈演愈烈。谷歌才在內部召開了一次大會,向員工介紹了谷歌在做的事情。谷歌現任CEO桑達爾·皮查伊(Sundar Pichai)也在這次的會議上表示,谷歌將制定一套原則,來指導其人工智能業務在防務和情報合同中,如何越過道德雷區。谷歌也向外界表示,新的原則將會避免讓人工智能朝武器化發展。
在更早一次谷歌每周的全公司TGIF(Thanks God, it's Friday)會議上,格林也在極力打消員工的疑慮。她在這次會上稱,Maven項目不是為了攻擊目的,雙方的合同價值相當小,僅900萬美元。并且,谷歌高層認為,這一項目有利于拓展谷歌云和政府、軍方的合作。
但據《連線》5月29日報道,Maven項目到2018年,將開始擴展到新領域,包括利用開發工具以更高效地驅動硬盤。另外,今年Maven項目獲得的資金也有望擴大到1.31億美元。美國五角大樓還計劃與硅谷建立聯合人工智能中心,可能會效仿Maven項目,以支持美國軍方,并為情報機構提供服務。這讓Maven項目引發的爭議可能在未來幾個月還會加劇。
這樣的情況,也讓谷歌做出了妥協,盡管不想失去軍方的合同,但在輿論壓力下,谷歌選擇了“不作惡”。