辭職員工擔心無人機戰爭中人工智能的使用和谷歌的政治決策,以及這些行動可能導致的用戶信任等問題,他們中的許多人都寫過關于離開公司的決定,他們的故事也被收集并分享到一個內部文件中,其中有多個消息來源向媒體描述了這些內容。
辭職以示抗議的員工表示,谷歌高管們對有爭議的商業決策變得不那么透明了,而且似乎對傾聽員工的反對意見也不像以前那么感興趣了。在Maven事件中,谷歌正在幫助國防部實現機器學習,對無人機收集的圖像進行分類。
一些員工認為,人類,而不是算法,應該對這種敏感的、可能致命的工作負責,而且谷歌根本不應該參與到軍事工作中來,谷歌陷入了道德困境之中。
首次大規模離職潮,Maven項目仍在繼續
有史以來,谷歌一直倡導開放的公司文化,鼓勵員工對產品和決策進行挑戰和辯論。而現在,一些員工認為他們的領導不再那么關注他們的擔憂,而是讓他們面對后果。一位辭職的員工表示:“在過去的幾個月里,員工們的回應和想法越來越不受到的對待和傾聽。”
其實,員工的抗議在以前生效過一次,當時導致了產品的改變。2015年,員工和用戶成功地讓谷歌取消了給Blogger色情內容的禁令。但這次卻不同,是谷歌首次因決策而出現的大規模辭職事件,該事件傳到出離職員工強烈的道德擔憂。
除了辭職外,近4,000名谷歌員工在一份內部請愿書中表達了對 Maven的反對意見。該請愿書要求谷歌立即取消合同,并制定一項反對未來軍事行動的政策。
然而,來自員工不斷增加的壓力似乎并沒有影響谷歌的決定,谷歌為其在Maven上的工作進行了辯護,并且還在參與五角大樓云計算項目的競標,與微軟和IBM一起。
谷歌聲稱,谷歌只向Maven提供開源軟件,這意味著即使谷歌不收費用或不提供技術援助,軍方仍能繼續使用該技術,這也讓谷歌終止與五角大樓合同的要求變得更加復雜。
盡管如此,辭職員工認為谷歌在Maven方面的工作與公司的“改良”( do-gooder )原則不符。一名辭職員工表示:“谷歌并不是一家想要在不同行業尋找客戶的機器學習創業公司,谷歌若想保住聲譽就要撤出Maven項目。”
請愿活動不斷,道德和信任不能再忽視
谷歌一直強調它的人工智能并沒有被用于殺戮,但在五角大樓的無人機項目中,人工智能的使用給技術工作者和研究機器學習領域的學者帶來了復雜的倫理和道德問題。
當今年2月底消息在谷歌內部開始傳播時,谷歌的一位發言人稱,公司正在起草關于機器學習使用的“政策和保障措施”,但該政策文件尚未形成正式文件。
除了在谷歌內部流傳的請愿書,科技工人聯盟(Tech Workers Coalition)也在4月發起了一項請愿活動,要求谷歌放棄在Maven方面的工作,而包括IBM和亞馬遜在內的其他大型科技公司也拒絕與美國國防部合作。
“我們的行業和技術帶來的有害偏見、大規模的信任破壞和道德缺乏,已經不能再被忽視”請愿書寫道,“這些是生死攸關的賭注”。
超過90名人工智能、倫理學和計算機科學的學者今天發表了一封公開信,呼吁谷歌終止其在Maven的工作,并支持一項禁止自主武器系統的國際條約。這封信的兩位作者已經在聯合國就自動武器問題發表了證詞;第三位作者Lilly Irani是一名科學教授,曾是谷歌的一名雇員。
她說,谷歌對項目Maven的貢獻可能會加速開發完全自主的武器,盡管谷歌總部設在美國,但它有義務保護其全球用戶群,這超過了它與任何一個國家的軍隊的結盟。
“谷歌已經進入了軍事領域,沒有在國內或國際上進行公開辯論或審議。盡管谷歌經常在沒有民主公共參與的情況下決定技術的未來,但它這是在軍事技術領域的介入,是將信息基礎設施的私人控制問題轉化為高福利。”
“在某種程度上,我意識到我不能很好地推薦任何人加入谷歌,因為我知道我所知道的一切。我意識到如果我不能推薦人們加入這里,那為什么我還在這里呢?”一位辭職的谷歌員工說。
“我試圖提醒自己,谷歌的決定不是我的決定,我對他們所做的每一件事都不負責。但是,當我看到我應該讓它升級的東西時,我確實感到有責任。”另一位補充道。
“我們文化的一個重要部分就是讓員工積極參與我們的工作。我們知道,在使用新技術方面,有許多開放的問題,所以與員工和專家的交流是非常重要和有益的,”谷歌的一位發言人在4月份的一份聲明中說。
“這項技術被用來標記人類和動物圖像,目的是拯救生命,拯救人們不需要做單調乏味的工作。任何機器學習的軍事使用自然都會引起合理的擔憂,但我們正積極進行公司的全面討論,并與外部專家進行討論,我們將繼續圍繞機器學習技術的開發和使用制定我們的政策。”
谷歌發言人沒有立即回復媒體就辭職事件發表評論的請求,但員工希望看到公司采取行動,制定道德政策,取消合同,或兩者兼而有之。
一位辭職員工說:“行動勝于言語,這也是我自己的標準。只是在內部表達我的擔憂是不夠的,我能采取的最有力的聲明就是離開。”