幾個(gè)月前，有媒體爆出，科技巨頭谷歌參與了美國(guó)軍方的人工智能(AI)軍事項(xiàng)目，鑒于應(yīng)用 AI 的道德標(biāo)準(zhǔn)尚未形成國(guó)際共識(shí)，此行為招來(lái)了谷歌內(nèi)部員工和外界輿論的非議。最終，谷歌迫于壓力，不得不宣布在為期 18 個(gè)月的合約結(jié)束之后停止續(xù)約。然而，谷歌的退出似乎并不影響五角大樓的 AI 軍事計(jì)劃的進(jìn)行。

有匿名的美國(guó)官員向媒體透露，美國(guó)軍方十分看好 AI 技術(shù)在軍事領(lǐng)域的應(yīng)用，已經(jīng)啟動(dòng)了多個(gè) AI 軍事項(xiàng)目。其中一項(xiàng)鮮為人知的項(xiàng)目是，利用 AI 尋找核導(dǎo)彈發(fā)射器的位置，以及預(yù)測(cè)核導(dǎo)彈的發(fā)射。系統(tǒng)的偵測(cè)范圍覆蓋朝鮮等國(guó)家和地區(qū)，目的是更好地保護(hù)美國(guó)免受潛在的核導(dǎo)彈襲擊。

研發(fā)中的AI系統(tǒng)將最終實(shí)現(xiàn)自主思考，以遠(yuǎn)超人類(lèi)的速度和準(zhǔn)確度搜尋大量數(shù)據(jù)，例如衛(wèi)星圖像，之后根據(jù)這些數(shù)據(jù)尋找導(dǎo)彈準(zhǔn)備發(fā)射的跡象。一旦有所發(fā)現(xiàn)，美國(guó)軍方將收到早期預(yù)警，這增加了摧毀或攔截導(dǎo)彈的成功率，同時(shí)政府也可以更早地開(kāi)展外交手段，從根本上避免導(dǎo)彈發(fā)射。

目前這一項(xiàng)目還在起步階段，不過(guò)導(dǎo)彈發(fā)射器追蹤系統(tǒng)的早期原型已經(jīng)投入試驗(yàn)。除了軍方手中的數(shù)據(jù)，研發(fā)人員還與商業(yè)公司合作，以獲得更多的數(shù)據(jù)和行為模式，其中包括看穿風(fēng)暴和樹(shù)林的雷達(dá)數(shù)據(jù)。

該項(xiàng)目只不過(guò)是 AI 軍事計(jì)劃的冰山一角。熟悉計(jì)劃的消息人士透露稱(chēng)，谷歌參與的 Maven 項(xiàng)目是訓(xùn)練 AI 識(shí)別無(wú)人機(jī)錄像中的物體。還有專(zhuān)門(mén)針對(duì)朝鮮的試點(diǎn)項(xiàng)目，因?yàn)槊绹?guó)軍方懷疑導(dǎo)彈發(fā)射裝置被隱藏在了隧道、森林和洞穴中。

AI軍備競(jìng)賽

中國(guó)和俄羅斯都在大力研發(fā) AI 技術(shù)，甚至是結(jié)合 AI 和軍事力量，美國(guó)自然也不能落后。美國(guó)眾議院武裝部隊(duì)委員會(huì)主席 Mac Thornberry 表示，“俄羅斯和中國(guó)肯定是在追求類(lèi)似的東西，可能在某些方面比我們付出的努力更多。”

從美國(guó)官方預(yù)算數(shù)據(jù)中不難發(fā)現(xiàn)，美國(guó)政府不僅增加了國(guó)防預(yù)算，同時(shí)也加大了對(duì)AI軍事化應(yīng)用的投資。特朗普政府為一項(xiàng) AI 導(dǎo)彈項(xiàng)目投入了 8300 萬(wàn)美元，這是去年項(xiàng)目預(yù)算的三倍。

除此之外，預(yù)算文件還指出，五角大樓的導(dǎo)彈發(fā)射器追蹤計(jì)劃將擴(kuò)展到“五角大樓4+1問(wèn)題”中的剩余問(wèn)題。術(shù)語(yǔ)“4+1問(wèn)題”通常用來(lái)指代圍繞中國(guó)，俄羅斯，伊朗和朝鮮(四個(gè)國(guó)家)，以及恐怖主義的問(wèn)題和解決方案。這也將進(jìn)一步增加未來(lái)的軍事預(yù)算。

AI 導(dǎo)彈項(xiàng)目的一部分預(yù)計(jì)在 2020 年之后實(shí)現(xiàn)。不過(guò)即便如此，一些美國(guó)官員表示，面對(duì)日趨復(fù)雜的國(guó)際環(huán)境，包括朝鮮的核武器威脅和俄羅斯強(qiáng)大的軍事力量，AI 技術(shù)在軍事項(xiàng)目上的整體投資仍然不足，研究仍然有限。

“我們不能犯錯(cuò)”

雖然AI技術(shù)正在迅速發(fā)展，但是它依然存在不少的缺陷和漏洞。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局(DARPA)主任 Steven Walker 表示，“智能化進(jìn)程勢(shì)不可擋，但我們不能犯錯(cuò)，因?yàn)檫@些系統(tǒng)可以被欺騙。”

MIT 的一項(xiàng)研究結(jié)果顯示，AI物品識(shí)別系統(tǒng)可以被輕易地欺騙，比如系統(tǒng)會(huì)將塑料海龜識(shí)別成步槍。

這種荒謬的錯(cuò)誤證明了現(xiàn)階段 AI 技術(shù)和人類(lèi)認(rèn)知之間的差距，同時(shí)也提醒了研究人員，面對(duì)核武器識(shí)別系統(tǒng)，其他國(guó)家完全可以利用技術(shù)隱藏武器的身份和信息。更可怕的是，如果系統(tǒng)錯(cuò)誤地將“海龜”識(shí)別為核武器，那么可能會(huì)就此引發(fā)一場(chǎng)外交爭(zhēng)端，甚者是核戰(zhàn)爭(zhēng)。

不過(guò)五角大樓認(rèn)為這種錯(cuò)誤是可以避免的。“一旦AI系統(tǒng)全面投入使用，五角大樓需要建立保障措施，”美國(guó)空軍將軍 John Hyten 表示。“以確保核決策最終由人類(lèi)控制和決定，而不是機(jī)器。”

這聽(tīng)起來(lái)就像其他所有由人類(lèi)控制的武器一樣，可是人類(lèi)犯的錯(cuò)還少嗎?