電子前沿基金會(huì)(Electronic Frontier Foundation)發(fā)布了一份白皮書(shū)，為軍事人工智能項(xiàng)目的實(shí)施提供指導(dǎo)。

人工智能被用于軍事目的是可怕的，但它最終不可避免。人們所能期待的最好結(jié)果是，它以一種合理的方式來(lái)解決人們的擔(dān)憂。

在谷歌員工因該公司的國(guó)防合同而辭職后，白皮書(shū)發(fā)布就出現(xiàn)了。該公司為美國(guó)軍方的無(wú)人機(jī)項(xiàng)目提供人工智能知識(shí)。自那以后，谷歌決定不再續(xù)簽合同。

一些軍事策劃人員和國(guó)防承包商難以理解來(lái)自谷歌等硅谷巨頭的員工的擔(dān)憂，而電子前沿基金會(huì)希望能“彌合差距”以幫助他們。

EFF想要考慮三個(gè)核心問(wèn)題：

在武器系統(tǒng)或軍事指揮和控制中應(yīng)用當(dāng)前機(jī)器學(xué)習(xí)方法的主要技術(shù)和戰(zhàn)略風(fēng)險(xiǎn)是什么?

國(guó)家和軍隊(duì)可以采取哪些適當(dāng)?shù)膽?yīng)對(duì)措施?

什么樣的人工智能可以安全地用于軍事用途，哪些種類不是?

有很多支持的概念是，任何殺死的決定最終都必須由人類操作員來(lái)做，即使人工智能推薦它。這確保了人類的同情在錯(cuò)誤發(fā)生的時(shí)候起到了一定的作用，并保證了責(zé)任，而不是錯(cuò)誤的編程。

在一篇博客文章中，EFF寫道：

“機(jī)器學(xué)習(xí)技術(shù)已經(jīng)得到了令人難以置信的宣傳，事實(shí)上，它們?cè)谀承┓矫嬉呀?jīng)取得了令人興奮的進(jìn)展，但它們?nèi)匀缓艽嗳酰艿叫碌氖∧Ｊ降挠绊懀⑶胰菀资艿礁鞣N形式的敵對(duì)攻擊和操縱。

他們也缺乏人類通常賴以生存的常識(shí)和判斷的基本形式。”

在這個(gè)時(shí)候，EFF強(qiáng)調(diào)這些觀點(diǎn)是為了讓人工智能遠(yuǎn)離目標(biāo)選擇、火控、大多數(shù)命令、控制和智能(C2I)角色，至少在可預(yù)見(jiàn)的未來(lái)是這樣。

第一部分，我確定了人工智能的軍事用途如何導(dǎo)致意想不到的危險(xiǎn)和風(fēng)險(xiǎn)：

機(jī)器學(xué)習(xí)系統(tǒng)很容易被愚弄或被顛覆：神經(jīng)網(wǎng)絡(luò)很容易受到一系列新奇攻擊的影響，包括敵對(duì)的例子、模型竊取和數(shù)據(jù)中毒。

目前網(wǎng)絡(luò)安全的力量平衡大大有利于攻擊者而不是防御者。

最近被稱贊的人工智能的許多成就都來(lái)自于強(qiáng)化學(xué)習(xí)(RL)，但是目前最先進(jìn)的RL系統(tǒng)是不可預(yù)測(cè)的，難以控制，不適合復(fù)雜的現(xiàn)實(shí)部署。

部署的系統(tǒng)之間的交互將非常復(fù)雜，不可能建模，并且會(huì)受到難以減輕的災(zāi)難性故障的影響。因此，沖突有可能發(fā)生意外或升級(jí)的嚴(yán)重風(fēng)險(xiǎn)。

第二部分提出并詳細(xì)闡述了減輕這些風(fēng)險(xiǎn)的議程：

支持和建立國(guó)際機(jī)構(gòu)和協(xié)議，在軍事環(huán)境中管理人工智能和與AI相關(guān)的風(fēng)險(xiǎn)。

專注于“殺死鏈”之外的機(jī)器學(xué)習(xí)應(yīng)用程序，包括物流、系統(tǒng)診斷和修復(fù)，以及防御網(wǎng)絡(luò)安全。

將研發(fā)工作集中在提高M(jìn)L系統(tǒng)的可預(yù)測(cè)性、健壯性和安全性上。

與更廣泛的學(xué)術(shù)和民間研究團(tuán)體分享可預(yù)見(jiàn)性和安全研究。

專注于防御網(wǎng)絡(luò)安全(包括在廣泛的平臺(tái)和民用基礎(chǔ)設(shè)施中修復(fù)漏洞)作為一個(gè)主要的戰(zhàn)略目標(biāo)。

參與軍事對(duì)話，尋求諒解備忘錄和其他文書(shū)、協(xié)議或條約，以防止意外沖突的風(fēng)險(xiǎn)和意外升級(jí)。

最后，第三部分提出了未來(lái)考慮的戰(zhàn)略問(wèn)題，目的是幫助國(guó)防社區(qū)為構(gòu)建安全可控的人工智能系統(tǒng)做出貢獻(xiàn)，而不是讓脆弱的系統(tǒng)和過(guò)程在未來(lái)幾十年里導(dǎo)致后悔。