哈佛大學(xué)肯尼迪政治學(xué)院貝爾弗科學(xué)與國(guó)際事務(wù)中心7月發(fā)布《人工智能與國(guó)家安全》報(bào)告，分析人工智能(AI)對(duì)美國(guó)家安全的巨大影響，為美政府AI政策提供建議。
報(bào)告概要：
雖然美國(guó)軍事和情報(bào)界計(jì)劃在投資組合中納入更多人工智能技術(shù)，但最具顛覆性的AI應(yīng)用尚未實(shí)現(xiàn)。報(bào)告提出了制定人工智能和國(guó)家安全未來(lái)政策的三個(gè)目標(biāo)：
保持美國(guó)技術(shù)領(lǐng)先優(yōu)勢(shì)，為軍事和情報(bào)能力優(yōu)勢(shì)提供砝碼。
支持AI用于和平和商業(yè)用途，幫助民事和商業(yè)部門(mén)享受新技術(shù)帶來(lái)的好處。
減少災(zāi)難性風(fēng)險(xiǎn)，防范或降低偶發(fā)/敵對(duì)事件帶來(lái)的嚴(yán)重后果。
重點(diǎn)內(nèi)容：
AI技術(shù)發(fā)展迅猛
人工智能領(lǐng)域在過(guò)去5年取得了顯著的技術(shù)進(jìn)步，遠(yuǎn)遠(yuǎn)超出預(yù)期;這種形勢(shì)還將會(huì)繼續(xù)發(fā)展，甚至?xí)M(jìn)一步提速。推動(dòng)AI快速發(fā)展的4個(gè)因素是：計(jì)算機(jī)性能在近幾十年呈指數(shù)級(jí)增長(zhǎng)、訓(xùn)練機(jī)器學(xué)習(xí)的大型數(shù)據(jù)集數(shù)量增加、機(jī)器學(xué)習(xí)技術(shù)不斷進(jìn)步、商業(yè)投資猛增。其中機(jī)器學(xué)習(xí)子領(lǐng)域的發(fā)展是主因。
AI技術(shù)是給國(guó)家安全帶來(lái)深刻變化的顛覆性技術(shù)
現(xiàn)有的AI技術(shù)能力在國(guó)家安全方面擁有巨大潛力，如機(jī)器學(xué)習(xí)技術(shù)可使衛(wèi)星圖像分析和網(wǎng)絡(luò)防御等勞動(dòng)密集型活動(dòng)實(shí)現(xiàn)高度自動(dòng)化。未來(lái)的AI技術(shù)有可能與核武器、飛機(jī)、計(jì)算機(jī)和生物技術(shù)一樣，成為給國(guó)家安全帶來(lái)深刻變化的顛覆性技術(shù)。AI的每一種技術(shù)都為美國(guó)國(guó)家安全機(jī)構(gòu)的戰(zhàn)略、組織、優(yōu)先事項(xiàng)和資源分配帶來(lái)重大變革，其未來(lái)影響力至少可與核武器比肩。
AI技術(shù)對(duì)國(guó)家安全的具體影響
在軍事方面，AI的發(fā)展將產(chǎn)生新的能力，并使現(xiàn)有能力成本被更廣泛的行為體所接受，AI催生的商業(yè)可用技術(shù)(如遠(yuǎn)程無(wú)人機(jī)包裹運(yùn)送等)可能會(huì)使弱國(guó)和非國(guó)家行為體獲得遠(yuǎn)程精準(zhǔn)打擊能力。在網(wǎng)絡(luò)領(lǐng)域，目前需要大量高技能勞動(dòng)力的活動(dòng)(如先進(jìn)持續(xù)性威脅行動(dòng)等)未來(lái)可能會(huì)實(shí)現(xiàn)高度自動(dòng)化，并在黑市上廣泛出售。在信息優(yōu)勢(shì)方面，AI將大幅提升數(shù)據(jù)收集、分析以及建立數(shù)據(jù)的能力。在情報(bào)行動(dòng)中，意味著有越來(lái)越多的信息源可供分辨真相;相應(yīng)的，制造偽情報(bào)也變得更加便利。但同時(shí)，借助AI技術(shù)，偽造音視頻媒體的質(zhì)量迅速提升，同時(shí)成本迅速下降。在經(jīng)濟(jì)方面，AI的發(fā)展可能會(huì)帶來(lái)一次新的產(chǎn)業(yè)革命，將重新塑造世界經(jīng)濟(jì)中的勞資關(guān)系。
變革性技術(shù)案例帶來(lái)的經(jīng)驗(yàn)
該機(jī)構(gòu)分析了之前的核、航空航天、網(wǎng)絡(luò)和生物技術(shù)4個(gè)變革性軍事技術(shù)案例，從中提取出以下幾條可用的經(jīng)驗(yàn)和教訓(xùn)：激進(jìn)的技術(shù)變革催生全新的政府政策及思想，世界各國(guó)政府將考慮甚至部分國(guó)家將采取相當(dāng)激進(jìn)的政策措施;AI在戰(zhàn)爭(zhēng)和間諜活動(dòng)上的擴(kuò)展應(yīng)用是不可避免的，但必須設(shè)立更加溫和的目標(biāo)，對(duì)AI技術(shù)進(jìn)行安全有效的管理;必須認(rèn)識(shí)到AI技術(shù)固有的軍民兩用性，對(duì)突破性技術(shù)進(jìn)行保密和保護(hù)，擴(kuò)展民用顛覆性技術(shù)的分類(lèi)和認(rèn)證流程，限制商業(yè)公司向海外出售技術(shù);應(yīng)考慮成立正式的研發(fā)管理機(jī)構(gòu);應(yīng)考慮確立AI軍事情報(bào)應(yīng)用的技術(shù)投資組合，建立長(zhǎng)久的技術(shù)優(yōu)勢(shì)。
報(bào)告建議：
報(bào)告對(duì)美國(guó)政府有關(guān)AI技術(shù)的國(guó)家安全政策提出3項(xiàng)目標(biāo)和11項(xiàng)建議。
維持美國(guó)的技術(shù)領(lǐng)先優(yōu)勢(shì)
國(guó)防部應(yīng)開(kāi)展以AI為核心的軍事演習(xí)，以甄別潛在的顛覆性軍事創(chuàng)新;國(guó)防部應(yīng)資助以人工智能技術(shù)及影響為主題的各種長(zhǎng)期戰(zhàn)略分析;國(guó)防部應(yīng)優(yōu)先考慮能夠提供可持續(xù)優(yōu)勢(shì)并降低核心風(fēng)險(xiǎn)的AI研發(fā)投資領(lǐng)域;美國(guó)防情報(bào)界應(yīng)大力投資“反AI”的進(jìn)攻和防御能力。
支持AI技術(shù)用于和平目的
DARPA、IARPA、海軍研究辦公室和國(guó)家科學(xué)基金會(huì)應(yīng)增加與AI相關(guān)的基礎(chǔ)研究經(jīng)費(fèi);國(guó)防部應(yīng)發(fā)布關(guān)于A(yíng)I軍民兩用能力的信息征詢(xún)書(shū);向美國(guó)In-Q-Tel公司(專(zhuān)門(mén)服務(wù)于中央情報(bào)局)提供更多資源，促進(jìn)國(guó)家安全機(jī)構(gòu)和AI商業(yè)公司的合作。
管理災(zāi)難性風(fēng)險(xiǎn)
國(guó)家安全委員會(huì)和國(guó)務(wù)院需研究美國(guó)應(yīng)利用條約的形式限制哪些AI應(yīng)用;國(guó)防和情報(bào)部門(mén)應(yīng)設(shè)立專(zhuān)門(mén)的AI安全機(jī)構(gòu);DARPA應(yīng)為AI系統(tǒng)自動(dòng)防故障和安全運(yùn)行技術(shù)研究提供資金;國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院和國(guó)家安全局應(yīng)探索防AI造假技術(shù)方案。
京公網(wǎng)安備 11010502049343號(hào)