近日，根據“2019財年國防授權法案”批準，美國成立了人工智能國家安全委員會。這是今年美國繼國防部組建聯合人工智能中心后，在國家安全領域成立的又一個更高層次的人工智能專門咨詢機構。按照要求，該委員會將采取必要的方法和手段，推動美國人工智能、機器學習和相關技術的發展，全面滿足美國國家安全和國防需要。此舉意味著，美國將人工智能的軍事應用進一步提升到國家安全的戰略層面。

據悉，此次成立的美國人工智能國家安全委員會由美國眾議院武裝部隊新興威脅與能力小組委員會提議成立，由15名成員組成。該委員會的使命是著眼于美國的競爭力、國家保持競爭力的方式，以及需要關注的“道德問題”，審查人工智能、機器學習開發和相關技術的進展情況。具體職責包括：考察人工智能在軍事應用中的風險以及對國際法的影響;考察人工智能在國家安全和國防中的倫理道德問題;建立公開訓練數據的標準，推動公開訓練數據的共享。

從國家安全的戰略層面出發，美國推動人工智能技術發展的目的在于始終保持技術引領和優勢地位的戰略態勢。9月7日，美國國防部高級研究計劃局在成立60周年大會上，宣布將投資20億美元推動人工智能領域的發展。以國防部高級研究計劃局為代表的技術研究機構對人工智能的研究早已不再局限于人們熟知的無人系統，而是諸如“機器如何獲得類似人類的溝通和推理能力”等方面更深層次的機理研究。

同時，美國還特別強調在人工智能領域保持對潛在對手的優勢地位。美國國防部常務副部長羅伯特·沃克曾表示，“人工智能是當前美國國防戰略的主要組成部分，目的在于重塑美國的軍事技術優勢。”

在這兩方面因素的推動下，美國政府不斷加大在人工智能領域的投資力度。今年年初公布的《國防戰略報告》就明確提出，將向自主技術、人工智能和機器學習等軍事應用注入更多資金，加快吸收商業領域突破性技術，以獲取軍事競爭優勢。按照計劃，美軍將在2019財年投入137億美元，支持包括人工智能、無人系統在內的尖端技術研發創新。

隨著對人工智能研究的深入，美國在充分開發人工智能技術優勢的同時，也開始關注到人工智能可能帶來的技術風險和應用威脅。10月10日，美國陸軍訓練與條令司令部發起了一項“瘋狂科學家”的調查活動，專門探討人工智能在未來戰場上的影響。在收到的115名參與者提交的意見書中，形成了8個方面的意見。其中一個方面專門指出需要對抗人工智能帶來的風險，即人工智能支持的數據和算法容易受到欺騙、降級或其他形式的顛覆。其中，致命的自主性則是最受關注的問題。

今年7月，智庫新美國安全中心發布報告認為，人工智能技術的未來不可限量，但是目前仍然不成熟，存在4個方面的隱患：一是機器可能作弊，即人工智能系統可能在違背人類設計本意的情況下去完成任務;二是機器也有“偏見”，即在數據保障不充分的情況下，人工智能系統的錯誤反應可能會造成災難性后果;三是AI的思考過程是個謎，即人工智能有一部分行為是不為人類所理解的;四是人機互動失敗，即設計師與用戶之間的差異可能造成人機互動失敗而帶來風險。美國蘭德公司今年年初在一項研究中警告說，軍事人工智能系統在分析局勢時出錯的可能性將會導致各國作出輕率的、潛在的災難性決定。

為此，美國開始認識到人工智能不僅是一個領域(尤其是軍事領域)的應用問題，而應在政府層面有所規劃。今年9月，美國眾議院監督和政府改革委員會信息技術小組在發布的《機器的崛起》報告中指出，人工智能有可能以預期和意料之外的方式擾亂社會的每一個部門。鑒于這種潛在的危險，聯邦政府必須解決人工智能帶來的不同挑戰，包括其當前和未來的應用。而這一理念在軍事技術上的直接體現，就是保持對某些任務的控制權。美國國防部高級研究計劃局目前正在開發一種合作自主系統，確保人類可以實現“進入決策”，即機器是自主的，但需由人類監督。可見，美軍也意識到，無論人工智能有多先進，也不能把戰爭完全交給機器。