距離建議的提出還不到兩年，五角大樓已經將這一想法轉變為現實。6月27日，國防部副部長帕特里克·沙納漢發布了一份備忘錄，正式成立國防部新的聯合人工智能中心(JAIC)。根據這份備忘錄，JAIC的首要目標是加快國防部交付人工智能的能力，擴大人工智能對整個部門的影響，并使國防部的人工智能活動與之同步。為此，JAIC將指導被稱為“國家使命計劃”的大規模人工智能項目的實施，這一項目“旨在解決一系列緊迫的、相關的挑戰。”此外，“國家使命計劃”——以及國防部對云技術的采用——將被用于使整個國防部具有能夠快速交付人工智能的能力。JAIC還將作為一個平臺，改善國防部與包括私營企業和學術界在內的外部各方在與人工智能相關的項目上的合作。
值得注意的是，JAIC的工作重點還將包括倫理、人道主義方面的考慮，以及短期和長期的人工智能安全。根據五角大樓國防創新單元實驗的機器學習負責人布倫丹麥科德的說法，這些問題將反映在建立人工智能防御原則的過程中，這些原則將在多個利益攸關方的共同參與之下才能制定。盡管JAIC的工作范圍目前尚不清楚，但它的這個特殊維度在實現五角大樓的人工智能目標方面可能扮演著重要的角色。
以透明的方式開發、制度化和交流人工智能防御原則不僅可以降低人工智能系統的操作風險，還可以通過使五角大樓更好地訪問和整合美國的人工智能創新資源，來提高美國的國家安全。如果五角大樓此前打算建立透明的指導方針，并為開發和部署人工智能系統制定紅線，人工智能研究人員和公司可能更愿意與之合作。在全球范圍內，如果JAIC證明自己對人工智能的安全意識和倫理方法不會危及國家安全，而是更好地維護國家安全，JAIC可以作為其他尋求類似技術的國家的重要模式。
為什么華盛頓需要JAIC?自冷戰結束以來，美國在國際秩序中享有幾乎無可匹敵的超級大國地位，美國國力的一個重要支柱是其遙遙領先的軍事技術優勢。然而，過去支撐美國軍事優勢的技術，如精確制導武器，已經通過全球化技術轉移的力量擴散到了競爭國家手中。這些競爭國家隨后發展出了越來越多的能力，挑戰美國的軍事霸權。
為了保護和擴大美國在未來的軍事優勢，美國防部已經把賭注押在了人工智能上。該部門的第三個抵消策略中提出了一種方法，旨在“利用人工智能和自主性的所有發展，并將它們嵌入到國防部的戰斗網絡中。”(美國認為自身軍事優勢正在被逐步削弱。為奪取新一輪大國軍事競爭的絕對優勢地位，從2012年逐步走出伊拉克和阿富汗反恐戰爭泥潭的美國，于2014年推出以“創新驅動”為核心、以發展“改變未來戰局”的顛覆性技術群為重點的第三次“抵消戰略”。)人工智能在軍事領域的潛在應用是多種多樣的，從提高物流系統的效率到比如先進武器系統的自動化指揮和控制這樣更敏感的任務。2018年國防戰略預測人工智能可能會改變戰爭的性質。因此，用沙納漢的話來說，美國“必須大膽果敢地追求人工智能應用”。
美國國防部在人工智能方面的雄心壯志所面臨的一個主要挑戰是，目前開發和部署尖端人工智能技術的能力幾乎完全被私營科技公司所壟斷。目前，美國的商業化人工智能產業在全球都處于領先地位，這一地位的衡量標準包括硬件設計和最優秀的人工智能研究人員的集中程度。反過來，五角大樓一直在努力發展自己的研發能力，即將趕上私營企業的發展腳步。美國國防部逐漸意識到了適應現實的必要性，在歷史上，軍方一直是改變游戲規則的技術的搖籃，而現在，國防部不再是美國這一技術基地取得進展的焦點。相反，軍方的技術戰略越來越依賴于由商業參與者開創和控制的技術基礎。
對于國防部來說，由于硅谷和華盛頓之間的“文化沖突”，國防部對私營企業的人工智能資源的獲取變得復雜。這種關系的一個因素是，“硅谷價值觀”會因為與軍方的接觸而受到影響，因為他們是客戶、出資人，甚至是支持者。這種對抗的力量令人驚訝——考慮到在硅谷的早期，國防部既是高科技公司的主要投資者同時也是客戶。事實上，與國防部的關系是科技公司在競爭中獲取勝券的必要動力。雖然早期采取這樣的合作形式，今天的分歧仍然存在。
美國國防部最近努力讓谷歌參與人工智能的部署，這也突顯了硅谷與華盛頓之間的這一鴻溝。當谷歌參與的項目Maven——一項旨在對無人機收集的視頻進行自動化分析的計劃——在今年早些時候公開時，這一消息在公司內外引發了一場重大爭議。數千名谷歌員工在一封公開信中抗議該公司參與“戰爭業務”，并呼吁該公司退出該項目。幾名員工就此辭職。谷歌最終決定不再續簽合同，并迅速發布了一套人工智能原則，以平息公眾對此的強烈反對。這一失敗預示了一場可能會持續的沖突——在這種沖突中，像谷歌這樣的私營企業被夾在與人工智能的武器化不一致公共的價值觀，和他們想要從國防部身上尋求更多商業機會的動機之間。
文化沖突的第二個維度涉及到硅谷和國防部在創新和運營上的不同速度。顯然，私營部門研發周期的加速與傳統的軍事采購過程在速度上形成了鮮明的對比，傳統的軍事采購過程往往持續數年。更具體地說，要想跳過國防部冗長的官僚程序所需要的大量時間和資源，是許多公司不愿承擔的成本。這就是說，國防部已經多次嘗試在收購中表現得更加靈活，以增加與私人企業合作的機會。迄今為止，這些努力取得的結果好壞參半。
最近的一項倡議是2015年國防創新單元實驗的基礎——這是前國防部長阿什頓·卡特的心血結晶，其辦公場所位于美國關鍵的創新中心。國防創新試驗單元的目標是重建國防部和商業技術公司之間的關系，并迅速滿足部門的需求，并提供適當的技術解決方案。為此，該部門引入了所謂的“商業解決方案開放獎勵機制”，這是一個快速、靈活的合同程序，允許國防部以私營企業的速度工作。雖然有些人質疑該部門的有效性和必要性，但也有人贊揚了該計劃，稱這正在改變部門的商業行為，并改善與私營企業的合作。
那么，JAIC能幫助克服目前美國的挑戰嗎?雖然五角大樓對JAIC的具體計劃和行動只公布了有限的細節，但從該計劃的高級命令來看，它可以為人工智能防御戰略奠定基礎，從而解決目前在結構和文化上阻礙國防部的挑戰。JAIC的主要職責似乎集中于組織和簡化基礎設施，以便美國軍方能夠更有效、更有力地調動人工智能的力量。JAIC將領導執行國家使命計劃——在各軍事部門和服務部門、參謀長聯席會議、作戰司令部和國防部的其他幾個部門之間進行協調。JAIC目前建立的備忘錄強調，需要開發全部門的工具、技術和流程，為實現國家的人工智能目標建立一個共同的基礎，而該部門正在發出信號，表明JAIC將是領導這類努力的實際機構。
在這種情況下，JAIC似乎至少在一定程度上是為了在美國眾多的聯邦機構之間建立一種更一致、更協調的努力，這些機構均致力于人工智能的整合。通過集中和標準化對人工智能應用程序的核心輸入，例如共享數據和協議，JAIC可以大大降低開發和部署人工智能的成本。此外，如果這些改進延伸到進一步改革技術收購的過程中，理論上來說，JAIC可以降低與政府合作的私人人工智能公司的交易成本，從而使這些商業主張更具吸引力。
然而，效率的提高不足以完全解決美國政府在實現人工智能宏圖偉業的路上的障礙。為了鼓勵聯邦機構和領先的人工智能公司和研究人員之間的富有成效的關系，JAIC——以及國防部更廣泛的人工智能戰略所涉及到的其他機構和部門——將需要可靠地承諾以不違背倫理和安全的方式來處理人工智能的發展和部署。這對于確保私營企業和學術界的合作至關重要，也對于美國軍方在國際舞臺上保持信譽和誠信至關重要。
在與私營企業合作的過程中，最近的爭議突顯了一個事實，即人工智能研究人員和私營企業領導人將道德和安全視為不可逾越的底線。Maven項目只是表明私營企業與政府機構的緊張關系還遠未得到解決的眾多跡象之一。亞馬遜和微軟最近因向移民和執法機構出售支持人工智能的面部識別軟件而受到抨擊。最近，未來生命研究所(Future of Life Institute)在一封信中呼吁各國政府禁止使用致命的自動武器，它獲得了包括Element AI和谷歌旗下的DeepMind在內的幾家領先的人工智能公司的支持。這封信還得到了眾多人工智能研究人員的簽署支持。
人工智能公司和研究人員正面臨著一個決定性的挑戰——何時與國家安全部門合作?又要如何與之合作?一些人認為，全面抵制是唯一的出路。另一些人則認為，人工智能與軍方的整合是不可避免的，因此，他們的任務是在道德的基礎上實現人工智能的整合。如果美國政府未能在道德和安全方面闡明原則立場，國防部和人工智能私人企業將無法實現合作。然而，如果JAIC成為了對道德和安全進行承諾的先驅，它可能會帶來新一波與私營企業進行的合作——這基于對人工智能應該和不應該被美國部署利用的一種常見理解。
在國際舞臺上，JAIC同樣提供了一個重要的機會，讓美國向其他國家發出信號，表明其在開發和部署的人工智能系統的可靠性和安全性方面的承諾。在美國軍事機構中還存在著強大的安全規范的先例，尤其是在海軍潛艇、航母甲板操作員和宙斯盾武器系統操作人員中。因此，以安全為導向的人工智能整合方法是美國軍事行為的自然延伸——而且將是必要的，盡管這具有挑戰性。領先的人工智能研究人員已經發現了許多現代機器學習系統仍然缺乏穩定性——因此，它們很容易導致人類設計者無法預見的事故。使用者是美國軍方的情況下，這種風險有時會產生嚴重的后果。而這種錯誤可能會隨著部署技術系統的復雜性的提高而變得更加普遍。
因此，美國軍方應該優先考慮減輕與人工智能支持的系統的意外后果相關的風險，并為追求采用其他類似技術的軍隊設定一個標準。很有可能的是，在安全意識上的要求會普遍為其他國家所接受，并將有助于與加拿大和歐盟等國家建立富有成效的聯盟，他們在各自的人工智能戰略中都強調了倫理和安全的重要性。這種做法也可以降低美國和各國之間的競爭態勢將演變為“競相爭先”的風險，即每個國家都在加強其人工智能系統的安全性和穩定性方面走捷徑，以獲得相對于另一方的優勢，從而引發重大的意外傷害的風險。
就目前而言，JAIC是一個很好的平臺，它可以作為一種工具，表明美國在實現人工智能的過程中對道德和安全的可靠承諾。事實上，JAIC的核心任務之一就是與國防部長辦公室合作，為人工智能的開發和交付制定標準和治理框架。在建立JAIC的過程中，國防部已經發出了確保“堅守對軍事倫理和人工智能安全的承諾”的信號，因此JAIC作為美國國防部的一個重要組成部分，成為推動人工智能向前發展的一個焦點，這為美國提供了一個及時的機會，使其能夠清晰地闡述其符合道德倫理和其安全的人工智能實現之道。
京公網安備 11010502049343號