從歷史的角度我們需要回答一個問題,即人工智能時代,國家權力的關鍵要素會是什么樣子。如前所述AI是一種通用技術,更類似于內燃機或電力而不是核武器。電力幾乎為軍事技術的各個方面提供了能力和改進。其中一些是革命性的,例如無線電和雷達,有些僅僅是改良性的,例如用電子引信代替燃燒的保險絲。與電力一樣,狹義人工智能技術的采用將提供影響經濟和軍事力量的各種能力。內燃機的發明及其在全球軍隊中的使用,使得安全的石油供給能力成為國家力量的關鍵要素。人工智能時代國家權力的關鍵要素是什么?目前也許很難給出確切回答,但可能包含以下有幾種:
1.擁有大量正確類型的數據。目前最強大的機器學習技術(如深度學習)需要大型數據集才能實現。因此掌握較大數據集的組織在開發優質應用程序方面具有優勢。出于這個原因2017年5月經濟學家封面故事指出,數據已經取代石油作為“世界上最寶貴的資源。” 但AI和石油之間的類比并不完美。煉油技術或多或少使所有石油的價值等同,但數據不是這樣。數據類型的正確性取決于應用程序的需求,如果人們試圖開發一種狹義人工智能系統來識別衛星圖像中的物體,那么擁有大量手機用戶數據的人就沒有價值。人工智能將增強那些能夠識別,獲取和應用具有高經濟和軍事價值的大型數據集的國家力量,以開發高性能的AI系統。
2.培訓,維持和啟用人工智能人才庫。高級人工智能系統開發所需的人力資本技能目前比較稀缺。現有AI技術的應用遠比熟練的程序員要多得多。因此最近AI博士學位的起薪已經達到每年30萬至50萬美元甚至更多。制定教育,培訓和移民政策,以招募和培訓來自本國和其他國家的頂尖人才的國家將具有優勢。
3.計算資源。機器學習需要大量計算資源來訓練機器。這很昂貴且需高科技支持。但資源較少的國家和地區可以利用訓練成熟的系統,這意味著一些人工智能技術可能會更容易向弱者擴散。然而擁有更多計算資源的組織將在構建原始的,尖端的AI系統方面具有優勢。
4.激勵和協調有效采用人工智能的組織。僅僅開發最先進的人工智能系統并不足以確保國家權力的持久優勢。如果公司和政府組織缺乏可以使用它的人,沒有使用它的有效策略,不善于培訓,那么技術本身的效用就很有限。美國頂尖的科技公司都已宣稱“用人工智能重塑企業”,歷史表明組織變革對于轉型成功至關重要。
5.公私合作。目前為止人工智能的主要參與者是私營部門公司,而不是政府。為了政府有效利用人工智能技術以確保國家安全,需要能夠利用私營公司的創新。中國在公私合作方面相比美國具有重要優勢,中國的軍民融合模式與五角大樓和硅谷之間的文化鴻溝形成了鮮明對比。
6.行動的意愿:各國選擇監管,限制在特定領域使用人工智能,優先考慮隱私或其他價值而不是效率優先。例如一些國家正在制定復雜的法規,限制以隱私為由使用健康數據,雖然這樣做可能會使這些國家在保護公民權利方面受益,但在限制使用人工智能應用程序方面可能需要權衡。如何發揮其作用以及對國家力量的影響(經濟和軍事的)都是懸而未決的問題。
AI是軟件還是硬件?
技術如何傳播通常取決于他人在復制該技術時的易用性。軟件通常比硬件更容易擴散,這既是因為商業激勵可以推動軟件創建,也因為創建新軟件所需的人才庫甚至可以存在于非主要軍事生產國,例如亞洲的發達經濟體。
當前機器學習AI的大部分革命都是大量數據集的可用性和足夠強大的計算硬件來處理它們的結果。
人工智能國家權力的關鍵要素,與將其視為軟件還是硬件息息相關。在某些方面,AI代表軟件,它不是航空母艦或機動車,它不是一件物理設備。特別是在訓練算法之后,AI也被實現為一個軟件。但將AI僅僅視為軟件就太簡單了。
近幾十年來,計算硬件已經變得越來越商品化,使得具有多種不同數據類型的數據中心具有相對類似的硬件。人工智能技術是一個值得注意的例外,目前使用的大多數最流行和最強大的機器學習技術(例如深度學習)是非常計算密集的。實際上機器學習當前的大部分革命,都是足夠強大的計算硬件來處理大量可用數據集的結果。
此外,AI算法傾向于支持相對較窄的數學計算集。因此其可以從使用更專業的計算機芯片(如圖形處理單元)中獲益,甚至可以從定制設計的芯片中運行AI算法。許多領先的軟件技術公司已經致力于此類芯片設計,以便從這種定制設計的AI硬件中獲益。
目前AI硬件有三個方面至關重要:
首先,給定AI算法的機器學習訓練時間可以通過先進的硬件顯著縮短。訓練時間可能會從幾周或幾天縮短到幾小時或幾分鐘。因此開發人員可以更快地運行實驗和開發原型。
其次,改進的硬件還可以降低功耗。機器學習培訓階段需要大量電力,電費通常可能是總成本的重要因素。
第三,一些尖端的機器學習應用程序是高度依賴算力,以至于它們目前無法離開重要的計算資源。
最后,計算速度的增加和功率的降低在最終用戶應用程序上具有明顯收益。例如許多智能手機現在擁有一個定制芯片,該芯片經過優化用以運行面部識別的機器學習算法。如果沒有這樣的定制芯片,這些應用會過快地耗盡電池。對于飛機或無人機上的物體識別AI系統也是如此。
這創造了一個有趣的潛在情況,即人工智能的重大進步需要硬件,而一旦完成算法的訓練,人工智能就成了容易擴散的軟件。人工智能的這一特性與人工智能技術社區的開放文化相結合,導致各種研究廣泛發布,并且可以在線免費下載經過培訓的人工智能模型。這種情況下AI是硬件還是軟件就會更加復雜,如果使用算法比訓練算法需要的硬件門檻低很多,那么全世界人工智能算法玩家的能力就取決于誰創建了這些算法,以及他們如何創建它。
人工智能國際競爭
美國只是人工智能領域的眾多參與者之一,許多國家正在采取措施確保其在人工智能方面的競爭力。前國防部副部長羅伯特·沃克和前英特爾首席執行官埃里克·施密特將這場人工智能世界領導者的比賽,與美蘇之間冷戰時的比賽進行了對比。
但人工智能開發與太空競賽之間的一個關鍵區別是,人工智能領域的競爭可能會更激烈。太空競賽從根本上說是兩極競爭,美國和蘇聯是世界上最強大的國家,也是唯一能夠抵近世界空間技術領導者的國家。而人工智能的競爭可能會更激烈,因為它將更加多極化和多元化。世界各國都希望成為人工智能的領導者,并在某些方面利用先進的信息經濟來獲得優勢,雖然美國和中國是人工智能的全球領導者,但許多其他國家正在大力投資。
以色列為軍事和商業目的大力投資人工智能。作為人口相對較少但資本豐富國家,以色列將從人工智能技術中取得事半功倍的效果。
俄羅斯正在投資人工智能和機器人技術,盡管在軍事領域比其他任何地方更集中。這些舉動表明,俄羅斯的投資正在遵循弗拉基米爾普京2017年的聲明,即“人工智能是未來,不僅是對俄羅斯,對全人類而言。它帶來了巨大的機會,但也有難以預測的威脅。無論誰成為這個領域的領導者,都將成為世界的統治者。”
新加坡在人工智能投資方面處于領先地位,利用其作為技術中心的作用來吸引投資。
韓國不僅投資于人工智能的商業應用,而且還使用基于算法的系統來幫助監控非軍事區。
這些投資模式表明,人工智能在資本密集型國家特別能夠獲得受益。考慮到AI允許公司或政府用資本替代勞動力,已經擁有領先技術部門的國家已準備好受益。因此人工智能系統可能為以色列和新加坡等國家提供最大的相對優勢,這些國家可以從技術變革中受益最多,這些變革可能會帶來更加低勞動力依賴的經濟。
美國只是人工智能領域的眾多參與者之一,許多國家正在采取措施確保其在人工智能方面的競爭力。
公平地說,美國和中國都有一些可以實現領先的優勢。美國擁有世界上最好的大學系統和學術界最先進的AI研究人員。盡管商業和軍事領域的溢出效應可能很慢,但這有助于保證美國技術領先地位。像谷歌這樣的美國公司也已經擁有大量的數據,這使得他們比競爭對手從頭開始生成機器學習算法更容易。中國同樣可以獲得大量數據,特別是因為國家對互聯網的控制意味著中國可以以比美國更系統為訓練算法收集數據。
教育政策日益成為人工智能時代的國家安全焦點。中學和大學趨勢是支持科學,技術,工程和數學(STEM)而不是人文科學,這種趨勢可能在人工智能時代加速。擁有強大科學家,數學家和工程師隊伍的國家,將更好地準備在全球舞臺上競爭,推進人工智能的前沿和設計新的人工智能應用程序。
人工智能領先地位的競爭將對國際政治產生重大影響。從軍事角度來看,在人工智能技術競爭中處于領先,對于創建和部署有效的軍事力量可能越來越重要。而競爭越激烈,人們就越需要重視人工智能在安全方面的問題。隨著國家和公司認為成為先行者將具有很大的優勢,他們渴望成為第一梯隊,各國可能會舍棄安全性和可靠性問題,競相降低安全門檻的競爭將增大人工智能引發事故的可能性。
美國人工智能戰略
與中國不同,美國目前沒有針對如何處理人工智能的國家戰略。在奧巴馬執政的最后一年,白宮發布了幾篇旨在使美國走向更加連續的人工智能政策的論文。這些報告涵蓋了從監管到創新再到偏見的各種問題,推動了科學家與政府官員之間的一系列對話。我們認為現在采用這些關鍵原則的恰恰是中國而非美國,中國的人工智能戰略體現了奧巴馬政府報告中的關鍵原則。
與中國不同,美國目前沒有針對如何處理人工智能的國家戰略。
特朗普政府已開始考慮如何處理人工智能問題。美國國防部在國防創新咨詢委員會和國防科學委員會的警告下,似乎有興趣更系統地確定如何整合人工智能。在國家政府層面,特朗普政府最初認為他們正在利用幕后資源來支持美國在人工智能方面的創新。然而最近特朗普召開的AI峰會指定了研發重點,并宣布將致力于確保美國在人工智能的世界領導地位。正式的國家人工智能戰略雖然不是靈丹妙藥,但可以倡導政策導向變化,以更好地利用人工智能提供的機會。至少國家戰略可以成為美國對人工智能創新承諾的象征,確保美國仍然是人工智能的領導者。
最近眾議院議員Elise Stefanik提出了旨在實現更加協調一致的美國國家人工智能戰略的立法。正如本報告所示,美國政府的問題不僅僅是軍事或經濟挑戰。任何成功的人工智能戰略都必須涉及多個政策領域,包括:
培育最初的人工智能投資
為未來的AI技術開發建立人才庫
建立行業領導地位
確定下崗工人的經濟政策選擇
考慮政府在軍隊內外使用
評估使用AI的道德和道德問題
應對算法偏見的挑戰
任何成功的人工智能政策都會與一些列政策領域產生交叉。包括貿易,教育,福利,軍事等。技術創新與政府內外對其使用的差距,是國家人工智能政策的最佳切入點。美國的市場力量足以產生可以使企業處于最前沿的技術創新。但創造尖端技術并不能保證政府能有效地實施這些技術,或者政府會制定法規來確保安全使用。
對權力平衡的影響
預測總是很困難,特別考慮到全球經濟和國際體系等復雜和互動的環境時。國家權力在很多方面來自經濟權力與軍事力量的交叉,盡管隨著時間的推移,強大的經濟基礎對于維持軍事優勢是必要的。
作為未來經濟成功的關鍵推動因素,人工智能的領先地位可能對宏觀的權力平衡和國際競爭至關重要。這意味著幾件事:
首先,那些擁有AI特定用途公司的國家將具有顯著的經濟優勢,特別是對于其他人難以復制的大型算法。先發優勢很大程度上取決于AI創新被復制的難易程度。換句話說這將取決于商業AI應用和軍事AI應用之間的相似程度。人工智能在軍事領域的應用越具有明顯商業適用性(如圖像識別),世界各地的公司發明類似技術的動機就越高,能力傳播的速度也就越快。人工智能在軍事領域的應用越廣泛,越容易使其在更長時間內不受競爭對手影響,從而產生更可持續的先發優勢。
其次,人工智能對國家經濟和軍事力量的影響,可能在很大程度上取決于政府如何對待狹義人工智能。很少有國家能在基礎技術類別中獲得可持續優勢,也很少有國家能從技術本身中獲取決定性勝利。隱身飛機技術是第二次抵消戰略的產物,它可能是為數不多的例子,這種技術被其他技術“孤立在外”,以至于美國獲得了幾代人的長期優勢。而與特定的軍事技術相比,大規模使能技術則不是這樣,這一點在諸如內燃機或電力等技術創新中尤其明顯。
因此,最有可能在人工智能革命中取得長期優勢的國家將是那些因此獲得經濟成功的國家,并且能夠以將AI能力應用于優化其軍隊戰斗和贏得戰爭,哪怕是這些應用對組織和官僚主義上具有破壞性。而人工智能的領先國家不僅要利用人工智能的優勢,還應具備應對它造成的社會破壞的能力。
國別案例
(介紹了中國、印度、俄羅斯的現狀,篇幅關系略)
結論
本報告建議美國政府與私營部門合作,采取一系列廣泛的行動,為應對人工智能所帶來的挑戰做好準備。
戰略:為了應對未來的挑戰,美國需要一項國家人工智能戰略,以利用人工智能的優勢,同時減輕其破壞性影響。
研發(R&D):美國應以現有的國家AI研發計劃為基礎,根據AI的技術發展更新計劃,建立有效執行的指標和流程,并專門投資制定國家安全AI研發計劃。
資金:美國政府應該通過不可能由私營部門資助的獨特國家安全應用來增加對人工智能研究的投資。為支持這一努力,管理和預算辦公室應制定跨領域指標,以評估各機構的人工智能資金水平以及該資金的有效性。
收購:美國應擴大政府不同部門的新努力,如國防部的Project Maven,并建立一整套政府計劃,以便在政府機構快速整合人工智能工具。這應包括打破創新障礙,使政府更容易快速整合新興技術。
安全:美國政府應增加對人工智能安全的投資,以改善在國家安全環境中建立強大,可靠和可解釋的人工智能系統的前景。由于許多當前的人工智能方法存在嚴重漏洞,美國應將對抗操縱的安全性和穩健性作為其納入人工智能技術的關鍵要素,并在部署之前使用“紅隊”來測試人工智能工具。
指標:美國政府應制定一項綜合計劃,以衡量,評估和跟蹤國際人工智能能力的進展,以及人工智能在國際體系中向各種行為者的傳播。這將降低戰略意外的風險,并幫助政策制定者為國家和非國家行為者對AI的潛在惡意使用做好準備。
教育:在人工智能時代,發展適當的人力資本對于經濟和軍事領導至關重要。投資STEM教育將繼續成為美國國家安全的首要任務。投資商科學校和在美國境內培養編程人員和專業人員,可以幫助確保美國仍然是全球人工智能領導者。政策制定者必須幫助工人為向人工智能經濟過渡做準備,應將教育目標重新定位為與自動化相輔相成。
移民:美國政府應該采取移民政策,鼓勵全球頂級人工智能人才來到美國并留下來,為美國人工智能人才庫提供支持,并提升美國整體經濟競爭力。
數據:美國應制定適當的法規來管理用于人工智能目的的數據的收集,存儲和使用。數據是有助于為先進的狹義AI系統供電的燃料。數據法規必須平衡一系列相互競爭的利益:個人隱私和保護,經濟競爭力,激勵創新和國家優勢。
競爭:美國應采取適當的改革措施,以保護人工智能的重要國家優勢,包括保護知識產權免遭盜竊,限制敏感技術的出口,以及對美國外國投資委員會進行立法改革。
規范:美國應該與志同道合的盟友合作,率先制定國際規范和原則,以便在國家安全環境中安全和負責任地使用人工智能。