執政8年，奧巴馬親眼見證了黑客成長為往屆總統都從未見識過的巨大威脅。美國情報和司法機構處理了各種各樣的黑客事件，從2009年的谷歌被黑，到這次大選中俄羅斯人的各種搗亂。因此，奧巴馬終于學會了制敵機先。這其中就包括為看起來像是科幻小說的各種可能性做好準備。比如說，機器學習訓練的人工智能(AI)被賦予盜取美國核武器代碼這種事。
在麻省理工學院(MIT)媒體實驗室主任喬伊·艾拓和《連線》雜志主編斯科特·達迪奇的獨家采訪中，奧巴馬表達了對AI潛在危險的擔憂。在黑客能盜取560萬聯邦雇員指紋或締造現代版水門事件的時代，他擔心先進的對手是否會利用AI來滲漏政府最敏感的系統。
可能會有這么一個算法，能滲透核代碼，找出發射核彈的方法。如果這就是算法的唯一任務，如果算法是自適應的，而且僅僅是一個非常有效的算法，那麻煩就大了。
人工智能黑客或黑客工具這種想法，不僅僅是一種預言。五角大樓的國防高級研究計劃局(DARPA)就正在研制AI攻防軟件。今年夏天的Defcon大會DARPA挑戰賽上，該機構讓AI系統捉對廝殺，比拼實時查找、利用、修復軟件安全漏洞的能力。
奧巴馬稱，AI攻擊的可能性并不代表著網絡世界末日，但確實需要加強美國對所有黑客的防御，無論是人類黑客還是機器黑客。“我對國家安全團隊的指令是，不用太擔心機器顛覆世界，擔心一下非國家黑客或敵對黑客滲透系統的能力比較靠譜。從這個意義上講，我們現在做的很多網絡安全工作并沒有概念上的不同。僅僅是說我們需要做得更好，因為部署這些系統的人現在就要好得多。”
奧巴馬警告的那種基于機器學習的AI，已經被部署在了網絡安全世界——雖然僅僅用于防御，而不是攻擊。
開發人員長久以來一直在用機器學習——以樣本數據訓練軟件代碼的“自學習”過程，來磨煉垃圾郵件過濾器和識別惡意軟件。但另一方面，對防御堅固系統造成嚴重威脅的真正自動化的攻擊性黑客AI，可能還有好幾年的路要走。
不過，研究人員已經勾勒出機器學習會被如何利用來攻擊這些基于機器學習的系統，而DARPA挑戰賽第一次展示了計算機可以使用AI來狩獵對手代碼中可供利用的漏洞，進而入侵另一臺機器。
在《連線》的專訪中，總統稱他對網絡安全的思考，并不是站在對黑客進行邊界防御的立場，而是要建立清除內部威脅的免疫系統。網絡安全行業越來越多地聚焦在響應而不是防止——將高級黑客全部擋在網絡外面是不可能辦到的。“傳統上，當我們思考安全和自我保護時，我們想的都是盔甲和城墻。但逐漸地，我們發現自己正看向機器，然后想到病毒和抗體。網絡安全為什么一直如此之難的部分原因，就在于該威脅不是朝你駛來的滾滾坦克洪流，而是一大堆可能被蠕蟲侵入的系統。”
奧巴馬將該方法與另一大國家安全威脅相提并論：流行病。“護墻是攔不住致命流感病毒飛入國境的。我們要做的，是打造各種系統，讓疫苗更加聰明。”
奧巴馬謹慎指出，所有這一切，僅適用于作為高度進化的工具而被使用的專門AI威脅，不滿足更幻想性的完全自治AI情形——有自己的意識和動機但很可能不與人類為友的AI。對這種電影里“天網”類型的威脅，奧巴馬開出的處方很接地氣：“放個人在電源旁邊，看到不妙的跡象就拔插頭吧伙計。”
京公網安備 11010502049343號