在劉慈欣的科幻小說《中國2185》中，除領土、領海、領空之外，還有一個被稱為電子領土的地方，這個地方除了容易受常規武器破壞外，還容易受到軟件武器的威脅。
軟件武器分為軟件病毒和軟件炸彈兩大類，其中軟件病毒是一種程序，它在電腦系統中遇到一個程序時，就把自己復制成兩份，其中一份進入到所遇到的程序中，以破壞這個程序，并隨著這個程序把自己傳染到電腦網絡系統的其它部分。軟件炸彈和軟件病毒類似，但它僅僅是在電腦系統中飛快地復制自己，使自己的數量以幾何級數增長，最后占敵方電腦系統的內存而使其系統癱瘓。
事實上，伴隨著人工智能技術的發展，AI病毒甚至比小說中描述的還要強悍。最近，IBM研究院在計算機安全大會BlackHat上展示了他們制造的惡意軟件DeepLocker。它“靜若處子，動若脫兔”，臥薪嘗膽18年也在所不惜，只有目標出現時才會精準發作。
普通病毒尚有招可應，AI病毒則致破壞于無聲
《神雕俠侶》中的楊過在石壁上發現了劍魔獨孤求敗刻下的字，其中有這么幾句：
「紫薇軟劍」三十歲前所用，誤傷義士不祥，悔恨無已，乃棄之深谷。重劍無鋒，大巧不工。四十歲前恃之橫行天下。四十歲后，不滯于物，草木竹石均可為劍。自此精修，漸進于無劍勝有劍之境。在這之中提到了三把劍：紫薇軟劍、玄鐵重劍、無劍。智能相對論(aixdlun)分析師雷宇認為，這三把劍可以預示電腦病毒發展的三個階段。
第一階段：紫薇軟劍，用劍作為“器”的性狀來發揮威力。
這一階段的代表是熊貓燒香病毒。熊貓燒香作為一種蠕蟲病毒的變種，2007年，在全國范圍流行，被感染用戶系統中所有.exe可執行文件全部被改成熊貓舉著三根香的模樣。雖然這款病毒能自動傳播、自動感染硬盤且破壞力大，但只要用戶及時下載更新殺毒軟件，或者一些殺毒軟件推出的專殺工具，就可以對熊貓燒香病毒進行查殺。
對于以“器”的形狀發揮威力的病毒來說，只要有更厲害的“器”，便可制服。
第二階段：玄鐵重劍，通過一些特定的招式驅動劍。
2017年5月，wannacry敲詐勒索病毒全球大規模爆發。被該勒索軟件入侵之后，用戶系統的圖片、文檔資源等都會被加密，同時桌面上會彈出勒索對話框，向用戶勒索一定數額的比特幣贖金。最周造成很多計算機用戶的重要資料丟失，損失巨大。事實上，WannaCry主要是利用Windows系統漏洞傳播，打上安全補丁就可以有效防范。
對于以特定招式發揮威力的病毒來說，只需要在招式上改進，功力精進倒也可以避免這種威脅。但是，AI病毒卻讓人防不勝防。
第三階段：無劍，以無劍勝有劍。
AI病毒可能掌握復雜和靈活的對抗樣本，“欺騙”殺毒軟件，“偷偷隱藏”，并不好對付。DeepLocker的針對性特別強，而且它隱藏在某些軟件中，用戶毫無知覺的將其下載。它可以通過人臉識別，語音識別，大數據分析等實現對用戶的偵測與分析，但是程序并不會顯示它正在進行某種操作。
一般目標屬性識別采取了復雜的DNN結構，目標屬性和密匙則被加密到了DNN中，只有通過DNN來判斷多個維度的目標屬性符合時，病毒才會啟動攻擊，不再“深藏功與名”。
實際上，AI病毒有點像掃地僧，看似不起眼，實則是以不變應萬變，要么不出招，要么放大招。
AI病毒也許猖獗，但AI對抗AI的“一出好戲”正在上演
Darktrace(中文或可譯為“白夜追兇”?)是一家市值超過8.5億美元的英國公司，主要采用人工智能方式來保障網絡安全。不僅能夠應對人類黑客的攻擊，而且還能搞定機器學習的威脅。該公司主推的一款產品名為“企業免疫系統( Enterprise Immune System )”，利用機器學習技術增強自身防御能力，把大部分網絡攻擊在追蹤過程中消滅掉。除此之外，以色列初創公司SecBI也相繼推出了更先進的機器學習和AI技術來大家網絡黑客襲擊。
AI病毒無孔不入，資產數據成“出頭鳥”
AI病毒最常見的行為就是對資產和數據的網絡敲詐，以下是針對49個組織的345個網絡安全預測。
數據來自文章《Cybersecurity in 2017: A roundup of predictions》，2017
物聯網的安全問題被排在了首位。工廠設備，醫院的核磁共振設備以及自動販賣機損壞時，需要及時修復，不然勢必會讓網絡黑客或AI病毒有機可趁，出現需要支付贖金才能恢復聯機的情況。同時需要及時備份數據，不然企業很可能會在數據恢復上再大費周章。
由于現階段對物聯網軟件和硬件的內部工作機制的了解非常有限，如果物聯網設備被盜用，很難說會發生什么。《物聯網安全》一書中曾提到，數據，無論是視頻、音頻、環境或其他敏感信息，往往都可以通過受入侵物聯網設備盜取出去，可能還會為犯罪分子提供組織有價值的信息來利用。
每隔不久我們就會看到不法分子盜取QQ甚至微信，騙取其好友錢財的消息，為什么這樣的事會屢禁不止呢?除了被害者缺乏安全意識，還有就是現在的手段越來越高階。比如AI病毒可以通過學習被攻擊對象的電子郵件，聊天記錄，語音等，模仿受害者的寫作風格和語音語色，從而進行詐騙。
也許在未來，對面和你語音，斗圖，侃房價的那個人，是想騙你錢的AI病毒。更可怕的是，你可能很難區分，畢竟前不久在谷歌開發者大會上亮相的語音助手就幾乎與真人無異了。
當AI病毒開始攻擊AI，AI還能“絕地反擊”嗎?
AI攻擊AI，往往會使人工智能系統精度下降最終使得輸入結果出現偏差。實際上，影響不僅僅在于把貓識別成老虎這樣的小事。更可怕的是，具有定源、定向攻擊的病毒誤導機器，比如在無人駕駛中，把長頸鹿識別成塑料袋，把綠燈識別為紅燈等。而這產生的后果不堪設想。
但在AI病毒攻擊AI之前，它也需要掌握一些“敵情”。主要有如下兩點：
1.數據。包括用于訓練網絡的訓練數據集、網絡結構(具體包含神經網絡的層數及類型)，神經元的激活函數、權重及偏置項矩陣等。
2.算法。“敵方”訓練數據以及訓練網絡時的算法細節。
我們知道，人工智能依然存在黑箱，在對人工智能進行攻擊的時候，不僅難以的得到對方的算法，也沒有辦法改變輸入結果，很難實現有效的攻擊。
但是，神經網絡固有的非線性結構使它們能夠生成更為復雜和更為靈活的對抗樣本，從而欺騙目標模型。因此，在未來，通過人工智能技術對抗人工智能的黑暗面已經成了行業發展的既定事實。
結論
回到開頭，小說描述的電子領土實際上已經得到了一定程度上的實現。我們當代人在互聯網上或多或少都有自己的一方領土，那里包含了我們的隱私我們的喜怒哀樂，而這些都勾勒出了我們在電子領土上的畫像。
AI病毒的肆虐，某種程度上不是流行感冒，而是流行頑疾，易傳染難根治。那你覺得可治嗎?
京公網安備 11010502049343號