智造觀點

在網絡安全的世界里，防御端和攻擊端的人工智能攻防前哨站已經打響，換句話說，對黑客來講，人工智能不僅可以提高攻擊效率，面對人工智能系統，他們也可以通過污染訓練數據進行相關操作。

隨著現代威脅形勢的不斷擴大，將人工智能(AI)添加到安全策略中，對于建立和維持有效的安全狀態變得至關重要。鑒于現代網絡威脅的速度和復雜性以及當前網絡安全技能的短缺，網絡安全團隊需要機器學習和其他基于AI的功能的幫助，以便檢測、保護和緩解現代攻擊。

然而，當企業采用人工智能來加強他們的安全工作時，網絡犯罪分子也會采用敏捷軟件開發，自動化和機器學習之類的東西，來潛在地利用人工智能來更好地識別和更快地利用網絡漏洞，這一點也不足為奇。

實際上，由于越來越多的物聯網和運營設備進入網絡基礎設施，網絡犯罪分子已經有機會和能力發起快速且復雜的攻擊，而這些固有的易受攻擊的設備，將成為企業網絡的入口通道。人工智能所帶來的潛在攻擊能力，只會進一步加劇對當今數字化轉型工作的威脅。圖片來源：圖蟲創意

因此，人工智能可能很快就會提供成功保護或攻擊物聯網的方法，以便有效地在網絡安全專業人員和網絡犯罪分子之間建立AI軍備競賽。

為了保護數字化轉型并保持嚴格的安全狀態，IT團隊必須了解網絡犯罪策略的最新變化，這些變化可能會在未來幾年內導致AI驅動的威脅環境。他們還需要了解現在可以將哪些AI功能合并到他們的安全堆棧中，以便在他們的網絡不斷發展和擴展時保持一致的安全狀態。

不過，在AI防御開始之前，人工智能網絡攻擊也不能被忽視。

最新AI攻擊手法，插入噪音就能破壞語音識別

Koos Lodewijkx，IBM Security的CTO兼VP曾分享到，目前至少有三種與人工智能相關的網絡安全攻擊手段。

首先是利用人工智能提高攻擊效率。比如，現在黑客可以通過機器學習，分析社群媒體上的訊息、朋友圈等，依照這些個人化信息發起針對性攻擊，提高釣魚攻擊成功率。此外，現在網絡上也出現通過機器學習以及可自動識別圖像的免費軟件，讓黑客可破解用來防御自動化攻擊的驗證碼機制。

其次是黑客攻擊AI系統。這是以一種改變系統的方法進行攻擊，簡單來說就是污染AI系統，或是找到AI系統弱點、繞過防御以進行攻擊。以微軟在2016年推出聊天機器人Tay為例。網絡罪犯可以借助機器學習技術讓它在每次的對話中改變回復話語，以至于該機器人在上線24小時候就出現了種族歧視的言論。其實不僅僅是聊天機器人，Lodewijkx表示，現在的技術也能做到入侵語音識別系統，只要在聲音中插入噪音，就能徹底改變翻譯結果，讓機器說出特定語句。

雖然這些看似無傷大雅，但由于AI已經被企業大量用于商業營運中，一旦被黑客知道模型如何訓練和運作，就能借此機會破壞訓練模型的數據來操控模型。比如，銀行把AI導入借貸決策系統來分析申請人的收入、年齡、居住地、信用分數等，以決定是否批準該借貸，一旦找到方法繞過偵測，就算有很差的信用分數仍可貸款成功。

至于最后一種攻擊手段，黑客看重的不是模型本身，而是用來訓練AI模型背后的數據。Lodewijkx表示，黑客已經可以竊取訓練AI模型背后的數據。以圖像識別系統為例，正常情況是，給出圖片后，系統可以識別出人名，而在破解系統后，黑客只要擁有姓名，就能逆向重建圖片。

面對黑客攻擊，人工智能從三個層面進行防御

不只是攻擊端，AI之于網絡安全防御，也是不可或缺的角色，以IBM為例，該公司旗下的網絡安全產品幾乎已全面接入人工智能。那為什么要用人工智能進行防御?

首先，Lodewijkx指出，現在的資料數量龐大，來自網絡、計算機系統、數據庫等等，隨之而來的是資料、威脅、環境都變得更復雜。在這種情況下，卻面臨網絡安全技術人才的短缺問題。IBM的一項調查指出，到2022年，網絡安全領域會有180萬份的人才短缺。這也是為什么需要在網絡安全工具中導入AI，而AI也能提高偵測和反應的速度，降低損失。

就目前的情況而言，最常見的AI應用是預測分析(predictive analytics)，也就是借助機器學習分析大量數據，從中找出異常。舉個例子，利用人工智能監控網絡流量或使用者行為，找出不尋常的地方，或是觀察人類如何和計算機或手機互動，進而辨別出這是真正的人類、還是假裝成人類的惡意軟件。此外，也能找出假的威脅警報，降低誤報率。

第二個層面是智能強化(Intelligence consolidations)，也就是把網絡安全研究工作交給AI。現在，IBM正在教旗下人工智能平臺Watson讀網絡安全方面的新聞、研究報告以及Twitter等，進而建立知識圖譜，并找出每個知識間的關聯性。訓練完成后，當告訴Watson一個IP位址、網址或檔案，Watson就可以及時給出該檔案的相關信息，減輕分析師的工作，讓他們不必親自去讀取大量資料。

第三種則是智能回應(intelligence response)，其目標在于提高一定時間內的分析效率。Lodewijkx指出，以網絡安全營運中心為例，分析師有58%的時間都是花在重復性工作上。舉例來說，當網絡安全監測系統發出警告時，分析師必須比對不同的應用程序、數據庫和系統，確認該警示是否為真，鑒于這些步驟是固定的，所以很適合自動化。

不過，盡管現在很多人工智能技術已經被用于網絡安全產品，但我們也不能認為人工智能可以解決所有的網絡安全問題，至少現在距離這一目標還有很長的路要走。而隨著智慧城市、工業互聯網、自動駕駛等將在未來十年普及，人工智能安全將成為產業發展的藍海。在這種情況下，運用人工智能賦能網絡空間安全也變得十分必要。

與此同時，面對技術規范、行業標準、法律法規尚未健全的人工智能新領域，制定統一的安全監測標準、安全防范架構、安全評估體系對于讓網絡空間安全成為人工智能的重要應用領域也有舉足輕重的作用。可以說，隨著人工智能技術日趨成熟，人工智能在“AI+安全”領域不僅能夠全面提高網絡空間各類威脅的響應和應對速度，而且能夠全面提高風險防范的預見性和準確性。