人工智能已經成為打擊網絡詐騙、流氓黑客以及侵略性民族國家的重要武器，但它并不是神奇的魔術。本文中我們將探討AI在企業安全戰略中的作用，以及哪些方面應該留給人類判斷。
你不需要等到成為WannaCry勒索軟件的受害者或者擔心對總統選舉的攻擊，就能了解到，網絡安全是我們這個時代最迫切的技術問題，可能很快成為最大的問題。這種威脅持續不斷：
· 在所有互聯網流量中，三分之一的流量是軟件程序生成的惡意數據包
· 每4.2秒生成新的惡意軟件
· 去年，Ransomware攻擊增加了36%，為網絡罪犯產生超過10億美元的收入
抵御攻擊是安全專業人員幾乎無法避免的工作，但對于每秒可解析數千個日志并可識別人類看不到的潛在威脅的機器來說，這是完美的工作。這就是為什么人工智能(AI)成為打擊網絡詐騙、流氓黑客的重要武器的原因。
但專家也警告稱，AI并不是神奇的魔術。機器學習(ML)系統的優勢取決于用于訓練它們的數據好壞。AI在很多情況下會比人類產生更多誤報，并且，攻擊者本身也會選擇利用抵御攻擊的技術。如果壞人利用AI來對付我們呢?of Cyber Crime Study &the
對速度的需要
專注于AI初創公司的風投公司Glasswing Ventures創始人兼管理合伙人Rick Grinnell表示，正如算法取代人類進行自動化股票交易一樣，AI將需要與不斷變形的惡意軟件和攻擊向量保持同步。
“即使最好的人類大腦最終也無法跟上這種變化攻擊策略的步伐，”他表示，“即使可以這樣，也無法推送新防御補丁或更新到每個端點、設備或網絡，以及時阻止或停止攻擊。快速響應基于AI的解決方案需要部署在網絡多個點，公共和私有網絡各個層的終端。”
最惡劣的攻擊之一是高級持續威脅(APT)，在這種攻擊中，攻擊者靜悄悄潛伏在目標的網絡中以觀察用戶行為并完善其攻擊。這也是俄羅斯安全部隊攻擊美國民主黨全國委員會服務器采用的做法。基于AI威脅檢測和響應系統制造商Vectra Networks公司首席技術官Oliver Tavakoli表示，在這里AI也可發揮作用。
“在攻擊者入侵以及能夠觀察日常流量之前，AI可提供機會讓防御者可搶先一步，”他表示，“這樣的話，攻擊者很難對目標環境有深入了解，而無法實現更多肆意攻擊。”
事實上，如果沒有內置AI—通常通過機器學習算法解析數十億個數據點尋找異常行為或者攻擊跡象，我們很難找到重要網絡基礎設施，路由器、傳感器、防火墻、入侵檢測設備、服務器等。
“機器學習和AI越來越多內置到產品中，”研究和咨詢公司ESG Global高級首席分析師Jon Oltisk稱，“即使你不沒想過使用AI加強安全性，你可能已經在使用它，只是你不知道而已。”移動安全公司Zimperium使用機器學習來以人類無法完成的方式重新定義其威脅模型。
該公司首席產品官John Michelsen稱：“我們培訓實驗室使用近200億數據點，你不可能讓一個團隊對所有數據進行整理，并告訴你是否發現某些威脅。人類不可能完成這種工作，這需要整個亞馬遜集群來完成計算，幾十臺機器運行很多小時。”
人工智能的局限性
安全公司Bromium首席技術官Simon Crosby稱，AI并不是靈丹妙藥。
.AI并不一定能比傳統防病毒軟件更好地檢測惡意軟件，因為AI系統無法查看一段代碼，并判斷它是好是壞。
基于機器學習的檢測算法在很大程度取決于它們獲取的數據集，它們是黑匣子解決方案，人類通常無法理解機器如何作出決策。
“通過人類專家訓練機器學習引擎似乎是一個好主意，但這是基于攻擊者不會改變其行為的假設，而自我學習類別通常是人類無法理解的步伐，”Crosby說道，“所以，當機器學習系統發出警報時，你仍然需要努力了解這是否為誤報。”
Crosby稱最好不要將AI作為最終決策者，應將AI作為幫助自動化繁瑣和重復任務的助手，但它不能代替人類的判斷力。
“AI能做的是查看大量數據，并找出異常行為，”他表示，“這非常有用，這些工具通常應該幫助人類分析人員更好地完成工作，需要注意的是，只是因為AI沒有發現異常，并不意味著它沒有發揮作用。”
當壞人利用AI時
網絡安全通常被視為貓和老鼠的游戲：每次安全專家找出抵御特定攻擊向量的策略時，壞人就會想出新的攻擊辦法。攻擊者最終不可避免地也會使用AI來讓他們的攻擊更難被檢測以及防御。
在去年8月的DEFCON安全展會中，安全公司ZeroFOX的研究人員展示了基于機器學習的僵尸機器分發惡意軟件的過程，它們會發現連接良好的目標、檢查其此前的推文和主題標簽并基于他們過去活動發送他們更可能點擊的鏈接。
該團隊成功誘騙三分之二的收件人點擊鏈接，這可能會導致感染惡意軟件。ZeroFox團隊認為AI可生成更難以檢測和更有效的垃圾郵件。
“AI不僅可很好地愚弄人類，它也擅長愚弄其他AI，”Crosby稱，“我們如何知道哪個AI更好，我們的還是他們的?”
其他研究人員警告稱，機器學習系統可學習如何模擬某人的寫作風格來說服朋友和同事相信惡意鏈接或文件是真實的。我們可能會看到AI勒索軟件攻擊瞄準多臺設備，等待足夠系統受感染再向受害者敲詐錢款。我們已經看到所謂的規避性惡意軟件可根據環境而有不同表現。看似良性的惡意軟件，在反惡意軟件檢測后，執行其惡意載荷。
“沒有什么能阻止壞人利用AI,”Vectra的Tavakoli稱，“他們已經在使用機器學習來自動化很多繁瑣任務，例如查找漏洞以及可規避檢測的方法。”
現在這些威脅大多是在理論層面，Michelsen稱還沒有看到任何基于AI的攻擊，這可能是因為壞人使用現有的方法已經很好。
“舊方法仍然有效，如果舊方法仍然奏效，攻擊者就不會尋找新方法。”
網絡安全=就業安全
根據在線培訓供公司Udemy調查顯示，43%的美國工人擔心AI會讓他們失業。但據估計，到2021年，單在美國就有約20萬個信息安全工作機會，全球預計將有350萬工作機會，安全專業人員不需要擔心失業問題。
“在網絡安全領域，工作機會供不應求，”ESG的Oltisk稱，“如果你是安全專業人員，那么，你應該努力提高自己的技能，而不是擔心機器人會搶走你的工作。AI應該是安全工作人員擁抱的事物，它可讓他們的工作變得更容易，并消除很多人的倦怠感。”
嵌入式分析解決方案制造商Logi Analytics公司客戶成功副總裁Charles Caldwell稱，鑒于技術變革的速度越來越快，我們不能說，AI絕對不會取代人類智慧，但這仍然需要我們的支持。
“AI很擅長專門制定的任務，即使是非常復雜的任務，例如象棋，”Caldwell稱，“但AI不能進行人類所做的自由裁量權和創造。機器人和人類之間的巨大差異在于人類有好奇心，我們會提出非常奇怪、非直觀、甚至愚蠢的問題，我們會在沒有邏輯聯系的主題中有偶然發現。”
“這些優勢技術提供的是速度和處理大量數據的能力，”他補充說，“但我不認為單靠這些機器可以取勝，因為在網絡安全種宏觀，你最終面對的是人類。”
AI與安全性：領導者教訓
· 你可能已經在將AI用于安全性，而卻不知道，因為它逐漸整合到產品中。
· AI并不是靈丹妙藥，專家建議使用它來自動化繁瑣和重復的工作，而不是替代人的判斷。
· 攻擊者仍然在使用舊的方法—竊取密碼、簡單的惡意軟件、社會工程學等。AI生成的攻擊還不常見。
京公網安備 11010502049343號