究其原因，任何在網(wǎng)絡(luò)安全領(lǐng)域工作的人都應(yīng)該知道一二。Cofense Inc.的一項研究顯示，2016年，91%的網(wǎng)絡(luò)攻擊都是由釣魚郵件引發(fā)的。TruSTAR Technology LLC首席數(shù)據(jù)科學(xué)家Nicolas Kseib說，利用軟件機器人從社交網(wǎng)絡(luò)和公共數(shù)據(jù)庫中提取個人信息，并與強大的內(nèi)容生成引擎結(jié)合起來，可能會產(chǎn)生更有說服力的釣魚電子郵件，甚至可能模仿某個人的寫作風(fēng)格。
潛在的結(jié)果是:網(wǎng)絡(luò)犯罪分子可以以更快的速度和前所未有的規(guī)模發(fā)起網(wǎng)絡(luò)釣魚攻擊。
這種危險巧妙地總結(jié)了網(wǎng)絡(luò)安全目前所處的無休止的戰(zhàn)爭狀態(tài)，在這場戰(zhàn)爭中，還沒有人能夠回答一個核心問題:AI到底是會為犯罪分子提供更多幫助，還是會為網(wǎng)絡(luò)攻擊防御人員提供更多幫助?在一些人看來，AI是一種新武器，最終可能讓安全人員領(lǐng)先于對手。但與此同時，專家們擔(dān)心，機器學(xué)習(xí)和深度學(xué)習(xí)等人AI技術(shù)存在被非法濫用的可能性，從而帶來很嚴(yán)重的后果。
不過，這種爭議并沒有阻止網(wǎng)絡(luò)安全市場參與者繼續(xù)將AI作為一種營銷噱頭。本周，當(dāng)網(wǎng)絡(luò)安全行業(yè)從業(yè)者們聚集在舊金山參加一年一度的RSA大會(RSA Conference)時，這一點將顯而易見。RSA大會是今年網(wǎng)絡(luò)安全行業(yè)中規(guī)模最大的會議之一。但在這個過程中，他們可能會對這項技術(shù)能帶來什么產(chǎn)生錯誤的期望。
MapR Technologies Inc.的著名技術(shù)專家、銀行業(yè)資深安全官員John Omernik表示說，如今被吹捧為AI的大多數(shù)技術(shù)不過是建立在單一數(shù)據(jù)類型基礎(chǔ)上的分類算法。國際數(shù)據(jù)公司(IDC)安全部門的研究主管Rob Westervelt也認(rèn)為，“貓捉老鼠的游戲?qū)⒗^續(xù)下去，因為攻擊者將能夠使用工具躲避防御。”
智能攻擊
事實上，很多攻擊者已經(jīng)在利用各類工具了。盡管到目前為止，還沒有明確的主要由機器學(xué)習(xí)引發(fā)攻擊的記錄案例，但越來越多的證據(jù)表明，網(wǎng)絡(luò)犯罪工具正變得越來越智能。例如，去年7月b爆發(fā)的Rakhni木馬病毒的一個新版本就包含一個上下文感知功能，該功能安裝最適合它所感染的系統(tǒng)的惡意軟件。安裝了加密貨幣錢包的計算機也受到了勒索病毒的感染，而其他計算機則選擇了加密貨幣挖掘。Bitglass Inc.的產(chǎn)品營銷經(jīng)理Jacob Serpa說:“這只是未來可能面臨的威脅的一個小例子。”
硅谷科技媒體SiliconANGLE聯(lián)系的大多數(shù)專家表示，機器學(xué)習(xí)和深度學(xué)習(xí)工具可以提高那些急需技能的從業(yè)者識別入侵和響應(yīng)目標(biāo)的能力，并加強對入侵的防御。但他們也指出，AI技術(shù)仍處于相對初級階段，犯罪分子還尚未充分挖掘其潛力。
隨著網(wǎng)絡(luò)犯罪日益猖獗，以及在暗網(wǎng)上提供的惡意培訓(xùn)數(shù)據(jù)，這些因素都有可能推波助瀾。現(xiàn)在重要的是，組織開始理解AI在增強防御能力的同時，對局限性仍認(rèn)識不清。
尋找模式
許多安全專家嘲笑用“智能”一詞來描述如今幾乎連兩歲兒童認(rèn)知能力都沒有的技術(shù)。但他們也一致認(rèn)為，機器學(xué)習(xí)和深度學(xué)習(xí)等領(lǐng)域可以為組織安全帶來價值。機器學(xué)習(xí)在跨非常大的數(shù)據(jù)集檢測模式方面很有用，而深度學(xué)習(xí)在圖像和語音識別等領(lǐng)域表現(xiàn)出色。
例如，安全操作中心要應(yīng)對來自入侵檢測系統(tǒng)的大量錯誤警報。由于缺乏近200萬網(wǎng)絡(luò)安全專業(yè)人員，企業(yè)無法承受這些浪費的時間。IBM首席信息安全官Koos Lodewijkx說，企業(yè)安全數(shù)據(jù)中心(SOC)中近60%的活動是重復(fù)的:“檢測速度加快了，但響應(yīng)仍然是人類的速度。”
機器學(xué)習(xí)算法可以通過訓(xùn)練來發(fā)現(xiàn)日志數(shù)據(jù)中與惡意活動關(guān)聯(lián)可能性較高的模式，從而使網(wǎng)絡(luò)安全人員能夠更好地集中精力應(yīng)對問題。對人類無法處理的海量數(shù)據(jù)進行梳理是機器擅長的一個領(lǐng)域，尤其是當(dāng)它們具備機器學(xué)習(xí)和深度學(xué)習(xí)能力時，這使它們無需顯式編程就能學(xué)習(xí)。
網(wǎng)絡(luò)安全公司Arkose Labs的高級工程總監(jiān)Anna Westelius說:“人類善于發(fā)現(xiàn)模式，但在處理檢測中看到的快速類型數(shù)據(jù)時，不可能將屬性和模式牢記在心。”“這就是大規(guī)模機器學(xué)習(xí)模型允許我們做的。”
機器學(xué)習(xí)的根源在于預(yù)測分析，它有助于提高人類操作員的工作效率。Balbix Inc.的數(shù)據(jù)顯示，《財富》(Fortune) 1000強企業(yè)目前平均擁有260多個潛在攻擊點，包括云服務(wù)、移動電話、“物聯(lián)網(wǎng)”設(shè)備和合作伙伴賬戶。
TruSTAR的Kseib說，模式檢測還可以通過將行為綁定到已知的用戶配置文件來檢測異常。他說:“當(dāng)你與公司以外的人分享敏感信息時，你的系統(tǒng)可以檢測到，并觸發(fā)一系列防御行為，比如阻止這種行為。”
此外，機器學(xué)習(xí)可以應(yīng)用于用戶和行為分析，這是一門為用戶活動建立基線并檢測偏離標(biāo)準(zhǔn)的學(xué)科。Experian Corp.去年進行的一項調(diào)查顯示，三分之二的受訪者認(rèn)為這是他們的安全架構(gòu)中最薄弱的一環(huán)。
DivvyCloud工程VP Scott Totman說：“大多數(shù)用戶不知道他們犯了錯誤，并從未被告知，從未指導(dǎo)如何糾正錯誤，也從未學(xué)會如何避免錯誤。”機器學(xué)習(xí)可用于識別不一致性并“創(chuàng)建一個教育最終用戶的反饋循環(huán)”。
深度學(xué)習(xí)(Deep learning)是人工智能的一個分支，近年來在語音和圖像識別方面取得了突破性進展，目前也正在成為網(wǎng)絡(luò)安全領(lǐng)域的一個關(guān)鍵武器。它可以提高對超定向“釣魚型”電子郵件的檢測，并加強生物識別等領(lǐng)域的訪問控制。
例如，Jumio Corp.就可以使用深度學(xué)習(xí)將圖像和文檔識別結(jié)合起來進行用戶身份驗證。該公司的技術(shù)將現(xiàn)場拍攝的自拍照片與政府頒發(fā)的身份證件進行對比，以驗證用戶的身份。該軟件可以根據(jù)圖像質(zhì)量的變化以及用戶體重變化、面部毛發(fā)的增加或減少等因素進行調(diào)整。它還可以檢測表明ID被篡改的細微因素，比如字體的微小變化等。
供應(yīng)商的奮起
公司很快就接受了AI的術(shù)語而，用戶也開始了對各類產(chǎn)品的購買。最近，受云端網(wǎng)絡(luò)探知及回應(yīng)(Network Detection&Response)廠商ProtectWise Inc.委托，最近針對400多名安全專業(yè)人士進行的一項調(diào)查發(fā)現(xiàn)，73%的受訪者表示，他們已經(jīng)實現(xiàn)了至少包含人工智能某些方面的安全產(chǎn)品。
然而，46%的受訪者表示規(guī)則創(chuàng)建和實施是一件苦差事，以及還有四分之一的受訪者表示他們不打算在未來實現(xiàn)對更多AI產(chǎn)品的支持，這種技術(shù)的相對不成熟是顯而易見的。
所以AI前景光明，但在某些領(lǐng)域，它幾乎沒有什么價值，甚至可能帶來新的漏洞。當(dāng)問題領(lǐng)域是眾所周知的，并且變量變化不大時，機器和深度學(xué)習(xí)效果最好。算法擅長于檢測模式的變化，但不擅長識別新模式。Fidelis Cybersecurity Inc.的高級產(chǎn)品營銷經(jīng)理Tom Clare說:“你發(fā)現(xiàn)未知情況真的很困難。”該公司專門從事威脅檢測和應(yīng)對工作。
安全檢測網(wǎng)站SafetyDetective.com的數(shù)據(jù)顯示，自2013年以來，惡意軟件的發(fā)生率已經(jīng)上升了5倍。改變變量可能會讓機器學(xué)習(xí)算法變得混亂，這也是迄今為止它們在打擊惡意軟件方面價值有限的原因之一。機器學(xué)習(xí)算法存在“固有的失敗，因為惡意軟件的訓(xùn)練集變化太快” Malwarebytes 公司CTO Doug Swanson說道，“未來惡意軟件模型看起來會跟今天幾乎完全不一樣”。
AI模型依賴于大量高質(zhì)量的源數(shù)據(jù)進行訓(xùn)練，這可能會限制它們對已知威脅模式以外的所有威脅模式做出快速反應(yīng)的能力。“說到底，(模型)可能又大又慢，”Jumio的首席科學(xué)家Labhesh Patel說。
這樣，結(jié)果的價值也只取決于用于培訓(xùn)的數(shù)據(jù)。這就是為什么MapR的Omernik建議組織在供應(yīng)商聲宣稱他們有一種全面的AI安全方法時要保持懷疑。
他回憶了自己在兩家不同銀行工作的經(jīng)歷，一家是客戶主要在當(dāng)?shù)兀硪患铱蛻舯椴际澜绺鞯亍?ldquo;人們會從非洲或俄羅斯的電腦上登錄，這很正常，”他說，這類活動會發(fā)送一個入侵檢測系統(tǒng)，該系統(tǒng)是硬連接的，可以考慮脫軌位置。
必須解決的黑箱
如果機器學(xué)習(xí)在對抗網(wǎng)絡(luò)威脅方面有用，它也不可能像通常那樣是一個黑箱(black box)。人們需要對模型進行持續(xù)的關(guān)注，以確保訓(xùn)練數(shù)據(jù)是完整的、相關(guān)的，并且不受攻擊者的影響。引入錯誤或誤導(dǎo)性數(shù)據(jù)會導(dǎo)致結(jié)果退化或更糟。Arkose Labs的Westelius說:“如果人們對這項技術(shù)過于依賴，它最終會自我學(xué)習(xí)。”“但機器學(xué)習(xí)可以重新訓(xùn)練自己，讓自己認(rèn)為正常的行為不再是正常的。”
此外，計算機的工作原理也有一些細微的差別，這與人類的邏輯相悖。例如，研究人員已經(jīng)演示了通過在普通人類語言甚至音樂中嵌入隱藏的命令來愚弄語音助手的方法，比如亞馬遜的Alexa和蘋果的Siri。自動駕駛汽車系統(tǒng)可能會認(rèn)錯道路標(biāo)志，因為只是實驗人員貼上了一些幾乎不會引起注意的小貼紙。
其結(jié)果是:強化企業(yè)防御的工具也可以被用來以新穎的方式攻破它們。以XEvil為例，它是一種可以用來破譯扭曲和模糊字符的驗證碼，準(zhǔn)確率高達90%。其是一種基于深度學(xué)習(xí)的機器視覺軟件的副產(chǎn)品，該軟件是用來指導(dǎo)自動駕駛汽車的，并還可以用來擊敗密碼身份驗證系統(tǒng)中常見的第二道防線。
對一切開放?
像許多AI模型一樣，XEvil是開源的，使得“好家伙”和“壞家伙”都可以在其基礎(chǔ)上進行簡單的構(gòu)建。無論是好是壞，大多數(shù)流行的機器學(xué)習(xí)模型都已發(fā)布到開源軟件中，這意味著無法知道誰在使用它們。
這一事實引發(fā)了IBM Lodewijkx的不祥警告。“知識和技能正在民主化，”他指出。編程技能歷來都是基于數(shù)據(jù)庫的，但是機器學(xué)習(xí)中常見的基于模型的方法正迅速成為主流。“我們從大學(xué)雇傭的孩子們已經(jīng)改變了他們的編程技能，”他說。“這也會影響犯罪方面。”
機器學(xué)習(xí)擅長檢測模式的變化，但這種技術(shù)也可以用于覆蓋軌跡。DivvyCloud的Totman說:“目前，許多罪犯的簽名都是基于他們一貫的犯罪行為。”“罪犯可以利用機器學(xué)習(xí)隨機化他們的模式，混入其中以避免被發(fā)現(xiàn)。”
反惡意軟件制造商擔(dān)心AI可能會制造出自變異的惡意軟件，“這種軟件可以調(diào)整檢測到的惡意軟件的代碼，編譯并重新部署，以避免進一步的檢測，”Malwarebytes實驗室主任Adam Kujawa說。“這可能發(fā)生在眨眼之間，大大增加了我們經(jīng)常處理的惡意軟件的數(shù)量。”
大規(guī)模假新聞
隨著網(wǎng)絡(luò)犯罪日益成為專業(yè)人士和“網(wǎng)絡(luò)流氓”的領(lǐng)地，AI的潛在濫用問題變得更加令人不安。2016年美國總統(tǒng)大選期間出現(xiàn)的虛假新聞現(xiàn)象，由于“深假(deep-fake)”技術(shù)的出現(xiàn)而變得更加嚴(yán)重。“深假”技術(shù)通過對圖像、視頻和聲音文件的處理，使事件和行為看似從未真正發(fā)生過。到目前為止，這些應(yīng)用僅限于讓名人處于尷尬之中，但同樣的技術(shù)同樣能應(yīng)用于損害高管和政治人物的聲譽。
這又回到了誰將從AI中獲益更多的問題:白帽子(white hats, “白客”)還是黑帽子(black hats, “黑客”)?
目前還沒有達成共識。幾乎所有人都同意的一點是，新工具將提高正在進行的軍備競賽的利害關(guān)系。IDC的Westervelt表示:“攻擊者將利用AI來創(chuàng)建更好的釣魚郵件，但安全公司也將更善于發(fā)現(xiàn)它們。”
以同樣的方式,云計算使強大的計算機和軟件可為一般公司與群眾所用，而收益于AI民主化安全工的受組織卻往往防御薄弱,Mark Weiner，Balbix的CMO說道。“我認(rèn)為它會幫助支持很多不那么成熟的組織，其好處大于它會帶給壞家伙的機會”，他補充到。
網(wǎng)絡(luò)安全類風(fēng)投公司Allegis Cyber管理總監(jiān)Robert Ackerman認(rèn)為，攻擊者日益成熟，將迫使組織更多地集中精力保護數(shù)據(jù)，而不是防止?jié)B透。他說，如今的網(wǎng)絡(luò)安全實踐是“一道有1000個漏洞的堤壩，而我們正四處奔走，試圖將它們?nèi)慷伦?rdquo;。
有一些希望。Ackerman繼續(xù)說到，同態(tài)加密( homomorphic encryption)等技術(shù)將受到青睞。同態(tài)加密技術(shù)使數(shù)據(jù)能夠在加密狀態(tài)下進行處理。還有另一些人則看到了對抗性機器學(xué)習(xí)的潛力，它讓模型相互競爭，以試圖加強防御。
但所有這些活動都是在多云、移動設(shè)備和無數(shù)物聯(lián)網(wǎng)設(shè)備的使用帶來的復(fù)雜性日益增加的背景下進行的。這可不是好兆頭。Westervelt說:“連CIO都想對他們的數(shù)據(jù)進行更精細地控制，更不用說人們?nèi)绾喂蚕砗褪褂眠@些數(shù)據(jù)了，這變得非常復(fù)雜。”
在網(wǎng)絡(luò)安全領(lǐng)域，復(fù)雜性是罪犯們最好的朋友。
京公網(wǎng)安備 11010502049343號