機(jī)器學(xué)習(xí)將提高成功攻擊的可能性
上周發(fā)布的《邁克菲實(shí)驗(yàn)室2017威脅預(yù)測(cè)報(bào)告》中寫(xiě)道，犯罪分子將使用機(jī)器學(xué)習(xí)來(lái)分析大量被盜記錄以發(fā)現(xiàn)潛在受害者，并構(gòu)建上下文詳實(shí)的電子郵件來(lái)高效狩獵這些個(gè)人目標(biāo)。簡(jiǎn)言之，就像防御者使用機(jī)器學(xué)習(xí)來(lái)檢測(cè)攻擊一樣，攻擊者也將使用該技術(shù)來(lái)自動(dòng)化攻擊和繞過(guò)檢測(cè)。
英特爾安全的CTO史蒂夫·格羅博曼表示，攻擊者有兩個(gè)獨(dú)立的機(jī)器學(xué)習(xí)(ML)使用領(lǐng)域。首先，利用ML技術(shù)來(lái)開(kāi)發(fā)破壞ML防御的策略。其次，將ML作為提高攻擊有效性的工具——我們已經(jīng)開(kāi)始見(jiàn)證的絕佳例子就是用ML來(lái)自動(dòng)化高級(jí)魚(yú)叉式釣魚(yú)攻擊。
第一種方法中，機(jī)器學(xué)習(xí)可被用來(lái)分析防御措施，開(kāi)發(fā)新的規(guī)避技術(shù)。比如說(shuō)，通過(guò)模型中毒攻擊——引入錯(cuò)誤數(shù)據(jù)來(lái)讓防御方的ML開(kāi)始錯(cuò)誤分類。
另一個(gè)不錯(cuò)的例子，是一種被稱為“提升噪聲基底”的技術(shù)。這種方法里，攻擊者會(huì)用明顯能被ML檢測(cè)模型發(fā)現(xiàn)的各種誤報(bào)來(lái)轟炸目標(biāo)環(huán)境。
如果開(kāi)始收到太多誤報(bào)，防御者就會(huì)對(duì)模型進(jìn)行微調(diào)以降低敏感度。但饋送給防御模型的誤報(bào)很有可能是為了將來(lái)類似的攻擊而精心編制的。基本上，攻擊者讓防御者調(diào)整模型，不全部拾取此類誤報(bào)，然后攻擊者就可趁機(jī)渾水摸魚(yú)。
此類ML對(duì)ML的策略，已經(jīng)被安全公司Endgame在其紅藍(lán)對(duì)抗環(huán)境中采用了。紅隊(duì)作為攻擊者，藍(lán)隊(duì)是防御者。Endgame使用機(jī)器學(xué)習(xí)來(lái)模擬雙方，二者相互學(xué)習(xí)——但格羅博曼認(rèn)為該模擬會(huì)被現(xiàn)實(shí)生活中的紅隊(duì)攻擊者采用。
第二個(gè)顧慮的地方，涉及到使用機(jī)器學(xué)習(xí)來(lái)精煉社會(huì)工程攻擊。這種危險(xiǎn)在于此類自動(dòng)化可使針對(duì)性魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)攻擊大規(guī)模進(jìn)行——大量網(wǎng)絡(luò)釣魚(yú)活動(dòng)具備針對(duì)性攻擊的成功率。
在過(guò)去，攻擊者要么漫無(wú)目的地發(fā)送大量釣魚(yú)郵件，要么高度針對(duì)性地進(jìn)行魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)活動(dòng)。若是后者，攻擊者自己從社交媒體、新聞報(bào)道之類的資料中，分析整合出用于魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)的社會(huì)工程內(nèi)容。機(jī)器學(xué)習(xí)能賦予廣撒網(wǎng)式網(wǎng)絡(luò)釣魚(yú)活動(dòng)以魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)的有效性。比如說(shuō)，利用ML來(lái)掃描推特饋送或其他與用戶相關(guān)的內(nèi)容，來(lái)編造針對(duì)性消息。
正如Endgame提供了ML對(duì)ML的基本模型，公共領(lǐng)域也已經(jīng)出現(xiàn)了基于ML的社會(huì)工程模型。在2016美國(guó)黑帽大會(huì)上，約翰·賽摩爾和菲利普·圖里提交了一篇題為《武器化社會(huì)工程數(shù)據(jù)科學(xué)：推特端到端魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)自動(dòng)化》的論文。
該論文描述并提出了SANP_R遞歸神經(jīng)網(wǎng)絡(luò)，可學(xué)習(xí)向特定用戶發(fā)送推特釣魚(yú)貼文。該模型采用魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)滲透測(cè)試數(shù)據(jù)進(jìn)行訓(xùn)練，為提升點(diǎn)擊成功率，還動(dòng)態(tài)嵌入從目標(biāo)用戶和轉(zhuǎn)發(fā)或關(guān)注用戶處抽取的話題。
SNAP_R令人毛骨悚然的部分是，有測(cè)試表明其極其有效。在包括了90名用戶的測(cè)試中，該自動(dòng)化魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)框架擁有30%~60%之間的成功率。大規(guī)模手動(dòng)魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)傳統(tǒng)上具有45%的成功率。廣撒網(wǎng)式釣魚(yú)只有5%到14%的成功率。但這只是ML模型社會(huì)工程應(yīng)用革命的開(kāi)端，我們將在未來(lái)幾年看到該領(lǐng)域的飛速發(fā)展。機(jī)器學(xué)習(xí)將令針對(duì)性魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)更加準(zhǔn)確和規(guī)模化。
犯罪分子總會(huì)采納無(wú)論何種技術(shù)來(lái)提高他們的成功率。公司企業(yè)面臨的問(wèn)題，是所有東西都是可用的：公共域中的機(jī)器學(xué)習(xí)算法和數(shù)據(jù)科學(xué)教程。公共云也提供了不可檢測(cè)的低成本按需計(jì)算能力來(lái)進(jìn)行數(shù)據(jù)處理。機(jī)器學(xué)習(xí)對(duì)攻擊者和防御者一視同仁，誰(shuí)用都能獲得豐富高產(chǎn)的效果。
京公網(wǎng)安備 11010502049343號(hào)