研究人員表示，威脅行為者正在密切關(guān)注并進(jìn)行實(shí)驗(yàn)。一些威脅行為者聲稱使用AI進(jìn)行深度偽造視頻的創(chuàng)建、擊敗面部識(shí)別和總結(jié)數(shù)據(jù)泄露中的被盜數(shù)據(jù)，其他人則將AI集成到他們的黑客工具中或創(chuàng)建惡意聊天機(jī)器人。
然而，研究指出，“也許AI對(duì)網(wǎng)絡(luò)犯罪最顯著的影響是騙局的增加，特別是那些利用深度偽造技術(shù)的騙局。”
研究稱，其中一些騙局已經(jīng)造成了生命損失。例如，一群主要在尼日利亞的網(wǎng)絡(luò)犯罪分子，稱為Yahoo Boys，使用深度偽造進(jìn)行浪漫和色情敲詐騙局，通過(guò)虛假身份獲取受害者的信任，他們通常說(shuō)服受害者分享有損聲譽(yù)的照片，然后威脅如果不支付贖金就公開(kāi)這些照片。Intel 471表示，許多受害者都是未成年人，有些甚至因此自殺。
自2023年1月以來(lái)，深度偽造服務(wù)的數(shù)量顯著增加，價(jià)格也變得更便宜。一個(gè)威脅行為者聲稱，使用AI工具生成音頻和視頻深度偽造的費(fèi)用在每分鐘60美元到400美元之間，具體取決于復(fù)雜性，相比2023年的價(jià)格，這是一筆便宜的交易，其他威脅行為者的服務(wù)包括每年999美元的訂閱服務(wù)，每天可以進(jìn)行300次面部替換。
其他人則在商業(yè)電子郵件詐騙（BEC）和文件欺詐中使用AI。研究指出，其中一個(gè)人開(kāi)發(fā)了一種使用AI操縱發(fā)票的工具，攔截各方之間的通信，并更改信息，如銀行賬戶號(hào)碼，以將付款重定向到騙子賬戶。
生產(chǎn)力提升
“發(fā)票操縱工具據(jù)稱具有多種功能，包括檢測(cè)和編輯所有便攜式文檔格式（PDF）文件的能力，以及交換國(guó)際銀行賬戶號(hào)碼（IBAN）和銀行識(shí)別代碼（BIC），”研究說(shuō)，“該工具以每月5000美元或終身訪問(wèn)15000美元的訂閱方式提供。如果該工具能如承諾的那樣工作，這就實(shí)現(xiàn)了AI常被引用的生產(chǎn)力提升用例，盡管是在犯罪背景下。”
另一位犯罪分子聲稱使用Meta的Llama大語(yǔ)言模型（LLM）從數(shù)據(jù)泄露的成果中提取最敏感的數(shù)據(jù)，以此來(lái)施壓受害者支付贖金。
然而，Intel 471的分析師Jeremy Kirk指出，并非所有關(guān)于使用AI的說(shuō)法都是準(zhǔn)確的。“我們使用‘據(jù)稱’這個(gè)詞來(lái)表示這是一個(gè)威脅行為者的說(shuō)法，并且通常不清楚AI到底在多大程度上被納入產(chǎn)品，使用的LLM模型是什么，等等，”他在一封電子郵件中說(shuō)，“至于網(wǎng)絡(luò)犯罪工具的開(kāi)發(fā)者是否為了商業(yè)利益而搭上AI的順風(fēng)車，似乎確實(shí)有一些努力在研究AI如何能幫助網(wǎng)絡(luò)犯罪活動(dòng)。地下市場(chǎng)競(jìng)爭(zhēng)激烈，通常一種服務(wù)或產(chǎn)品有多個(gè)供應(yīng)商，他們的產(chǎn)品工作得比另一個(gè)更好對(duì)他們有商業(yè)優(yōu)勢(shì)，而AI可能會(huì)有所幫助。”
Intel 471 觀察到許多存疑的聲明，包括四位伊利諾伊大學(xué)厄巴納-香檳分校（UIUC）的計(jì)算機(jī)科學(xué)家聲稱，他們使用 OpenAI 的 GPT-4 大語(yǔ)言模型（LLM）通過(guò)向 LLM 提供描述漏洞的常見(jiàn)漏洞和暴露（CVE）建議，自動(dòng)利用現(xiàn)實(shí)世界系統(tǒng)中的漏洞，然而，研究指出，“由于研究的許多關(guān)鍵要素沒(méi)有公布——例如代理代碼、提示詞或模型輸出——其他研究人員無(wú)法準(zhǔn)確再現(xiàn)這項(xiàng)研究，再次引發(fā)懷疑。”
自動(dòng)化
其他威脅行為者提供了抓取和總結(jié) CVE 數(shù)據(jù)的工具，以及將 Intel 471 稱為知名 AI 模型集成到多用途黑客工具中的工具，據(jù)稱可以完成從掃描網(wǎng)絡(luò)、尋找內(nèi)容管理系統(tǒng)中的漏洞到編寫惡意腳本的所有工作。
研究作者還強(qiáng)調(diào)了一些隨著 AI 使用的增長(zhǎng)而出現(xiàn)的新風(fēng)險(xiǎn)，例如 Google 的新 AI 驅(qū)動(dòng)的搜索生成體驗(yàn)生成的推薦將用戶引導(dǎo)到惡意網(wǎng)站，以及 AI 應(yīng)用程序中的漏洞。此外，還觀察到國(guó)家和其他惡意實(shí)體使用 LLM 進(jìn)行多種攻擊。研究引用了微軟和 OpenAI 的公開(kāi)博客文章，這些文章特別指出了五個(gè)國(guó)家資助的團(tuán)體。
為了應(yīng)對(duì)此問(wèn)題，研究指出，美國(guó)聯(lián)邦通信委員會(huì)、美國(guó)國(guó)土安全部、英國(guó)政府等政府機(jī)構(gòu)正在采取措施監(jiān)控和監(jiān)管 AI 以確保其安全。
情況只會(huì)變得更糟
Intel 471 得出結(jié)論，盡管 AI 過(guò)去在網(wǎng)絡(luò)犯罪中只扮演了所謂的“小配角”，但這項(xiàng)技術(shù)的角色已經(jīng)擴(kuò)大，其分析師預(yù)計(jì)，隨著 LLM 生成內(nèi)容的能力，深度偽造、網(wǎng)絡(luò)釣魚和 BEC 活動(dòng)將會(huì)增加，虛假信息活動(dòng)也會(huì)隨之增加。
該公司補(bǔ)充道，“當(dāng) LLM 能夠發(fā)現(xiàn)漏洞、編寫和測(cè)試漏洞利用代碼，并在野外自動(dòng)利用漏洞時(shí)，安全形勢(shì)將發(fā)生巨大變化。”
“機(jī)器學(xué)習(xí)和被稱為 AI 的技術(shù)在安全行業(yè)中已經(jīng)流傳了很長(zhǎng)時(shí)間，從對(duì)抗垃圾郵件到檢測(cè)惡意軟件，”Kirk 說(shuō)，“至少，AI 可以加快攻擊速度，但也可以加快防御速度。有時(shí)攻擊者會(huì)占上風(fēng)，而防御者會(huì)追趕上來(lái)，但這與我們現(xiàn)在的情況并無(wú)不同。
“網(wǎng)絡(luò)犯罪分子如何利用 AI 還將取決于 LLM 和具有更少保護(hù)措施的 AI 模型的可用性，并允許提示獲取可能用于惡意用途的信息或代碼。”
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開(kāi)頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)