OpenAI的定制GPT是黑客將在2024年利用的強(qiáng)大新工具的主要例子，考慮到它們的易用性，那些技術(shù)水平低得多的人可以利用它們來設(shè)計(jì)和發(fā)動極具說服力的社交攻擊。

 

設(shè)想一個場景，攻擊者使用ChatGPT生成的文本偽裝成經(jīng)理或部門負(fù)責(zé)人，他們向毫無戒心的員工發(fā)送一個類似WhatsApp的應(yīng)用程序的鏈接，在該應(yīng)用程序中，他們將與GPT“經(jīng)理”進(jìn)行對話，說服他們轉(zhuǎn)賬或分享敏感數(shù)據(jù)，以類似的方式，GenAI服務(wù)可以被用來指示受害者與GPT支持的“服務(wù)臺”或“IT代表”進(jìn)行對話，這些欺騙性的攻擊在整個企業(yè)中已經(jīng)變得更加常見，并且只會隨著新的GenAI工具和功能的出現(xiàn)而增長。

 

僅依靠員工意識不足以識別和預(yù)防此類威脅，因此，必須優(yōu)先維護(hù)強(qiáng)大的安全協(xié)議。

 

 

2024年，網(wǎng)絡(luò)犯罪分子將繼續(xù)利用現(xiàn)代SaaS應(yīng)用程序，將惡意有效負(fù)載嵌入云中，并利用低掛起的安全漏洞。隨著疫情的蔓延和遠(yuǎn)程工作環(huán)境的興起，這些隱蔽的策略繼續(xù)在雷達(dá)下飛行，并在公司的防御中戳出漏洞。

 

就在今年夏天，威脅參與者使用一種名為TeamsPhisher的惡意開源程序，通過微軟團(tuán)隊(duì)向毫無戒備的用戶發(fā)送釣魚誘餌，以實(shí)施隨后的網(wǎng)絡(luò)攻擊，包括勒索軟件攻擊，這突顯了SaaS應(yīng)用作為威脅參與者的無意幫兇的重要性。

 

公司應(yīng)該預(yù)料到，這種攻擊媒介的繼續(xù)存在是一個強(qiáng)大的網(wǎng)絡(luò)前沿，并相應(yīng)地加強(qiáng)他們的安全框架。

 

 

在開發(fā)人員和安全團(tuán)隊(duì)手中，AI提高了生產(chǎn)率，簡化了眾多業(yè)務(wù)運(yùn)營，但在威脅參與者手中，它可以被用來破壞公司的防御并提取敏感數(shù)據(jù)。

 

攻擊者準(zhǔn)備利用AI日益增長的自動化能力，以極高的效率和精確度識別云基礎(chǔ)設(shè)施中的漏洞，并準(zhǔn)確地開展惡意電子郵件活動。因此，盡管AI驅(qū)動的自動化可以減輕所有行業(yè)辦公室員工的大量工作量，但它賦予了威脅參與者同樣的奢侈品。

 

 

停留在AI領(lǐng)域，多模式ML模型為攻擊者提供了生成令人信服的音頻、圖像和視頻的能力，以欺騙毫無戒心的員工。

 

隨著深度假冒活動在2023年增加了驚人的3000%，這項(xiàng)復(fù)雜的技術(shù)正被用來創(chuàng)建幾乎無法與合法信件區(qū)分開來的信件，同時(shí)也有更便宜、更容易使用的好處。

 

這種欺騙做法將繼續(xù)對無數(shù)公司構(gòu)成嚴(yán)重威脅，隨著這些模型的復(fù)雜性和制造能力的成熟，教育工作人員識別和報(bào)告企圖的違規(guī)和錯誤信息活動將變得至關(guān)重要。

 

 

隨著LLM支持的服務(wù)在整個公司工作流程中繼續(xù)激增，公司領(lǐng)導(dǎo)人將需要建立強(qiáng)大的保護(hù)，以抵御惡意即時(shí)注入 - LLM的輸入被設(shè)計(jì)為操縱輸出或改變標(biāo)準(zhǔn)處理程序。

 

不幸的是，公司出于垂直或特定于運(yùn)營的培訓(xùn)目的而選擇將內(nèi)部數(shù)據(jù)輸入LLM的情況很容易暴露。通過輸入精心設(shè)計(jì)的提示，黑客可以操縱LLM泄露敏感數(shù)據(jù)，這可能會違反合規(guī)規(guī)定并被罰款，數(shù)據(jù)安全中的此類漏洞需要積極主動的解決方案。

 

因此，對于依賴LLM支持的服務(wù)的公司來說，在緩解這些挑戰(zhàn)方面的遠(yuǎn)見卓識將是至關(guān)重要的，這將為一套新的解決方案奠定基礎(chǔ)，這些解決方案致力于防止敵對提示危及數(shù)據(jù)安全。

 

 

隨著AI的不斷成熟，威脅格局也在不斷成熟，應(yīng)對AI系統(tǒng)帶來的網(wǎng)絡(luò)攻擊將是整個2024年的一個關(guān)鍵商業(yè)目標(biāo)。

 

通過部署工具和分層解決方案來識別和解決正在進(jìn)行的打擊黑客的新戰(zhàn)線，公司將能夠領(lǐng)先于他們的數(shù)字對手一步。

 

 

國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。

 

版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。