最近的AI進步為網絡安全捍衛者和惡意行為者提供了新的工具和能力，網絡犯罪分子已經開始探索AI如何加強攻擊，并以新一代快速射擊威脅的企業為目標，但AI也可以被永遠利用——安全團隊使用AI來加強威脅檢測，并提高補救效率，這來得正是時候，據報道，全球需要400萬名網絡安全專業人員。

 

今年，我們預計AI及其影響將在網絡安全領域變得普遍，提升釣魚誘餌，識別防御中的薄弱環節，并縮短開發和應對攻擊的時間。今年，網絡安全團隊還將把AI放在首位——為應對新一波AI驅動的威脅做準備，并利用這項技術為自己的優勢做好準備。

 

 

1.AI將為社交攻擊增壓

 

網絡犯罪分子將利用AI以前所未有的規模加強社交攻擊，在幾秒鐘內產生令人信服且難以發現的釣魚誘餌，這很可能是非常可信的，因為網絡犯罪分子使用從社交媒體或受攻擊郵箱收集的數據自動進行個性化引誘，因此，即使在網絡釣魚培訓之后，員工也很難發現誘餌，攻擊者還將使用AI來生成更多少數民族語言的誘餌，這將給人以更合法的印象。

 

我們可能也會看到大規模的AI生成的活動在關鍵日期周圍激增，例如，2024年將看到歷史上最多的人在選舉中投票，使用AI，網絡犯罪分子將能夠輕松地針對特定地區制作本地化誘餌，同樣，年終納稅申報等重大年度活動，巴黎奧運會和2024年歐洲杯等體育活動，以及黑色星期五和光棍節等零售活動，也將給網絡犯罪分子提供誘騙用戶的鉤子。

 

隨著偽造電子郵件與合法電子郵件變得難以區分，企業不能僅依靠員工教育，為了防范AI支持的社交攻擊，企業必須為其用戶創建一個虛擬安全網。微虛擬化創建了與PC操作系統隔離的一次性虛擬機，因此即使用戶無意中點擊了不應該點擊的東西，它們也會受到保護。

 

2.低成本管理既帶來機遇，也帶來挑戰

 

本地大型語言模型(LLM)將于今年內置于個人電腦中，“AIPC”將徹底改變人們與終端設備的交互方式，這些LLM將通過利用獨立于互聯網的AI來提高用戶的效率和生產力，并帶來一些安全和隱私方面的好處，這些個性化的助手和聊天機器人將降低個人數據在云中發送和保存的安全風險，然而，隨著這些本地模型收集的數據越來越多，終端將成為威脅參與者的首要目標。

 

隨著企業希望使用LLM聊天機器人來提高便利性，安全團隊將有另一個系統需要防御，這些聊天機器人可以充當以前無法獲得的數據的入口。通過使用有針對性的提示來欺騙企業聊天機器人并超越控制，威脅參與者可以在社交方面設計企業LLM，以獲取機密數據。

 

3.AI降低了對有害固件和硬件攻擊的障礙

 

網絡安全技術的進步將使攻擊者更難進入系統并逃避檢測，但隨著AI將強大的技術交到許多人手中，復雜的能力將變得更容易獲得，這一可用性將使攻擊者能夠創新并繼續增加針對固件和硬件層的攻擊，而安全團隊在這些層的日常可見性較低。從歷史上看，訪問操作系統(OS)需要豐富的技術知識，但AI將使針對較低級別技術堆棧的攻擊更容易獲得。

 

我們預計，更難發現、更具破壞性的高級網絡攻擊的數量將會增加。隨著攻擊者使用AI來發現和利用漏洞并在操作系統下方站穩腳跟，網絡事件將變得更加頻繁。為了防御這種情況，組織現在必須在硬件和固件安全方面投入更多資金。

 

 

AI將對威脅格局產生巨大影響，盡管如此，安全團隊仍然有平等的機會利用AI來增強威脅檢測和響應，并緩解安全團隊的壓力。AI助手還將通過自動掃描來幫助保護用戶，以識別試圖誘騙員工進行銀行轉賬或共享敏感數據的目標釣魚誘餌。

 

2024年AI PC的到來將帶來巨大的安全優勢，使用戶能夠在設備上更安全地利用AI，而不會有數據發送和保存在云中的安全風險，它們還將帶來新的數據保密層，例如自動鎖定無人操作的設備或在設備被監視時啟動隱私屏幕。

 

為了安全地使用AI使其發揮優勢，企業迫切需要一種集成的安全方法，采用零信任原則，與值得信賴的AI安全供應商合作將確保客戶最大限度地發揮AI的優勢，同時免受新的安全和隱私威脅。

 

 

國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)。

 

版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。