CISO及確保企業安全的人員有充分的理由謹慎行事，并阻止驚人數量的AI/ML交易。攻擊者已經調整了他們的攻擊手段，現在已經能夠利用大型語言模型在企業不知情的情況下攻擊企業。對抗性AI也是一個日益增長的威脅，因為它是一個沒人能預見到的網絡威脅。

 

Zscaler 今天發布的 2024 年 AI 安全報告量化了為什么企業需要一個可擴展的網絡安全策略來保護他們正在引入的許多 AI/ML 工具。數據保護、管理 AI 數據的質量和隱私擔憂主導了調查結果。基于 2023 年 4 月至 2024 年 1 月在 Zscaler 零信任交換上的超過 180 億筆交易，ThreatLabz 分析了企業今天如何使用 AI 和 ML 工具。

 

醫療保健、金融和保險、服務、技術和制造業對 AI/ML 工具的采用及其面臨的網絡攻擊風險，提供了這些行業對 AI 攻擊準備不足的嚴峻現實。制造業產生了最多的 AI 流量，占所有 AI/ML 交易的 20.9%，其次是金融和保險（19.9%）和服務（16.8%）。

 

阻止交易是一個快速的、臨時的勝利

 

CISOs 及其安全團隊選擇阻止創紀錄數量的 AI/ML 工具交易，以防范潛在的網絡攻擊。這是一種蠻力移動，保護了最脆弱的行業免受網絡攻擊的肆虐。

 

ChatGPT 是目前使用和阻止最多的 AI 工具，其次是 OpenAI、Fraud.net、Forethought 和 Hugging Face。最常被阻止的域名包括 Bing.com、Divo.ai、Drift.com 和 Quillbot.com。

 

制造業只阻止了 15.65% 的 AI 交易，考慮到這個行業面臨網絡攻擊的風險很高，尤其是勒索軟件，這個比例很低。金融和保險行業阻止了最大比例的 AI 交易，達到了 37.16%，表明對數據安全和隱私風險的關注度提高。令人擔憂的是，盡管醫療保健行業處理敏感的健康數據和個人身份信息（PII），但它阻止的 AI 交易比例低于平均水平，僅為 17.23%，這表明他們可能在保護 AI 工具涉及的數據方面落后。

 

在醫療保健和制造業這類對時間和生命敏感的業務中造成混亂，會導致勒索軟件支付金額遠遠超過其他企業和行業的多倍。最近的United Healthcare勒索軟件攻擊就是一個例子，展示了一個有組織的攻擊如何摧毀整個供應鏈。

 

阻止是對更大問題的短期解決方案

 

更好地利用所有可用的遙測數據，并解碼網絡安全平臺能夠捕獲的大量數據，是超越阻止的第一步。CrowdStrike、Palo Alto Networks和Zscaler推廣他們利用遙測數據獲得新見解的能力。

 

CrowdStrike的聯合創始人兼CEO George Kurtz在去年該公司年度Fal.Con活動的主旨演講中告訴觀眾：“我們真正開創的領域之一是我們可以從不同端點收集微弱信號。我們可以將這些信號連接起來，發現新的檢測方法。我們現在將這一能力擴展到我們的第三方合作伙伴，以便我們可以不僅在端點，還在不同領域內尋找其他微弱信號，以發現新的檢測方法。”

 

在AI方面擁有深入專業知識、其中許多擁有數十年機器學習經驗的領先網絡安全供應商包括Blackberry Persona、Broadcom、Cisco Security、CrowdStrike、CyberArk、Cybereason、Ivanti、SentinelOne、Microsoft、McAfee、Sophos和VMWare Carbon Black。期待這些供應商對他們的大型語言模型（LLMs）進行AI驅動攻擊數據的培訓，以嘗試與攻擊者使用對抗性AI的加速步伐保持同步。

 

一種新的、更致命的AI威脅景觀已經出現

 

報告中Zscaler表示：“對于企業而言，AI驅動的風險和威脅分為兩大類：一是啟用企業AI工具涉及的數據保護和安全風險，二是由生成式AI工具和自動化驅動的新型網絡威脅景觀的風險。”

 

CISO及其團隊面臨著保護組織免受報告中簡要概述的AI攻擊技術的猛烈攻擊的巨大挑戰。保護員工在使用ChatGPT時不犯粗心大意，確保機密數據不會意外共享，應成為董事會討論的話題。他們應將風險管理作為其網絡安全策略的核心內容優先考慮。

 

通過ChatGPT保護知識產權不外泄、控制暗影AI，并正確處理數據隱私和安全是有效的AI/ML工具策略的核心。

 

去年，VentureBeat與National Oilwell Varco（NOV）的CIO Alex Philips討論了他的公司對生成式AI的方法。Philips告訴VentureBeat，他的任務是向董事會講解ChatGPT和一般生成式AI的優勢和風險。他定期向董事會提供GenAI技術當前狀態的更新。這一持續的教育過程有助于設定對技術的期望以及NOV如何設置防護措施以確保不會發生類似三星的信息泄露。他暗示ChatGPT作為一種生產力工具的強大功能，以及在控制暗影AI的同時正確處理安全性的重要性。

 

在新的、未知的AI威脅景觀中，平衡生產力和安全至關重要。Zscaler的CEO曾成為一種vishing和smishing情景的目標，其中威脅行為者在WhatsApp消息中模仿Zscaler CEO Jay Chaudhry的聲音，試圖欺騙一名員工購買禮品卡并泄露更多信息。Zscaler利用其系統成功阻止了這次攻擊。VentureBeat了解到，這是一種針對網絡安全行業領先的CEO和技術領袖的熟悉攻擊模式。

 

攻擊者依靠AI發起規模更大、速度更快的勒索軟件攻擊。Zscaler指出，AI驅動的勒索軟件攻擊如今是國家級攻擊者武器庫的一部分，且其使用頻率正在增長。攻擊者現在使用生成式AI提示創建目標組織中所有防火墻和VPN的已知漏洞表。接下來，攻擊者使用LLM生成或優化這些漏洞的代碼利用，為目標環境定制載荷。

 

Zscaler指出，生成式AI還可以用來識別企業供應鏈合作伙伴的弱點，同時突出連接到核心企業網絡的最佳路徑。即便企業維持強大的安全態勢，下游漏洞往往可能構成最大的風險。攻擊者持續利用生成式AI進行實驗，創建他們的反饋循環，以在更復雜、更有針對性的攻擊中改進結果，這些攻擊更難以檢測。

 

攻擊者的目標是利用生成式AI貫穿勒索軟件攻擊鏈——從自動化偵察和針對特定漏洞的代碼利用到生成多態惡意軟件和勒索軟件。通過自動化攻擊鏈的關鍵部分，威脅行為者可以對企業發起更快、更復雜且更有針對性的攻擊。

 

 

國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)。

 

版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。