這包括源代碼、受監管數據、密碼和密鑰以及知識產權等敏感數據，從而極大地增加了發生昂貴的數據泄露事件、合規性違規和知識產權被盜的風險。75%的企業用戶正在使用具有GenAI功能的應用程序，這給安全團隊帶來了一個必須解決的大問題：即無意的內部威脅。
GenAI應用帶來了日益增長的網絡安全風險
90%的企業有用戶直接訪問ChatGPT、Google Gemini和GitHub Copilot等GenAI應用。98%的企業有用戶使用提供GenAI功能的應用，如Gladly、Insider、Lattice、LinkedIn和Moveworks等。
根據許多不同的衡量指標，GenAI在企業中的采用率正在上升。然而，從數據安全的角度來看，發送到GenAI應用的數據量最為重要：每一次發布或上傳都是數據暴露的機會。
Netskope的CISO James Robinson表示：“盡管各企業都在努力實施公司管理的GenAI工具，但我們的研究表明，影子IT已經演變成影子AI，近四分之三的用戶仍然通過個人賬戶訪問GenAI應用。這一持續趨勢，再加上所共享的數據，突顯了需要先進的數據安全能力，以便安全和風險管理團隊能夠重新獲得對企業內GenAI使用的治理、可見性和可接受使用的控制。”
企業對GenAI數據缺乏控制
許多企業無法全面甚至部分地了解在間接使用GenAI時，數據是如何被處理、存儲和利用的。通常，它們會選擇采用“先阻止再詢問”的策略，即明確允許某些應用并阻止其他所有應用。然而，隨著員工尋求這些工具帶來的效率和生產力效益，安全負責人必須尋求一種安全賦能策略。
以DeepSeek為例，Netskope發現，在2025年1月發布后的幾周內，91%的企業有用戶試圖訪問DeepSeek AI。當時，大多數企業還沒有為DeepSeek制定安全策略，這使它們面臨未知的風險。此外，員工可能會在不知情的情況下向AI提供專有業務數據，將源代碼、知識產權、受監管數據甚至密碼輸入到生成式AI應用中。
Netskope威脅實驗室總監Ray Canzanese表示：“我們的最新數據顯示，GenAI不再是一種小眾技術，它無處不在。它正日益融入從專用應用到后端集成的方方面面。這種無處不在的特性帶來了日益嚴峻的網絡安全挑戰，要求企業采取全面的風險管理方法，否則其敏感數據可能會被第三方獲取，用于訓練新的AI模型，從而造成更大范圍的數據泄露。”
在過去的一年中，Netskope還觀察到，運行本地GenAI基礎設施的企業數量大幅增加，從不到1%增加到54%，這一趨勢預計將持續下去。盡管這降低了云中的第三方應用造成數據泄露的風險，但轉向本地基礎設施帶來了新的數據安全風險，包括供應鏈風險、數據泄露、不當的數據輸出處理、prompt注入、越獄和meta prompt提取。因此，許多企業在已經使用的基于云的GenAI應用之上，又增加了本地托管的GenAI基礎設施。
影子AI的興起
雖然大多數企業都在使用GenAI，但只有一小部分但持續增長的用戶正在積極使用GenAI應用。在過去的一年里，企業中使用GenAI應用的人數幾乎翻了一番，每個企業中平均有4.9%的人在使用GenAI應用。
GenAI應用在企業中的采用遵循了新云服務的典型模式：單個用戶使用個人賬戶訪問應用。結果是，企業中使用GenAI應用的大多數都可以歸類為影子IT，這是一個用于描述未經IT部門了解或批準即被使用的解決方案的術語。
“AI不僅正在重塑邊界和平臺安全，它還在改寫規則，”Netskope的安全與情報運營副總裁Ari Giguere表示。
99%的企業都在執行政策以降低與GenAI應用相關的風險。這些政策包括阻止所有或大多數用戶訪問所有GenAI應用、控制哪些特定用戶群體可以使用GenAI應用以及控制允許哪些數據進入GenAI應用。以下部分將詳細闡述最受歡迎的政策。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號