精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

企業在倉促部署大型語言模型時面臨著重大風險

責任編輯:cres

作者:Mirko Zorz

2024-07-11 11:24:46

來源:企業網D1Net

原創

在采訪中,Elastic企業的威脅與安全情報主管Jake King討論了企業在倉促部署大型語言模型(LLM)時面臨的新安全風險和漏洞。

Elastic企業的威脅與安全情報主管Jake King解釋了LLM如何對數據隱私構成重大風險,并概述了緩解這些安全風險的策略。
 
問:在你的研究中,你遇到的一些與LLM相關的主要漏洞是什么?
 
答:雖然許多企業正匆忙跟上GenAI的潮流,盡快部署LLM,但這增加了他們暴露于新風險和漏洞的可能性。
 
OWASP 的 LLM 安全和安全性十大排行榜強調了 Elastic 在直接觀察和安全測試中發現的許多問題領域,這些包括如提示注入等能力,威脅行為者操縱 LLM 輸入以控制生成的輸出,以及敏感數據暴露。重要的是要注意,許多漏洞與當前階段 LLM 的使用相關,較少與框架和工具鏈相關——盡管這對于威脅研究人員來說是一個新興的關注領域。
 
問:LLM 如何對數據隱私構成風險,企業應注意哪些具體威脅?
 
答:鑒于其廣泛的使用案例,從內容創建到翻譯再到聊天機器人,LLM 收集了大量的個人和企業信息。如果這些數據泄露,可能會導致重大隱私和安全漏洞。關鍵在于理解,敏感數據暴露可以從憑證暴露、文檔和戰略共享,一直到源代碼暴露等范圍。企業必須批準和監控員工使用 LLM 技術,并監督客戶使用企業發布的任何 LLM 解決方案。
 
問:在 LLM 部署中緩解安全風險的最有效策略是什么?
 
答:對開發和生產環境中部署的系統進行持續和頻繁的監控,對于確保安全操作至關重要。與許多新興技術類似,LLM 的日志記錄和監控的全面性有限。因此,每個解決方案都應考慮其風險、優點和缺點。
 
這應與有效的 LLM 供應鏈管理相結合,供應商應經過適當審查,并展示出強大的安全衛生標準。通過標準化的系統加固以減少組織的攻擊面,結合 LLM 安全最佳實踐,可以讓那些希望將 LLM 技術投入生產環境的組織保持低風險。例如,在提示注入的情況下,一些緩解最佳實踐包括調整 LLM 以識別和防止可疑輸入,或部署機制來驗證和清理輸入提示。
 
問:在管理 LLM 的安全性方面,治理有多重要,你推薦哪些框架或指南?
 
答:強有力的治理對于確保 LLM 的負責任、公平和安全使用至關重要。NIST 和 OWASP 發布了主要的出版物,并持續更新和提供有關 LLM 技術在企業中開發、使用和集成的相關背景信息,這些標準雖然是近期發布的,但對于那些希望加速在其組織中安全使用 LLM 的人來說,是一個關鍵資源。
 
需要考慮的是,治理和安全框架將有助于 LLM 技術的商業采用,但可能無法阻止對抗性團體利用強制性系統控制。正如我們過去所看到的那樣,LLM 創建者要求的控制措施可能會被規避,并且很可能會繼續被規避。
 
問:行業合作如何改善 LLM 的整體安全性?
 
答:透明度和知識共享是增強行業在 LLM 安全方面合作的關鍵。企業和研究人員應以開放的態度領導研究和發現,以確保我們能夠共同進步。鑒于 LLM 技術的快速發展以及針對這些系統的對抗性目標的性質,作為一個社區,快速而開放地發布發現和研究結果是至關重要的。
 
企業網D1net(hfnxjk.com):
 
國內主流的to B IT門戶,旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
 
版權聲明:本文為企業網D1Net編譯,轉載需在文章開頭注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。

鏈接已復制,快去分享吧

企業網版權所有?2010-2024 京ICP備09108050號-6京公網安備 11010502049343號

  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 安仁县| 五峰| 张家港市| 岐山县| 抚顺县| 白玉县| 武鸣县| 格尔木市| 磐安县| 安陆市| 石狮市| 惠安县| 濮阳县| 阳城县| 曲靖市| 广元市| 滦平县| 广元市| 宁武县| 龙里县| 洛南县| 襄汾县| 托里县| 乐东| 宁波市| 丹江口市| 桑日县| 普安县| 涪陵区| 邹平县| 扎赉特旗| 扎兰屯市| 富源县| 平顶山市| 锡林郭勒盟| 白河县| 同心县| 康马县| 乐都县| 景宁| 称多县|