這項調查是公司季度系列關于企業GenAI現狀的最新一期，該系列的第一份報告于1月發布，發現業務領導者對社會影響和技術人才表示擔憂。
新報告描繪了一幅企業努力利用GenAI潛力的圖景，同時面臨著可擴展性、數據管理、風險緩解和價值衡量等方面的挑戰。報告強調了一個關鍵節點，即早期成功推動了更多投資，但廣泛實施的道路仍然充滿障礙。
報告的主要發現包括：
• 67%的企業由于早期取得的強勁價值而增加了對GenAI的投資
• 68%的企業僅將30%或更少的GenAI實驗投入生產
• 75%的企業增加了對GenAI數據生命周期管理的投資
• 僅有23%的企業認為他們對GenAI相關的風險管理和治理挑戰高度準備
• 41%的企業在定義和衡量GenAI工作的確切影響方面存在困難
• 55%的企業因數據相關問題而避免了某些GenAI的用例
德勤的合伙人Kieran Norton在接受VentureBeat采訪時表示：“我看到很多客戶正在進行原型開發和試點項目，但尚未進入生產階段。很大一部分原因與數據質量及其影響有關，包括模型中引入偏差的風險。”
風險擔憂如何影響企業AI部署
德勤的這項調查是最近幾周內多項旨在詳細說明企業AI當前使用情況的報告之一。普華永道上周發布的一份報告顯示，盡管企業對GenAI的興趣很高，但在評估AI風險方面仍存在一定差距。
德勤的報告進一步指出，AI風險可能正在影響企業的部署。Norton表示，企業高管們對這些風險非常關注，在他們認為這些問題可以得到解決之前，不愿意推進相關項目。
德勤報告強調了一些關鍵風險，包括數據質量、偏見、安全性、信任、隱私和合規性。這些雖然不是全新的領域，但Norton強調，GenAI存在一些特有的細微差別。Kieran認為，企業可以利用現有的風險管理計劃來應對這些挑戰，然而，他也承認需要加強某些實踐，例如數據質量管理，以減輕GenAI帶來的特定風險。
Norton表示：“有些細微差別需要解決，但歸根結底，這仍然是核心治理問題。數據質量一直是一個關注點，因此你可能需要加強數據質量管理，以減輕風險。”
其中一個特別的擔憂是GenAI模型可能會出現“幻覺”風險，即生成錯誤或無意義的輸出。Norton解釋說，這一風險確實令人擔憂，并指出這通常與對輸入模型的數據缺乏理解有關。他建議，對于某些用例，企業可以選擇使用更小、更有針對性的語言模型和特定培訓，以減少幻覺風險。
企業如何展示GenAI項目的價值
報告中的一個重要發現是，41%的組織難以有效衡量其GenAI的工作。更糟糕的是，只有16%的企業為其CFO定期提供報告，詳細說明GenAI創造的價值。
Norton解釋說，這種困難源于用例的多樣性，需要一種更細致、針對具體用例的方法。
他說：“如果你在企業的不同部分探索20種不同的用例，你可能會遇到蘋果、橙子、香蕉和菠蘿，所以你無法以相同的方式衡量所有這些。”
Norton建議，企業應為每個具體用例定義KPI，針對他們試圖解決的業務問題，這可能包括生產力、效率或用戶體驗的改進，具體取決于特定用例。他建議企業識別業務中存在問題的領域，然后嘗試解決這些問題。
他說：“我認為，更重要的是將其分解到用例層面，而不是將其作為一個整體組合來處理。”
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號