然而，全面采用和提高生產力的道路并非沒有障礙，這些挑戰為提供GenAI服務的公司提供了機會。
GenAI的重大投資
在VB Transform大會上公布的調查結果突顯了對GenAI項目的大量財務投入，近四分之三（73%）的受訪者計劃在未來12個月內在GenAI上花費超過50萬美元，近一半（46%）的受訪者分配超過100萬美元。
然而，只有三分之一的受訪企業有專門用于GenAI項目的預算，超過一半的企業從其他來源（包括IT、數據科學或分析預算）為GenAI項目提供資金。
目前尚不清楚向GenAI投入的資金如何影響原本可以從預算中受益的部門，這些支出的投資回報率（ROI）也尚不明確，但人們樂觀地認為，隨著大型語言模型（LLM）和其他生成模型的不斷進步，附加值最終將證明這些成本是合理的。
“隨著更多LLM使用案例和應用程序在企業中出現，IT團隊需要一種簡便的方法來監控性能和成本，以最大限度地發揮投資的價值，并在出現重大影響之前識別出問題的使用模式。”研究的一部分內容寫道。
Dataiku之前的調查顯示，各大企業正在探索各種應用，從提升客戶體驗到改善內部運營，如軟件開發和數據分析。
實施GenAI的持續挑戰
盡管對GenAI充滿熱情，整合并非易事。調查中的大多數受訪者報告稱，在按照他們希望的方式使用LLM時遇到了基礎設施障礙，此外，他們還面臨其他挑戰，包括遵守區域立法（如歐盟AI法案）和內部政策的挑戰。
生成模型的運營成本仍然是一個障礙。Microsoft Azure ML、Amazon Bedrock和OpenAI API等托管的LLM服務在企業內部探索和生產GenAI時仍然是受歡迎的選擇，這些服務易于使用，并且避免了設置GPU集群和推理引擎的技術困難，然而，其基于令牌的定價模型也使得CIO難以在規模上管理GenAI項目的成本。
另外，企業可以使用自托管的開源LLM，這些模型可以滿足企業應用的需求，并顯著降低推理成本，但它們需要前期投入和許多企業沒有的內部技術人才。
技術堆棧的復雜性進一步阻礙了GenAI的采用。令人震驚的是，60%的受訪者報告稱，他們在分析和AI生命周期的每個步驟（從數據攝取到MLOps和LLMOps）中使用了超過五種工具或軟件。
數據挑戰
GenAI的出現并沒有消除機器學習項目中現有的數據挑戰。事實上，數據質量和可用性仍然是IT領導者面臨的最大數據基礎設施挑戰，45%的受訪者將其列為主要關切，其次是數據訪問問題，有27%的受訪者提到這一點。
大多數企業都擁有豐富的數據資源，但他們的數據基礎設施是在GenAI時代之前創建的，并沒有考慮到機器學習的需求。數據通常存在于不同的孤島中，并以不兼容的格式存儲。在用于機器學習之前，需要對數據進行預處理、清理、匿名化和整合。數據工程和數據所有權管理仍然是大多數機器學習和AI項目的重要挑戰。
“即使擁有今天可用的所有工具，人們仍未能掌握數據質量（以及可用性，即數據是否適合其目的并符合用戶需求），”研究報告中寫道，“諷刺的是，現代數據堆棧面臨的最大挑戰實際上并不是那么現代化。”
挑戰中的機遇
“現實是，GenAI將繼續轉變和演進，不同的技術和提供商會來來去去。IT領導者如何在參與游戲的同時保持對未來的敏捷性？”Dataiku的現場CDO Conor Jensen說，“所有人都在關注這個挑戰——加上不斷攀升的成本和其他風險——是否會超越GenAI的價值產出。”
隨著GenAI從探索性項目逐步轉向可擴展運營的底層技術，提供GenAI服務的公司可以通過更好的工具和平臺支持企業和開發人員。
隨著技術的成熟，將有很多機會簡化GenAI項目的技術和數據堆棧，減少集成的復雜性，幫助開發人員專注于解決問題和提供價值。
企業即使尚未探索GenAI技術，也可以為GenAI技術的浪潮做好準備。通過運行小型試點項目和試驗新技術，企業可以發現其數據基礎設施和政策中的痛點，并開始為未來做準備，同時，他們可以開始培養內部技能，以確保擁有更多選擇，并更好地利用技術的全部潛力，在各自行業中推動創新。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號