在數字化轉型的浪潮中,人工智能(AI)已成為企業增強競爭力、提速數字化轉型進程的核心驅動力。然而,在AI技術落地應用的過程中,企業往往需要跨越重重挑戰。企業網D1net在與眾多CIO的深入交流中發現,企業在AI落地過程中往往面臨四大難題。
首先是高昂的投入成本。從硬件采購、軟件系統開發到長期的運維管理,每一個環節都伴隨著不菲的支出。尤其在大模型應用場景下,所需的龐大算力往往難以自給自足,租賃外部算力成為多數企業節約初期成本的主要方式。
其次是發展方向及投入產出的不確定性。AI技術與模型迭代迅速,市場格局瞬息萬變,新興初創公司層出不窮,這些因素共同導致了極高的不確定性。因此,CIO們在制定AI預算時普遍持謹慎態度,傾向于在初見成效后再逐步加大投入。
第三,高質量訓練數據的稀缺性成為制約AI發展的又一瓶頸。大模型雖強,卻需海量數據支撐,而在企業的實際業務場景中,數據量有限,高質量數據更是鳳毛麟角。這使企業更加傾向于選擇那些數據量相對較小、精度卻更高的小模型。
最后,數據安全風險不容忽視。對于能源、醫療、金融、制造業等高度敏感的行業而言,模型的本地化部署需求尤為迫切。企業需確保數據在傳輸、處理及存儲過程中的安全合規性,以防范潛在的數據泄露風險,維護公眾信任與企業聲譽。
紅帽全球副總裁兼大中華區總裁 曹衡康
面對這些復雜且棘手的挑戰,企業在AI落地過程中往往步履維艱,難以充分發揮AI技術的真正價值。在2024紅帽論壇上,紅帽公司攜手行業領袖與頂尖生態伙伴,聚焦開源AI在企業應用中的新思路與解決方案,為破解上述難題提供了有力的支持。紅帽全球副總裁兼大中華區總裁曹衡康指出,開源AI不僅能夠降低技術門檻和成本,還能通過社區協作加速創新,為企業帶來更大的靈活性和自主可控性,提升企業的競爭力和市場響應速度。
以開源的方式助力企業破解AI落地難題
紅帽的混合云理念鼓勵客戶在合適的場所部署算力,比如公司內部數據中心、公有云,甚至跨多云環境。曹衡康提到,去年紅帽推出了“Unlock”理念,旨在避免客戶被鎖定在特定云上,開源架構為客戶提供更多彈性和自由度。因此,在算力支持方面,始終鼓勵客戶使用紅帽的開放平臺,以便在任意云和本地環境中靈活切換,滿足各種算力需求。
曹衡康在演講中提到,紅帽一直致力于通過開源技術推動AI在企業中的應用。他介紹了紅帽在開源AI領域的最新進展,包括與IBM聯合發起的InstructLab開源社區項目,以及RHEL AI和OpenShift AI等產品。這些產品及工具旨在為企業提供從基礎支持到高級企業服務的全方位AI解決方案,幫助企業量身打造符合自身需求的AI應用落地路徑。
紅帽大中華區方案架構部總經理 王慧慧
紅帽大中華區方案架構部總經理王慧慧提到,針對客戶在項目決策前對成本與收益的高度關注,紅帽推出了創新的“三步走”實施路徑,通過分階段實施,幫助客戶在確保項目可行性的同時,以靈活、高效的方式響應市場需求,最大化其投資回報率(ROI)。
第一步:輕量級試跑,降低門檻
首先,紅帽允許客戶在最小資源配置下,利用開源模型和工具進行初步嘗試。這意味著客戶僅需使用普通的筆記本電腦CPU即可開始試跑,無需額外投資昂貴的GPU卡。這一舉措極大地降低了嘗試門檻,使得客戶能夠在幾乎無負擔的情況下,初步驗證模型的適用性和效果。
第二步:云端擴展,靈活升級
若客戶對初步測試結果滿意,可以進入第二步,通過云租用算力進行更深入的擴展。紅帽平臺幾乎可在任何云上運行,客戶可以選擇公司自有的數據中心,也可以在外部公有云等多種環境中運行。這一步驟使得客戶能夠在確認模型完全滿足其業務需求后,再考慮更大規模的部署,從而有效避免了資源浪費和風險。
第三步:跨云混合部署,實現最優ROI
最后一步,紅帽的架構支持跨云混合部署。客戶可以根據實際需要,在全球范圍內靈活選擇云服務提供商,例如在中國采用阿里云,在美國則使用AWS等,這種多云方案既靈活又經濟。紅帽的目標是幫助客戶實現最佳的投資回報率(ROI),并在每一步提供適配的支持。
紅帽的“三步走”戰略旨在助力客戶快速推廣并應用AI技術,如Language AI、Code AI等。自今年5月在美國發布以來,紅帽AI技術已在全球范圍內引起高度關注,并在中國市場取得初步成果。
首先,紅帽通過多渠道推廣AI技術的獨特優勢,提升市場認知度。其次,構建合作伙伴生態,賦能技術與顧問團隊,深化對AI技術的理解與支持。最后,設立開放實驗室,與客戶共同探索AI在企業場景中的應用,確保技術的精準落地。
值得一提的是,紅帽已成功助力一家保險業客戶引入紅帽的新AI工具,僅在5個月內便完成了生產部署,加速了該公司代碼審查與代碼合并請求的處理,顯著提升了準確率和效率。這一案例成為在中國本地開發并投入生產的首個案例,也使亞太區成為第一個實現該應用并成功投入生產的區域。
此外,紅帽內部也在積極應用AI優化客戶支持流程,如智能推薦解決方案、自動生成項目報告等,有效提升了工作效率與服務質量。紅帽表示,將繼續深化開源AI技術的應用與實踐,期待更多客戶分享成功案例,共同推動AI技術的創新發展。
InstructLab:對齊適合企業AI應用的“小模型”
會上,紅帽在現場演示了其在AI領域的全棧解決方案,包括Granite 語言和代碼模型、InstructLab、開源AI工具集、針對AI優化的Linux操作系統以及OpenShift AI平臺等。這些解決方案旨在為企業提供一站式的AI開發、訓練和部署服務,幫助企業快速實現AI應用落地。
InstructLab是一個用于生成式AI模型開發的開源社區項目,由紅帽與IBM聯合發起,幫助企業對齊適合自身AI應用的“小模型”。通過InstructLab和小模型概念,企業可以快速將知識庫輸入到模型中,無論采用何種模型架構,都可以通過深度數據的方式生成企業的專屬模型,這種方式可以讓企業快速搭建適合自身的特有模型,大幅縮短了開發周期。
值得一提的是,InstructLab和Granite是一個相輔相成的體系。王慧慧提到,設計InstructLab的初衷主要有兩個:一是讓客戶基于Granite基礎模型,使用InstructLab和自身數據訓練出符合需求的模型。InstructLab的輸出分為“知識(knowledge)”和“技能(skill)”,兩者皆可留在企業內部自用。
二是InstructLab能將知識和技能反饋至上游的管理機構。當管理機構收到客戶反饋的更新后,可以將其整合到社區版本的Granite模型中,并發布新版本。因此,InstructLab是連接社區和客戶的橋梁。紅帽的開源平臺上,幾乎所有產品都遵循這種模式。在開源模型領域,這是紅帽和IBM運用這一方法進行的首次探索,旨在通過開源社區推動開源模型的持續進步,而不僅僅是開放某個版本的模型。
安利(中國)及SEWC榮獲2024紅帽亞太創新獎
會上,紅帽宣布了2024紅帽亞太創新獎中國區獲獎名單。安利(中國)有限公司和西門子工業自動化產品(成都)有限公司(以下簡稱SEWC)獲得該獎項,表彰他們在創新運用紅帽解決方案應對不斷變化的業務需求方面的卓越表現。
為了支持業務擴展、提升客戶滿意度,同時控制運營成本,安利(中國)選擇紅帽優化其生產供應鏈。通過紅帽OpenShift混合云應用平臺,安利(中國)實現了供應鏈的全面數字化協同,開創了全新的生產數字孿生應用。通過云端與邊緣設備端的協同實現了全制程可視化與可追溯。
這一創新平臺為安利(中國)打造了一套全新的生產數字孿生應用,極大地提升了質量追蹤和原材料溯源的數字化水平。借助此平臺,安利能實時洞察生產過程的每一個細節,及時發現并解決潛在質量問題,從而優化資源配置、提高生產效率、降低運營成本。此外,客戶也能更透明地獲取產品信息,進一步增強對安利(中國)高質量產品承諾的信心。
SEWC面臨著生產連續性受到挑戰的困境,包括系統靈活性和可擴展性不足、開發效率低下,以及操作不便等問題。SEWC通過部署紅帽OpenShift,打造了MEMO(制造運營模塊化生態系統),一個新一代集成、靈活且彈性的生產支持系統。該系統顯著提升了生產線工人的用戶體驗和工作效率,將前沿理念付諸實踐,為工業自動化制造執行系統的軟件應用樹立了新的標桿。
西門子工業自動化產品(成都)有限公司IT部門經理楊健表示,SEWC與紅帽合作的MEMO項目顯著提升了架構靈活性和開發效率,為未來業務的發展提供了有力支撐。接下來,SEWC將繼續在微服務平臺上與紅帽深化合作,并計劃利用紅帽的虛擬化技術優化其現有方案。
楊健提到,小模型在生產中非常適用,因為應用和場景單一,錯誤率低,能保證質量和過程的可控性。而大模型有時會出現幻覺現象,在生產應用中存在一定風險。楊健對與紅帽未來的合作充滿期待,更對紅帽AI平臺表現出濃厚的興趣,期待將其整合到西門子的資源體系中,以進一步優化制造流程。
結語
隨著開源技術的不斷發展和普及,開源AI已經成為推動企業數字化轉型的重要力量。本次紅帽論壇不僅展示了開源與AI結合的巨大潛力和廣闊前景,也為企業提供了更多的選擇和合作機會。
未來,紅帽將繼續秉承開放、協作和創新的精神,與合作伙伴和客戶攜手共進,共同探索開源AI的無限潛能。我們相信,在不久的將來,開源AI將在更多領域發揮重要作用,加速企業的數字化轉型進程,助力企業全面提升綜合競爭力。