人工智能已成為引領數字化轉型的重要力量。紅帽作為開源領域的先驅,深知開放與協作對AI技術進步的至關重要性。
紅帽公司堅信,AI技術的持續進步離不開開放與協作。鑒于當前AI在封閉體系中發展存在的隱憂,開源成為了有效的解決方案。紅帽期待開源AI的繁榮,以推動技術向著更開放、更安全的方向發展。為此,紅帽與IBM攜手合作,計劃推出基于Apache 2.0的開源模型和工具,旨在降低AI技術的門檻。通過新產品RHEL AI,紅帽致力于幫助企業更輕松地應用AI技術,期望與各方共同構建一個開放、融合的AI生態,引領AI開源新時代。同時,紅帽還觀察到云與AI之間的緊密聯系,并呈現出混合態勢。公有云承載著AI應用,而在混合云模式下,私有云和邊緣站點也為AI提供了廣闊的發展空間。這充分展現了現代IT架構的靈活性,無論是公有云、私有云還是邊緣計算,都是推動AI技術發展的關鍵載體。
在近日召開的“2024紅帽媒體Open講”上,紅帽全球副總裁兼大中華區總裁曹衡康表示,紅帽的企業級AI戰略與服務始終貫徹開放生態的理念,將開源精神與開放創新實踐深度結合,并緊密銜接開放混合云戰略。紅帽的全方位服務范圍從AI應用層延伸至基礎設施層,致力于為企業提供安全、高效、創新的AI解決方案。
紅帽全球副總裁兼大中華區總裁曹衡康
在AI應用層面,紅帽專注于為企業提供跨開放混合云的賦能服務,以確保企業能夠最大化利用AI技術,進而驅動業務創新;對于AI模型層,紅帽提供多樣化的模型選擇,包括Granite、Webhook和Customer 360等,旨在滿足各類企業需求,并優化AI創新的投資回報率;在AI平臺方面,紅帽推出的Enterprise Linux AI和OpenShift AI等平臺,不僅功能卓越,更便于部署與管理,可助力企業安全、高效地運營AI模型與應用;針對AI基礎設施層,紅帽為企業提供穩固、可擴展的基礎設施及自動化解決方案,以保障AI模型和應用的穩定運行,并降低運維成本。
此外,RH Services系列,包括Open Innovation Labs及咨詢、實施、賦能服務,為企業提供全面的AI創新支持,以加速AI創新的落地并實現業務目標。
總之,紅帽憑借其開放、創新、高效的企業級AI戰略與服務,為企業提供了一站式的AI解決方案,以推動企業在數字化時代邁向更大成功。
AI與開源創新成果矚目
在5月初舉辦的“紅帽全球峰會”上,紅帽宣布了一系列新產品和進展,展示了其在AI和開源領域的持續創新。
首先,紅帽推出了OpenShift AI和Linux AI產品,這些已經可以使用的產品將進一步推動企業AI應用的發展。同時,紅帽還介紹了InstructLab,這是一個開源項目,它的工具能夠簡化整個建模過程。相較于過去需要龐大參數建模的情況,InstructLab僅需十億至二十億的參數即可完成建模,資源消耗大幅降低,這一突破性的進展引起了熱烈反響。
此外,紅帽還推出了Podman,這款工具使得用戶在小型環境,如筆記本電腦上就能進行建模和運行AI,極大地提升了便捷性。
在OpenShift和Ansible方面,紅帽也有新的進展。Ansible的Lightspeed功能去年就已宣布,而今年則進一步在OpenShift和Linux上進行了整合。這一功能通過自然語言指令的AI方式,提升了自動化效率。同時,紅帽還推出了新的鏡像模式,使部署更加迅速。
值得一提的是,紅帽擁有龐大的生態合作伙伴網絡。全球硬件合作伙伴超過5000家,軟件合作伙伴約4000家。這一強大的生態支持,使得紅帽在新產品適配方面具有顯著優勢。英特爾、NVIDIA、AMD等知名企業都是紅帽的合作伙伴。在今年的重點領域中,“軟件定義汽車”備受關注。紅帽在這一領域扮演著重要角色,與眾多合作伙伴共同推動新能源汽車的創新發展。
構建企業AI應用的三步走策略
紅帽大中華區解決方案架構部高級總監王慧慧表示,為了幫助企業高效構建AI應用,紅帽推薦采用以下三步走策略。這一策略提供了從初步開發到生產部署的明確路徑,確保企業在AI應用的每個階段都能得到全面支持。
第一步:桌面初步開發與調優
在桌面環境下,開發人員可以利用小數據集進行初步的實驗性訓練。借助即將集成到Podman Desktop中的InstructLab工具,開發人員能夠在筆記本或PC工作服務器上,以容器化的方式輕松開發AI應用。此外,通過使用InstructLab,開發人員可以建立和調優自己的模型,這是在過去小設備上難以實現的突破。
第二步:生產級模型訓練與驗證
完成初步驗證和模型調優后,開發人員可以將應用推送至Enterprise Linux AI(RHEL AI)平臺。該平臺提供全面的數據生成技術和先進的“教師、學生模型”訓練方法,以支持生產化的模型訓練。一旦模型達到一定的可讀性和可使用性標準,即可進入下一個環境。
第三步:分布式集群環境下的生產部署
在分布式集群環境下,模型將繼續進行生產級的訓練,利用Kubernetes進行擴展、自動化,并實現MLOps的全部功能。若企業用戶希望從小規模開始嘗試,可以從Podman和InstructLab入手。當用戶滿意并準備進行更大規模的測試時,可以將應用推送至RHEL AI進行進一步驗證。最終,當應用完備并準備投入生產時,用戶可以將其部署到OpenShift AI上,這是一個完全集群化、分布式的大型環境,專為運行模型和AI應用而設計。
OpenShift AI:全方位的AI解決方案
OpenShift AI不僅是一個高級的AI平臺,更提供了一套全面的解決方案,專注于解決MLOps和AI應用的DevOps兩大核心問題。
在MLOps領域,OpenShift AI提供了一站式服務,涵蓋模型的創建、調整、服務化以及監控。用戶可以輕松地將重要的基礎大模型,例如LLaMA2或IBM的Granite,導入到OpenShift AI中。同時,該平臺支持在企業內部安全地準備和存儲所有必要的訓練數據,以確保數據的合規性和安全性。完成數據準備后,用戶可以利用平臺上的GPU資源進行模型的調優訓練。值得一提的是,無論GPU卡來自哪個廠商,OpenShift AI都能靈活地進行資源調度,以滿足用戶的異構計算需求。
模型訓練完成后,OpenShift AI還提供了便捷的模型部署和應用調用功能。得益于OpenShift AI的混合特性,模型可以輕松地部署在數據中心、公有云、私有云,甚至工控設備等終端上。
此外,OpenShift AI還是一個強大的AI應用DevOps平臺,使用戶能夠在平臺上完成AI應用的開發、測試、調整、上線及運行,從而實現應用和模型的統一管理。這種集成化設計使OpenShift AI成為企業內部包括應用管理、模型管理和資源控制在內的全方位解決方案。
RHEL AI:基礎模型管理平臺
RHEL AI不僅提供了模型訓練和調優的支持,更是一個全面的基礎模型管理平臺。它專注于管理模型的創建、“對齊”、優化及整個生命周期,使得用戶能夠更高效地控制和使用模型。此外,RHEL AI還內置了IBM開發、紅帽推動開源的Granite大語言模型,為用戶提供更多選擇和便利。
同時,紅帽提供了InstructLab這一創新的模型對齊工具。它利用少量數據和系統合成數據,結合人工反饋,實現模型與特定需求的低成本對齊。紅帽鼓勵開源,并邀請用戶為InstructLab貢獻力量,經審核后將納入新版開源模型,共同推動模型的進步。
多元化AI工具與平臺
除RHEL AI和OpenShift AI外,紅帽還提供了豐富的AI相關工具和平臺:Podman AI Lab作為Podman Desktop的擴展,專注于AI應用開發,為本地開發者提供流暢的工作流與模型微調功能。同時,Lightspeed作為一款基于紅帽內部代碼與客戶自動化腳本訓練的高準確率代碼生成工具,將被無縫集成至OpenShift、RHEL及Ansible等產品中。
這些工具和平臺的推出,旨在簡化AI環境的復雜性,提升開發效率,并推動企業界AI技術的廣泛應用。
引領開源與云原生新潮流
憑借三十年的開源技術積淀,紅帽不僅在通信和制造業推動了開源的廣泛應用,更在工控設備領域開創了開源與云原生的新紀元。展望未來,紅帽將繼續融合AI技術,打造繁榮的AI生態圈,優化整合GPU等計算資源,并持續開發更多應用,以開源之力推動AI在企業的普及,引領智能制造等行業的創新浪潮。
關于企業網D1net(hfnxjk.com):
國內主流的to B IT門戶,同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。