Gartner《2023年云AI開發者服務魔力象限》報告
Gartner這一報告評估了參評技術供應商的“執行能力”和“愿景完整性”。根據Gartner的評估標準,“領導者需要在所有三個關鍵服務領域都有穩健的產品:自動化機器學習、語言和視覺。它們可以通過API提供CAIDS(云AI開發者服務)產品,開發者無需掌握數據科學專業知識,也可使用。領導者還提供支持能力,以增強其核心服務,包括自動偏差檢測和緩解、特征工程、自然語言處理、圖像標注、MLOps以及可解釋和可詮釋的AI。領導者在多個地區提供服務,支持多種語言。”
在Gartner發布的另一份報告《云AI開發者服務關鍵能力》2中,亞馬遜云科技在計算機視覺領域得分3.75(滿分5分),排名所有參評供應商第一,同時在AutoML(自動化機器學習)和語言處理方面也進入前三。
在生成式AI備受矚目的今天,亞馬遜云科技提供完整的生成式AI技術堆棧,覆蓋算力、基礎模型和應用三個層面。亞馬遜云科技生成式AI產品和解決方案進一步降低了生成式AI的使用門檻,讓無論是業務用戶還是開發者都能從中受益,助力來自千行百業的企業提高生產效率,充分釋放數據價值和生成式AI的潛力。
超強算力加速生成式AI和高性能計算應用
亞馬遜云科技近日在其紐約峰會上宣布Amazon Elastic Compute Cloud(EC2)P5實例已正式可用。這是一款下一代GPU實例,由最新的英偉達H100 Tensor Core GPU提供支持,可以滿足客戶在運行機器學習和高性能計算工作負載時對高性能和高擴展性的需求。
亞馬遜云科技基于Amazon Trainium自研芯片的Amazon EC2 Trn1實例與基于GPU的同類實例相比,可節省高達50%的訓練成本,有助于縮短模型訓練時間、快速迭代模型、提升訓練準確度。同時,由第二代Amazon Inferentia加速器支持的Amazon EC2 Inf2實例與第一代Inf1實例相比,計算性能提高了3倍,加速器內存提高了4倍,吞吐量提高了4倍,延遲降低了10倍。Inf2針對大模型進行了優化,通過加速器之間的超高速連接支持橫向擴展分布式推理,即使是高達1750億參數的模型也可以方便部署,高速推理。
降低生成式AI的使用門檻
亞馬遜云科技新推出的基礎模型托管服務Amazon Bedrock和基礎模型Amazon Titan提供了非常簡單的途徑,讓開發者借助基礎模型構建和擴展生成式AI應用程序。亞馬遜云科技進一步為Amazon Bedrock提供全面擴展,新增Cohere作為基礎模型供應商,并加入Anthropic和Stability AI的最新基礎模型,同時發布變革性的Amazon Bedrock代理(Agents)功能,使開發人員能夠更輕松地創建基于生成式AI的應用程序,以完成各種用例的復雜任務,并根據專有知識源提供最新的答案。
在應用層面,亞馬遜云科技的AI編程助手Amazon CodeWhisperer 已正式可用。這是一款AI編程助手,使用基礎模型幫助開發人員提高工作效率。它可以根據開發人員使用自然語言的注釋和IDE(集成開發環境)中的歷史代碼實時生成代碼建議。此外,亞馬遜云科技還發布了Amazon CodeWhisperer Jupyter擴展程序,為Jupyter用戶在Jupyter Lab和Amazon SageMaker Studio中的Python Notebooks生成實時、單行或完整的函數代碼建議。
此外,久負盛名的Amazon SageMaker讓開發者能夠快速、輕松地準備數據,規模化構建、訓練和部署高質量的大型機器學習模型,最后直接將模型部署到生產就緒的托管環境。Amazon SageMaker JumpStart提供來自熱門模型提供商的基礎模型,用于生成可完全自定義的文本和圖片;帶有來自熱門模型中心的預訓練模型和數百種內置算法,讓開發者可以輕松上手模型訓練;針對常見用例提供了完全可定制的解決方案和參考架構,可以加速生成式AI應用開發進程。Meta剛發布不久的免費且可商用的Llama2基礎模型也在Amazon SageMaker JumpStart中可用。該模型提供70億、130億和700億三種參數規模,還提供經過預訓練和微調的版本以提升生成-響應的相關性。Amazon SageMaker能夠為Llama2模型開發者提供更好的性能和控制,并能夠將該模型部署在安全環境下以確保數據安全。
生成式AI廣泛受到客戶和合作伙伴青睞
在生成式AI浪潮下,文本、圖片或音樂生成等基本應用場景已不能滿足企業和開發者的需求,如何為行業用戶提供符合其實際應用場景需求的生成式AI服務成為當務之急。亞馬遜云科技提供了強大的工具,并與各行各業的合作伙伴共同創新,為生成式AI應用落地提供切實有效的助力。
埃森哲正與亞馬遜云科技攜手,幫助客戶使用Amazon Titan等先進的基礎模型,部署Amazon Bedrock、Amazon SageMaker等行業領先服務,以及其他亞馬遜云科技的機器學習技術;德勤也將利用Amazon Bedrock擴展其生成式AI能力,將自身深厚的AI經驗和頂尖人才與亞馬遜云科技的技術力量相結合,幫助客戶更快速地大規模構建新的AI應用,釋放生成式AI能力的巨大價值。
引用來源:
*1 Gartner, Magic Quadrant for Cloud AI Developer Services, 2023.5.22 (G00773391)
*2 Critical Capabilities for Cloud AI Developer Services, 2023.5.22 (G00773480)
GARTNER和MAGIC QUADRANT是Gartner, Inc.和/或其關聯公司在美國和國際上的商標和服務標識,并在獲得許可的情況下在此使用。保留所有權利。Gartner并未在其研究報告中支持任何供應商、產品或服務,也并未建議科技用戶只選擇該等獲最高評分或其它稱號的供應商。Gartner的研究報告含有Gartner研究與顧問組織的意見,且該意見不應被視作事實陳述。就該研究報告而言,Gartner放棄做出所有明示或默示的保證,包括任何有關適銷性或某一特定用途適用性的保證。該圖形由Gartner, Inc.發布,作為更大的研究文檔的一部分,應在整個文檔的背景下進行評估。Amazon Web Services可應要求提供Gartner文檔。