在當今科技日新月異的時代，AI已成為推動各行各業發展的強大引擎。作為全球領先的云計算服務提供商，亞馬遜云科技在人工智能領域的布局尤為引人注目。從早期的基礎設施建設到如今的生成式AI三層技術棧，亞馬遜云科技始終走在技術前沿，推動著人工智能的發展和應用。
亞馬遜云科技的AI之旅始于其強大的基礎設施建設。自2006年推出首個云服務Amazon S3以來，亞馬遜云科技不斷擴展其服務范圍，涵蓋計算、存儲、數據庫、網絡、數據分析等多個領域。通過消除管理基礎設施和數據中心的冗余工作，亞馬遜云科技成功將網絡、存儲、數據庫和計算等技術轉變為可配置資源，為全球數百萬客戶提供了高效、靈活的云服務。
在推動AI發展的過程中，亞馬遜云科技尤其注重自研芯片和計算架構的創新。從2018年推出基于ARM架構的第一代Amazon Graviton芯片開始，亞馬遜云科技已經推出了六代Nitro系統、四代Graviton、兩代Trainium和Inferentia等自研芯片產品組合。這些芯片在性能優化、安全性提升和AI工作負載處理方面均表現出色，為亞馬遜云科技的AI服務提供了強大的算力支持。
隨著生成式AI的興起，亞馬遜云科技在2023年推出了生成式AI三層技術棧，旨在幫助各行各業更好地擁抱生成式AI時代。這一技術棧包括底層的基礎設施、中間的構建和擴展工具以及頂層的開箱即用的企業級生成式AI助手。
底層基礎設施以GPU和自研芯片為代表，用于基礎模型的訓練和推理。中間層則以Amazon Bedrock為代表，提供了可以訪問所需基礎模型以及構建和擴展生成式AI應用程序的工具。頂層則是以Amazon Q為代表的企業級生成式AI助手，讓用戶無需專業知識即可快速上手生成式AI。
在近日召開的re:Invent 2024中國行上，亞馬遜云科技大中華區產品部總經理陳曉建，深入介紹了亞馬遜云科技在生成式AI領域取得的突破和進展。他表示，生成式AI正在重塑每一個行業，為IT從業者帶來了巨大的機會，特別是在初創企業中，云計算和生成式AI的結合已成為其邁向成功的重要推動力。
亞馬遜云科技大中華區產品部總經理 陳曉建
基礎設施層：打造AI時代的算力基石
在AI領域，算力是決定模型性能和訓練效率的關鍵因素。亞馬遜云科技在算力方面持續投入，推出了多款自研芯片和實例，以滿足不同場景下的AI需求。
Trainium系列芯片是亞馬遜云科技針對大模型訓練推出的專用芯片，預計將于2025年末上線的Trainium3將采用先進的3nm工藝，性能是Trainium2的兩倍，能效提升40%。這些芯片為亞馬遜云科技提供了強大的算力支持，使得客戶能夠高效地進行大模型訓練。
此外，亞馬遜云科技還推出了EC2 Trn2實例和Trn2 UltraServer等高性能計算實例，這些實例基于亞馬遜云科技自研的NeuronLink技術互聯，提供了超高的算力密度和極低的延遲，適用于大規模模型訓練和推理任務。
數據層：構建AI時代的數據基石
數據是AI模型訓練的“燃料”，亞馬遜云科技在數據層也進行了全面布局。亞馬遜云科技推出了SageMaker Lakehouse，這是一套兼容Apache Iceberg的數據湖倉服務，提供了簡單統一的數據接入與訪問控制，使得數據集成更加簡單高效。
同時，亞馬遜云科技還推出了Amazon S3 Tables和S3 Metadata元數據服務等創新功能，進一步提升了數據查詢和分析的效率。這些服務使得客戶能夠從PB級甚至EB級的數據中快速找到所需信息，為大模型訓練提供優質的數據飼料。
模型層：提供全托管的模型服務平臺
在模型層，亞馬遜云科技推出了Amazon Bedrock全托管模型服務平臺，這是構建和拓展大模型應用的最簡單方式。
Amazon Bedrock作為構建與擴展生成式AI應用的核心平臺，已經成功為客戶提供了將推理功能融入生產環境的關鍵工具，并實現了顯著價值。Amazon Bedrock推出的一系列創新功能則進一步提升了其服務能力和用戶體驗。
新發布的延遲優化選項，基于Amazon EC2 Trn2實例，憑借最新的硬件和軟件優化技術，可在多個模型上實現卓越的推理性能。用戶只需指定推理請求的優先級，平臺即可自動處理。目前，該功能已面向特定模型開放預覽，其中Llama 405B模型在延遲優化版本中的性能得到了顯著提升，而Anthropic的Claude 3.5 Haiku模型在延遲優化版中的處理速度也大幅提高。
此外，Amazon Bedrock還推出了模型蒸餾功能，用戶只需提供示例提示，平臺即可自動完成蒸餾工作。通過這一功能，得到的模型運行速度可提升至原來的5倍，成本降低75%，從而大幅提高了生成式AI項目的投資回報率。
在知識庫方面，Amazon Bedrock現在支持GraphRAG，利用Amazon Neptune自動生成圖譜，建立數據源之間的關聯。無需專業知識，用戶即可開發出更全面的生成式AI應用。該功能能夠清晰展示連接和信息來源，提升事實驗證的透明度，并通過API調用讓應用生成更準確的響應。
為了預防模型幻覺引起的事實性錯誤，Amazon Bedrock還推出了自動推理檢查功能。該功能基于數學驗證，檢查模型事實性陳述的準確性，并展示推理過程，確保在如保險等領域中回答的準確性。
最后，Amazon Bedrock的多智能體協作功能支持多個Agent協作處理復雜工作流程。用戶可以為特定任務創建一系列獨立Agent，并設置監督Agent來負責信息訪問權限的設置、任務執行方式的決定以及協作的確保。這一功能讓用戶無需單獨管理Agent，即可輕松處理復雜任務。
此外，亞馬遜云科技還推出了自研的Amazon Nova基礎模型。該系列模型涵蓋了從文本到文本、多模態等多種類型，包括低成本的Nova Micro、快速處理多種輸入的Nova Lite、平衡準確性、速度和成本的Nova Pro，以及即將推出的、能力最強的多模態模型Nova Premier，可處理復雜推理任務并指導定制模型蒸餾。此外，新一代圖像生成模型Amazon Nova Canvas不僅能生成高質量圖像，還支持圖像編輯功能，最高可生成2K分辨率的圖像，并即將開放模型微調功能。同時，新一代視頻生成模型Amazon Nova Reel以先進的視頻生成質量和低延遲為特點，提供了性能和成本效益之間的平衡，其文本到視頻和文本視頻生成功能更是讓視頻制作變得普惠化。
應用層：打造強大的AI生產力工具
在應用層，亞馬遜云科技推出了Amazon Q智能助手這一全新的工具，旨在幫助沒有生成式AI專業能力的業務人員也能快速便捷地使用生成式AI功能。
Amazon Q系列產品，包括Amazon Q Developer和Amazon Q Business，致力于為不同場景提供強大的生成式AI支持。
Amazon Q Developer方面，新發布的軟件開發Agent在SWE-bench測試中表現優異，已能解決54.8%的軟件開發問題，且在七個月內能力提升兩倍多。同時，推出的三款新自動化智能體，分別能實現自動執行單元測試、文檔生成和代碼審查流程，大幅提升開發效率。此外，Amazon Q Developer還推出了新功能，加速大規模傳統工作負載的轉型，包括將.NET應用從Windows遷移到Linux的速度提升4倍，成本節省高達40%;將VMware工作負載遷移到云原生架構，時間從傳統的數周或數月降低至幾小時，大幅降低風險;解決大型主機遷移問題，預計縮短遷移時間，并將大型主機現代化的時間縮短最多50%。同時，Amazon Q Developer還能更輕松地幫助客戶排查亞馬遜云科技環境中的各類問題，提升運維效率。
Amazon Q Business則是一款功能強大的生成式AI助手，既能充分利用公司內部數據，又能加快任務處理速度。它能連接企業數據源、亞馬遜云科技、第三方應用和維基百科等各類業務系統，讓用戶能在不同的數據孤島中搜索、總結信息，并展開對話。納斯達克、Principal Financial Group和埃森哲等公司都在使用Amazon Q Business，顯著提升了員工的工作效率。 去年，亞馬遜云科技在QuickSight中集成了Amazon Q，讓用戶能更快獲取見解，輕松提問并分析數據。目前，即將實現Amazon Q in QuickSight與Q Business數據的無縫整合，提供數據洞察，成為企業數據源標準索引，提升應用性能。同時，新發布的API讓獨立軟件供應商能訪問Amazon Q Business索引功能，實現權限控制的精細化和自主管理，降低安全風險。即將推出的Amazon Q Business Automate功能，將幫助企業實現跨團隊、跨應用的任務自動化，采用一系列經過訓練的高級智能體來創建、編輯和維護工作流，使其更能適應各種變化，從而大幅提升生產力。
持續引領AI創新與發展
從早期的基礎設施建設到如今的生成式AI三層技術棧，亞馬遜云科技的AI發展歷程充滿了創新和突破。通過自研芯片、計算架構的優化以及生成式AI技術的推動，亞馬遜云科技不僅為全球數百萬客戶提供了高效、靈活的云服務，還為人工智能的發展和應用做出了重要貢獻。未來，隨著技術的不斷進步和應用場景的不斷拓展，亞馬遜云科技將繼續在AI領域發揮引領作用，讓AI落地有聲。
京公網安備 11010502049343號