回顧2023年，AIGC、大模型、AGI等成為年度熱詞，其火熱程度不亞于曾經(jīng)的"元宇宙"熱潮。與后者不同的是，大模型不只是瞬時的熱門話題，已得到了國際權(quán)威IT研究咨詢機構(gòu)Gartner的認可。

Gartner近日發(fā)布的“2024年十大戰(zhàn)略技術(shù)趨勢報告”的核心內(nèi)容只有一個，就是生成式AI。Gartner預(yù)測，到2026年超過80%的企業(yè)將使用生成式AI的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用，而在2023年初這一比例不到5%。

大模型的普及只是時間的問題，然而，實現(xiàn)可持續(xù)的規(guī)模化擴展仍然面臨一些重要挑戰(zhàn)。如何用好生成式AI技術(shù)為企業(yè)的業(yè)務(wù)賦能，是多數(shù)IT從業(yè)者都在思考的問題。

在近日召開的亞馬遜云科技生成式AI構(gòu)建者大會上，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建以“賦能生成式AI新時代，助力數(shù)據(jù)和AI普惠”為題進行了精彩分享。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理 陳曉建

陳曉建提到：“生成式AI不僅僅是大模型，今天，當我們談?wù)撋墒紸I時，大多數(shù)人都在談?wù)摶A(chǔ)模型，而整個生成式AI應(yīng)用就像是浮在海面的冰山，露在海面上方能被大多數(shù)人看到的冰山一角就像是基礎(chǔ)模型，而在冰川的底部，同樣需要大量的基礎(chǔ)模型以外的服務(wù)來支撐，如加速芯片，數(shù)據(jù)庫，數(shù)據(jù)分析，數(shù)據(jù)安全服務(wù)等等。”

亞馬遜云科技提供了完整的端到端的生成式AI技術(shù)堆棧，從底層的加速層如加速芯片，存儲優(yōu)化，到中間層模型構(gòu)建工具和服務(wù)，再到最上層的生成式AI相關(guān)應(yīng)用，每一層都在針對客戶的不同需求持續(xù)創(chuàng)新。

亞馬遜云科技希望通過其提供的專為生成式AI打造的工具和服務(wù)，實現(xiàn)生成式AI技術(shù)的普惠化。為達成“普惠生成式AI”這一使命，亞馬遜云科技正在圍繞應(yīng)用場景、工具和基礎(chǔ)設(shè)施、數(shù)據(jù)基座、AI原生應(yīng)用構(gòu)建和生成式AI服務(wù)五個層面，助力企業(yè)和開發(fā)者釋放生成式AI的潛力。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建

一、從典型場景入手創(chuàng)新業(yè)務(wù)模式

麥肯錫于今年6月發(fā)布的報告顯示，在生成式AI技術(shù)帶來的經(jīng)濟效益中，大約3/4來自四類主要的職能：營銷與銷售、產(chǎn)品與研發(fā)、軟件工程和客戶運營。這些典型的應(yīng)用場景帶給企業(yè)的業(yè)務(wù)價值主要包含三個方面：一是增強客戶體驗，二是提升員工生產(chǎn)力與創(chuàng)造力，三是優(yōu)化業(yè)務(wù)流程。

陳曉建列舉了一些典型的客戶案例。如，Salesforce將Amazon Bedrock和Amazon Titan集成到其生成式AI產(chǎn)品中，使客戶能夠在Salesforce Data Cloud上輕松安全地使用其數(shù)據(jù)，以構(gòu)建生成式AI應(yīng)用;海爾創(chuàng)新設(shè)計中心利用生成式AI能夠?qū)崿F(xiàn)文生圖、圖生圖、定量圖和全場景圖的全面提效，上線后，自動化設(shè)計系統(tǒng)應(yīng)用讓相關(guān)業(yè)務(wù)的操作周期縮短了20%;國內(nèi)知名的游戲客戶上海沐瞳科技，正在攜手亞馬遜云科技使用生成式AI技術(shù)Amazon Bedrock，優(yōu)化游戲開發(fā)領(lǐng)域的業(yè)務(wù)流程。

二、快速構(gòu)建高性價比的生成式AI應(yīng)用

基礎(chǔ)模型的發(fā)展和迭代是日新月異的，而新出現(xiàn)的每一個大模型都在性能和特定領(lǐng)域有著獨特的優(yōu)勢。亞馬遜云科技的CEO Adam Selipsky認為，沒有一個基礎(chǔ)模型可以適用于所有的業(yè)務(wù)場景。面對龐大的模型基數(shù)，對企業(yè)級用戶而言，如何根據(jù)自身的場景選擇合適的基礎(chǔ)模型，是每一家企業(yè)在構(gòu)建生成式AI應(yīng)用時面臨的挑戰(zhàn)。

為幫助客戶應(yīng)對這一挑戰(zhàn)，亞馬遜云科技正式發(fā)布了Amazon Bedrock，幫助客戶簡化了使用基礎(chǔ)模型構(gòu)建和擴展生成式AI應(yīng)用程序的難度。該服務(wù)與Amazon SageMaker Jumpstart結(jié)合，可助力對基礎(chǔ)模型有著不同需求的客戶輕松、安全地選擇基礎(chǔ)模型。

Amazon Bedrock是一項無服務(wù)器服務(wù)，提供了廣泛的模型選擇、數(shù)據(jù)隱私，且能夠自定義模型，無需去管理底層的基礎(chǔ)設(shè)施。據(jù)悉，Amazon Bedrock提供的基礎(chǔ)模型來自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方領(lǐng)先提供商以及自身的Amazon Titan模型等。

Amazon SageMaker需要客戶管理應(yīng)用程序架構(gòu)中的模型部署、配置和托管，但擁有更大的靈活度和自由度對基礎(chǔ)模型進行定制，客戶可以從Amazon SageMaker Jumpstart中選擇開源的基礎(chǔ)模型，然后根據(jù)自身需求可以選擇全量微調(diào)，輕量微調(diào)等不同方式，進一步確定微調(diào)框架，利用分布式訓(xùn)練實現(xiàn)微調(diào)，從而更好的評估微調(diào)效果。

基礎(chǔ)模型本身存在局限性，即使是預(yù)訂航班或退貨這類簡單的功能，也需要開發(fā)人員經(jīng)過多個步驟才能實現(xiàn)。而Amazon Bedrock代理功能作為一項全新的全托管功能，能使開發(fā)人員更輕松地創(chuàng)建基于生成式AI的應(yīng)用程序，完成各種用例的復(fù)雜任務(wù)，并根據(jù)專有知識源提供最新的答案。只需進行簡單操作，Amazon Bedrock 代理功能就會自動分解任務(wù)并創(chuàng)建編排計劃，無需任何手動編碼。

除此之外，亞馬遜云科技還能為客戶提供廣泛的高性價比的加速器選擇，包括強大而靈活的基于GPU的解決方案，例如基于英偉達最新GPU芯片H100 Tensor Core的Amazon EC2 P5實例，與上一代相比速度快6倍，訓(xùn)練成本節(jié)省40%。還有Amazon EC2 Inf2實例和Amazon EC2 Trn1實例，與同類實例相比更具性價比。據(jù)悉，OPPO、Airbnb、Sprinklr和 Autodesk等企業(yè)都在使用這些專用加速器來處理其機器學(xué)習工作負載。

三、運用私有化數(shù)據(jù)打造差異化的競爭力

麥肯錫在其報告中提到：如果企業(yè)尚未找到有效使用自身數(shù)據(jù)的方法，那么可能很難對生成式AI的基礎(chǔ)模型進行定制化。能夠成功構(gòu)建一個具有商業(yè)價值的生成式AI應(yīng)用程序的公司，無一例外都是能夠把數(shù)據(jù)用好的公司。而用好數(shù)據(jù)的前提是具備一個強大的數(shù)據(jù)底座。

面向生成式AI構(gòu)建強大的數(shù)據(jù)底座，需要一套全面的服務(wù)，以便能夠存儲用于構(gòu)建和微調(diào)模型的各種類型的數(shù)據(jù);還需要服務(wù)間的集成，以打破數(shù)據(jù)孤島，確保能夠隨時訪問所有數(shù)據(jù);還需要在構(gòu)建生成式AI應(yīng)用程序的整個生命周期中，確保數(shù)據(jù)安全并對其進行管理。

在服務(wù)層面，亞馬遜云科技針對生成式AI領(lǐng)域的用戶個人信息、會話信息管理、私域知識庫等應(yīng)用場景都提供了專門構(gòu)建的數(shù)據(jù)庫。針對檢索增強生成(RAG,Retrieval Augment GenerationRAG)需要處理的向量數(shù)據(jù)，亞馬遜云科技為Amazon OpenSearch Service、Amazon Aurora PostgreSQL和 Amazon RDS for PostgreSQL加入了向量數(shù)據(jù)庫功能。

在數(shù)據(jù)集成層面，ETL(數(shù)據(jù)的抽取Extract，轉(zhuǎn)換Transform，加載 Load)是端到端數(shù)據(jù)旅程迫切需要解決的問題，亞馬遜云科技提出“Zero-ETL”的愿景，并采用了相應(yīng)的創(chuàng)新，如推出的Aurora Zero ETL for Redshift Integration, 允許存儲在Amazon Aurora中實時產(chǎn)生的業(yè)務(wù)數(shù)據(jù)，無需ETL工具，以自動的方式同步到數(shù)據(jù)倉庫Amazon Redshift中，以供近實時的進行海量數(shù)據(jù)的聚合分析。

在數(shù)據(jù)治理方面，亞馬遜云科技提供全新的Amazon DataZone數(shù)據(jù)治理服務(wù)，讓客戶能夠跨組織邊界發(fā)現(xiàn)、訪問、共享和治理大規(guī)模數(shù)據(jù)，并減少企業(yè)內(nèi)部成員訪問數(shù)據(jù)和使用分析工具時繁重的工作量。

四、構(gòu)建AI原生的現(xiàn)代化應(yīng)用的五個關(guān)鍵點

結(jié)合亞馬遜服務(wù)百萬客戶的經(jīng)驗，陳曉建總結(jié)：構(gòu)建一個AI原生的現(xiàn)代化的應(yīng)用需要考慮以下五個方面。

一是微服務(wù)化。通過一個事件驅(qū)動的架構(gòu)，松耦合地處理每個模塊之間的互相依賴，即使需求不斷變化，應(yīng)用仍具備保持快速進化和迭代的能力。

二是Serverless First。盡量考慮讓Serverless去做，簡化運維，提升效率。

三是數(shù)據(jù)洞察。數(shù)據(jù)是最重要的資產(chǎn)。在整個生成式AI應(yīng)用的設(shè)計之中，要把數(shù)據(jù)能力作為應(yīng)用的核心競爭能力。

四是安全考量。要關(guān)注安全的圍欄、影響面的控制，減少爆炸半徑，充分重視安全和數(shù)據(jù)合規(guī)與保護。

五是避免重復(fù)造輪子。伴隨企業(yè)對DevOps等現(xiàn)代應(yīng)用治理理念的持續(xù)投入，促進了企業(yè)內(nèi)部的應(yīng)用資產(chǎn)與實踐的分享，有助于構(gòu)建高效敏捷的構(gòu)建者文化。

五、使用開箱即用的生成式AI服務(wù)加速開發(fā)進程

編程是生成式AI技術(shù)快速應(yīng)用的領(lǐng)域之一。復(fù)制一些已有的代碼來進行修改，可能會復(fù)制無效代碼或帶有安全隱患的代碼，而且多數(shù)企業(yè)缺乏對開源代碼進行有效追溯的手段。

Amazon CodeWhisperer可以實時提供編程的代碼建議，提升開發(fā)人員的生產(chǎn)力。與未使用這款服務(wù)的開發(fā)者相比，使用Amazon CodeWhisperer來完成任務(wù)的速度平均快57%，成功率高27%。

值得一提的是，Amazon Whisperer還支持自定義功能，能夠生成優(yōu)于之前的代碼建議，允許客戶使用私有代碼庫安全地定制 CodeWhisperer代碼建議，這些私有代碼庫包括內(nèi)部API、數(shù)據(jù)庫、最佳實踐和架構(gòu)模式等。

最后，陳曉建表示，“如何加速客戶最終應(yīng)用的商業(yè)化落地，除了亞馬遜本身的資源以外，我們同樣需要構(gòu)建強大的合作伙伴生態(tài)，攜手助力解決生成式AI應(yīng)用構(gòu)建中的各種技術(shù)問題，加速應(yīng)用落地。”

除了云服務(wù)之外，亞馬遜云科技還提供解決方案架構(gòu)師、產(chǎn)品技術(shù)專家、人工智能實驗、數(shù)據(jù)實驗室、快速原型團隊、專業(yè)服務(wù)團隊、培訓(xùn)與認證部門等多個資源共同助力客戶成功，同時攜手生態(tài)合作伙伴與初創(chuàng)圈，構(gòu)建生成式AI的大生態(tài)，進一步助力生成式AI技術(shù)的落地，加速實現(xiàn)普惠生成式AI這一愿景。