伴隨著人工智能技術的迅猛發展，生成式AI技術正以GPT、Copilot和AI Agent等為代表快速迭代。特別是AI Agent，憑借其面對目標的能力、更全面的自我驅動特性，以及更高的自主性和智能水平，逐漸在當前市場上嶄露頭角。雖然目前AI Agent市場仍處于萌芽期，產品和服務模式尚在積極探索中，但業界普遍認為它將迎來商業應用的爆發，一個全新的產業生態正在孕育中。

Vanus CEO詳解大模型中間件的關鍵角色：破解數據挑戰，實現業務增長

北京靈奧科技(“Vanus”)正是在這一賽道中的黑馬。作為一家快速成長的初創企業，Vanus致力于推動生成式AI技術的普及，助力企業商業成功。Vanus提供了構建AI Agent的SaaS平臺，并推出了Vanus Connect、Vanus AI和VanChat三款SaaS產品，累計服務全球30,000多家用戶。憑借其技術和市場優勢，Vanus已獲得靖亞資本、PNP等機構的多輪融資，正為打造全新產業生態貢獻力量。

北京靈奧科技(Vanus)CEO 厲啟鵬

在近日舉辦的2024亞馬遜云科技生成式AI時代的數據基座媒體溝通會上，北京靈奧科技(Vanus)CEO 厲啟鵬指出，目前數據問題是企業在大模型應用落地中面臨的核心挑戰之一。

厲啟鵬提到的數據問題主要表現為四個方面：首先，模型需要深入理解企業多樣化的業務數據，但數據類型繁多、格式雜亂且來源各異;其次，企業業務數據會隨著運營實時變化，模型必須不斷學習和適應持續變化的多來源的業務信息;第三，數據隱私和大模型使用的安全合規是企業業務不能觸碰的紅線，企業需要在確保模型充分理解數據的同時，保證合規和安全;最后，數據偏見和公平性問題也值得關注，由于不同大模型的訓練數據來源不同，側重點各異，導致模型可能存在偏見。因此，企業必須評估不同模型的能力，并為特定業務場景選擇合適的模型，以確保模型在數據應用中的準確性和公平性。

厲啟鵬表示，Vanus通過其大模型中間件幫助企業解決數據問題，實現大模型優勢與業務數據的無縫融合。作為連接大模型與實際應用的必備組件，大模型中間件填補了企業端大模型應用落地的“最后一公里”。在神經網絡層，Vanus Connect能夠連接企業的多種數據源，實時感知企業業務事件的變化，并將信息傳遞給神經中樞，然后根據神經中樞的指令執行任務。在神經中樞層，Vanus AI結合知識庫(向量數據庫)與大模型，幫助企業實現高效的業務決策。

Vanus的大模型中間件無縫整合了大模型的優勢和企業數據，提供了包括Claude 3在內的多模型選擇，實現商品數據的自動同步與更新，以及Shopify數據的無縫接入。同時，它還可以與網站、釘釘、飛書、企業微信等第三方應用無縫集成，助力企業靈活定制機器人，自定義聊天風格、歡迎詞和外觀顏色等。

例如，VanChat是基于Vanus AI專門為Shopify店主打造的銷售類AI Agent，它既是店鋪的銷售機器人，又是消費者的AI購物助手。通過VanChat，電商企業能夠將網站訪客更有效地轉化為付費用戶，實現業務增長。

Vanus與亞馬遜云科技合作的深層價值：穩健的云服務助力AI產品創新

當被問及與亞馬遜云科技的合作關系時，厲啟鵬闡述了選擇這家全球領先的云服務提供商的原因。亞馬遜云科技使用簡單、功能強大的云服務是雙方合作的基礎。Vanus絕大部分的技術問題都能在亞馬遜云科技找到解決方案和相關的云產品，這些產品不僅提升了性能，增強了系統的穩定性，還為Vanus提供了堅實的技術支撐。

此外，亞馬遜云科技還提供全方位的技術服務，如技術方案和架構師等，加速Vanus的產品落地。他補充說：“我認為亞馬遜云科技是最值得信賴的云服務提供商，具有非常強大的運營經驗，幫助我們更好地服務分布在不同區域、不同國家的客戶。”

此外，厲啟鵬還提到了通過亞馬遜云科技合作伙伴網絡(APN)獲得的支持。“我們從成立之初就加入了APN，作為一家初創企業，我們受益良多。它不僅推薦客戶和合作伙伴等資源，還進行技術賦能，加速了我們的生成式AI產品進入市場的步伐。例如博商出海就是亞馬遜云科技幫助連接的重要合作伙伴”他進一步強調：“Vanus整個平臺都是基于亞馬遜云科技構建的，幫助我們構建了一個穩定而強健的數據基座，讓我們能夠輕松應對用戶業務的不確定性，促進了公司的快速成長和產品的創新發展。”

據悉利用亞馬遜云科技的基礎云服務、大語言模型、數據存儲三類云服務，Vanus為企業構建AI Agent平臺，現已服務全球數萬家用戶。

亞馬遜云科技提供四大顯著優勢：助力Vanus實現高效、穩定的AI服務

厲啟鵬認為，亞馬遜云科技為Vanus提供了四個顯著的優勢，涵蓋了彈性可擴展、系統可用性強、回復低延遲和推理能力強四個方面：

1)彈性可擴展：利用Amazon Elastic Kubernetes Service(Amazon EKS)基于網絡流量的彈性擴展能力，Vanus AI構建的Agent可以根據用戶業務流量平滑地彈性伸縮。通過這項服務，企業可將平均成本降低30%，性價比提高20%。

2)提高系統可用性：通過Amazon DocumentDB原生的3可用區、6副本的設計，大幅提升了系統的可用性和可靠性，確保服務等級協議(SLA)達到不低于99.99%的正常運行時間。

3)降低回復延時：借助Amazon Simple Storage Service(Amazon S3)和數據庫高并發數據查詢能力，加快大模型上下文的加載時間。同時借助亞馬遜云科技全球網絡節點的加速能力，使得Agent回復系統的延時整體降低了40%。

4)推理能力強：通過Amazon Bedrock提供的Claude模型，Vanus平臺的AI Agent擁有卓越的語言理解和邏輯推理能力，使其具備強大的推理和解決問題的能力。

雙方合作提供定制化AI方案 顯著提升企業客服效率與銷售業績

這些顯著優勢為Vanus平臺提供了穩固的基礎，使其能夠借助強大的云服務為各行業客戶提供定制化的AI解決方案。會上，厲啟鵬詳細介紹了公司通過生成式AI技術，幫助客戶顯著提升客服效率和銷售業績的實踐案例。

Vanus AI與國內某ERP企業合作，為其客服團隊打造了AI Copilot，成功解決了跨部門知識共享和客服效率低下等難題。該ERP企業擁有大量的內部數據，但不同部門之間共享知識的效率較低，導致客服培訓耗時較長。此外，傳統的搜索方式使得客服獲取信息的響應時間長，導致用戶投訴率較高。

為助力客戶解決這些問題，Vanus借助Amazon S3、數據庫等云服務，幫助用戶從文檔、數據庫、SaaS軟件等多個數據源中實時抽取數據，構建統一的企業知識庫。通過整合Amazon Bedrock等服務，Vanus為該企業的客服團隊打造了AI Copilot，使其能夠基于全域業務數據進行實時推理，并在秒級時間內為客服人員提供回復建議。通過該方案，ERP公司客服團隊將回復時間從分鐘級縮短至秒級，將人效提高了70%，大幅降低了客服的投入成本。

VanChat為南美洲一家服飾類電商企業提供了高效服務，顯著提升了客戶滿意度和銷售額。該企業擁有兩個Shopify獨立站，管理著超過1萬個SKU。每天都有大量關于產品、退換貨和物流的問題需要處理，這對客服團隊提出了巨大挑戰，導致管理成本居高不下。更糟糕的是，在客服人員下班后，客戶咨詢依舊頻繁，回復延遲不僅降低了客戶滿意度，還錯失了很多商機。

借助Amazon Bedrock、Amazon S3等云服務，Vanus為Shopify電商客戶構建的客服類Agent VanChat為這家電商的購物者提供7*24小時全天候的即時問題回復服務，不僅節省了大量的人力資源，提高了客戶滿意度，還通過VanChat提供的用戶意圖識別和產品推薦等功能，加速用戶購買，大幅提高了網站銷售額。上線首月，VanChat的投資回報率就高達611%。值得一提的是，VanChat還可為企業提供客戶洞察，了解用戶關注的產品偏好和近期常見問題，助力企業制定更具針對性的營銷策略。

展望未來

在大模型技術的持續探索方面，厲啟鵬提到Vanus計劃進一步嘗試Embedding模型與Agent的結合，以實現更精準的推薦服務。厲啟鵬強調了數據預處理和Zero-ETL技術在提高AI Agent響應質量方面的關鍵作用。他期待這項技術的深入應用能夠顯著改善用戶數據質量，從而提升AI的表現，為客戶帶來更好的服務體驗。

同時，厲啟鵬展望了未來與亞馬遜云科技的合作方向，他提到將繼續深化對Claude系列產品的使用，將其應用于提升技術服務、用戶偏好提取等領域，為客戶打造具備業務洞察和定制化能力的AI Agent。他對與亞馬遜云科技的合作充滿信心，認為這將助力Vanus為各行各業的客戶提供更智能、更具個性化的AI解決方案，推動雙方在生成式AI領域取得更大的突破，攜手迎接數字化、智能化時代的新機遇。