浪潮集團副總裁彭震表示:“浪潮作為全球領先的AI計算力提供者,全新發布的AI品牌TensorServer將致力于成為AI的承載者與賦能者,通過整合創新AI基礎架構系統,向用戶交付強自適應、高效加速、靈活拓展的AI基礎架構系統,持續推動以計算開啟可進化的智慧世界。AI云作為一種新興的云服務形式,已經得到越來越多公有云廠商、AI初創公司及AI用戶的共同青睞。NF5468M5正是TensorServer品牌對AI基礎架構創新的承諾在AI云場景的最新產品體現。”
AI云對基礎架構的設計帶來新的挑戰,要求AI服務器具備云虛機的GPU資源支持與高效分配、適合于不同AI訓練場景的GPU靈活拓撲、AI線上推理的高并發低延遲與高能效比、大規模AI數據的存儲與通信能力。
NF5468M5專為AI云場景對彈性配置能力予以優化,增強了PCI-E拓撲和數量配比的彈性,適配多種框架的運算需求,并增加了易于管理和維護的遠程GPU拓撲重構技術。NF5468M5可靈活支持AI模型的線下訓練和線上推理兩類場景,能夠讓AI模型訓練性能最大化或AI在線推理效能最大化。NF5468M5面向線下訓練對性能的需求,可支持8顆最高性能的Tesla Volta GPU以PCI-E或NVLink的高速互聯;面向在線推理對高能效比的需求,可支持16顆高能效比的Tesla P4 GPU,適用于語音、圖片、視頻場景。在智能視頻分析場景下,可同時處理300路以上1080p高清視頻結構化。NF5468M5同時實現了數據存儲與通訊性能極大化,消除IO瓶頸,可支持288TB大容量存儲或32TB固態存儲,實現高達400Gbps通信帶寬和1us的超低延遲。
NF5468M5的發布凸顯出浪潮在AI計算平臺上的創新能力。此前,浪潮已經相繼推出多款創新的AI計算平臺,包括全球首款在2U空間內高速互聯集成8顆最高性能GPU的AI服務器AGX-2、單機可實現支持16個GPU的超大擴展性節點SR-AI整機柜、率先實現協處理器與CPU計算資源的解耦和重構的AI擴展模塊GX-4。目前,浪潮已建立全球領先的AI計算產品系列,適合線下訓練的計算加速節點采用浪潮領先業界設計的浮點運算能力強、高擴展的GPU服務器,或KNM 計算加速器,而用于線上識別的計算加速節點采用浪潮低功耗、高能效比的GPU服務器,或者低功耗定制優化推理程序的FPGA加速器。
浪潮全新AI品牌TensorServer將整合提供高性能的AI計算平臺、管理套件、框架優化和應用加速,為行業AI轉型提供賦能支撐。除完善的AI計算產品外,浪潮TensorServer還可提供包括TensorFlow、Caffe-MPI、CNTK 等浪潮專家優化過的深度學習框架,而AIStation 管理平臺可對深度學習框架提供任務管理、登錄接口、參數調優等服務,并對節點和計算加速部件進行狀態監控和調度等。