日前,在第五屆OCP China Day 2023(開放計算中國技術峰會)上,浪潮信息正式推出融合架構3.0原型系統,以開創性的系統架構設計實現了計算資源、存儲資源、內存資源、異構加速資源等核心IT資源徹底解耦與池化,支持池化資源異步升級、支持細粒度多主機共享高并發存儲、亞微秒級遠端內存共享訪問等特性,可通過軟件定義實現“一套系統,N類應用”,有效緩解當前數據中心 “內存墻”、“I/O墻”、“功耗墻”等瓶頸。
融合架構3.0原型系統的發布,將有望發展出一種全解耦、全池化、高可擴展、易部署、易管理的新型硬件基礎架構,實現軟硬高度協同,加速數據中心釋放數字生產力,促進數字經濟發展以及與實體經濟的深度融合。
智算時代,計算體系架構亟待突破
當前,數字化、智能化轉型已成為企業發展、科研創新和社會治理的剛性需求,也催生了云計算、大數據、人工智能等數字技術的蓬勃發展。然而,越來越多樣化的應用對底層硬件資源的需求存在差異,導致使用傳統架構的云、數、智、邊、端等各類技術平臺彼此獨立,硬件資源難以共享復用,造成資源浪費的同時也使得運維管理難度激增。
比如,以大模型為代表的AIGC技術需要基于海量數據集,在擁有成百上千AI加速卡的集群上對千億級參數的AI大模型進行分布式訓練,對異構算力的需求更高;科學計算要求更高的計算精度,對通用算力的需求更高;內存計算則希望讓更多應用程序的數據駐留在內存之中,使得數據和算力更接近,以提高處理速率,對內存容量要求更高。但傳統架構下,IT資源的擴展是以整機形態來完成的,即便用戶亟需的是某種特定資源,但仍然需要為整機附帶的額外資源付費,這勢必增加了IT支出并造成資源閑置浪費。
與此同時,在算力供給側摩爾定律逐漸放緩和登納德縮放定律走向終結,現有的計算體系架構先天性不足被成倍放大,數據中心計算體系架構的創新已迫在眉睫。
浪潮信息服務器產品線總經理趙帥表示:“當前數據中心遇到的‘內存墻’、‘I/O墻’、‘功耗墻’等現象,并不是孤立存在,它們是現有計算體系架構不足放大后的體現。只有通過計算體系架構的整體創新,才能徹底解決各種瓶頸帶來的挑戰。”
融合架構3.0:以數據為中心的新架構
在此背景下,浪潮信息推出融合架構3.0原型系統,打破了以往“以CPU為中心”的設計理念,而是從整體出發,通過系統架構創新解耦重構服務器系統,突破性實現了計算資源、存儲資源、內存資源、異構加速資源等核心IT資源徹底解耦與池化,可支持多種通用處理器平臺與GPU、FPGA、DPU等多種異構加速單元的協同計算,并可通過軟件定義實現資源協同動態調度。
這種基于硬件重構技術而開發的新一代基礎架構,將實現更加自由的資源隨需定義,為上層軟件定義系統提供更出色的靈活性,使其能夠根據應用特點,以高度自動化的方式分配與重新配置硬件資源,不再受到非動態設置的硬件基礎設施的限制,讓數據中心內部的人工智能、科學計算、云計算、大數據等各類應用統一運行于同一架構之上,實現多技術平臺融合,加速業務創新及數字化轉型。
與傳統的CPU為中心的計算架構不同,融合架構3.0原型系統以數據為中心,實現計算節點內部各種算力芯片共享內存數據、統一編址和協同工作;在跨節點之間則通過智能數據處理單元和高速網絡形成分布式互連交換,實現CPU、GPU、FPGA等各種加速芯片的算力協同以及內存池化、新型存儲資源池化,具有節點間的數據訪問延遲極低,支持高效彈性擴展等優勢。此外,融合架構系統可以實現更為靈活的資源重構,為人工智能、大數據等多種應用場景提供強大的算力支撐。
內存解耦與池化一直是業界的熱點與難點,隨著以CXL為代表的串行緩存一致性總線的出現,給主機和遠端共享內存之間提供了低延時的訪問路徑以及緩存一致性保證,為大規模內存擴展與內存資源池化提供了可能。融合架構3.0原型系統突破內存解耦池化關鍵技術,研制新型應用串行緩存一致性總線及其交換技術的內存模組和內存池化系統,保障主機系統對大容量、高帶寬內存的應用需求。
趙帥介紹,融合架構3.0原型系統首創JBOM獨立內存資源池設計,創新實現高密度內存擴展方案,主機系統遠端內存擴展技術領先業界。通過軟件定義系統設計及CXL高性能交換技術,率先實現內存資源池化與細粒度多主機共享。
系統互連設計方面,解耦與池化帶來了新的互連挑戰,整系統通過設計供電控制、復位、時鐘鎖定等協同工作方式實現解耦單元整體運行。此外,隨著數據速率的不斷攀升和系統鏈路變得更加復雜,解耦池化系統互連鏈路互連延展已經接近極限,系統針對復雜鏈路高速互連進行高精度的擬合仿真研究,準確分析系統互連鏈路多樣化拓撲和傳輸速率的極限。
此外,融合架構3.0原型系統開發軟件定義管理系統,實現拓撲切換、端口動態管理、多主機資源共享與資源動態分區等高級功能;開發資源管理軟件,實現設備利用率監控、設備分配情況配置與管理、I/O吞吐量監控和鏈路健康診斷,保障主機系統硬件資源的動態部署與高效管理。
趙帥表示:“融合架構3.0原型系統效率可比上一代軟件虛擬化系統提升一到兩個數量級,可擴展性提高2~4倍,系統延時降低90%,PUE低于1.1。隨著數字經濟、人工智能持續發展,企業的各項業務越來越依賴數據及其價值,算力技術也需要不斷演進,融合架構3.0原型系統的發布,有助于企業提升數據管理效率,最大化釋放數據價值。”