這位多家公司的領導者在X上宣布,xAI——通過X向付費用戶提供名為Grok的大型語言模型(LLM)和同名聊天機器人——已經開始在世界上“最強大的AI訓練集群”上進行訓練,這個被稱為孟菲斯超級集群的系統位于田納西州孟菲斯市。
據當地新聞媒體WREG報道,這個超級集群位于該市的西南部,是該市歷史上由新進企業進行的最大的資本投資,然而,xAI尚未與當地公用事業公司田納西河谷管理局簽訂合同,而該合同是提供超過100兆瓦電力項目所必需的。
滿載Nvidia H100
盡管如此,馬斯克進一步詳細說明,這個集群由10萬個液冷的H100圖形處理單元(GPU)組成,這些芯片自去年起由Nvidia提供,受到包括馬斯克的競爭對手(也是前朋友)OpenAI在內的AI模型提供商的高度需求。
馬斯克還指出,該集群運行在單一的RDMA(遠程直接內存訪問)結構上,這是一種通過不增加中央處理器(CPU)負擔來在計算節點之間提供更高效、低延遲數據傳輸的方法。
xAI 計劃在2024年12月前提供“各項指標上最強大的AI”
顯然,xAI 計劃在超級集群上訓練其自身的LLM,但更重要的是,馬斯克在回復中表示,該公司目標是在“今年12月前”訓練出“世界上最強大的AI”。
他還表示,孟菲斯超級集群將為此提供“顯著優勢”。
對于他的許多雄心壯志和成功來說,馬斯克因公開提出并錯過多個項目的截止日期而臭名昭著,如全自動駕駛汽車、機器人出租車和將人類送上火星,所以我不會對2024年12月的新Grok LLM抱太大期待,但如果能在這個時間框架內實現,那將是對xAI努力的一個巨大推動。
尤其是OpenAI、Anthropic、Google、Microsoft和Meta都在追求更強大、更實惠的LLM和SLM的情況下,如果xAI希望在爭奪客戶、用戶和注意力的AI競賽中保持競爭力,就需要一個新的、有用的模型。
實際上,據The Information報道,OpenAI的支持者Microsoft正與OpenAI首席執行官Sam Altman合作開發一個代號為Stargate、價值1000億美元的AI訓練超級計算機。根據其發展情況,xAI的孟菲斯超級集群可能不會長時間保持世界上最強大的地位。
企業網D1net(hfnxjk.com):
國內主流的to B IT門戶,旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明:本文為企業網D1Net編譯,轉載需在文章開頭注明出處為:企業網D1Net,如果不注明出處,企業網D1Net將保留追究其法律責任的權利。