你可能聽說過“AI工廠”這個(gè)詞，但它到底意味著什么?到目前為止，這個(gè)概念更多地被炒作而非明確定義，主要是由英偉達(dá)在推動(dòng)。該公司的愿景是數(shù)據(jù)中心里裝滿高端AI加速器，但這個(gè)愿景是現(xiàn)實(shí)可行的，還是只是戰(zhàn)略營(yíng)銷手段?
簡(jiǎn)而言之，AI工廠是專為AI處理而設(shè)計(jì)的專業(yè)化數(shù)據(jù)中心，而非用于托管數(shù)據(jù)庫(kù)、文件存儲(chǔ)、業(yè)務(wù)應(yīng)用或網(wǎng)絡(luò)服務(wù)等傳統(tǒng)工作負(fù)載。AI工廠以GPU為核心構(gòu)建，在處理AI工作負(fù)載時(shí)，GPU在速度和性能上均優(yōu)于CPU。
AI工廠是專為處理大量數(shù)據(jù)以用于GenAI應(yīng)用、訓(xùn)練模型并生成文本、圖像、視頻或音頻等輸出而設(shè)計(jì)的設(shè)施。它們還負(fù)責(zé)更新AI系統(tǒng)并控制其他技術(shù)，包括機(jī)器人和超級(jí)計(jì)算機(jī)。
由于GPU運(yùn)行溫度高且功耗大，與傳統(tǒng)數(shù)據(jù)中心相比，AI工廠需要更多的能源和冷卻。它們很可能被安置在能源成本低廉且水資源充足的地方，以便進(jìn)行液冷。
一個(gè)例子是埃隆·馬斯克的xAI數(shù)據(jù)中心，該中心配備了10萬臺(tái)英偉達(dá)H100 GPU，用于高級(jí)AI處理。按每臺(tái)GPU 4萬美元估算，這代表了一位客戶超過40億美元的投資——這或許說明了為什么英偉達(dá)CEO黃仁勛繼續(xù)力推AI工廠的概念。
AI工廠：炒作與現(xiàn)實(shí)
雖然這個(gè)概念很吸引人，但我們真的會(huì)看到黃仁勛所承諾的AI工廠浪潮嗎?可能并不會(huì)大規(guī)模出現(xiàn)。AI硬件不僅購(gòu)置和運(yùn)營(yíng)成本高昂，而且它并不像數(shù)據(jù)庫(kù)服務(wù)器那樣持續(xù)運(yùn)行。一旦模型訓(xùn)練完成，可能數(shù)月都不需要更新，導(dǎo)致這些昂貴的基礎(chǔ)設(shè)施閑置。
因此，專注于基礎(chǔ)設(shè)施和數(shù)據(jù)中心的Omdia首席分析師艾倫·霍華德認(rèn)為，大多數(shù)AI硬件部署將發(fā)生在多功能數(shù)據(jù)中心。這些設(shè)施可能會(huì)設(shè)置專門的“AI區(qū)域”，同時(shí)配備用于標(biāo)準(zhǔn)計(jì)算和其他工作負(fù)載的區(qū)域。
“我們的感覺是，會(huì)有一些專門的AI數(shù)據(jù)中心，但不太可能像我們所被引導(dǎo)相信的那樣普及。”霍華德告訴記者。
“如果我在數(shù)據(jù)中心有一個(gè)5萬平方英尺的數(shù)據(jù)大廳，并且電力充足，那么我可以創(chuàng)建一個(gè)區(qū)域或套房，以滿足AI設(shè)備部署的高電力需求。你不會(huì)看到很多數(shù)據(jù)中心里全是AI設(shè)備……它將是更大數(shù)據(jù)中心的一部分。”
對(duì)大多數(shù)人來說成本過高
咨詢公司TEKsystems的首席技術(shù)官拉姆·帕拉尼阿潘同意專門AI數(shù)據(jù)中心將保持有限的觀點(diǎn)，這主要是由于涉及的高成本。
“企業(yè)在進(jìn)行的數(shù)據(jù)推理遠(yuǎn)比實(shí)際用數(shù)據(jù)訓(xùn)練要多，”他說。“如果你能在數(shù)據(jù)中心內(nèi)劃分區(qū)域，其中一些部分專門用于AI，你就可以用那部分GPU容量來訓(xùn)練模型，然后剩下的CPU將用于模型推理。這就是我們看到的數(shù)據(jù)中心世界如何根據(jù)企業(yè)AI的消費(fèi)和使用情況進(jìn)行調(diào)整。”
電信數(shù)字化轉(zhuǎn)型提供商Amdocs的集團(tuán)總裁兼戰(zhàn)略與技術(shù)負(fù)責(zé)人安東尼·古納蒂拉克認(rèn)為，許多下一代AI工廠將通過AI即服務(wù)(AIaaS)模式提供給客戶租賃，像AWS等主要云服務(wù)提供商都提供這種模式。
“人們?cè)噲D建立AI工廠，從根本上創(chuàng)建一個(gè)模型，以便他們可以將AI能力作為一種服務(wù)來銷售，就像我們的一些客戶希望做的那樣。”古納蒂拉克告訴記者。“歸根結(jié)底，可以將其視為GenAI基礎(chǔ)設(shè)施即服務(wù)。我認(rèn)為AI即服務(wù)具有很多潛在的上行空間，因?yàn)锳I硬件的投資非常昂貴，而且在很多情況下，你可能不再需要它，或者你可能不需要使用那么多。”
帕拉尼阿潘補(bǔ)充說，AI技術(shù)發(fā)展迅速，要跟上競(jìng)爭(zhēng)步伐的成本高得令人望而卻步。“當(dāng)你開始考慮這些GPU的成本，以及它們很快就會(huì)過時(shí)，這就會(huì)成為瓶頸，”他說。“如果你試圖利用數(shù)據(jù)中心，你總是希望設(shè)施里能有最新的芯片，因此許多數(shù)據(jù)中心因?yàn)檫@些努力而虧損。”
別忘了網(wǎng)絡(luò)
除了GPU的成本，網(wǎng)絡(luò)硬件也需要大量投資，因?yàn)樗蠫PU需要高效地相互通信。EdgeCore Digital Infrastructure的戰(zhàn)略高級(jí)副總裁湯姆·特勞戈特解釋說，在典型的八GPU英偉達(dá)DGX系統(tǒng)中，GPU通過NVLink通信。然而，要與其他GPU共享數(shù)據(jù)，它們依賴于以太網(wǎng)或InfiniBand，這需要大量的網(wǎng)絡(luò)硬件來支持連接。
“當(dāng)你進(jìn)行訓(xùn)練運(yùn)行時(shí)，就像團(tuán)隊(duì)中的個(gè)人一樣，”特勞戈特說。“他們都在同一個(gè)項(xiàng)目上工作，并且會(huì)定期集體匯合并交流心得。”
在較小的集群中，網(wǎng)絡(luò)成本與傳統(tǒng)數(shù)據(jù)中心相似。然而，在擁有5000、10000或20000個(gè)GPU的集群中，網(wǎng)絡(luò)成本約占整體資本支出的15%，他說。由于數(shù)據(jù)集如此龐大，單個(gè)網(wǎng)絡(luò)接口卡(NIC)很容易飽和，因此需要多個(gè)網(wǎng)絡(luò)連接。為了避免瓶頸，需要多個(gè)NIC——成本很快就會(huì)累積。
“顯然，這可能占到整體支出的30%至40%，這與前幾代相比是不成比例的。”特勞戈特告訴記者。
AI工廠的未來
這仍然是一項(xiàng)非常新的技術(shù)。目前只有一個(gè)已知的正在開發(fā)的AI工廠，即xAI設(shè)施。英偉達(dá)最近才發(fā)布了構(gòu)建AI工廠的藍(lán)圖，稱為企業(yè)參考設(shè)計(jì)，以幫助指導(dǎo)建設(shè)過程。隨著概念的發(fā)展，很多事情都可能發(fā)生變化，并且需要一些明確性。
“所以，這會(huì)是一個(gè)小趨勢(shì)，只有少數(shù)公司建立少數(shù)專門的AI工廠，還是會(huì)更大?我個(gè)人猜測(cè)，大概要過一年，我們才能更好地判斷新數(shù)據(jù)中心建設(shè)在AI工廠世界中是否基本上呈現(xiàn)出新的面貌。”霍華德說。
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，旗下運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。旗下運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)