如果開個(gè)玩笑
問(wèn)ChatGPT最大的貢獻(xiàn)是什么
我覺得它對(duì)全球變暖是有一定貢獻(xiàn)的。
”
知名自然語(yǔ)言處理專家、計(jì)算機(jī)科學(xué)家吳軍在4月接受某媒體采訪時(shí)如是說(shuō)。
隨著ChatGPT引爆AIGC,國(guó)內(nèi)外巨頭紛紛推出自己的AI大模型,大家為人工智能所描繪的盛世圖景歡呼時(shí),也應(yīng)留意到盤踞在其上方的陰影——電力成本。
根據(jù)斯坦福人工智能研究所(HAI)發(fā)布的《2023年人工智能指數(shù)報(bào)告》,OpenAI的GPT-3單次訓(xùn)練耗電量高達(dá)1287兆瓦時(shí)(1兆瓦時(shí)=1000千瓦時(shí))。
這是什么概念呢?對(duì)此吳軍打了個(gè)形象的比方:
“ChatGPT訓(xùn)練一次要耗多少電?大概是3000輛特斯拉電動(dòng)汽車,每輛跑到20萬(wàn)英里,把它跑死,這么大的耗電量,才夠訓(xùn)練一次,這是非常花錢的一件事。”
據(jù)美國(guó)國(guó)家環(huán)保署評(píng)定,特斯拉Model Y每百英里(161公里)耗電28千瓦時(shí),1278兆瓦時(shí)相當(dāng)于3000輛特斯拉,每輛跑滿20萬(wàn)英里(32.2萬(wàn)公里)。而根據(jù)一般的經(jīng)驗(yàn)法則,大多數(shù)司機(jī)認(rèn)為20萬(wàn)英里大關(guān)是汽車壽命上限。
OpenAI曾發(fā)布報(bào)告指出,自2012年以來(lái),AI訓(xùn)練應(yīng)用的電力需求每3個(gè)月到4個(gè)月就會(huì)翻一倍。大規(guī)模AI訓(xùn)練和推理通常需要龐大的數(shù)據(jù)中心算力提供支持,其背后有大量電力供應(yīng)和冷卻系統(tǒng)晝夜運(yùn)轉(zhuǎn),由此導(dǎo)致能源成本和溫室氣體排放增加。
考慮到IT部門的高能耗胃口,為了消除工作負(fù)載、硬件和數(shù)據(jù)足跡中的低效率,最大限度地節(jié)約能源和資金,企業(yè)需要將數(shù)據(jù)中心置于IT運(yùn)營(yíng)的核心地位,從整體視角重新評(píng)估運(yùn)營(yíng)各個(gè)方面,從而推進(jìn)可持續(xù)發(fā)展、優(yōu)化能源效率。降低能耗的整體方法可能包括以下策略:
01
使用高效節(jié)能的設(shè)備
企業(yè)需要對(duì)所有 IT 設(shè)備進(jìn)行全面評(píng)估,識(shí)別出能耗較高的設(shè)備,用更節(jié)能的產(chǎn)品替換它們。作為全球領(lǐng)先的數(shù)字化解決方案供應(yīng)商,戴爾科技集團(tuán)將可持續(xù)發(fā)展置于一切工作的核心,不斷提高數(shù)據(jù)中心基礎(chǔ)設(shè)施解決方案的標(biāo)準(zhǔn),幫助客戶實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。
◆服務(wù)器
全球AI大模型軍備競(jìng)賽背景下,人工智能工作負(fù)載對(duì)算力的需求暴增,服務(wù)器作為底層算力源泉,其本身是否綠色節(jié)能對(duì)于數(shù)據(jù)中心能源管理至關(guān)重要。
全新一代Dell PowerEdge作為戴爾科技迄今為止最具可持續(xù)性的服務(wù)器產(chǎn)品,從服務(wù)器設(shè)計(jì)到散熱方案都有所革新,助力企業(yè)打造現(xiàn)代化綠色數(shù)據(jù)中心。
新一代Dell PowerEdge服務(wù)器采用Smart Flow設(shè)計(jì),與上一代服務(wù)器相比,戴爾智能冷卻技術(shù)套件可提升氣流,并將風(fēng)扇的功耗降低52%。Smart Flow 設(shè)計(jì)可支持更高的服務(wù)器性能,降低冷卻系統(tǒng)的功耗,從而使數(shù)據(jù)中心更加高效。
冷卻方面,PowerEdge采用多矢量冷卻3.0技術(shù),提供風(fēng)冷,液冷,邊緣環(huán)境冷卻等多種智能創(chuàng)新服務(wù)器散熱冷卻技術(shù)和解決方案,智能熱控最大程度提高散熱效能,戴爾C系列支持浸沒式液冷,超低功耗最高可將能耗降低90%。
◆存儲(chǔ)
數(shù)據(jù)爆炸時(shí)代,存儲(chǔ)陣列也是能源消耗大戶,但它們本不必如此。數(shù)據(jù)可以卸載到冷存儲(chǔ)中,并通過(guò)縮減技術(shù)降低占用空間。很多時(shí)候,軟件團(tuán)隊(duì)在沒有使用重復(fù)數(shù)據(jù)刪除程序的情況下數(shù)據(jù)激增,這導(dǎo)致了過(guò)多的存儲(chǔ)和能耗需求。
戴爾PowerStore中端存儲(chǔ)可實(shí)現(xiàn)4:1的數(shù)據(jù)縮減率,高效整合數(shù)據(jù)中包含的冗余,降低存儲(chǔ)開銷,提升存儲(chǔ)效率。由于PowerStore采用專用的壓縮處理器,不會(huì)額外占用控制器的CPU資源,因此用戶不必?fù)?dān)心開啟縮減功能是否會(huì)導(dǎo)致存儲(chǔ)性能急劇下降,讓您的數(shù)據(jù)縮減功能“始終可用”。
PowerStore采用英特爾®至強(qiáng)®可擴(kuò)展處理器,該處理器可以優(yōu)化工作負(fù)載,可靠性強(qiáng),還有高計(jì)算力、高穩(wěn)定性和高效敏捷性,幫助企業(yè)為數(shù)字化變革做好準(zhǔn)備。
02
智能能源管理和監(jiān)控
根據(jù)戴爾創(chuàng)新指數(shù)調(diào)查,39%的受訪者正在轉(zhuǎn)向技術(shù)以獲得對(duì)碳影響更高的可見度。機(jī)器遙測(cè)數(shù)據(jù)可以為高能效、高性能機(jī)器的最佳組合提供微調(diào)的見解,從而使設(shè)備只在需要時(shí)使用電力。戴爾PowerEdge家族智能運(yùn)維工具可助力企業(yè)實(shí)現(xiàn)碳排放能源洞察,提高可持續(xù)性:
◆OpenManage Enterprise
易于使用的一對(duì)多集中系統(tǒng)管理控制臺(tái),旨在消除IT基礎(chǔ)架構(gòu)管理的復(fù)雜性,提供了戴爾全系列企業(yè)級(jí)設(shè)備的全面視圖,可幫助用戶有效地監(jiān)控并管理服務(wù)器功耗,確定在哪些方面提高效率、降低成本。
◆OpenManage Enterprise Power Manager 3.0
可集中監(jiān)視和管理服務(wù)器的能耗和散熱,支持非戴爾服務(wù)器功耗報(bào)告和GPU功耗監(jiān)控與功耗報(bào)告,具有工作負(fù)載功耗優(yōu)化功能的自動(dòng)機(jī)架級(jí)功率計(jì)量。
●通過(guò)策略自動(dòng)化來(lái)放置電源閾值,從而降低非高峰時(shí)段的功耗;
●識(shí)別單個(gè)服務(wù)器或機(jī)架上的問(wèn)題,并在問(wèn)題造成SLA影響之前解決;
●通過(guò)自動(dòng)化電源和散熱管理獲得終極控制,通過(guò)詳細(xì)的歷史報(bào)告讓用戶了解誰(shuí)在耗電。
03
按需使用服務(wù)
僅在需要時(shí)使用數(shù)據(jù)和能源服務(wù),有助于削減所有系統(tǒng)始終以最大負(fù)荷運(yùn)行的開銷。企業(yè)通過(guò)即服務(wù)選項(xiàng)來(lái)消除過(guò)度配置造成的浪費(fèi),而且無(wú)需操心生命周期管理,從而節(jié)省了在停用和報(bào)廢硬件上花費(fèi)的時(shí)間。
越來(lái)越多的企業(yè)開始認(rèn)識(shí)到“即服務(wù)”的價(jià)值,在戴爾創(chuàng)新指數(shù)調(diào)查中,42%的企業(yè)正在嘗試將能源使用作為一種服務(wù)來(lái)管理能源消耗。
2021年,戴爾推出了APEX FOD(Flex on Demand)即服務(wù)解決方案,客戶使用戴爾的服務(wù)器、存儲(chǔ)、超融合、數(shù)據(jù)保護(hù)產(chǎn)品時(shí),可以選擇FOD按需付費(fèi)模式,按照產(chǎn)品的使用量和時(shí)間以及容量進(jìn)行付費(fèi)。
FOD模式讓企業(yè)同時(shí)擁有私有云的安全和公有云的靈活,可以極大降低運(yùn)營(yíng)成本,減少資源過(guò)度配置,從而推進(jìn)可持續(xù)發(fā)展。
大多數(shù)與IT投資相關(guān)的決策,都是基于安全性、性能和成本。在評(píng)估數(shù)據(jù)中心的能源效率時(shí),考慮環(huán)境、社會(huì)和治理(ESG)標(biāo)準(zhǔn)也很重要。
日益突出的能源成本迫使企業(yè)重新審視其對(duì)能源效率的看法,他們正在意識(shí)到綠色可持續(xù)不僅有助于保護(hù)環(huán)境,而且還能節(jié)省成本。在整體推進(jìn)可持續(xù)發(fā)展時(shí),企業(yè)需要全力以赴,而不是簡(jiǎn)單地修修補(bǔ)補(bǔ)。對(duì)IT來(lái)說(shuō),現(xiàn)在是擁抱可持續(xù)發(fā)展的最佳時(shí)機(jī),也是更加必要的時(shí)機(jī)。