英特爾實驗室神經形態計算實驗室主任Mike Davies表示：“當今AI模型的計算成本正以不可持續的速度增長。因此，我們開發了Hala Point，它結合了深度學習效率與新穎的大腦啟發式學習和優化能力。我們希望Hala Point的研究能夠推動大規模AI技術的效率和適應性。”
Hala Point是第一個在主流AI工作負載上展示最先進計算效率的大規模神經形態系統。性能測試顯示，它能支持高達20千萬億次（20 petaops）運算能力，當執行常規深度神經網絡時，效率超過每瓦特15萬億次8比特運算（TOPS/W），這一性能不僅媲美，甚至超過了基于圖形處理單元（GPU）和中央處理單元（CPU）構建的架構。Hala Point的獨特能力未來可實現AI應用的實時連續學習，例如科學和工程問題解決、物流、智慧城市基礎設施管理、大型語言模型（LLMs）及AI代理。
如何使用：桑迪亞國家實驗室的研究人員計劃利用Hala Point進行先進的大腦規模計算研究。該機構將專注于解決設備物理學、計算機架構、計算機科學和信息學領域的科學計算問題。
桑迪亞國家實驗室的Hala Point團隊負責人Craig Vineyard表示：“與Hala Point合作提升了我們桑迪亞團隊解決計算和科學建模問題的能力。利用這種規模的系統進行研究將使我們能夠跟上AI在從商業到國防再到基礎科學等領域的發展。”
目前，Hala Point是一個研究原型，將推動未來商業系統的能力發展。英特爾預計，此類經驗教訓將帶來實際進展，例如使大型語言模型（LLMs）能夠持續從新數據中學習。這樣的進展有望顯著減輕普遍部署AI的不可持續的訓練負擔。
為什么這很重要：近期將深度學習模型擴展到數萬億參數的趨勢揭示了AI面臨的巨大可持續性挑戰，并突顯了在硬件架構的最底層進行創新的必要性。神經形態計算是一種全新的方法，它借鑒了神經科學的見解，將存儲和計算與高度精細的并行性結合起來，以最小化數據移動。在本月的國際聲學、語音和信號處理會議（ICASSP）上發布的結果中，Loihi 2在效率、速度和適應性方面展示了數量級的增益，這些增益適用于新興的小規模邊緣工作負載。
Hala Point在其前身Pohoiki Springs的基礎上進行了許多改進，現在將神經形態性能和效率提升帶到了主流的傳統深度學習模型中，特別是那些處理實時工作負載如視頻、語音和無線通信的模型。例如，愛立信研究院正在利用Loihi 2優化電信基礎設施效率，這一點在今年的世界移動通信大會上得到了強調。
關于Hala Point：基于Loihi 2神經形態處理器構建的Hala Point，采用了啟發于大腦的計算原理，例如異步的、基于事件的脈沖神經網絡（SNNs）、集成化的內存與計算以及稀疏且持續變化的連接，以實現能耗和性能的數量級提升。神經元之間直接通信，而非通過內存，從而減少了整體功耗。
Hala Point集成了1152個在Intel 4工藝節點生產的Loihi 2處理器，安裝在一個六機架單元數據中心機柜中，其大小相當于一個微波爐。該系統支持多達11.5億個神經元和1280億個突觸，分布在140,544個神經形態處理核心上，最大功耗為2600瓦。它還包括2300多個嵌入式x86處理器，用于輔助計算。
Hala Point將處理、內存和通信通道集成在一個高度并行化的結構中，提供總共16PB/s的內存帶寬、3.5PB/s的核間通信帶寬和5TB/s的芯片間通信帶寬。該系統能夠每秒處理超過380萬億次8位突觸運算和超過240萬億次神經元操作。
應用于生物啟發的脈沖神經網絡模型，該系統可以以人腦速度的20倍執行其全部11.5億神經元的容量，并在較低容量下達到高達200倍的速度。雖然Hala Point并非旨在進行神經科學建模，但其神經元容量大致相當于一只貓頭鷹的大腦或一只卷尾猴的大腦皮層。
基于Loihi的系統能夠在能耗低100倍的同時，比傳統的CPU和GPU架構快50倍進行AI推理和解決優化問題。通過利用最高10:1的稀疏連接和事件驅動活動，Hala Point的初步結果顯示，該系統能夠在不需要將輸入數據批處理（GPU常用的一種優化，會顯著延遲實時到達的數據處理，如攝像機視頻）的情況下，達到高達15 TOPS/W的深度神經網絡效率。雖然還在研究階段，未來能持續學習的神經形態大型語言模型（LLMs）可能通過消除定期使用日益增長的數據集重新訓練的需求，節省千兆瓦時的能源。
接下來：將Hala Point交付給桑迪亞國家實驗室標志著Intel計劃與其研究合作伙伴共享的一系列新型大規模神經形態研究系統的首次部署。進一步的開發將使神經形態計算應用克服限制AI能力在真實世界實時部署的功耗和延遲約束。
與全球包括頂尖學術團體、政府實驗室、研究機構和公司在內的200多個Intel神經形態研究社區（INRC）成員一道，Intel正努力推動以大腦為靈感的AI的邊界，并在未來幾年內將這項技術從研究原型推進至行業領先的商業產品。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號