傳統計算模型中,內存和邏輯單元是相互獨立的。一個計算需要執行時,必須首先訪問存儲獲取數據,將數據傳輸到邏輯單元中,并由邏輯單元返回計算結果。計算結果一旦被獲得就必須發送回內存中。這個過程是持續反復的。因此當需要處理大量的數據時,這種模型就真正地出現了問題。
在神經網絡中計算和存儲是共處一處的,無需構建邏輯與內存間的通信,僅需適當地建立不同神經元間的連接。這也是我們認為我們的方法之所以將會更加高效的主要原因,對于大規模數據處理尤其如此。
該技術在大數據和機器學習領域有著大量的用例。例如使用物聯網中的探測器采集和分析大量最新的氣象數據實現快速預報,使用人工神經元檢測金融交易中的模式以發現差異,或是使用源自社會媒體的數據實時發現新的文化趨勢。在具有內存和處理單元共處一處的神經形態協處理器中,可大量使用這樣高速、低能耗的納米級別神經元。
下一步研究是實驗將神經元鏈接成網絡,該網絡將連接到探測器上,調整網絡可以對不同類型的物聯網數據進行探測,例如工廠機器的溫度異常、患者心臟的電子心率、金融市場中特定類型的交易等。
這種神經元網絡的更大前景是將其燒制在計算機芯片中,這可實現一種快速、節能的協處理器,這種協處理器在設計上就擅長于處理模式識別任務。而當前模式識別任務是由運行于標準電路上的軟件實現,這種實現是更慢的,并且能效不高。該協處理器的目標是縮減人工大腦和真實大腦在理念上的鴻溝。
InfoQ訪談了Manuel Le Gallo,訪談內容包括這項研究的計劃,以及其后關注的領域。
InfoQ: 你能向我們的讀者扼要闡述一下你們的研究計劃,以及近期在用于數據存儲的人工神經元建立研究上的突破嗎?
Manuel Le Gallo: 我們已經使用相變材料模仿了神經元的整合和點火功能。這種功能是基于事件計算的基礎,大體上類似于我們的大腦對觸及燙手物品這樣的外部刺激所產生的激發反應。
類似于大腦中神經元的工作方式,這些人工神經元自身就可以處理數據,也可將它們組織起來構成使用協同計算能力的大規模集合體。這種技術可以引領對內存和處理單元高度同處集成的神經形態計算機研發,加速認知計算和物聯網數據分析。
InfoQ: 人工神經元是如何在大數據和機器學習用例中發揮作用的?
Le Gallo: 人工神經元和神經突觸在計算能力上是十分強大的,單一的人工神經元就可以用在基于事件的實時數據流中檢測模式和發現相關性。例如,在物聯網中,探測器可以采集和分析大規模的氣象數據,這些數據是實時采集的并用于快速預報。人工神經元還可以通過檢測金融交易中的模式發現差異,或是使用來自社交媒體的數據去實時發現新興的文化趨勢。大規模的高速、低能耗、納米級別的人工神經元還可用在神經形態協處理器中,這些協處理器中具有共處一處的內存和處理單元。
InfoQ: 你能從節能和成本效益角度上比較一下神經形態技術和傳統處理技術嗎?
Le Gallo: 現代計算機是基于馮-諾依曼架構,計算機中的計算單元和內存單元物理上是分開的。對于具有本質上是以數據為中心特性的認知計算而言,這種架構是非常低效的,因為大量數據必須要在內存和計算單元間高速交換。為構建高效的認知計算機,我們需要從馮-諾依曼架構遷移到某種內存和邏輯共處一處的計算形態。
相比于馮-諾依曼架構計算機,神經形態計算的靈感來自于生物大腦的內在工作機制,這是一種非常有前景的方法。通過對生物神經元的工作方式的模仿,可以大幅度地降低模式識別、特征抽取及噪聲環境中的數據挖掘等復雜計算任務的耗能和面積成本。
InfoQ: 你能介紹一下使用人工神經元存儲和處理數據上的限制嗎?
Le Gallo: 下面借用我們發表在《自然納米科技》上的文章中的表述:
與神經科學中通用的基于尖峰脈沖的神經元、基于CMOS的神經元電路、以及更高層次平臺所實現的神經元網絡相比,相變神經元的功能具有一定的局限。鑒于隨機特性主要是由結晶的物理特性直接產生,在最小電路需求的條件下,對隨機響應、神經元參數和膜電位動力學的優化程度是受限的。特別需要指出的是,對于實現高維的參數調解與穩態、以及非線性泄漏這樣的同等快速周期動力學,需要更多的專用邏輯和電子器件。另一個方法是在傳統電路中使用憶阻設備作為隨機信號源。此外,由于設備的可變性和納米規模物理學特性的影響,超微工藝節點的實現展示了固有模式和隨機噪聲的影響與日俱增。這對于必須嚴格控制隨機性的算法而言,可能是一個缺點。
InfoQ: 該研究計劃未來將如何發展?下一個關注的領域是什么?
Le Gallo: 相變神經元可與相變神經突觸無縫結合,正如我們在后續的研究所展示的(參見Tuma等發表在《IEEE Electron Device Letters》上的論文,及Pantazi等發表在《IOP Nanotechnology》上的論文)。這使得我們可以創建超密集的神經形態系統,甚至進而創建相變憶阻設備。對于從對其它的基于憶阻器的神經突觸、基于憶阻器的神經炎以及其它記憶單元的研究中所獲得的成果,該研究工作的成果與這些研究的成果是互補的,這些研究成果的結合將有助于實現活躍元素數量的降低及大規模計算系統密集度的增加。