IBM Research 研究員 Stefano Ambrogio之前 擔憂:我們可以在一個比 GPU 更快的系統上進行訓練,但如果訓練操作不夠精確,那就沒用。目前為止,還沒有證據表明使用這些新型設備和使用 GPU 一樣精確。”
但在上周發表在《自然》雜志上的一篇論文中(Equivalent-accuracy accelerated neural-network training using analogue memory),Ambrogio 和他的同事們描述了如何利用全新的模擬存儲器和更傳統的電子組件組合來制造一個芯片,該芯片在運行速度更快、能耗更少的情況下與 GPU 的精確度相匹配。
新的存儲技術難以訓練深層神經網絡的原因是,這個過程需要對每個神經元的權重進行上下數千次的刺激,直到網絡完全對齊。Ambrogio 說,改變這些設備的電阻需要重新配置它們的原子結構,而這個過程每次都不相同。刺激的力度也并不總是完全相同,這導致神經元權重不精確的調節。
因此,研究人員創造了“突觸單元”來解決這個問題,每個單元都對應網絡中的單個神經元,既有長期記憶,也有短期記憶。每個單元由一對相變存儲器 ( PCM ) 單元和三個晶體管和一個電容器的組合構成,相變存儲器單元將重量數據存儲在其電阻中,電容器將重量數據存儲為電荷。
PCM 是一種“非易失性存儲器”,意味著即使沒有外部電源,它也保留存儲的信息,而電容器是“易失性的”,因此只能保持其電荷幾毫秒。但電容器沒有 PCM 器件的可變性,因此可以快速準確地編程。
當神經網絡經過圖片訓練后可以進行分類任務時,只有電容器權重被更新了。在觀察了數千張圖片之后,權重會被傳輸到 PCM 單元以長期存儲。認為最終的芯片會被設計為與 GPU 協同工作的形式,以處理全連接層的計算,同時執行其他任務。他還認為處理全連接層的有效方法可以被擴展到其它更廣泛的領域。
Ambrogio 表示主要有兩種方向的應用:將 AI 引入個人設備,以及提高數據中心的運行效率。但明顯其更具吸引力的優勢在于創造個性化的 AI。
IBM2018市場戰略:
截至今年3月31日,IBM2018年第一季度的營收為191億美元,同比增長5%。繼上個季度后,再次結束連續22個季度下滑的局面,第二次實現營收增長。IBM預計到今年年底將達到400億美元的戰略要求。
IBM所謂的“戰略必要性”收入,即未來增長產品和服務,例如云、認知計算、沃森、分析、移動和安全等業務,在過去12個月中為收入377億美元,增長12%,占IBM收入的47%。
6月6日,透過2018 IBM社交協作峰會,IBM發布了一系列基于Watson技術的社交協作解決方案,并向業界展示了眾多深入各行業企業業務流程的成功案例。無論是醫藥、金融、制造業等傳統行業,或是獨角獸級別的初創企業,IBM企業社交協作已經全面深入企業業務深水區,成為其數字化轉型中不可或缺的助力
2018年,IBM在企業社交協作方面另一個值得期待的動作就是即將推出DominoV10版本。據悉,輕代碼/無代碼應用將是其主要特點。相信在輕量化無代碼的趨勢下,越來越多企業用戶可以脫離軟件開發商和較長的開發周期,更便捷更快速地應用IBM多年積累的企業協作技術。
在過去幾年:在人工智能領域 IBM 簽下 16000 份合同、400 份區塊鏈合同!在量子計算領域,也正與 JP摩根大通和戴姆勒等伙伴合作實施多個項目的合作。