精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

責(zé)任編輯:editor007

作者:36氪的朋友們

2016-09-08 21:19:04

摘自:36kr

Demiurge Technologies 是一家位于瑞士的人工智能創(chuàng)業(yè)公司,他們致力于研究生物神經(jīng)元的計(jì)算原理,開發(fā)下一代深度學(xué)習(xí)

 

編者按:本文來源于微信公眾號“機(jī)器之心”(ID:almosthuman2014),作者趙云峰,36氪經(jīng)授權(quán)發(fā)布。

Demiurge Technologies 是一家位于瑞士的人工智能創(chuàng)業(yè)公司,他們致力于研究生物神經(jīng)元的計(jì)算原理,開發(fā)下一代深度學(xué)習(xí),以解決小樣本學(xué)習(xí)和與物理世界交互的難題。他們的深度學(xué)習(xí)系統(tǒng)將應(yīng)用于第四級別自動駕駛和探索機(jī)器人等領(lǐng)域。與大部分人工智能公司不同的是,Demiurge Technologies 希望從根源解決目前深度學(xué)習(xí)存在的問題,希望 Demiurge 的創(chuàng)業(yè)思路和運(yùn)作模式能夠給從業(yè)者帶來靈感和啟發(fā)。

瑞士,有著覆蓋國土面積 60% 的阿爾卑斯山脈和超過 1,500 個湖泊,瑪麗·雪萊所著的西方文學(xué)史上首部科幻小說《弗蘭肯斯坦》就誕生于日內(nèi)瓦湖畔,它講述了一位天才科學(xué)家從零到一創(chuàng)造出智能生命體的故事,成為此后 200 年間討論人類與機(jī)器、生命與智能的哲學(xué)模板。

Demiurge Technologies 也是一家希望從生命中獲得線索并以此來開發(fā)通用人工智能的創(chuàng)業(yè)公司,位于瑞士一個依山傍湖的小鎮(zhèn)——靜謐但充滿力量。

一、基于生物神經(jīng)元的下一代深度學(xué)習(xí)

「雖然目前的深度學(xué)習(xí)在語音識別和圖像識別方面取得了突破性進(jìn)步,但如果把深度學(xué)習(xí)用于絕大多數(shù)的其他領(lǐng)域,比如說自動駕駛、實(shí)體機(jī)器人等,就會面臨一個來自于真實(shí)世界的非常大的挑戰(zhàn),那就是訓(xùn)練數(shù)據(jù)量嚴(yán)重不足。」Demiurge 聯(lián)合創(chuàng)始人、CTO 任志攀(Bragi Lovetrue)表示。 

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

人工智能不同應(yīng)用場景的數(shù)據(jù)需求和數(shù)據(jù)供給對比,圖片來源 Demiurge Technologies

拿開發(fā)消費(fèi)級別的全自動駕駛來說,最大挑戰(zhàn)在于要開發(fā)出在交通事故的預(yù)判和預(yù)防上遠(yuǎn)超人類駕駛員的軟件。

如果用現(xiàn)有的深度學(xué)習(xí)去實(shí)現(xiàn)這一點(diǎn),那就需要大量的事故數(shù)據(jù),但這方面的數(shù)據(jù)供給非常有限,而采集數(shù)據(jù)又難度很大。首先,沒有人能夠準(zhǔn)確預(yù)測何時(shí)何地會發(fā)生何種事故,因此無法系統(tǒng)地提前部署以采集真實(shí)事故數(shù)據(jù);其次,從法律上來說我們不能靠人為制造事故來采集數(shù)據(jù);第三,也無法模擬數(shù)據(jù),因?yàn)槭鹿矢嗌婕皩?shí)時(shí)的傳感以及與物理世界的互動,模擬出來的數(shù)據(jù)與真實(shí)數(shù)據(jù)差距很大,這從 DARPA 機(jī)器人挑戰(zhàn)賽就能看出來;最后,像 AlphaGo 那樣,在規(guī)則定義明確的簡單環(huán)境下自行創(chuàng)造大量訓(xùn)練數(shù)據(jù)的方式,在復(fù)雜的真實(shí)環(huán)境中難以發(fā)揮作用。

如果遇到數(shù)據(jù)量不足的情況,同時(shí)又很難通過之前那些行之有效的方式去增加數(shù)據(jù)供給,那就無法發(fā)揮出深度學(xué)習(xí)的優(yōu)勢。而更重要的是,我們還會遇到數(shù)據(jù)類型不一樣的問題,物理世界中是不同傳感器獲取的實(shí)時(shí)數(shù)據(jù)流,而現(xiàn)在深度學(xué)習(xí)在信息世界中的應(yīng)用,比如說圖像識別,使用的數(shù)據(jù)都是基于圖片的數(shù)據(jù)點(diǎn),而非數(shù)據(jù)流,所以這也是將深度學(xué)習(xí)現(xiàn)有的成功延伸到真實(shí)物理世界應(yīng)用的一個底層障礙。

基于這個原因,Demiurge 專注于開發(fā)一種系統(tǒng)方法從源頭解決真實(shí)世界諸多領(lǐng)域中數(shù)據(jù)量嚴(yán)重不足的問題——既然很難有效增加數(shù)據(jù)供給,為何不設(shè)法大幅降低對數(shù)據(jù)的需求?

降低對數(shù)據(jù)量的需求、實(shí)現(xiàn)小樣本學(xué)習(xí)甚至 one-shot learning,是目前深度學(xué)習(xí)研究中的關(guān)鍵問題,Yann LeCun、 Yoshua Bengio 等深度學(xué)習(xí)專家也多次在演講中提到解決深度學(xué)習(xí)中 one-shot learning 問題的重要性。

在今年斯德哥爾摩的全球機(jī)器人頂級學(xué)術(shù)會議 ICRA 上,Bragi 在 Industry Forum 演講中介紹了 Demiurge 的方法,從神經(jīng)科學(xué)里尋找關(guān)鍵線索,「比起深度學(xué)習(xí)的點(diǎn)神經(jīng)元,生物神經(jīng)元所擅長的是從多模的實(shí)時(shí)數(shù)據(jù)流中提取多維度的時(shí)空信息來實(shí)現(xiàn) one-shot learning,這是現(xiàn)有的深度學(xué)習(xí)很難做到的。生物神經(jīng)元不僅能夠做這種特征提取,而且是以一種非常高效的方式,效果和效率都很出色。」

深度神經(jīng)網(wǎng)絡(luò)的確從神經(jīng)科學(xué)領(lǐng)域的研究中獲取了一些靈感,但其工作原理與人腦截然不同(誠然,我們對大腦的工作原理還沒有弄清楚),Yann LeCun 表示,他最不喜歡的對深度學(xué)習(xí)的定義就是「它像我們的大腦」,谷歌 Jeff Dean 認(rèn)為深度神經(jīng)網(wǎng)絡(luò)是對大腦神經(jīng)網(wǎng)絡(luò)的簡單抽象,并非是模擬人類神經(jīng)元如何工作。神經(jīng)科學(xué)專注的點(diǎn)包括計(jì)算的細(xì)節(jié)實(shí)現(xiàn),還有對神經(jīng)編碼以及神經(jīng)回路的研究。然而,在機(jī)器學(xué)習(xí)領(lǐng)域,人工神經(jīng)網(wǎng)絡(luò)則傾向于避免出現(xiàn)這些,而是往往使用簡單和相對統(tǒng)一的初始結(jié)構(gòu),以支持成本函數(shù)(cost funcion)的蠻力最優(yōu)化。

Bragi 從歷史的角度分析了深度學(xué)習(xí)和神經(jīng)科學(xué)的關(guān)系,「現(xiàn)在的深度學(xué)習(xí)從神經(jīng)科學(xué)中獲得的靈感非常有限,這是因?yàn)樯疃葘W(xué)習(xí)的理論基礎(chǔ)是上世紀(jì) 80 年代基本定型的,那時(shí)之前的神經(jīng)科學(xué)也發(fā)展比較慢,無法為深度學(xué)習(xí)提供更多靈感。而從 80 年代至今,神經(jīng)科學(xué)的發(fā)展速度遠(yuǎn)遠(yuǎn)超過了之前,過去 30 年產(chǎn)生的神經(jīng)科學(xué)知識是 80 年代以前的 46 倍,而且現(xiàn)在每年神經(jīng)科學(xué)獲得新發(fā)現(xiàn)的速度是 80 年代以前的 100 倍。所以,對于深度學(xué)習(xí)來說,如今的神經(jīng)科學(xué)已經(jīng)是一個非常巨大的寶庫,為提升現(xiàn)有深度學(xué)習(xí)的學(xué)習(xí)能力提供重要線索。」

Bragi 表示,越來越多的深度學(xué)習(xí)專家開始研究如何從神經(jīng)科學(xué)中獲取更多的線索,「 Yoshua Bengio 做的非常前沿,一方面研究深度學(xué)習(xí)的反向傳播算法在生物神經(jīng)元上是如何實(shí)現(xiàn)的,另一方面研究生物神經(jīng)元的 STDP 學(xué)習(xí)算法如何提升現(xiàn)有的深度神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力 。位于深度學(xué)習(xí)與神經(jīng)科學(xué)交匯的最前沿,我們很深刻地體會到現(xiàn)在正在發(fā)生著的轉(zhuǎn)型,從深度學(xué)習(xí)和神經(jīng)科學(xué)沒有太大關(guān)系的這一代(深度學(xué)習(xí)1.0),過度到深度學(xué)習(xí)重新從神經(jīng)科學(xué)獲得重要啟發(fā)的下一代(深度學(xué)習(xí) 2.0 )。」

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

深度學(xué)習(xí) 2.0 ,圖片由來源 Demiurge Technologies

在近期谷歌 DeepMind 和 MIT 媒體實(shí)驗(yàn)室的合著論文《Towards an integration of deep learning and neuroscience》中提到,近期出現(xiàn)的結(jié)構(gòu)化、成本函數(shù)和訓(xùn)練程度的復(fù)雜化這兩項(xiàng)機(jī)器學(xué)習(xí)方面的進(jìn)展或許會將神經(jīng)科學(xué)和機(jī)器學(xué)習(xí)兩個研究領(lǐng)域看似不同的視角連接起來。此外,硬件方面,IBM Zurich 在 8 月首次用低成本高性能的相變材料實(shí)現(xiàn)了生物神經(jīng)元計(jì)算的關(guān)鍵機(jī)制——神經(jīng)薄膜 。 

更重要的是,面向物理世界的移動人工智能的各種應(yīng)用需求(識別、避障、抓取等),與各類生物在物理環(huán)境的各種生存需求是高度吻合的。Bragi 表示,斯坦福大學(xué)人工智能實(shí)驗(yàn)室主任李飛飛教授就特別重視深度學(xué)習(xí)在機(jī)器人上的應(yīng)用。

生物神經(jīng)元,經(jīng)過上億年的演化,是自然找到的最優(yōu)解決方案。對于 Demiurge 來說,理解生物神經(jīng)元的計(jì)算模型是找到降低數(shù)據(jù)需求的通用算法,開發(fā)通用移動人工智能核心技術(shù)的關(guān)鍵。

這與其他解決數(shù)據(jù)量不足的思路有著本質(zhì)不同。「比如說 UC Berkely 的 Pieter Abbeel 和 Google 的 Sergey Levine ,他們都是在用深度強(qiáng)化學(xué)習(xí)來開發(fā)基于自我監(jiān)督學(xué)習(xí)(self-supervised learning)的通用算法,但這種自動的數(shù)據(jù)收集和標(biāo)記本質(zhì)上依然是增加數(shù)據(jù)供給。此外,NYU 的 Brenden Lake 等用貝葉斯程序?qū)W習(xí)的方法針對特定問題開發(fā)出專門的數(shù)學(xué)模型。雖然能夠在特定任務(wù)中大幅降低了數(shù)據(jù)需求,實(shí)現(xiàn)了 one-shot learning , 但這不是通用方法,」Bragi 說,「實(shí)際應(yīng)用中需要的是降低數(shù)據(jù)需求的通用方法,深度學(xué)習(xí)的通用性無疑是最佳的。對于深度學(xué)習(xí)來說,如果不從生物神經(jīng)元原理入手的話,是很難解決這些問題的。」

Bragi 表示,目前深度神經(jīng)網(wǎng)絡(luò)與生物神經(jīng)網(wǎng)絡(luò)最本質(zhì)的區(qū)別在于神經(jīng)元的類型。目前深度神經(jīng)網(wǎng)絡(luò)用的是點(diǎn)神經(jīng)元,其計(jì)算模型是把信號加權(quán)平均的結(jié)果輸入到一個非線性函數(shù)。這種點(diǎn)神經(jīng)元是對生物神經(jīng)元的極度簡化,沒有基于時(shí)間的變量。而生物神經(jīng)元則利用脈沖進(jìn)行基于多維時(shí)空變量的計(jì)算。單個生物神經(jīng)元的計(jì)算模型是神經(jīng)科學(xué)領(lǐng)域的一個關(guān)鍵問題,而這個問題的答案正是設(shè)計(jì)下一代深度學(xué)習(xí)的關(guān)鍵線索。

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

點(diǎn)神經(jīng)元和脈沖神經(jīng)元,圖片來源 Demiurge Technologies 

這個模型的關(guān)鍵在于理解脈沖如何以非常少量的計(jì)算步驟和能耗能夠準(zhǔn)確抓取極高維度的時(shí)空信息。

「沒有基于脈沖的計(jì)算模型—僅僅像 IBM TrueNorth 那樣,簡單模仿一些生物神經(jīng)元的硬件特點(diǎn),或者像 Numenta 和 Vicarious 的 HTM(Hierarchical Temporal Memory)那樣,簡單借鑒一些生物神經(jīng)元的軟件特點(diǎn)—消費(fèi)級別大腦芯片的硬件開發(fā)也就無從談起。 對于實(shí)現(xiàn)生物神經(jīng)元計(jì)算模型的軟硬件要求的掌握,是 Demiurge 最重要的核心優(yōu)勢。」

這種計(jì)算模型的提出是多尺度跨領(lǐng)域研發(fā)的結(jié)果,不僅需要對跨領(lǐng)域的基礎(chǔ)理論和前沿算法進(jìn)行研究,還要從應(yīng)用角度來分析真實(shí)世界的需求和需要滿足的限制,來縮小算法搜索的空間。因?yàn)檎鎸?shí)世界中有很多限制,比如說提供的數(shù)據(jù)量非常少,但為了應(yīng)用成功或者讓物種生存,就必須快速學(xué)習(xí)來了解整個環(huán)境,而在整個過程中又不能耗能太多。

生物智能給 Demiurge 提供了非常重要的線索,他們從跨物種的通用智能系統(tǒng)出發(fā),理解要滿足什么樣的條件才能最大化它們的生存,這是從生存追問的一種智能系統(tǒng)設(shè)計(jì)的思路。不管設(shè)計(jì)出何種模型,都要滿足這些限制。

目前深度學(xué)習(xí)領(lǐng)域從實(shí)驗(yàn)室結(jié)果到產(chǎn)品級應(yīng)用的演化進(jìn)程,對于真實(shí)世界的諸多限制一開始是盡量回避的,即首先選擇那些可以不太涉及物理限制的簡單場景,盡力實(shí)現(xiàn)在該場景下深度神經(jīng)網(wǎng)絡(luò)的最優(yōu)化表現(xiàn)后,再開始逐條考慮開發(fā)應(yīng)用時(shí)必須面對的各種物理限制。

「這種演化可能適合學(xué)術(shù)研究,但不適合產(chǎn)品研發(fā)。Demiurge 的研發(fā)從一開始就充分考慮真實(shí)世界應(yīng)用的所有限制,開發(fā)出來的計(jì)算模型和大腦芯片能在真實(shí)世界的各種限制條件下完成出色穩(wěn)定的應(yīng)用表現(xiàn)。 」Demiurge 聯(lián)合創(chuàng)始人兼 CEO 劉思宜(Idonae Lovetrue)進(jìn)一步解釋這背后的決策依據(jù)。

由于采用了同時(shí)滿足技術(shù)突破和應(yīng)用表現(xiàn)的雙重評估標(biāo)準(zhǔn),Demiurge 的研發(fā)風(fēng)格是極為大膽和嚴(yán)謹(jǐn)?shù)摹L岢龅挠?jì)算模型首先要在從數(shù)學(xué)理論上完整論證,同時(shí)還要用神經(jīng)科學(xué)最新的發(fā)現(xiàn)和數(shù)據(jù)去做驗(yàn)證。這部分?jǐn)?shù)學(xué)理論與神經(jīng)科學(xué)的驗(yàn)證之后, Demiurge 會開始軟件的模擬和硬件的實(shí)施,最終把自動駕駛作為首個測試平臺,通過實(shí)現(xiàn)第四級別的無人駕駛測試他們的大腦芯片產(chǎn)品在對交通事故的學(xué)習(xí)、預(yù)判和預(yù)防的表現(xiàn)。

Demiurge 雖然是從神經(jīng)科學(xué)中尋找深度學(xué)習(xí)突破的密碼,但他們所做的技術(shù)依然可以稱之為深度學(xué)習(xí),最終的產(chǎn)品形態(tài)也是利用深度神經(jīng)網(wǎng)絡(luò),也利用很多的隱含層和反向傳播算法,只不過是將深度神經(jīng)網(wǎng)絡(luò)中的點(diǎn)神經(jīng)元替換成了脈沖神經(jīng)元,是計(jì)算單元的區(qū)別,在整個計(jì)算架構(gòu)上區(qū)別很少。

因此,可以在充分利用了生物神經(jīng)元優(yōu)勢的情況下同時(shí)還繼承了這代深度學(xué)習(xí)的所有優(yōu)勢,比如說具有通用性,以及從訓(xùn)練的角度上是 model-free ,這依然是一個以數(shù)據(jù)和經(jīng)驗(yàn)來驅(qū)動的過程。

Bragi 說:「我們和 DeepMind 、OpenAI 等最大的區(qū)別是,我們很清楚脈沖神經(jīng)網(wǎng)絡(luò)在感知數(shù)據(jù)流計(jì)算上的巨大優(yōu)勢,并知道如何從軟件上和硬件上實(shí)現(xiàn)它。對這一代深度學(xué)習(xí)來說,正如 Google 資深研究員 Greg Corrado 在 Brain Forum 上所說,他們尚不清楚如何利用脈沖進(jìn)行計(jì)算,在算法層面和應(yīng)用層面發(fā)揮脈沖的優(yōu)勢  。我們與 IBM 區(qū)別是,IBM 的最新突破用 GST 相變材料首次完整第實(shí)現(xiàn)了單一神經(jīng)薄膜,這是基于對生物神經(jīng)元物理性質(zhì)的深入理解與再現(xiàn),但要開發(fā)應(yīng)用于物理世界的大腦芯片, 僅靠復(fù)制生物神經(jīng)元的物理性質(zhì)是不夠的,根本上仍然需要對生物神經(jīng)元計(jì)算原理的掌握,后者是 Demiurge 的核心優(yōu)勢。」

二、游戲規(guī)則制定者

理解生物神經(jīng)元的脈沖計(jì)算原理,是神經(jīng)科學(xué)領(lǐng)域的世界級難題,同時(shí)對人工智能界的下一次突破也意義重大,面對這樣一個不論是從科研還是從應(yīng)用上都將帶來巨大價(jià)值的命題,Demiurge 作為一個資源有限的創(chuàng)業(yè)公司是如何做到的?

「不應(yīng)該是艾倫實(shí)驗(yàn)室、索爾科研究所、HBP 等世界級腦科學(xué)研究機(jī)構(gòu),或者谷歌、Facebook 等科技巨頭才有動力和能力去解決這樣一個世界難題嗎?」我非常直接的向 Bragi 詢問。

「就像阿基米德那個用杠桿去撬動地球的比喻,對于撬動這個世界級難題來說(理解生物神經(jīng)元的脈沖計(jì)算原理),有很多不同支點(diǎn)(探索方法)可供選擇。比如說各國腦計(jì)劃的研究重點(diǎn)主要集中在提高探測設(shè)備和研究手段,使得我們能夠盡可能收集從局部到全部、從單個時(shí)間點(diǎn)到更大時(shí)間尺度上的盡可能多的關(guān)于神經(jīng)元的數(shù)據(jù),他們大多是從收集數(shù)據(jù)的角度來努力。」

「艾倫研究所在這方面做了很多貢獻(xiàn),不僅提供了系統(tǒng)化數(shù)據(jù)收集的標(biāo)準(zhǔn)和數(shù)據(jù)收集的設(shè)備,同時(shí)還把收集上來的數(shù)據(jù)加以整理并免費(fèi)開放,他們的思路是,更多的數(shù)據(jù)可能會幫助我們最終解決算法的問題,這是大數(shù)據(jù)驅(qū)動的對算法的理解。而歐盟腦計(jì)劃(HBP)的思路不一樣,他們認(rèn)為,即便是收集足夠多的數(shù)據(jù),但缺少模擬的過程,對數(shù)據(jù)的利用效率也不夠高,所以他們特別強(qiáng)調(diào)建立一個全尺度、高精度的虛擬大腦,這樣就能保證在虛擬大腦里重現(xiàn)已經(jīng)觀察到的大腦的現(xiàn)象和特征,從而讓我們更加準(zhǔn)確的提出測試各類神經(jīng)元的計(jì)算模型,這也是從藍(lán)腦計(jì)劃到歐盟人腦計(jì)劃的一個重點(diǎn)。」Bragi 說。

Idonae 補(bǔ)充到:「以上這些研究更多的是提供了基礎(chǔ)設(shè)施,支點(diǎn)都離問題比較遠(yuǎn),而不是直接去解決這個問題。而 Demiurge 選擇了最近的支點(diǎn)(完全專注于單個生物神經(jīng)元),并打造出了最長的杠桿(提出了通用的脈沖計(jì)算模型),所以能夠以有限的資源撬動無限的潛力。」。

她認(rèn)為「下一代深度學(xué)習(xí)是一個底層應(yīng)用問題,不是一個表層應(yīng)用問題。底層問題則需要對多領(lǐng)域深入的理解和靈感來尋求突破,還需要對應(yīng)用核心痛點(diǎn)的深入理解,所以預(yù)測和管理更具挑戰(zhàn)性。而表層問題可以用循序漸進(jìn)改良的方式推動,產(chǎn)出和時(shí)間相對容易預(yù)測。在學(xué)術(shù)界和大企業(yè)機(jī)構(gòu),相關(guān)評審機(jī)制的設(shè)計(jì)和運(yùn)作有利于解決表層應(yīng)用問題,但對解決底層應(yīng)用問題的機(jī)制缺乏動力和經(jīng)驗(yàn)。因此在解決底層應(yīng)用問題上,Demiurge 量身打造的文化制度和評審機(jī)制就會顯示出獨(dú)特的優(yōu)勢。」

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

Demiurge 聯(lián)合創(chuàng)始人、CEO Idonae Lovetrue 在 TEDx Hochschule Luzern 演講

在此前的 TED 演講上,Idonae 也提到了 Demiurge 相對于科技巨頭的優(yōu)勢,「大企業(yè)顯然有多種優(yōu)勢:充足的資源、雄厚的財(cái)力和強(qiáng)大的網(wǎng)路,但開發(fā)應(yīng)用于物理世界的人工智能最重要的事情是生存本能,但這與大企業(yè)的屬性相悖,企業(yè)一旦做大,保持其生存本能就會極其困難。但生存卻是創(chuàng)業(yè)的一切,并且它在每個人的血管中流淌,我何時(shí)何地都能感受到它。」

「所以,Demiurge 為自己創(chuàng)造了一個非常獨(dú)特的位置,掌握了一個從科學(xué)的利益和動力、產(chǎn)品的利益和動力的完美契合點(diǎn),」Bragi 表示,「單個神經(jīng)元計(jì)算模型這個問題既是從深度學(xué)習(xí)應(yīng)用需求來說必須要解決的根本問題,同時(shí)也是神經(jīng)科學(xué)領(lǐng)域一個諾貝爾獎級別的問題。比起學(xué)術(shù)界,Demiurge 離應(yīng)用最近,可以獲得一些額外的關(guān)鍵啟發(fā)和應(yīng)用場景下的限制條件, 更有能力去做這個事情。比起工業(yè)界,Demiurge 離科學(xué)最近,能夠非常專注地去徹底解決應(yīng)用的底層問題,更有定力去完成這個事情。」

而恰恰是因?yàn)?Demiurge 所堅(jiān)持的這個目標(biāo)也是神經(jīng)科學(xué)家一直以來的終極目標(biāo),所以神經(jīng)科學(xué)領(lǐng)域的頂尖機(jī)構(gòu)和專家非常支持他們,為他們提供研究成果、數(shù)據(jù)和人才。所以從這方面來說,Demiurge 和神經(jīng)科學(xué)領(lǐng)域的大機(jī)構(gòu)是一種合作關(guān)系,而非直接的競爭關(guān)系,而這種合作關(guān)系也是平等的優(yōu)勢互補(bǔ),這些科學(xué)家不是在通常情況下的單方面付出,而是可以獲得反饋。

各類人才的匯集讓 Idonae 充滿信心,「我們只要堅(jiān)持走在解決這個問題的路徑上,最適合的人會一個一個陸續(xù)登場,而每個人都必然是在相關(guān)領(lǐng)域深耕良久,因?yàn)橹挥杏辛撕苌畹姆e累之后才有足夠的眼光看到我們解決這個問題的必然性。」

而對于 Demiurge 來說,他們不僅希望自己創(chuàng)造的這套新的游戲規(guī)則能夠幫助他們解決具體問題,還希望這個規(guī)則本身可以為后來者提供一種史無前例的參照。

「我們在創(chuàng)造一個先例,從來沒有人說過創(chuàng)業(yè)公司不可以通過解決一個諾貝爾獎級別的問題來直接開發(fā)出堪比互聯(lián)網(wǎng)基礎(chǔ)的人工智能技術(shù),只不過是很少有人有勇氣做這方面嘗試,而我們非常清楚我們的目標(biāo)是什么,我們存在的意義是什么。我們希望自己是啟發(fā)性的,也可以讓后面的人有一個新的參考體系。」Idonae 表示。

「為什么是我們?我們對現(xiàn)有的游戲規(guī)則很了解,并且非常清楚做到什么程度才算是真正的成功,」Idonae說,「通用人工智能的成功標(biāo)準(zhǔn),高于在 ImageNet 競賽中取得高分,高于實(shí)現(xiàn)完全的自動駕駛,而是能夠?qū)崿F(xiàn)人人可居的智慧城市,人人可獲益的地外探索。」

自動駕駛

Demiurge 基于生物神經(jīng)元計(jì)算模型所提出的下一代深度學(xué)習(xí)及相關(guān)的軟硬件平臺, 可以做到高性能、低成本的解決小樣本學(xué)習(xí)和自適應(yīng)學(xué)習(xí)等人工智能在真實(shí)世界中所面臨的諸多問題。從目前來看,這項(xiàng)技術(shù)最直接、也是最有市場需求的應(yīng)用就是自動駕駛。

Bragi 和 Idonae 五月份的行程非常密集,他們需要去瑞士中部的盧塞恩進(jìn)行 TED 演講,然后當(dāng)天趕到西南部城市洛桑參加 Brain Froum,會議結(jié)束后再返回公司。Bragi 駕駛著一輛 Model S 在四天里行駛了超過 800 英里,沿途再美的風(fēng)景也會屈服于駕駛員的時(shí)間成本和精力消耗,這也是所有人期待自動駕駛早日實(shí)現(xiàn)并積極參與其中的原因。

從 20 世紀(jì) 80 年代卡耐基梅隆大學(xué)的 Navlab 計(jì)劃,到谷歌自動駕駛項(xiàng)目,再到如今所有相關(guān)公司的強(qiáng)勢布局,眾多參與者都走在追求這個終極目標(biāo)的路上,每個參與者都會基于自己的優(yōu)勢規(guī)劃發(fā)展路徑,神秘的自動駕駛創(chuàng)業(yè)公司 Drive.ai 就完全押寶于深度學(xué)習(xí),將深度學(xué)習(xí)應(yīng)用于全自動集成駕駛堆棧,改變用規(guī)則去應(yīng)對各種場景,讓汽車完全自行通過理解數(shù)據(jù)去學(xué)習(xí)。

而 Demiurge 的方案不是循序漸進(jìn),而是從自動駕駛場景下的小樣本學(xué)習(xí)和與真實(shí)物理世界交互的兩大限制出發(fā),用生物神經(jīng)元的計(jì)算模型從根源上解決這個問題。

「比如說蝗蟲,它們的翅膀非常孱弱,任何撞擊對它們來說都是非常致命的,但它們在高速飛行中有著幾乎完美的自動避障能力,這背后的機(jī)制如果用在自動駕駛汽車上,將會實(shí)現(xiàn)第四級別的自動駕駛。最令人吃驚的是,蝗蟲的自動避障系統(tǒng)只用了兩個生物神經(jīng)元,一個用來探測障礙,一個用來執(zhí)行避障的行為,這說明生物神經(jīng)元在處理物理世界的任務(wù)時(shí),從小數(shù)據(jù)和數(shù)據(jù)流中的學(xué)習(xí)和決策能力非常出色,這對我們降低數(shù)據(jù)需求提供了重要線索。」Bragi 說。 

如何讓深度學(xué)習(xí)突破數(shù)據(jù)瓶頸?

基于深度學(xué)習(xí)的自動駕駛和蝗蟲自動避障的對比,圖片來源 Demiurge Technologies

在產(chǎn)品方面,軟件依然是第一位,但如果現(xiàn)有的自動駕駛平臺無法與他們的軟件相適應(yīng)時(shí),Demiurge 也會重新設(shè)計(jì)硬件,「我們要設(shè)計(jì)的深度學(xué)習(xí)芯片也是基于脈沖神經(jīng)元,所以從硬件實(shí)施上也與現(xiàn)在的硬件有所不同」,但 Bragi 沒有透露更多具體細(xì)節(jié),「這兩種方法都是可能的,至于選擇哪一種,則是看工程上的需要。」

在眾多自動駕駛領(lǐng)域的參與者中,Demiurge 認(rèn)為公司最大的潛在競爭對手是特斯拉。特斯拉在去年 10 月通過軟件升級增加了輔助駕駛功能,這個功能在研發(fā)時(shí)使用了特斯拉車主過去 18 個月積累的 7.8 億英里行駛數(shù)據(jù)。在該功能上線后的短短六個月內(nèi)就積累了 4,700 萬英里數(shù)據(jù),遠(yuǎn)遠(yuǎn)超過谷歌歷時(shí) 6 年積累的 150 萬英里,而近期特斯拉的這個數(shù)據(jù)已經(jīng)增加到 1 億英里。

Demiurge 把特斯拉視為頭號競爭對手的原因在于,目前只有特斯拉充分認(rèn)識到現(xiàn)有深度學(xué)習(xí)對于數(shù)據(jù)需求量過大的底層問題,并且后者正在用不同方式來逼近這個目標(biāo)。

Bragi 說:「特斯拉在收集數(shù)據(jù)上有著壟斷性的巨大優(yōu)勢,所以能夠利用現(xiàn)有深度學(xué)習(xí)做自動駕駛,在與大多數(shù)同行競爭中已然遙遙領(lǐng)先。但特斯拉并沒有滿足這一狀態(tài),Elon Musk 同時(shí)通過成立 Open AI 在本質(zhì)上尋求能夠?qū)崿F(xiàn)第四級別自動駕駛的下一代的深度學(xué)習(xí)算法,完全超越競爭,這和 Demiurge 的思路是一樣的。」

鏈接已復(fù)制,快去分享吧

企業(yè)網(wǎng)版權(quán)所有?2010-2024 京ICP備09108050號-6京公網(wǎng)安備 11010502049343號

  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 安吉县| 孟连| 余江县| 临漳县| 镇宁| 肇州县| 蒙山县| 灵山县| 错那县| 康保县| 公主岭市| 德庆县| 庆云县| 柳江县| 石狮市| 区。| 共和县| 渝中区| 济阳县| 乌兰浩特市| 武陟县| 玛纳斯县| 潜山县| 罗江县| 黎城县| 禹州市| 上林县| 富平县| 乾安县| 平顶山市| 兴文县| 小金县| 格尔木市| 丰镇市| 海伦市| 杭锦后旗| 青冈县| 泾阳县| 绩溪县| 南郑县| 长垣县|