上世紀70年代初英國研究生杰夫?辛頓(Geoff Hinton)開始建立簡單的數學模型，來描述人腦神經元如何通過視覺理解世界。幾十年來，人們一直認為人工神經網絡是一項不切實際的技術。但在2012年，辛頓和多倫多大學的兩名研究生利用人工神經網絡有效提升了計算機識別照片中物體的準確度。六個月內，谷歌收購了由這三位研究人員創立的一家初創公司。鮮為人知的人工神經網絡開始成為硅谷的熱門話題。現在，所有的大型科技公司都把辛頓和其他初創公司煞費苦心開發的技術作為公司發展的未來技術，以及推動社會發展的核心技術。
上周，在G7峰會首次人工智能會議上，《連線》雜志采訪了辛頓。來自世界主要發達經濟體的代表們在會上討論了如何推廣人工智能的有益之處，同時盡量減少失業和算法歧視等不利因素。以下是經過編輯的采訪記錄：
《連線》:加拿大總理賈斯汀·特魯多(Justin Trudeau)在七國集團會議上表示，應對人工智能帶來的道德挑戰還需要更多的工作。您怎么看?
杰夫?辛頓:我一直擔心致命的自動武器可能被濫用。我認為應該像日內瓦公約禁止使用化學武器一樣禁止它們。即便不是每個人都在上面簽名，其存在也會起到某種道德標桿的作用。你會注意到誰沒有簽名。
《連線》:你在谷歌的4500多名同事聯名致信，抗議谷歌與五角大樓續簽一份涉及將機器學習應用于無人機圖像的合同。谷歌曾表示這并非用于攻擊性目的。你在信上簽名了嗎?
杰夫?辛頓:作為谷歌的高管，我不認為我應該公開投訴，但是我私下抱怨了這一點。我沒有在這封信上簽名，但和谷歌聯合創始人謝爾蓋?布林(Sergey Brin)談過。他說他也有點不高興。所以他們沒有續簽。
《連線》:谷歌的領導層決定完成但不再續簽合同。他們還發布了一些使用人工智能的指導方針，其中包括承諾不將該技術用于武器。
杰夫?辛頓：我認為谷歌決定是正確的。會有各種各樣的東西需要云計算，很難知道在哪里畫一條底線，從某種意義上說這是隨意的。我很高興谷歌畫出了這條線。這些原則對我很有意義。
《連線》:人工智能在日常生活中也會引發倫理問題。比如說相關軟件被用于社會服務或衛生保健的決策。我們應該注意什么?
杰夫?辛頓:我是技術應用方面的專家，而不是社會政策方面的專家。我確實擁有相關技術專長的一個地方是監管機構是否要求解釋人工智能系統是如何工作的。我認為那將是一場徹頭徹尾的災難。
對于人類來說，他們無法解釋自己所做的大部分事情。比如說當你雇傭一個人的時候，這個決定是基于各種各樣你可以量化的東西，然后是各種各樣的直覺。人們不知道他們是怎么做到的。如果你讓他們解釋他們的決定，你是在強迫他們編造故事。
神經網絡也存在類似的問題。當你訓練一個神經網絡時，它會學習十億的巨量數據，從而提取出知識。如果你輸入一個圖像，輸出的是正確的決定，比如說，這是不是一個行人。但如果你問“它為什么這么想?”如果有任何簡單的規則能決定一幅圖像是否包含行人，這種難題在很久以前就已經解決了。
《連線》:那么我們怎么知道什么時候該信任這些系統呢?
杰夫?辛頓：你應該根據他們的表現來進行規范。你進行實驗，看看這個東西是否有偏見，或者它殺死的人是否比正常人要更少。對于自動駕駛汽車而言，我認為人們現在多少接受了這一點。即使你不太清楚自動駕駛汽車是如何做到這一切的，但如果它的事故率比有人駕駛汽車少得多，那就是一件好事。我認為我們必須像對待人那樣去做:你只需要看看他們表現如何，如果它們一再出現問題，你可以說它們不太好。
《連線》:你曾說過，思考大腦如何工作會激發你對人工神經網絡的研究。我們的大腦通過突觸連接的神經元網絡從感官中獲取信息。而人工神經網絡則通過數學神經元網絡提供數據，神經元之間由所謂的權值連接起來。在上周發表的一篇論文中，您和幾位合著者認為，我們應該通過更多研究來揭示大腦中正在起作用的學習算法。為什么?
杰夫?辛頓:大腦解決問題的能力與我們大多數的神經網絡非常不同。我們的大腦大約有100萬億個突觸。一般來說，人工神經網絡的權值至少要小10000倍。大腦用了很多很多的突觸從幾個片段中集中學到盡可能多的東西。當有很多情景和范例時，深度學習擅長利用神經元之間更少的連接來進行學習。我認為大腦并不關心把大量知識壓縮到幾個連接中，它關心的是利用大量連接快速提取知識。
《連線》:我們怎樣才能建立起更有效的機器學習系統呢?
杰夫?辛頓:我認為我們需要轉向一種不同的計算機。幸運的是，我這里有一個。
(辛頓把手伸進皮夾，拿出一塊閃亮的大硅片。這是英國初創公司Graphcore的一個原型，其致力于開發為機器學習算法提供動力的新型處理器。)
幾乎所有運行神經網絡的計算機系統，甚至是谷歌的特殊硬件，都使用RAM存儲器。處理器從RAM存儲器讀取數據然后加以利用，但從RAM中提取神經網絡的權重需要耗費大量的能量。所以現有的算法都確保一旦獲取了權重值，就會反復使用很多次。由于成本過大，你不能為每一個訓練樣例做出改變。
但在Graphcore芯片上，權重存儲在處理器的緩存中，而不是RAM中，因此它們永遠不需要移動。因此有些東西會變得更容易探索。然后也許我們會得到一個系統，比如說有一萬億的權重，但是每個樣例只涉及到十億個。這更像是大腦的規模。
《連線》:最近市場對人工智能和機器學習的興趣和投資激增，意味著用于研究的資金比以往任何時候都要多。該領域的快速發展是否也帶來了新的挑戰?
杰夫?辛頓:人工智能社區面臨的一大挑戰是,如果你想要發表一篇關于機器學習的論文，其中必須有一個表，首先列出所有不同的數據集以及所有不同的方法，然后突出你的方法看起來是最好的。如果不是這樣，論文就很難發表。我不認為這會鼓勵人們去思考全新的想法。
如果你提交的論文有一個全新的觀點，它就不可能被接受，因為初級審稿人不見得能夠理解。或者你會遇到一位資深審稿人，他需要回顧太多的論文才能看得懂，但第一次會認為這肯定是胡說八道。任何讓大腦受傷的東西都不會被接受。我認為這很糟糕。
尤其是在基礎科學領域，我們應該追求的是全新的理念。因為我們知道，從長遠來看一個全新的想法將比一個微小的改進能夠產生更大的影響。我認為現在需要進行改變。這個領域的資深人士不多，大都是年輕人。
《連線》:會阻礙這一領域的進展嗎?
杰夫?辛頓:需要再等上幾年，這種不平衡就會得到糾正。這是暫時的。公司都在忙于教育人們，大學也在教育人們，大學最終會在這個領域聘用更多的教授，這將是正確的。
《連線》:一些學者警告說，當前的炒作可能會就像上世紀80年代那樣進入“人工智能冬天”，當時就是由于進展沒有達到預期，興趣和資金都枯竭了。
杰夫?辛頓：不，不會有人工智能的冬天，因為它會推動你手機的技術進步。在過去的人工智能冬季，人工智能并不是你日常生活的一部分。現在它是。
京公網安備 11010502049343號