本期對話嘉賓是暢銷書《我們最后的發明：人工智能與人類時代的終結》(Our Final Invention, subtitled Artificial Intelligence and the End of the Human Era)的作者James Barrat(詹姆斯·巴拉特)，他談論了人工智能對人類工作的影響，以及人類與人工智能的比較等問題。
| 人類最后的發明
問：您寫了一本廣受歡迎的書《我們最后的發明：人工智能與人類時代的終結》。您能跟我們大體介紹一下這本書的主要內容嗎?
James Barrat：當然可以。總體而言，人工智能是我們的最終發明，它被認為是一種具有雙重用途的技術。所謂的兩用技術就是一種可以既可以被用來做好事，同時也可以帶來巨大傷害的技術。
目前，我們正處于人工智能的蜜月期，我們只看到了許多優秀的人工智能工具，未來還會有更多的智能工具即將問世。如今，人工智能可以比人類更快地發現X射線中的癌癥簇。在商業分析上，人工智能可以做的比人類更好。人工智能可以做法律助理第一年做的工作，進行法律細節的搜尋。無人駕駛汽車將使我們的道路更加安全，因為我們不再需要開車了。因此，我們發現了人工智能很多非常有用的應用。
但是，人工智能是把雙刃劍，首先，它將搶走人類成千上萬的飯碗。目前美國約有500萬個職業司機，700萬個會計，這些工作將會被人工智能所取代。而這僅僅是眾多將被人工智能所取代的萬千工作中的一兩個。
所以我的書的主題是，我們需要重新審視人工智能的本質，探索它的應用，弄清是誰在控制它。并且，從長遠的角度來看，討論一下未來我們是否能控制它等。
問：史蒂芬·霍金表示，人工智能的問題在于短期內是由誰來控制的，從長遠來看，我們能控制它嗎?您怎么看?
James Barrat：從短期來看，目前我們已經在人工智能領域遭遇了一些問題。例如，美國國家安全局利用人工智能可以輕而易舉地訪問我們的手機，查看我們的手機數據，獲取我們的電話簿和通訊記錄。這本質上是在窺探我們的個人隱私，而這在過去是違法的。過去，倘若我想要獲取你的通訊記錄，我需要去法院申請，直到得到法院的命令來可以獲取你的通訊記錄。你的手機和通訊記錄隸屬于你的個人財產和隱私。由于人工智能技術，美國國家安全局繞過了這一漏洞，“竊取”了我們的手機信息和手機數據。由于先進的數據挖掘軟件，他們能夠在海量數據中進行快速篩選。
在短期內，誰才是控制人工智能的人?現在有很多國家正在開發具有自主性的戰地機器人和無人機。這些機器人和無人駕駛飛機可以在沒有人類的控制的情況下殺死人類。這些都是人工智能的問題。
數據統計，目前有56個國家正在開發戰爭機器人，而其中最受追捧的則是具有自主性的戰爭機器人。近期，有一篇文章講的就是某國海軍陸戰隊的機器人如何在戰場上控制機關槍瘋狂掃射。目前人類可以用平板電腦控制它，但是人類研發的目標，就是讓機器人具有自主性，可以自動射殺敵人。
我們現在以及未來所面臨的問題，我可以用一個叫做“智能化爆炸”(intelligence explosion)的概念來解釋。所謂的“智能化爆炸”是由統計學家I.J Good于20世紀60年代提出的。他說，“一旦我們制造出了方方面面優于人類的機器，屆時它們會做的一件事就是‘繁衍’創造出更多的智能機器。”而目前的現狀是，我們正在見證人工智能逐步開始比人類做的更好，不難想象，未來將有一天，人工智能將從方方面面超越人類，甚至在人工智能的研究上也優越于人類。“當這一切發生的時候，我們人類將不再引領智力發展的步伐，取而代之的將會是一種機器，將由它主宰未來世界的發展。”
但問題是，我們不知道如何控制機器，也不知道其認知結構，但它比我們人類的智商要高很多。到時候我們如何對待比自己聰明一千倍的事物的呢?
| 人工智能就像核裂變
問：現在有些人說“人工智能”是恐怖的代名詞，但是也有人說它和我們曾經運行過的其他計算機程序并沒有什么不同，只是更好更快，而且只是在某一件事情上做得比人類好而已。您是如何看待的呢?另外，到目前為止，我們似乎還沒有遇到什么人工智能的大麻煩。您認為未來什么將會激化人類與人工智能之間的矛盾，或者我們現在正在處理的問題上究竟有什么本質上的不同?
James Barrat：我認為很重要的一點是，關于智力的分類有很多種。有情商、理性的智慧、直覺以及動物的智力。所以，如果說有什么會比我們人類聰明得多時，我會用另一種方式來解讀：它將會更好地理解我們對智力的定義，它將會更好地解決各種各樣的新環境中的問題，它將會更好地學習。
從另一個角度來回答你剛才提問的問題，包括電腦在內的每一項技術都有著不可預測的前景和風險。從人類會使用火開始，所有的技術，都是一把雙刃劍。但人工智能卻有著本質的不同。
對我來說，人工智能就像核裂變一樣。核裂變是一種具有雙重用途的技術，可以帶來巨大的好處但同時也存在著巨大的危害。核裂變是原子彈背后的力量，也是核反應堆背后的力量。當我們在20年代和30年代發展它的時候，我們認為核裂變是通過分裂原子獲得自由能量的一種方式，然后很快就被武器化了，然后我們用它來毀滅城市。然后我們人類作為地球上的一個物種，用槍指著我們自己的頭進行了50年的軍備競賽，我們用核能威脅要讓人類自己滅絕。
對我來說，人工智能亦如此。你說它一點也沒有被用于邪惡的目的，那是不可能的。
所以我認為人工智能與人類智能的本質區別在于，智力是我們人類的超級力量，是造福人類的超級力量，并不違背人類的發展。這是一種具有創造力的能力，是發明技術的能力。斯蒂芬霍金在被問及“人工智能的陷阱有哪些?”時說道：“首先，他們能夠開發出我們甚至無法理解的武器。”所以，我認為質的區別在于人工智能是可以再創造發明的一種人類以外的發明。
人工智能的時代已經到來，我們正處于人工智能革命的風口浪尖，它將給我們帶來巨大的利潤收入，但同時也讓人類變得不堪一擊。
| 意識之爭
問：你肯定聽過Searle的“中文房間”這個實驗，這被稱為世界上著名的十大悖論之一。“中文房間”最早由美國哲學家John Searle于20世紀80年代初提出。這個實驗要求你想象一位只說英語的人身處一個房間之中，這間房間除了門上有一個小窗口以外，全部都是封閉的。他隨身帶著一本寫有中文翻譯程序的書。房間里還有足夠的稿紙、鉛筆和櫥柜。寫著中文的紙片通過小窗口被送入房間中。根據Searle，房間中的人可以使用他的書來翻譯這些文字并用中文回復。雖然他完全不會中文，Searle認為通過這個過程，房間里的人可以讓任何房間外的人以為他會說流利的中文。
Searle創造了“中文房間”思想實驗來反駁電腦和其他人工智能能夠真正思考的觀點。“中文房間”問題足夠著名，這是Searle為了反擊圖靈設計的一個思想實驗。房間里的人不會說中文，他不能夠用中文思考，但因為他擁有某些特定的工具，他甚至可以讓以中文為母語的人以為他能流利的說中文。根據Searle，電腦也是這樣工作的：它們無法真正的理解接收到的信息，但它們可以運行一個程序，處理信息，然后呈現出智能的假象。但是，他是否懂中文?許多計算機世界的人會說“是”。
這個試驗通過了艾倫圖靈的圖靈測試，但是顯而易見，這個人并不懂中文。同樣，電腦也是如此。通過了圖靈測試，但是并沒有思想。您如何看待這個問題?
James Barrat：“中文房間”的問題很有意思，你可以寫一些關于它的書，因為它是關于意識的本質的。
我不知道機器是否會像我們一樣思考，我認為關鍵在于它是否能像人類一樣解決問題。當然，我們更不了解機器是否具有意識的問題。
我舉個例子，2011年IBM Watson參加綜藝節目危險邊緣(Jeopardy)，并在該節目有史以來第一次人機大戰中成功戰勝人類，一舉成名。眾所周知，IBM Waston是認知計算系統的杰出代表，也是一個技術平臺。在David Ferrucci還是IBM沃森團隊的首席科學家時，他被問到一個非常具有挑釁性的問題：“當Waston在擊敗人類取得勝利的時候，它是在思考嗎?”Ferruci的回答是：“潛水艇會游泳嗎?”他的意思是，人類建造潛艇時，他們是通過模仿魚游泳的方式來制造的。但后來他們創造了一種比魚游得更遠、更快的東西，并且有著巨大的有效載荷，所以它比魚更有用。盡管它不會繁殖，也不會像魚一樣做一些神奇的事情，但就游泳而言，它比魚要先進。
同樣，飛機會飛嗎?航空先驅們使用的是鳥類飛行的原理，但很快就超越了這一點，創造出了飛得更遠更快的東西，并攜帶了巨大的有效載荷。
所以，你的問題有兩個答案。一個是，我不認為這很重要。第二，我不認為機器會像我們一樣定性思考。一方面，我認為這將會帶來一定的威脅，因為我認為它不會有我們哺乳動物所具有的同理心。另一方面，它不會有太多的多愁善感，也不會有太多的認知偏見，而我們的大腦卻在努力工作。但是誰也不敢保證，說它不會有意志。
在我的書《我們最后的發明：人工智能與人類時代的終結》中，我采訪了Steve Omohundro，他是一個人工智能制造者和物理學家，他致力于發明創造了一門科學，用來理解超級智能機器。現如今，電腦并沒有達到通用智能的水平，因為電腦并不具有意識。我認為，我們會創造出一種認知能力可以與人類相媲美的機器，甚至超越我們人類自己，在不遠的未來，這些都是有望變成現實的。
問：人類智能來自于我們的大腦，也就是人們所說的“銀河系中最復雜的物體”。我們尚未搞明白大腦是具體如何高效運轉的，我們不知道思想是如何被編碼的。從宏觀的角度來看，我們對大腦的運作方式知之甚少。但我們知道，人類擁有這些驚人的能力，比如意識，再比如人類幾乎不費力就可以概括的能力等等。是不是意識的東西，我們無法去理解?
James Barrat：意志是一個擬人化的術語，我不確定我們是否真的可以將其用于電腦上。
數據分析公司Gartner認為，人工智能領域由于投資的指數性，2009年以來每年投資數額都會翻倍。Gartner估計，到2025年，這一領域的投資價值將達到250萬億美元。
對我來說，這是兩件事。一件事是，這將帶來巨大的增長，以及這些系統將會有巨大增長。第二，我們正處在一個與眾不同的時代，就像新的工業革命一樣。借用未來學家凱文·凱利的話說，未來所有被“電”改變的東西都會被認知化。
我們不能認為人工智能可以像鐘表一樣隨時拆開，理解它的每一個部分。當Ferrucci在看IBM沃森系統的時候，他說：“它為什么要這樣回答?”他的團隊里沒有人知道答案。把它和時鐘進行比較，我認為這是一個錯誤的比喻。
當AlphaGo打敗圍棋大師，我開始認為玩這個游戲的時候，AI需要大量的直覺，這不僅僅是模式匹配，圍棋需要更多難以定義的直覺。
我認為如果我們討論的是一些古老的語言，比如Fortran、Basic、Pascal，你可以在這里查看每一行代碼，并搞清楚發生了什么。深入學習、強化學習和人工神經網絡是不同的。
| 奇點之爭
問：一方面，馬斯克(Elon Musk)、史蒂芬·霍金很擔心通用人工智能(AGI)的出現。另一方面，吳恩達(Andrew Ng)卻說，擔心AGI的事情就像擔心火星上的人口過剩一樣。有些人說，最糟糕的事情可能發生在500年之后。我很好奇，為什么他們對這項技術有截然不同的看法?你是如何理解他們所說的觀點的?
James Barrat：我第一次聽說火星的類比是Sebastian Thrun說出來的，他說我們不知道怎么去火星，我們不知道如何在火星上生活。但是，我們知道如何讓火箭飛到月球上，我們不能在火星上生活，但我們正在把它跟火箭放在一起，而且一些公司正在投入一些資金。他們確信，我們最終有一天將到達火星，那里將會有生活在火星上的人，然后人們將會創造另一個世界。
這是一個非常有趣的問題，我們何時才能在一臺機器上實現人類水平的智能，如果有的話。
為此，我做了一個調查。這是一項有偏見的調查，調查對象是關于人工智能會議的參與者，然后我還看了很多民意調查。
庫茲韋爾(Ray Kurzweil)非常善于預見技術的進步，他說2029年會實現。庫茲韋爾現在為谷歌工作，他說他想要創造一臺每秒能進行300萬億次計算的機器，并在網上與10億人分享這一數據。這基本上就是大腦的逆向工程。每秒鐘做300萬億次計算，這大概是對大腦的粗略估計。然后在網上與10億人分享，這讓超級智能成為一項服務，這將是非常有用的。你可以做藥理學研究、高級天氣建模和氣候建模，你可以做武器研究，開發出不可思議的武器。
有些人說100年以后，我得到的平均日期是一臺機器達到人類智能水平大約在2045年。加里馬庫斯(Gary Marcus)說，不管十年還是一百年，更重要的問題是：接下來會發生什么?它會融入我們的生活嗎?還是會突然出現?無論是50年還是100年，當它出現時，我們如何保持自己的安全?
這是兩種思考方式，一是有很多猜測，另一種思考是，接下來會發生什么真的很重要嗎?
另外，我在《最后的發明》一書中寫到：如果我們在一百年內無法實現，你認為人類會因此停止嗎?或者你認為我們會一直在解決這個問題，直到我們解決它?
就像我之前說的，我不認為我們會在機器中創造出完全類似人類的智能。我認為，我們將在某種程度上創造出一種非常聰明、非常有用的東西，但我們卻以一種非常深刻的方式，無法理解。所以我不認為它會像人類的智慧，也許它會像外星智能一樣。這就是我的觀點。
其實什么時候都不重要，直到我們到達目的地，我們才會停下來。如果最終我們將面對比我們聰明一千倍或一百萬倍的機器。我們要怎么做呢?
| 當下的問題
問：在較短的時間內進行預測總是比較容易的。從現在到2030年，您認為在接下來的十幾年里會發生什么?
James Barrat：聊未來，這好像是一場巨大的賭博，而且預測往往是錯誤的。
用凱文·凱利的話來說，所有的電子都將被認知化。人工智能的普及將極大地影響我們的經濟。有了物聯網，我們周圍一切都會變得智能，我們的手機，我們的汽車等等。
麻省理工學院做了一項研究，引用了劍橋大學的一項數據，該研究稱：“人類目前45%的工作將在20年內被取代。”并不是說他們會被取代，而是可以被取代。
但如果人工智能在2025年可以產生25萬億美元的價值，就能取代任何做重復性工作的員工，包括醫生和律師。
這一舉措進一步削弱了中產階級的地位，這不僅僅會影響在工廠工作或駕駛汽車的人，還包括會計、醫生和律師。因此，我們將看到經濟中巨大的顛覆，而巨大的財富是由越來越少的人創造的。
問題在于，我們必須找到一種方法，讓我們的大部分人口拿不到公司也會免于饑餓。人們已經提出了基本的最低收入(UBI)，但要做到這一點，我們就需要稅收收入。而大公司，亞馬遜、谷歌、Facebook，他們在愛爾蘭等地納稅，那里的公司稅很低，所以他們不會為這個政策貢獻什么。
因此，這里存在著巨大的不平等。我們必須直面這種不平等，不幸的是，這將需要政治解決方案，而我們的政治家是我們文化中技術落后的人。所以，我看到的是大量的失業。
我看到了人工智能領域的許多精彩之處，我也很樂意看到人工智能、機器人技術和自動化帶來的就業機會。但最終的結果是，你看到世界上最大的代工制造商富士康安裝了31000個機器人，在亞洲取代了30萬人的工作。所有這些人都不能接受再培訓，因為如果你做的事情是重復的，你能重新訓練他們去做什么?
也許每100個人中就有一個可能是機器人工廠的樓層經理，但其他人呢?顛覆將來自于所有沒有工作的人，沒有什么可以重新培訓的，因為我們的機器人也是機器人制造的。
一百年前，90%的人在農場工作，現在是10%。之前的工業革命奪走了就業機會，但之后這些人可以再培訓，也可以去其他領域，因為仍有巨大的行業沒有被工業化取代，還有很多體力勞動要做。其中一些人可以接受培訓，進入管理和其他領域。
《機器人崛起》、《第四工業時代》這兩本書指出，人工智能革命與以前的工業革命不同的是，人工智能在每個行業都能發揮作用。因此，它不像過去的革命那樣，一個部門在某個時候被取代，有時間去吸收這些變化，有時間重新吸收這些工人，并以某種方式重新培訓他們。
我的觀點是，所有經濟部門都將受到沖擊。
無處不在的人工智能將會同時影響很多經濟，同時也會出現一個巨大的混亂。而且，與過去不同的是，這些人如何被重新培訓，重新成為就業崗位的目標，目前還不清楚。因此，我認為這與其他工業革命，或者說是技術革命非常不同。
問：20年來，工業電氣化的發展速度之快令人難以置信。用機械力量取代動物的力量發生得非常快。然而，這個國家的失業率仍然在4%到9%之間。除了大蕭條，不管發生了什么破壞性時間，經濟都能利用技術創造更多的就業機會。您如何看待這種觀點?
James Barrat：這是一個有說服力的論點。但是人工智能時代不一樣。
當司機的工作被搶走后，你會對職業司機進行再培訓嗎?你會培訓什么?所以我預計會出現問題，但我希望能感到驚喜。
問：我還是不同意您的觀點，就像1995年互聯網剛起步，你剛聽到這種概念的時候，能知道互聯網創造了成千上萬的工作嗎?
James Barrat：如果有人告訴你，這項發明會帶來數萬億美元的價值，誰會想到呢?也許我個人無法想象下一波將創造如此巨大價值的浪潮。我可以看到人工智能和自動化如何創造出巨大的價值，但我只看到它進入了幾個口袋。至少現在是這樣。
后記：
希望人們接受教育，了解人工智能的前景和風險，準備好迎接即將到來的革命。這迫使企業要對人工智能的發展負責，而政客們要更加精明，投入一些資金，讓人工智能的發展變得透明和安全。我們希望接觸到與人類一樣聰明的機器時，它們實際上是我們的盟友，而不是我們的競爭對手。
京公網安備 11010502049343號