自我是不是一種幻覺?自由意志存在不存在?意識是什么?如果人只是一個純粹物理性的存在，那所有的道德、情感、倫理和美該如何解釋?想要做出侯世達眼里“真正的人工智能”，即一個跟人類一樣的人工智能，就必須要解釋以上的難題。在“人工智能威脅論”甚囂塵上的今天，這種反思顯得非常必要。我們在設計人工智能的過程中，也是一個不斷發(fā)現(xiàn)和認清自我的過程。
1月6日，曾寫過 “神書”《哥德爾、埃舍爾、巴赫——集異璧之大成》的作者侯世達的新書《我是個怪圈》，在中信書店芳草地店舉行了新書發(fā)布會。在會上，首都師范大學哲學系教授梅劍華、果殼網(wǎng)的聯(lián)合創(chuàng)始人小莊和中科創(chuàng)南的CTO、高級副總裁鄒鵬程一起談了談作者侯世達、人工智能與生命和人類意識的秘密。
《我是個怪圈》，作者：侯世達，譯者：修佳明，中信出版集團 | 湖岸，2019年1月
“現(xiàn)在的人工智能走在一個錯誤的道路上”
梅劍華認為，侯世達不能算一個嚴格意義上的哲學家，但是他的著作在哲學家中激起了強烈的反響。他的作品融匯了科學和哲學。他經(jīng)常談到哥德爾定理。假如要簡單地用一句話去概述什么叫哥德爾定理，那就是“可證的不完全，完全的不可證”，即如果一個系統(tǒng)是可證的話，那么這個系統(tǒng)就不是完全的，肯定有漏掉的真理不能被定理表述出來;反過來說，如果這個系統(tǒng)是完全的，那么這里面起碼有一個真理我們是證明不了的。
在梅劍華看來，這就是侯世達遠離當下的人工智能研究的原因。侯世達認為，我們現(xiàn)在談論的人工智能和“真正的人工智能”有很大區(qū)別。人可以發(fā)現(xiàn)一個形式系統(tǒng)里面不能證的東西，然后可以判定這個系統(tǒng)是不完全的，但是計算機卻發(fā)現(xiàn)不了。侯世達認為，現(xiàn)在的人工智能走在一個錯誤的道路上。
侯世達
所以，侯世達并不是一個人工智能研究者，而是一個認知科學家。他在漫長的研究中發(fā)現(xiàn)，大家現(xiàn)在做的人工智能，不論是機器學習還是深度學習，都是數(shù)據(jù)整合，在根本就是算法。而我們的大腦是不能被算法所窮盡的。不能被窮盡的東西有很多。比如說，我們的意識，我們的感受，都不能被窮盡。說得更根本一點，算法連我們的因果評判能力都不能窮盡，連再弱的意識都不行。這樣如何讓機器學習做因果推斷?這是不可能的。但小孩就能很快學會。比如說，小孩偶然間碰到火會“燙”，那下次他自然而然就不會去碰火。這是因為人有因果模式，并不是算法。
自我是一個幻覺?
那么，侯世達是如何理解意識和人的呢?我們通常認為人有兩個部分——身體和心靈，或者更古老的說法叫靈魂。我們稱之為身心二元論。這個立場也是哲學界的主流立場，無論是中國古代還是西方都有這種兩分法，比如說，我們的靈魂最終會升向天空，或者是靈魂轉(zhuǎn)世。但是，如果我們接受科學訓練，或去讀一些當代自然主義的作品，或當代的心理學、神經(jīng)科學的作品，我們可能會得到一個相反的觀念：人就是一個物理的存在，一個功能體，除此之外什么都不是。你所有的道德、情感、倫理、美都是源自這個東西，沒有一個獨立的心靈去為它承擔解釋。
當然，知道這個真相是很殘酷的，所以很多人要守護我們的心靈，給人類留下最后的空間。梅劍華提到，昨天下午他剛在中國人民大學就這個問題爭論過一次，他系里的同事葉峰老師是一個很強硬的物理主義者，和侯世達的觀點非常一致。他說這個世界上唯一存在的就只是物理系統(tǒng)，其他所有東西都是派生的。“實質(zhì)上成為一個物理主義者，或者是一個沒有自我感覺的人的日常生活是非常平靜的。葉峰老師就徹底無我，他把他所有關于項目的經(jīng)費全都捐給我們?nèi)プ龊芏鄬W術活動了。他真的永遠沒有情緒，只有理性。”梅劍華調(diào)侃道。
所以，按照侯世達和葉峰的理解，自我是一個幻覺，實際上沒有大家所認為的自我。這個觀點其實比較像佛教，佛教最后也是要去掉“我執(zhí)”。所以，當代心理學、心靈哲學和印度哲學，佛教有很多接軌的地方。很多人會討厭這種說法，假若自我是一種幻覺，人實際上是沒有自由意志的，這聽起來很難受。但這就是哲學家的“求真強迫癥”，他們想要向世界揭示這樣的真相。
《哥德爾、艾舍爾、巴赫——集異璧之大成》，作者：侯世達，譯者：嚴勇、劉皓明、莫大偉，出版社：商務印書館，1997年5月
如果說自我是一個幻覺，那么活著的意義何處安放?如果說自我是一個幻覺，那我們的道德、倫理從哪里來呢?我們除了大腦里幾億個神經(jīng)元的活動之外，實際上沒有更多的東西，那么我們的選擇和決定不就可能被預測和把握了?
梅劍華認為，可能有很多人因此會認為，自我是我們不能放棄的最后一個精神領地。但事實上，自我實際上是我們自己建構起來的幻覺，我們當然可以去把玩這種幻覺，只是這種幻覺對我們的生存來說有好多用處。
但梅劍華要補充的是，“自我是一種幻覺”絕不是心靈哲學的主流。實際上，有很多觀點是反對它的。其中侯世達的學生大衛(wèi)·查爾默斯就堅定地反對這種觀點。他是一個反物理主義者，他要為意識和感受留一個余地。他不認為我們的心靈或所有的意識必須依附在物理上，因為我們并沒有“最終的科學”。神經(jīng)科學、大腦科學，遠遠沒有到我們能夠搞清這個問題的地步。
其次，查爾默斯為自己說法提供了一個論證，這個論證就是所謂的“僵尸實驗”。我們通常會認為我們的心靈和物理之間是沒有隔閡的，它們的關聯(lián)是本質(zhì)的、必然的，永遠拆散不了的。但我們可以設想，完全可能存在著一些“哲學僵尸”，它和人類在外形和行為上一模一樣，我們可以通過給它植入芯片來植入記憶。但是，這樣的僵尸會有“內(nèi)在層面”嗎?比如說，我們現(xiàn)在在說話，我們能感覺到自己坐在這說話，因為我們有一個“內(nèi)在層面”，可是僵尸沒有。若是這種僵尸可能存在的話，那么這就表明心靈層面和物理層面是可以互相分離的，這也就表明，侯世達和葉峰等人都是錯的。這就是查爾默斯的觀點。
在理解心靈的問題上，還存在著很多截然不同的立場。比如“泛心論”。什么叫“泛心論”?有些人會認為天地萬物都有“心”。他們認為，從人到植物，從低級動物到高級動物，心是一種程度，并不是說“有心”或“沒心”，而是它們有百分之多少的“心”。
還有一種觀點更簡單，我們稱之為“唯心論”。從極端“唯心論”到“泛心論”到身心二元論到物理主義，我們會發(fā)現(xiàn)關于心靈的看法很多。但在當代的討論里，侯世達和查爾默斯所代表的兩派是比較主流的看法。
只有把人類大腦的圖景畫出來，我們才能去建立類人的人工智能
梅劍華一直強調(diào)算法是有問題的，不完備的，但小莊認為，我們除算法也別無選擇。我們確實沒有完美地理解“我”是從哪里產(chǎn)生的，或意識是如何建立的。我們要認清自我是一個很漫長的過程。這當中很多觀點和想法，都是這個大廈建設當中的某個部分，或是某個形成關鍵突破很重要的部分。
我們該如何理解人類大腦中上千億的神經(jīng)元?如果我們能把這樣一幅圖景畫出來，我們才能去建立類人的人工智能。但這項工作特別難。人類基因組計劃耗費了全世界科學家十年的努力才完成。他們要面對的只是三十億個堿基對，而研究大腦要面對上千億個神經(jīng)元，他們的互相連接是指數(shù)級的。所以我們需要等待。
但是，像自我是什么這樣的話題，始終可以被拿出來討論，時代和科技的進步是討論的基礎。像自由意志，自我這樣的話題，從物理的角度被認真的探討應該可以追溯到1943年的《生命是什么》。雖然這本書沒有什么新知識，但是它把一些基本的框架都提了出來，包括統(tǒng)計學如何在生命中起作用。為什么這個世界需要那么多的原子和粒子才能構成物體，為什么這么復雜?其實很好理解。只有在這么巨大的數(shù)量下，統(tǒng)計學才能起作用。如我們所看到的磁體的現(xiàn)象，如果我們放大去看，我們會發(fā)現(xiàn)，磁鐵里并不是所有的原子都按照磁極分布的，在南極的一部分的原子可能是朝北的。但是在整個大的層面上，南極是朝南的，整個磁體才會呈現(xiàn)出這樣的磁性。
《生命是什么》，作者：埃爾溫·薛定諤，譯者：張卜天，出版社：商務印書館，2014年12月
人的思維會不斷地跳躍，這是人和人工智能最大的區(qū)別
鄒鵬程認為，人工智能并沒有那么復雜，它和計算器一樣只是工具，能放大他的智能，但它不會取代他的大腦。
侯世達認為人類思維中類比是很重要的。鄒鵬程覺得，類比這個詞有點淡，可以換成聯(lián)想。因為聯(lián)想有許多層次，它的特征是跳躍的。人的思維不斷地跳躍，是人和人工智能最大的區(qū)別，這也是我們不用特別擔心人工智能的原因。
梅劍華也表示贊同。在生活當中，類比論證可能比邏輯論證更重要。比如說，我們?nèi)绾沃澜裉斓淖约汉兔魈斓淖约菏峭粋€人呢?最早討論這個問題就來自于類比論證： “忒修斯之船”——請想象一下，一艘海上航行的船，其船身的木板逐步被新的木板替換，直至最后被完全替換，那么現(xiàn)在這艘船還是原來的那艘嗎?這個例子跟侯世達講的 “意識上傳”的例子是類似的：如果把你的所有數(shù)據(jù)都上傳到云端，那么云端的那個你是不是原來的那個你呢?
梅劍華認為，我們現(xiàn)在經(jīng)常區(qū)分強人工智能和弱人工智能，其實我們根本無法模仿人的意識或情緒。有人認為，強人工智能我們是達不到的，但弱人工智能可以實現(xiàn)，但哥德爾就會說不可能。而Judea Pearl則會說，人跟機器如果有關鍵性區(qū)別的話，那就是人有一種因果性推理的能力。因此他曾嘗試為因果推理建立了一個數(shù)學模型，但谷歌現(xiàn)在不給他投錢了，這使得這項研究面臨著許多困難。
而除了因果之外，類比也是人理解世界和與人交往的一個基本方式。有時候在禪宗里面，經(jīng)常會有所謂的“一句禪”，我們從中悟出些什么。這里面就有類比和因果的聯(lián)系，我們的思維在當中進行跳躍。在科學哲學里面，類比也是一個很重要的話題，甚至在心理學里面，比如聯(lián)想作為類比的一種，被分為圖像式的聯(lián)想、概念式的聯(lián)想或者結(jié)構式的聯(lián)想，都是很重要的議題。
因此，雖然梅劍華對人工智能的未來是樂觀的，但從理論的層面來看，梅劍華對人工智能是悲觀的。因為哲學家所定義的類人的人工智能是無法實現(xiàn)的：不僅是因為技術原因。即使技術水平達到了，人也會為自己保留一定的特權。不過，梅劍華覺得這種悲觀的態(tài)度也無所謂，因為它和我們現(xiàn)在做的人工智能關系不大。
機器沒有意識，是因為它沒有生物基礎，這會不會過于人類中心主義?
梅劍華提到，有一種觀點認為，機器是沒有意識的，因為它沒有生物基礎。從另一方面來想，這樣會不會過于人類中心主義了呢?機器沒有生物基礎，但是它們也有可能用另一種方式在理解著我們。在語言哲學里，什么是理解的條件?其中一個條件就是，我要把你所說的話當作真，否則我無法跟你交流。此外，我還需要一個條件，就是“寬容原則”
(the principle of charity)
，即你所說的話不僅要前后一致，還得有所論斷，無論是肯定還是否定，這樣我才能理解你。其實機器也能做到這些。
小孩子學語言，究竟怎么樣才算是掌握了一門語言呢?這個問題現(xiàn)在依然沒有定論。在語言理解最淺顯的層面來說，人和機器其實沒有什么差別。哲學家約翰·塞爾有一個非常有名的“中文屋”思想實驗：你一覺醒來發(fā)現(xiàn)自己所在的房間里堆滿了簍子，簍子里都是中文符號，還有一本使用手冊。你雖然看不懂中文，但可以看懂使用手冊。突然間，有人從門縫遞進來一張字條，上面寫著一個中文符號，你翻看使用手冊時，發(fā)現(xiàn)里面寫道：“當你收到這個中文符號，就把另一個特定的中文符號遞出去。”于是，你就照做了。很快，你就把整本使用手冊都背了下來，不管接到哪個中文符號，都可以很快地把對應的符號再遞出去。這樣一來，雖然你并不懂中文，但你所做的事情和懂中文的人沒有兩樣，因此房間外面的人也會相信你是懂中文的。同樣的，如果你就是一臺機器，那么你就通過了圖靈測試。但是，我們依然會認為，機器確實是不懂中文的。梅劍華認為，這就是人類的“我執(zhí)”。
哲學家約翰·塞爾
隨著人和人工智能接觸越來越多，人反而會不會變得像人工智能?
現(xiàn)場有觀眾提問，我們都在討論怎么樣把人工智能做得像人，但隨著人和人工智能接觸得越多，人會不會變得更像人工智能?人類的自我會不會漸漸消失?
鄒鵬程作為工程師，因此對這個問題相對樂觀。他認為，人工智能所暴露出來的問題，最終還是要依靠人去解決，甚至要依靠哲學家，要依靠文明和法律解決。所以他不擔心人會因為人工智能而改變，因為我們不會像機器一樣四處亂學，而會有一個方向性。這是因為人類文明延續(xù)下來的倫理。
梅劍華認為，我們會發(fā)現(xiàn)，我們待人方式和我們的孩子輩就不太一樣。因為他們更獨立，更愿意和機器打交道;機器也開始變得像人，這個鴻溝只會越來越小。1998年，查爾默斯和另外一個認知科學家安迪·克拉克合寫了一篇論文，叫“Extended Mind”
(《延展心靈》)
，里面說，我們的心靈不是在大腦里面，我們的心靈延展到環(huán)境，其中手機就是延展的一個重要的部分。我們的認知不光靠大腦，還要和環(huán)境互動。
而關于我們的自我是否會逐漸消失，梅劍華的想法是不會的。他認為，我們塑造自我的方式只會變得不同。新的時代有新的自我。我們和機器人接觸，會多一種塑造自我的方式。比如說，以后人和機器人有可能談戀愛，這也是一種塑造自我經(jīng)驗的方式。即使你對機器人的愛不會完全像對人一樣，但梅劍華認為這只是量的變化而不是質(zhì)的變化。
自我是在不斷流變的，我們很難劃出自我的邊界在哪。我們的手機讓我很有自我感，但沒有了它我們也能活下來;甚至于沒了手或腿我們也能活下來，所以我們很難劃出自我的界限。但是我們有自我感，我們根據(jù)這種自我感去籌劃我們的人生。這在任何時代都是一樣的。因此，我們并不會因為人工智能的到來而喪失自我。
京公網(wǎng)安備 11010502049343號