研究人員、企業家和科技巨頭正將人工智能（AI）帶往新的前沿，并影響著健康、教育和商業的日常活動。但是，正如扣人心弦的新書《生命3.0》所描述的，關于機器智能的崛起以及它如何重新定義人類，還有更大的、甚至是哲學上的問題。

機器、軟件和網絡對智慧、意識和人類觀念的形成意味著什么？今天的規則和道德準則將如何塑造明天的文明？《生命3.0》這本書由Max Tegmark所著，以對話和發人深省的文風探討了人工智能時代的人類處境，為我們這個時代最重要的對話提供了真知灼見。

書的容量有365頁，包含8個章節。被引用的書籍包括超級智能（Nick Bostrom），奇點臨近（Ray Kurzweil）。這本書伴有一個在AgeOfAi平臺進行的在線互動調查。

作者Max Tegmark是麻省理工學院的物理學教授，他已撰寫了200多篇關于從宇宙學到人工智能主題的技術論文。作為未來生命研究所的主席，他與Elon Musk合作，啟動了首個人工智能安全研究獎助金計劃。被戲稱為“瘋狂的麥克斯”,他的早期作品是《我們的數學宇宙》。

進化與智慧

Tegmark定義了生命的三個進化階段：生命1.0（生物階段），生命形式的硬件和軟件進行自然進化;生命2.0（文化階段），硬件進化，而生命形式設計大部分的軟件;生命3.0（技術階段），生命形式設計自身硬件和軟件。

盡管人類DNA的信息在過去5萬年里并沒有發生顯著的變化，但人類（生命2.0）已經從基因的束縛中解放出來，并在人腦、書籍、計算機和網絡的信息儲存量中有顯著增長。下一個升級（生命3.0）將能夠設計我們的硬件:DNA、神經連接、協同矩陣等。《生活3.0》將由人工智能驅動，并將在未來一個世紀到來，甚至是在我們的有生之年。

Tegmark通過定義一系列術語來確定這個階段：智力（完成復雜目標的能力）、機器學習（通過經驗改進算法的研究和使用）、人工智能（至少和人類一樣能完成任何認知任務）、超級智能（遠遠超出人類水平的智力）、有益人工智能（強大并受人工智能安全研究準則的指導）、意識（主觀經驗）、意識（主觀經驗）和奇點（智能爆炸）。

記憶力、計算能力、學習能力和智力都已獨立，它們不依賴于或反映底層的物質基礎。“智能不需要肉、血或碳原子，”Tegmark解釋說。人類文明是通過語言、工具和復雜的相互關系進化而來的，而下一個可實現的發明很有可能是人工智能。對人類而言，大多數“軟件”學習是通過突觸生長的方式——但是智能機器可以采用不同的路徑，因為它們不必不斷地重新創造，機器可以比人類更快地改進機器。人類的DNA存儲了1.6千兆字節的信息，相當于一個下載的電影（有些細菌儲存了40千字節）。人類大腦的1000億個神經元儲存著大量信息。大腦中的信息是通過聯想而不是地址來回憶的。

魯棒性、法律、戰爭和就業

語音識別、翻譯、機器人和游戲都是人工智能的一些顯著應用，但其他影響還包括金融市場、機器人輔助制造、智能電網、外科手術和自動駕駛汽車。

通過更好的驗證、確認、安全和控制，人工智能可以幫助減少人為錯誤，增強系統的健壯性。

在行為心理學的啟發下，深度強化學習為DeepMind和OpenAI的突破提供了動力。DeepMind的AlphaGo在沒有輸掉一場比賽的情況下，已經在世界上20個頂級圍棋比賽中成為冠軍。在游戲中深度學習有時被認為是創造直覺（決定某事而不解釋原因）和創造力（不尋常的且成功的進步）。

Tegmark表示:“卓有成效的人機協作確實在許多領域看起來很有希望。”該研究的下一個前沿領域包括將深度遞歸神經網絡與語義世界模型結合在一起。他補充道：“人們越來越難以辯稱，人工智能完全缺乏目標、廣度、直覺、創造力或語言。”

眾所周知，人工智能的黑暗面在于自主武器橫行。一款由人工智能驅動的殺手無人機，其價格僅相當于一部智能手機。因此，許多人工智能研究人員和機器人專家呼吁禁止某些類型的自主武器，并阻止“全球人工智能軍備競賽”。

“如果我們能弄清楚如何讓機器人裁判變得透明和公正，人工智能可以讓我們的法律系統更公平、更高效。”泰格馬克解釋道。法律體系中典型的人為錯誤是由偏見、疲勞或最新知識匱乏造成的。需要設計機器人的法律分類、責任和權利。在一場涉及無人駕駛汽車的事故中，誰應該承擔責任：居住者、所有者、制造商還是汽車本身？

Tegmark認為，毫無疑問，人工智能主導的時代將會改變就業，最好的職業將是那些涉及人、不可預測性和創造力的職業。不幸的是，研究表明，科技對教育程度更高、科技公司的所有者和少數“超級明星”有利。

政府應該制定促進研究、教育和企業家精神的政策，確保基本收入水平，同時賦予人們一種工作與生活的使命感。

在人工智能研究人員、科技巨頭和創業者的參與下，“生命研究學院”的未來將在這方面成為“人工智能安全”的主流。它支持諸如與政策制定者對話、尊重隱私、共享利益、共同利益和人類控制等原則。這樣做的目的是為了在人工智能完全起飛之前改善人類社會，在技術使其過時之前實現現代化，并讓年輕人在將權力交給他們之前，讓他們了解如何創造出強大的技術。

目標

人類的目標和動機有著復雜的相互作用，比如生存、資源獲取、好奇心和同情心。有些人已經放棄了早期的生物目標，比如復制。智能行為與目標實現相關聯，早期的人工智能計劃圍繞著編程機器來實現人類目標。目標設計涉及到子目標、倫理、學習和強化等問題。

但隨著人工智能變得越來越復雜，我們需要問人工智能是否應該保留我們已經給出的目標。我們是否應該讓AI更廣泛、更廣泛的目標？這是誰的目標？我們能改變AI的目標嗎？“意義”的含義是什么？人類在科學、宗教和哲學方面的目標是什么？有朝一日，人類的目標會像螞蟻的目標一樣令人沮喪嗎？

意識

Tegmark提出了一種對意識實體的定義，即那些可以自由思考、記憶、計算、學習、經驗、交流和行動的人，無關傷害他人。作者強調，隨著人工智能變得越來越復雜，我們也需要認識到，我們對意識意義的哲學探索現在有一個緊迫的截止日期。

一些棘手的問題產生，比如理解無意識行為是如何影響意識活動的？意識和無意識系統之間的物理屬性區別是什么？以及為什么事物是有意識的？自動駕駛汽車經歷著什么？人工智能有自由意志嗎？人工智能會受到影響嗎？AI應該有權利嗎？

人類意識研究反映了大腦理論、物理學和信息科學等領域的融合。“如果人工智能是可能的，那么與人類的經驗相比，人工智能體驗的空間可能是巨大的，”Tegmark解釋道。人工智能可能會挑戰人類中心主義的理念（認為人類是地球上最聰明的物種，因此是獨一無二和優越的）。

人工智能起飛：智力爆炸？

生命進化的原則包括協作、競爭和控制，這些都被技術放大了。如果我們有一天創造出人類水平的AGI（artificial general intelligence），那么它會以多快的速度制造出一場智力爆炸呢？我們能控制這個嗎？如果不是，那我們要花多長時間才能控制我們的世界？在這樣一個世界里，我們人類是在極權主義的環境中還是在一個被授權的舞臺上？

“人工智能突破”章節以科幻小說的形式講述了這樣的問題。被不那么聰明的人類奴役，AI會不會感到不高興？人類應該在人工智能系統中創造什么目標來防止兵變？人工智能能對系統進行主導，并破解它嗎？我們會生活在兩極世界（人類和人工智能）嗎？

我們什么時候才能到達這條岔路口——當我們這么做的時候，我們能對人工智能施加多大的控制，人工智能又能控制多少呢？根據Tegmark的說法，真正的答案不是會發生什么，或者應該會發生什么？而是我們想要什么樣的未來？

人工智能：未來1萬年

這本書的下一章“超級智能”更加令人難以置信，它講述了未來1萬年的生活。我們想要被人接受嗎？我們想讓人工智能保持清醒嗎？我們想要創造什么樣的生活形式？我們想要在整個宇宙中傳播什么文明？

在這方面，Tegmark描述了許多場景，比如：保護神（無所不知和無所不在的人工智能，最大化人類的幸福），動物園管理員（人類在人工智能動物園），被奴役的神（被囚禁的AI），征服者（AI擺脫人類）和自由意志的烏托邦（人類和人工智能共存）。每一種情況都要根據可行性、優點和缺點進行評估。

機器會感激人類創造它們嗎？人工智能會尊重人類嗎？人類是否應該尊重那些將生活和機器世界的精華融入其中的半機器人？人類能被上傳、下載和克隆嗎？人工智能會比人類擁有更高級的情感嗎？在這些問題上沒有達成共識（許多人甚至沒有意識到這些問題），因此，Tegmark需要深入討論關于AGI和人類的話題。

宇宙：未來10億年及以后的世界

在大宇宙的這一章里，事情變得更加難以置信，尤其是在地球生命結束后（由于各種原因，包括太陽的擴張和地球上所有生命形式的沸騰）。這一章借鑒了宇宙學家Freeman Dyson的研究成果，建立在諸如暗能量、蟲洞、Chandrasekhar極限和斯蒂芬霍金的黑洞動力裝置等概念上。

“即使我們以光速行進，所有超過170億光年的星系永遠都是遙不可及的——這些是我們宇宙中超過98%的星系，”Tegmark解釋說。

因為在這樣一個浩瀚的宇宙中，通信速度很慢，所以“宇宙人工智能”需要在速度和復雜性之間找到平衡，并建立一個計算網絡的層級結構。這樣的超級智能將需要為不同層次的合作和控制進化出一種治理模式，甚至創造出新型的物質。如果“我們的”超級智能遇上另一種生命形式，會不會有武器或思想的沖突？

“如果沒有科技，在未來數百億年的宇宙中人類將會滅絕，這將使我們宇宙中所有生命的上演都只是短暫的轉瞬即逝的美的閃現，使得熱情和意義在近乎永恒的無意義中，不再有人體驗，”Tegmark說。

“如果我們繼續改進我們的技術，以足夠的關愛、遠見和計劃來避免陷阱，那么生命就有可能在地球上蓬勃發展。甚至在我們祖先最瘋狂的夢想之外，在數十億年的時間里蓬勃發展，”Tegmark寫到。（選自：yourstory編譯：網易見外智能編譯平臺 審校：nariiy）