這一年，習近平主席在致“2018年世界人工智能大會”的賀信中提倡各國深化合作，共同處理好人工智能在法律、安全、道德倫理和政府治理等方面提出的新課題。隨后，他在中共中央政治局就“人工智能發展現狀和趨勢”舉行的第九次集體學習時強調，“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可控。要整合多學科力量，加強人工智能相關法律、倫理、社會問題的研究。建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德”。
這一年，美國發布AI白皮書《機器崛起：人工智能及其對美國政策的不斷增長的影響》，重點剖析了人工智能可能帶來的失業、隱私、偏向和惡意使用四個方面的問題，并提出了相應的應對方案。歐盟25個成員國領導人共同簽署了《加強人工智能合作宣言》，并設立了“數字歐洲”項目，旨在共同確保歐洲在研究和部署人工智能方面的競爭力，攜手應對人工智能可能帶來的社會、經濟和法律等問題。此外，歐盟還出臺了《關于可信賴人工智能的倫理準則草案》，倡導在開發人工智能時遵守利益最大化和風險最小化的原則，并制定了實現可信賴的人工智能的框架方案。
世界各國對規避人工智能發展帶來的潛在風險的高度重視足以表明，人工智能的發展已經激發了人類關于自身價值的重新思考，使價值問題成為人類文明未來發展必須直面的關鍵問題。在此之前，蒸汽革命、電力革命和計算機革命雖然導致了人類文明從農業文明轉向工業文明，但是在此轉型過程中，人類追求技術的熱情有增無減，從來沒有在世界范圍內自覺地提出反思人類價值的問題。雖然人們承認技術是一把雙刃劍，但通常認為技術的善惡不在技術端，而是在使用端。也就是說，技術的惡是由技術的使用者造成的，與技術本身無關。然而，人工智能卻超越了這一界限。這既是由人工智能本身的學科性質決定的，也是由人工智能在未來社會中所起的作用決定的。
第一，人工智能是一個跨學科的領域，不僅與物理學、化學、生物學、心理學、認知科學、神經科學等自然科學，以及量子信息技術、生物技術、納米技術等當代技術相關，而且涉及智能、認知、思維、心靈、意識等哲學概念。事實上，人工智能是一項知識工程。它在賦能百業之余，最直接也最明確的目標是讓機器能夠像人一樣靈活自如地完成任務。真正實現人工智能的時代，機器對人的模擬不是機理性的，而是功能性的。從機器模擬人的功能意義上來看，我們對通用人工智能人的向往與追求，已經全方位地向人類發出了必須徹底反思自身及未來文明走向的強烈信號。
第二，人工智能是建立在一套行之有效的算法基礎上的，而算法的優化又是建立在大數據基礎上的。數據不同，算法的設計與優化也就不同。因此，能夠體現出“智能”的算法本身并不是中性的，而是天然地蘊含群體和個體的偏向：一是植根于設計者的生活習慣與文化習俗之中并先于算法的設計而潛存的文化偏向;二是源于設計者的技術水平和技術考慮并嵌入在整個設計過程之中的技術偏向;三是在用戶對數據的使用過程中涌現出來的使用偏向。這三種偏向是隱形的和潛在的，而不是明顯的和有意識的。因此，負責任地進行算法設計的倫理嵌入就成為確保人工智能做正確之事而不是做錯誤之事的關鍵所在。
第三，人工智能的世界是數字化行為構成的數據世界。當數據成為我們認識世界的界面時，我們事實上已經無意識地把獲取信息的方式交給了算法。一方面，機器人正是通過算法學會如何在海量數據中挖掘出有價值的隱藏信息，以形成決策資源，并預測相關事件發生的可能性，這給我們的思維方式帶來轉變。如，在搜索引擎的引導下，我們從重視尋找數據背景的原因，轉向了如何運用數據本身。此外，算法會基于個人的行為數據，通過個性化的自主信息推送，強化使用者留下的消費習慣或行為習慣，如網絡查詢在某種程度上能夠還原查詢者的興趣愛好和各種隱私偏好等，算法本身的不透明性和使用者的透明性形成了鮮明的對照。
第四，對于人類文明的演進而言，共享語言就是共享一種本質。在人工智能時代，當我們有能力以機器能夠理解的語言來表達自己的意愿，乃至習慣于運用機器能夠聽懂的語言來實現自己的目標時，我們就需要共享機器語言，以編碼的方式來描述愿望和目標。如此一來，我們就需要學習編程，以便擴展我們的本體論前景。問題在于，當我們改變了用來描述愿望和目標的語言時，也就相應地改變了我們的愿望和目標本身，這是我們在智能化人類文明未來必須要面對的深層次本體論問題。因為人類的語言是人類歷史所固有的，是我們的生理、心理和文化所蘊含的長期演化的產物，而機器人所能理解的語言是程序化的人工語言。因此，機器賦予人類語言意義的能力是極其有限的，人類不能與運用人類語言的機器進行隨機應變的機敏對話，也不能完全用自然語言描述機器所遭遇的數據世界。人類的愿望與目標是人類建構的，超越了自動化與智能化的范圍。
第五，人工智能的發展有可能使人類智能突破個體智能的局限性，出現集體智能和合作智能，這超越了人與機器之間的控制與被控制、主導與被主導的二元關系。過去的機器是有壽命而無生命的機器，盡管能力超人，但歸根結底總是受到人的控制與指揮，而受人工智能驅動的機器則是有鮮活生命和自主能力的機器。一方面，在人工智能時代，人不再像工業文明時代那樣成為機器的一部分，而是反過來，機器成為人的一部分，如美國SpaceX公司的CEO埃隆·馬斯克就坦言，他的公司未來將研究如何將芯片植入頭骨來實現人機融合。然而，問題在于：如果人機融合的愿景真的實現了，那么我們如何避免掌握技術的少數精英通過芯片來控制被植入者呢?另一方面，有許多人擔心，如果通用人工智能乃至超人工智能有朝一日被研制成功，那么，智能機器不僅會全面超越人類來進行自主決策，而且還會脫離人的控制，成為主宰人類的“上帝”。盡管人工智能研究者認為，這種通用人工智能出現的可能性還遙遙無期，但是，由此引發的擔憂卻值得關注與深思。
人類文明已經發展到有所為而有所不為的時代了，這就迫使我們不得不反思這樣的問題：當我們把智能化發展看成實現人類追求的驕傲和理想以及國家制勝的法寶時，我們希望通過智能化的發展塑造什么樣的文明形態?自人猿相揖以來，習慣為發展經濟而奮斗的人類，如何為迎接有可能全面解放人類勞動的智能文明的到來，前瞻性地做好各方面的思想準備呢?歷史地看，人類文明從誕生之日起就鐘情于一切來源于人類智慧的產物。人類文明的轉型發展雖然不是源于理論安排，而是社會實踐和日常生活的結果，但生活在受人工智能驅動的信息文明深度發展和智能文明嶄露頭角過程中的我們，必然要肩負著自覺引領人類文明未來發展的重要職責。我們對發展人工智能的選擇，不只是在選擇技術，更是在選擇人類文明的未來，人類使機器像人一樣能夠做到“厚于德、誠于信、勤于思、慎于言、敏于行”的追求過程，也是人類有意識地進行自我塑造和自我反省的過程。
京公網安備 11010502049343號