出席會議的專家們普遍認為，人工智能研究和應用的各個結構性層面，有眾多問題需要技術專家與人文學者一起來探討和解決。人工智能與人文學這一次歷史性的互動和嵌合，對于雙方的發展而言都是一種歷史的機遇。
而筆者對這里的“發展”的理解是，它不只是指向更先進的技術、更快的迭代速度等，也是一個讓人類停下來等一等倫理重建的問題。正如一位與會者所言，人工智能作為一種歷史性的技術進步，它的“仿人類性”特征，使得它從一開始就不可避免地面臨了如何跨越人文價值種種界面的挑戰。
早在1978年9月，日本一家工廠的切割機器人突然“發瘋”，把正在值班的工人當成鋼板切割了，這是歷史上首起機器人殺人事件。自那以后，人們就開始不斷想象機器人失控的可能性。好萊塢大片《終結者》系列中，人類研制的高級計算機控制系統“天網”有了自己的意志，將人類視為仇敵，剝奪了數以億計的生命，就可以視為這方面的一種巔峰想象。
不久前，一則有關人工智能的消息引起了很多人的關注——韓國科學技術院(KAIST)研發“殺手機器人”的計劃遭到了多國人工智能(AI)及機器人工學的專家聯合抵制。在強大的壓力之下，KAIST隨后不得不宣布取消“殺手機器人”計劃。
其實，2015年，人工智能領域的1000多名專家就聯合發表一封公開信，呼吁在世界范圍內禁止“殺手機器人”。當時還在世的著名科學家斯蒂芬·霍金，以及特斯拉首席執行官埃隆·馬斯克和蘋果聯合創始人史蒂夫·沃茲尼亞克都在這封信上簽了名。聯合國也曾耗時兩年完成了機器人倫理報告。
事實上，人工智能所面臨的科學倫理問題不只是機器可能失控而對人類構成威脅，隨著它與人類生活的深度重合，隨著機器人與人類的界限變得日益模糊，許多隱藏的倫理問題都會逐漸暴露出來。
比如，人類能不能和機器人談戀愛?如果機器人能夠與人類互通心意，如何防止機器人深入個人生活、威脅人類隱私?多年前，有一道高考作文題叫《假如記憶可以移植》， 如果有一天，與人類身份界限打破了的、具有人類記憶的人工智能能夠進行記憶移植，該如何避免倫理的混亂與失控?
一種普遍性共識是，無論技術如何發展，機器不能被賦予人的道德地位并且繼承人的尊嚴。近年來，多國科學家一直在呼吁，人們需要通過新的管理和監管手段，為人工智能、機器人和“自主”系統的設計、生產、使用和治理，建立一個通用的、國際公認的道德和法律框架。同樣，我們也需要在人文價值層面、科學倫理層面，建立對人工智能發展的必要審思，學會讓技術等一等人類的靈魂。
京公網安備 11010502049343號