中國社會科學院國際法研究所原所長、研究員，中國刑法學研究會常務副會長。
大家上午好!很高興來滬參加上海政法學院“刑法論壇”。首先是因為主題——“人工智能的刑法規制及相關法律問題”吸引了我。最近兩三年來，對人工智能的話題討論很多，我覺得現在應該是引起法律界關注的時候。其次是上海政法學院開始有了長足的進步和發展，之前沒來過，所以想來看看，“眼見為實”，果然是名不虛傳。中國-上海合作組織國際司法交流合作培訓基地這個重大項目落戶上政，是一個很難得的發展機遇。基地與上政融為一體，上政可以充分利用基地硬件、軟件和人力資源，這對上政而言既是寶貴資源又是發展驅動力。
從刑法學角度來看人工智能，主要涉及以下問題：
一是人工智能體能否成為犯罪主體并承擔相應的刑事責任。這可能是最尖銳也是最令人困惑的問題。就我個人來說，過去認為這樣的討論權當一席笑談。但是，最近幾年人工智能技術取得突破性的進展，比如智能機器人AlphaGo Zero通過無監督自主學習，能夠輕松戰勝頂尖圍棋國手，這在過去是難以想象的。從單純具有超強的計算能力蛻變到它可以進行自我學習和自我提高，而且進展神速，從某一個方面超越人類智慧。這使得人類不敢掉以輕心，探討將人工智能體納入刑法規制的可能性，也將成為一個嚴肅話題。刑法對行為主體成為犯罪主體的基本要求并不高，即具有辨認和控制自己行為的能力。有朝一日當人工智能發展到強人工智能階段，具有辨認、選擇、控制、決策等行為能力時，其成為犯罪主體恐怕并非完全不可能。所以我們現在需要認真地加以研究。如果未來人工智能發展到超高水平，可能會面臨脫離人類控制的危險，霍金的擔心并非杞人憂天。這就涉及相關的法律倫理問題，就像以往的克隆問題一樣，國際社會普遍禁止克隆人類。人類在設計研發人工智能之初是否應當留下“阿喀琉斯之踵”，以確保人類可以對其進行最終控制，這是技術人員需要研究的問題。法律人能做的，就是設定“阿喀琉斯之踵”條款，要求技術人員確保未來人工智能的安全發展。
二是人工智能體可否作為犯罪工具。這顯然是沒有問題的，如利用無人機殺戮等。不過，利用人工智能犯罪還可能會牽扯到共犯的問題。如果某一天人工智能擁有辨認和控制自己行為的能力，當其被它的控制者、使用者用于犯罪時，是犯罪工具還是共犯?這些都是可以拓展討論的話題。
三是人工智能可否成為犯罪對象。這是完全可能的。人工智能和計算機系統、智慧網絡一樣，都可以成為犯罪對象。同時，人工智能體在某種意義上是非常有價值的財產，也會成為犯罪侵害的對象。
四是人工智能潛力的開發，可以成為預防和控制犯罪的有力神器。執法、司法層面對大數據的適用，對犯罪進行分析、判斷、預防，均可充分利用人工智能。人工智能在社會治安和犯罪控制領域，有著更廣泛的應用前景。
五是人工智能的研發者和控制者的相關法律責任問題。人工智能在使用過程中，其本身的缺陷和漏洞可能會被人利用去實施犯罪，那么研發者和控制者應當承擔怎樣的責任?如果人工智能有漏洞，之后應及時補漏而未及時采取行動彌補漏洞和缺陷，研發者和控制者是否應當對所造成的危害結果承擔相應的責任呢?這在研究人工智能的法律問題時，也應當給予必要的關注。
京公網安備 11010502049343號