美國、歐盟、英國、德國自2016年開始就積極推動人工智能責任立法、人工智能倫理準則以及自動駕駛、醫療機器人等領域的細分立法。從《“互聯網+”人工智能三年行動實施方案》到人工智能被寫入2017年政府工作報告，從《新一代人工智能發展規劃》到十九大報告的“推動互聯網、大數據、人工智能和實體經濟深度融合”，中國對人工智能的重視正在不斷提高。
當下，人工智能作為解決金融、交通、城市建設、醫療等一系列迫切的社會問題的手段，也對立法和公共政策的制定提出了更高的要求。在人工智能興起的背景下，中國的司法改革也正在面臨更嚴峻的知識挑戰，這種挑戰短期內來自現代化治理的方法論，而長遠來看關系到的是人類對自身的“認識論”。
理財機器人出問題，損失算誰的?
吳穎打開手機，同時開啟了四五個銀行APP。她使用理財機器人才兩個月，很多概念并沒有搞清，但她唯一清楚的是，這些署名“AI”的人工智能投資顧問，會為她提供或穩健、或均衡、或成長、或積極的投資組合。她將手機推到《南風窗》記者面前，“人工智能的好處我覺得就是直接，而且效率特別高。”她總覺得理財顧問都是“忽悠”居多，對“高科技”有一種下意識的信任。
理財機器人并不是一個“實體”機器人，面對面幫助客戶理財，而是透過線上調查問卷，或者是APP上客戶的資產和消費數據，來了解投資者的背景資料、風險偏好和投資習慣，再經由算法“量身打造”一套投資組合。
舉例來說，理財機器人在做完投資習慣和風險調查后，會為愿意承受高風險、進而享受高回報的投資者推薦全球股市比重占70%、美債比重占30%的投資組合;而為正在準備退休的保守型投資者，推薦股票型占40%、債券型占60%的投資組合。
理財的真正含義，是資產配置。先決定好投資工具，比如股票、債券、現金等，再按照個人的風險和回報偏好來配置比例。不過，在市場波動下，持有的投資組合會因為價格漲跌，凈值比例偏離原來的設定比例。而理財機器人的重要特點，就是自動地進行資產配置再平衡。它以月度、季度、年度的方式檢視資產績效，定期調整。像吳穎這種常年“996”的忙碌職場人士，再也不用茶飯不思地“盯盤”。
理財機器人也叫智能投資顧問(Robo-Advisor)，是近年風靡華爾街的創新性金融科技產品。美國金融數據分析服務提供商Kensho，它的軟件可以在2分鐘內做出反應：當三級颶風襲擊佛羅里達時，哪只水泥股的漲幅最大?蘋果發布新款iPhone，哪家供應商股價上漲更快?
2016年，以招商銀行、廣發證券為代表的中國銀行和券商等金融機構，也開始入局。2017年，中國各大銀行、證券公司和保險公司均推出了相關產品。吳穎去年就聽同事們談及，一貫“保守”的她今年也加入了進來。
中國的理財機器人和國外的最大區別是，前者不能進行“代客資金交易”，說白了，就是不能“自行付錢”。“我也挺猶豫的，”吳穎說，“雖然買不買單，決定權還是在我手上，但萬一這個機器人出問題了，或者被黑客攻擊了，我的損失算誰的責任?是那個寫代碼的，還是黑客，還是整個銀行?”
同樣的問題也發生在醫療機器人領域。目前中國的醫療機器人應用尚未普及，但小范圍的應用也是事關“生死”。據了解，中國有三十幾家醫療機器人企業。北京積水潭醫院、301 醫院、河北醫科大學第三醫院等幾家醫療機構，已經開始臨床應用骨科機器人。深圳某企業的手術機器人，可以幫助醫生，通過使用電腦和軟件來控制和移動手術儀器，進入病人身體上的微小切口，來完成不同的手術步驟。
如果醫療機器人出現故障，發生醫療事故，權利和責任又該如何明確?會不會進一步激化中國業已嚴峻的醫患關系?
賦予人工智能虛擬人格?
人工智能是一種為社會帶來全方位變革的通用技術，可以應用到從農業、制造業再到法律、醫療、金融服務業等各種各樣的生活場景之中。而且，機器學習(特別是無監督學習)技術，會帶來結果的不可控性。就像微軟的聊天機器人，上線沒幾天，跟網友學會了不少粗話，甚至還學會了種族歧視。
因此，法律如何規制人工智能，在鼓勵創新的同時，保護人類社會的基本價值，將風險控制在可控范圍內，是一個急需討論和立法回應的問題。
但中國社會科學院知識產權中心教授楊延超告訴《南風窗》記者，鑒于目前人工智能的發展水平，制定一部總括性的“人工智能法”，時機還不成熟。
最接近一般性人工智能法的立法嘗試，是2016年歐洲議會向歐盟委員會提出的“機器人法”立法建議報告。這份報告的立法，只針對有形的“智能機器”，包括機器人、智能家電和自動駕駛汽車等。但是，對于人工智能的核心—算法，并沒有相關的規制。也就是說，其思路和規制食品安全、產品責任的思路基本上一樣。
那么為什么還要緊鑼密鼓地討論人工智能的立法?楊延超認為，雖然人工智能遠遠達不到人類的認知水平，但是作為工具的使用，已經出現了很多急需明確的權責問題。“這時候，我們就需要賦予人工智能一個虛擬人格，來解決利益的第一層分配問題。”
他舉了一個例子，“就像法人，法人也不是自然人，但是我們能夠賦予公司一個虛擬的人格來明確它的地位。”對于人工智能來說，“虛擬人格就是法律人格。從消極的方面說，就是判斷誰來承擔責任;從積極的方面說，就是行為的效力怎么認定。”
自動駕駛是理解人工智能立法難題的一個典型案例。目前，自動駕駛車輛是在一個“無法可依”的情況下“高調”上路的。2017年12月2日，四輛裝備著華為開發的“阿爾法巴-智能駕駛公交系統”的自動駕駛公交車在深圳福田保稅區上路，這是世界首例在開放道路上行駛的自動駕駛公交車。
自動駕駛首先面臨著“法律人格”地位下區分其民事行為能力和責任能力的問題。“過錯”是現代交通法構建的基石，酒駕、疏忽大意、無證駕駛都是“過錯”。然而，在無人駕駛的時代，“過錯”就要進行重新劃分。根據2017年5月德國聯邦議會批準的《德國道路交通法》修正案，如果自動駕駛模式正在運行過程中發生了事故，責任在汽車制造商;如果自動駕駛系統發出了請求人工控制的信號，責任才會轉移到汽車的駕駛人員身上。
楊延超說，這實際上是產品質量責任，也就是嚴格責任，它不關心“過錯”，而是關心汽車是誰生產的。在無人駕駛時代，交通事故的責任主體將由個人轉為汽車的生產企業。這對原有的交通法律，是顛覆性的。而且，人工智能技術的應用可謂“牽一發而動全身”，交通事故責任分配中的保險制度，也將出現徹底的轉變。
一直以來，保險制度在交通事故責任有著兩方面的作用。一方面它讓受害者救濟變得更加及時—受害者可從保險費用中先行獲得救濟;另一方面，它也分散了責任承擔，將一人責任分解成社會分擔。然而，隨著無人駕駛時代的到來，保險費用的交納或許將由車輛購買者變為汽車廠商。
“霍布斯時刻”的到來?
中國的司法改革，很大程度上是一種知識的改革。這絕不是說，法律人只要死讀書本就能解決法律問題，而是說，從司法決策的角度去看，它首先就是知識運用的過程;從程序立法的方面去看，它同樣需要知識立場和知識內涵。人工智能的出現，以及其可預期的發展前景，為司法改革提出了更新的情況、更新的知識，如果不能理解這種知識，司法改革也將更加難以推進。
在當下“弱人工智能”的狀態下，人們需要解決的往往是“知識產權”問題。這個問題的表層是，立法者需要給予人工智能更多的權利。像撰稿機器人、作曲機器人、法律咨詢機器人，應該享有相應的創作者權利。更深一步去看，這些機器人背后創造其算法的人，也相應享有創作者的權利，包括著作權、專利權等。
在中美貿易摩擦中，知識產權也成為爭端的關鍵。據悉，中國最高人民法院也將賦予知識產權庭更大的權力，來強化知識產權的重要性，統一知識產權案件的審判標準。
知識產權的應用范圍，需要不斷地“擴大”。但是，諸如“密碼朋克”“自由軟件運動”等群體的崛起或運動的爆發，也提供了另外一種可能。越來越嚴格的知識產權保護，也許極大地阻礙了知識、技術、想法的快速高效流通，從而極大地阻礙了人類的創新活動和發明活動。
這就意味著，“弱人工智能”時代的立法或規制，特別需要注意自身的尺度和邊界。它既要給文化傳播、發明創造留下足夠的空間，也要保護創作者的“私人財產”—以利于長期的、持續的、有回報的知識生產。它不僅要鼓勵和保護人工智能的獨立“發揮”，也要前瞻性地避免人工智能帶來的破壞和損害。
然而，等人們跨越“奇點”，或者進入“強人工智能”時代，立法者面臨的就不僅僅是知識產權的問題，或者說羅馬法里的“繳出賠償”原則—機器人的“主人”最終承擔責任;而是電子人格是否與人類人格真正等同的問題，換句話說，就是強人工智能算不算一個“人”。
雖然沙特阿拉伯在2017年授予機器人索菲亞以公民身份，還向她發放了護照，但炒作的色彩大于實際意義，索菲亞遠沒有具備“思考”的能力。楊延超提到了科幻作家阿西莫夫的“機器人三定律”，他認為這一文學設定的意義是重大的，強人工智能具備人類的諸多能力之后，人類的安全問題應該被首先納入考量。
對于法律人而言，技術的更迭，時代的更替，都是一種大的背景，而司法改革并不以變化為目的，歸根結底，它以公平和正義為目的。
如今的人工智能在司法領域的應用，特別是在取證方面，極大地提高了效率。對人工智能知識的掌握和理解，也意味著對正義的理解的進一步加深。遲來的正義雖然好過沒有來的正義，但依然比不上“及時”的正義。
而面對未來將與人類平等的強人工智能，人們對“主奴關系”“公平”“正義”的看法，又將與今日截然不同。人類從來沒有賦予過任何一個物種與人類相等的權利，正是因為其他物種無法與人類抗衡。當人工智能遠遠超出人類的想象之后，法律又該如何規范兩個物種的生活?如何創造一個穩定的預期?還是說，人類將再次面對那個“一切人對一切人”的“霍布斯時刻”?
京公網安備 11010502049343號