摘要 : 前一陣子霍金和馬斯克都在提醒人工智能未來發(fā)展可能會對人類造成威脅，我們也認為這種技術需要有哲學思想和最高原則對其進行限制，但用傳統(tǒng)產業(yè)的人去做科技產業(yè)的研究肯定是不行的，科技產業(yè)里的人肯定也不行，有沒有可能一個新的學科出來，也就是科技哲學或科技倫理（Tech-Philosophy）？
今天在舊金山旁聽了百度Big Talk組織的一個座談會，與會者都是人工智能和大數據領域的頂級科學家，有《麻省理工科技評論》雜志主編賈森﹒龐廷，麻省理工學院人力動力學實驗室主任亞歷克斯﹒彭特蘭，康奈爾大學機械制造實驗室主任霍德﹒利普森，起點大學網絡與計算機項目負責人布拉德﹒坦普爾，奇點大學人工智能項目負責人尼爾﹒雅各布森，北京大學傳播學院教授，《數字化生存》翻譯者胡泳等。其中有幾位是往屆Big Talk邀請過的分享嘉賓，并不算面生。
這些科技界大腕們在會上主要分享了各自領域的前沿知識和看法，以人工智能和生物技術與互聯(lián)網技術結合為主。說實話想要完全聽懂并不容易，里面有很多內容是相當深奧的，對于國內科技界而言幾乎是空白。我相當感興趣的一個問題是人工智能的倫理問題，在最后一個提問時，我組織了一個略顯火爆的問題，我問：
前一陣子霍金和馬斯克都在提醒人工智能未來發(fā)展可能會對人類造成威脅，我們也認為這種技術需要有哲學思想和最高原則對其進行限制，但用傳統(tǒng)產業(yè)的人去做科技產業(yè)的研究肯定是不行的，科技產業(yè)里的人肯定也不行，有沒有可能一個新的學科出來，也就是科技哲學或科技倫理（Tech-Philosophy）？
這個問題我預計會得到踴躍回答，因為具備一定的話題性，又不超出當時座談會的主體范圍。果不其然，由三位教授先后回答了這個問題。看得出，他們對此問題也非常重視，對此也有很多自己想表達的看法。
第一位教授主要是在強調這個問題的重要性。應該是龐特蘭教授，他說自己就此曾弄過一個研討會，到目前為止已經開了50次。機器人或人工智能的倫理問題，其實是科技界的共性問題，所有的軟件和系統(tǒng)都會有這樣的問題，但到了人工智能這個層面，倫理道德就非常重要了。教授表示，人工智能需要像醫(yī)療行業(yè)一樣，制定出同樣的標準，運行在可靠的系統(tǒng)上，這件事必須要做，而且一定可以做到。
在我的理解中，這個問題似乎并不完全指向倫理道德，我想象之中的人工智能領域應該有自己的哲學體系，在確定了人工智能世界中各個環(huán)節(jié)的哲學意義后，才會衍生出倫理道德問題，對人類的保護，包括人類對人工智能的善加使用和保護等。人與人工智能之間的和諧相處，順暢發(fā)展，未來一定會靠一些普遍法則施加作用，正如人類社會各文明在沒有進行溝通和交流的情況下，不知怎么就不約而同對同一件事情做出了相同的定義和約束一樣，人工智能也一定存在普遍規(guī)律及世界觀。
第二位教授與第一位教授強調這個問題的重要性不同，他給出了一個粗略的解決方案。他說這個問題聯(lián)合國秘書長也曾關心過，最好的解決辦法是把這件事交到多數人手里，讓大家一起來解決這個問題，這樣就不容易出現壞事了。但人類社會自古以來太想建立中央集權式的管理，把權力交到少數人手里進行控制，這個想法實現起來很有難度。
第二位教授的回答，更像是給問題解決指出了一個方向，很難說是不是正確的方向，但基本價值觀完全沒錯，或者可以說是政治上完全正確。這里面存在的問題是，群策群力意味著效率的削減，人工智能卻是在一日千里地發(fā)展著，人類社會真的能在人工智能具有自主意識之前，在人工智能領域建立起基本哲學架構，進而過渡到方法論層面，讓其發(fā)揮作用并獲得人工智能和諧發(fā)展的環(huán)境么？
第三位教授的回答就比較直接了，提供了這個問題為何重要的新證據，但同時也表示，他不知道該怎樣。他說：“人工智能系統(tǒng)不是靜止不變的，而是不斷演變發(fā)展的，很難把一個系統(tǒng)鎖住不讓它發(fā)展，任何人都會去進行創(chuàng)新增加數據。這個問題很好，但我沒有解決方法，當然我相信會是有的。或許搞一套人工智能系統(tǒng)去監(jiān)督另一套人工智能系統(tǒng)，形成相互管理的生態(tài)系統(tǒng)是個辦法，這個辦法并不完美，但可能是一條出路。”
從三位教授的回答中，隱約可以看出學術界對這個問題的擔憂和焦慮，目前基本屬于束手無策的階段。當然，如果現階段認為建立人工智能哲學體系是個多么緊迫的事情，那就太矯情了，但隨著科技的進步，這個問題仍會一直存在，也許那一天真的到來時，是不會有任何預警和先兆的。
人類社會哲學體系的建立，至今已有幾千年，解決不了的事情交給神學，能解決的事情自有相應的方法論，但沒解決的問題還多著呢，未來的人工智能世界也一定會與人類社會的情況相似。即便每一條數據都有來源和出處，有起作用的機制和規(guī)則，但海量數據交叉交互作用后會出現什么情況，宛如宇宙奧秘一般不可知。這個領域呼喚一種兩棲的人，既明白人工智能的基本原理和機制，又能從更高的哲學、社會學和心理學層面思考問題，并提供定義，甚至給出解決方案。
我并不認為讓一套系統(tǒng)監(jiān)視另一套系統(tǒng)是什么好辦法，誰來監(jiān)視監(jiān)視系統(tǒng)的作為呢？機器人三原則是1940年代由一位科幻作家提出的，是目前人工智能領域唯一的最高準則，而這三原則只規(guī)定了機器人不得傷害人類和傷害自己，其他的如機器人與人類之間應該建立何種關系，協(xié)作機制主要依靠什么，兩者發(fā)展的終極目標是否趨同等重要哲學問題，目前已不是能否建立的問題了，還完全是空白，人們只知道毫不疲倦地沿著創(chuàng)新道路勇往直前，對這些形而上的東西仍舊毫無概念。
在歷史上，技術革命催生的各種革命，都有其副產品，如工業(yè)革命推動英國社會進入工業(yè)化時代，但在大機器驅使下爭分奪秒的工作，客觀上也使得英國人的飲食結構變得單一，過多依賴攝入高蛋白簡易食物而罔顧口味，從而喪失了不列顛人歷史上曾經飲食結構極為豐富的文化傳統(tǒng)。
最近的一次技術革命是基因革命，多利羊出現在鏡頭中時，人們方才意識到克隆人會對倫理和社會結構等問題造成的影響。過去20年基因技術一直在發(fā)展著，但明顯顧慮重重，缺乏更多創(chuàng)新和成果，有些領域幾乎處于停滯狀態(tài)。
相同的情況一定會發(fā)生在人工智能領域，但人工智能與人類對機器的運用和對生物基因序列的改變，并不在一個維度上。前兩者只是對人類自身習慣和人類自身物理存在形態(tài)的改變，人工智能可關系著人類的存亡命運，不容半點閃失。當然，如果就此因噎廢食也是沒必要的，重要的是在技術發(fā)展的同時，對其未來做更多哲學上的思考。、
霍金和馬斯克們的提醒很對，也很有必要，按人工智能目前的發(fā)展速度，不出五年科技界就將正視這個問題，并對此有所行動。希望放眼未來的Big Talk，能動用自身的影響力繼續(xù)匯集這些科技界的大腕，建立一個共同寫作的理論研究氛圍，為迎接激動人心的人工智能時代而做出更為充分的準備。
京公網安備 11010502049343號