Max Tegmark 是美國(guó)麻省理工學(xué)院物理系終身教授，世界人工智能領(lǐng)域的權(quán)威專家，也是未來生命研究所創(chuàng)始人，該組織匯集了包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨、拉里·佩奇在內(nèi)的8000多名全球頂尖人工智能專家。
談到人工智能及人類的未來，Max Tegmark在演講中表示，技術(shù)的力量相當(dāng)強(qiáng)大，在人工智能的未來應(yīng)用上，需要注意的是，“別讓技術(shù)制服我們，而是賦能我們”。
以下為Max Tegmark現(xiàn)場(chǎng)演講全文：
我今天的發(fā)言主題，是技術(shù)。技術(shù)的發(fā)展確實(shí)給我們帶來一些負(fù)面的影響，但我們也要看到，技術(shù)也有很多是正面的。有一個(gè)非常好的比喻，就是把人工智能比作發(fā)射火箭，如果你想讓人工智能變得非常強(qiáng)大，有一個(gè)好的結(jié)果，那單有強(qiáng)有力的動(dòng)力還不夠，我們必須要很好地掌握方向，并且了解怎么樣去應(yīng)用它。關(guān)于人工智能的發(fā)展，我認(rèn)為至少要思考三個(gè)方面的問題。
動(dòng)力
首先，是發(fā)展動(dòng)力的問題。人工智能是一種智能，而不是一個(gè)生物性的東西，本質(zhì)上就是信息處理。我們以前看到機(jī)器人不能走路，但是它們現(xiàn)在甚至可以跳躍了;以前我們還沒有自動(dòng)駕駛汽車，現(xiàn)在已經(jīng)有了自動(dòng)飛行火箭;以前人工智能還無法進(jìn)行人臉識(shí)別，現(xiàn)在它們甚至可以生成人臉、模擬人臉;以前人工智能無法在圍棋上打敗我們，AlphaGo和人類對(duì)弈，打敗了人類。
也就是說，以前我們對(duì)人工智能進(jìn)行的更多是一些抽象研究，但是現(xiàn)在它已經(jīng)深入到我們的生活中來。比如說，人工智能在醫(yī)學(xué)上的應(yīng)用，使得它甚至比人類的醫(yī)生更好，可以更好診斷各種各樣的疾病，從而挽救更多人的生命。對(duì)于中國(guó)這樣一個(gè)步入老齡化的國(guó)家而言，人工智能在養(yǎng)老陪護(hù)方面也許還能發(fā)揮更重要的作用。也就是說，人工智能在很多方面都得了很好的應(yīng)用，所有這些都是人工智能帶來的積極變化和進(jìn)步。
我們已經(jīng)取得了很多在人工智能方面的積極進(jìn)步，但是依然面臨很多問題。
再舉一個(gè)例子，如果把海平面代表人工智能，那隨著氣侯變化、海平面上升，人工智能的能力就會(huì)不斷增長(zhǎng)。但是面對(duì)海平面的上升，我們還必須小心謹(jǐn)慎，要考慮這個(gè)海平面會(huì)上升多少，是否會(huì)把所有的陸地都淹沒。放在對(duì)人工智能發(fā)展方面的思考，那就是要考慮人工智能是否會(huì)替代人類所有的工作?人工智能到底能夠做到什么地步?
很多人說不要害怕，因?yàn)槿丝梢源驍∪斯ぶ悄埽梢宰龊芏喙ぷ鳌Ｒ灿腥苏J(rèn)為，人工智能可以比人做的好，而且可以進(jìn)一步創(chuàng)造更高級(jí)的人工智能。所以，未來的人工智能還會(huì)更強(qiáng)。也就是說人工智能自己可以自我演進(jìn)，越來越改進(jìn)，最終成為超級(jí)人工智能。
那超級(jí)人工智能到底是科幻小說還是應(yīng)該嚴(yán)肅認(rèn)真對(duì)待的話題呢?，我有一個(gè)同事認(rèn)為通用人工智能要過幾個(gè)世紀(jì)才能發(fā)生，另外一位谷歌公司的朋友則說超級(jí)人工智能會(huì)來的比想象更早。
所以最終的問題是，超級(jí)人工智能來了以后會(huì)發(fā)生什么?如果機(jī)器可以做所有的東西，而且勞動(dòng)成本更低，那人還有什么用呢?留給人類的也許只剩一個(gè)選擇，那就是只管造機(jī)器就行了。
方向
所以，我們要考慮到人工智能發(fā)展的方向，這就是我們火箭發(fā)射比喻的第二點(diǎn)。即火箭有了動(dòng)力之后，必須要考慮到它未來飛行的方向。
我發(fā)起的一個(gè)組織——生命未來研究所，主要議題就是思考各個(gè)國(guó)家在人工智能方向該如何發(fā)展。我個(gè)人是非常喜歡技術(shù)的，我對(duì)技術(shù)是樂觀派。但我認(rèn)為技術(shù)發(fā)展的前提是，人要和技術(shù)同步成長(zhǎng)。我們生活中的許多東西，都是基于不好的教訓(xùn)發(fā)明出來的。比如說著了火，我們才發(fā)明滅火器;出了車禍，然后才發(fā)明了紅綠燈、安全帶等等。從科學(xué)進(jìn)步角度來說，我們還是需要讓技術(shù)變得強(qiáng)大，但是一定要從技術(shù)當(dāng)中要吸取教訓(xùn)。
比如說發(fā)展超級(jí)人工智能，我們還是應(yīng)該積極來考慮。有人說超級(jí)人工智能不是什么好東西，但我認(rèn)為它也并非就一定是害人的東西，只是我們應(yīng)該做好“安全工程”。所謂“安全工程”，是指我們要做好應(yīng)對(duì)最壞結(jié)果的打算。比如我們?cè)诎l(fā)射衛(wèi)星前，就要考慮到發(fā)射衛(wèi)星的整個(gè)過程中可能有什么問題，要不然發(fā)射之后人在天空中怎么辦。
技術(shù)的發(fā)展方向是全球所面臨的問題，任何國(guó)家都無法回避，也無法單獨(dú)解決這個(gè)問題。但我認(rèn)為中國(guó)在這方面可以發(fā)揮更多作用，可以為全球引導(dǎo)出一個(gè)正確的人工智能發(fā)展方向。一方面是中國(guó)有技術(shù)，另一方面中國(guó)有文化。技術(shù)層面，目前中國(guó)在人工智能方面已經(jīng)是一個(gè)非常領(lǐng)先的國(guó)家，中國(guó)的領(lǐng)導(dǎo)人也非常重視人工智能的發(fā)展，我了解到京東在技術(shù)發(fā)展方面一直在引領(lǐng)行業(yè)。但是同時(shí)必須考慮人工智能的安全性問題，這方面，中國(guó)是一個(gè)擁有古老文明的國(guó)度，看待問題目光長(zhǎng)遠(yuǎn)，所以，中國(guó)可以幫助全球制定一個(gè)全球共同認(rèn)同的目標(biāo)。
我所在的生命未來研究所，在2017年1月提出了一個(gè)23項(xiàng)人工智能的發(fā)展原則——阿西洛馬人工智能原則。在我們的發(fā)展原則中，我們認(rèn)為發(fā)展人工智能，一方面要堅(jiān)決避免武器的競(jìng)爭(zhēng)，因?yàn)閺募夹g(shù)角度來說，武器一方面可以保護(hù)人，另一方面可以傷害人。我們發(fā)展人工智能，一定要避免它們對(duì)人造成危害。
阿西洛馬人工智能原則中另外一個(gè)重要原則，就是人工智能的發(fā)展應(yīng)該能給人帶來收入增長(zhǎng)，改善人的生活品質(zhì)。目前我們大多數(shù)人都認(rèn)為人工智能可以帶動(dòng)經(jīng)濟(jì)大幅增長(zhǎng)，增長(zhǎng)到什么程度我們不知道，反正是很多人都能從中獲益。那人工智能是否也要考慮“安全工程”的問題呢?比如用人工智能進(jìn)行基礎(chǔ)決策時(shí)，要確保其決策的可信度。所以這就要求人工智能的發(fā)展要考慮到價(jià)值同盟，價(jià)值同盟是什么意思呢?以超級(jí)人工智能為例，我們發(fā)明了超級(jí)人工智能，一定要讓他理解我們的目標(biāo)，同意我們的目標(biāo)，維護(hù)我們的目標(biāo)，這樣才能確保方向不出錯(cuò)。
目標(biāo)
那我們的目標(biāo)到底是什么呢?這就是我剛才舉的火箭發(fā)射例子里的第三點(diǎn)。火箭有動(dòng)力了，又有了方向，但是它的目標(biāo)到底是發(fā)射到哪呢?
目前基本沒有人談?wù)撊斯ぶ悄艿陌l(fā)展目標(biāo)。因?yàn)樗械娜斯ぶ悄馨l(fā)展目標(biāo)都是短期的目標(biāo)、商業(yè)性的目標(biāo)。我們生命未來研究所的阿西洛馬人工智能原則最后一個(gè)，也是最重要的一項(xiàng)原則，就是超級(jí)人工智能必須得有助于人類才應(yīng)該繼續(xù)發(fā)展。中國(guó)國(guó)家主席曾經(jīng)提出要構(gòu)建人類命運(yùn)共同體，這個(gè)人類命運(yùn)共同體和我們的原則是高度一致的。因?yàn)槿斯ぶ悄艿牧α咳绱藦?qiáng)大，發(fā)展到一定階段，要么就是讓我們共同成功，要么就是讓我們共同毀滅。所以我們應(yīng)該站在更高的高度看待這個(gè)問題，首先所有的國(guó)家都應(yīng)該共同發(fā)展人工智能，但是一定要有長(zhǎng)遠(yuǎn)的眼光，要考慮風(fēng)險(xiǎn)，否則這很可能是人類歷史上犯的最大的一個(gè)錯(cuò)誤，甚至?xí)碚麄€(gè)星球上前所未有的災(zāi)難，甚至?xí)?dǎo)致人類的滅絕。為了避免這個(gè)最壞的結(jié)果，所以需要全球進(jìn)行合作，一起來解決人工智能“安全工程”的問題，這樣可能帶來我們美好的未來。
總而言之，對(duì)于人工智能的發(fā)展，我的態(tài)度是非常積極的。只是發(fā)展的原則應(yīng)該是技術(shù)別超過我們?nèi)祟惖牧α浚罱K應(yīng)該讓人工智能給我們?nèi)祟愘x能，這樣才是正確的發(fā)展方向。
關(guān)于JDD-2018京東數(shù)字科技全球探索者大會(huì)：
JDD-2018京東數(shù)字科技全球探索者大會(huì)于11月20日在北京中國(guó)國(guó)際展覽中心新館舉辦，總獎(jiǎng)金達(dá)220萬元的同名大賽于同天上午正式啟動(dòng)。本屆大會(huì)由京東集團(tuán)、京東數(shù)字科技聯(lián)合主辦，KDD China為學(xué)術(shù)指導(dǎo)單位，APEC中國(guó)工商理事會(huì)青年企業(yè)家委員會(huì)為支持單位。大會(huì)旨在連接科技界、產(chǎn)業(yè)界、金融界、學(xué)術(shù)界、投資界五大圈層，搭建一個(gè)全球化的開放平臺(tái)，共同探索數(shù)字科技創(chuàng)新之道，實(shí)體經(jīng)濟(jì)數(shù)字化升級(jí)之路。
相比去年的首屆大會(huì)，本屆JDD大會(huì)規(guī)模再創(chuàng)新高，共有來自政府部門、金融機(jī)構(gòu)、投資機(jī)構(gòu)、大型企業(yè)和科研院所的近3000名嘉賓，包括400名業(yè)界大咖出席了大會(huì)。京東數(shù)字科技CEO陳生強(qiáng)、京東集團(tuán)首席技術(shù)官?gòu)埑颗c30余位重量級(jí)嘉賓在大會(huì)上暢談未來數(shù)字科技發(fā)展趨勢(shì)，其中包括中國(guó)工程院院士、原中國(guó)工程院常務(wù)副院長(zhǎng)潘云鶴，中國(guó)工程院院士、中國(guó)農(nóng)業(yè)大學(xué)動(dòng)物科技學(xué)院教授李德發(fā)，麻省理工學(xué)院教授、生命未來研究所主席、暢銷書《Life 3.0》作者M(jìn)ax Tegmark，美國(guó)國(guó)家工程院院士、MIT人工智能實(shí)驗(yàn)室主任Daniela Rus，日本機(jī)器人“教父”、ROBOGARAGE公司創(chuàng)始人兼CEO高橋智隆，知名科幻作家、雨果獎(jiǎng)獲得者、“童行學(xué)院”創(chuàng)始人郝景芳等國(guó)際知名學(xué)者和業(yè)界領(lǐng)軍人物。
京公網(wǎng)安備 11010502049343號(hào)