在一個(gè)世紀(jì)內(nèi)，發(fā)生大型小行星碰撞地球的幾率可能僅為15000。而在通用人工智能方面，下個(gè)世紀(jì)中發(fā)生災(zāi)難的幾率可能高達(dá)1100，甚至110。

近期，人工智能領(lǐng)域的各項(xiàng)進(jìn)展堪稱一日千里。對(duì)此有種世界末日論，說(shuō)人工智能驅(qū)動(dòng)的機(jī)器將智勝人類，接管整個(gè)世界并殺死所有人。

這種描寫(xiě)常見(jiàn)于科幻小說(shuō)中，但也經(jīng)常被否定，因?yàn)槿祟惾匀焕卫握瓶刂置妗５S多人工智能專家則非常嚴(yán)肅地看待這一末日前景，這種態(tài)度是完全有必要的。

為了解風(fēng)險(xiǎn)究竟在哪里，就要去理解“弱人工智能”(narrow AI)和“通用人工智能”(Artificial General Intelligence)的區(qū)別。弱人工智能一次只能在一個(gè)或幾個(gè)領(lǐng)域運(yùn)作，因此雖然它可能在某些特定任務(wù)中勝過(guò)人類，但仍然處于人類控制之下。

相比之下，通用人工智能可以跨越多個(gè)領(lǐng)域進(jìn)行思考，因此可以在復(fù)制許多人類智力技能的同時(shí)，保留計(jì)算機(jī)的所有優(yōu)點(diǎn)，比如完美的記憶力。借助精密復(fù)雜的計(jì)算機(jī)硬件，通用人工智能可能會(huì)超出人類的認(rèn)知。事實(shí)上，通用人工智能的發(fā)展似乎是無(wú)上限的。

就目前而言，大多數(shù)人工智能都是弱人工智能。事實(shí)上，即使是目前最先進(jìn)的系統(tǒng)也只具備有限的通用性。

許多知識(shí)淵博的人，對(duì)高級(jí)通用人工智能的前景不屑一顧。其他人則認(rèn)為比肩人類的人工智能在遙遠(yuǎn)的未來(lái)可能實(shí)現(xiàn)，但現(xiàn)在開(kāi)始為之擔(dān)憂還為時(shí)過(guò)早。也有一批杰出學(xué)者擔(dān)心，通用人工智能會(huì)對(duì)人類構(gòu)成嚴(yán)重甚至事關(guān)種族存續(xù)的威脅。由于辯論雙方都有龐大的專家團(tuán)支持，因此我們其他人應(yīng)該對(duì)此保持開(kāi)放的態(tài)度，不必提前站隊(duì)。

此外，通用人工智能已經(jīng)成為大型研發(fā)項(xiàng)目的重點(diǎn)。我最近完成了對(duì)通用人工智能研發(fā)項(xiàng)目的調(diào)研，涵蓋六大洲30個(gè)國(guó)家中的45個(gè)項(xiàng)目。許多研究項(xiàng)目都由百度、臉書(shū)、谷歌、微軟、騰訊等大型企業(yè)以及卡內(nèi)基梅隆大學(xué)、哈佛大學(xué)，斯坦福大學(xué)以及中國(guó)科學(xué)院等一流大學(xué)來(lái)執(zhí)行。如果簡(jiǎn)單地假設(shè)這些項(xiàng)目都會(huì)失敗，顯然是不智的。

考量通用人工智能潛在威脅的另一種方法，則是將其與其他災(zāi)難性風(fēng)險(xiǎn)進(jìn)行比較。在1990年代，美國(guó)國(guó)會(huì)認(rèn)為應(yīng)當(dāng)指示美國(guó)宇航局去追蹤那些可能碰撞地球的大型小行星，即便在一個(gè)世紀(jì)內(nèi)發(fā)生這種情況的幾率僅為15000。在通用人工智能方面，根據(jù)研發(fā)速度以及專家關(guān)注度的強(qiáng)弱，在下個(gè)世紀(jì)中發(fā)生災(zāi)難的幾率可能高達(dá)1100，甚至110。

那么問(wèn)題就在于如何應(yīng)對(duì)。首先，我們需要確保這類研發(fā)都是以負(fù)責(zé)任、安全和有道德的方式來(lái)進(jìn)行。這需要那些在人工智能領(lǐng)域工作的人，與政策制定者、社會(huì)科學(xué)家和關(guān)注這個(gè)問(wèn)題的民眾進(jìn)行更深入的對(duì)話。那些人工智能應(yīng)用程序的開(kāi)發(fā)者們，大多不習(xí)慣于考慮自身工作的社會(huì)影響。為了改變這一點(diǎn)，就必須將他們暴露于外部視角之下。

政策制定者們還將不得不面對(duì)通用人工智能的國(guó)際屬性。目前大部分相關(guān)研發(fā)都在美國(guó)、歐洲和中國(guó)進(jìn)行，但大部分代碼都是開(kāi)源的，這意味著這項(xiàng)工作可能在任何地方完成。因此，盡管某些區(qū)域研發(fā)中心應(yīng)該在建立標(biāo)準(zhǔn)和道德基礎(chǔ)規(guī)則方面起主導(dǎo)作用，但這最終會(huì)是整個(gè)國(guó)際社會(huì)的工作。

展望未來(lái)，解決通用人工智能所引發(fā)風(fēng)險(xiǎn)的一些努力，可以搭載在一些業(yè)已實(shí)施的針對(duì)弱人工智能的政策舉措之上。例如由馬里蘭州民主黨眾議員約翰·德萊尼發(fā)起的新兩黨人工智能小組會(huì)議。而在研究短期和長(zhǎng)期人工智能風(fēng)險(xiǎn)的人們之間，也存在著更多協(xié)同合作的機(jī)會(huì)。

無(wú)論弱人工智能和通用人工智能是合并還是分開(kāi)考慮，最重要的是我們現(xiàn)在得采取建設(shè)性行動(dòng)以盡量減少發(fā)生災(zāi)難性事件的風(fēng)險(xiǎn)。不然等到風(fēng)險(xiǎn)真正來(lái)臨時(shí)，一切就太遲了。