但像我們這樣看著《星際迷航》、《銀翼殺手》或《2001太空漫游》長(zhǎng)大的人知道，這只是個(gè)開始。
與那些虛構(gòu)世界中的AI，甚至是人類自己相比，今天的AI無法完全探索、交互并從這個(gè)世界中學(xué)習(xí)。如果它可以做到，就像《星際迷航》中那個(gè)非常有用的機(jī)器人Data(或一個(gè)人類)一樣，它可以學(xué)會(huì)如何解決任何問題或執(zhí)行任何工作，而不僅僅局限于它最初被訓(xùn)練來做的事情。
包括ChatGPT的創(chuàng)造者OpenAI在內(nèi)的一些全球頂級(jí)AI研究人員認(rèn)為，構(gòu)建這種智能的機(jī)器，即AGI，是AI發(fā)展的圣杯。AGI將使機(jī)器能夠“泛化”知識(shí)，并處理幾乎所有人類能執(zhí)行的任務(wù)。
不過，要實(shí)現(xiàn)這一目標(biāo)，我們還有一些相當(dāng)大的問題需要解決。AI領(lǐng)域的進(jìn)一步突破、巨額投資以及廣泛的社會(huì)變革都將必不可少。
以下是我對(duì)如果我們想打造電影中承諾的那個(gè)光明、全自動(dòng)、由AI驅(qū)動(dòng)的未來(可能出錯(cuò)的地方?)所必須克服的五大障礙的概述：
常識(shí)和直覺
今天的AI缺乏充分探索和利用其所在世界的能力。作為人類，我們通過進(jìn)化學(xué)會(huì)了很好地解決現(xiàn)實(shí)世界中的問題，利用我們能得到的任何工具和數(shù)據(jù)。而機(jī)器沒有做到這一點(diǎn)——它們是通過從現(xiàn)實(shí)世界中提煉出的數(shù)字?jǐn)?shù)據(jù)(無論保真度如何)來了解世界的。
作為人類，我們構(gòu)建了一個(gè)“世界地圖”，為我們理解世界提供了信息，并因此為我們成功完成任務(wù)提供了能力。這個(gè)“地圖”是根據(jù)我們的所有感官、所學(xué)的一切、固有的信仰和偏見以及經(jīng)歷的一切構(gòu)建而成的。機(jī)器則通過在網(wǎng)絡(luò)上移動(dòng)的數(shù)字?jǐn)?shù)據(jù)，或使用傳感器收集的數(shù)據(jù)進(jìn)行分析，還無法達(dá)到這種深度理解。
例如，在計(jì)算機(jī)視覺方面，AI可以觀看飛行中的鳥類視頻并學(xué)習(xí)很多關(guān)于它們的知識(shí)——也許包括它們的大小、形狀、種類和行為。但它不太可能通過研究它們的行為，而發(fā)現(xiàn)自身飛行的方法，并將這種學(xué)習(xí)成果應(yīng)用于建造飛行器，就像人類所做的那樣。
常識(shí)和直覺是智力的兩個(gè)方面，仍然是人類所獨(dú)有的，對(duì)我們駕馭模糊性、混亂和機(jī)遇至關(guān)重要。在實(shí)現(xiàn)AGI之前，我們可能需要對(duì)它們與機(jī)器智能的關(guān)系進(jìn)行更深入的研究。
學(xué)習(xí)的可遷移性
我們通過廣泛的世界交互所發(fā)展出的一個(gè)天生能力，是將從一項(xiàng)任務(wù)中獲得的知識(shí)應(yīng)用到另一項(xiàng)任務(wù)中。
今天的AI是為狹隘的任務(wù)而構(gòu)建的。一個(gè)醫(yī)療聊天機(jī)器人可能能夠分析掃描結(jié)果、與患者咨詢、評(píng)估癥狀并開出治療方案。但讓它診斷一臺(tái)壞掉的冰箱，它就會(huì)不知所措。盡管這兩項(xiàng)任務(wù)都依賴于模式識(shí)別和邏輯思維，但AI在數(shù)據(jù)處理方面仍然缺乏靈活性，無法解決其明確訓(xùn)練之外的問題。
相比之下，人類可以跨完全不同的領(lǐng)域運(yùn)用問題解決、推理和創(chuàng)造性思維技能。因此，例如一位人類醫(yī)生可能會(huì)利用他們的診斷推理能力去排除故障冰箱的問題，即使沒有接受過正式的培訓(xùn)。
為了AGI的存在，AI必須開發(fā)出這種能力——在不需要完全重新訓(xùn)練的情況下將知識(shí)應(yīng)用于不同領(lǐng)域。當(dāng)AI能夠在不需要對(duì)全新數(shù)據(jù)集進(jìn)行重新訓(xùn)練的情況下建立這些聯(lián)系時(shí)，我們就離真正的通用智能又近了一步。
物理與數(shù)字的鴻溝
我們通過感官與世界進(jìn)行交互。機(jī)器則必須使用傳感器。這其中又體現(xiàn)了進(jìn)化的差異，進(jìn)化磨練了我們數(shù)百萬年來觀察、傾聽、觸摸、嗅聞和品嘗的能力。
相比之下，機(jī)器則依賴于我們賦予它們的工具。這些工具是否為其收集解決問題所需數(shù)據(jù)的最佳方式還不好說。它們可以以我們?cè)试S的方式與外部系統(tǒng)進(jìn)行交互——無論是通過數(shù)字方式的API接口，還是物理方式的機(jī)器人。但它們沒有一套可以適應(yīng)與世界任何方面互動(dòng)的標(biāo)準(zhǔn)工具，就像我們有手和腳一樣。
要像我們所做到的那樣，以高超的方式與物理世界進(jìn)行交互——例如協(xié)助體力勞動(dòng)，或訪問它未獲得特定授權(quán)的計(jì)算機(jī)系統(tǒng)——將需要能夠彌合這一鴻溝的AI。我們已經(jīng)在Operator等自主式AI工具的早期迭代中看到了這一點(diǎn)，它使用計(jì)算機(jī)視覺來理解網(wǎng)站并訪問外部工具。然而，要讓機(jī)器能夠獨(dú)立地探索、理解和與物理和數(shù)字系統(tǒng)交互，從而使AGI不僅僅是夢(mèng)想，還有更多的工作要做。
可擴(kuò)展性的困境
即便是如今AI模型的訓(xùn)練和部署，也需要海量的數(shù)據(jù)和算力。但根據(jù)我們目前的理解，要實(shí)現(xiàn)AGI所需的數(shù)據(jù)和算力可能是成倍增加的。人們已經(jīng)開始擔(dān)心AI的能耗問題，要實(shí)現(xiàn)這個(gè)目標(biāo)，還需要越來越大型的基礎(chǔ)設(shè)施項(xiàng)目。是否有意愿投資到必要的程度，很大程度上將取決于AI公司能否證明他們能從前代AI技術(shù)(如現(xiàn)在很多公司正在利用的GenAI浪潮)中賺取投資回報(bào)。
據(jù)一些專家稱，我們已經(jīng)看到，僅僅通過向構(gòu)建更智能AI的問題中投入更多的算力和數(shù)據(jù)，所獲得的回報(bào)正在減少。ChatGPT的最新更新——Omni系列模型，以及最近公布的競(jìng)爭(zhēng)對(duì)手DeepSeek，都聚焦于增加推理和邏輯能力。但這會(huì)使得工具在用戶手中的推理階段(而非訓(xùn)練階段)需要更多的算力。不管采用哪種解決方案，AGI可能需要的算力比現(xiàn)在可用的算力要大幾個(gè)數(shù)量級(jí)，這就是它還未到來的另一個(gè)原因。
信任問題
這是一個(gè)非技術(shù)性的障礙，但這絲毫不會(huì)讓它成為一個(gè)較小的問題。問題是，即使技術(shù)準(zhǔn)備好了，社會(huì)是否準(zhǔn)備接受機(jī)器取代人類，成為這個(gè)星球上最強(qiáng)大、最聰明和最能適應(yīng)的實(shí)體?
一個(gè)很好的理由是，它們可能不會(huì)這樣做，因?yàn)闄C(jī)器(或創(chuàng)造它們的人)還沒有達(dá)到所需的信任水平。想想自然語言、GenAI聊天機(jī)器人的出現(xiàn)是如何引發(fā)軒然大波的，它讓我們認(rèn)識(shí)到這對(duì)從工作到人類創(chuàng)造力的一切領(lǐng)域都將產(chǎn)生影響。現(xiàn)在想象一下，當(dāng)能夠自主思考并在幾乎所有事情上擊敗我們的機(jī)器出現(xiàn)時(shí)，會(huì)有多少恐懼和擔(dān)憂。
如今，許多AI系統(tǒng)都是“黑箱”，這意味著我們對(duì)其內(nèi)部運(yùn)行情況或如何工作知之甚少。社會(huì)要足夠信任AI，讓其為我們做決策，AGI系統(tǒng)必須達(dá)到當(dāng)今AI系統(tǒng)所遠(yuǎn)遠(yuǎn)不及的可解釋性和可問責(zé)性水平。
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，旗下運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。旗下運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)