在埃隆·馬斯克和人工智能技術(shù)先驅(qū)Geoffrey Hinton發(fā)出嚴(yán)厲警告之后，IT領(lǐng)導(dǎo)者們開始向全球的機(jī)構(gòu)、咨詢公司和律師尋求有關(guān)未來道路的建議。Hinton最近從谷歌公司離職，他闡述了人工智能帶來的風(fēng)險(xiǎn)，并呼吁暫停此類人工智能的開發(fā)。

 

美國出版界巨頭赫斯特集團(tuán)(Hearst)高級(jí)副總裁兼CIO Atti Riazi表示：“最近，埃隆•馬斯克等科技公司的CEO對(duì)人工智能潛在危險(xiǎn)的警告表明，我們?cè)跍p輕技術(shù)創(chuàng)新帶來的后果方面做得還不夠。作為創(chuàng)新者，我們需要負(fù)責(zé)任地進(jìn)行創(chuàng)新，并理解技術(shù)對(duì)人類生活、社會(huì)和文化的影響。”

 

這種觀點(diǎn)得到了許多IT領(lǐng)導(dǎo)者的認(rèn)同，他們認(rèn)為，在自由市場(chǎng)的社會(huì)中，創(chuàng)新是不可避免的，應(yīng)該得到鼓勵(lì)，尤其是在這個(gè)數(shù)字化轉(zhuǎn)型的時(shí)代，但前提是要有正確的規(guī)則和法規(guī)，以防止出現(xiàn)業(yè)務(wù)災(zāi)難或更糟的情況發(fā)生。

 

Regeneron Pharmaceuticals公司的CIO Bob McCowan表示：“我對(duì)他們的說法表示認(rèn)同，對(duì)于某些行業(yè)或某些高風(fēng)險(xiǎn)用例來說，暫停使用可能是合適的，但在許多其他情況下，我們應(yīng)該繼續(xù)推進(jìn)，快速探索這些工具提供的機(jī)會(huì)。

 

許多董事會(huì)成員都在質(zhì)疑，這些技術(shù)是否應(yīng)該被采用，還是會(huì)帶來太多風(fēng)險(xiǎn)?我認(rèn)為兩者兼而有之。忽視它或關(guān)閉它，雖然可能錯(cuò)過重要的機(jī)會(huì)，但在沒有適當(dāng)控制的情況下讓員工自由訪問也可能使企業(yè)面臨風(fēng)險(xiǎn)。”

 

雖然人工智能工具已經(jīng)使用多年，但最近面向大眾發(fā)布的ChatGPT卻引發(fā)了相當(dāng)多的爭(zhēng)議，讓許多企業(yè)CIO和他們的董事會(huì)對(duì)如何決定而猶豫不決。一些企業(yè)的CIO正在非常認(rèn)真地對(duì)待行業(yè)和人類的風(fēng)險(xiǎn)。

 

美國金融業(yè)監(jiān)管局的CIO Steve Randich表示：“我每天都在擔(dān)心這一點(diǎn)。”美國金融業(yè)監(jiān)管局是對(duì)美國證券交易委員會(huì)負(fù)責(zé)的重要監(jiān)管機(jī)構(gòu)。

 

Randich指出，他最近看到的一張圖表表明，人工智能程序的“心智”能力剛剛超過了一只老鼠，并將在10年內(nèi)超過人類的能力。他說：“考慮到我的擔(dān)憂，特別是如果人工智能程序可能受到不良行為者的影響，并能夠進(jìn)行黑客攻擊，例如獲取核武器密碼。”

 

麻省理工學(xué)院斯隆管理學(xué)院高級(jí)講師George Westerman表示，全球各地的一些企業(yè)高管都在向麻省理工學(xué)院斯隆管理學(xué)院和其他機(jī)構(gòu)尋求有關(guān)使用生成式人工智能的倫理、風(fēng)險(xiǎn)和潛在責(zé)任的建議。不過，他認(rèn)為，大多數(shù)CIO已經(jīng)與他們的高管和董事會(huì)進(jìn)行了探討，而生成式人工智能本身并沒有強(qiáng)加給企業(yè)及其高管不遵守的新法律責(zé)任。

 

Westerman在談到CIO對(duì)人工智能影響個(gè)人的法律風(fēng)險(xiǎn)時(shí)表示：“我認(rèn)為，就像所有其他公司的高管一樣，人們的工作也會(huì)有法律保障。”他指出，不恰當(dāng)?shù)乩眠@項(xiàng)技術(shù)謀取個(gè)人利益是例外。

 

 

與此同時(shí)，ChatGPT的發(fā)布擾亂了監(jiān)管機(jī)構(gòu)的監(jiān)管工作。歐盟原本計(jì)劃在上個(gè)月頒布人工智能法案，但在ChatGPT發(fā)布之后選擇延遲推出，因?yàn)樵S多人擔(dān)心這些政策在生效之前就已經(jīng)過時(shí)了。在歐盟委員會(huì)及其相關(guān)管理機(jī)構(gòu)努力理清生成式人工智能的影響之際，歐洲和美國的企業(yè)高管正在認(rèn)真對(duì)待這些警告。

 

英國電網(wǎng)運(yùn)營(yíng)商N(yùn)ational Grid公司首席信息和數(shù)字官Adriana Karabutis表示：“隨著人工智能成為我們工作的關(guān)鍵部分，狹義的人工智能變成了通用的人工智能，那么誰來承擔(dān)責(zé)任?技術(shù)負(fù)責(zé)人?無生命的機(jī)器模型?批準(zhǔn)/改變訓(xùn)練模型的人類干預(yù)者?人工智能技術(shù)發(fā)展迅速，但圍繞它的控制和道德卻沒有。”該公司總部設(shè)在英國，但也在美國東北部開展業(yè)務(wù)。

 

Karabutis說，“這是一場(chǎng)追逐游戲。為此目的，同時(shí)，在企業(yè)中管理人工智能的責(zé)任在于監(jiān)督企業(yè)和組織風(fēng)險(xiǎn)的首席技術(shù)官。鑒于人工智能的興起，首席技術(shù)官/首席執(zhí)行官/首席數(shù)據(jù)官/首席信息安全官不再是信息風(fēng)險(xiǎn)的所有者。IT部門依賴于首席執(zhí)行官和所有高管的努力，這意味著必須擁有企業(yè)文化和對(duì)人工智能巨大利益以及風(fēng)險(xiǎn)的認(rèn)識(shí)。”

 

總部位于斯德哥爾摩的愛立信公司的副總裁兼企業(yè)自動(dòng)化和人工智能主管Rickard Wieselfors表示，愛立信公司看到了生成式人工智能的巨大優(yōu)勢(shì)，并正在投資創(chuàng)建多種生成式人工智能模型，包括大型語言模型。

 

他表示：“人工智能行業(yè)存在一種健全的自我批評(píng)機(jī)制，我們非常認(rèn)真地對(duì)待負(fù)責(zé)任的人工智能。在訓(xùn)練中使用的文本或源代碼的知識(shí)產(chǎn)權(quán)方面，有許多問題沒有答案。此外，查詢模型時(shí)的數(shù)據(jù)泄漏、偏差、事實(shí)錯(cuò)誤、缺乏完整性、粒度或缺乏模型準(zhǔn)確性當(dāng)然會(huì)限制用戶使用模型的目的。”

 

Wieselfors補(bǔ)充說：“能力越大，責(zé)任越大，我們支持并參與當(dāng)前的自我批評(píng)精神，以及對(duì)人工智能可能給世界帶來什么的哲學(xué)思考。”

 

Choice Hotels公司的CIO Brian Kirkland等一些CIO正在監(jiān)控這項(xiàng)技術(shù)，他們認(rèn)為生成式人工智能還沒有完全做好商業(yè)用途的準(zhǔn)備。

 

Kirkland說，“我認(rèn)為，對(duì)于各行業(yè)的企業(yè)來說，確保他們意識(shí)到使用生成式人工智能技術(shù)(例如ChatGPT)的風(fēng)險(xiǎn)、回報(bào)和影響是很重要的。數(shù)據(jù)所有權(quán)和生成的內(nèi)容存在風(fēng)險(xiǎn)，必須理解和管理，以避免對(duì)企業(yè)產(chǎn)生負(fù)面影響。與此同時(shí)，還有很多上行空間和機(jī)會(huì)值得考慮。當(dāng)能夠安全地將私有數(shù)據(jù)集與這些系統(tǒng)中的公共數(shù)據(jù)合并時(shí)，其好處將是顯著的。從生成的人工智能內(nèi)容到復(fù)雜而有意義的業(yè)務(wù)分析和決策，人工智能和機(jī)器學(xué)習(xí)如何實(shí)現(xiàn)商業(yè)價(jià)值將發(fā)生巨大變化。”

 

調(diào)研機(jī)構(gòu)Gartner公司最近對(duì)2500多名高管進(jìn)行的一項(xiàng)調(diào)查表明，45%的高管表示，對(duì)ChatGPT的關(guān)注促使他們?cè)黾恿藢?duì)人工智能的投資。70%以上的受訪者表示，他們的企業(yè)目前正在探索生成式人工智能，19%的企業(yè)正在進(jìn)行試點(diǎn)或生產(chǎn)應(yīng)用，聯(lián)合利華和CarMax等公司的項(xiàng)目已經(jīng)顯示出發(fā)展前景。

 

即將在5月15日舉辦的麻省理工學(xué)院斯隆管理學(xué)院CIO會(huì)議上，曾長(zhǎng)期擔(dān)任IBM研究員、現(xiàn)任麻省理工學(xué)院斯隆管理學(xué)院研究員的Irving Wladawsky-Berger將主持一個(gè)小組討論，將探討進(jìn)入生成式人工智能領(lǐng)域的潛在風(fēng)險(xiǎn)和回報(bào)。最近，他還主持了一場(chǎng)關(guān)于這項(xiàng)技術(shù)的會(huì)前討論。

 

Wladawsky-Berger說，“如今，我們都對(duì)生成式人工智能感到興奮。”他引用了人工智能在基因組學(xué)方面的重大進(jìn)展。

 

但他指出，對(duì)那些采用這項(xiàng)技術(shù)的人員進(jìn)行盡職調(diào)查并不是一項(xiàng)簡(jiǎn)單的任務(wù)。他說，“這需要做很多工作，我們必須弄清楚哪些是有效的，哪些是安全的，以及應(yīng)該進(jìn)行哪些試驗(yàn)。這些需要花費(fèi)一些時(shí)間。”

 

該小組的另一位CIO、Zoetis公司的首席數(shù)字和技術(shù)官Wafaa Mamilli表示，生成式人工智能正在增強(qiáng)制藥公司治療慢性人類疾病的信心。

 

她說：“由于生成式人工智能技術(shù)和基因研究計(jì)算能力的進(jìn)步，現(xiàn)在在美國和美國以外的國家、日本和歐洲都有針對(duì)治療糖尿病的試驗(yàn)。”

 

 

華爾街已經(jīng)注意到該行業(yè)對(duì)生成式人工智能的迅速接受。根據(jù)IDC公司的數(shù)據(jù)，2022年是對(duì)生成式人工智能初創(chuàng)公司投資創(chuàng)紀(jì)錄的一年，股權(quán)融資超過26億美元。

 

IDC公司最近關(guān)于生成式人工智能的幾份報(bào)告中的一份報(bào)告稱：“無論是使用Jasper.ai創(chuàng)建內(nèi)容，使用Midtravel創(chuàng)建圖像，還是使用Azure OpenAI服務(wù)進(jìn)行文本處理，都有一個(gè)生成式人工智能基礎(chǔ)模型來促進(jìn)業(yè)務(wù)的各個(gè)方面。”

 

Regeneron公司的McCowan指出，CIO們已經(jīng)有辦法設(shè)置護(hù)欄，安全地推進(jìn)生成式人工智能試點(diǎn)。

 

McCowan說：“至關(guān)重要的是，企業(yè)要有政策和指導(dǎo)方針來管理那些計(jì)劃使用這些技術(shù)的人員的訪問和行為，提醒員工保護(hù)知識(shí)產(chǎn)權(quán)或個(gè)人可識(shí)別信息，并重申共享的內(nèi)容可能會(huì)公開。讓創(chuàng)新者和律師一起找到一個(gè)基于風(fēng)險(xiǎn)的使用這些工具的模型，并清楚可能會(huì)泄露哪些數(shù)據(jù)，以及對(duì)這些解決方案的輸出有什么權(quán)利。在開始時(shí)使用風(fēng)險(xiǎn)較小的用例技術(shù)，并從每次迭代中學(xué)習(xí)。”

 

研究機(jī)構(gòu)Forrester Research公司的分析師David Truog指出，在企業(yè)開始試點(diǎn)并在生產(chǎn)中使用生成式人工智能之前，人工智能領(lǐng)導(dǎo)者給生成式人工智能貼上警告標(biāo)簽是正確的，他也相信這是可以做到的。

 

Truog說:“我不認(rèn)為停止或暫停人工智能是正確的做法。更務(wù)實(shí)、更有建設(shè)性的方法是明智地選擇專門的人工智能可以提供幫助的用例，嵌入深思熟慮的護(hù)欄，并有意識(shí)地采取空氣間隙策略。這將是一個(gè)起點(diǎn)。”

 

一家咨詢公司的DevOps IT主管指出了CIO在使用生成式人工智能時(shí)降低風(fēng)險(xiǎn)的幾種方法，包括像風(fēng)險(xiǎn)投資家一樣思考;清楚地理解技術(shù)的價(jià)值;在測(cè)試之前確定倫理和法律考慮因素;嘗試但不要急于投資;并從客戶的角度考慮其影響。

 

總部位于明尼阿波利斯的Perforce公司的首席技術(shù)官Rod Cope表示：“明智的CIO將組建監(jiān)督委員會(huì)，或與外部顧問合作，外部顧問可以指導(dǎo)企業(yè)實(shí)施，并幫助制定指導(dǎo)方針，以促進(jìn)負(fù)責(zé)任的使用。雖然投資人工智能可以為企業(yè)提供巨大的價(jià)值，但將其應(yīng)用到其技術(shù)堆棧中需要深思熟慮，以保護(hù)企業(yè)、員工和客戶。”

 

雖然生成式人工智能的興起肯定會(huì)影響人們的工作，但管理服務(wù)提供商MetTel公司的首席技術(shù)官Ed Fox等一些IT領(lǐng)導(dǎo)者認(rèn)為，這種影響可能被夸大了，盡管每個(gè)人都可能不得不適應(yīng)，否則就會(huì)落后。

 

Fox表示：“在人工智能的應(yīng)用過程中，一些人會(huì)失業(yè)，但不會(huì)達(dá)到一些人想像的嚴(yán)重程度。我們這些不接受實(shí)時(shí)百科全書的人員將被淘汰的事實(shí)。”

 

盡管如此，如果有一個(gè)主題是肯定的，那就是對(duì)大多數(shù)CIO來說，謹(jǐn)慎行事是最好的前進(jìn)道路。

 

Wipro’s Google Business集團(tuán)的總經(jīng)理Tom Richer表示，CIO們必須在扼殺創(chuàng)新的嚴(yán)格法規(guī)和確保負(fù)責(zé)任地開發(fā)和使用人工智能的指導(dǎo)方針之間取得平衡。他指出，他正在與康奈爾大學(xué)及其人工智能計(jì)劃團(tuán)隊(duì)合作，謹(jǐn)慎行事。

 

Richer說：“對(duì)于CIO和IT高管來說，意識(shí)到生成式人工智能的潛在風(fēng)險(xiǎn)和好處，并與該領(lǐng)域的專家合作，制定負(fù)責(zé)任的使用策略，這一點(diǎn)至關(guān)重要。這種合作需要大學(xué)、大型科技公司、智庫和政府研究中心的參與，以制定開發(fā)和部署人工智能技術(shù)的最佳實(shí)踐和指導(dǎo)方針。”

 

 

國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營(yíng)國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)

 

版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。