隨著GPT-4通過(guò)圖靈測(cè)試，微軟將其AI助手Copilot推向企業(yè)產(chǎn)品，谷歌宣布在意大利的手機(jī)上推出Gemini應(yīng)用，CIO們正在研究GenAI技術(shù)以保持最新進(jìn)展——但不會(huì)被技術(shù)熱情或商業(yè)提議所分心。
“GenAI可以帶來(lái)許多好處，但不能在沒有適當(dāng)考慮的情況下被采用，”GARR（意大利研究和教育社區(qū)的寬帶網(wǎng)絡(luò)）的CTO兼基礎(chǔ)設(shè)施部門主管Massimo Carboni說(shuō)，“炒作非常強(qiáng)烈，但高估其可能性的風(fēng)險(xiǎn)同樣高。在數(shù)字世界中，我們必須更加小心，AI和GenAI的第一個(gè)風(fēng)險(xiǎn)就是過(guò)度信任。”
此外，Gartner最近估計(jì)全球企業(yè)在GenAI技術(shù)上的支出并不重要。在預(yù)計(jì)今年總計(jì)5萬(wàn)億美元的IT投資中，比2023年增長(zhǎng)8%，GenAI所占的比例并不多。支出將由更傳統(tǒng)的力量推動(dòng)，例如經(jīng)典的IT服務(wù)，這將價(jià)值超過(guò)1.5萬(wàn)億美元，同比增長(zhǎng)9.7%。
相比之下，大型服務(wù)提供商正在增加對(duì)支持GenAI項(xiàng)目的技術(shù)投入，預(yù)期即將到來(lái)的繁榮，AI應(yīng)用服務(wù)器將在2024年代表超大規(guī)模服務(wù)器總投資的近60%，然而，企業(yè)更加謹(jǐn)慎。Gartner看到GenAI的“故事、計(jì)劃、執(zhí)行”周期：2023年討論，2024年計(jì)劃實(shí)施，2025年執(zhí)行。
GenAI在CIO的審查下
inewa（Elevion Group的成員，一家活躍于沼氣和生物甲烷生成及能效領(lǐng)域的認(rèn)證ESCO）的CIO Edoardo Esposito，目前正處于測(cè)試Copilot的規(guī)劃階段，因?yàn)閕newa的IT系統(tǒng)全部基于微軟系統(tǒng)，這款GenAI產(chǎn)品與Office套件完美集成。他的實(shí)驗(yàn)與其他經(jīng)理如CFO、法律總監(jiān)和機(jī)構(gòu)關(guān)系及監(jiān)管總監(jiān)一起進(jìn)行。
“我們正在測(cè)試金融方面的使用，例如收入和支出的財(cái)務(wù)分析，”Esposito說(shuō)，“我認(rèn)為這是最大的機(jī)會(huì)所在，目前我不認(rèn)為法律方面的使用有前景，但我們正在嘗試使用GenAI來(lái)管理合同和研究法律。”
當(dāng)然，AI不提供法律建議，但它有助于導(dǎo)航不斷更新或更改的大量規(guī)則。
“即使是用AI生成的新法律的簡(jiǎn)單要點(diǎn)總結(jié)，發(fā)送給高管審閱也有幫助，”他說(shuō)，“對(duì)我們這樣的小企業(yè)來(lái)說(shuō)，每月30美元就像辦公室里多了一個(gè)人。”
盡管他對(duì)自動(dòng)化簡(jiǎn)單任務(wù)毫不猶豫，Esposito并不認(rèn)為GenAI可以完全自動(dòng)化復(fù)雜任務(wù)，除此之外還有其他擔(dān)憂。“這些模型對(duì)我來(lái)說(shuō)似乎不可持續(xù)。它們有巨大的參數(shù)，訓(xùn)練需要大量能源。”他說(shuō)。
AI的不可持續(xù)性
Carboni還強(qiáng)調(diào)了AI的高能耗及其增加了技術(shù)的高成本。
“全球的ICT占總能源成本的9%，即約3000億美元（2023年），”他說(shuō)，“這一比例在過(guò)去10年中增加了多達(dá)60%，并且注定會(huì)進(jìn)一步增長(zhǎng)。”
然后，在培訓(xùn)方面存在一個(gè)問題，據(jù)Carboni說(shuō)，“GenAI正在顛覆傳統(tǒng)以人為中心的方法，”他說(shuō)，“今天，不是人們訓(xùn)練模型，然后改變公司組織，而是人們必須適應(yīng)從市場(chǎng)上來(lái)的模型，這對(duì)我來(lái)說(shuō)是一個(gè)風(fēng)險(xiǎn)。GenAI玩家越少，越會(huì)造成依賴和公司失去控制。”
此外，Carboni補(bǔ)充道，AI風(fēng)險(xiǎn)在于將數(shù)字功能限制在少數(shù)決定行為和成本的主體上，因?yàn)镚enAI的進(jìn)入門檻很高，大多數(shù)公司只能購(gòu)買服務(wù)，卻沒有能力區(qū)分不同產(chǎn)品之間的差異，選擇很少，風(fēng)險(xiǎn)在于產(chǎn)品的標(biāo)準(zhǔn)化。“所以在我看來(lái)，繼續(xù)在內(nèi)部構(gòu)建一些東西總是更好。”
與大型科技公司競(jìng)爭(zhēng)
公司之間的競(jìng)爭(zhēng)正在加劇，許多人，包括Carboni在內(nèi)，認(rèn)為一些大供應(yīng)商的銷售模式在許多方面都不公平，因?yàn)槟承┦袌?chǎng)參與者具備其他公司不具備的能力。
“像Microsoft和Google這樣的公司擁有產(chǎn)品生態(tài)系統(tǒng)，這種控制多達(dá)80%數(shù)據(jù)市場(chǎng)的寡頭壟斷對(duì)其他公司有巨大優(yōu)勢(shì)，”他說(shuō)，“大型科技公司的策略還旨在收購(gòu)初創(chuàng)公司，以增強(qiáng)其對(duì)數(shù)據(jù)的主導(dǎo)地位。”所以很難想到能夠與之競(jìng)爭(zhēng)的新進(jìn)入者。確實(shí)存在提供替代產(chǎn)品的初創(chuàng)公司，這是開發(fā)算法的好方法，但這還不足以取得成功。
對(duì)Carboni來(lái)說(shuō)，這并不意味著GenAI的失敗，而是希望深入研究和管理它。“我認(rèn)為AI非常重要，我們將在GARR上研究它，因?yàn)槲覀冇写罅繑?shù)據(jù)可以利用，”他補(bǔ)充道，“目的是導(dǎo)出一個(gè)GenAI模型，以更好地定義我們的內(nèi)部知識(shí)庫(kù)，這目前還不是公開的，但如果我們想公開，就必須為外部閱讀開發(fā)它，我們可以為此目的使用一個(gè)小型語(yǔ)言模型。”
SLMs：CIO尋找控制的途徑
小型語(yǔ)言模型（SLMs）是ML算法，訓(xùn)練在比大型語(yǔ)言模型（LLMs）更小、更具體的數(shù)據(jù)集上。初步測(cè)試表明，它們?cè)谌蝿?wù)上更高效、成本更低、準(zhǔn)確性更高。實(shí)際上，Esposito也在關(guān)注SLMs的發(fā)展，并認(rèn)為它們?cè)谏虡I(yè)用途上更有前途，也更可持續(xù)。大型產(chǎn)品訓(xùn)練優(yōu)秀，但通用，而公司需要垂直應(yīng)用。
“通過(guò)API使用大型GenAI模型來(lái)訓(xùn)練自己的GenAI產(chǎn)品，需要大量的能源資源，”Esposito說(shuō)，“這就像把一個(gè)數(shù)字同事帶進(jìn)你的家，但這個(gè)同事成本很高，你必須用你特定的公司信息來(lái)訓(xùn)練他，不斷提供新數(shù)據(jù)以保持更新，你還需要大量電力來(lái)為他提供動(dòng)力，這就是為什么我對(duì)大型語(yǔ)言模型不感興趣，但對(duì)小型語(yǔ)言模型非常感興趣，公司需要更有針對(duì)性、風(fēng)險(xiǎn)更小的偏見和隱私侵犯。”
例如，Esposito說(shuō)，IT可以隔離一個(gè)狹窄的語(yǔ)言任務(wù)，使用一個(gè)SLM，將其放在云端，并僅允許其訪問公司文件數(shù)據(jù)庫(kù)，從那里，它只回答與這些文件相關(guān)的問題。
“從初步實(shí)驗(yàn)來(lái)看，似乎不僅能減少能耗，還能降低出現(xiàn)幻覺的概率，”他說(shuō)，“畢竟，企業(yè)的AI模型不需要知道所有事情，只需對(duì)特定應(yīng)用作出響應(yīng)。小型語(yǔ)言模型（SLMs）仍然可以進(jìn)行翻譯、執(zhí)行市場(chǎng)趨勢(shì)分析、自動(dòng)化客戶服務(wù)、管理IT工單、創(chuàng)建商業(yè)虛擬助手等等。限制領(lǐng)域并使其專業(yè)化，同時(shí)保持在IT的控制下，對(duì)我來(lái)說(shuō)似乎更有效率。”
衡量GenAI業(yè)務(wù)和小型模型
控制是關(guān)鍵。Bruno Kessler基金會(huì)增強(qiáng)中心主任Alessandro Sperduti表示，在AI領(lǐng)域，我們面臨私人公司的主導(dǎo)風(fēng)險(xiǎn)。“過(guò)去，世界上最重要的AI系統(tǒng)是由大學(xué)開發(fā)的，而現(xiàn)在不是了，因?yàn)樗饺思夹g(shù)巨頭已經(jīng)崛起，他們的支出能力是公共領(lǐng)域無(wú)法競(jìng)爭(zhēng)的。”他說(shuō)。
事實(shí)上，在科學(xué)界，有些人希望通過(guò)政治干預(yù)將AI重新置于控制之下，就像高能物理和CERN的建立那樣，CERN是一個(gè)將多個(gè)國(guó)家聯(lián)合起來(lái)合作進(jìn)行粒子物理理論和實(shí)驗(yàn)的機(jī)構(gòu)，但其他研究人員認(rèn)為，只要政府對(duì)AI工具的使用進(jìn)行監(jiān)管，就像歐盟通過(guò)AI法案那樣，一些私人企業(yè)的霸權(quán)并不會(huì)帶來(lái)風(fēng)險(xiǎn)。
“與物理世界發(fā)生的事情不同，那里沒有大生意，而在AI領(lǐng)域，有巨大的利潤(rùn)，”Sperduti說(shuō)，“這就是為什么像Microsoft和Google這樣的公司今天競(jìng)爭(zhēng)激烈。每天我們都能看到新的目標(biāo)被實(shí)現(xiàn)，超越了之前的成績(jī)。雖然存在一些初創(chuàng)公司，但與其他領(lǐng)域相比，這些公司很少，因?yàn)樗璧耐顿Y非常巨大。因此，我不認(rèn)為它們能真正威脅當(dāng)前參與者的主導(dǎo)地位并創(chuàng)造強(qiáng)有力的競(jìng)爭(zhēng)動(dòng)態(tài)。”
然而，在小型模型方面，Sperduti強(qiáng)調(diào)了檢索增強(qiáng)生成（RAG）系統(tǒng)的存在，這些系統(tǒng)使用大型語(yǔ)言模型（LLMs）回答存儲(chǔ)在本地?cái)?shù)據(jù)庫(kù)中的文件問題。通過(guò)這種方式，文件保持私密，不會(huì)交給提供LLM的組織。RAGs為公司提供了更多的數(shù)據(jù)控制，并且成本更低。
“但它們需要本地管理，”他強(qiáng)調(diào)說(shuō)，“你也可以本地使用開源語(yǔ)言模型，這些模型比LLMs小，但性能較低，因此可以視為SLMs。”
關(guān)于成本的可持續(xù)性，Sperduti表示，LLMs由大型科技公司作為公用事業(yè)服務(wù)進(jìn)行管理，就像我們購(gòu)買電力一樣，而擁有一個(gè)SLM意味著在家中保持渦輪機(jī)發(fā)電。“因此，必須進(jìn)行經(jīng)濟(jì)評(píng)估，”他說(shuō)，“如果模型的使用頻繁，這可能是有利的，但這是一個(gè)必須經(jīng)過(guò)仔細(xì)分析后做出的選擇，考慮到模型的成本、更新的成本、工作在其上的人員等。”
掌舵的CIO：治理和專業(yè)知識(shí)
Carboni還警告說(shuō)，如果選擇SLM，IT的任務(wù)將更重，CIO的生活不一定會(huì)簡(jiǎn)化。
“在LLMs中，大部分?jǐn)?shù)據(jù)處理是通過(guò)統(tǒng)計(jì)方法完成的，然后IT部門會(huì)針對(duì)特定主題訓(xùn)練模型以糾正錯(cuò)誤，提供有針對(duì)性的高質(zhì)量數(shù)據(jù)，”他說(shuō)，“SLMs成本更低，需要的數(shù)據(jù)也更少，但正因?yàn)槿绱耍浣y(tǒng)計(jì)計(jì)算效果不如LLMs，因此需要非常高質(zhì)量的數(shù)據(jù)，同時(shí)數(shù)據(jù)科學(xué)家也需要投入大量工作，否則，使用通用數(shù)據(jù)模型可能會(huì)產(chǎn)生許多錯(cuò)誤。”
此外，SLMs對(duì)于公司來(lái)說(shuō)非常有前景和吸引力，甚至大科技公司也在提供和宣傳它們，如Google的Gemma和Microsoft的Phi-3。因此，根據(jù)Esposito的說(shuō)法，治理仍然是基礎(chǔ)，模型應(yīng)該保持為封閉系統(tǒng)。
“SLM更容易管理，并且成為公司從AI中提取附加價(jià)值的重要資產(chǎn)，”他說(shuō)，“否則，使用大型模型和開放系統(tǒng)時(shí)，你必須同意與Google、Microsoft和OpenAI共享公司的戰(zhàn)略信息，這就是為什么我更喜歡與可以開發(fā)定制化方案并提供封閉系統(tǒng)的系統(tǒng)集成商合作，僅供內(nèi)部使用。我認(rèn)為讓員工使用通用產(chǎn)品并將公司數(shù)據(jù)輸入其中是不明智的，這些數(shù)據(jù)可能也具有敏感性。數(shù)據(jù)和AI治理對(duì)公司來(lái)說(shuō)至關(guān)重要。”
同樣重要的是CIO的能力。
“在我的工作中，我認(rèn)為不僅要評(píng)估服務(wù)的接入成本，還要考慮我對(duì)服務(wù)的影響能力，”Carboni說(shuō)，“CIO必須建立自己的技術(shù)知識(shí)背景，并配備一支有能力的團(tuán)隊(duì)，包括一部分年輕人，能夠在現(xiàn)代環(huán)境中使用云原生技術(shù)工作。這樣，CIO不僅僅是購(gòu)買產(chǎn)品并期待其表現(xiàn)，而是能夠?qū)υ摦a(chǎn)品或服務(wù)進(jìn)行操作和影響。”
因此，CIO仍然掌握著方向盤。無(wú)論GenAI的發(fā)展軌跡如何，IT主管希望能夠決定方向、應(yīng)用和目標(biāo)。
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，旗下運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。旗下運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)