該數(shù)據(jù)庫(kù)包含700多個(gè)AI風(fēng)險(xiǎn)，顯示AI系統(tǒng)的風(fēng)險(xiǎn)（51%）多于人為風(fēng)險(xiǎn)（34%），且這些風(fēng)險(xiǎn)更可能在AI部署后出現(xiàn)（65%），而非開發(fā)過程中（10%），然而，即使是最詳盡的AI框架也忽略了數(shù)據(jù)庫(kù)中約30%的風(fēng)險(xiǎn)。
最常涉及的風(fēng)險(xiǎn)領(lǐng)域包括：
• “AI系統(tǒng)的安全、故障和局限性” (76%)
• “社會(huì)經(jīng)濟(jì)和環(huán)境危害” (73%)
• “歧視和有害影響” (71%)
此外，MIT數(shù)據(jù)庫(kù)中提到的其他風(fēng)險(xiǎn)包括“隱私和安全” (68%) 以及“惡意行為者和濫用” (68%)，相比之下，“人機(jī)交互” (41%) 和“錯(cuò)誤信息” (44%) 的關(guān)注度稍低。
這些基準(zhǔn)風(fēng)險(xiǎn)有助于更好地理解AI在商業(yè)領(lǐng)域中的風(fēng)險(xiǎn)與收益之間的平衡，然而，關(guān)鍵問題在于如何確切地判斷收益何時(shí)超越了風(fēng)險(xiǎn)。行業(yè)專家認(rèn)為，目前我們還沒有達(dá)到這個(gè)臨界點(diǎn)。
Fordham大學(xué)Gabelli商學(xué)院的教授W. Raghupathi指出，引入新技術(shù)對(duì)任何企業(yè)來說都是一項(xiàng)重大挑戰(zhàn)，尤其是復(fù)雜的AI。規(guī)模、復(fù)雜性以及實(shí)施和部署的難度、升級(jí)、支持等都是技術(shù)相關(guān)的問題。此外，隱私、安全、信任、用戶和客戶接受度也是關(guān)鍵挑戰(zhàn)。再加上缺乏有效的成本衡量模型，這使得挑戰(zhàn)更加嚴(yán)峻。
另一個(gè)挑戰(zhàn)是AI的采用速度非?？?，甚至在任何已知和不可預(yù)見的風(fēng)險(xiǎn)浮現(xiàn)之前。“我們需要快速行動(dòng)，并更快地思考，回答如何展示AI給企業(yè)帶來的價(jià)值，以及這是否值得冒險(xiǎn)的問題，”LogicGate的產(chǎn)品和技術(shù)總裁Jay Jamison表示，“有很多AI解決方案可能能夠提高效率，但它們應(yīng)如何與法規(guī)指南、安全風(fēng)險(xiǎn)和額外的治理需求等因素進(jìn)行衡量？”
Raghupathi指出，目前判斷AI的收益是否超過風(fēng)險(xiǎn)可能還為時(shí)過早。“應(yīng)用程序的部署與其對(duì)業(yè)務(wù)的影響之間存在滯后。像低級(jí)自動(dòng)化這樣的特定應(yīng)用程序取得了成功，但支持戰(zhàn)略的高級(jí)應(yīng)用程序尚未轉(zhuǎn)化為實(shí)質(zhì)性利益。”
他還提到，評(píng)估復(fù)雜應(yīng)用程序與簡(jiǎn)單自動(dòng)化任務(wù)的影響和收益可能需要數(shù)年時(shí)間，因?yàn)槲覀冞€沒有評(píng)估這些好處的基準(zhǔn)或定量模型。
雖然AI目前備受業(yè)界關(guān)注，但這種熱度將不可避免地隨著新技術(shù)和新方法的出現(xiàn)而減退。隨著AI熱潮的消退，企業(yè)將更加仔細(xì)地評(píng)估其風(fēng)險(xiǎn)與收益。
Jamison指出，隨著技術(shù)變得更強(qiáng)大，AI將消耗更多的能源，成本將不可避免地上升。“目前，AI既具有很高的價(jià)值又相對(duì)廉價(jià)，使許多企業(yè)能夠享受其帶來的好處，但這種情況不會(huì)永遠(yuǎn)持續(xù)下去，最終賬單將到來。”
他還強(qiáng)調(diào)，需要更強(qiáng)的AI治理來進(jìn)行更有意義的風(fēng)險(xiǎn)評(píng)估。“企業(yè)必須考慮他們計(jì)劃如何以及為什么使用AI，并識(shí)別其使用中可能帶來的潛在風(fēng)險(xiǎn)。忽視這些問題是不可行的，必須有一個(gè)計(jì)劃來確保這些AI解決方案既安全又有效地使用。”
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，旗下運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。旗下運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)