讓我們先仔細(xì)看看這些風(fēng)險(xiǎn)。
新的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)
AI為黑客提供了新的復(fù)雜工具，特別是隨著新的開(kāi)源AI技術(shù)的發(fā)展。我們看到越來(lái)越多的網(wǎng)絡(luò)犯罪分子，尤其是外國(guó)惡意行為者，利用AI生成高效的網(wǎng)絡(luò)釣魚(yú)活動(dòng)和網(wǎng)絡(luò)攻擊。自O(shè)penAI在2022年11月發(fā)布ChatGPT以來(lái)，釣魚(yú)郵件數(shù)量增加了1265%。
最大的挑戰(zhàn)之一是深度偽造。黑客可以使用AI冒充任何人，包括CEO和決策者。比如，有一名香港的金融工作人員被深度偽造所欺騙，支付了2500萬(wàn)美元，這名工作人員收到了一封據(jù)稱是首席財(cái)務(wù)官發(fā)來(lái)的郵件，要求釋放資金，盡管有些懷疑，但當(dāng)他加入了一個(gè)顯示首席財(cái)務(wù)官及其同事的Zoom會(huì)議時(shí)，這名工作人員就不再懷疑了。實(shí)際上，這次Zoom會(huì)議上除了這名工作人員，其他人都是AI生成的深度偽造。
我們正在進(jìn)入一場(chǎng)AI軍備競(jìng)賽，我們需要AI驅(qū)動(dòng)的解決方案來(lái)保護(hù)我們免受使用AI的黑客的攻擊。確保你的安全供應(yīng)商使用最新的AI技術(shù)，并讓你的管理團(tuán)隊(duì)了解AI帶來(lái)的潛在威脅。
AI對(duì)公司聲譽(yù)的風(fēng)險(xiǎn)
如果AI沒(méi)有正確實(shí)施和監(jiān)控，會(huì)對(duì)公司的聲譽(yù)造成風(fēng)險(xiǎn)。
以加拿大航空公司為例，由于AI驅(qū)動(dòng)的客戶服務(wù)出現(xiàn)故障，他們的聲譽(yù)受到了損害。一位乘客因參加家人葬禮未能申請(qǐng)喪葬優(yōu)惠票，事后向加拿大航空公司要求退還差價(jià)，AI驅(qū)動(dòng)的聊天機(jī)器人回復(fù)說(shuō)“沒(méi)問(wèn)題”，但問(wèn)題是，加拿大航空公司的政策明確規(guī)定，折扣必須在旅行前申請(qǐng)。加拿大航空公司選擇在法庭上爭(zhēng)論此事，而不是提供乘客要求的小額折扣，結(jié)果損害了公司的聲譽(yù)。
在部署AI工具時(shí)要小心，并勤奮監(jiān)控它們的表現(xiàn)。更重要的是，在處理與AI相關(guān)的問(wèn)題時(shí)，要考慮對(duì)聲譽(yù)的影響。
AI可能帶來(lái)的法律風(fēng)險(xiǎn)
像任何技術(shù)一樣，AI也并不完美，而這些缺陷可能導(dǎo)致法律問(wèn)題。
例如，金融科技公司Hello Digit原本應(yīng)該幫助客戶儲(chǔ)蓄并保證不透支。由于AI算法出錯(cuò)，導(dǎo)致公司從客戶的利息和透支費(fèi)用中扣取了一部分，這也導(dǎo)致了消費(fèi)者金融保護(hù)局（CFPB）對(duì)Hello Digit采取了行動(dòng)，Hello Digit可能需要在法庭上為其AI解決方案進(jìn)行辯護(hù)。
AI能夠?qū)崿F(xiàn)一些非常出色的功能，但僅僅因?yàn)锳I可以做到并不意味著它是合法的。例如，F(xiàn)acebook（現(xiàn)為Meta）的AI面部識(shí)別技術(shù)可以識(shí)別照片中的人，這聽(tīng)起來(lái)完全無(wú)害——這是一張你和朋友拍的照片——但實(shí)際上違反了伊利諾伊州的生物識(shí)別隱私法，這個(gè)和解案使Facebook付出了6.5億美元的代價(jià)。
AI可能帶來(lái)的運(yùn)營(yíng)風(fēng)險(xiǎn)
使用AI的自動(dòng)化運(yùn)營(yíng)流程需要管理監(jiān)督和對(duì)人類行為的考慮。
2021年，Zillow的股價(jià)暴跌，主要原因是他們依賴于一個(gè)錯(cuò)誤的AI算法來(lái)預(yù)測(cè)房?jī)r(jià)，Zillow根據(jù)這些預(yù)測(cè)購(gòu)買房屋。AI可以成為預(yù)測(cè)分析的強(qiáng)大工具，但即使是AI也只能基于歷史信息做出預(yù)測(cè)。諸如新冠疫情大流行這樣的事件必然會(huì)扭曲預(yù)測(cè)分析，這對(duì)Zillow產(chǎn)生了不利影響。
任何運(yùn)營(yíng)變化也必須考慮到人類因素，人們必須接受新的AI流程。例如，UPS開(kāi)發(fā)了ORION，一個(gè)AI驅(qū)動(dòng)的平臺(tái)，用于規(guī)劃包裹和卡車的路線，但為了讓Orion發(fā)揮作用，UPS必須說(shuō)服員工適應(yīng)新的系統(tǒng)。一開(kāi)始，員工不喜歡適應(yīng)，花了些時(shí)間讓員工使用新的AI驅(qū)動(dòng)程序，最終，Orion降低了燃料和維護(hù)成本，并使司機(jī)能夠進(jìn)行更多的投遞，然而，ORION幾乎失敗，因?yàn)閱T工并不真正想要它。
顛覆風(fēng)險(xiǎn)
最大的風(fēng)險(xiǎn)是當(dāng)你的競(jìng)爭(zhēng)對(duì)手積極采用AI時(shí)，你卻沒(méi)有。
根據(jù)IBM的數(shù)據(jù)，42%的企業(yè)規(guī)模組織已經(jīng)部署了AI，40%正在探索AI采用模式，其中59%加速了AI投資。
AI已經(jīng)顯著影響了銷售和營(yíng)銷、產(chǎn)品開(kāi)發(fā)、服務(wù)運(yùn)營(yíng)和供應(yīng)鏈管理，未能利用AI創(chuàng)造競(jìng)爭(zhēng)優(yōu)勢(shì)的公司面臨落后的風(fēng)險(xiǎn)。
AI機(jī)會(huì)提供競(jìng)爭(zhēng)優(yōu)勢(shì)
要利用AI獲得最佳競(jìng)爭(zhēng)優(yōu)勢(shì)，企業(yè)必須確定AI在哪些方面可以帶來(lái)最大的回報(bào)。
麥肯錫的研究顯示，GenAI的用例通常分為四個(gè)領(lǐng)域：客戶關(guān)系、銷售和營(yíng)銷、軟件工程以及研究和開(kāi)發(fā)。
以下是AI為企業(yè)帶來(lái)的最有前景的機(jī)會(huì)領(lǐng)域：
銷售和營(yíng)銷——AI通過(guò)增強(qiáng)客戶互動(dòng)來(lái)改進(jìn)營(yíng)銷和增加銷售。例如，凱捷使用一個(gè)AI平臺(tái)來(lái)跟蹤銷售漏斗中的買家意圖，將合格潛在客戶的數(shù)量增加了五倍。星巴克使用AI分析客戶數(shù)據(jù)，以定制優(yōu)惠并應(yīng)用動(dòng)態(tài)定價(jià)，來(lái)提高客戶忠誠(chéng)度和平均訂單價(jià)值。
產(chǎn)品開(kāi)發(fā)——AI在預(yù)測(cè)客戶需求和行為方面非常有價(jià)值，使其成為產(chǎn)品開(kāi)發(fā)的理想工具。Stitch Fix 使用 AI 為客戶策劃個(gè)性化服裝，分析偏好、時(shí)尚趨勢(shì)、反饋和其他因素，以定制服裝并影響庫(kù)存決策。
服務(wù)運(yùn)營(yíng)——AI可以促進(jìn)客戶服務(wù)。例如，聯(lián)合利華的AI系統(tǒng)將客戶服務(wù)響應(yīng)時(shí)間減少了90%。公司還使用AI進(jìn)行預(yù)測(cè)分析，用于計(jì)劃維護(hù)等應(yīng)用。例如，GE航空公司將計(jì)劃外停機(jī)時(shí)間減少了50%，并節(jié)省了10億美元的維護(hù)成本。
供應(yīng)鏈管理——正如UPS的例子所示，AI可以優(yōu)化運(yùn)輸和物流。馬士基使用AI進(jìn)行實(shí)時(shí)貨物跟蹤，在出現(xiàn)延誤時(shí)方便通知客戶。巴西的Delly’s Food Service使用AI進(jìn)行動(dòng)態(tài)定價(jià)優(yōu)化，通過(guò)管理不斷變化的市場(chǎng)價(jià)格，將其毛利率提高了1.1%（在低利潤(rùn)業(yè)務(wù)中這是一個(gè)巨大的數(shù)額）。
任何希望在當(dāng)今市場(chǎng)競(jìng)爭(zhēng)的企業(yè)都將采用AI，但高層管理人員必須保持警惕。雖然AI存在需要管理的風(fēng)險(xiǎn)，但AI可以帶來(lái)巨大的好處，使任何公司在與更大的競(jìng)爭(zhēng)對(duì)手競(jìng)爭(zhēng)中獲得競(jìng)爭(zhēng)優(yōu)勢(shì)。
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國(guó)內(nèi)主流的to B IT門戶，旗下運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。旗下運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開(kāi)頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號(hào)