公司如何解決AI模型中的偏見、隱私問題和缺乏透明度的情況?
為了應(yīng)對這些挑戰(zhàn)及其他更多問題，公司需要制定一個清晰且積極主動的AI治理計劃。對于將AI視為重要商業(yè)舉措的公司而言，AI治理需要從一開始就融入其IT戰(zhàn)略中，它不是一個可選項。一個全面的AI治理計劃需要解決政府法規(guī)和/或標(biāo)準(zhǔn)、安全要求以及業(yè)務(wù)層面的KPI，并包括以下方面：
• 有效性——AI工作負(fù)載是否完成了其既定目標(biāo)?它是否高效?相對于其用例和目標(biāo)，它的表現(xiàn)如何?
• 穩(wěn)健性——隨著情況的發(fā)展或面臨惡意破壞系統(tǒng)的企圖時，系統(tǒng)如何保持性能?系統(tǒng)抵御對抗性威脅的能力如何?
• 隱私性——系統(tǒng)是否存在數(shù)據(jù)泄露的風(fēng)險，從而可能暴露敏感或個人信息?
• 偏見——深入查看模型與其預(yù)期用例的關(guān)系，以確定系統(tǒng)中是否存在偏見。在不同場景中，偏見的處理方式不同，因此在上下文中衡量這一點至關(guān)重要。例如，在醫(yī)療診斷應(yīng)用中，你可能想要針對某些人群(如特定血統(tǒng)的老年男性易患心臟病)，但在招聘應(yīng)用中則不希望如此。
• 可解釋性——AI系統(tǒng)對用戶和開發(fā)人員來說是否易于理解?我們能否理解系統(tǒng)是如何得出其預(yù)測或問題答案的?這對于透明度和信任至關(guān)重要。
AI治理不僅僅是為了規(guī)避風(fēng)險——它還能通過幫助團(tuán)隊協(xié)同工作并提高效率，來加速公司的AI采用。通過清晰且協(xié)作地管理AI，公司可以更快地采用AI并獲得更好的結(jié)果。使用能夠全面了解風(fēng)險和業(yè)務(wù)績效指標(biāo)(如偏見、合規(guī)性、有效性、穩(wěn)健性和可解釋性)的工具，公司發(fā)現(xiàn)更容易構(gòu)建公平、安全且與公司目標(biāo)一致的AI系統(tǒng)。
諸如歐盟的《人工智能法案》等新興法規(guī)如何影響負(fù)責(zé)任AI的采用?
事實上，目前全球有近500項關(guān)于AI的法律正在制定中，其中200項在美國處于聯(lián)邦層面，另外還有83起僅與通用AI相關(guān)的訴訟。全球許多政府正在考慮制定法規(guī)，以在使用AI時保護(hù)其公民。這種非常活躍的監(jiān)管環(huán)境無疑正在推動企業(yè)從一開始就考慮其AI應(yīng)用中的責(zé)任和公平性。
但還有更強(qiáng)大的市場力量在發(fā)揮作用。公司明白，AI的采用對其生存至關(guān)重要，未來的勝者將由其有效利用AI的能力決定。此外，他們明白品牌聲譽是其最寶貴的資產(chǎn)之一。在AI方面的失誤——尤其是在關(guān)鍵任務(wù)環(huán)境中(如交易算法失控、用戶隱私泄露或未達(dá)到安全標(biāo)準(zhǔn))——會侵蝕公眾信任并損害公司的底線。這可能帶來嚴(yán)重的后果。由于公司的競爭力和潛在的生存能力都岌岌可危，AI治理已成為他們不容忽視的商業(yè)要務(wù)。
隨著AI創(chuàng)新的加速，你認(rèn)為當(dāng)前對負(fù)責(zé)任AI的努力是否足夠，還是我們需要更強(qiáng)大的框架?
AI的采用尚處于早期階段，我認(rèn)為推動負(fù)責(zé)任AI的動力將來自多個方向。當(dāng)然，我們看到政府和聯(lián)邦層面都有很多活動，但這正在形成一種分散的方法。我們還看到，一些領(lǐng)先的公司明白采用AI對其未來至關(guān)重要，并希望快速行動。他們沒有等待監(jiān)管環(huán)境穩(wěn)定下來，而是在采用負(fù)責(zé)任AI原則方面發(fā)揮領(lǐng)導(dǎo)作用，以保護(hù)其品牌聲譽。因此，我相信公司會出于自身利益而明智地行動，以加速其AI計劃并提高業(yè)務(wù)回報。但這些動機(jī)與更廣泛的社會利益完美契合：部署安全、可靠和值得信賴的AI。
企業(yè)聲譽和市場力量正在確保AI治理不僅僅是一個事后考慮——它是一項商業(yè)要務(wù)，這與監(jiān)管努力同時發(fā)生，這對每個人來說都是好消息。
鑒于AI決策的不可預(yù)測性，你建議采取哪些風(fēng)險管理策略來監(jiān)測和減輕與AI相關(guān)的風(fēng)險?
正如公司建立數(shù)據(jù)治理來管理組織數(shù)據(jù)、建立云治理來監(jiān)督其向云計算的過渡一樣，他們現(xiàn)在必須采用全面的AI治理策略來指導(dǎo)其AI的采用。
有效的AI治理涵蓋整個AI生命周期，確保與組織戰(zhàn)略、道德原則和監(jiān)管要求保持一致。
一個強(qiáng)大的治理框架涉及AI使用的每個階段，從采用和開發(fā)到風(fēng)險管理。監(jiān)測在這個過程中發(fā)揮著關(guān)鍵作用，確保持續(xù)的監(jiān)督和合規(guī)性。實施AI治理的關(guān)鍵步驟包括：
• 盤點和發(fā)現(xiàn)：識別和編錄AI系統(tǒng)和資產(chǎn)。
• 入職和工作流程：定義將AI集成到運營中的流程。
• 政策、文檔和合規(guī)準(zhǔn)備：制定明確的指導(dǎo)方針，并確保遵守法規(guī)和框架——如歐盟的《人工智能法案》或NIST，或公司自行設(shè)計的框架。
• 測試、驗證和風(fēng)險優(yōu)化：評估AI性能并減輕潛在風(fēng)險。
• 報告、警報和分析：通過全面監(jiān)測提供見解和早期預(yù)警。此外，系統(tǒng)如何實現(xiàn)業(yè)務(wù)KPI和性能?
• 投資回報率跟蹤：衡量AI投資產(chǎn)生的價值。
• 持續(xù)監(jiān)測：保持持續(xù)警惕，以應(yīng)對新出現(xiàn)的挑戰(zhàn)。
通過遵循這些步驟，企業(yè)可以確保其AI計劃具有戰(zhàn)略性、道德性和可持續(xù)性。
對于AI系統(tǒng)出現(xiàn)故障或產(chǎn)生偏見輸出的情況，企業(yè)應(yīng)該制定哪些具體的應(yīng)急響應(yīng)協(xié)議?
擁有有效AI治理策略的公司能夠更好地主動應(yīng)對潛在風(fēng)險并防止最壞情況的發(fā)生。事實上，分析師報告稱，到2028年，實施全面AI治理平臺的企業(yè)相比沒有此類系統(tǒng)的企業(yè)，AI相關(guān)的道德事件將減少40%。
其中一個關(guān)鍵因素是持續(xù)監(jiān)測——根據(jù)應(yīng)用的關(guān)鍵程度和風(fēng)險水平，可以是定期或連續(xù)的——以便快速發(fā)現(xiàn)和響應(yīng)問題。這種監(jiān)測可以根據(jù)預(yù)定義的界限自動通知相應(yīng)的團(tuán)隊，并在出現(xiàn)問題時建議補救步驟。
同樣重要的是確保團(tuán)隊接受培訓(xùn)并為緊急情況做好準(zhǔn)備。就像強(qiáng)大的安全事件響應(yīng)計劃一樣，跨職能團(tuán)隊的定期培訓(xùn)至關(guān)重要。這些培訓(xùn)應(yīng)模擬AI事件場景，包括執(zhí)行補救策略和完善溝通響應(yīng)計劃。
在與客戶溝通時，要優(yōu)先考慮透明度、誠實和真實性。及時分享你所知道的信息，有新信息時提供更新，并向客戶保證你正在迅速采取行動解決問題。如果處理得當(dāng)，有效的應(yīng)急響應(yīng)甚至可以通過展示其對負(fù)責(zé)任AI的承諾和高度的責(zé)任感，來幫助品牌建立與客戶的信任。
企業(yè)網(wǎng)D1net(hfnxjk.com)：
國內(nèi)主流的to B IT門戶，旗下運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。旗下運營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號