如果缺乏適當的步驟來確保機器學習模型所做決策的可信度，那么許多企業組織可能會在不知不覺中暴露于聲譽和財務風險中。使用缺乏“可解釋性”和透明度的“黑盒”AI技術會使企業組織無法獲悉決策產生的原因和過程，更無法獲悉決策是何時出現問題的。

 

AI應用以輸出決策判斷為目標，隨著人們在日常生活中越來越依賴AI，能夠理解決策產生的過程也變得愈發重要。這種情況下，“可解釋的”AI概念應運而生。所謂“可解釋的AI”是指人類能夠通過動態生成的圖表或文本描述輕松理解AI技術做出決策的路徑。AI的可解釋性越高，人們越容易理解為什么做出某些決定或判斷。

 

如今，金融機構正處在十字路口。IBM和Morning Consult的一項新研究發現，金融領域中44%的企業組織表示，有限的專業知識和技能是他們成功部署AI技術最大的挑戰。在整個疫情大流行期間，采用新技術來提高運營效率并使金融機構在競爭對手中脫穎而出的壓力越來越大。隨著越來越多的組織部署AI技術，重要的是要確保輸出結果的公平公正，提升對AI決策的信任度，并擴大AI部署規模以優化其業務運營。

 

 

首先也是最重要的，在任何金融機構開始考慮將AI集成到其業務運營中之前，他們必須先要從最基礎的定義政策和規范等方面了解道德和值得信賴的AI技術。金融服務企業已經意識到了這一點，因為在IBM的《2021年全球人工智能采用指數報告》中，85%的受訪者表示，能夠解釋人工智能如何做出決定對他們的業務很重要。

 

金融組織應該能夠清楚地定義“公平”在其行業中的真正含義以及如何監控公平。同樣地，組織還應該清楚他們如今作為公司實體的立場以及哪些政策反映了這種立場。

 

完成這第一步，金融機構便可以著手研究采用AI模型的特定用例。例如，考慮AI模型在各種信用風險場景中的表現。哪些參數會影響其決策?它是否不公平地將風險與人口統計相關聯?

 

所有這些元素都需要仔細考慮，并且需要在AI運行的整個生命周期——從構建和驗證模型，到部署和使用它們——牢記這一點。如今，企業組織也可以借助各類相關平臺來幫助指導這一過程，確保模型的公正和無偏見(在政策規定的公平范圍內)，同時能夠為監管機構提供可視化和解釋決策的能力。不過，盡管市場上存在這些工具，但63%的受訪金融服務組織表示，不適用所有數據環境的AI治理和管理工具是部署可信賴AI模型的障礙。

 

金融機構如果對其AI模型更具信心，便可以將更少的精力花費在繁重的任務上，并將注意力集中在價值更高的工作上。例如，欺詐檢測是當今金融服務中AI的常見用例，但誤報率仍然很高。如果AI系統可以解釋為什么它認為一個案例是具有欺詐性的，更重要的是，如果它能夠證明自己不會系統地偏袒一個群體，人類員工便可以花費更少的時間來驗證結果，而可以將更多的時間用于交付更高價值的工作上。

 

 

歸根結底，無論您是傳統金融機構還是初出茅廬的初創企業，您都需要同等關注確保公平、道德和透明的AI技術。

 

最突出的區別在于，傳統金融機構已經擁有現成的模型風險管理實踐，通常適用于傳統的基于規則的模型。而且，傳統金融機構也已經擁有部署到位的技術和流程，因此，改變方法通常更具挑戰性。不過，無論使用哪種開發和部署工具，都必須考慮如何擴展現有模型風險管理實踐以支持AI/ML模型。

 

許多金融科技初創公司可能沒有考慮對這項技術進行現有投資，這也使他們有更多的自由來選擇具有內置功能的同類最佳開發、部署和監控平臺。

 

 

對于那些仍將人工智能投資視為“冒險之舉”的企業組織而言，此次疫情大流行可謂起到了催化劑的作用，讓他們認識到了AI技術對于提高效率、減輕遠程工作者壓力等諸多好處。目前，金融行業中有28%的企業表示他們已將AI作為業務運營的一部分積極部署。雖然AI技術的滲透速度非?？?，而且規模很大，但44%的企業表示他們仍處于探索AI解決方案的初步階段，22%的企業目前沒有使用或探索使用AI解決方案。這就意味著目前，大多數金融公司正在開發概念證明(PoC)或分析其數據以用于未來的增長和使用目的。

 

隨著步入“后疫情”時代，企業組織需要比以往任何時候都更加警惕，以確保其AI技術正在以“負責任”的方式運行，而非在助長系統性的不公正。世界各國政府即將出臺的法律法規也將繼續關注組織(尤其是金融行業)如何負責任地使用這項技術。

 

總而言之，想要獲取對AI決策的廣泛信任，根本沒有捷徑可走，但企業組織可以從采取持續的、深思熟慮的步驟開始，以解決偏見和不公正并提高可解釋性。

 

版權聲明：本文為企業網D1Net編譯，轉載需注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。