人工智能(AI)將計算范式從基于規則的編程轉變為基于結果的方法。它允許流程進行大規模運行，減少了人為處理錯誤的數量，并創造了解決問題的一些新方法。在圍棋高手已使用相同的開局策略3000年后，阿爾法狗(AlphaGo)啟發了圍棋選手去嘗試新的策略。隨著人工智能采用率的增加，它將幫助組織解決傳統自動化技術無法解決的“最后一公里”問題。但隨著越來越多的企業讓人工智能來為其作出決策，治理工作將變得非常關鍵。

 

最近，在簡柏特公司(Genpact)針對最高管理層和其他高管人員的一項調查中，有63%的人表示，能夠追蹤一臺使用人工智能設備的推理路徑，這是非常重要或關鍵的，而在人工智能領域處于領先地位的公司中，持這一觀點的人數比例達到88%。簡柏特公司還與受管制市場中的財富500強企業合作，這些客戶認為，在考慮使用人工智能之前，其推理的可追溯性將是一項關鍵要求。

 

 

最近，英國劍橋分析公司(Cambridge Analytica)對社交媒體數據的濫用，引起了公眾的關注，該事件喚醒了企業對監管治理工作的更高要求。此外，歐盟的一般數據保護條例(GDPR)在5月25日已生效，這將解決數據和人工智能治理問題的諸多新要求。如該條例第22條所述，在其他領域中，“數據主體有權不受限于自動流程所做出的決定，包括對其產生法律效力或對其產生嚴重影響的分析。”在一個人被拒絕發放貸款或工作機會的情況下，這可能變得至關重要。同樣，紐約市最近的算法決策透明度立法表明，美國的監管審查工作也在加強。在這種形式下，企業會很難接受“黑匣子人工智能”。

 

 

目前，一些技術已經足夠成熟，可以提供可追溯性。在處理文本或數字時，企業可以考慮使用計算語言學，用戶可以輕松地追蹤推理路徑并精確定位導致機器決定的單詞或數據點。例如，如果第三方物流供應商同意每英里收取15美分，但其發票顯示為每英里收取18美分，則機器可以利用上下文語境來提取發票中的價格和合同所約定的價格，并指出其差異。用戶可以對比查看這些文件以確定機器是否判斷正確。關鍵在于可跟蹤某一決定的定義屬性來自哪里，并以易于可視化的方式提供底層信息。

 

 

實現可追溯性的另一種方式是解釋在算法中的一些驅動因素和推理路徑。Salesforce公司銷售云愛因斯坦(Sales Cloud Einstein)產品中的主要評分功能可以讓你直接了解其如何給出銷售機會的分數，因此，一個公司的銷售團隊可以了解Einstein產品是如何預測某個銷售機會轉化為商機的。

 

計算語言學也有一個嵌入的推理路徑邏輯，可以為使用技術的最終用戶進行外化。例如，在貸款審批流程中，系統需要采取多個步驟來處理一個申請。如果某個申請在基于人工智能的自動化貸款申請過程中被拒絕，信貸員應該能夠追溯到導致發生拒絕申請的特定步驟，更重要的是，可以解釋為何人工智能在該步驟做出這樣的決定。

 

因此，企業可以通過向消費者解釋推理路徑為什么會做出一個決定，而不只是簡單地拒絕發放貸款，從而可能導致不良客戶的體驗和引發合規問題。因為具備可追溯性，當審計人員要求查看文檔，或者客戶提出詢問，或者出現了其他潛在問題，那么企業就可以準確知道系統在何處以及如何做出該決定，而不是因為該決定和推理被鎖在黑匣子里，導致一無所知。

 

 

關鍵是要充分了解數據的行為。這不僅僅是為了實現人工智能算法，首先要建立起有效的數據工程。最佳實踐包括記錄關于數據完整性的假設，解決數據偏差，以及在實施前審查機器所確定的新規則。如果企業正在使用機器學習技術來識別異常情況，那么它可以通過檢查和權衡來手動測試并確定這些結果是否合理。在設計和測試人工智能時，讓熟知這些流程和行業領域問題的人來參與，這也很重要。

 

 

可追溯性還解決了人工智能技術實施中的幾項難題。首先，它側重于這種先進技術的新興應用的質量問題。其次，在人與機器交互的發展過程中，可追溯性使結果更易于被人理解，并有助于推動人工智能的使用和促進成功實施所需的相關變更管理。第三，它有助于推動生命科學、醫療保健和金融服務等受監管行業的合規性。

 

可追溯性存在于一些更成熟的人工智能應用中，例如計算語言學。在其他不太成熟的新興技術中，所謂的黑盒問題仍然存在。這一問題主要存在于深度神經網絡，用于圖像識別的機器學習算法或涉及海量數據集的自然語言處理的情況下。因為深度神經網絡是通過這些海量數據集的多重關聯建立起來的，所以目前很難知道為什么會得出一個特定的結論。企業需要更全面的治理結構，尤其是借助像神經網絡這樣不具備可追溯性的先進技術。

 

總而言之，可追溯性使企業能夠更好地理解整個推理過程，并通過人工智能的實施建立信任關系，這可以幫助企業、員工和客戶更好地接受人工智能。隨著人工智能領域的其他方面逐漸成熟，我們希望在其他人工智能技術中也可看到類似的推理路徑。