AWS公司希望通過與Amazon SageMaker Clarify一起使用的新工具來解決機器學習偏見，以幫助開發人員和用戶更好地檢測和消除人工智能偏見。
亞馬遜公司人工智能業務副總裁Swami Sivasubramanian在12月8日的一次主題演講中介紹了SageMaker Clarify如何在SageMaker Studio中工作，以幫助開發者減輕機器學習模型偏見，幫助消費者更好地理解模型的工作原理。
很多人對有關人工智能倫理和偏見在機器學習模型中起到的作用，以及偏見是否會在面部識別和其他人工智能系統中引起種族歧視和其他歧視進行激烈辯論，而這款產品就是為了避免這樣的偏見而推出的。
AWS公司競爭對手谷歌公司近日成為了人們爭論的焦點，一位前谷歌人工智能首席人工智能研究員表示，她因為批評谷歌的人工智能產品對待女性和有色人種有偏見而被解雇，其發表的研究論文對谷歌公司使用的人工智能語言工具包含偏見并可能導致仇恨言論進行了分析。
及時發布
IDC公司人工智能研究計劃副總裁Ritu Jyoti表示，Amazon SageMaker Clarify的發布是及時的舉措，因為這將跟上AWS公司在人工智能方面的最新發展。
當AWS公司致力于構建其人工智能產品組合時，SageMaker Clarify與許多SageMaker應用程序集成在一起，許多人工智能創造者致力于消除機器學習模型中的偏見。
Jyoti說，SageMaker Clarify將會幫助數據科學家在訓練之前發現數據集以及訓練之后模型中的偏見。
她說：“這將有助于使用各種統計指標來衡量偏見。它將有助于解釋特征值如何對整個模型和單個預測結果作出貢獻，從而滿足不同利益相關者的需求。”
使用SageMaker Clarify，開發人員可以指定重要的模型屬性，例如位置或占用，然后對數據運行一組算法以檢測偏見。
在訓練模型之后，Clarify將自動檢查模型是否存在不平衡的屬性，并向用戶提供詳細的報告，說明每個屬性對模型輸出的重要性。
AWS公司機器學習應用科學主管Nashlie Sephus在本月舉行的為期三周的會議上發表主題演講時說：“這可以幫助采用機器學習模型的消費者更好地理解其模型可以做出某種預測的原因。”
Clarify與SageMaker Model Monitor打包在一起，該監視器是去年發布的SageMaker Studio工具，可幫助開發人員檢測和修復概念漂移。
Jyoti說：“與Amazon SageMaker Model Monitor集成后，Clarify將會隨著時間的推移幫助檢測偏見漂移和重要度漂移。”
更多的機器學習功能
Sivasubramanian在主題演講中還展示了SageMaker的其他新功能，并對Amazon SageMaker Edge Manager(一種用于在邊緣管理機器學習模型的工具)以及對Amazon SageMaker Debugger(用于監視機器學習訓練性能的應用程序)的功能進行了深度剖析。
Sivasubramanian還展示了Amazon Lookout for Metrics的預覽版，這是一項使用機器學習來檢測指標異常的新服務。Lookout for Metrics連續監視連接的數據以自動檢測異常，從而實時向用戶標記其數據中的潛在異常。
AWS公司首席執行官Andy Jassy在此次大會的主題會議上為工業客戶介紹了五種基于人工智能的新服務。
版權聲明：本文為企業網D1Net編譯，轉載需注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號