AI的熱潮已經影響到了政府部門，已經有政府機構開始利用人工智能在社會治安方面協助辦案，比如倫敦大都會區警察局。但前去觀摩的人權組織看到的結果，似乎不那么樂觀。
在8月底的英國倫敦傳統民俗活動諾丁山狂歡節期間，人權組織Liberty被邀請現場觀摩了倫敦大都會警署上線的實時人臉識別系統。在倫敦街頭，警察在路邊使用偽裝成民用汽車的警用車輛監控狂歡節人群，試圖使用這個系統找到人群中混跡的被通緝人員。
倫敦警察表示，這個項目是針對一個大約500名的特殊名單，這個名單里的人既有拒不支付罰款這樣的小案子，也有性侵犯這樣的嚴重犯罪。倫敦警察寄希望于用人臉識別系統發現他們然后實行逮捕。
但Liberty在事后發表的博客文章中，描述了這個系統非常“業余”的幾個錯誤案例。
8月24日周一，諾丁山狂歡節的第二天，Liberty在倫敦警察的監控車里看了10分鐘，就發現了兩例非常明顯的錯誤：系統識別了兩個名單上的人，但這兩個人顯然連性別都對不上。Liberty認為，這個系統似乎不能準確判斷人的性別。在問到前一天，也就是8月23日周日的監控是不是也出過類似的錯誤，倫敦警察表示前一天有35例，其中5例由值班人員發現了錯誤，沒有實施逮捕。
這個系統在運行期間也確實“正確”抓到了人。倫敦警察表示，有一個人因為騷亂案件被通緝的嫌疑人出現在狂歡節現場，他們逮捕了他。但隨后的審問中發現，這個人的案子已經和解了，他現在沒有罪名。而且在狂歡節之前、案子和解之后，這個人已經被錯誤逮捕過一次。換句話說，這套人臉識別系統的數據庫非常陳舊。
倫敦警察的這次試驗暴露了人工智能目前的一些問題，比如識別準確率和數據庫匹配。從采用偽裝車輛進行識別這一點上也能看出這次僅是小規模的試驗，因為倫敦是世界上最早安裝閉路電視監控系統的城市，也是監控相機最多的城市之一。
從覆蓋密度上來看，英國是全球攝像頭最密集的國家，全境的街道和公共區域有400-590萬臺監控攝像頭，平均每一個攝像頭盯著11個英國人，每個人的臉每天會被閉路電視拍攝300次。截止2015年的數據顯示，倫敦有超過42萬個監控攝像機，位居城市中的世界第二。第一名是北京，媒體在2015年以正面角度報道，稱北京城區已經實現了監控100%覆蓋，攝像機數量超過了47萬個。
公開媒體報道顯示，中國的政府部門也越來越多的開始將人臉識別用在警務處理上，比如監控過馬路闖紅燈的人。人民網昨日報道，沈陽交通警察在街頭啟用了一套人臉識別系統，系統自動抓拍闖紅燈的人，將他們的照片放在大屏幕上供值班交警識別、勸阻和教育。
這只是公開場所使用的案例，從供應商們提供的技術來看，人臉識別系統在政府事務中能做的事情要多得多。在未來，它犯的錯恐怕也會越來越多。
京公網安備 11010502049343號