美國(guó)監(jiān)禁的人數(shù)超過(guò)世界上任何其他國(guó)家。截至2016年底，有近220萬(wàn)成年人被關(guān)押在監(jiān)獄中，還有450萬(wàn)人在其他懲教設(shè)施中。換句話說(shuō)，每38名成年美國(guó)人中就有1人受到某種形式的懲教監(jiān)督。
在不增加犯罪風(fēng)險(xiǎn)且減少監(jiān)獄數(shù)量的巨大壓力下，美國(guó)各地的法庭已經(jīng)求助于自動(dòng)化工具。警察部門(mén)使用預(yù)測(cè)算法來(lái)制定策略，執(zhí)法機(jī)構(gòu)使用人臉識(shí)別系統(tǒng)來(lái)識(shí)別嫌疑人。這些做法經(jīng)受了各種審查，以確定它們是否真正提高了安全性，還是只是使現(xiàn)有的不公平現(xiàn)象長(zhǎng)期存在。例如，研究人員和民權(quán)倡導(dǎo)者一再證明，人臉識(shí)別系統(tǒng)可能會(huì)失敗，特別是對(duì)于皮膚黝黑的人，該系統(tǒng)甚至曾將國(guó)會(huì)議員誤認(rèn)為是罪犯。
但迄今為止最具爭(zhēng)議的工具是在警方逮捕嫌疑人之后使用的犯罪風(fēng)險(xiǎn)評(píng)估算法。
風(fēng)險(xiǎn)評(píng)估工具旨在做一件事：收集被告的詳細(xì)信息并給出一個(gè)累犯分?jǐn)?shù)，一個(gè)表示他或她再次犯罪可能性的數(shù)字。然后，法官將這個(gè)分?jǐn)?shù)用于各項(xiàng)考量之中，包括決定被告應(yīng)該接受哪種類型的判決、是否應(yīng)該在審判前將他們關(guān)在監(jiān)獄中以及對(duì)他們進(jìn)行什么程度的判決等。
使用這種算法工具的邏輯是，如果你能準(zhǔn)確預(yù)測(cè)犯罪行為，就可以相應(yīng)地分配資源，無(wú)論是恢復(fù)還是監(jiān)禁。理論上，它還減少了一定的偏見(jiàn)，因?yàn)榉ü俑鶕?jù)數(shù)據(jù)做出決策而不是他們的直覺(jué)。
但現(xiàn)代風(fēng)險(xiǎn)評(píng)估工具通常使用的都是歷史犯罪數(shù)據(jù)。機(jī)器學(xué)習(xí)算法使用統(tǒng)計(jì)數(shù)據(jù)來(lái)查找數(shù)據(jù)中的模式。因此，如果你提供歷史犯罪數(shù)據(jù)，它將挑選出與犯罪相關(guān)的模式。但這些模式是統(tǒng)計(jì)相關(guān)性而非因果關(guān)系。例如，如果算法發(fā)現(xiàn)低收入與高累犯相關(guān)，那么在低收入是否真的是導(dǎo)致犯罪的原因，這一點(diǎn)人工智能無(wú)法進(jìn)行分析。
現(xiàn)在，一直被執(zhí)法人員定位成高累犯風(fēng)險(xiǎn)的人群中包括低收入和少數(shù)族裔群體，由此可見(jiàn)，該算法有可能會(huì)產(chǎn)生偏見(jiàn)，并生成更多受偏見(jiàn)污染的數(shù)據(jù)，從而導(dǎo)致惡性循環(huán)。
關(guān)于這些工具的爭(zhēng)論仍在繼續(xù)。去年7月，包括ACLU和NAACP在內(nèi)的100多個(gè)民權(quán)和社區(qū)組織簽署了一份聲明，希望不要使用風(fēng)險(xiǎn)評(píng)估。但與此同時(shí)，越來(lái)越多的司法管轄區(qū)和州由于監(jiān)獄負(fù)擔(dān)過(guò)重，已經(jīng)開(kāi)始求助于這些工具。
京公網(wǎng)安備 11010502049343號(hào)