大數據可以幫助人們解決很多對于個人來說非常困難的問題。例如它可以幫助企業(yè)降低成本，幫助城市進行規(guī)劃，幫助情報機構發(fā)現恐怖分子之間的聯(lián)系，協(xié)助衛(wèi)生官員預測疫情，以及幫助警察提前預知犯罪等。政策制定者會越來越傾向于根據數據做出決策，并且參考通過復雜算法得出的建議來做出決定。但是，如果這些數據是關于個人，尤其是沒有太多話語權的普通百姓時，這些算法就會成為一種「壓迫」。對于美國的很多窮人來說，每一次關于這些數據的收集都會將他們試圖逃離貧困的努力變?yōu)榕萦?/strong>。
低收入用戶是美國社會中被監(jiān)視最嚴重的一部分民眾。據巴爾的摩大學（University of Baltimore）法律教授Michele Gilman介紹，這并不是說警察隨時都在盯著他們，而是說像公共福利項目、兒童福利系統(tǒng)等都在收集大量的用戶數據，尤其是窮人。在一些特定的區(qū)域，為了能夠將公共福利進行量化，申請者需要進行指紋采集和藥物測試。一旦人們開始接受這些福利，政府將會開始監(jiān)測他們如何花費這些資金，并且有時候也會在其家中進行檢查。通過這些方式收集的數據最終會反饋到警察系統(tǒng)，從而形成了一個監(jiān)測循環(huán)。「這些項目成為了大數據信息流的一個部分，而大多數人都沒有意識到這一點，而這些最終都會對他們的機會產生影響。」Gilman說。一旦某人的某一次不當行為出現在了檔案上，那么他將很難再找到另外一份工作、貸款或者租房。信貸員或者公司人事經理會檢查申請人的個人記錄，從而來確定這個人是否有一些不良行為。
渥太華大學教授Ian Kerr介紹，大數據系統(tǒng)不僅會預測一個人的機會大小，同時他們也可以違反無罪推定的法律原則。在法院系統(tǒng)之外，「無罪推定」是一項基本原則，也是人的基本權利。Kerr說，「申辯權（有權發(fā)表意見）、知情權、參加聽證會的權利以及質疑信息的權利是基本權利。」但是如果我們采用大數據來幫助我們做決定，即Kerr所稱的「算法正義」，那么我們的很多權利都將不復存在。
作為教學的一部分，Gilman和學生一起開了一家「診所」，主要幫助人們將有害記錄從其文件中去除。她介紹了她的一個客戶——一個有著14次被捕經歷的非裔美國人，而其被捕的原因是沒有可永久居住的房屋。她幫助他將相關的被捕經歷從文件中徹底抹去了。但是很多情況下，只是將個人記錄中的污點去除并沒有什么實際意義。當他們的逮捕記錄被去除以后，他們也會從相應州的公共系統(tǒng)的數據庫中消失。有時候即便是官方糾正過，但是錯誤和舊信息仍然會存在于檔案中沒有更新。如果被捕記錄已經和私人數據經紀人分享，那么這些經紀人也很可能不會關注這些信息是否有被更新。在這些情況下，這些州就只是名義上遵從公平信息原則。他們允許人們可以看到這些收集的數據，并且對數據進行更正和更新。但是如果這些糾正的數據出現在更新以后，這就意味著你的這次改變其實并沒有什么實際意義。
大數據的這些隱患已經引起了美國聯(lián)邦貿易委員會（Federal Trade Commission）的注意，該委員會在去年九月開始了一個關于該主題的工作小組，小組成員討論了大數據分析將如何包括或者排除某些特定的人群。一些評論人警告道，算法有可能根據別人的行為來剝奪其他人的機會。但是，如果善加利用的話，大數據也可能為低收入用戶帶來福音。例如，一些公司通過分析一些公司數據來計算低收入用戶的信用分數，使得那些在傳統(tǒng)信用體系下信用分數不高、但是又具有其他有價值信息（例如按時付款、擁有汽車等）的人們可以獲得更高的信用分數。
毫無疑問，算法可以使得人們做出的決定更加精確有效。大數據具有提高人們生活質量的能力，而且它也確實做到了。但是如果缺少了人情味，算法也可能因為只追求效率而使得社會的一些群體更加邊緣化。
京公網安備 11010502049343號