我們經常能聽到大數據可以幫助企業降低成本，幫助城市進行規劃，幫助情報機構發現恐怖分子之間的聯系，協助衛生官員預測疫情，以及幫助警察提前預知犯罪等等等等，大數據似乎無所不能，政策制定者會越來越傾向于根據數據做出決策。
但是，如果這些數據是關于個人，尤其是沒有太多話語權的普通百姓時，這些算法就會成為一種“壓迫”。對于美國的很多窮人來說，每一次關于這些數據的收集都會將他們試圖逃離貧困的努力變為泡影。
大數據的副作用
在美國，低收入用戶是社會中被監視最嚴重的一部分民眾。據巴爾的摩大學法律教授Michele Gilman介紹，這并不是說警察隨時都在盯著他們，而是說像公共福利項目、兒童福利系統等都在收集大量的用戶數據，尤其是窮人。在一些特定的區域，為了能夠將公共福利進行量化，申請者需要進行指紋采集和藥物測試。一旦人們開始接受這些福利，政府將會開始監測他們如何花費這些資金，甚至有時候也會在其家中進行檢查。
通過這些方式收集的數據最終會反饋到警察系統，從而形成了一個監測循環。一旦某人的某一次不當行為出現在了檔案上，那么他將很難再找到另外一份工作、貸款或者租房。信貸員或者公司人事經理會檢查申請人的個人記錄，從而來確定這個人是否有一些不良行為。
“大數據系統只是算法，它并不懂得法律，如果它根據數據判定這些人不適合申請貸款或工作時，就會在法理上違反無罪推定原則。”渥太華大學教授科爾說道。
眾所周知，“無罪推定原則”是人們享有的正當司法權力之一。科爾表示：“在司法審判當中，人們有發言權，參與聽證和推翻供詞的權利。”如果大數據系統成了人們決策的大腦，就會產生所謂的“算法正義”，這對許多人是非常不公平的。
吉爾曼教授一直致力于幫助這些弱勢群體消去錯誤的不良記錄，雖然他的工作卓有成效，將許多記錄從公共數據中刪去，但原本的數據庫還是留有存檔，如果官方不進行全面更改，它們依然會是定時炸彈。
局面可否扭轉？
大數據的隱患已經引起了美國聯邦貿易委員會的注意，該委員會在去年九月開始了一個關于該主題的工作小組，小組成員討論了大數據分析將如何包括或者排除某些特定的人群。一些評論人警告道，算法有可能根據別人的行為來剝奪其他人的機會。但是，如果善加利用的話，大數據也可能為低收入用戶帶來福音。例如，一些公司通過分析一些公司數據來計算低收入用戶的信用分數，使得那些在傳統信用體系下信用分數不高、但是又具有其他有價值信息（例如按時付款、擁有汽車等）的人們可以獲得更高的信用分數。
毫無疑問，算法可以使得人們做出的決定更加精確有效。大數據具有提高人們生活質量的能力，而且它也確實做到了。但是如果缺少了人情味，算法也可能因為只追求效率而使得社會的一些群體更加邊緣化。
京公網安備 11010502049343號