在剛剛閉幕的G20杭州峰會上，世界各國的領(lǐng)導(dǎo)人在一個問題上達(dá)成了一致：日益嚴(yán)重的收入不平等現(xiàn)象存在著巨大的隱患。各國領(lǐng)導(dǎo)人都強(qiáng)調(diào)，應(yīng)該更加均等地分享全球經(jīng)濟(jì)增長帶來的利益。

在科技突飛猛進(jìn)的當(dāng)下，技術(shù)進(jìn)步自然而然地被作為解決途徑之一，算法、大數(shù)據(jù)、機(jī)器學(xué)習(xí)等技術(shù)正不斷滲透到經(jīng)濟(jì)、政治、司法等各個層面，但效果如何?《數(shù)學(xué)殺傷性武器》(Weapons of Math Destruction)一書的作者凱西·奧尼爾(Cathy O'Neil)指出，這些技術(shù)恰恰在加劇收入不平等現(xiàn)象。

被算法“算計”

美國人開始越來越多地遭遇這樣的經(jīng)歷：求職過程中，因為一項性格測試被刷下陣來，只因算法認(rèn)為他不是合適人選;去銀行貸款，利率比別人都要高，只因所住地區(qū)多有信用記錄不良者;被從重判罰，只因親朋好友中有人是累犯。而且，在被算法“算計”之后，他們也都被蒙在鼓里，得不到一個合理的解釋。

針對這種現(xiàn)象，奧尼爾觀察了各個領(lǐng)域?qū)λ惴ê痛髷?shù)據(jù)的使用，以及它們是如何使窮人的生活雪上加霜、如何放大社會不平等現(xiàn)象的。

她在書中剖析了不少大數(shù)據(jù)模型，它們都存在一個共同點：用一種指標(biāo)來取代真正需要衡量的指標(biāo)。比如，雇主依據(jù)信用記錄來判斷應(yīng)聘者的責(zé)任心，放貸機(jī)構(gòu)根據(jù)語法優(yōu)劣來判斷申請人的信用度。但這些指標(biāo)之間真能畫上等號嗎?信用記錄也許更多地代表了財富水平，語法錯誤多的也有可能是信用優(yōu)良的移民，并非所有的代理指標(biāo)都經(jīng)得起推敲。

在美國，近半數(shù)的雇主都要求應(yīng)聘者提交信用報告，把信用評分等同于責(zé)任心或可靠性。這樣做會形成一種危險的貧困正反饋循環(huán)。如果有人因為信用記錄不良而找不到工作、沒有收入，其信用記錄只會越來越差，從而越來越難以找到工作。但在雇主眼中，滿紙數(shù)據(jù)的信用記錄卻比人為判斷都要可靠。他們從不考慮數(shù)字背后隱藏著怎樣的假設(shè)。

孤立起來看，這些算法產(chǎn)生的效應(yīng)就已經(jīng)足夠惡劣，更何況它們之間還會相互強(qiáng)化。教育、就業(yè)前景、債務(wù)和犯罪記錄全都相互關(guān)聯(lián)。窮人因為入不敷出，更有可能擁有不良信用記錄，并生活在治安不良地區(qū)，與其他窮人比鄰而居。系統(tǒng)一旦消化這些數(shù)據(jù)，就會推薦對他們更加不利的次級貸款、更差的學(xué)校等。警方會派遣更多警力在當(dāng)?shù)鼐S持治安，從而引發(fā)更多不必要的逮捕，誰一旦罪名成立，還會被從重處罰。

隨后，這些結(jié)果又會形成新一組數(shù)據(jù)，使他們在日后申請房貸、貸款和保險時被收取更高的費率。

決策依據(jù)而非決策結(jié)果

奧尼爾擔(dān)心，這種技術(shù)模型和真人分道揚(yáng)鑣的現(xiàn)象會帶來道德上的后果。好在，越來越多的律師、社會學(xué)家和統(tǒng)計學(xué)家開始關(guān)注數(shù)據(jù)濫用造成的危害，并思索解決之道。

針對算法假設(shè)不夠透明、令人費解或經(jīng)不起推敲的現(xiàn)象，解決辦法是在算法層面加以調(diào)整，體現(xiàn)哪些信息對最終決策起到了決定性的作用。并通過立法，增加對個人數(shù)據(jù)的保護(hù)，對算法透明度實行規(guī)范化的管理。

另外，政府也可以優(yōu)先用大數(shù)據(jù)來改善民生，而不是嚴(yán)打犯罪，由此贏得公眾的信任。總而言之，算法可以作為決策依據(jù)，但不能替代人類做出決策。

在使用得當(dāng)?shù)那闆r下，它們或許能協(xié)助政府削減收入不平等現(xiàn)象。哈佛大學(xué)教授戈德史密斯(Stephen Goldsmith)就表示，機(jī)器學(xué)習(xí)有望變革公共政策領(lǐng)域的方方面面。

美國芝加哥的公共衛(wèi)生健康部就用大數(shù)據(jù)和機(jī)器學(xué)習(xí)來鑒別體內(nèi)鉛含量超標(biāo)的兒童，并據(jù)此采取措施，幫助清除住房中的含鉛涂料。還用機(jī)器學(xué)習(xí)來發(fā)現(xiàn)存在犯罪傾向的青少年，提前加以干預(yù)。

通過更加精確地分配稀缺的公共資金，機(jī)器學(xué)習(xí)可以為政府節(jié)省大筆不必要的開支。大數(shù)據(jù)也開始參與政府決策，成為一項有效的決策工具。大倫敦地區(qū)的一個自治市就在開發(fā)一種算法，用以預(yù)測哪些人可能會無家可歸。這些預(yù)測可以使政府服務(wù)來得更加及時，更有針對性，或許也能幫助政府更加有效地縮減收入差距。