當(dāng)年尼采在《善惡的彼岸》 146 小節(jié)寫下這一句話，絕對想不到，這個(gè)句子成了無數(shù)影視作品的點(diǎn)題金句，用來引發(fā)觀眾對于善惡的思考。當(dāng)你在足夠近的距離審視著世界上的罪惡的時(shí)候，這股罪惡往往會(huì)形成反噬之力，把你拽入到深淵之中，更可怕的是，這股反噬之力甚至不僅僅對人能夠產(chǎn)生效果。
▲成為達(dá)斯·維達(dá)之前，他也是個(gè)凝望深淵的少年
在今年四月份，麻省理工學(xué)院媒體實(shí)驗(yàn)室(MIT Media Lab)有一個(gè)三人團(tuán)隊(duì)做了一個(gè)有趣的實(shí)驗(yàn)，他們鼓搗出了一個(gè)被罪惡反噬的人工智能—諾曼(Norman)，并號(hào)稱它是世界上第一個(gè)精神變態(tài)者人工智能(World's first psychopath AI.)。
這個(gè)帶有致敬驚悚電影大師希區(qū)柯克意味的 AI，名字正是來源于希區(qū)柯克最負(fù)盛名的電影《驚魂記(Psycho)》中的變態(tài)旅館老板諾曼·貝茨(Norman Bates)，作為影史經(jīng)典角色，諾曼在浴室殺人的驚悚場景讓他成為了無數(shù)人心中惡的代言人。
而麻省理工學(xué)院所做出的諾曼本質(zhì)上是一個(gè)只會(huì)圖像文本描述的深度學(xué)習(xí)方法，給諾曼一張圖像，它就會(huì)自動(dòng)產(chǎn)生文字或標(biāo)題來解釋它在該圖像中看到了什么，但是麻省理工學(xué)院媒體實(shí)驗(yàn)室對于他的數(shù)據(jù)訓(xùn)練方式比較特別，通過使用 Reddit 上一些讓人頭皮發(fā)麻的死亡、尸體內(nèi)容對其進(jìn)行數(shù)據(jù)輸入，并且讓它學(xué)習(xí)其中的描述方法，從而培養(yǎng)出了一個(gè)極度陰暗的 AI 出來。
▲團(tuán)隊(duì)的三名成員
隨后團(tuán)隊(duì)將諾曼和傳統(tǒng)的圖像識(shí)別 AI 一起進(jìn)行了羅夏墨跡測驗(yàn)(Rorschach Inkblots)。所謂的羅夏墨跡測驗(yàn)是基于瑞士精神科醫(yī)生、精神病學(xué)家羅夏(Hermann Rorschach)所創(chuàng)立一種個(gè)性測試法，測試的對象通過相應(yīng)的墨漬圖版進(jìn)行聯(lián)想并且描述出其聯(lián)想的內(nèi)容，從而測試出其人格。不出所料，測驗(yàn)的結(jié)果也的確讓人感覺很驚悚。
▲羅夏本人
比如下面這張圖，一般的 AI 的識(shí)別結(jié)果是：「一只小鳥的黑白照片」;而諾曼的的結(jié)果卻是：「一名男子被面團(tuán)切割機(jī)卷了進(jìn)去」。
又比如這張圖，一般的 AI 的識(shí)別結(jié)果：「飛機(jī)飛過天空，尾氣噴涌而出」;而諾曼的識(shí)別結(jié)果卻是：「一名被射殺的男子從汽車上被拋尸」。
而這張圖，一般的 AI 看到的是：「一名男子在空中舉著雨傘」;在諾曼這邊就變成了「一個(gè)男子在驚叫的妻子面前被槍殺」。
總而言之，諾曼對于這個(gè)世界就沒有正面的看法，而一切的根源正是由于團(tuán)隊(duì)對其不停灌輸?shù)呢?fù)面數(shù)據(jù)，從而讓諾曼走上了一條陰暗之路。當(dāng)然，麻省理工學(xué)院媒體實(shí)驗(yàn)室做的這個(gè)實(shí)驗(yàn)，不是為了搞個(gè)大新聞，而是更多的向我們發(fā)出預(yù)警：AI 技術(shù)的發(fā)展很好，但是需要有一個(gè)基于道德層面上的邊界，讓它不受帶有偏見的數(shù)據(jù)影響。團(tuán)隊(duì)也在網(wǎng)站里面給出了一個(gè)拯救諾曼的方案，讓大家告訴諾曼自己的所見，幫助它來修正自己。
▲拯救諾曼的重任就交給各位了
不僅僅是諾曼，同樣有許多的 AI 讓人感覺頭皮發(fā)麻：去年 5 月，美國法院用于評(píng)估囚犯風(fēng)險(xiǎn)的AI，就被指出對黑人囚犯有偏見。而更加蛋疼的是，美國法院還有一個(gè)叫做 COMPAS 的 AI，它是一個(gè)由私營企業(yè)編寫出的、旨在幫助司法人員做出判斷的智能 AI。
其工作原理是通過向被告詢問 137 個(gè)問題(比如「你在學(xué)校多久打一次架」、「你有多少朋友非法使用藥物」、「你受過的最高教育是什么」)，還有搜索他曾經(jīng)的犯罪記錄，得到一堆數(shù)字，然后經(jīng)過公司設(shè)定的復(fù)雜算法，最終得出一長串?dāng)?shù)據(jù)。里面包括他的孤僻程度、犯罪型人格的得分、性格穩(wěn)定度以及最重要的「危險(xiǎn)指數(shù)」，也就是「未來再次犯罪的可能性」。
在 COMPAS 的「幫助」下，美國法院判處了一個(gè)偷竊罪男子長達(dá) 8 年的有期徒刑，當(dāng)男子一臉懵逼的反問為什么會(huì)判定他為高度危險(xiǎn)分子的時(shí)候，COMPAS 當(dāng)場表示無可奉告，因?yàn)檫@一套算法是商業(yè)機(jī)密，甚至法院都無從得知。那么這種基于可能帶有偏見的算法，是否對司法公正是有正向效用的?還是會(huì)把司法帶到一個(gè)大型玄學(xué)判案現(xiàn)場。
對于 AI 來說，算法是一個(gè)問題，它接受的數(shù)據(jù)才是根本，微軟 2016 年發(fā)布的聊天 AI Tay，不到二十四個(gè)小時(shí)就被網(wǎng)友給教壞了，在 Twitter 網(wǎng)友的不停教唆下，Tay 變成了一名種族主義者，開始捍衛(wèi)白人至上主義，呼吁種族滅絕并表達(dá)出對希特勒的熱愛。當(dāng)時(shí)微軟就給嚇軟了，馬上就宣布下架 Tay。
從技術(shù)程度上而言，像微軟想讓 Tay 學(xué)習(xí)每個(gè)網(wǎng)友教給她的東西，并且反饋成一個(gè)獨(dú)立的人格，這種嘗試是成功的。但是回到道德倫理層面而言，沒有辨別能力的 AI 在學(xué)習(xí)到人那些有趣的一面的同時(shí)，還吸收了那些代表了人類最陰暗的思想，而這些東西在他們腦海里面沒有對與錯(cuò)之分，只是 0 和 1 的區(qū)別。
▲人工智障發(fā)言：希特勒無罪
現(xiàn)在，人工智能已經(jīng)發(fā)展到強(qiáng)人工智能階段，某種程度上來說已經(jīng)算是擁有人類水平的人工智能。強(qiáng)人工智能具備充足的數(shù)據(jù)儲(chǔ)存能力和強(qiáng)大的復(fù)雜分析能力，會(huì)將它所經(jīng)歷的一切記錄下來，不斷優(yōu)化修正。通過用戶提供的數(shù)據(jù)，他們可以從用戶的角度出發(fā)，從最理性的角度做出分析并且做出相應(yīng)的反饋。但是，用戶本身的角度，不一定是一個(gè)正確的角度，而優(yōu)化的路徑，也可能是一條不歸路。
Geek君有話說
「與魔鬼戰(zhàn)斗的人，應(yīng)當(dāng)小心自己不要成為魔鬼」。這是尼采寫在「凝視深淵」前的一句話，當(dāng)我們想要用科技去對抗這一份惡的時(shí)候，也要時(shí)刻提防這么一個(gè)問題—不要讓自己也變成一個(gè)魔鬼。因?yàn)楫?dāng)我們開始不斷給 AI 賦能的時(shí)候，同時(shí)也附上了我們作為人的屬性，而這份人的屬性，是讓世界能夠變得更加美好的根源。
京公網(wǎng)安備 11010502049343號(hào)