在被指出之前，F(xiàn)acebook自己都不知道自己廣告受眾定位系統(tǒng)有這些不恰當(dāng)?shù)臉?biāo)簽

Facebook的算法又惹禍了。

上周，非盈利新聞機(jī)構(gòu)ProPublica 上周發(fā)表了一篇文章，指出當(dāng)你在Facebook 上創(chuàng)建廣告的時候，可以選擇“Jew hater”（仇恨猶太人的人）、“How to burn jews”（如何燒猶太人）、“History of ‘why jews ruin the world’”（為什么猶太人毀滅了世界）這樣的標(biāo)簽來找到廣告的目標(biāo)受眾。

輸入“jew h”，F(xiàn)acebook 廣告系統(tǒng)聯(lián)想第一條為“How to burn jews”?來源：ProPublica

ProPublica 試著用前面提到的這些標(biāo)簽來投放廣告，不過Facebook 系統(tǒng)提示說人數(shù)太少，隨后他們又往受眾描述里添加了“German Schutzstaffel”（納粹黨）和“National Democratic Party of Germany”（德國極右翼政黨德國國家民主黨）的標(biāo)簽，在15分鐘后，系統(tǒng)提示審核通過，廣告成功投放。

　　來源：ProPublica

之所以會出現(xiàn)這些標(biāo)簽，是因為部分 Facebook 用戶自己在個人資料里將這些內(nèi)容列為“興趣”、“工作”、“研究領(lǐng)域”，F(xiàn)acebook 算法直接抓取了它們，轉(zhuǎn)化為廣告系統(tǒng)中的受眾描述。實際上，按照 Facebook COO Sheryl Sandberg 的說法，在 ProPublica 報道之前，F(xiàn)acebook 根本就不知道他們的廣告受眾描述里還有這樣的標(biāo)簽。

在 ProPublica 報告了這個問題之后，F(xiàn)acebook 立刻把類似的標(biāo)簽從廣告系統(tǒng)里刪除了。昨天，Sandberg 又在 Facebook 上發(fā)表聲明，宣布他們“正在加強(qiáng)廣告受眾定位系統(tǒng)和工具”。

作為 Facebook 整個廣告機(jī)構(gòu)的負(fù)責(zé)人，Sandberg 是第一次對 Facebook 廣告算法缺乏人工監(jiān)督這事發(fā)言，她強(qiáng)調(diào) Facebook 不容忍這類仇恨言論，在收到報告之后暫時停用了自動定位受眾的系統(tǒng)。“我們從未打算或者預(yù)料到這個功能會以這樣的方式被使用——這是我們的錯。而且我們也沒有自己發(fā)現(xiàn)（問題）——而這也是我們的錯。”

在聲明中，Sandberg 表示目前 Facebook 正在確保不符合 Facebook 標(biāo)準(zhǔn)的內(nèi)容不會被用來定位受眾，人工審查目前所有的受眾標(biāo)簽，恢復(fù)他們“護(hù)士”、“老師”等五千種最常用的標(biāo)簽，而且未來他們還會用更多人來進(jìn)行廣告標(biāo)簽審核，不過 Sandberg 并未透露具體的人數(shù)。

除此以外，F(xiàn)acebook 還打算推出舉報系統(tǒng)，鼓勵 Facebook 用戶舉報 Facebook 廣告系統(tǒng)的各種濫用和錯誤使用。

從美國大選開始，F(xiàn)acebook 的廣告和不實內(nèi)容的傳播就備受關(guān)注。就在上周，F(xiàn)acebook 也宣布過一次要用更多人力來審核廣告，不過當(dāng)時所說的是審核廣告內(nèi)容，避免廣告里出現(xiàn)任何違背 Facebook 標(biāo)準(zhǔn)的內(nèi)容。