6月25日消息，據外電報道，據知情人士透露，互聯網上一些最大的觀看視頻的網站正在悄悄地利用自動封殺系統來刪除其網站上的極端主義內容。
此舉是互聯網公司向前邁出的一大步。隨著極端主義者的攻擊范圍逐漸蔓延，從敘利亞擴展到了比利時和美國，全世界各地的政府開始向互聯網公司施壓，要求其刪除其網站上的宣揚暴力的內容。
谷歌旗下的視頻網站YouTube和社交網絡Facebook就在這些互聯網公司之列。它們部署了自動化的封殺系統來阻止或迅速撤下“伊斯蘭國”組織的視頻和其他相似的內容。
這項技術開發的最初目的是為了識別和刪除視頻網站上受版權保護的內容。它會搜索互聯網公司自動分配給每個視頻的特殊數字指紋，并允許所有符合數字指紋的內容被立即撤下。
這樣的封殺系統可以阻止那些已被識別為“不能接受”的內容重新發布，但是它不能自動地攔截以前從未見過的視頻。
這些公司并未證實它們正在使用這種技術，或談論它們是如何利用這種技術的。但是，據熟悉這項技術的人稱，它能把用戶發布的視頻與被禁內容數據庫進行比對，從而識別出新的不不能讓人接受的視頻，例如斬首視頻或煽動暴力的演講視頻。
上述知情人士并不愿意討論在用這項技術審核視頻的過程中需要多少人力。他們也不愿說明被禁內容數據庫中的視頻最初是如何被鑒定為恐怖主義內容的。
隨著互聯網公司不斷地在公司內部以及與競爭對手和其他感興趣的各方就這個問題進行討論，這個新的技術將會不斷地得到優化。
互聯網公司不愿聲張
在4月底，由于美國總統巴拉克 奧巴馬（Barack Obama）和其他歐美國家領導人均表達出了對于網絡活動激進化的擔憂。因此，很多互聯網公司，包括Alphabet公司的YouTube網站、微博網站Twitter、Facebook和網站安全服務商CloudFlare，迫于壓力，舉行了一次電話會議，討論了可能的解決方案，包括由非營利性組織“反極端主義項目”（Counter Extremism Project）提出的內容封殺系統。
它們的討論強調了這些全世界最有影響力的公司在解決恐怖主義、自由言論以及政府和企業權力邊界等問題上所起到的重要的作用以及面臨的困難。
現在，尚沒有公司公開支持這個反極端主義組織的系統。事實上，它們擔心的是外部力量來干預它們如何保護自己網站的安全。
“這與版權或兒童色情略有不同。因為版權或兒童色情是明顯不合法的內容。”喬治華盛頓大學極端主義項目的副主任謝默斯 休格斯（Seamus Hughes）說。
休格斯稱，極端主義內容是一個寬泛的概念，不同的互聯網公司會給出不同的判斷標準。
以前，大多數互聯網公司主要依靠用戶來標注違反其服務條款的內容；現在，很多互聯網仍然在這樣做。被用戶標注過的內容，會由人類編輯親自審核，一旦發現違反服務條款，就會立即被刪除。
上述知情人士稱，現在使用自動封殺系統的公司并沒有公開談論它。部分原因在于它們擔心恐怖分子可能學會操縱它們的系統，或擔心實行高壓政策的政權組織可能要求它們利用這項技術來審查其政治對手。
“這些公司談論它并沒有任何好處。”CloudFlare公司的首席執行官馬修 普林斯（Matthew Prince）說，“誰會公開吹噓自己的審查制度呢？”
在上周反極端主義項目首次公開談論它的內容封殺系統，并敦促大型互聯網公司采用它之后，上述知情人士向路透社證實了互聯網公司正在逐步采用這個系統。
擔心審查政策受外部干擾
據知情人士稱，4月的電話會議由Facebook全球政策管理負責人莫妮卡 比科特（Monika Bickert）牽頭。在會議上，Facebook呈現了各種解決方案供大家討論，其中包括反極端主義項目提出的解決方案。
這個反極端主義組織由弗朗西斯 湯森（Frances Townsend）和馬克 華萊士（Mark Wallace）等人創立。湯森曾為美國前總統喬治 沃克 布什（George W. Bush）提供國土安全方面的咨詢服務；而華萊士曾在2004年小布什爭取連任總統的競選活動中擔任競選副組長。
據知情人士透露，這些互聯網公司表示，它們很擔心外部組織來決定什么是不可以接受的內容。
此次電話會議上提出的其他解決方案還包括建立新的行業性非盈利組織，或擴展現有行業組織的功能。他們討論的解決方案中還包括數字指紋技術。
行業組織的模型可以參考非營利性組織“全國失蹤和被剝削兒童中心”（National Center for Missing and Exploited Children）。該組織利用一種名為PhotoDNA的系統來識別已知的兒童色情圖片。這個系統由微軟免費授權使用。
在5月，微軟宣布它將會給達特茅斯學院計算機科學家哈尼 法里德（Hany Farid）提供資金和技術支持，以便讓他與反極端主義組織合作開發PhotoDNA技術，“從而幫助利益相關者識別恐怖主義內容。”
據知情人士透露，在此次電話會議中，人們對于反恐怖主義項目的提案表達了一些憂慮。Facebook的比科特也認同他們的擔憂。她拒絕公開就此次電話會議或Facebook的努力發表言論，只是在一項聲明中指出Facebook“正在與業內人士合作探索各種有效的途徑，以刪除違反我們有關打擊恐怖主義政策的內容。”
在最近幾周，Facebook已給其他公司發出了問卷調查，以征求他們對行業合作解決這個問題的各種方案的意見。
Alphabet公司的發言人威廉 弗茲格拉德（William Fitzgerald）也拒絕就此次電話會議或該公司的自動封殺系統發表評論。
Twitter的發言人稱，該公司正在評估反極端主義項目提出的解決方案，“現在尚未作出最后決定”。
一名谷歌前員工稱，除了打擊盜版或與視頻制作者分享收入等話題外，人們還花了很長時間討論公司如何利用它的Content ID（內容識別）系統。據知情人士稱，谷歌的內容識別系統推出的時間要比Facebook的早，技術上更先進一些。
美國總統反恐政策的高級顧問莉薩 莫納科（Lisa Monaco）在一項聲明中稱，白宮歡迎各種旨在幫助公司“更好應付網絡恐怖主義威脅”的計劃。
京公網安備 11010502049343號