五年前,各大小“會所”因違法違規一夜之間消失殆盡。如今全國“掃黃打非”辦公室大力開展的“凈網2019”“護苗2019”“秋風2019”專項行動劍起直指未及時自查的直播、短視頻等平臺,而這些平臺,可能也有無法言表的“痛”。

為什么會痛?

大部分直播平臺其實是遵紀守法的,但在直播的時候總有一些想要博眼球、抖機靈的用戶,讓平臺深陷泥沼。除直播平臺以外,一些超高流量的 APP 也成了不法分子的娛樂場,前不久騰訊云天御就幫某旅游 APP 第一時間避開了一場危機。

一場說走就走的旅行是當下潮流之一,該 APP 可謂是游客必備,其中旅游指導、游記分享、互動直播區與視頻區更是深受游客喜愛,大家也會像翻看買家秀那樣去評論區看建議,然而,這些本是分享攻略的地方,卻成為一小撮不法分子發布招嫖、販毒的“廣告牌”。了解到這一情況后,騰訊云天御快速識別該 APP 內海量文本信息,迅速判斷有害、色情等內容反饋給到審核管理員,由審核管理員及時進行刪除/禁言/封號處理,以保證平臺為用戶提供安全健康的內容。

除了這類的內容社區容易中招之外,以下三大場景更容易成為不法分子散播色情、暴力、血腥等違法內容的重災區。

直播平臺

還記得早年的互聯網聊天室,大家賣力的唱著歌,花錢買最好的攝像頭與麥克風,只為情感得到釋放,單純享受陌生人之間的交流。而現在,直播平臺的一些主播們為了快速生財,花重金置辦最誘惑的直播場景,只為襯托自己“不可描述”的撩人動作表演。

除了色情直播,少量不法分子還會利用直播平臺煽風點火傳播敏感言論、惡搞政治人物等,蒙蔽不明(吃)真相(瓜)的群眾。不僅如此,還有不少越過法律邊緣的人利用直播平臺來販賣槍支彈藥,推廣賭博網站,甚至販賣違禁藥物。

部分平臺由于審核人力和技術資源有限,短時間內容易漏過對某些主播視頻內容分享的檢測,造成平臺口碑下降,對觀眾造成不良影響,甚至觸犯法律。騰訊云天御內容安全解決方案不僅對涉黃、敏感畫面有著99%的識別準確率,若遇上主播們通過“聲情并茂”的表演獲利,發出那羞羞的聲音,天御最新的音頻識別技術能結合聲紋、違禁詞匯,來判斷出色情嬌喘聲以及敏感言論。

此處不適合放客戶案例現場圖

省略一萬字……

游戲平臺

開著語音打著游戲,當遇上神(zhu)一樣的隊友時,總是忍不爆幾句粗口,文字罵完語音罵,從“家屬式問候”到敏感言論,大量低俗內容滋生。除了充斥謾罵,被騙則讓更多玩家們苦不堪言。詐騙分子常常聲嘶力竭的喊著麥“游戲裝備只要XX元”,價格如此優惠,讓眾多玩家“心動不已”,而騙子們正是利用玩家貪圖便宜的心里誘騙玩家充錢,實際上,用戶很難拿到心儀的道具,甚至有可能導致游戲賬號被封。

平臺被不法分子利用,不僅影響玩家體驗,對平臺也造成極大困擾。不久前,天御就為游戲「香腸派對」解決了這個棘手的問題。

(圖片來自網絡)

「香腸派對」是一款兒童游戲,可是有些不法分子連小孩子都不放過!接入騰訊云天御的服務后,天御為「香腸派對」識別出實時語音里的涉黃內容,以及謾罵等。騰訊云實時語音引擎能夠將平臺指定的違規音頻過濾,審核人員則會收到識別引擎的反饋,根據平臺守則對違規人員進行禁言/封號處理,從而維護游戲平臺生態,讓孩子享受一個健康的游戲平臺。

小程序平臺

除了常見的直播平臺、游戲平臺,新興的小程序平臺也被違法的內容制造者盯上,依賴于平臺的高互動性,他們開始瞄準這里生產高危內容吸引眼球,其中不乏涉黃、暴力、血腥等各種違法內容。

運營者受限于審核人力原因,很無助,甚至被執法部門約談。對于這些違規內容,騰訊云天御都能快速識別,幫助企業或者開發者提高內容平臺的安全屬性,從而助力業務健康的成長。

(圖片來自網絡)

除以上高流量淫穢場景之外,還有不少普通應用場景也涉及內容安全,比如社交、電商O2O圖片識別場景等。社交場景下用戶填寫資料,不少賣愛情動作片的商家直接將內容制作為圖像文本,最常見的是把聯系方式與樣片作為頭像,這個時候 ocr 識別技術便會識別,不讓你縱欲;電商O2O平臺的商家在布置店鋪以及商品上架發布過程,可能存在違法圖片上傳風險,有可能涉黃、涉敏等,畢竟好賺的錢大都違法。

不想被色情、血腥、暴力等違法內容毀掉的企業如遇到以上這些問題,請及時接入騰訊云天御內容安全解決方案:色情圖片識別準確率99%,文本識別率高達99%,每0.02秒能夠識別1秒的音頻……