井噴式的行業(yè)發(fā)展，使得各方監(jiān)管變得心余力絀。違規(guī)內(nèi)容成了平臺審核之痛，發(fā)展之殤。在此背景下，主管部門重拳出擊，多個短視頻平臺遭約談、整改、下架。短視頻、直播平臺持有對違規(guī)內(nèi)容絕不姑息的堅定立場以及從嚴(yán)處理的決心，在投入龐大資金的同時，并已開始大幅度擴(kuò)大審核團(tuán)隊，加大人工審核力度進(jìn)行緊急應(yīng)對。

 

規(guī)范傳播內(nèi)容、保護(hù)未成年人健康成長，弘揚正確的社會主義核心價值觀，各視頻平臺和關(guān)聯(lián)企業(yè)都有著不可推卸的責(zé)任和義務(wù)。然而，由于視頻量巨大，人工審核力有不逮，在加大人工審核力度之外，金山云金睛——一站式AI內(nèi)容安全服務(wù)為視頻平臺提供了全新的解決方案。

 

 

金山云AI內(nèi)容安全監(jiān)管平臺——“金睛”，早在2016年直播、短視頻方興未艾之際，緊隨《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》同步上線，致力于為平臺方提供一站式AI內(nèi)容安全服務(wù)。“金睛”見證了短視頻、直播行業(yè)的整個興盛過程，同時夯實了自身基礎(chǔ)。

 

當(dāng)前，每天新增的短視頻、直播數(shù)量不低于5000萬條，不良“UP主”、主播使出“十八般武藝”鉆監(jiān)管漏洞，常出現(xiàn)圖像正常而語音違規(guī)、違規(guī)行為持續(xù)時間短、打規(guī)則擦邊球等問題，都會加大審核難度。巨大的審核工作依靠現(xiàn)有的“堆人”戰(zhàn)術(shù)已經(jīng)很難從當(dāng)下的困局中突圍，引入基于深度學(xué)習(xí)、圖像識別、云技術(shù)的AI內(nèi)容安全監(jiān)管能力，提升審核效率和精準(zhǔn)度，變得尤為重要。對比發(fā)現(xiàn)，采用傳統(tǒng)的人工審核方式，可做到3萬張/人/天，準(zhǔn)確率約80%，而金山云“金睛”可以做到全天24小時不限量識別，1s之內(nèi)響應(yīng)，準(zhǔn)確率高達(dá)99%以上，可大大提升效率。

 

單一依靠人工審核來保持網(wǎng)絡(luò)環(huán)境的潔凈安全，成本之高和耗時耗力之大顯然無法應(yīng)對飛速增長的數(shù)據(jù)量。面對復(fù)雜的網(wǎng)絡(luò)環(huán)境，“金睛”與人工審核相結(jié)合的方式，是金山云提供給行業(yè)“破局”最行之有效的解決方案。

 

目前，金山云為90%的互聯(lián)網(wǎng)、媒體及廣電等行業(yè)頭部客戶提供服務(wù)，業(yè)務(wù)覆蓋直播、短視頻、長視頻、OTT等多種視頻業(yè)態(tài)。從最早入局視頻、直播行業(yè)，經(jīng)過多年積累，目前擁有10億精標(biāo)數(shù)據(jù)，夯實了金山云“金睛”廣泛應(yīng)用的基礎(chǔ)。“金睛”基于精準(zhǔn)AI算法模型，支持涉黃、涉恐、涉政、不良廣告等多種違規(guī)場景的內(nèi)容審核，同時提供直播實時AI內(nèi)容安全監(jiān)管服務(wù)、短視頻AI安全審核解決方案，從而有效凈化網(wǎng)絡(luò)環(huán)境?；谏詈竦拇髷?shù)據(jù)沉淀，金山云“金睛”對違規(guī)場景進(jìn)行精細(xì)化標(biāo)簽，目前分別支持200+暴恐類標(biāo)簽識別和1000+敏感人物識別，鑒黃識別方面準(zhǔn)確率超過99%。

 

金山云“金睛”低俗場景判斷結(jié)果與其他平臺對比

 

 

眾多直播、短視頻平臺都先后選擇使用金山云“金睛”來進(jìn)行內(nèi)容安全監(jiān)管服務(wù)，例如龍珠直播。龍珠直播是國內(nèi)最全的賽事直播，最豐富的游戲視頻互動平臺。龍珠直播借助金山云“金睛”平臺領(lǐng)先的內(nèi)容監(jiān)管能力，確保平臺上不出現(xiàn)淫穢色情、兇殺暴力等有害信息，不傳播泛娛樂化、低俗、惡搞等不良內(nèi)容。

 

區(qū)別于傳統(tǒng)的SDK、API方式的技術(shù)應(yīng)用，龍珠直播將實時的直播流同步共享在金山云“金睛”平臺上，“金睛”高效對直播流進(jìn)行抽幀解析，從審核、響應(yīng)、復(fù)審到違規(guī)結(jié)果傳輸給龍珠運營人員，全程30s之內(nèi)高效執(zhí)行并同步發(fā)送給龍珠運營人員進(jìn)行跟進(jìn)。另外，金睛根據(jù)龍珠平臺上主播直播時間、行為、內(nèi)容的抓取進(jìn)行數(shù)據(jù)沉淀，利于運營方對主播的管理，對有潛在違規(guī)傾向的主播進(jìn)行監(jiān)控。

 

監(jiān)管同時，關(guān)注用戶的視頻消費體驗也是重點，監(jiān)管做到不“死”管，才是真正的維護(hù)消費者的切身權(quán)益。例如維護(hù)體賽事直播的健康發(fā)展，“金睛”為龍珠直播上球類內(nèi)容進(jìn)行識別，杜絕非版權(quán)賽事視頻在平臺的惡性傳播。對于游戲玩家，金睛針對平臺上熱門的“吃雞游戲”進(jìn)行了定制化的內(nèi)容識別，精準(zhǔn)識別主播游戲數(shù)據(jù)，輔助直播平臺進(jìn)行深度運營，增加電子競技的觀賞性，實現(xiàn)用戶體驗和主流價值觀正確引導(dǎo)的統(tǒng)一。