（原標(biāo)題：“艾莎門”調(diào)查：視頻審核主要靠人又是KPI惹禍？）
大量披著兒童喜愛的動畫角色而制作的充斥著暴力、色情、低級笑料的視頻內(nèi)容去年出現(xiàn)在國外的視頻網(wǎng)站You Tube上。由于《冰雪奇緣》里的艾莎公主是這類視頻最常利用的角色，因此這個事件被稱為“愛莎門”。有家長在微博上反映，這些在被境外封殺的視頻悄悄流入國內(nèi)市場，優(yōu)酷、愛奇藝、騰訊、搜狐等視頻網(wǎng)站全部中招。南都記者調(diào)查獲悉，雖然目前國內(nèi)各大主流視頻網(wǎng)站均進(jìn)行了緊急處理。但這絕不是一次突擊清理這么簡單。視頻網(wǎng)站對UGC(用戶原創(chuàng)內(nèi)容)是如何進(jìn)行審核和監(jiān)管的？這類視頻如何堂而皇之通過審核？艾媒咨詢集團(tuán)CEO張毅接受南都記者采訪時表示，UGC內(nèi)容是目前的大趨勢，對這種模式的監(jiān)管和審核應(yīng)該越來越受到重視。
審核主要依靠人工？
上周，微博網(wǎng)友“肉呆大魔王”在微博上呼吁網(wǎng)友關(guān)注并舉報問題視頻。事件引起關(guān)注之后，1月20日，騰訊、愛奇藝、優(yōu)酷等發(fā)布了緊急聲明，紛紛表示采取措施。主要通過封停賬號、屏蔽搜索關(guān)鍵詞、下架視頻等方式進(jìn)行處理。昨日上午，南都記者在幾個主流視頻網(wǎng)站搜索發(fā)現(xiàn)，絕大部分關(guān)鍵詞搜索已經(jīng)被屏蔽。
但南都記者注意到，微博網(wǎng)友“sihan涵晗”在優(yōu)酷的聲明微博下評論稱：有人曝光就查一下，沒人曝光就隨便發(fā)視頻……該網(wǎng)友的評論實則指出了這次事件背后的根本問題--視頻網(wǎng)站對UGC內(nèi)容審查機(jī)制是否存在漏洞？大規(guī)模的問題視頻是如何通過了審核的？
南都記者了解到，目前視頻網(wǎng)站審核UGC內(nèi)容主要依靠關(guān)鍵字排查、視頻抽幀、人工審核等手段。有知情人士向南都記者表示，視頻審核一部分依靠機(jī)器篩查，主要借助視頻中的關(guān)鍵字+圖像識別。機(jī)器審核視頻是基于深度學(xué)習(xí)圖像識別云，實際也是將，由機(jī)器審核每一張截圖的安全性。不過具體是3秒截一張還是5秒截一張，松緊度由視頻網(wǎng)站自己控制。機(jī)器審核視頻原理是先建模，然后導(dǎo)入海量的數(shù)據(jù)建庫，讓多個機(jī)器同時進(jìn)行深度樣本學(xué)習(xí)，再標(biāo)注無法通過的圖像種類，進(jìn)而把這些樣本揉碎、旋轉(zhuǎn)、添加“噪音”，提高機(jī)器識別能力。對于不能通過的視頻，機(jī)器審核會給出兩類結(jié)果：確定不能通過的，這類準(zhǔn)確率幾乎99.5%以上：僅作參考的，準(zhǔn)確率在95%到97%，這就意味著，該視頻需要再次進(jìn)行人工審核。機(jī)器基本能篩過99%的視頻，只有1%需要再次動用人工。
“在實際操作中，上面所提到的流程是理想狀態(tài)，更多的上傳視頻其實還是主要依靠人工審核，機(jī)器只是輔助?！币患乙曨l網(wǎng)站的相關(guān)負(fù)責(zé)人向南都透露，比如機(jī)器檢測到流量的異動，點擊、評論等數(shù)據(jù)短期內(nèi)暴漲，借助這個輔助手段，審核人員會對視頻二次審核，如果涉黃涉暴就會處理；如果視頻即便涉黃涉暴，但數(shù)據(jù)沒有飆升，也很難發(fā)現(xiàn)?！耙曨l總量太大，人工只能抽檢，沒辦法普查，發(fā)現(xiàn)問題其實都是概率事件。”
KPI考核的壓力？
這是否意味著，針對上傳視頻的監(jiān)管，目前并沒有什么好辦法，主要大量依賴人力審核？對于上述疑問，目前，愛奇藝、優(yōu)酷土豆、搜狐等都不愿意對審核和監(jiān)管的細(xì)節(jié)詳細(xì)解讀。
不過，很多網(wǎng)友都曾抱怨過，上傳視頻網(wǎng)上審核時間偏長。南都記者此前試驗也發(fā)現(xiàn)，在白天上班時間，上傳一個5分鐘的視頻，大約半個小時到一個小時就能審核通過。但在深夜，同樣上傳一段5分鐘的視頻，等待審核通過的時間需要3個小時或者更長。對此，業(yè)內(nèi)人士表示，晚上審核的人少，相對會慢一些。
在上述視頻問題出現(xiàn)后，有網(wǎng)友建議，視頻網(wǎng)站應(yīng)加強(qiáng)算法等，采用更好的技術(shù)手段來解決這一問題。但有網(wǎng)友指出，有的上傳視頻其實反映的價值觀非常隱晦，目前的AI技術(shù)根本不能夠篩查出來。比如，表面上是一個教小孩子DIY橡皮泥的視頻，中間有一小段出現(xiàn)了明顯類似內(nèi)臟的東西，橡皮泥的顏色也類似器官。昨日中午，南都記者在優(yōu)酷還看到了比這位網(wǎng)友描述的更加隱晦的包含暴力暗示的視頻內(nèi)容。一段表面來看是視頻制作者帶著芭比娃娃和小豬佩奇一家玩過家家游戲，但中間會出現(xiàn)小豬的頭被“不經(jīng)意”扭斷的畫面。
一位曾在某內(nèi)容平臺負(fù)責(zé)視頻內(nèi)容審核的業(yè)內(nèi)人士向南都記者透露，“如果平臺這類視頻上線量不夠，用戶留存率不高的，人工審核時就會有意識地去增多這些問題視頻?！北热纾裉焐暇€的視頻總量有5000個，按照KPI的考核情況，為了炒熱度和點擊量，就可能會選擇尺度比較大、有沖擊性的視頻上線。這個比例每天都在調(diào)整，至于有沖擊性的內(nèi)容的尺度把握，“要看負(fù)責(zé)審核的人，很多人都不會看具體內(nèi)容，只是看視頻的欄標(biāo)簽，這些欄目標(biāo)簽都是人添加的。色情、惡搞的點擊率明顯比優(yōu)質(zhì)視頻的高多了?！痹撊耸勘硎?，雖然審核人員不與視頻熱度KPI考核直接掛鉤，但KPI考核還是會影響選擇上線視頻的傾向性。
至于機(jī)器審核的截圖和動圖，“這些都是可以人工操作的，根據(jù)需求規(guī)避。”上述人士表示，這其實都是行業(yè)的潛規(guī)則。
用實名制認(rèn)證防范？
針對這一次采取“封停賬號、屏蔽搜索關(guān)鍵詞、下架視頻等方式”凈化問題視頻之后，視頻網(wǎng)站如何預(yù)防此類內(nèi)容和事件的再次出現(xiàn)？目前視頻網(wǎng)站的審查和監(jiān)管還存在哪些短板，未來將如何提高把關(guān)水平？
相對于目前的審查手段，業(yè)內(nèi)認(rèn)為，實名制的推進(jìn)才能減少用戶權(quán)益受損。2017年6月1日正式施行的《網(wǎng)絡(luò)安全法》要求，“網(wǎng)絡(luò)運營者為用戶提供信息發(fā)布、即時通訊等服務(wù)，在與用戶簽訂協(xié)議或者確認(rèn)提供服務(wù)時，應(yīng)當(dāng)要求用戶提供真實的身份信息。用戶不提供真實身份信息的，網(wǎng)絡(luò)運營者不得為其提供相關(guān)服務(wù)?！比ツ?月，bilibili(B站)已公告開始采用實名制，UP主(視頻創(chuàng)作者或上傳者)上傳視頻內(nèi)容(包括新增、編輯、換源等)需通過實名驗證。昨日，優(yōu)酷土豆方面向南都表示，目前還沒有接到消息要實名制。搜狐、愛奇藝對此沒有回應(yīng)。
采寫：南都記者 莫柳 實習(xí)生 陳琳玫
視頻網(wǎng)站這樣應(yīng)對
1
優(yōu)酷在聲明中稱，將對視頻上傳環(huán)節(jié)更加嚴(yán)格地把關(guān)。
2
騰訊視頻發(fā)布的聲明中也指出，處理過程中，經(jīng)過技術(shù)偵查，發(fā)現(xiàn)存在大規(guī)模惡意有組織上傳行為。對此，“我們正在全力進(jìn)行技術(shù)反制，將向有關(guān)部門報案，追究其法律責(zé)任。”
3
搜狐視頻回應(yīng)稱，嚴(yán)格篩查的同時，將嚴(yán)密監(jiān)控相關(guān)內(nèi)容和上傳的賬號，及時嚴(yán)格對上傳賬號進(jìn)行處理。
4
“為避免相關(guān)違規(guī)動漫關(guān)鍵詞及視頻內(nèi)容變種過多不易篩查，搜狐視頻寧可整部劇集全面下線清查，也絕不放過。搜狐視頻后續(xù)將持續(xù)重點關(guān)注此類動漫內(nèi)容，隨時接受用戶監(jiān)督，對于此類不良內(nèi)容堅決抵制并處理?！?/p>
