新華網 正文
內容審核,靠人工還是靠機器?
2019-08-21 09:11:51 來源: 新華網
關注新華網
微博
Qzone
評論
圖集

  去年開始,快手、火山小視頻等數十家短視頻社交平臺在數月內相繼被網信辦約談,短視頻社交平臺從此迎來了一係列大刀闊斧的整改篇章。不久前,網信辦會同有關部門對吱呀、語玩、一説FM等26款音頻社交平臺進行新一輪全面集中整治,新興的音頻社交平臺因此迎來不少質疑。

  在一年多的時間內,互聯網的UGC內容審查方向均在走向人工強幹預,業界甚至有人認為,真正靠AI審核內容可能還需要5-10年的窗口期。現實已經表明,只有督促互聯網公司承擔社會責任,強調算法的價值觀,在産品設計上創新未成年人保護措施,加強內容安全監管,才能杜絕短視頻社交平臺中的種種亂象。

  人工幹預已成行業共識

  得益于算法技術的發展,互聯網公司通過用戶畫像實現了相對精準的信息推送。但如果不對信息的分發加以幹預,諸如強烈性暗示、虛假信息、軟色情等內容就會在推薦網絡中蔓延,科技界、媒體界由此展開了關于“算法有沒有價值觀”的討論。

  字節跳動創始人張一鳴曾發表公開信,表明為糾正機器與算法的缺陷,將原有6000人的運營審核隊伍,擴大到10000人。2018年4月被網信辦約談後,快手官方表示,將原有2000人的審核團隊擴充至5000人。在“算法有沒有價值觀”這一命題上,快手和字節跳動最終作出了少有的共同選擇。

  今年4月,探探因整改下架,在其後陌陌第1季度財報會議中,唐岩表示將加大內容審核業務上的資源投入。最新一輪開展集中整治的26款音頻社交平臺中,社交應用Soul也公開回應稱將嚴格審核相關功能和內容,其整改措施中同樣包括加強審核團隊建設,將會增招大量內容審核及主管級人員。

  如今的探探,在其朋友圈發表動態會進入長時間的審核狀態。而在Soul,其動態內容審核據稱已全面覆蓋除機器判定外的兩道人工審核流程,在未來新版本中當動態內容判斷為涉嫌違規時也會直接給予用戶提醒。

  上述四款應用的整改措施都在強化人工審核在內容審查機制中的主導作用,從一個側面印證了機器分發的局限性。

  機器審核只能輔助識別

  得益于音視頻技術的發展,音視頻匹配通話、音視頻直播、音視頻信息流等新型媒介走進人們的數字屏幕,給人們帶來嶄新的通訊體驗和娛樂視聽上的享受。音視頻內容技術審核要求高,完善審查機制耗費較大人力財力,但這並不代表一籌莫展。

  音頻內容的機器審核方案中,音頻識別轉文本匹配關鍵詞是目前通用的基礎方案。先識別音頻中的語言語種,語音識別轉化為文本信息後索引出關鍵詞,在這一過程就可以植入現有文本識別中的上下語義分析,機器識別出與模型相似度最高的垃圾內容進行剔除。但正如機器與算法的缺陷,目前業界的音頻識別技術能力尚未到達可以完全代替人工審核的階段,特別是在處理方言、有不同音軌的雜音等場景時。

  視頻內容實則由音頻內容、視頻畫面內容兩個對象組成,視頻畫面內容的機器審核,業界目前常採用截取畫面幀上傳識別,最終復用的是圖片識別通道對場景、人物、物品進行判斷是否違規。但以常用的24幀標準為例,一個60秒的視頻就多達1440個畫面幀,要實現覆蓋全畫面幀的機器審核則會耗費極大的資源,故此常見的審核設計是設定視頻的截取時段選取部分畫面幀進行機器審核。在無法覆蓋全畫面幀的審核的條件下,自然就出現了視頻內容“閃現”色情違禁內容的風險,更有甚者,一些人通過畫面內容隱晦表達,圖片的機器審核難以理解表義。

  其實無論什麼載體的媒介,在真正的AI時代來臨之前,所有的機器審核都只會是人工的輔助。在流程設計上,機器審核可以做到的就是幫助運維者先行剔除大量確切違規的內容,剩下的人工審核流程可不能説省就省。舉個例子,一張人像圖片,可以劃分為“色情”、“性感”、“正常”三個維度,機器審核可以根據肉體裸露的程度進行判斷,實際上信息的表義可沒那麼簡單,究竟該怎麼定義“性感”?全無裸露的人體通過場景與動作的表達能不能達到人們對“色情”的認知?

  人生而愛美,如果説“性感”可以從性暗示程度、信息接收者的舒適度作為標桿,那麼定性標尺就掌握在網站運維者手上,各社交平臺的編輯責任制也因此誕生。

  圍繞重點開展技術創新

  今年3月,國家網信辦組織抖音、快手、火山小視頻試點“青少年防沉迷係統”,其主要功能在于獨立分發未成年用戶的專屬內容,以及限制其使用時長。

  防沉迷係統最初應用于遊戲行業,而短視頻新媒介具有沉浸式體驗強、佔據用戶時長的特點,將防沉迷係統適配到短視頻裏,在業界起到了理想的標桿效應。

  今年“六一”兒童節前夕,國家網信辦再次指導西瓜視頻、好看視頻、嗶哩嗶哩、微博等14家短視頻社交平臺,以及騰訊視頻、愛奇藝、優酷、PP視頻等4家網絡視頻平臺統一上線“青少年防沉迷係統”。

  

 

抖音平臺青少年模式

 

快手平臺青少年模式

                                                

  在網信辦等相關部門的有力監管下,各類音視頻、社交平臺等只有堅持以正確的價值觀引導人工審核,輔之以機器協助,才能真正將自己的社會責任落到實處。(徐婧瀾)

+1
【糾錯】 責任編輯: 曹素妨
新聞評論
加載更多
天空之眼瞰昆明
天空之眼瞰昆明
緊急迫降
緊急迫降
巴黎:夏夜蒙馬特
巴黎:夏夜蒙馬特
古村新韻
古村新韻

010020080870000000000000011121071383237481