文 | 劉淏煜

  讓“院士”代言護膚産品，讓“演員”直播帶貨，用奧運冠軍聲音賣土雞蛋……近期，利用AI換臉、語音合成等技術生成虛假內容謀取私利或虛構突發事件、編造公共政策、捏造社會民生謠言的熱點事件多發。

  AI合成亂象侵犯了相關人士的肖像權、聲音權，還可能誤導公眾、損害消費者權益，甚至影響到社會信任乃至公共秩序。維護安全、清朗的網絡空間，應明確使用AI技術的底線與紅線。

  內容標識，是遏制AI合成亂象的第一道“防火墻”。9月1日起施行的《人工智能生成合成內容標識辦法》聚焦人工智能“生成合成內容標識”關鍵點，明確相關服務主體的標識責任義務，規範內容製作、傳播各環節標識行為，既為公眾提供辨識真偽的標準，逐步形成“以標識為準”的意識，更為後續追責提供證據，從源頭壓縮惡意行為的生存空間。

  儘管制度設計已明確各方主體責任與義務，實踐中仍有不法分子通過“鏡像翻轉”“畫中畫遮擋”等技術手段規避和隱藏標識。可見，凈化AI合成生態，破解AI造假困境，還需多方協同共治。

  一方面，技術服務提供商和內容發布平台應嚴守標識規定，加大技術投入、強化內容審核，優化用戶舉報和維權通道，健全追溯、下架以及追責機制。另一方面，需持續完善相關規定，實現從內容生成到公共傳播的全鏈條治理，以源頭嚴防、過程嚴管、違規嚴懲，有效消除侵權造假的土壤。

  技術發展唯有持續向善，方能持續向上。始終以規則護航發展，才能讓AI真正成為推動社會進步的力量。□