新華網科技觀察丨給“AI魔改”戴上“緊箍咒”-新華網
新華網 > 時政 > 正文
2026 01/16 16:32:00
來源:新華網

新華網科技觀察丨給“AI魔改”戴上“緊箍咒”

字體:

  新華網北京1月16日電 題:給“AI魔改”戴上“緊箍咒”

  新華網記者 王岩 周靖傑

  弱不禁風的林黛玉化身“力拔山兮”的猛士,將大觀園的垂楊柳連根拔起;深宮之中的甄嬛娘娘穿越火線,手持現代武器成為特種兵王;經典革命劇集的片段被篡改得面目全非,嚴肅歷史淪為荒誕戲説的背景板。這些以“創意”為名、借助AI工具批量生産的“魔改”視頻,憑藉顛覆性的衝擊力吸引網友的眼球,迅速被視作“流量密碼”。

  為整治“AI魔改”視頻傳播亂象,國家廣播電視總局自2026年1月1日起,在全國範圍內開展為期一個月的專項治理。

  國家廣播電視總局部署開展“AI魔改”視頻專項治理(圖片來源:國家廣播電視總局網站)

  截至1月16日,第二期“AI魔改”視頻專項治理成果已公布,各平台共累計清理超1.1萬條違規視頻,如通過AI生成方式對《西游記》中相關經典人物形象進行不當改編、魔改《紅樓夢》中劇情和人物,渲染暴力毆打情節、編造低俗情節,違背公序良俗等內容,並同步處置亂象突出賬號,助力營造良好網絡視聽空間。

  “魔改”或觸法律“高壓線”

  所謂“AI魔改”視頻,絕非簡單的技術炫技或無害的娛樂調侃。部分創作者利用AI技術,對經典文藝作品、歷史人物、英雄模範形象進行顛覆性、低俗化乃至暴力血腥的篡改與重構。這些視頻借助生成式人工智能(AIGC)技術,打着二次創作、創意表達的旗號,以低門檻、高産量、強獵奇的特點迅速傳播。

  圖片來源:央視新聞《法治在線》

  除了對經典作品的解構,一種在網絡上被稱為“AI拼接怪獸”或“外國山海經”的邪典視頻,此前曾在未成年群體中隱秘流行。據央視新聞、《法治日報》等媒體報道,這類視頻利用AI工具將動物、物品與人類特徵隨機拼接,批量製造出荒誕離奇的怪異形象,並配以魔性音效,其中部分圖片和視頻中不乏暴力詞彙,以及危險動作。這些視頻的傳播不僅嚴重擠佔兒童接觸優質內容的空間,導致其模仿怪異行為、專注力下降,從更深層角度來看,視頻以扭曲、獵奇的視覺垃圾,將“低俗獵奇”潛移默化為“流行趣味”,持續衝擊着未成年人尚未成熟的審美體系與價值認知。

  北京社科院副研究員王鵬認為,“AI魔改”視頻氾濫至少帶來三重危害。第一,篡改經典與歷史人物的核心精神,消解文化的嚴肅性與連續性;第二,低俗化、娛樂化內容嚴重衝擊社會公序良俗,尤其對青少年價值觀形成誤導;第三,擾亂內容行業生態,擠壓原創空間,形成“劣幣驅逐良幣”的惡性循環。

  浙江大學城市學院副教授、中國城市專家智庫委員會常務副秘書長林先平認為,部分創作者對經典作品及英雄模範、歷史人物的“AI魔改”視頻,可能對公眾尤其是青少年的歷史認知和價值觀造成誤導,削弱經典文藝作品的教育意義,損害英雄模範人物的嚴肅形象,不利於社會主義核心價值觀的傳播。

  “AI魔改”視頻不僅挑戰文化底線,也可能觸碰到法律的“高壓線”。

  北京煒衡(天津)律師事務所執委會主任、高級合夥人裴躍提示了“AI魔改”視頻背後的法律風險。因經典作品受《中華人民共和國著作權法》(以下簡稱著作權法)保護,未經原權利人同意對作品的文字、人物形象、&詞、劇情等進行實質性改動,可能涉嫌侵犯改編權、保護作品完整權、複製權;若截取影視演員表演片段並篡改其形象、動作、&詞,還可能侵犯表演者權以及演員的肖像權、名譽權等人格權。而針對英雄模範、歷史人物的“AI魔改”,若存在歪曲、醜化行為,還會侵犯其名譽權和榮譽權,依據《中華人民共和國英雄烈士保護法》,侵害英雄烈士相關權益情節嚴重的還可能涉嫌刑事犯罪。

  當前,生成式AI的普及極大地降低了視頻修改的技術門檻和成本,違規內容正在以規模化、隱蔽化的方式進行生産傳播,AI技術的“雙刃劍”效應凸顯。王鵬認為,傳統的內容審核機制面對海量、快速迭代的AI生成內容時顯得“力不從心”,存在一定的監管滯後與空白。

  厘清邊界引領技術向善

  此次專項治理,劍指技術濫用之弊。抖音、快手、微信、B站、小紅書等平台紛紛公布治理數據與典型案例。其中,抖音下架了AI魔改《紅樓夢》《西游記》《水滸傳》等經典作品,編造低俗情節、渲染暴力毆打情節的視頻;百度清理了對軍人形象進行低俗化AI演繹的內容;小紅書處置了高頻發布魔改海綿寶寶、皮卡丘等動畫形象、傳遞不良價值觀的賬號。

  林先平認為:“治理行動絕非意在抑制創作活力,核心目的是‘劃清邊界’,厘清‘二次創作’與‘惡意魔改’的界限,恰恰是為了讓創新能夠在尊重歷史、弘揚正能量的軌道上更有生命力。”

  裴躍指出,根據著作權法規定,為個人學習、評論、新聞報道、教學研究等目的使用作品屬於合理使用範疇,無需經權利人同意,而商業性使用或具有侵權故意的使用,未經權利人許可則涉嫌違法;“改編”行為因必然關聯原作品及權利人,通常需獲得權利人同意。

  對於廣大創作者而言,應當如何避免從“合理使用”滑向“侵權魔改”?

  裴躍給出幾條建議。首先,創作前務必查清版權歸屬,通過版權登記平台、出品方署名、官網等渠道確認電視劇、改編作品等受保護內容的著作權人,使用相關片段需獲取書面許可,即便是四大名著這類公有領域經典作品,也需規避他人已受保護的改編版本。其次,二次創作必須體現自身的“獨創性”,不能僅僅是原作的搬運或簡單拼接。第三,非商業用途、基於少量片段進行評論、科普,且未歪曲原意的,法律風險相對較低。一旦涉及商業傳播,或對嚴肅題材進行娛樂化歪曲,即使非營利也極易觸碰紅線。最後,務必保留創作過程的證據鏈。

  國家廣播電視總局在《通知》中明確,專項治理後,廣電總局將認真總結,進一步研究制定綜合治理舉措,健全工作機制,保持治理的常態化、長效化。這意味着,此次為期一個月的集中治理,只是一個開始。

  AI的普及讓每個人都能成為“導演”,但一個合格的導演應該明白,規範AI創作的最終目標,是讓AI技術賦能文化傳播,讓文化與科技相向而行、彼此成就。

【糾錯】 【責任編輯:吳京澤】