新華社天津1月22日電 題：“變味”的AI動畫——如何守好孩子的網絡凈土？
新華社“新華視點”記者白佳麗、栗雅婷
近年來，AI技術在影視領域得到廣泛運用，極大地豐富了群眾的文化生活。然而“新華視點”記者近日發現，一些在青少年中流行的AI動畫産品角色形象怪異、音效陰森、內容低俗，有的甚至含有色情、恐怖等元素，引發家長擔憂。
這類AI動畫是如何炮製出來的？如何為孩子守好清朗網絡空間？記者進行了走訪調查。
“變味”的AI動畫防不勝防
“哩哩哩啦哩啦……”天津市民李先生發現，孩子最近嘴裏總是“唸唸有詞”，查詢後才得知，這是在青少年中爆火的“AI山海經”裏動畫形象的名字。
“這些‘AI山海經’視頻中，不少內容形象怪異、背景陰森，毫無情節和邏輯可言。但孩子看得津津有味，和同學在一起還會討論這些動畫形象，甚至把裏面的內容當作真正的《山海經》故事。”李先生説。
家住山西大同的張女士&&，用視頻App給孩子播放動畫片時，系統多次推送AI“魔改”的動畫。“本來在看《小馬寶莉》，緊接着開始播放小馬寶莉流淚拉車，被艾莎公主拿鞭子抽打的視頻；想看《天線寶寶》，播出的視頻中卻出現天線寶寶被起重機壓扁的情節。”
更有甚者，有的這類AI動畫標注着“兒童動畫”的標籤，在青少年模式中也可以看到。此外，由於大數據的算法設置，一旦孩子主動或被動地觀看了這類AI動畫，便會被經常性推送同類視頻，令人防不勝防。
多位受訪家長擔憂地&&，許多AI動畫視頻以孩子熟知的經典動畫形象為主角，當深受孩子信任的角色做出不當行為，不僅會給孩子帶來認知上的困惑，還可能誘導孩子去模仿。
除了“AI山海經”外，此前社交網絡和短視頻平台還曾出現《紅樓夢》《西游記》《三國演義》等經典著作改編的AI視頻，“林黛玉倒拔垂楊柳”“唐僧手持加特林”等荒誕畫面讓人大跌眼鏡。天津市河西區德賢小學校長周瑞認為，這類對經典作品的歪曲惡搞，可能對正處於三觀塑造階段的青少年帶來負面影響。
AI視頻不良內容的“重災區”
記者調查發現，在多個AI內容生成平台，用戶只需上傳簡單的人物形象、輸入文字指令，即可快速生成動態視頻，電商平台也存在專門提供動畫定制服務的商家。社交媒體上，還能看到有關AI生成大尺度圖片的教學帖、經驗帖，其中動畫是AI視頻不良內容的“重災區”。
“AI技術使得製作視頻的成本和門檻大幅降低，為內容創作者提供了極大助力，但客觀上也讓更多粗製濫造甚至導向不良的視頻産品進入用戶視野。”南開大學信息與傳播學院副教授於孟利&&，一些投機型創作者利用青少年好奇心強的特點，將製作節奏快、刺激性強的AI動畫當作“流量密碼”，不擇手段“博眼球”。
記者在某短視頻平台上看到，不少內容荒誕或含有暴力、軟色情內容的AI動畫流量十分可觀，例如某條“奧特曼開着推土機瘋狂碾壓路面汽車”的動畫點讚量達到2.6萬次。
據業內人士透露，創作這類內容有多種變現途徑，除了平台流量分成外，還可以通過售賣盲盒、卡牌等周邊産品，或將用戶引流至私域等方式獲利。以“AI山海經”為例，已有手辦、玩偶、臨摹繪本等衍生品在電商平台銷售。
工信部工業和信息化法治戰略與管理重點實驗室副主任趙精武介紹，對於AI生成的圖片、視頻，平台通常採取“人工+機器”的方式進行審核，部分平台會採用數字技術工具對圖片視頻內容進行批量審核，有的平台還會設置專門的人工審核團隊，針對用戶投訴舉報、首頁推薦等顯著位置的網絡信息內容進行審核。
這類批量生成的AI動畫視頻，給平台的監管體系帶來挑戰。趙精武&&，現有審核機制在應對隱蔽性強、法律定性模糊的網絡內容時存在局限，平台往往難以在短時間內準確判定其是否屬於違法不良信息。此外，AI生成的視頻、圖像常與普通內容混雜，進一步增加了識別難度，導致人工審核成本大幅上升。
為孩子營造清朗網絡空間
當AI技術深度融入社會生活，如何讓其成為孩子成長的好幫手，而不是炮製有害內容的幫兇？
2024年發布的《生成式人工智能服務安全基本要求》，對生成式人工智能服務適用未成年人的有關內容作出明確規定。
2025年4月，中央網信辦開展“清朗·整治AI技術濫用”專項行動，重點整治內容包括利用AI脫衣、AI繪圖等功能生成合成色情內容，製作發布血腥暴力場景，人體扭曲變形、超現實怪物等恐怖詭譎畫面等。
多位受訪專家建議，進一步加強AI生成視頻産業鏈的監管力度，壓實平台主體責任。
趙精武&&，網絡平台應重點審核面向未成年人群體的AI合成推送信息，設置專門團隊優化未成年人用戶算法推薦服務，增加優質網絡信息內容的推送權重。
在源頭治理方面，於孟利建議，應在AI生成工具上強制嵌入不可篡改的數字水印，從而實現內容的精準溯源。
“低齡兒童對信息真偽的判斷力較弱，面對AI等新技術帶來的網絡信息洪流，家長應積極承擔監護人職責，成為孩子觀看內容的最後一道‘把關人’。”中國傳媒大學動畫與數字藝術學院院長王雷説。
天津市安定醫院兒童青少年心理科病區主任雷彤&&，學校和家庭應加強未成年人的生命教育等，讓孩子培養正確的價值觀，抵禦不良網絡內容的侵蝕；同時，加大優質兒童文化産品的供給。“當‘正’的內容足夠多、足夠有趣，‘邪’的內容自然便沒有了生存空間。”雷彤説。
