隨着人工智能技術的飛速發展，“深度偽造”技術逐漸淪為造謠的工具。從偽造社會熱點事件到虛構自然災害場景，從編造政策新規到炮製“偽科普”內容，AI生成的虛假信息足以以假亂真，嚴重擾亂社會秩序。它不僅動搖了公眾信任的根基，更有可能引發社會動蕩。新華網“第一真相”欄目對近期AI謠言典型案例進行梳理，揭示其背後的生成邏輯與危害，助力公眾明辨是非真偽，共同守護真相！

  近期AI謠言四大典型亂象

  亂象一：炮製社會熱點，煽動焦慮恐慌

  案例解析：7月初，一則“四川峨眉山人猴大戰，猴王被當場擊斃”的網絡傳言引發了廣泛關注。該視頻借助AI技術，將多地拍攝的猴群畫面進行剪輯拼接，甚至編造了具體的人物信息，極具迷惑性。經有關部門核查，這實際上是利用AI視頻合成技術炮製的虛假內容，其通過動物話題來博取關注。實際上，“峨眉山人猴大戰猴王被斃”屬於舊謠新傳，類似的謠言在多年前就曾出現，景區已聯合森林公安等部門進行辟謠。

  手法揭秘：這類謠言往往選擇公眾關心的社會熱點話題，刻意強化衝突元素，借助AI換臉、場景合成等技術，實現畫面無縫拼接，以“第一手資料”“現場實拍”為噱頭，添加逼真音效和字幕，精心包裝成“爆炸性”熱點事件，以達到收割流量、謀取利益的目的。

  亂象二：偽造惠民政策，擾亂公共秩序

  案例解析：6月底，一則“7月1日起老年人坐火車可打折”的虛假信息在社交&&廣泛傳播。該謠言抓住老年群體對出行優惠的關注心理，通過AI技術偽造所謂的“鐵路部門新政”，甚至附上倣冒官方文件的排版和措辭，迷惑公眾。經核查，此類內容均出自自媒體賬號，其目的並非服務老年旅客，而是通過製造政策噱頭吸引點擊，最終實現流量變現。

  手法揭秘：這類謠言往往針對老年人、學生等特定群體的核心需求，如出行優惠、教育政策等，量身定制虛假“利好”信息。不法分子使用AI生成倣真度極高的“紅頭文件”，強調這是“內部消息”且“即將實施”，以此製造緊迫感，甚至偽造數據支撐，生成所謂的“政策解讀”內容，再搭配海報、配音，降低用戶防備心理，上演“博眼球，拉流量，變現謀利”的戲碼。

  亂象三：編造“文物危機”，挑起保護焦慮

  案例解析：6月中旬，一段題為“山西大同懸空寺部分建築物坍塌”的短視頻在網絡&&流傳，視頻裏，懸空寺中段木樓轟然倒塌，場面觸目驚心，引發公眾擔憂。經核查，該視頻是由外地網民周某東、李某英、陳某華三人利用AI影像篡改技術編造而成，其目的是為吸引流量、博人眼球。當地警方已對發布造謠視頻傳播量較大、造成嚴重不良影響的周某東、李某英進行行政處罰，對發布造謠視頻傳播量較小的陳某華予以批評教育。

  手法揭秘：此類視頻利用AI深度偽造技術，對文物、名勝古跡的實景照片進行局部篡改，通過模擬建築坍塌、結構損毀等畫面，蓄意製造“文物遭破壞”的視覺假象。造謠者抓住公眾對文化遺産的關切心理，以逼真但虛假的“災難場景”推動傳播，既迎合部分網民獵奇心態，又煽動社會對文物保護不力的焦慮情緒，最終達到博取流量、收割關注的目的。

  亂象四：虛構災情事故，透支社會善意

  案例解析：7月中旬，雲南大理漾濞網安部門破獲一起利用AI工具製作多個交通事故現場人員傷亡視頻的網絡謠言案。經查，趙某某為博人眼球、吸粉引流，使用AI工具製作多個交通事故現場人員傷亡視頻發布到網絡&&，編造虛假警情，並在視頻中標注“大理州”，引發當地居民恐慌。經核實，大理州轄區內未發生以上交通事故。目前，公安機關已依法對違法行為人趙某某給予行政處罰。此外，曾經在網絡熱傳的“被壓在廢墟下的小男孩”“雲南迪慶香格里拉一中、三中着火”等所謂“現場圖像”，經核實，均為不法分子通過AI特效合成，刻意營造災難現場的慘烈景象。

  手法揭秘：造謠者利用公眾對災情、突發事故的天然關切，通過AI快速生成具有強烈情感張力的“現場”圖片或視頻，他們甚至倣照官方通報格式，以“權威口吻”增強謠言迷惑性，吸粉引流，為後續募捐詐騙等違法行為作鋪墊。

  AI謠言應對“錦囊”

  查證來源：遇“爆炸性新聞”時，優先查看政府、權威媒體或涉事主體的正式回應。

  細節分析：警惕“無署名、無時間、無地點”的“三無”視頻，AI生成內容常缺乏細節邏輯，如季節不符、建築風格混亂，同時，存在口型不同、光影異常、文字錯誤等破綻。

  用AI檢測AI：使用“AI檢測工具”輔助判斷，對可疑圖片、視頻進行反向搜索或合成痕跡分析。

  理性傳播：對煽動情緒、製造對立的內容保持警惕，不盲目轉發。

  AI是新技術發展的産物，但其濫用可能帶來危害，造成社會秩序的混亂。面對AI造謠，我們更需擦亮眼睛。新華網“第一真相”欄目呼籲，在享受技術紅利的同時，必須保持高度警惕，強化&&監管，守住底線，共同構築清朗網絡空間。（吳炎）