用戶只需上傳一張生活照，便可一鍵生成個人軍裝照、警察照……“新華視點”記者調查發現，一些AI工具推出“換裝”功能，引發不少軍警迷的追捧。但是，有不法分子利用“AI換裝”功能，偽造軍警身份招搖撞騙，亟待引起警惕。

  AI生成制服照被濫用

  記者以“AI換軍裝”為關鍵詞，在部分短視頻&&搜索到多款相關應用。這些應用以“穿電子軍裝過把癮”“AI圓了我兒時夢”等為亮點吸引用戶。有網民稱，只需上傳一張生活照，即可“秒變軍人”，配上戰車、閱兵場等背景，感覺圓了自己的“從軍夢”。

  當下一些流行的AI工具提供的AI生圖功能，也可以按使用者要求，實現AI變裝。然而，“AI換裝”被一些人不當或不法使用，可能引發負面效應。

  相關專家在觀看部分AI換裝視頻後指出，不少換裝的軍人形象並不符合《中國人民解放軍內務條令》規定的着裝規範，有的混淆軍種制式，有的使用假勳章，有的拼湊不同國家軍服元素。

  江蘇大學管理學院黨委書記、教授馬國建&&，個別網民用AI將不同國家、軍種制式的軍服混搭，有的甚至把手持煙酒、勾肩搭背的生活照合成軍裝或警服照片、視頻，與我軍警應有的形象不符，是對軍人和警察形象的不當消費。

  個別網民借AI生成虛假人民警察證、部隊任命書。今年3月，安徽黃山市屯溪區網民江某利用AI技術合成身穿軍裝的照片，並在社交&&發布“經軍委同意，任命我為黃山軍分區司令員”的虛假信息，意圖博取流量。該行為造成不良社會影響，江某被當地公安機關處以治安處罰。

  有的不法分子借助“AI換裝”技術偽造身份，招搖撞騙。

  今年4月，江蘇省江陰市人民法院對一起冒充軍人招搖撞騙案作出判決。網民路某並非現役軍人，卻盜用網絡上軍人訓練的照片發布在短視頻&&上；收穫不少點讚後，他又用AI將自己的頭像合成到軍裝照上，並花錢偽造軍官證，搖身變成“少校軍官”。在騙取6名女性信任後，他以“車禍”“租車見領導”等藉口詐騙3萬多元。法院以冒充軍人招搖撞騙罪判處其有期徒刑2年。

  今年7月，江蘇常州的唐大媽遭遇一場精心設計的騙局：詐騙分子通過AI視頻與受害人接觸，視頻中，對方身着帶有公安標誌的制服，以“涉案”為由恐嚇老人繳納高額“保證金”。好在警方及時預警並上門勸阻，避免了老人的財産損失。

  &&審核缺位 變造制服照“零門檻”

  記者在某社交&&上瀏覽到一些網友發布AI變裝視頻，通過視頻下方小程序鏈結進入後，按要求上傳三張本人面部清晰的照片；系統經過十幾分鐘的AI合成，便生成了軍裝變裝視頻。這期間，&&和小程序並未要求上傳身份證明信息，也沒有給出不得將合成視頻用於違法違規領域的提示。

  9月1日起施行的《人工智能生成合成內容標識辦法》要求AI合成內容必須明確標注，但記者在使用多款AI換裝應用後發現，用戶合成發布的視頻並未標注，容易讓人産生混淆。

  AI變裝技術，降低了偽造身份的技術門檻。在某購物&&上，記者以“AI+軍裝照”為關鍵詞，搜索到有商家公開出售佩戴軍銜的各軍種和警察服裝模板素材。店家&&，只需要花不到一元錢的價格就可拍下所有這些素材。

  記者拍下後，店家很快發來一個網盤鏈結，內部有數十款供P圖的軍裝模板文件，用戶可根據需要的款式和級別，通過PS或AI等方式將自己的頭部肖像替換上去。記者嘗試將AI生成的軍裝照和肖像照用於多款社交&&賬號，發現並無審核難度，均可正常替換。

  北京市煒衡律師事務所律師汪高峰説，一些內容&&和第三方軟體疏於審核，縱容虛假內容傳播，可能會降低公眾對軍人、警察職業的信任度和敬畏感。

  江蘇省政府參事室特約研究員丁宏&&，AI降低了偽造身份的技術門檻，網絡上曾出現AI合成的警察抓人視頻並配上所謂警情通報，涉嫌傳播違法有害信息。這些內容可能誤導公眾，引發不必要恐慌，擾亂正常社會秩序。

  國家網信辦不久前發布了一起執法典型案例：浙江某公司運營的App提供視頻換臉、圖片換臉、照片舞動配音等圖片處理功能，用戶可對上傳圖片、視頻中的人物進行換臉，但未按規定落實安全評估要求，相關深度合成內容也未作顯著標識，存在較大安全風險，違反《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等規定。網信部門責令&&對該App予以下架處置。

  加強審查審核 防止濫用“AI換裝”

  《人工智能生成合成內容標識辦法》明確，服務提供者提供生成合成內容下載、複製、導出等功能時，應當確保文件中含有滿足要求的顯式標識；任何組織和個人不得惡意刪除、篡改、偽造、隱匿辦法規定的生成合成內容標識。

  國家網信辦等十部門今年印發的《互聯網軍事信息傳播管理辦法》規定，互聯網軍事信息服務提供者和用戶使用深度合成、生成式人工智能等新技術新應用，不得損害人民軍隊形象。

  汪高峰等法律人士建議，AI開發者在算法設計中應加強合規性審查，對警察和軍隊標識等敏感信息內容的使用，應在相關部門指導下，嚴格把關審核。&&方應該嚴格落實《人工智能生成合成內容標識辦法》，對“AI換裝”類産品添加明顯標識，並建立審核機制，對違規內容及時下架封禁。

  丁宏建議，加快相關立法進程，強化刑事司法銜接。相關部門盡快明確AI涉軍涉警等圖像的使用邊界、責任劃分及法律後果，特別是對刻意醜化軍人警察形象、借機實施招搖撞騙等行為，要依法依規嚴肅處理，形成法律震懾；對可能影響國家安全、造成社會危害的行為，追究AI工具開發者和內容&&的連帶責任。

  馬國建呼籲，提高公眾對軍人、警察等職業形象重要性的認識，普及相關知識，引導公眾自覺抵制、檢舉錯誤內容、違規應用。加強AI生成合成內容標識方法的宣傳推廣，降低公眾被欺騙、誤導的風險。（記者 劉宇軒）