隨着AI技術不斷發展，一些新型違法犯罪行為開始冒頭，給網絡空間安全和群眾人身財産安全帶來威脅，記者採訪多地公安機關，揭示犯罪手法，提升防範意識。

  學AI，竟為“換臉”行騙

  “你們公眾號怎麼開始推薦投資理財App了？靠譜嗎？”今年6月10日，某機構工作人員像往常一樣打開公司公眾號評論區，卻被一連串粉絲留言驚出了一身冷汗。

  工作人員發現，其運營的公眾號不知何時竟發文稱即將停更，並號召粉絲關注另一個投資理財類賬號。工作人員嘗試登錄賬號後&，發現不僅密碼被修改，連公司法人代表信息都被篡改了。

  意識到事態嚴重，工作人員第一時間報案。這也是湖北省首起利用AI換臉技術非法侵入計算機信息系統案。

  接警後，武漢網警迅速成立專案組，研判發現被盜公眾號的操作痕跡為：犯罪分子通過“AI換臉”技術，更換了公司法人信息，又用新的“臉”識別登錄該賬號，進而發布涉詐引流信息。

  順着線索追蹤，專案組很快鎖定了遠在山東濰坊的犯罪嫌疑人阿成（化名）。

  站在民警眼前的阿成，衣着樸素，從事大棚種植，一度令警察懷疑追錯了人。但對其住所搜查時，辦案民警通過技術手段從其電腦已刪除的電子數據中，找到了大量AI換臉素材及非法所得的虛擬貨幣。

  圖為被抓獲的阿成（中）。（武漢市公安局供圖）

  原來，阿成本是美術技工，嫌尋常做圖收入不高，就改行務農，又動了做AI圖掙“輕鬆錢”的歪腦筋。

  2022年5月，他在外網接觸“人臉代過”灰色産業，加入相關群組後，先在各類小型電商&&接單製作人臉圖像，每張收費200元；隨着技術提升，他掌握了生成動態人臉視頻的方法，“報價”也水漲船高，破解一張AI動態的人臉最高能賣到1000元。案發時，已非法獲利40余萬元。

  “跑馬機”作弊成黑産

  還有不法分子瞄上培訓學時，用AI幫人“打卡”。

  今年3月，重慶警方偵查發現，一些駕校學員無需實際練車即可刷滿學時，背後是不法分子使用“跑馬機”並結合AI技術實施作弊。這一犯罪鏈條涉及生産、銷售、使用等多個環節，已形成黑色産業。

  什麼是“跑馬機”？重慶市南岸區公安分局網安支隊民警介紹，這是利用汽車脈衝信號原理製作的設備，其核心功能是通過侵入並篡改駕培計時系統，並運用AI技術模擬學員動態人像，達成偽造培訓記錄目的。

  通過涉案資金追溯顯示，利益鏈條的源頭是駕校為了降低運營成本，以提供“快速拿證”為噱頭，吸引學員大量報名繳費獲利。與此同時，上游負責銷售“跑馬機”的黑代理商也獲利不菲。此外，部分駕校還外接訂單“代打卡”獲利，其規模化運作模式顯示，涉“跑馬機”犯罪已演變為機構化犯罪。

  截至目前，重慶警方已打掉涉案違法犯罪團夥2個，抓獲犯罪嫌疑人70名，查扣“跑馬機”設備384&，查處涉案駕校34家。

  AI寫代碼，竟成了黑産源頭

  今年2月，重慶萬州區網安部門發現，轄區犯罪嫌疑人王某針對某社交軟體開發群控程序。經調查，一個使用黑産軟體從事各類違法犯罪的團夥浮出水面。

  據萬州區公安局網安支隊民警介紹，大專學歷的王某自學掌握相關技術後，開始招募多名同夥用AI技術編寫程序代碼，製作各類黑産應用程序。這類黑産軟體無需使用官方客戶端，即可直接與後&服務器進行數據交互，具有“多開”“群控”“批量管理”等功能，可實現批量發送消息、紅包等操作。

  圖為重慶市網安幹警正在研判案情。（重慶市公安局供圖）

  令人驚訝的是，王某還根據下游團夥的犯罪需求，“定制”出各種黑産軟體，成為賭博、網絡水軍、電詐等多個犯罪鏈條的技術源頭。

  比如，一到案的犯罪嫌疑人曾是電商從業者，因覺得來錢慢，便與王某技術對接，“轉行”專門從事刷單水軍活動，其在城中村租下一套房子設立“工作室”，招募多人加入。抓捕時，警方在房間裏當場查獲多&用於作案的電腦和手機。

  目前，專案組已順藤摸瓜，先後打掉位於重慶、福建、江蘇等地從事黑産軟體開發及網絡水軍犯罪團夥4個，抓獲犯罪嫌疑人15名，查獲各類黑産程序軟體25個，查扣資金500余萬元，作案電腦、手機100余&。

  AI時代已來臨，新技術能做的事越來越多，也越來越有想象力。但築牢安全底線的第一守則就是：AI可以很“忙”，但使用它的人不能法盲。掌握AI技術的專業人員，切勿因貪慾走上違法犯罪道路。同時各方應加強技術監管，進一步完善生物特徵檢測等AI時代的防偽技術，強化落實對個人隱私和信息的技術保護和法律責任。

  統籌：楊維漢、孫聞

  記者：周聞韜、宋立崑

  編輯：屈婷

  新華社國內部出品