防范“AI換臉”詐騙行為-新華網
新華網 > > 正文
2024 04/12 08:24:10
來源:人民日報

防范“AI換臉”詐騙行為

字體:

  近年來,多個行業創新人工智慧技術應用場景,銀行智能機器人、虛擬主持人等為社會公眾提供了越來越多便捷、智能的服務。然而,也有不法分子通過“AI擬聲”“AI換臉”,融合他人面孔和聲音制作虛假圖像和音視頻,倣冒他人身份實施誘騙受害者轉賬等犯罪行為。這類詐騙方式變化多樣、難以分辨,消費者容易落入騙局。專家提示廣大消費者,要警惕利用AI技術實施的詐騙行為,保護個人及家庭財産安全。

  國家金融監督管理總局發布的消費者權益保護風險提示中介紹,利用AI技術實施詐騙主要有“擬聲”“換臉”兩種手段,即通過模擬他人聲音或形象騙取信任,進而詐騙錢財。不法分子通常先以“網店客服”“行銷推廣”“招聘兼職”“婚戀交友”等為借口,通過微信、QQ、電話等方式聯繫消費者,採集聲音或面部資訊。再利用“擬聲”“換臉”等技術合成消費者的虛假音頻或視頻、圖像,以借錢、投資、緊急救助等借口誘導其親友轉賬匯款,或提供銀行賬戶密碼等敏感資訊,隨後立即轉移資金。此外,不法分子還可能對明星、專家、官員等音視頻進行人工合成,假借其身份傳播虛假資訊,從而實現詐騙目的。

  專家表示,網絡渠道“眼見”不一定為實。“擬聲”“換臉”等合成技術的一大特點是“以假亂真”,不法分子可以利用此類技術輕易偽裝成他人,並通過快速篩選目標人群、精準定制詐騙腳本,實施詐騙。因此,在涉及資金往來時,一個“聲音很熟的電話”、一段“貌似熟人的視頻”都可能是不法分子的詐騙套路,消費者應提高警惕。

  為保護廣大金融消費者合法權益,國家金融監督管理總局廈門監管局提示廣大消費者,轉賬匯款務必核驗對方身份。對自稱的“親友”“熟人”線上發來的消息,若包含轉賬匯款、提供個人資訊、提供短信驗證碼等請求,應保持高度警惕,採取多種方式確認對方身份。專家介紹,“AI擬聲”“AI換臉”包裝作偽後的通話和視頻雖然能逼真地模倣原始人物的語言和行為,但仍然存在破綻,例如眨眼頻率過低、眼睛移動不協調、面部表情不自然、唇形不匹配、語句不連貫等。如果在與親友視頻語音溝通中發現上述異常,消費者應立即警覺起來。在無法確認對方身份時,應盡量避免轉賬操作。

  此外,消費者應提高個人資訊保護意識,盡量避免在互聯網過多暴露個人照片、聲音、視頻等資訊,要對需要錄入個人資訊的非正規軟件特別警惕。在開啟“定位服務”、輸入“身份證號”或是錄入“人臉識別資訊”“指紋識別資訊”等個人生物資訊時,一定要慎之又慎;發現APP過度、強制收集個人資訊時及時向有關部門投訴舉報。妥善設置個人社交賬戶的瀏覽許可權,不過度公開或分享涉及個人資訊的動圖、視頻等,不輕易向陌生人開啟手機螢幕共用。

【糾錯】 【責任編輯:張艷芳】