新華網 > > 正文
2022 04/ 13 16:52:13
來源:新華網

多地現“變臉”詐騙案:一段段逼真的視頻竟是偽造的……

字體:

  新華社北京4月13日電 題:多地現“變臉”詐騙案:一段段逼真的視頻竟是偽造的……

  新華社“新華視點”記者張漫子、張超、陳諾

  一段視頻、一段語音未必是真人拍攝或者錄制。在你不知道的手機App後臺、支付界面、門禁閘機,或許有人正在盜刷你的臉……去年以來,多地發生“變臉”詐騙案。

  “新華視點”記者調查發現,隨著深度合成技術迅猛發展、落地場景激增,一些不法分子趁機牟利。音頻、視頻等合成技術濫用,對人臉、聲紋、指紋等個人敏感資訊保護形成挑戰。

  合成動態視頻一個2至10元 竟能注冊手機卡、支付賬戶

  近日,陳先生來到浙江省溫州市公安局甌海分局仙岩派出所報案,稱自己被“好友”騙了近五萬元。經過警方核實,騙子用了AI換臉技術,利用陳先生好友阿誠社交平臺上先前發布的視頻,截取了面部視頻畫面並進行了“換臉”,從而對陳先生進行了詐騙。

  2021年4月,安徽省合肥市警方在公安部“凈網2021”專項行動中打掉一個犯罪團夥,該團夥利用人工智慧技術偽造他人人臉動態視頻,為黑灰産業鏈提供注冊手機卡等技術支撐。

  在警方抓捕現場,幾名犯罪嫌疑人正用電腦將一張張靜態照片制作為人臉動態視頻。模擬制作出來的動態人物不僅能做點頭、搖頭等動作,還可完成眨眼、張嘴、皺眉等豐富表情,效果極為逼真。

  在嫌疑人的電腦裏,警方發現了十幾個G的公民人臉數據,人臉照片和身份證照片分門別類存放在一個個文件夾裏。“身份證正反面照片、手持身份證照片、自拍照等,被稱為一套。”民警介紹,成套照片被稱為“料”,出售照片的人被稱為“料商”,這些“料”在網上已轉手多次,而“料”的主人卻毫不知情。

  犯罪嫌疑人馬某交代,由于制作簡單,一個視頻價格僅為2至10元,“客戶”往往是成百上千購買,牟利空間巨大。

  近年來,類似案件在浙江、江蘇、河南等多地發生。浙江衢州中級人民法院的一份刑事裁定書披露:張某、余某等人運用技術手段騙過支付寶人臉識別認證,並使用公民個人資訊注冊支付寶賬戶,非法獲利數萬元。

  這些案件的作案流程頗為雷同:不法分子非法獲取他人照片或有償收購他人聲音等“物料”,僅需少量音視頻樣本數據,便可合成媲美真人的偽造音視頻,用來實施精準詐騙,侵害他人人身和財産安全,或銷售、惡意傳播技術換臉不雅視頻等,造成肖像權人名譽受損。

  網絡“叫賣”合成軟件教程 風險背後存技術漏洞、治理短板

  據合肥市公安局包河分局網安大隊民警王祥瑞介紹,前述案件中8名犯罪嫌疑人多為社會閒散人員,有的連高中都沒有讀完。他們按照網購教程下載軟件,花幾個月便“自學成才”。

  記者在網上聯繫到一位售賣相關教程的賣家。賣家介紹,全套軟件及教程售價有400元、800元兩檔,800元的為高階版本,“過人臉成功率超高”。記者在演示視頻中看到,照片上傳至軟件後,標注出五官位置,調整腳本參數,一張臉便動了起來。“五官參數隨教程送上,照抄即可。”據介紹,這些偽造視頻不僅通過率高,人工審核都難辨真假。

  “目前公眾對照片等靜態資訊易被篡改已有所警惕,但對視頻、聲音等動態資訊內容仍持有較高信任度。”清華大學人工智慧研究院基礎理論研究中心主任朱軍説,深度合成技術飛速演進,讓“眼見不再為實”,破解身份核驗的難度會越來越低、耗時將越來越短。

  專家擔心,盡管針對深度合成技術的識別技術不斷迭代、檢測手段持續增強,但依然沒能跑贏“偽造”技術升級的速度。浙江大學網絡空間安全學院院長任奎説,隨著合成技術應用門檻的進一步降低,合成內容已模糊真實與偽造的邊界。

  北京智源人工智慧研究院安全創新中心執行主任田天認為,新型偽造方法層出不窮,網絡傳播環境日趨復雜,檢測演算法存在漏洞缺陷等,反深偽檢測難度越來越大。

  法律規定相對滯後,也給不法分子留下可乘之機。中倫律師事務所合夥人陳際紅説,目前法律規定,禁止利用信息技術手段偽造等方式侵害他人的肖像權,但技術如何使用算合理使用,哪些情形下應禁止使用等,沒有具體規定;收集或收購個人聲紋、照片,使用人臉、指紋、DNA、虹膜等個人生物資訊等行為,在哪些范圍內構成犯罪、將面臨怎樣的懲罰,需要司法裁判進一步給出明確指引。

  規制合成技術濫用 別再讓公眾為“臉面”擔憂

  保護人臉、指紋、聲紋等敏感資訊,不再擔憂資訊“裸奔”損害個人隱私、財産、名譽等,是公眾的共同期待。

  我國首個國家層面的科技倫理治理指導性文件《關于加強科技倫理治理的意見》近日印發,凸顯技術倫理治理的重要性緊迫性。在今年的最高法工作報告中,包括人臉安全在內的個人信息安全等多次被提及。

  陳際紅表示,打擊“變臉”詐騙犯罪,應從技術的合法使用邊界、技術的安全評估程式、濫用技術的法律規制等方面予以規范,提高技術濫用的違法成本。

  中國工程院院士、信息技術專家鄔賀銓提出,針對深度合成技術濫用現象,應以技術規制技術,利用技術創新、技術對抗等方式,提升和迭代檢測技術的能力。

  技術規制之外,針對技術濫用暴露的風險治理應當體係化、完善化。“要構建數據集品質規范、根據應用場景對相關技術進行風險分級分類管理,明確設計開發單位、運維單位、數據提供方的責任。”國家工業信息安全發展研究中心副總工程師邱惠君説。

  專家提醒,針對花樣翻新的“變臉”詐騙,公眾要提高防范意識,不輕易提供人臉、指紋等個人生物資訊給他人,不過度公開或分享動圖、視頻等;網絡轉賬前要通過電話、視頻等多種溝通渠道核驗對方身份。一旦發現風險,及時報警求助。

【糾錯】 【責任編輯:邱麗芳 】
閱讀下一篇:
010020020120000000000000011113261128556799