新華網視評|讓AI成“幫手”而不是“幫兇”-新華網
新華網 > 時政 > 正文
2024 09/15 08:38:54
來源:新華網

新華網視評|讓AI成“幫手”而不是“幫兇”

字體:

  近日,杭州警方披露AI大模型換臉竊取個人隱私全國首案,令人細思極恐。

  犯罪分子將受害人靜態照片,輸入到模型中,再通過文字、語音提出需求,生成一段活體視頻。這段活體視頻可以模仿人臉進行點頭、眨眼、側臉,突破&&人臉認證,強制登錄他人賬號,獲取大量受害人隱私數據出售獲利。

  這只是AI技術應用亂象的冰山一角。近年來,人工智能技術迅猛發展,帶來更多新機遇和更便捷服務,但新技術也往往被一些不法分子利用,成為違法犯罪的“幫兇”。

  AI“換臉”實施詐騙、AI偽造圖片傳播謠言、AI推銷電話讓人不堪其擾……種種亂象,不僅侵犯消費者合法權益,威脅人身財産安全,也阻礙了AI行業的健康有序發展。

  毋庸置疑,AI是科技發展的重要方向,是各國競爭的科技高地。但發展AI的同時,絕不能忽視其風險隱患。為狂飆的AI係好“安全帶”,讓其成“幫手”而不是“幫兇”,重在加強治理和規範。

  在近期舉行的2024年國家網絡安全宣傳周上,AI的安全應用問題,成為熱門話題。期間,相關部門發布《人工智能安全治理框架》1.0版,提出人工智能安全治理原則等方向性的破解思路。一些應對AI安全風險的黑科技也亮相網絡安全博覽會,比如AI實時鑒偽系統,針對AI換臉、AI擬聲等詐騙套路進行有效識別、反制。

  科技從來都是“雙刃劍”,是好是壞,是益是害,關鍵看握劍的人準備怎麼用。在大力發展AI的時候,務必增強安全意識,加強相關安全技術推廣應用,推動社會各方形成治理共識,讓AI更好造福人類。(文案:馬若虎)

【糾錯】 【責任編輯:李潔琼】