新華網 正文
AI換臉調查:視頻換臉可“定制”女星 1分鐘收費20
2019-07-18 08:09:17 來源: 新京報
關注新華網
微博
Qzone
評論
圖集

  AI(人工智能)換臉的颶風,正為網絡安全帶來挑戰。

  新京報記者近日調查發現,隨著AI技術走紅以及門檻降低,售賣明星換臉的淫穢視頻已經成為一門地下生意。百度貼吧中部分標榜“換臉+女明星姓名”的發帖者,售賣通過AI換臉技術合成的視頻,價格可4元一部,也可158元打包購買700部視頻。而多位知名女明星頻被提及。

  此外,新京報記者注意到,閒魚上還有賣家提供“定制換臉”服務。買家提供明星或私人照片,賣家即可將淫穢視頻中的主角“移花接木”。定制換臉視頻1分鐘20元-50元不等。

  對此,聯合國網絡安全與網絡犯罪問題高級顧問吳沈括對新京報記者表示,售賣AI換臉淫穢視頻,本身已經是傳播淫穢物品牟利罪,同時也侵犯了肖像權。而買家購買之後加以傳播或者以傳播牟利,則可能構成違法。

  售賣

  女星頻被“換臉”,35部視頻打包69元

  記者搜索發現,“換臉”、“Deepfake”以及“FakeApp”貼吧等都存在售賣AI換臉淫穢視頻的帖子。發帖者多為無頭像、簡單英文字母名稱的用戶,而且發帖用詞隱晦,包括“國內外81部,誠信第一”。

  記者聯係到一位名為阿長(化名)的賣家,其隨後發來“80部明星合成視頻列表”的壓縮包,包含多部淫穢視頻的列表截圖,文件名上標注出多位大眾熟知的女明星。

  “(購買)低于15部算4元一部,超過15部算3元一部,80部全買只要68元。”阿長表示,視頻文件將通過QQ文件發送,支持微信、支付寶、QQ紅包等支付方式。記者4元隨機購買了一個標題為某知名女明星的視頻。視頻中女主角臉部全部替換成了該女明星,盡管換臉效果粗糙,但仍能一眼識別出來。

  隨後,阿長附贈了相關視頻的剪輯版本,包含多個淫穢視頻的部分內容,其中女主角的臉全被替換成了這一女星。

  另一位發帖的賣家林祥(化名)則是向記者發送了網盤鏈接,網盤中除了視頻目錄、截圖、試看視頻等文件,還包括一個單獨被命名為某知名女明星目錄的文件。

  “打包價158元,700部視頻,買打包送截圖。”林祥提供的壓縮文件顯示,多位女明星被換臉成主角的頻率最高。

  “有30分鐘、40分鐘的,也有5分鐘的,有像的也有不像的,所以單買價格不可能一樣。”林祥稱,單個視頻根據時長和制作效果定價。

  而上述某知名女明星目錄文件中包含35部視頻,打包價69元,單賣約5-10元一部。時長10分鐘以上的視頻為每部20-28元。

  記者詢問阿長,其他售賣相關視頻的賣家是否也是他時,他隨即否認並拿出更新目錄。“他肯定沒這些,我這會更新”。他告訴記者,這些視頻並非自己制作,均來自國內某網絡平臺,充值會員可以下載,然後再分銷。

  不過,記者通過檢索並未發現這類國內網絡平臺。

  定制

  提供照片或視頻可移花接木,“照片越多越像”

  除了百度貼吧,二手閒置平臺閒魚同樣存在相關售賣信息。記者在閒魚上搜索“AI換臉”看到,“AI換臉 明星最全精品”、“AI換臉,合集,都懂!”等信息,實則在售賣“嫁接”了女明星臉部的淫穢視頻。

  記者分別與4位賣家進行了溝通,其一般會提供標有女明星姓名的目錄截圖,並以100部打包的形式售賣,價格從10元-38元不等。賣家子君(化名)告訴記者,在他打包售賣的淫穢視頻中,知名女性明星被惡意“嫁接”的最多。

  此外,記者檢索閒魚發現,部分賣家還提供“定制換臉”服務,買家提供明星或私人照片,賣家可將照片中的臉“嫁接”到包括淫穢視頻在內的任何視頻之中,制作周期為1-2天,報價1分鐘20元-50元不等。

  賣家高爾(化名)表示,視頻素材和照片需要買家提供。“照片要多點,側面等各個角度,至少需要提供二十張以上。照片越多越像,沒照片發視頻也行”。

  另一賣家要求,如果是“換臉”淫穢視頻,3分鐘起做。該賣家的定制價為一分鐘50元、二分鐘95元、三分鐘135元,也就是説,買家至少要花費135元才能定制換臉淫穢視頻。

  記者近日在閒魚平臺搜索“AI換臉”顯示9個商品售出,包括“換臉軟件”、“定制換臉”和“換臉教學”,有部分賣家在商品信息中注明,“本店僅負責服務配置環境和教授基礎知識,不幫忙操作,請各位自覺遵守當地法律,否則後果自負”。

  記者調查過程中注意到,閒魚平臺已將部分淫穢視頻售賣鏈接刪除。

  此外,記者在淘寶搜索“AI換臉”,20多家店鋪有相關售賣信息。記者隨機詢問7家店鋪,其中4家店鋪提供定制服務,但有賣家明確表明“不做黃、不辦證”。該賣家還向記者默認曾有人要求他制售假證。

  教學

  賣家稱398元包教會,學生打七折

  記者在查看上述視頻時注意到,部分視頻有“合成聯盟”的字樣及其QQ號水印。記者通過這一QQ號聯係到昵稱為“明星合成+教學+代做視頻”的賣家,其稱不僅售賣明星換臉視頻和定制換臉服務,還提供教學服務。

  “買教學送全套視頻,600多部。”該賣家表示,他提供AI換臉視頻的制作教學服務,售價398元,包教會並附贈淫穢視頻600多部。“我們用的雲電腦,做出來效果是Deepfake的幾十倍。”該賣家告訴記者,“買雲電腦送FakeApp和DeepNude。”

  賣家提供的教學內容顯示,用戶根據指引,完成“鏈接到雲硬盤、提取臉部數據、訓練模型、換臉輸出視頻”四個步驟就能實現AI換臉視頻的制作。

  “感謝你們的信任,(學員)昨天下午剛學的,不到3個小時全會,只要想學我都會盡心盡力的教你們。”該賣家的微信朋友圈顯示,已有多位學員學習了相關AI換臉技術。

  記者翻閱賣家朋友圈看到,“AI智能暑假期間所有學生憑學生證一律7折,一學就會,不費勁。”而賣家提供的截圖顯示已有學生提供學生證信息,並購買了該教學服務。

  根據《紐約時報》報道,Deepfake指的是用人工智能軟件制作的虛假視頻,由FakeApp程序創建而成,FakeApp則可實現AI換臉。而DeepNude可通過人工智能將照片中穿著衣服的人物實現“一鍵脫衣”的效果。

  “隨著科技的發展,大眾一定會面臨這樣的問題,DeepNude生成的照片並不是本人,而是PS後效果。”網絡安全專家張百川在接受新京報記者採訪時表示,目前網絡上已存在部分人士開始研究類似的算法。

  同時,針對網絡安全,吳沈括指出,《網絡安全法》確立了網絡産品和服務的安全可控原則,將他人肖像用于制作淫穢視頻或者利用網絡技術“作惡”,是對他人合法權益的侵害。

  爭議

  換臉視頻網絡扎堆,個人難防中招

  其實,AI換臉技術,已經在各個領域沿用許久。而運用最廣泛的領域便是電影。據新京報此前報道,中國科學院計算技術研究所張傑解釋稱,“這個技術簡單可理解為,通過學習的方式讓一個神經網絡把李四扭曲過的人臉還原成真實的人臉。”該神經網絡在學習後,具備了將任意的人臉,還原成“李四”人臉的能力。

  早在今年年初,一段通過AI技術將《射雕英雄傳》中朱茵臉部替換成楊冪的視頻在網絡引起熱議。記者搜索發現,視頻網站嗶哩嗶哩(B站)上存在大量AI換臉視頻,且人氣較高。其中,一個將蔡徐坤臉部替換成前網絡遊戲主播盧本偉的視頻,播放量達到253.1萬。不少網友在相關視頻評論區留言稱“毫無違和感”、“好笑哈哈哈”。

  阿樂(化名)告訴者,出于獵奇和娛樂心態,自己喜歡在嗶哩嗶哩觀看AI換臉視頻。“把外國人的臉換在古裝人物身上,很新奇。”但也有網友在相關評論區稱“AI換臉(可能用于)敲詐勒索色情造謠,技術無罪,果然還是人本惡”。

  律師、星娛樂法創始人李振武曾對新京報記者表示,視頻制作者未經朱茵和楊冪許可,擅自使用其肖像,雖其抗辯未有營利行為,但在互聯網語境裏,流量變現以及粉絲倍增,都很難解釋為非營利行為,因此,此舉可能涉嫌侵犯肖像權。

  有觀點認為,AI換臉技術門檻正在不斷降低。對此,張百川稱:“放在以前的話,技術難度非常大,已經有人開始研究這種算法了,如果算法公開,這種趨勢將很難抵擋”。

  張百川告訴記者,普通人可能不太容易學會AI換臉技術,但有人可能利用此項技術制成有類似功能的軟件,那麼普通人只要在APP上傳照片即可。針對個人如何防范,張百川表示:“很難,如果你有照片在互聯網上,就會有(被利用)的風險”。

  記者注意到,Deepfake和DeepNude在國外已引起熱議,據《紐約時報》報道,隨著越來越多的人利用FakeApp制作名人的色情視頻,FakeApp正在引起恐慌。《衛報》稱此類軟件為“對未來可怕的一瞥”,顯示了對人工智能未來可能造成的倫理問題的擔憂。

  當地時間7月2日,美國弗吉尼亞州已通過一條有關色情禁令的法律修正案,成為美國首批禁止傳播計算機生成的色情內容的地區之一。根據修正案,未經許可傳播或出售以任何方式創作的某人處于裸體或脫衣狀態的視頻或靜止圖像都是違法的,包括虛假創作的視頻或靜止圖像。

  在我國,根據《刑法》第三百六十三條規定,以牟利為目的,制作、復制、出版、販賣、傳播淫穢物品的,處三年以下有期徒刑、拘役或者管制,並處罰金;情節嚴重的,處三年以上十年以下有期徒刑,並處罰金;情節特別嚴重的,處十年以上有期徒刑或者無期徒刑,並處罰金或者沒收財産。

  聯合國網絡安全與網絡犯罪問題高級顧問吳沈括表示,就中國法律來講,售賣AI換臉淫穢視頻,本身已經是傳播淫穢物品牟利罪,同時在民事侵權領域,未經允許,將他人的肖像用于謀利的,也侵犯了肖像權。

  針對AI換臉淫穢視頻的購買者,吳沈括告訴記者,目前對于購買淫穢物品沒有設置法律責任,主要集中在傳播淫穢物品和傳播淫穢物品牟利兩種非法形式。買家在購買AI換臉淫穢視頻之後,加以傳播或者以傳播牟利,則可能構成違法甚至犯罪。

  張百川認為,技術本身沒有問題,是有人利用技術作惡,大眾需在日常生活中,注重個人隱私保護。“例如即時通訊軟件,有人用它工作,有人用它詐騙。”

+1
【糾錯】 責任編輯: 唐斕
新聞評論
加載更多
天宇上演月偏食
天宇上演月偏食
“孤島”救援記
“孤島”救援記
貧困群眾受益“愛心超市”
貧困群眾受益“愛心超市”
西藏扎西堅白寺展佛
西藏扎西堅白寺展佛

010020020130000000000000011101061124767271