在立陶宛南部的海濱城市帕蘭加附近,美軍士兵在演習中執行登陸任務
美國國會研究服務處發布的更新版《“深度造假”與國家安全》報告,將“深度造假”上升到了國家安全的高度。
吳敏文
繼美國政府問責局于2020年2月20日發布《深度造假》分析報告後,美國國會研究服務處今年5月發布更新版《“深度造假”與國家安全》報告,新報告將“深度造假”上升到了國家安全的高度。技術決定戰術,也是推動戰場面貌發生改變的關鍵因素。“深度造假”這一新的智能對抗技術,又將給軍事領域帶來什麼?
天作之合
“深度造假”可簡明解釋為“深度學習+造假”。深度學習是人工智慧(AI)技術中的一種,是機器學習的新發展。機器學習是研究怎樣使電腦通過模擬或實現人的學習行為,以獲取新的知識或技能,不斷改善電腦人工智慧係統性能的科學和技術。如果説機器學習使得電腦具有了某種學習能力,那麼,深度學習就能使電腦歸納和掌握對某類知識的學習方法和規律,更高效和更高品質地學習。
在軍事領域,隱真示假歷來是迷惑敵人、克敵制勝的一種基本手段。深度學習與隱真示假相結合,就變成了“深度造假”,或稱“深度偽造”。從某種意義上説,在軍事應用上二者堪稱天作之合。
“深度造假”的目的是通過造假誤導和迷惑對手,其包括兩大對抗性技術措施和手段。一是生成器,負責創建偽造數據(包括照片、錄音或視頻);二是鑒別器,負責識別偽造的數據。根據每次對抗試驗的結果,生成器對造假數據進行調整,以生成更具欺騙性的數據,識別器則通過優化不斷提高識別能力。如此進行不斷的對抗性演進,經過數千或數百萬次迭代,直至生成器性能提升到使鑒別器無法區分真實數據和偽造數據,一次“深度造假”在當前條件下即得以完成。
依據不同的造假需要和背景、環境條件,“深度造假”的實現方式和呈現形式也有所不同。例如,在視頻造假中,截至目前,“深度造假”的技術途徑和實際呈現大致包括四類:一是換臉;二是唇形同步,造假者可以將一個合成的唇形移植到其他人的臉上,造成一種他/她在説什麼的假像;三是面部復現,造假者可以將一個人的面部表情轉移到另外一個視頻中,並對其施加控制,使其展現出厭惡、生氣或驚訝等各種表情;四是動作轉移,即將一個人的身體運動,轉移到另一個視頻中的另一個人的身體上。
由于這些“深度造假”技術大多可從公開渠道獲取,一般的社會成員即可方便獲得,使得“深度造假”呈現迅速蔓延和創造能力活躍提升的趨勢,甚至成為某些人展示才華與能力的大眾化技術創新活動,造假與打假呈現出對抗迴圈和螺旋攀升的狀態,被用于政治和軍事目的在所難免。
軍事應用邏輯
可從三大方面對“深度造假”的軍事應用邏輯做出解析。
一是在戰略和社會層面,“深度造假”可通過制造虛假視頻、音頻、圖像等,實現大規模認知誤導乃至心理戰效果。
不管是針對敵對國家領導人和廣大民眾的戰略心理戰,還是針對特定敵方指揮員和士兵的戰役、戰術心理戰,都是對抗雙方平時與戰時所重視和慣于採用的作戰手段和樣式。在資訊網絡社會,因為傳播媒介的多樣性和傳播效果的快捷普遍性,心理戰得到了更大的重視和更廣泛的使用。“深度造假”在這方面可謂大有作為。
比如,美國華盛頓大學的研究人員通過採集美國前總統奧巴馬的視頻和音頻資料,用“深度造假”技術制造出一個“合成的奧巴馬”發表演講,演講中奧巴馬的扭頭、注視和眨眼等身體動作惟妙惟肖,不僅觀看者無法辨別真假,就連電腦的智能鑒別軟件都沒能發現造假。
試想一下,如果有人通過“深度造假”技術,制造一段以色列總理不經意間透露將在德黑蘭實施一係列政治暗殺行動的音頻,抑或一段顯示一名美國將軍在阿富汗焚燒《古蘭經》的視頻,將會帶來怎樣的後果!
二是在作戰指揮方面,“深度造假”可以讓敵方指揮員發布完全違背其意願的作戰命令。
在伊拉克戰爭中,美軍運用EC-130H電子戰飛機臨空強行接管伊拉克的廣播電視係統,向伊軍民播送“放下武器,接受美軍接管”的勸降電視和廣播節目。這種方式所使用的主要是在無線電信號、功率上進行壓制和奪佔的技術手段,不包含任何智能化內容。在“深度造假”技術加入後,美軍完全可以制造出對方國家和軍方領導人下令“放下武器、放棄抵抗”的“真實”視頻、音頻信號,通過強行切斷和接管對方國家的電視、廣播係統的方式,播送這些造假資訊,對方軍民幾乎無法分辨資訊的真假。
現代戰爭的速戰速決快捷性甚至“始戰即終戰”的特點,使得這樣的“假傳聖旨”即使被最終揭穿,但往往為時已晚,戰爭勝負已定。
三是在具體戰役、戰鬥中,“深度造假”更可以滲透進情報、分析、決策和行動的任何環節,造成不可估計的嚴重後果。
無論是情報數據造假還是情報分析造假,都具有現實的可能性,而鑒別造假卻難以有效實施。由于獲取的是假情報、分析結論被人操控,決策正確的可能性微乎其微。
假做真時真亦假
在二戰盟軍諾曼底登陸作戰中,為了讓德軍相信盟軍的登陸點在加萊方向,盟軍情報機構不僅採取大量措施隱蔽其在諾曼底方向登陸的作戰準備,還在加萊方向設立假指揮部,用角反射器等模擬登陸作戰部隊的大規模集結。發展到今天,想要達成這樣的欺騙效果,不僅可以採取一些實際行動,還可以更加逼真地制造出戰場效果。
比如,用“深度造假”技術制造的“合成指揮官”發表理直氣壯的演講、制定天衣無縫的計劃、下達無可置疑的命令;各軍兵種“合成部隊”展開聲勢浩大的戰前集結和艱苦的戰前演練,打造勢如破竹的戰前演習效果。這些活動還可以與真實的作戰地域、環境和陣地融為一體,足以讓人堅信不疑。
目前,檢測工具還不能自動、完整、高效地檢測出“深度造假”。研發檢測和鑒別“深度造假”的工具,需要積累大量數據,而且這樣的數據只有在與“深度造假”的對抗中才能獲得,即檢測某種“深度造假”總是在其出現之後。也就是説,“深度造假”具有主動性和先機之利,檢測與鑒別“深度造假”則具有被動性和滯後性。同時,由于“深度造假”的效果高度倣真、亂真,即使是檢測和識別出“深度造假”,要想讓人相信也十分困難。
西方著名軍事理論家克勞塞維茨提出的“戰爭迷霧”論,主要是指人們對客觀事物的認知能力的差距,以及傳統隱真示假、軍事欺騙所帶來的對戰爭認知的主體迷茫。隨著信息化戰爭的出現,對于具有資訊優勢的一方,戰場實現了單向透明,即“戰爭迷霧”減少了,但處于資訊劣勢的一方,不僅“戰爭迷霧”未減少,還增加了“資訊迷霧”。
正是“深度造假”,使得“戰爭迷霧”又迭加上“智能迷霧”。能否穿透“智能迷霧”,最終取決于一方能否在智能技術方面取得優勢,以及造假和鑒別技術的此消彼長。
(作者單位:國防科技大學資訊通信學院)
來源:2021年7月28日出版的《環球》雜志 第15期
《環球》雜志授權使用,其他媒體如需轉載,請與本刊聯繫
本期更多文章敬請關注《環球》雜志微博、微信客戶端:“環球雜志”
|