2020年8月23日,一臺機器人在埃及坦塔為一名男子進行核酸採樣
由于隱蔽性和保密性得到從業人員和大眾的基本認可,撒謊和“骯臟的勾當”也在某種程度上被理解和接受。這就使得諜戰幾乎無時無處不在突破倫理的界限。
吳敏文
自有人類戰爭以來,戰爭倫理問題就廣受關注。事實上,倫理問題滲透在戰爭形式、作戰過程和參戰要素裏。諜戰作為一種作戰方式,自然不例外。人工智慧(AI)的加入,促使諜戰發生深刻改變,也使諜戰倫理面臨新課題。
“諜戰”與“倫理”的悖論
在漢語中,倫理是指人類活動特別是人與人交往所需遵循的道德準則;在英語裏,倫理亦被解釋為道德準則。
諜戰是作戰方式的一種,而道德倫理並不具有履行和實行上的強制性,因此諜戰倫理中的“戰”與“倫理”天然就存在衝突和矛盾。如西方軍事學家克勞塞維茨所言,作戰雙方都有將對抗推向頂點的趨勢。據此,諜戰中的對抗雙方不可避免地都潛伏著無所不用其極的傾向和動力,對其進行倫理約束雖説具有天然的合理性,但大多數時候幾乎不可能。
孫子曰,“兵者,詭道也”,又曰“知彼知己,百戰不殆”,即可使用詭詐和計謀實現“知彼”,獲取對手情報。克勞塞維茨在《戰爭論》中也説,“當兵力很弱,任何謹慎和智慧都無濟于事,一切辦法似乎都無能為力的時候,詭詐就成為最後的手段了。”
隨著社會和文明的發展進步,輿論對戰爭特別是暴力程度相對較低的諜戰符合基本倫理的要求日益迫切。為此,情報機構和相關個人都不得不至少在表面上表現出對道德倫理的尊重。
美國中情局是迄今世界上最強大的諜戰機構,銘刻在弗吉尼亞州蘭利市中央情報局總部大廳大理石墻上的,是來自《約翰福音》裏的話:“你們必須知道真理,而真理必將使你獲得自由”;1939年,美國時任國務卿亨利·史汀生以“君子不該偷看信件”為由,關閉了國務院的密碼分析處……
然而諜戰無法改變其內在和實質。由于諜報工作往往是以維護“國家安全”和滿足國防需要為目的,一些職業性的不道德會被允許甚至鼓勵。美國情報機構前頭目理查德·比爾斯公然宣稱,中央情報局人員“具有一種更崇高的忠誠感,他們的惡性動作正是為了表達那種更崇高的忠誠感而採取的”,以至于在某種程度上,諜戰人員津津樂道著這樣的信條,“正義的目的可以通過無原則的、通常是不能接受的手段來達到”。
事實上,絕大部分美國政客和政策制定者,都認為用“骯臟的勾當”來維護美國國家利益天經地義。1972年10月,時任美國參議院軍事委員會主席約翰·斯坦尼斯宣稱:“你必須下定決心擁有一個情報局,把它作為情報局而加以保護,並且眼開眼閉,聽之任之。”
這就使得對諜戰的道德承諾或宣示,成了掩人耳目的策略。在亨利·史汀生關閉國務院的密碼分析處後不久,美國的無線電通信解惑與破譯即得以復活,並在二戰期間為美國的情報工作發揮了重要作用。1952年,美方以總統頒發秘密行政令的方式,徹底為截取和破譯敵對國家和友好國家的通信信號大開方便之門。
實際結果,正如美國著名作家和學者馬爾科姆·馬格裏奇所説:“我們的後代必將看到,我們在捍衛自由的時候毀掉了自由;我們為刺探敵人的資源和意圖而建立起來的巨大的秘密機構,到頭來足以混淆我們自己的種種目的;為國家的利益而欺騙他人,到頭來必定會欺騙自己;為達到這些目的而建立起來的巨大的情報隊伍,曾幾何時,就陷入我們自己手造的狂想之網而無法解脫,從而給所有人帶來災難性後果。”
AI時代三大隱憂
以技術優勢獲取作戰優勢是美軍傳統,諜戰亦然。20世紀五六十年代,U-2“龍夫人”和SR-71“黑鳥”間諜飛機在美軍情報係統中嶄露頭角,照相偵察衛星和電子偵察衛星也開始在全球搜集情報。海灣戰爭中,美國時任國防部長切尼之所以能成功説服沙特國王法赫德允許美軍進駐,關鍵是向其展示了伊拉克偵察部隊深入沙特阿拉伯沙漠20公里的清晰衛星照片,這成為美軍實施對伊拉克夾擊的“左勾拳”行動的基本前提。
通過技術手段獲取大量原始情報之後,數據處理成為瓶頸問題。1946年,美國和世界第一臺電子電腦“埃尼阿克”誕生。隨即,美國負責情報處理的主要機構國家安全局就成了全球擁有最多電子電腦的單位。1950年,AI的主要創始人、英國科學家圖靈發表其具有裏程碑意義的論文《電腦能思考嗎》,並提出著名的AI“圖靈假設”。AI與諜報的結合,成為將最新技術用于諜戰的自然拓展。
諜戰具有高度隱蔽性。由于隱蔽性和保密性得到從業人員和大眾的基本認可,撒謊和“骯臟的勾當”也在某種程度上被理解和接受。這就使得諜戰幾乎無時無處不在突破倫理的界限。
AI用于諜戰也具有隱蔽性。無論是情報的獲取、分析,還是利用,AI的角色越隱蔽,人們越是感覺不到它的存在,它的效果就越好,表現也越突出。這不僅導致傳統的諜戰倫理問題更加突出,也生發出一係列新問題。
一是資訊的無差別採集。諜戰中的資訊採集作為一種作戰行為,其對象應限于敵對國家、組織和個人。但無論是偵察衛星、有人無人偵察機、偵察船只,還是有人無人偵察車輛,在進行資訊採集時無論是出于操作和控制人員的主觀意願,還是限于技術偵察平臺的客觀能力,都不太可能區分相關與無關、平民與戰士、軍用與民用,而是進行廣泛採集和充分採集,不僅不會盡量避開不應採集的部分,還唯恐採集不全。
二是對所採集資訊的過度分析。所謂過度分析,即對資訊的分析和處理超過作戰所需。數學模型和智能演算法加超級電腦,使資訊分析能力得到極大增強。對所採集的資訊進行哪些方面的資訊挖掘和特徵分析,決策和主導因素來自相關責任人。構建數學模型和設計智能演算法的技術人員,主觀上不會故意、技術上也難以做到對資訊分析進行程度和等級控制,這就導致對資訊的過度分析幾乎無法避免。
三是濫用資訊分析和處理的結果。所謂結果濫用,即對所採集資訊的分析處理結果,不僅用于作戰目的,還用于與作戰無關的目的,包括用于某些人、某個組織、某個國家以獲取不正當利益。比如目前,在美國國防戰略聚焦“大國競爭”的背景下,美國政軍高官聲稱要與對手進行“極度競爭”和“無限博弈”。美國具有全球最強的資訊搜集和分析處理能力,既然是“極度競爭”和“無限博弈”,對資訊處理結果的濫用幾乎毫無懸念。
邊界日益模糊後果難測
越過倫理界限的資訊採集、處理和結果濫用導致的後果難以預測,但至少會體現在個人和組織或國家兩大層面。
在個人層面,主要聚焦三種可能後果。
首先,無差別的資訊採集很可能侵犯個人隱私。普通公民的日常生活、行蹤軌跡和其他活動,屬于個人隱私和基本人權,他人或團體無權知曉和干涉。但是,諜報人員或係統在監視某特定人物活動和行蹤軌跡時,可能導致無關人員個人隱私的暴露。
其次,對資訊的過度處理可能産生言行誘導。當前,被廣泛運用的AI技術,已經在商業領域産生衝擊倫理底線的後果,例如,相關行為者通過分析大量網購者的消費行為,向其推送具有誘導性的商品資訊,誘導消費者的消費傾向和行為,進而從中漁利。諜戰中的言行誘導對象,既包括諜戰相關人員,也包含對演算法、係統等技術成果或資訊分析結果等有需求的商家。
第三,對資訊處理結果的濫用可能危及無辜者的生命財産安全。諜戰人員與係統所擁有的高水準、高等級資訊處理係統和高附加值的分析結果如被濫用,可能導致受害人銀行賬戶、有價證券、保險理財等財産損失,極端情況下甚至可能危及生命。
在組織或國家層面,主要有兩大隱憂。
一是可能導致大規模、多手段、多渠道的資訊竊取。隨著人類社會進入資訊和智能社會,資訊和數據成為一個國家的戰略資源,大規模的資訊竊取可能危及國家安全和民生福祉。現代社會,商業行為與諜戰活動難以截然區分,許多商業機構、網上平臺和手機App等,動輒要求顧客和用戶填報個人資訊,其中就可能包含難以預估的隱患。
與此同時,一個國家或社群的基因資訊若被大量竊取,可能危及族群健康與安全。
二是對資訊的過度分析和結果濫用,可能成為干涉他國內政,甚至顛覆合法政權的幫兇。目前,低強度、全時化、介于傳統戰爭與非戰爭行為之間的“灰色地帶”較量,已成為國家間戰略博弈的重要戰場。美國依托其遍布全球的技術諜戰係統和手段獲取海量資訊與數據,委託戰略與國際問題研究中心、蘭德公司等智庫,進行深度挖掘和分析處理,針對與特定國家的“灰色地帶”博弈進行研究。此類研究結果,可為其進行“極度競爭”和“無限博弈”提供情報支援。
此外,雖然AI技術不斷成熟,在軍用民用領域的應用也不斷普及,但任何技術都無法保證不出錯,越是前沿技術風險越大。航空工業已經發展超過百年,至今仍有因技術問題造成的空難。諜戰中的AI技術無論在資訊採集、分析和利用中的哪個環節發生錯誤,後果都是災難性的。
(作者單位:國防科技大學資訊通信學院)
來源:2021年3月24日出版的《環球》雜志 第6期
《環球》雜志授權使用,其他媒體如需轉載,請與本刊聯繫
本期更多文章敬請關注《環球》雜志微博、微信客戶端:“環球雜志”
|