彭博新聞社網站2月28日發表題為《人工智能戰已經到來》的長篇文章,詳解美軍用於識別戰場目標的人工智能項目——梅文計劃。文章編譯如下:
一些作戰人員起先對人工智能抱有懷疑,但現在他們正在開發和利用識別戰場目標的梅文計劃。
2020年的某個夏夜,在美國陸軍位於北卡羅來納州佔地龐大的自由堡基地,第18空降軍的士兵們凝視着他們指揮所電腦上的衛星圖像。正在察看的不只有這些士兵。稍早,在得到識別和提示目標的指令後,一個人工智能程序已掃描了這些照片。
不再流於理論
該程序要求人類操作員確認它的選擇:一輛報廢的坦克。在他們斷定人工智能判斷正確後,系統向一台作為美國炮兵主要武器的M142海馬斯(即高機動性火箭炮系統)發送指示開火的信號。一枚火箭呼嘯劃過天空並找到目標,摧毀了那輛坦克。
這聲爆炸不同於每年在自由堡基地14.6萬英畝(約合5.9萬公頃)訓練場上進行的數百次實彈演習中的其他任何一次。事實上,這在整個陸軍中都沒有過先例。破天荒第一次,美國士兵打擊了由人工智能程序定位和識別的目標。第18空降軍火力支援協調員、人工智能瞄準項目負責人約瑟夫·奧卡拉漢上校在會議室裏擺放了當時的照片:那輛坦克被明亮的火球所吞噬。他説:“它向我們展示了(戰爭是)可能性的藝術。”
在這一時刻之後不到4年,美國在戰爭中使用人工智能已不再流於理論。美國中央司令部首席技術官斯凱勒·摩爾説,在過去幾週裏,作為美國國防部人工智能旗艦項目組成部分梅文計劃的計算機視覺算法已經定位了也門的火箭發射器和紅海的水面艦艇,並幫助鎖定伊拉克和敘利亞境內的打擊目標。
引導人工智能實現從實驗室向戰場的過渡將是軍方領導人面臨的最棘手問題之一。
作為一支擁有9萬名士兵的快速反應部隊,第18空降軍將成為梅文計劃的試驗&&。梅文計劃是一個圍繞強大算法構建起的意在識別戰場上人員和裝備的系統。依賴於機器學習領域的突破,該系統具有依靠訓練數據和用戶反饋找出目標的自學能力。五角大樓的人工智能模型還可以判斷目標的變化是否可能具有重要意義,從而作出敵人正在修建新的軍事設施之類的提示。所有這一切都會與諸如衛星圖像和通過通信攔截獲得的地理定位數據等信息融合到一台名為“梅文智能系統”的計算機界面上。
從起步到成熟
人工智能——或類似技術——在美國國防部有着悠久歷史。冷戰期間,“半自動地面環境”防空系統曾利用早期算法處理雷達數據。在“沙漠風暴行動”中,某個分析工具曾參加了部隊調動的計劃。
到2005年前後,人工智能的鋒芒在民間社會得到確立。在各種發展加速之際,當時領導五角大樓一個專門關注先進技術的辦公室的美國空軍前助理部長威爾·羅珀越來越緊張地予以關注。他説,到2016年時,國防部還缺乏海量雲存儲能力或適合計算機處理的數據,官員們不懂機器學習。
由於擔心軍方無法在適當的時限內開發出自己的工具——美國主要的武器系統可能需要15到20年才能完全投入使用,羅珀提出了一項耗資5000萬美元運用機器學習進行自動目標識別的計劃。傳統上,識別和歸類戰場上的敵方資産是一個費力的過程。分析員可能要花費數小時甚至數天時間——主要靠雙眼——梳理衛星圖像和監視數據。儘管已有別的自動瞄準軟體,但士兵們認為它速度太慢,並極易做出錯誤判斷。
2017年,羅珀方案的擴大版以國防部情報局主管的梅文計劃——更正式的名稱為“算法戰交叉職能團隊”——的形式成為現實。梅文團隊着手評估來自不同公司的目標識別工具,並用海軍海豹突擊隊在索馬裏拍攝的無人機視頻對它們進行測試。梅文團隊負責算法戰早期測試和評估的簡·皮內利斯回憶説,沒有一種工具表現出色。源圖像往往過於模糊、拍攝角度讓算法産生混淆或者因標注不明而無法用於訓練模型。這些公司的程序也存在不一致。被某個程序簡單標定為“坦克”的目標,卻被另一個程序標定為“蘇式T-72”。在實驗室外的表現甚至更差,這些系統無法應付糟糕的網絡連接和老舊計算機——兩個在戰場上司空見慣的問題。
用於俄烏衝突
隨着梅文計劃的進展,其他問題也浮出水面。2018年,五角大樓最早的合作夥伴之一谷歌公司的數千名工程師曾簽署信件抗議公司參與“戰爭技術”研發。谷歌公司沒有續簽合約。
儘管谷歌退出了,但其他眾多科技和軍工企業留在梅文計劃,還有一些則在後來加入。據知情人士稱,支持該系統的主要數據融合&&是由帕蘭蒂爾技術公司製造的;在12家主要參與企業中包括了亞馬遜網絡服務公司、L3哈里斯科技公司、馬克薩爾科技公司、微軟和內華達山脈公司。
漸漸地,梅文計劃得到了改善。2020年,奧卡拉漢在第18空降軍的上司要求他調查該系統如何提升武器攻擊。奧卡拉漢開始在更多的實彈訓練中使用它,包括2020年那次在自由堡基地的火炮測試。此後通過與美軍其他軍種及英國等盟國協作,第18空降軍使用梅文系統以及與之相連的武器系統從轟炸機、戰鬥機和無人機上打擊目標,並製作了從潛艇上作出打擊的型號。
從開始到現在,梅文&&已經取得了明顯進步。除了視頻圖像,它現在還能整合來自可穿透雲層、黑暗和降雨的雷達以及熱探測紅外傳感器的數據,從而可以發現諸如發動機或兵工廠之類的可疑目標。第18空降軍的高級瞄準官喬爾·坦普爾估計,利用梅文系統的協作,他現在工作一小時可以識別多達80個目標,而在不使用該系統的情況下只能識別30個。
在2022年2月俄烏衝突發生後,第18空降軍的人工智能工程努力有了新的緊迫性。奧卡拉漢、坦普爾和來自該軍總部的其他270人已被派至德國的一個軍營,佔用了原先的一個球館作為指揮中心。他們許多人的屏幕上運行的是“梅文智能系統”。
奧卡拉漢和坦普爾拒絕透露五角大樓正在如何使用梅文之類的人工智能系統支持烏克蘭。但因所談論主題的敏感性而要求匿名的知情人士稱,美國一直利用衛星情報和梅文智能系統向烏軍提供俄軍裝備的位置信息,後者隨後以衛星制導導彈對這些目標實施攻擊。其中一名知情者説,協助基輔也有助於五角大樓大大提高使用人工智能工具的熟練程度——並且更有把握地預測在戰爭中可以如何使用這些工具。
不過,摩爾、奧卡拉漢及其他官員迫不及待地承認,他們的人工智能系統還有很長的路要走,並且無法超越人類的決策能力。
另外一些擔憂則更為基礎性。隨着美國及其盟友開始依賴人工智能系統,敵人可能試圖通過污染訓練數據或擾亂軟體更新來暗中破壞。算法會隨着時間推移而失去準確性,而且由於它們的決策過程是模糊的,它們比其他軍事技術更難測試。所有這一切都意味着就在戰場上使用人工智能而言,指揮員將不得不判斷軍事需要和更廣泛的背景是否讓失誤風險變得可以接受。混淆波濤與軍艦是一回事——它充其量只會導致導彈無害地墜入大海,而利用人工智能瞄準某塊附近有平民的擁擠的陸上戰場則是另一回事。
儘管算法系統存在局限,但美國已&&打算擴大它們的自主性。國防部去年曾下達指令要求指揮和操作人員就武力的使用行使“適度的人類判斷”,暗示官員們可能認為有人類的監督就已足夠,而不再需要人類去做決定。
對於擔心任由機器決斷殺戮的後果的活動人士來説,這是一個嚴重的危險信號。阻止殺手機器人運動組織稱,美國目前的承諾“完全達不到”充分的保障。
並非所有的擔憂都來自軍隊之外。從事人工智能測試和操作的軍官、空軍上校塔克·漢密爾頓在最近一次會議上概述了一個害怕的想法。在他設想的場景中,一架人工智能無人機在接到中止任務的命令後決定殺死自己的操作員——它已斷定此人正在阻止自己達成目標。就目前而言,此類設想仍屬科幻小説的情節,但是增加人工智能自主性的趨勢是顯而易見的。
第18空降軍軍長克裏斯·多納休承認這些風險。他説,首先,未來的操作員們將不得不始終擔心敵人污染或破壞了他們的算法系統。但他認為,要不要採用這些系統的問題早已有了答案。多納休説:“你將不會有選擇。你的敵人將替你選擇,因此你不得不這麼做。我們已經走在了機器與機器、機器人與機器人展開廝殺的路上。這種情況已經在發生。”(編譯/曹衛國)
