讓軍事智能化步入科學發展軌道

    要點提示

    ●基礎研究對應用研究起主導和支撐作用，推進軍事智能化不僅要關注技術應用研究，更應重視基礎研究。

    ●人工智慧技術是柄“雙刃劍”，既要抓住千載難逢的歷史機遇，又要客觀理性地看待面臨的風險和挑戰。既要看到人工智慧的“能”，更應看到人工智慧還有許多“不能”，科學選擇發展路徑，理性確定發展目標。

    目前，人工智慧技術正加速向軍事領域滲透，軍事智能化既面臨千載難逢的發展機遇，也面臨前所未有的挑戰。如何加強風險研究和預判，防范重大風險，已經客觀而現實地擺在我們面前。當前，尤其應該厘清人工智慧發展脈絡，把握人工智慧發展規律，妥善處理好基礎研究與應用研究、人工智慧與人類智能、面臨機遇與風險挑戰的關係，科學選擇發展路徑，做好安全風險管控，推動軍事智能化科學穩步發展。

    把握人工智慧發展量變質變規律，處理好基礎研究與應用研究的關係

    從1956年美國達特茅斯會議誕生以來，人工智慧經歷了推理期、知識期、學習期三次高潮和兩次低谷，逐漸從“不能用”“不好用”發展到“可以用”的技術拐點，遵循了事物發展從量變到質變的客觀規律。現代人工智慧之所以發展到目前技術拐點，並不是平地冒出來的，而是多年基礎研究的積累和突破。厚積多年，一朝薄發，在嚴謹的科學領域，所謂的“彎道超車”是不太現實的。推進軍事智能化發展，首先就是要深刻把握人工智慧發展量變質變規律，妥善處理好基礎研究與應用研究之間的關係。

    牢固樹立基礎研究的戰略地位。基礎研究對應用研究起主導和支撐作用，推進軍事智能化不僅要關注技術應用研究，更應重視基礎研究。應把原創性理論研究和突破作為重點，以核心和關鍵技術為主攻方向，傾力打造多層次人才培養平臺，夯實軍事智能化發展的基礎。美國國防高級研究計劃局從20世紀60年代就開始介入人工智慧的發展和應用，一直非常重視人工智慧基礎性研究，培養了一批高端人才，從而奠定了目前美國人工智慧領域的領先優勢。

    充分挖掘基礎研究的整合優勢。人工智慧是一個多學科、高綜合的行業，我們在突出理論創新、技術創新和體制創新的同時，應注重基礎研究的整合和運用。“阿爾法狗”2016年橫空出世，引起世人震驚，但其基礎框架即“蒙特卡洛樹搜索”演算法及卷積神經網絡均成形于20世紀，其引入的強化學習也發展了數十年，通過結構重組和整合，使係統功能出現“涌現”。最近，美國知名人工智慧專家安德魯·穆爾在談到人工智慧發展方向時認為，人工智慧的研究或將轉向，重點應該致力于現有基礎理論成果的運用和轉化。

    加強人工智慧領域的統籌融合。人工智慧是一個通用性強、應用面廣的學科，幾乎所有商業人工智慧項目都能在軍事應用上找到發力點。但人工智慧是一個高投入、慢産出的行業，沒有幾年甚至幾十年持續投入，難以看到真正的成果。應充分發揮好我國的體制優勢，充分發揮好資訊産業科技巨頭的投資和人才優勢，充分發揮我國海量數據和巨大市場應用規模優勢，規劃主導，科學分工，梯次發展，有序融合，防止一哄而上和重復建設。

    立足人工智慧初級階段的現實，處理好人工智慧與人類智能的關係

    現代人工智慧之所以取得技術上的突破，主要得益于2006年辛頓提出的深度學習方法。像其他任何演算法一樣，深度學習也有其不足，主要表現在：適用場景限制多、泛化能力差、數據量要求高等。正是由于深度學習方法的局限性，現代人工智慧只是大數據推動的初級智能，屬于限制領域人工智慧，也稱弱人工智慧。加快軍事智能化發展，應立足“初級智能”這個現實，處理好人工智慧和人類智能的關係，準確定位，既要看到人工智慧的“能”，更應看到人工智慧還有許多“不能”，科學選擇發展路徑，理性確定發展目標。

    認清現代人工智慧在軍事指揮控制決策領域應用的技術瓶頸。“阿爾法狗”戰勝人類後，再一次激發了人們對人工智慧的熱情，但軍事對抗和棋類對弈最本質的不同是作戰行動的不確定性，這些不確定性主要來自資訊不完全、情報不一致、度量不準確等，它代表了軍事智能化所要面對的真實環境。克勞塞維茨説過，戰爭是不確定性的王國。對于這些不確定性，不可能用確定性的假設來解決。目前，人工智慧係統雖然是基于海量資訊或知識的係統，但這些資訊或知識仍局限在特定區域范圍內，且缺乏對資訊或知識的常識應用和融會貫通能力，因而無法解決作戰過程中所面臨的諸多不確定性問題。一旦問題超出係統約束，係統決策就可能出現失誤甚至完全錯誤，加上戰爭謀略、欺騙、示假等因素的綜合影響，人工智慧走進軍事指揮控制決策領域仍然面臨不少難題。

    認清人工智慧和人類智能的辯證關係。當前，推進軍事智能化的目標不是要替代人類智能，而是使人工智慧與人類智能有機融合，功能互補，相得益彰，以進一步增強人類智能，幫助人類在作戰行動中處理不擅長的工作，使人類從繁雜的重復性工作中解放出來，轉而專注于作戰謀劃、行動協同、方案決策等工作上，從而更高效地完成作戰任務。

    認清人類智能在戰爭中不可替代的地位。不管是宏觀上的戰爭指導，還是微觀上的軍事指揮，它們既是一門科學，更是一門藝術。高超的指揮藝術，往往源于指揮員靈感或直覺，而直覺本身是不可度量和傳遞的，正如愛因斯坦所述，直覺是無法描述的。所以我們無法訓練機器人産生直覺。因此，未來戰爭中，人工智慧和人類智能之間有可能存在一道無法逾越的鴻溝，除了場景和目標非常單一的作戰環境，人工智慧不一定比自然人做得更好。

    著眼人工智慧引領新一輪産業變革的趨勢，處理好機遇與挑戰的關係

    人類近代史上歷次科技革命和産業變革，都對軍事領域産生了顛覆性影響，直至改變戰爭形態。正如恩格斯所説：“用什麼方式生産，就會用什麼方式打仗。”目前，世界各軍事強國紛紛加大人工智慧應用的投入力度，致力于打造具有常識、情景感知和效能更高的軍事係統，搶佔未來軍事競爭制高點。然而，人工智慧技術是柄“雙刃劍”，既要抓住千載難逢的歷史機遇，又要客觀理性地看待面臨的風險和挑戰。風險處理不好，小則造成經濟損失，大則影響未來戰爭成敗。全球性人工智慧投資熱潮越高漲，我們越是應著眼防范國家安全重大風險，重視軍事智能化的潛在風險研究，實行對應用技術、應用成果的有效管控。

    演算法風險。作為人工智慧的主流演算法，深度學習本身是一個復雜係統，隨著演算法層級的增多，對這個生成和反饋數據的“黑盒子”裏為什麼能夠給出有效輸出、何時能夠給出有效輸出？演算法專家也無法用逆向工程來分析並給出答案，可能在不知不覺中失去了發現錯誤、糾正錯誤的機會。美軍F-35戰機控制係統的智能化程度非常高，擁有幾千萬條代碼，最近幾年暴露出來的200多個問題幾乎都與其智能軟件的演算法高度關聯。任何一個問題的出現，不但影響戰機的作戰性能，甚至連安全起降都成問題。國際人工智慧協會主席迪特裏奇在前年發表的主席報告中，針對人工智慧技術缺少穩健性，提出了“穩健人工智慧”的發展目標。

    投向風險。基礎研究是應用研究的源泉和基礎，應用研究是基礎研究的延伸和拓展，兩者相互聯繫，相互交錯，協調好兩者的關係，對推進軍事智能化十分關鍵。但長期以來，由于人工智慧技術具有高門檻的特點，使純粹基礎研究的學術價值和應用前景非一般人所能洞察，也很難進行評判和衡量，這就給投資決策帶來了較大風險。近幾十年，人工智慧原創性理論突破多在國外，如何克服基礎研究這塊“短板”，實現基礎研究和應用研究兩者之間的平衡，對于我們推進軍事智能化發展是一個不容忽視的挑戰。

    設計風險。設計風險是指由于人工智慧應用的設計目的與實際結果不相符帶來的風險。所有人工智慧産品的設計功能和參數都是設計者賦予的，其演算法及數學模型凝聚著設計者的心血和智慧。但應當承認，由于設計者知識、素養、習慣及利益驅動等因素，包括所採用演算法自身的不完備性，所設計出來的産品可能會存在缺陷和隱患。美軍第三機步師就曾發生過機器人把槍口對準操作員最後被擊毀的事件。設計的安全性風險恐怕是軍事智能化發展初級階段難以回避的問題。（王春富）