由新華社品牌工作辦公室、新華網、新華社海南分社主辦的2025企業家博鰲論壇系列活動於12月2日至5日在海南博鰲舉辦。作為論壇系列活動之一，2025AI生態共建論壇暨《睿德數字經濟創新發展大數據平台》發布會3日在博鰲舉辦。

      圖為中國信通院衛斌

      會上，中國信息通信研究院（以下簡稱 “中國信通院”）雲大所開源和軟體安全部副主任衛斌作《雲上人工智能安全發展態勢洞察》主旨演講，圍繞雲上人工智能安全領域的發展趨勢與核心挑戰，深入探討了人工智能創新應用的安全防護路徑。

      衛斌&&，當前，我國人工智能産業發展進入系統布局、全面深耕的新階段，統籌人工智能的發展與安全已成為産業布局的關鍵議題。人工智能作為新一輪科技革命與産業變革的關鍵驅動力，正深刻改變經濟與社會形態。他認為，人工智能技術本身存在脆弱性、不穩定性等內生性安全風險。同時，人工智能也為提升安全防護能力提供了創新路徑與應用場景，推動網絡安全體系向智能化、主動化轉型。因此，堅持發展與安全並重，統籌創新應用與安全治理，是保障人工智能健康有序發展的前提。

      針對備受關注的智能體安全問題，衛斌&&，隨着國內外監管政策日益完善，安全已成為智能體可持續發展的底線，構建適配行業需求的安全防護體系尤為迫切。他進一步提出三點思考，一是安全防禦模式將從被動向主動化、自治化演進，通過技術融合實現風險預判與自主響應；二是大小模型融合應用將形成能力互補，推動智能化防禦能力從單點防護向全域協同提升，適配多場景安全需求；三是利用AI技術治理AI自身風險，構建“以模抗模”的閉環體系，將成為行業安全發展的重要路徑。

      衛斌介紹，作為行業協同發展的橋梁，中國信通院已建立較為完善的“可信AI雲安全”研究體系，該體系主要涵蓋三方面工作，積極開展雲上大模型安全、智能體安全等領域標準與評估體系建設；持續發布産業洞察報告，推動知識共享；依託雲計算開源産業聯盟搭建雲上人工智能安全生態交流平台，目前已匯聚50余家單位，致力於構建協同發展的安全共同體。

      衛斌強調，雲上人工智能安全是國家安全能力建設的重要組成部分，需要政府、企業、科研機構協同發力。中國信通院將持續發揮平台作用，推動技術創新、標準制定與産業落地深度融合，助力構建安全可信的智能經濟生態，為“人工智能 +”行動深入實施與數字經濟高質量發展保駕護航。