C3安全大會:探索人工智慧時代數字安全之道-新華網
新華網 > > 正文
2024 05/23 08:41:24
來源:經濟參考報

C3安全大會:探索人工智慧時代數字安全之道

字體:

  以大模型為代表的新一輪人工智慧(AI)浪潮正以前所未有的態勢席卷千行百業。在這個顛覆性技術變革時代,數字安全領域將面臨怎樣的機遇與挑戰?5月18日,“C3安全大會·2024”在南京舉行。在這場數字安全行業的高級別閉門會議上,業界多方共同探索AI+時代的數字安全之道,為新時代安全生態建設提供了新的思路。

  人工智慧時代 網絡安全形勢嚴峻

  “隨著去年ChatGPT的發布,AGI(通用人工智慧)技術讓全球駭客開始狂歡。”亞信安全高級副總裁陳奮在“安全AI未來”主旨演講中的這番描述並非危言聳聽。事實上,AGI工具可以將駭客生成新威脅的時間由之前的數個月縮減至幾小時甚至幾分鐘,與此同時,攻擊者開始利用大模型迅速發現軟件與服務中存在的漏洞,通過人臉深度偽造來實施網絡詐騙犯罪的案例也越來越多。更有甚者,攻擊者的目標正由傳統的數字資産轉向AI算力基礎設施和大模型。“亞信安全監測到,短短一年時間,針對大模型的攻擊手段已涌現出數十種不同的類型。”

  專注AI安全攻防實戰與對抗的亞信安全實驗室模擬了去年發現的海綿樣本攻擊,大致原理是通過向大模型發布特殊的樣本,讓大模型的算力消耗急劇上升,原來短時間能做出響應的需求,現在則需要大量時間去計算。即便停止攻擊,大模型返回結果的速度也變得很慢。“如果未來核心應用都是大模型驅動的AI原生應用,這種情況基本上就等于癱瘓了。”陳奮説。

  這只是未來網絡安全風險的“冰山一角”。與會專家學者形成共識的是,隨著全球新一輪科技革命和産業變革的持續演進,以人工智慧大模型為代表的新技術迅猛發展,數字化、網絡化、智能化日新月異,網絡安全面臨的風險挑戰不斷增加,網絡安全形勢更為復雜嚴峻。

  智譜AI總裁王紹蘭介紹,從技術突破到應用落地顯著加快、技術影響力呈現裂變式擴散、規模化應用與前沿攻關並舉,這是新一代AI技術浪潮的特點。上海垣信衛星科技有限公司高級副總裁陸犇博士則透露,垣信擬于今年開始進行大規模的衛星組網建設,隨著衛星互聯網逐步建成,勢必會為産業帶來新的大數據源、新的分布式算力網絡與快捷的人工智慧分發途徑。其間,包括通信的連接、數據的連接,以及無處不在的智能泛在體,都將面臨更為突出的安全問題。

  “現在安全的范疇需要擴大。”中國工程院院士、清華大學智能産業研究院(AIR)院長張亞勤認為,新的人工智慧是資訊智能、物理智能和生物智能的融合,AI大模型的能力極其強大,未來可能創造出很多發展機遇,但也蘊含著不少潛在風險,包括資訊智能的風險、AI本身隱含的安全風險以及可控性、可信性、邊界等問題。其中,AI幻覺、深度偽造等問題很有挑戰性。“現在完全可以去倣造人的聲音、圖片和短視頻且無法鑒別,而更大的風險是在物理世界、生物世界,當一個大模型可以控制上億的車、無人機、機器人,連接到金融體係、核心體係,甚至和人的大腦連在一起,失控和被利用的風險更大。”

  “在推動大模型相關技術進步的同時,也應未雨綢繆地做好防范工作,確保技術向善。”張亞勤院士強調。

  用AI對抗AI 網絡安全攻防升級

  與會專家認為,網絡安全的攻防從原來人和人之間的對抗,已經升級到AI和AI之間的對抗,只有AI驅動的網絡安全防護檢測技術才能識別AI驅動的駭客攻擊技術。最典型的案例是深度偽造,人眼可能都看不出來的人臉替換,只有通過AI技術才能識別出來。

  面對日益嚴峻的網絡安全形勢,全球科技企業都在加緊行動,網絡安全范式正在革新。微軟日前已經正式商用了可用自然語言交互的安全自動化解決方案Copilot for Security;谷歌去年也發布了網絡安全大模型。全球網絡安全企業Palo Alto、Crowd Strike已經在安全運營平臺上整合了大模型能力。在AI技術浪潮推動下,Palo Alto已經成為全球首家市值突破千億美元的安全公司,Crowd Strike的市值也逼近千億美元。在中國,約80%以上的網絡安全公司都在將大模型技術整合到網絡安全産品中,近30%的公司已經開始做大模型安全的研究。

  本次大會期間,亞信安全帶來的“信計劃”也包含了全新研發的保護算力雲基礎設施安全、大模型應用安全防護、大模型紅藍對抗測試等服務,並正式發布了網絡安全行業領域自研大模型——信立方。據介紹,信立方大模型對于執行網絡安全行業的精準問答、復雜的告警日志解讀、深度的網絡安全事件分析等專用場景都有獨特的效果。

  此外,亞信安全還在構想安全運營數字人,這是一個獨立的大模型應用。用戶每天會産生大量的安全事件,未來安全運營主管只要對數字人説:“幫我分析一下今天的安全態勢怎麼樣?”數字人就會自動把當天的安全態勢調出來。“今天哪些安全事件必須馬上處理?”數字人可能會列舉ABCD四個事件,只要告訴數字人處理哪個事件,這個事件就會被閉環處理,沒有任何復雜的界面,完全是對話式的入口來完成過去很繁雜的操作工作。

  針對近期頻發的網絡勒索事件,本次大會上,網絡勒索響應與治理中心暨獵狐計劃正式啟動。該中心由亞信安全、中國聯通江蘇分公司、四川省數字産業有限責任公司、人民數據管理有限公司聯合發起,以防范網絡勒索的持續惡意攻擊為目標,建立區域性和行業性的網絡勒索響應與治理中心,形成常態化一體化的網絡勒索安全運營。獵狐行動計劃則通過事前、事中、事後三個階段完善處理“銀狐”木馬,這一計劃的實施將為有效打擊網絡勒索行為提供更加堅實的保障。

  産學研用協同 多方共建安全生態

  值得關注的是,本屆C3安全大會上還舉行了兩項重磅簽約儀式。其一是亞信安全和清華大學智能産業研究院聯合研發行動升級計劃,雙方將進一步提升合作規模,實現科研實力與人力資源的優勢結合,持續開展理論、技術、政策等方面的創新性研究工作;另一項則是亞信安全與華為終端的合作簽約,雙方將深度投入鴻蒙生態建設,結合領先行業的終端安全能力,為用戶提供更加安全、可靠的終端環境,保障用戶的信息安全。

  産學研用加強協作正在成為業界的共識:只做大模型安全是無法解決大模型安全問題的,需要整個産業鏈、生態鏈多方融合,構建産品配套、軟硬協同的産業生態。

  “大模型産業鏈非常長,最終落地過程中會發現有更多企業參與進來,尤其是以大模型為基礎的周邊業態會更加豐富。”亞信安全高級副總裁兼CDO吳湘寧説,“現在大家都還在探索大模型生態安全的建設,可以明確的是整個生態鏈打開後,很多技術使用場景都會發生改變。”

  在制造業,美的是較早把安全大模型落地到信息安全領域的企業。據美的集團首席信息安全官兼軟件工程院院長劉向陽介紹:“過去做安全運營,安全日志每天80億條,僅告警就有20萬條,很難用人力處理。引入安全大模型後,把安全告警需要人工研判的數量從20萬條降到了100至200條,這就是人工能夠處理的程度了。”

  談及與亞信安全的合作,華為終端雲開發者服務與平臺部總裁望岳表示,鴻蒙作業系統是華為推出面向下一代端側的作業系統,在華為設計理念裏,“安全”排在所有因素之上。作業系統涉及計算、資源、通訊、圖形圖像等方方面面,安全體係特別龐大,安全面臨的形勢也尤為復雜,特別是應用到各個行業,在制造業、家電行業、金融業等,涉及安全的課題和考量點完全不一樣。“鴻蒙作業系統其實也是一個容器,需要像亞信安全這樣的合作夥伴,把多年的經驗、積累、能力放到鴻蒙作業系統的底層,以協同治理好整個係統的安全。”

  “在新的時代,數據正在成為最重要的資産,大模型如同現代冶煉廠,在鑄造出這個時代的‘鋼鐵’。作業系統、行業大模型與‘雲網安’共同構成新時代數據的基礎設施,應用開發者們在建造徵服數據海洋的戰艦。”亞信聯合創始人田溯寧如此生動的比喻,勾勒出的正是當前正在建設中的新時代安全生態。(記者 吳蔚)

【糾錯】 【責任編輯:冉曉寧】