新華網 正文
騰訊安全團隊:谷歌AI學習係統有安全漏洞
2017-12-16 22:02:18 來源: 新華網
關注新華網
微博
Qzone
評論
圖集

  新華社福州12月16日電(記者顏之宏)騰訊安全平臺部Blade團隊日前對外發布消息稱,該團隊在對谷歌人工智能學習係統TensorFlow進行代碼審計時,發現該係統存在重大安全漏洞,利用該係統進行編輯的AI場景,有遭受惡意攻擊的可能。

  據騰訊安全平臺部負責人楊勇介紹,TensorFlow是目前谷歌免費開放給AI設計者的編程平臺,程序員可以在該平臺上進行AI組件的設計工作。楊勇表示,當含有安全風險的代碼被編輯進諸如面部識別或機器人學習的AI使用場景中,攻擊者就可以利用該漏洞完全接管係統權限,竊取設計者的設計模型,侵犯使用者隱私,甚至對用戶造成更大傷害。

  楊勇説:“通俗地講,如果設計人員在給機器人編程時恰好使用了含有該漏洞的組件,那麼惡意攻擊者就有可能利用漏洞控制該機器人,這是非常可怕的。目前我們在AI安全領域還只是邁出了一小步,未來期待更多的技術人員一起完善AI,讓AI更安全……”

  Blade團隊表示,TensorFlow是目前應用最為廣泛的機器學習框架之一,已被運用在諸多AI場景中,如語音識別、自然語言理解、計算機視覺、廣告、無人駕駛等;其一旦被黑客控制,後果不堪設想。目前Blade團隊已將漏洞的運用機理致函谷歌公司,而該漏洞需要谷歌安全團隊對代碼重新編輯。

  對此,一些業內專家也表達了擔憂。上海信息安全行業協會專委會副主任張威認為,當前從事人工智能開發的企業幾乎無一例外地將算法和數據相融合,一些數據可能涉及企業和用戶的核心秘密,一旦出現安全漏洞,風險較高。

  張威建議,有關企業應盡快自查是否使用過該平臺進行AI編程,同時行業內應加強聯係溝通,消除安全隱患。

+1
【糾錯】 責任編輯: 王萌萌
新聞評論
加載更多
山西迎入冬首場降雪
山西迎入冬首場降雪
海軍三大艦隊40多艘艦艇東海同臺競技
海軍三大艦隊40多艘艦艇東海同臺競技
紅外相機記錄雪豹分食畫面
紅外相機記錄雪豹分食畫面
“自貢燈會”彩燈制作如火如荼
“自貢燈會”彩燈制作如火如荼
010160000000000000000000011107271122122072