新華網 正文
周鴻祎講大安全:人工智能時代的"暢銷服裝"是什麼?
2019-05-17 16:12:14 來源: 中國經濟網
關注新華網
微博
Qzone
評論
圖集

  人工智能時代的“暢銷服裝”是什麼?周鴻祎為何“攻擊”劉慶峰?5月16日,在第三屆世界智能大會上,360董事長兼CEO周鴻祎語驚四座。

  他在演講中,用最近發生的三件與人工智能有關的事情,揭示了人工智能的安全隱憂。他説,講這三件事並非貶低人工智能,恰恰相反,關注安全有利于人工智能更好地發展。因為只有安全的信息化,才會給人民帶來安心和幸福的信息化。

  無人值守係統裏的“最後控制權之爭”

  周鴻祎提到的第一件事是波音737MAX墜機事件。近期,737MAX型飛機在過去六個月內發生兩次墜毀事故,原因為其飛行控制係統的嚴重安全風險。周鴻祎自稱非航空專家但也看到兩個問題,一是係統設計的再完美,一旦傳感器出錯,就會影響飛行控制係統的判斷,繼而“犯錯”。二是當計算機出錯後,究竟是聽計算機的還是駕駛員的?

  “大家都應該思考這個問題”,周鴻説,在將來無人車、無人工廠、無人碼頭等眾多無人值守係統裏,當我們沒有很大把握的情況下,在傳感器誤報、數據被污染的情況下,最後的控制權和決定權應該留給機器還是人?

  人工智能時代的“暢銷服裝”

  周鴻祎講的第二件事從“逃犯克星張學友”説起,據悉,因為張學友演唱會現場的“人臉識別”技術,警察輕松抓獲多名在場逃犯。不過,周鴻祎提醒大家不要只覺得人臉識別厲害,這一技術本身也存在先天缺陷:黑客們通過研究發現,只要把一種奇怪的條紋打印下來,別在衣服上,就能“屏蔽”掉人臉識別係統,出入自由。

  “這種衣服可能會很暢銷”,周鴻祎不忘在演講中調侃。他認為,這還只是不太嚴重的情況。以小見大,一些無人駕駛的汽車,可能會被馬路上‘奇怪’的符號誤導,導致嚴重的交通事故。

  為了杜絕這種情況,周鴻祎建議企業在上線係統前,應做好安全檢測,做好“實網攻防”。“要用實際的攻擊發現問題,而非靠靜態的研究證明係統的安全”,周鴻祎還為公司“打廣告”:“一定要找我們這些天天吃飽沒事幹的‘黑客公司’來幫大家做實際的攻防,在我們手裏發現問題,比在實踐中發現問題可能要好一些。”

  周鴻祎為何調侃劉慶峰?

  “我要攻擊劉慶峰”,談到第三件事時,周鴻開門見山,調侃科大訊飛劉慶峰。據悉,去年人工智能大會期間,兩人埋下了“吃包子”的恩怨,劉慶峰爆料周鴻祎在最近的活動中連續吃了11個天津狗不理包子。

  不過,“吃包子”恩怨是假,擔憂人工智能是真。周鴻祎指出,去年劉慶峰在演講中播放了用人工智能“偽造”的川普視頻,引發了他的思考。他在演講中提醒大家:最近,美國已經有人利用人工智能將色情視頻裏的女主角換成女明星。這一技術正引發恐慌,遭到美國政府查封。

  “我今天已經不相信朋友圈裏的美女了”,周鴻祎説,如果這種工具降低了每個人的做假成本,就可能會出現假新聞、假名人視頻。這顛覆了我們過去“百聞不如一見”的固有觀念,甚至會在關鍵時刻帶來混亂。

  “新加坡正在制定相應的法律”,周鴻祎呼吁我國也應加強對該類問題的重視,防止這樣的“工具”流傳,引發一係列道德倫理問題。

 

+1
【糾錯】 責任編輯: 冉曉寧
新聞評論
加載更多
福建莆田木蘭陂
福建莆田木蘭陂
南寧:南湖岸邊花飄香
南寧:南湖岸邊花飄香
亞洲文化嘉年華在京舉行
亞洲文化嘉年華在京舉行
山東濟南:初夏泉城美如畫
山東濟南:初夏泉城美如畫

010030090950000000000000011101201124508741