新華網 正文
機器與人 怎樣當好“合夥人”
2018-08-17 07:32:25 來源: 人民日報
關注新華網
微博
Qzone
評論
圖集

  15日,2018世界機器人大會在北京亦創國際會展中心開幕,展示全世界機器人産業的最新成果。為期3天的論壇上,由機器人發展引發的人工智能倫理和法律話題就是議題之一。

  應當建立規范機器人及其使用行為的法律框架

  在國際人工智能界,不少人認為人工智能會對人類産生巨大威脅,呼吁不要開發“人工智能自主武器”,警惕人工智能的潛在風險。他們討論的人工智能,通常指的是未來能自主進化、有類人意識的“強人工智能”,而當前應用的多是擅長單項任務、完成人類指令的“弱人工智能”。即便如此,人工智能的迅速發展帶來的挑戰已經逐漸顯現。

  為保護隱私,人們發布照片或視頻時,會打上馬賽克覆蓋人臉,但美國一個研究小組開發了一套機器學習算法,通過訓練,神經網絡可以識別圖像或視頻中隱藏的信息。

  時下,一些機器人應用到兒童和老人陪護中。中國社會科學院哲學研究所研究員段偉文認為,機器人與兒童對答、給老人喂飯等行為看似簡單,長期相處可能使人類對機器傾注感情、産生依賴,有必要設置防止過度依賴機器人的原則。此外,無人駕駛汽車發生交通事故怎麼界定責任,醫療外科手術機器人出現意外怎樣處置……隨著智能機器人深入參與人類生活,專家認為,如何建立規范機器人及其使用行為的法律框架,成為人工智能和機器人産業發展無法回避的重要問題。

  清華大學人工智能研究院院長、中科院院士張鈸曾表示,當前的人工智能與人類智能本質上是不同的。與人類相比,人工智能係統抗幹擾能力差,推廣能力弱,甚至可能犯大錯。因此使用這樣的人工智能係統需要小心。

  思考與智能機器的相處模式,控制不良影響

  人工智能的發展幾經波折,也在不斷進化。

  “人工智能及其智能化自動係統的普遍應用,不僅僅是一場結果未知的科技創新,更可能是人類文明史上影響深遠的社會倫理試驗。”段偉文説。

  北京師范大學哲學學院教授田海平表示,機器深度學習和算法體係,使得智能體具有了一種準人格或擬主體的特性。當前,“阿爾法狗”、醫療機器人“沃森”和智能伴侶虛擬機器人微軟“小冰”仍屬于“弱人工智能”,離真正的智能主體還比較遠。即便如此,它們也已經呈現改變人類形態的發展趨勢。未來假若“強人工智能”出現,並深度介入人類事務,那麼,“我們必須提前思考人類如何與之相處的問題,控制它的不良影響。”田海平説:“人工智能是否以及如何為自己的行為負責,這仍然且始終是技術難題。”

  近年來,國際人工智能界日益重視人工智能中的倫理與法律問題,並推動相關技術標準及社會規范的研討和制定。2017年1月,一個國際學術會議制定並發布了人工智能23條倫理原則,其中包括,人工智能研究的目標應該建立有益的智能,而不是無向的智能;人工智能係統的設計和運作應符合人類尊嚴,權利,自由和文化多樣性的理念等。電氣和電子工程師協會(IEEE)也頒布了《人工智能設計的倫理準則》,試圖從工程設計和生産的角度,提出人工智能的倫理標準。

  我國人工智能研究及實踐走在世界前列,但在相關機器倫理、立法研究和安全標準等方面起步相對較晚,近些年正在積極加強這些方面的研究。

  有專家表示,人工智能倫理法律等涉及科學界、企業界、哲學、法學等多個領域,有必要成立應對人工智能發展的聯盟組織,吸納各方面的力量,共同推進相關研究。

  運用算法,將人類道德規范體係嵌入智能機器

  段偉文説,人工智能係統的“擬主體性”,使得它們的行為可以看作是與人類倫理行為類似的擬倫理行為。因此,人工智能界在探討能不能運用智能算法,將人類的價值觀和道德規范體係嵌入到智能機器中。有專家認為,這既是人工智能未來願景,也是當前面臨的最大挑戰。

  田海平説,把道德代碼嵌入機器,是人工智能發展的必然趨勢。缺少這一步,自動駕駛、無人機、助理機器人等智能體就不可能進入人類生活。機器在自主性上達到了人類高度後,它在做決策時,只有遵循道德算法,才能發展各種各樣的功能。

  段偉文介紹,讓機器符合人類道德規范,學界大體有3種設想:一是自上而下,即在智能體中預設一套倫理規范,如自動駕駛汽車應將撞車對他人造成的傷害降到最低;二是自下而上,即機器通過數據驅動,學習人類的倫理德道規范;三是人機交互,即讓智能體用自然語言解釋其決策,使人類能把握其復雜的邏輯並及時糾正可能存在的問題。

  “人工智能倫理研究目前沒有一套普遍原則,因此可以從應用中遇到的實例出發,找到價值衝突點,討論需要作哪些倫理考慮。”段偉文説,比如針對偏見,有必要追溯到機器學習的數據中,完善數據信息,並改進算法,讓人工智能判斷盡量客觀公正,符合人類的價值觀。

  盡管人工智能發展存在許多潛在問題,但更多人對技術應用的前景表示樂觀。他們認為,人工智能能提供更安全、更智能的生活體驗,不能因為技術潛在的不足而因噎廢食,在提前布局,防范可能出現的挑戰的同時,也要利用新技術來應對風險。

  以隱私安全為例,人工智能並不是隱私的天敵。北京大學信息科學技術學院教授郭耀説,利用人工智能技術能夠應對一些常規方法難以應對的安全問題。比如,基于行為分析,人工智能可以快速檢測出惡意軟件,通過機器學習還能及時檢測異常網絡流量行為,預警黑客入侵,從而提升網絡安全防禦水平。

  張鈸説,不管人工智能如何發展,基本理念應該不是用智能機器代替人,而是要協助人做好工作。人和機器各有優勢,要互相了解才能實現人機協作,但人還是人機關係的主導者。如此,才可能將人工智能引向人機合作的發展道路。

+1
【糾錯】 責任編輯: 劉星星
新聞評論
加載更多
看今日洪湖:鷗鳥翔集 萬荷飄香
看今日洪湖:鷗鳥翔集 萬荷飄香
布魯塞爾鮮花地毯
布魯塞爾鮮花地毯
藍天白雲下的京城美景
藍天白雲下的京城美景
錫耶納舉行傳統賽馬節
錫耶納舉行傳統賽馬節

010030090950000000000000011100001123282559