新華網 正文
美媒:人工智慧可能自行産生偏見 趨勢演變很難扭轉
2018-09-10 08:16:24 來源: 參考消息網
關注新華網
微博
Qzone
評論
圖集

  美媒稱,新研究表明,對他人表現出偏見並不需要很高的認知能力,人工智慧機器很容易就能表現出來。

  據美國每日科學網站9月6日報道,英國加的夫大學和美國麻省理工學院的電腦科學和心理學專家已經證明,幾組自動機器僅僅通過相互之間識別、模倣和學習偏見就能表現出這種行為。

  報道稱,偏見似乎是人類特有的一種現象,需要以人類的認知能力去對某個人或群體形成某種看法或成見。

  盡管某些類型的電腦演算法根據從公共記錄和人類産生的其他數據中學到的知識已經表現出了偏見,例如種族偏見和性別歧視,但這項新研究表明,人工智慧有可能自行演化為心懷偏見的群體。

  報道稱,這些新發現發表在英國《科學報告》雜志上,其依據是,電腦模擬了擁有類似偏見的個體或虛擬代理人如何形成一個群體並彼此互動。

  在一個平等交換遊戲中,每個個體根據別人的名聲以及自己的捐贈策略(包括對外來者的偏見程度),來決定是捐給自己所在群體中的某個人還是另一個群體中的某個人。

  隨著遊戲展開,一臺超級電腦進行了數千次模擬,每個個體開始通過效倣自己所在群體或整個群體中的其他個體來學習新的策略。

  研究報告的作者之一、加的夫大學犯罪與安全研究所和電腦科學與資訊學學院的羅傑·惠特克教授説:“通過成千上萬次模擬,我們開始了解偏見是如何形成的,以及助長或阻礙偏見的條件是什麼。我們的模擬顯示,偏見是一種強大的自然力,通過演變,偏見很容易在虛擬人群中受到激勵,不利于與他人構建更廣泛的聯繫。來自偏見群體的保護會無意中導致個體進一步組成偏見群體,使得群體四分五裂。這種普遍的偏見很難扭轉。”

  這一研究結果表明,個體會通過優先效倣短期收益更高的對象來更新自己的偏見程度,這意味著作出此種決定未必需要具備高級認知能力。

  惠特克教授還説:“能夠識別歧視和模倣他人的自動機器今後很容易受到我們在人類中看到的偏見現象的影響,這是有可能的。”

點擊查看專題

點擊查看專題

+1
【糾錯】 責任編輯: 李雪梅 鐘玉嵐
新聞評論
載入更多
小豬運動會“萌”趣橫生
小豬運動會“萌”趣橫生
河北遵化:核桃收獲忙
河北遵化:核桃收獲忙
貴州黔西:白露將至秋管忙
貴州黔西:白露將至秋管忙
張掖丹霞地貌 七彩繽紛世界
張掖丹霞地貌 七彩繽紛世界

010020030300000000000000011154711299501231