如何克服算法偏見?頂尖科學家在浦江科學大師講壇上這樣説……-新華網
2024 10/23 08:29:11
來源:新華網

如何克服算法偏見?頂尖科學家在浦江科學大師講壇上這樣説……

字體:

  新華網上海10月23日電(記者 吳振東)“還有什麼工作不可能被AI取代,什麼工作可以由AI催生?”

  面對聽眾提出的問題,計算機科學領域傑出學者喬恩·克萊因伯格的回答是:“不知道”。

  “2008年我們不會想到人工智能將會在視覺分析、語言處理上有那麼好的發展,2016年我們也未曾料到人工智能可以和人進行自然的對話。”克萊因伯格同樣驚詫AI的迅猛發展,但他&&,AI是人類功能的延伸,如果沒有人類的觀察和思考,便就不可能推進這些研究工作。

  10月21日,第九期浦江科學大師講壇在復旦大學舉行。在搜索引擎算法和社交網絡底層架構等前沿領域取得開創性成就的康奈爾大學計算機科學和信息科學講席教授克萊因伯格和視覺科學領域卓越科學家之一、約翰斯·霍普金斯大學醫學院分子生物學與遺傳學、神經科學和眼科學講席教授傑瑞米·內森斯聯袂開講。

  日前,他們在上海被授予2024世界頂尖科學家協會獎,並將出席10月25日在2024世界頂尖科學家論壇開幕式上舉行的頒獎典禮。

  10月21日,喬恩·克萊因伯格與傑瑞米·內森斯在第九期浦江科學大師講壇上聯袂開講。攝影:成釗

  如何克服算法偏見?他呼籲公平與多元

  克萊因伯格曾對小世界理論和萬維網搜索算法做出開創性工作。講壇上,他以“算法視角下的世界:計算與高風險決策”為題,回答了一系列問題:算法視角下的人類世界是怎樣的?如何確保算法的公平性?未來人工智能是否會完全替代人類行動?

  “90年代初,我們開始將互聯網看作是一個巨大的圖書館,隨後是社交媒體興起,互聯網被賦予了更多含義。”克萊因伯格説,“2014年以來,人工智能技術的進步使互聯網發展進入第三階段,在這個過程中,算法發揮了至關重要的作用,它們能夠處理海量信息,並從中提取有價值的部分。”

  然而,算法的應用也産生許多新問題,比如怎樣通過算法分析獲得更多信息?虛擬信息能否轉化為可研究、可加工的素材?克萊因伯格提出,有效利用機器學習和人工智能技術,能讓當前以人工智能作為基礎的互聯網生態體系更健全。

  10月21日,喬恩·克萊因伯格在浦江科學大師講壇上。攝影:成釗

  算法視角下的世界是怎樣的?

  克萊因伯格團隊通過分析數百萬用戶的照片、搜索引擎查詢以及移動設備位置信息,識別地球上人類活動的“熱點”。這些“熱點”不僅是物理空間中的聚集點,更是特定時間段內人們社會活動的中心。

  旅行、度假、家庭、朋友……人們會在社交平台對這些地點進行標記。在一個城市著名地標周圍,或是大型公共活動期間,都會形成顯著的數據密集區。

  他們對地理標籤數據進行熱力圖分析,借助大語言模型從紛繁複雜的數據中提煉出有用的信息,分析其中的高頻詞彙、特殊詞彙,從而準確定位並描述這些“熱點”。

  這項研究有助於提升城市規劃、旅游管理、災害響應等多個領域的工作效率。克萊因伯格説:“隨着越來越多關於人類行為模式的數據積累起來,未來或許能及時有效地應對更複雜多元的社會問題。”

  但克萊因伯格也提醒道,算法與生俱來就有偏見,設計算法時必須考慮到多元化的公平標準,並開發新的技術方法,確保算法在各個層面上都是公平的。他認為,研究者們應該從政府、非營利組織、援助機構等渠道獲得多元類型數據。

  “我們必須思考算法對人類生活和後代可能産生的影響。”克萊因伯格強調,除了偏見,算法還可能存在文化單一問題。“如果我們都使用同一種算法去做決定,是否會導致做出的決定高度趨同,導致我們的文化也是高度趨同?”在他看來,人類在使用算法工具時,設計者、使用者、研究者都需要保持一定的多元性。

  色覺障礙如何産生?他在分子層面闡明原因

  為什麼人們能看見顏色?為什麼有的人難以分辨紅色和綠色?為什麼男性比女性更容易患有色盲症……內森斯以“色覺、X染色體失活與女性優勢”為題,對這些問題進行了回答。

  內森斯曾揭示人類顏色視覺的分子基礎,通過基因研究闡明了視網膜發育的機制及其與遺傳性眼病的關係。同時,他還探索了基因治療在視覺系統疾病中的潛力,為視覺科學的研究和臨床應用開闢了新的方向,也改變了人類對如何“看”世界的理解。

  10月21日,第九期浦江科學大師講壇在復旦大學舉行。攝影:成釗

  顏色視覺在現實生活中不僅具有美學優勢,還具有實用價值。比如,對植物而言,顏色能夠幫助其吸引昆蟲和鳥類為其授粉;對動物而言,可以利用自身鮮艷的顏色對捕食者發出警告,告訴對方“我有毒”。

  內森斯&&,人體具有紅、藍和綠三類不同的色覺基因,不同基因對多個波長的光敏感程度不同,但對某一組特定波長的光的敏感度最佳。同時,人類感知紅和綠的過程中,有三個關鍵位置的氨基酸起到非常重要的作用,攜帶不同氨基酸會導致人們對不同的顏色的敏感度不同。

  從分子基礎出發,內森斯開始探究視覺基因的相關疾病。

  “我相信聽眾中一定有人色覺跟其他大多數人不一樣,這是由基因來決定的。”內森斯説,基因決定了人們對長波和中波光線的接收情況。在進化的過程中,編碼紅色和綠色色覺的基因到了一條染色體上,這一基因重組事件,也是人類色覺變異的根源。

  他的研究發現,基因內部的混合重組會導致異常色覺,紅綠色盲的分子基礎是在染色體上串聯排布的紅綠感光色素基因異常重組或者基因缺失。

  10月21日,傑瑞米·內森斯在浦江科學大師講壇上聯袂開講。攝影:成釗

  一隻具有黑色、橘色、白色毛髮的花色母貓看似尋常,實則反映了遺傳學中一種特殊的現象:X染色體失活。

  X染色體失活,正是色盲症男女有別的奧秘。內森斯介紹,人類大部分色覺受體位於X染色體上,如果發生基因突變,就會導致色盲症。女性有兩條X染色體,如果其一發生失活,另一條X染色體就會進行代償,而男性只有一條X染色體,一旦發生病變,無法得到代償,只能“認栽”。這就是男性比女性患色盲症比例高的原因。

  內森斯和合作者在一項小鼠遺傳和行為研究中,對具有基因缺陷的小鼠進行了基因改造,使得本來只具有長波、中波、短波色素基因中的一部分的二色視覺小鼠能夠看到原來看不到的色彩,通過三色視覺測試。

  內森斯&&,雌性動物X染色體失活機制有望在基因缺陷疾病診療方面解決一些問題。理論上,人們可以通過讓讓失活的基因重新表達,將突變的基因沉默,但如果一條染色體失活,可能會影響其他疾病的表達。

  “科學問題就像洋蔥,揭開一層還有一層。”他強調,“儘管已經做了多年研究,但還是不了解具體機制,仍然需要做更多工作。”

【糾錯】 【責任編輯:王若宇】