環球首頁 國內·國際·言論 | 經濟·財富·科技 | 社會·文化·生活·其他 | 專欄 | 過刊檢索 | 關于我們 | 環球廣告
斯坦福的科技倫理課
  新華網 ( 2021-07-15 06:45:25 ) 來源: 《環球》雜志
 

斯坦福大學校園裏的標示牌

    斯坦福大學的技術倫理相關課程均與業界結合緊密,具備很強的實操性,這既提高了學生的積極性和參與度,也使得學界的很多靈感與智慧可以直通工業界,真正助力實際問題的解決。

《環球》雜志記者/彭茜

  人們對理工類課程的傳統印象是做實驗、寫代碼、跑數據,但斯坦福大學的課程設置充滿學科交叉色彩,人文社科和數理充分交融,常將科學技術置于社會歷史變遷背景下審視,從哲學、社會學、政治學等多角度探討技術社會的影響和倫理挑戰。

  無論是斯坦福大學專門的技術倫理必修課,還是嵌入式的倫理課程模塊,均體現出與業界結合緊密、直面現實問題的特色,有一定的啟發和借鑒價值。

傳奇的CS181

  在斯坦福大學,CS181是一門頗具傳奇色彩的課程。這門已開設30多年的“計算機科學、倫理與公共政策”課,顯示了該校對于技術倫理教育的長期關注。從設立伊始,這門課就以跨學科的視角來審視科技發展。

  CS181的前身是上世紀80年代開設的“計算機、倫理與社會責任”課。當時,美國開啟反彈道導彈軍事戰略“星球大戰”計劃,軍方開始大力資助斯坦福理工科實驗室研究。這令一些科學家開始思考如何避免技術發展偏向危險軌道,更加關注技術的社會責任。當時在斯坦福大學教授符號係統的特裏·威諾格萊德和博士生、哲學家海倫·尼森博姆聯合開設了這門選修課。在課上,學生們聽尼森博姆講授功利主義和康德,威諾格萊德則帶領大家討論計算機和社會責任。

  2019年在斯坦福做訪問學者期間,《環球》雜志記者選修了這門有30多年歷史的“長青課”。現在,這門課已是斯坦福大學計算機專業核心必修課,選課規模達150人。在人工智能(AI)、大數據等新技術全面滲透人類日常生活的當下,這門課有了新的現實意義。課程研討與計算機應用相關的倫理和社會問題,聚焦“倫理理論、社會、政治和法律考量”,關注的問題領域包括隱私、可靠性、復雜係統的風險、專業人士在技術應用過程中的責任及其工作産生的後果等等。

  這門課如今由斯坦福大學計算機係、哲學係和政治係的3位老師共同授課,從各自學科視角引領學生審視技術發展。如談及自動駕駛汽車,計算機係教授薩哈米會詳解目前自動駕駛汽車所面臨的技術瓶頸;哲學係教授科恩會拋出倫理學中的“電車難題”,讓大家思考當自動駕駛汽車面臨不可避免的事故,如何在保護車內乘客和路人之間作權衡;政治係教授雷奇則對比各國政府出臺的自動駕駛汽車監管措施,要求大家思考不同政體和文化背景下的技術治理偏好。

  CS181的另一特色,是讓學生真切體會技術倫理問題就在身邊。從第一節課開始,薩哈米在講臺前擺了幾臺直對著學生的攝像機,徵集大家在攝像頭“注視下”上課的感受,這是對技術侵入人類生活的一次現場模擬。“計算機與倫理學”“AI監管”“AI與國家安全”“數據隱私”“私人平臺的權力”“硅谷的文化與價值”……課程章節設置緊跟現實中的倫理爭議,經常把一些突發事件作為案例討論,並請來爭議中的“當事人”現身説法。

  在“私營平臺的權力”一節中,課程邀請了谷歌新聞創始人巴哈特、臉書前首席安全官斯塔莫斯和歐洲議會議員斯卡科進行圓桌討論,探討臉書作為“私營超級力量”如何控制整個信息生態係統、臉書和谷歌搜索引擎推薦算法如何“強化”假新聞、“社交網絡效應”如何加深美國兩黨分歧等等。而在“AI與國家安全”一節中,現任美國國家情報總監、前白宮國家安全委員會副顧問海恩斯,以及硅谷大數據公司Palantir隱私與公民自由小組負責人等專家,則非常直白地剖析了中美AI“軍備競賽”的現狀,並討論中國發展AI的“舉國體制”是否可為美國提供借鑒。

  課程十分注重培養學生的批判性思維和決策能力。教授在每節課上都在講臺兩側各設一個話筒,在嘉賓演講和圓桌討論結束後,學生會在話筒後排長隊針對演講內容提問,視角尖銳常令嘉賓措手不及。除講習課外,每周還設有助教引導的討論課,學生被分為不同小組,進行正反方激辯。

  引導學生發現問題,也讓學生積極參與探索解決問題的現實路徑,是CS181的另一重點。比如,有一節課專門討論算法歧視問題,教授與學生共同探討了硅谷某公司利用AI算法篩選簡歷導致的性別歧視。而課後作業,就是讓大家一起設計一個更公平、無偏見的AI神經網絡係統。

  參加了這門課的斯坦福大學大一學生楊彧蔚對記者説,CS181已和數學、文學一樣成為一門“工具性”課程,也是通識教育的一部分。他表示,對于希望涉足計算機行業的自己來説,CS181提供了全新的思考角度,自己未來或許會成為一個更具有社會責任感的程序員。

  楊彧蔚還和課上同學成立了“有益社會的計算機科學”俱樂部,已經有100多位成員,大家常常在課下根據課上討論的一些計算機倫理和社會問題,去嘗試做一些解決方案。

倫理課程模塊廣泛嵌入

  除了專門的技術倫理課,斯坦福大學幾乎所有技術類課程都設有嵌入式的社會影響和倫理模塊;一些人文社科學院的課程,也加入了對技術的社會性反思,使得幾乎任何專業背景的學生都可以接受技術倫理和社會影響的教育。

  全校大熱的課程——著名人工智能專家吳恩達開設的深度學習,設立專門板塊討論“深度虛假”等深度學習的濫用對社會的危害,比如計算機通過學習海量視頻數據後生成虛假政治人物演講視頻、偽造名人發言等。課程不僅教授背後的技術細節,也探討識別和整治“深度虛假”的方法。

  美國國家工程院院士、人工智能專家李飛飛的計算機視覺課程,也專門用幾節課的時間去討論人臉識別的隱私問題。

  法學院開設的“AI的社會影響”課程,則關注AI治理中的法律因素。老師會帶領學生審視AI應用中的一些法律盲區,探討當AI載體觸犯他人利益、造成社會損失時,如何量刑定罪,學生們還會組成虛擬法庭進行辯論。比如,自動駕駛汽車出了事故,如何對汽車廠商、自動駕駛方案提供方、駕駛員等進行責任認定,這些都是真實生活中亟待解決的問題。

  課堂上另一給人留下深刻印象的案例,是美國某州級法院依賴AI係統輔助對犯罪嫌疑人進行量刑,結果該嫌疑人因為是有色人種(黑人),被AI認為應重判,原因就是此前AI學習的大量數據都是有色人種的犯罪記錄,導致了不公平。

  再如記者所選的“設計思維:科技中的性別研究”課程,由設計學院、社會學係和工學院共同開設。該課希望通過性別研究改進當前科技産品設計中多元性和包容性不足的問題。當下科技界有太多性別單一主義思維,如手機智能語音助手大多使用女性聲音,這其實是一種對女性的潛在歧視。我們的期末項目是設計了一套性別包容性“菜譜”,這套開源工具包可輔助自動駕駛、AI語音助手等科技産品設計,使其更加多元包容,如在産品設計中考慮到女性、嬰幼兒的特別需求等。

  在課程最後的答辯環節,由硅谷業界人士來評審工具的實用性並提出問題。我們的這套工具得到了Amazon Echo智能音箱的開發者和谷歌旗下Waymo自動駕駛汽車研發者的青睞,他們表示會在産品設計和團隊建設中嘗試使用我們的工具。

  由此可見,斯坦福大學的技術倫理相關課程均與業界結合緊密,具備很強的實操性,這既提高了學生的積極性和參與度,也使得學界的很多靈感與智慧可以直通工業界,真正助力實際問題的解決。

繞不開的倫理審查機制

  除了在課程中深度嵌入倫理模塊,斯坦福大學對于技術倫理的重視還體現在嚴格的科研倫理審查機制上。這一機制從高校教育階段就幫助每個科研從業者樹立技術倫理意識。

  在校園公告欄裏,經常能看到一些招貼受試志願者的海報,很多都是為了測試新技術應用,如智能手表監測用戶睡眠的情況,智能音箱的人機交互技術的成熟度如何,等等。這些涉及人類受試者的研究招募,從海報、問卷到研究方案等都要經過制度審查委員會(IRB)的審查。

  斯坦福大學發展與心理科學博士李星煜對《環球》雜志記者説,IRB是美國聯邦政府成立的專門機構,植入在每個大學和科研機構中,由有倫理學背景的專人負責,只要是涉及人類受試者的研究計劃,無論是人文學科還是理工科,均需要提交IRB審查,這也是將研究成果發表在國際期刊的前提。IRB要求每個學生都要接受倫理方面的培訓,並在考取證書後才能做跟人相關的實驗。

  李星煜介紹,學校有官方網站供研究者填寫研究倫理審查申請表,包括研究項目持續期、主要目的、包含哪些子項目等。IRB會派專門的經理與研究者對接,根據網申表格提出一些質疑,並要求把不符合倫理的地方作修改或刪除。知情同意寫有研究主導院係和IRB的舉報電話,如果受試者對研究不滿意,隨時可打電話舉報。

  李星煜舉例説,自己曾參與一項研究,調查什麼因素會影響學生對學習科學的興趣,發放測試學習熱情的問卷就需要先通過IRB審查;還有一些研究涉及“欺騙”受試者,比如一些實驗會有一半人吃安慰劑,這種時候就要寫清楚每一步怎麼跟受試者説話,最後怎麼來跟他們釋疑。

  “IRB要求保證受試者心滿意足地體驗實驗過程。因此我們設計實驗時,就很重視實驗開始前和開始後的溝通環節,要讓受試者理解我們具體要研究什麼,他們是為科學作貢獻,而不是被當成小白鼠。” 李星煜説。

來源:2021年7月14日出版的《環球》雜志 第14期

《環球》雜志授權使用,其他媒體如需轉載,請與本刊聯係

本期更多文章敬請關注《環球》雜志微博、微信客戶端:“環球雜志”

 

 請注意:



·遵守中華人民共和國有關法律、法規,尊重網上道德,承擔一切因您的行為而直接或間接引起的法律責任。
·新華網擁有管理筆名和留言的一切權利。
·您在新華網留言板發表的言論,新華網有權在網站內轉載或引用。
·新華網新聞留言板管理人員有權保留或刪除其管轄留言中的任意內容。
·如您對管理有意見請向留言板管理員反映。

發表評論: 用戶名 密碼 匿名

 查看評論
放大字體
縮小字體
打印本稿
查看評論
推薦給朋友:
  相關新聞:
新華網版權與免責聲明:

 
凡本網注明"稿件來源:新華網"的所有文字、圖片和音視頻稿件,版權均屬新華社和新華網所有,任何媒體、網站或個人未經本網協議授權不得轉載、鏈接、轉貼或以其他方式復制發表。已經本網協議授權的媒體、網站,在下載使用時必須注明"稿件來源:新華網",違者本網將依法追究責任。
本網未注明"稿件來源:新華網"的文/圖等稿件均為轉載稿,本網轉載出于傳遞更多信息之目的,並不意味著讚同其觀點或證實其內容的真實性。如其他媒體、網站或個人從本網下載使用,必須保留本網注明的"稿件來源",並自負版權等法律責任。如擅自篡改為"稿件來源:新華網",本網將依法追究責任。如對稿件內容有疑議,請及時與我們聯係。
如本網轉載稿涉及版權等問題,請作者在兩周內速來電或來函與新華網聯係。

訂閱本刊
本刊通用網址:環球雜志
  • 如果您對《環球》雜志的稿件有任何意見及建議請與我們聯係。
  • 編輯部電話:
    010-63077031
  • E-mail:
    globe1980@vip.sina.com
  • 社址:北京市京原路8號新華社第二工作區
  • 郵政編碼:100040
  • 對外合作:
    010-63077015
  • 傳真:010-63073516
  • 總 編 輯:馮瑛冰
  • 執行總編輯:卞卓丹
  • 《環球》雜志
    新華通訊社主管
    瞭望周刊社主辦
    環球雜志社編輯出版
    ·全彩半月刊
    ·出版日期:每月1日/16日
    ·國內統一刊號:CN11-1273/D
    ·郵發代號:2-511
    ·國外郵發代號:SM341
    ·國內訂閱:
    全國各地郵局均可訂閱 本刊隨時辦理郵購
    ·全年訂閱價:192.00元
    ·國內零售:
    全國各大中城市報刊攤點/地鐵/機場/書店等均有銷售
    ·零售價:8.00元
    ·國外總發行:
    中國國際圖書貿易總公司(北京399信箱)
    ·海外定價:US $6.00元 HK $25.00