2021世界機器人大會上展示的腦機接口技術（2021年9月12日攝） 李欣攝 / 本刊

➤身體各部分器官是為整體健康服務的，手術只是一種手段。通常情況下，對患者實施手術需遵循不傷害、有利、公正、尊重等基本醫學倫理原則

➤人體的數字化改造是相對特殊的場景，尚處於探索階段。特別是在思維表達、情感輸出等方面，技術難度遠比我們想象的更大

➤評估風險需要在人機融合的全過程引入倫理委員會審查機制

文 |《瞭望》新聞周刊記者 於雪 賈雯靜

　　與漸凍症抗爭近5年後，6月15日，全球首位真正意義上的“半機械人”（又稱賽博格，是人類與電子機械的融合體）——彼得·斯科特·摩根的生命定格在64歲。

　　2017年11月，彼得被確診為肌萎縮側索硬化症（ALS），俗稱漸凍症。漸凍症被世衛組織列為五大絕症之一，發病率不高，但尚無法治愈。隨着運動神經退化，患者行走、説話、吞咽、呼吸等功能會慢慢喪失，多數患者在症狀首次出現後的三到五年內死於呼吸衰竭。

　　作為全球機器人研究領域小有名氣的科學家，彼得決定用現有科技改造自己——把自身器官部分替換為機械。在他看來，只要還能活着，還有自由思考的能力，生命就有存在的意義。

　　彼得的離去並非結束，不少人相信他為人類開啟了一段全新旅程。多位受訪專家認為，這是一場圍繞人類生存質量展開的科技探索，是技術為人服務的前沿試驗。

　　而當人機融合的觸角深入生命本身，人們想要知道：未來該如何定義人類被“困”在身體裏的意義？人類的進化發展是否還有新的可能？如何理性認識生命的複雜性？

　　“史無前例”的醫學嘗試

　　據了解，為維持生命正常運轉，用現有科技改造彼得的第一步，是在各類併發癥出現前進行“三重造口術”，即胃造口術、膀胱造口術、結腸造口術，以滿足可能漸漸喪失的進食、排泄需求。

　　四川省腦科學與類腦智能研究院院長、電子科技大學信息醫學研究中心主任堯德中告訴《瞭望》新聞周刊記者，醫學上，造口技術發展相對較為成熟，三項手術本身難度並不大。挑戰在於把以往單獨進行的手術結合，目前世界範圍尚沒有患者同時進行過這三項手術。

　　彼得“史無前例”的手術面臨眾多爭議，最核心的問題是能否對未受傷的器官進行破壞性手術。

　　北京大學醫學部醫學倫理與法律學系副主任劉瑞爽&&，身體各部分器官是為人的整體健康服務的，手術只是一種手段。通常情況下，對患者實施手術需遵循不傷害、有利、公正、尊重等基本醫學倫理原則。

　　受訪專家提醒，不傷害原則需要明確損傷和傷害的關係。在醫學實踐中，損傷客觀存在，比如大多數手術都會對皮膚造成損傷。不傷害，主要指在醫學服務中不使患者受到不應有的傷害。

　　有利原則的核心是權衡手術的風險收益比。如果手術收益大於風險，醫生即有義務幫助患者。

　　公正原則是指醫生要公平對待每一位患者。在稀缺醫療資源的分配上，需要以每個人的實際需要等為依據，合理分配醫療資源。

　　尊重原則則要充分尊重患者和試驗對象的自主權。這意味着，是否接受某個治療方案，是否參與某個醫學試驗，應該完全由患者或試驗對象自己決定，醫生不能代替做出任何判斷。

　　劉瑞爽説：“醫學實踐需要根據臨床情況具體分析，滿足四條原則即可進行相關手術治療。即便不能同時滿足，哪怕其中一項能夠得到充分倫理辯護，也是可行的。”

　　公開資料顯示，多位醫生起初均未同意對彼得實施手術。受訪專家推測，醫生們的出發點可能主要基於不傷害原則——他們一方面擔心全身麻醉會阻礙呼吸，另一方面擔心手術可能導致疾病發展更快。而最終為彼得實施手術的醫生主要遵循的是有利原則、尊重原則。

　　在劉瑞爽看來，如果不進行手術，彼得只能慢慢“等死”，生活質量也會嚴重下降，對他來説可能更加痛苦。更重要的是，作為科學家的彼得，思想觀念較為超前、開放，對於器官改造後的利弊較為清楚，醫生這樣做既尊重了彼得的意願，也維護了患者的生命尊嚴。

　　彼得的“三重造口術”歷經3小時40分鐘。關於該手術的醫學論文，被選為2019年牛津年度醫學病例報告，其前瞻性和重要性可見一斑。

　　多位受訪專家&&，彼得的手術是一個很好的嘗試。未來在沒有其他方法可選的情況下，針對漸凍症患者的“三重造口術”可能走向規範。

　　人體數字化改造技術任重道遠

　　完成身體基礎性改造後，彼得決定用智能機器解決行動、溝通等問題。

　　為保持活動能力，科學家團隊為他定制了一個高端輪椅，配備電腦顯示屏，能夠通過眼球追蹤技術控制電腦，進而控制輪椅，幫助他站立、平躺、走動。

　　為能夠與外界溝通，彼得在尚能説話時，依靠技術團隊，留下了大量語言、形象素材，並創建了自己的3D形象，可通過眼球控制電腦，以3D頭像與外界互動。

　　2019年10月，彼得進行了最後一項手術——全喉切除，以避免因無法自主控制喉嚨的運動，導致唾液進入肺部威脅生命。而這個月，原本是醫生估計的彼得死亡時間。

　　術後，彼得徹底失去了聲音，但可以通過存儲在電腦中的合成聲音表達思想。於是，一個依靠大腦、眼睛、人工智能和各種電子設備與命運抗爭的“彼得2.0”誕生。依靠科技加持，彼得成為人類歷史上第一個“半機械人”。

　　不過，現實版的“半機械人”與影視作品中科幻人物的無所不能存在較大差別。據媒體報道，彼得在改造後經歷了常人難以想象的痛苦。比如，智能裝備並不能完全領會他的意圖，説一句話都要花費很長時間等。

　　清華大學人工智能國際治理研究院副院長梁正稱，這些細節表明，相關智能技術在應用層面仍存在瓶頸。

　　堯德中説，彼得的身體機能是不斷退化的，而技術學習和更新的速度遠遠跟不上身體的變化。對漸凍症患者而言，如何利用僅存的身體機能向機器傳達正確信號，是決定技術能否很好為其服務的關鍵。而對技術本身的發展來説，能否持續跟蹤身體退化的進程並同步做出相應的調整和改變、能否找到技術適應變化的規律等，仍需摸索。

　　梁正介紹，當下語音合成、虛擬化身等技術在娛樂和生活服務方面應用場景較多，比如智能客服、虛擬偶像等，相關技術已逐漸成熟，但人體的數字化改造是相對特殊的場景，尚處於探索階段。特別是在思維表達、情感輸出等方面，技術難度遠比我們想象的更大。

　　以腦機接口為例，堯德中&&，未來該技術或將在治療腦損傷領域發揮重要作用，包括嚴重的抑鬱症、病態的肥胖、睡眠質量低等問題，但這一技術預想很好，實踐難度較大。因為大腦信號不斷變化，採集信號存在難度。即便能準確提取信號，由於目前掌握的數據太少，想要準確理解信號的含義也很困難，國際上的成功案例並不多。

　　受訪專家建議，人工智能技術的發展主要依靠學習。未來可考慮增加樣本量，鼓勵更多專家、患者甚至健全人參與進來，跟蹤、學習人類身體運動與生理的變化規律。當學習樣本足夠充足、技術性能較為穩定時，技術就可能為改善患者生存狀態等提供更多機會。

　　人機如何深度融合

　　作為“機器化人”的現實例證，彼得的自我改造為人機深度融合提供了更多想象空間。

　　浙江大學馬克思主義學院教授潘恩榮説，18世紀60年代以來，現代機器的發明和使用開啟了多次“機器換人”的高潮。

　　據了解，在“機器換人”時代，隨着自動化、信息化、數字化技術的發展，部分人力被替代，在一定程度上造成人機關係的對立。但機器在替代部分傳統崗位的同時也催生出很多新職業，如自動化培訓師、數字化管理師、互聯網營銷師等。“人機是互補關係而非替代關係，並將逐步走向深度合作。”梁正説。

　　特別是隨着深度學習技術推動人工智能進入新階段，其再次深度改造人機關係，讓“機器化人”逐漸成為可能。

　　潘恩榮&&，如果説傳統的“機器換人”是機器介入人與人之間，那麼“機器化人”則是機器介入人類生命本身，構成的“後人類”——賽博格。

　　在劉瑞爽看來，“機器化人”時代，人類的思維或許可以永遠延續，在雲端實現永生。

　　美國特斯拉公司首席執行官埃隆·馬斯剋日前&&，他已將“大腦”上傳至雲端，並與其展開對話。對此，受訪專家提出，所謂的“意識上傳”只是噱頭，技術上仍存在諸多局限。

　　與雲端的“大腦”對話需依賴眾多技術，機器學習是其中的關鍵。梁正介紹，與目前主要基於深度神經網絡和大規模數據訓練的機器學習不同，下一步面向人機互動乃至“融合”的技術路線主要有兩種：一種是模擬人類的學習方式學習，但因為目前尚不能準確還原人類的學習過程，對其中的因果關係尚不清楚，所以機器學習的深度和精度都有局限；另一種則試圖建立一個窮盡人類所有知識的知識庫，並將該知識庫注入機器，但由於數據量過於巨大，如何順暢調用各類數據也存在難度。

　　顯然，相較於一些人的美好願景，以機器學習為代表的人工智能技術的成熟度還遠遠不夠。“打個比方，現在還處於細胞階段，距離複雜的生命還很遙遠。不是説完全沒有可能性，只是路還很長。”梁正説。

　　總體來説，人機融合尚處於外圍領域，比如為運動功能喪失的患者換上假肢等。對於更深層次的人機融合，全球鮮有成功案例。

　　在堯德中看來：“除技術成熟度不夠外，更關鍵的是，人機融合尚未形成共識。例如機器會否取代人類、可以在哪些方面取代人類，機器會否擁有自己的意識、是否允許它擁有意識等。”

　　“和諧的人機關係始終不能脫離人的尊嚴，要以人的自由意志為核心。如果脫離了服務於人的根本準則，技術將很危險。”劉瑞爽説。

　　怎樣劃定人機融合的邊界

　　彼得的生命已經終止，但其留下的關於人機融合的邊界等討論仍在繼續。

　　科技是一把雙刃劍。在新一輪科技革命助力傳統産業轉型升級、驅動智能經濟快速發展等的同時，當人機融合的觸角深入人類生命，也可能引發一些社會風險。

　　受訪專家談到，相關技術一旦落地，在使用中可能伴隨不公平現象，比如是否所有人都有機會平等享受數字化改造的資源，以及改造後的人類在某些領域可能具有天然優勢，更易造成兩極分化等。因此，人機融合的相關制度規範必須走在技術發展的前面，為社會治理保駕護航。

　　梁正建議，明確人機融合邊界首先需要明確使用目的。當人機融合用於疾病治療、提高個體生活質量時，通常滿足四項基本醫學倫理原則即可。

　　堯德中&&認同：“對一些罕見病群體，技術可能是他們獲得新生的唯一渠道，要為他們敞開這扇大門。”

　　而當人機融合用於增強身體功能時，專家提出設置更多紅線，根據使用場景具體分析，並遵循風險可知可控的原則，即對風險可控的增強技術可以適當放開，對風險不可預估或難以控制的則要嚴格限制。

　　梁正舉例説，體育競賽領域顯然不能對人體進行增強改造，否則將與體育的公平宗旨背道而馳。在教育領域，提高智力的增強技術可能造成不公，未來風險也難以估計，因此需要對類似場景的使用加以限制。如果技術可以幫助人類擺脫學習中的重復性操作，這一類型的人機融合應用或許可行，但如何準確、科學地劃定邊界，必須嚴格論證。

　　劉瑞爽、梁正等&&，評估風險需要在人機融合的全過程引入倫理委員會審查機制，倫理委員會一般組成人員包括醫學家、倫理學家、社會學家、法律專家及社區人員和普通百姓等。對於涉及重大社會利益的典型案例，甚至需要法庭介入並通過相關行政機關審批。

　　不可否認，機器相較於人更加理性、效率更高、工作時間更長、應用場景更廣，但也正是人類的不完美帶給生命更豐富的體驗，也給文明的進步帶來更多可能。很多時候，正是因為人類不能決定生命的長度，才得以努力提升生命的廣度、深度和高度。

　　從這個意義上説，我們需要的或許不是一個理想的“超人”，而是一個獨特自由的自己。□