➤堅持人類主導的原則，尤其在涉及生命健康、重大財産和倫理敏感等領域

  文 | 魯曉 李瑞

銀河通用具身智能機器人 Galbot 通過雙臂協同用衣架挂衣服   受訪者供圖

  當機器不再只是工具，而是具備一定自主性、可與人類共同決策和創造價值的智能體，傳統的人機邊界趨於動態和模糊，相關倫理治理議題也逐漸進入公眾視野。尤其是在責任劃分、隱私保護和社會就業等問題上，具身智能的應用帶來了一系列需要關注與探討的新課題。

  構建系統化、前瞻性的倫理治理框架，有助於為人機協同發展提供清晰導向，也是增強社會信任與技術接受度的重要基礎。當前，科研界産業界需協同構建有效治理體系的中國方案，為推動具身智能規範發展提供理論支撐和實踐指導。

  具身智能引發倫理關切

  具身智能正推動生産關係從“人主機輔”向“人機共創”轉變，這對現有治理方式提出了新的調適需求，包括如何解決權責邊界模糊化導致的責任真空、敏感數據侵蝕隱私、就業替代一定程度衝擊勞動力市場等挑戰。

  一是大模型的“黑箱”特性使得決策過程不易完全解釋和預測。即使是系統設計者，也無法確保完全掌控系統的所有行為。這種技術特性與建立清晰法律責任體系的要求之間存在需要調試空間。例如在自動駕駛、醫療機器人、工業機器人等典型場景中，具身智能的發展對傳統責任認定機制提出優化要求。傳統的産品責任體系基於人為設計、機器執行的模式，責任主體相對明確，而具身智能系統的自主學習和決策能力使得這一體系面臨挑戰。

  為推進解決該問題，學界和業界提出了多種方案，包括建立AI保險制度、設立算法透明度要求、創建多方共擔責任機制等。例如在自動駕駛領域，我國道路交通安全法修訂和行業標準制定中，正在考慮細化製造商、軟體供應商、車輛所有者等多方主體的責任承擔方式。

  當前業界探索仍處於早期階段，如何在鼓勵技術創新的同時確保責任可追溯，是倫理治理的重要課題。

  二是具身智能系統高度依賴環境數據進行決策與適應，其中可能涉及個人敏感信息。現行的隱私保護法律法規主要針對傳統的數據收集和處理方式設計，對於具身智能等新型數據的規制能力較為有限。

  當前，全球範圍內已建立起相應的隱私保護框架並持續完善。我國個人信息保護法和歐盟人工智能法案均對數據處理活動設置了嚴格的合規要求，明確在機器人數據收集中須遵循知情同意原則。技術層面，隱私計算技術正逐步應用，力求在數據利用與隱私保護之間實現平衡。

  下一步，應深入探索清晰的數據權屬與使用規則，在保護個人隱私前提下充分發揮數據價值，平衡個人權益與技術發展需求。

  三是具身智能能夠滲透到更多體力與認知結合的勞動場景中，形成人力替代，這對部分傳統崗位形成一定壓力。同時，具身智能還將引發就業結構調整，形成新的人機協作模式。

  為應對就業結構轉型，多國政府與企業正通過職業培訓體系更新、崗位結構優化與終身學習機制建設，引導勞動力實現平穩過渡與技能升級。

  下一步應通過政策引導與技能提升，幫助勞動者適應人機協作的新工作模式。在促進技術快速迭代與應用的同時，確保勞動力市場的平穩過渡與勞動者的廣泛受益。

  形成治理體系的中國方案

  科研界産業界應緊密合作，結合分級治理、制度創新與國際合作的思路，堅持以人為本的價值理念，力求在推動技術進步的同時兼顧公共利益，形成倫理治理體系的中國方案。

  分級授權，建立精細化的權限管理機制。

  針對具身智能系統決策權力分散化特點，可考慮建立分級授權的治理模式。應堅持人類主導的原則，尤其在涉及生命健康、重大財産和倫理敏感等領域。分級授權機制的實施需要根據應用場景的重要性、決策後果的嚴重性以及技術成熟度等，對智能系統的自主決策權限進行界定。

  建議制定風險等級評估標準，根據決策可能産生的後果嚴重程度將智能系統的決策行為分為不同等級，低風險決策可以交由系統自主完成，中等風險決策需要人類監督確認，高風險決策則必須由人類主導。

  同時，可引入技術成熟度評估標準，根據特定領域AI技術的可靠性和準確性確定授權程度，在技術相對成熟、錯誤率較低的領域，可以給予系統更大自主權，在技術還不夠成熟、存在較多不確定性的領域，則應當限制系統的決策權限。適時調整各級權限的界定標準和授權範圍。

  以社會實驗方式形成漸進式的制度創新路徑。

  具身智能治理具有複雜性和不確定性，需要採取社會實驗的方式來探索有效治理模式，漸進式的試驗方式能夠更好地識別和解決實際問題，降低政策失誤風險，提高治理方案的可操作性。例如在應對就業替代問題上，可選擇多個城市開展社會實驗試點，推行人機協作職業認證體系，平衡技術與人文關懷，構建可持續發展的産業生態。

  在社會實驗中，首先，明確關鍵問題，包括定義人機協作崗位的職能邊界，確定人類工作者與智能系統各自的職責範圍；建立相應的技能培訓和認證標準；設計激勵機制，鼓勵企業和個人參與人機協作模式。其次，力求在不同類型的城市中驗證治理方案的適應性。再者，建立多方參與的協調機制。政府部門負責政策設計和監督執行，企業承擔技術研發和應用推廣，學術機構提供理論支撐和效果評估，社會組織代表公共利益參與決策過程。這種多元共治的模式有助於提高政策的可接受性。

  積極牽頭、參與國際標準制定，引領全球治理規範。

  作為具身智能技術的重要貢獻國家，中國應積極推動將隱私計算、倫理約束等治理理念納入國際標準化組織（ISO）的相關標準。

  在隱私計算方面，提倡基於技術手段保護個人隱私的創新方案。通過密碼學技術實現在不暴露原始數據的前提下進行數據分析和模型訓練。在倫理約束方面，倡導建立具身智能全球倫理約束框架，包括公平正義原則，防止具身智能系統産生或加劇社會不公；透明可解釋原則，要求具身智能系統的決策過程具有一定的可解釋性；責任可追溯原則，建立明確的責任分配機制。□ （魯曉：中國科學院科技戰略諮詢研究院副院長、研究員；李瑞：中國科學院科技戰略諮詢研究院助理研究員）