新華網北京11月7日電（馬渭淞）隨着生成式AI等技術的突破性發展，人工智能已從單一場景應用邁向多領域通用階段，這種轉型在重塑生産生活方式的同時，也對技術應用與規範約束之間的平衡提出了更高要求。

  在2025年世界人工智能大會上，Soul App展示的“群聊派對”（Audio Partyroom）AI主持人演示引人矚目，其採用的端到端全雙工語音大語言模型經過升級，使AI主持人能夠無縫銜接群聊對話，從而消除了傳統語音交互中的遲滯感，讓參與者直接體驗到自然流暢的交流氛圍。

  在此當中，技術的飛躍式發展，正使AI倫理治理顯得尤為緊迫。面對如此高度自主、深諳人性的AI應用，如何在激勵創新的同時，前瞻性地構建倫理規範與風險防線，已成為關乎技術健康可持續發展的核心議題，亟待企業與社會凝聚共識、共同應對。

  聚焦 AI 社交賽道：以技術創新滿足用戶需求，以倫理意識護航發展之路

  “我們的願景是構建一個開放的社交網絡，讓用戶在 Soul 上享受健康、安全、信任、真實、溫暖且無壓力的社交環境。”Soul App首席技術官陶明在談及公司布局 AI 技術的初衷時明確&&。這一願景的背後，是&&對年輕人社交訴求的洞察，而 AI 技術則成為實現這一目標的重要支點。

  據了解，早在2016年上線後，Soul便積極布局人工智能技術，初期以傳統機器學習與深度學習為核心，着力優化人與人之間的連接效率，助力用戶更高效地找到志同道合的夥伴，並促進自我表達與有效傾聽。隨着社交網絡持續演進，用戶對社交體驗的需求日趨多元，單一推薦算法已難以全面滿足期待。因而在2019年前後，Soul洞察生成式AI的技術潛力，由此逐步啟動相關布局，旨在進一步推動社交體驗的升級與創新。

  “社交是多邊或雙邊關係，良好的社交體驗源於雙方出色的表達能力。” 陶明&&，Soul 在 AI 技術構建上，一方面致力於增強用戶的表達能力，促進人際社交關係，另一方面通過打造虛擬人、AI Agent生態，為不善於主動打開自己、表達自我的用戶，提供人機交互的社交新選擇。這種技術探索，不僅豐富了&&的社交場景，更讓 AI 逐漸成為推動社交體驗升級的核心力量，形成了從傳統 AI 輔助社交連接到生成式 AI 打造多元社交體驗的清晰發展路徑。

  然而，AI技術的迅猛發展雖賦予其深刻改變社會互動的能力，但若缺乏倫理約束，可能導致隱私侵犯、算法偏見等問題，侵蝕用戶信任與社會公險。因此，Soul 始終保持着對 AI 倫理治理的高度警惕。對此陶明強調：“AI 技術的使用與 AI 倫理治理、安全治理，這兩方面我們都要抓，且都要抓得住，只有這樣才能讓業務更好地發展。”他&&， 自開展社交業務以來，Soul 便確立了兩大安全底線 —— 用戶安全底線與內容安全底線，並圍繞這兩大底線，逐步構建起完善的社區行為規範與內容安全規範，這些規範成為&&治理社區、保障社交環境健康的重要準則。

  當進入 AI 社交發展階段，Soul 將過往在社區治理中積累的經驗，順利遷移到人機交互、人機社交場景中。“我們將原來的用戶行為規範和內容安全行為規範，直接移植到自身的 AI 模型上，無需採用傳統串聯式的安全過濾模式。在底層模型的數據治理層面，我們構建了健康綠色、符合站內行為規範的數據與場景數據機制，從根源上為人人、人機交互提供安全保障。” 陶明的這番言論，揭示了 Soul 將倫理治理融入技術底層的核心思路，也體現出&&在技術創新與倫理治理協同推進上的前瞻性。

  值得一提的是，Soul 推出的官方AI陪伴功能，在數據採集與隱私保護方面的實踐，也進一步印證了其對 AI 倫理治理的重視。陶明向記者&&，作為社交&&，Soul 始終積極推進符合用戶安全規範與隱私規範的流程制度體系建設，建立了嚴格的等保安全保護機制與高標準的安全評估審計流程。在模型訓練數據方面，Soul 主要採用&&公域合規數據與網上開源數據集，既保障了數據的合規性，又結合垂直社區數據特點與對社交場景的深入理解，通過技術創新與場景構建，讓 AI 虛擬人呈現出獨特的擬人化、情感化特徵，能夠為用戶帶來情緒價值與信息價值的雙重傳遞。

  築牢倫理治理屏障：多維度構建保障體系，長遠規劃引領行業發展

  隨着人工智能技術日益融入社交領域，AI社交體驗正不斷深化，隨之而來的用戶過度依賴、情感沉迷等倫理風險也逐漸顯現。在這一背景下，社交&&Soul依託長期積累的企業自律意識，逐步構建起一套系統化的倫理風險監測與干預機制，致力於在技術創新與用戶福祉之間尋求平衡。陶明認為“當行業處於發展初期，治理體系尚未完善時，企業自律至關重要。”這一理念貫穿於Soul從技術研發到産品設計的全流程，也成為其推進AI倫理治理的核心出發點。

  早在行業對數據隱私、安全保護等科技倫理問題涌現討論之前，Soul便從頂層設計入手，成立了專門的數據安全委員會和算法審核委員會，建立起覆蓋技術、數據及産品等多個環節的倫理審計機制。該機制將用戶規範與行為準則切實融入業務操作層面，不僅體現了&&對倫理風險的前瞻性布局，也反映出其將社會責任置於商業利益之上的經營哲學。陶明透露，&&還計劃與高校以及相關研究組織、部門建立緊密交流機制，積極推動行業共識的形成。

  針對用戶可能出現的情感依賴問題，Soul並未局限於被動應對，而是將其在“人人社交”場景中積累的治理經驗複製並優化至人機交互場景中。具體而言，&&通過打造多元社交場景有效降低了用戶的單一場景沉迷風險。除了情感交流功能外，Soul還設立了廣場、興趣社群等多種互動空間，引導用戶拓展社交維度，實現更加健康、均衡的社交體驗。與此同時，&&建立起實時的用戶體驗保障機制，能夠在監測到用戶出現過度依賴傾向時及時介入，通過主動引導幫助用戶調整使用行為。

  值得一提的是，Soul提出的“破壁”理念進一步體現了其推動虛擬與現實融合的治理思路。該&&通過技術手段使AI虛擬人能夠突破純虛擬的局限，例如獲得用戶授權後，當系統感知到用戶位於上海時，便可結合當地場景信息提供建議或話題，從而增強AI交互的現實關聯性。這一設計不僅提升了AI伴侶的情感交互能力，也有助於用戶平衡虛擬社交與現實生活，從根本上減輕對虛擬世界的依賴。

  在AI技術日益同質化的行業背景下，Soul通過對社交行為的深入理解形成了差異化的倫理治理競爭力。陶明認為：“短期來看，技術差異會帶來體驗差異；但長期來看，體驗差異的核心源於對社交認知的積累與對社交行為範式的理解。”正因為Soul長期深耕社交領域，其對用戶心理、社交規則具有更敏銳的洞察，能夠將倫理治理理念精準嵌入技術研發與産品設計中，使AI社交既保持創新活力，又不偏離安全底線。

  此外，針對此前行業普遍關注的“虛擬人背後是否存在真人”的爭議，Soul從技術透明化與用戶知情權保障兩個維度作出了明確回應。所有AI虛擬人均明確標注“虛擬人”身份，使用戶清晰知悉交互對象的屬性。此外，&&還通過參與行業論壇、開源部分模型等方式主動公開技術進展，以實力贏得用戶信任。

  “我們不刻意去澄清，而是積極與大眾溝通，用技術實力與公開透明的舉措，讓用戶逐漸認可Soul是AI驅動的&&。”陶明説道，在保護核心技術安全與保障用戶知情權之間，Soul始終以用戶利益為核心，在合規範圍內，最大限度地向社會披露關鍵信息。

  邁向協同共治新階段：技術與倫理並駕，綜合治理體系奠定可持續發展基石

  面向未來，Soul已制定清晰的AI倫理治理髮展路徑，旨在實現技術與倫理的同步演進，避免陷入“技術領先、倫理落後”的困境。首先，&&計劃將現有倫理標準與治理規範自動化，並引入紅藍對抗機制，構建能夠7×24小時持續迭代的自動化安全保障系統，從而改變傳統“模型發布時集中開展倫理治理”的滯後模式，實現對風險的動態防控。其次，Soul希望將自身治理經驗轉化為行業公共財富，積極參與跨&&倫理框架共建，從更廣泛的生態層面推動AI技術穩健發展。最後，該公司還將AI倫理治理視為一項文化工程，從企業價值觀層面強化全員對倫理治理的認同，確保每一項決策都經得起倫理考量。

  陶明向記者&&：“AI技術的迭代永無止境，Soul在AI倫理治理方面的探索也不會停歇。”在可預見的未來，Soul將繼續以用戶需求為核心、以技術創新為驅動、以倫理治理為保障，在AI社交領域持續探索，旨在為用戶構建更安全、更健康、更有溫度的社交環境，同時也為行業倫理治理體系的完善提供實踐範本。這一從自律到共治、從技術到文化、從防護到引導的綜合治理體系，不僅體現了企業的社會責任感，也為AI社交行業的可持續發展奠定了堅實基礎。