近日，國家互聯網信息辦公室發布《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》（以下簡稱《徵求意見稿》），並向社會公開徵求意見。《徵求意見稿》提出，人工智能擬人化互動服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。

　　《徵求意見稿》界定，人工智能擬人化互動服務，是指利用人工智能技術提供模擬人類人格特徵、思維模式和溝通風格，通過文字、圖片、音頻、視頻等方式與人類進行情感互動的産品或者服務。人工智能擬人化互動服務提供者，是指利用人工智能技術提供擬人化互動服務的組織、個人。相關管理辦法適用範圍為向我國境內公眾提供的擬人化互動服務。

　　《徵求意見稿》明確了“健康發展和依法治理相結合”的原則，鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管，防止濫用失控。

　　在服務規範方面，《徵求意見稿》明確了八大禁止性活動，包括生成、傳播危害國家安全、損害國家榮譽和利益、破壞民族團結、開展非法宗教活動，或者散佈謠言擾亂經濟和社會秩序等內容；通過算法操縱、信息誤導、設置情感陷阱等方式，誘導用戶作出不合理決策；誘導、套取涉密敏感信息等。同時，要求服務提供者落實安全主體責任，建立健全算法機制機理審核、科技倫理審查、信息發布審核等管理制度，在擬人化互動服務全生命周期履行安全責任。

　　針對數據安全與用戶保護，《徵求意見稿》對訓練數據管理提出明確要求，強調使用符合社會主義核心價值觀的數據集，防範數據投毒、數據篡改等行為，保障數據合法可追溯等。在用戶權益保障上，要求服務提供者應當具備用戶狀態識別能力，對極端情緒、沉迷傾向用戶及時干預；針對未成年人、老年人等重點群體，設置未成年人模式、監護人同意機制、緊急&&人備案等特殊保護措施。此外，服務提供者應當預設回復模板，發現涉及威脅用戶生命健康和財産安全的高風險傾向的，及時輸出安撫和鼓勵尋求幫助等內容，並提供專業援助方式。服務提供者應當建立應急響應機制，發現用戶明確提出實施自殺、自殘等極端情境時，由人工接管對話，並及時採取措施聯絡用戶監護人、緊急&&人。

　　《徵求意見稿》強調，服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。服務提供者識別出用戶出現過度依賴、沉迷傾向時，或者在用戶初次使用、重新登錄時，應當以彈窗等方式動態提醒用戶交互內容為人工智能生成。用戶連續使用擬人化互動服務超過兩個小時的，服務提供者應當以彈窗等方式動態提醒用戶暫停使用服務。

　　《徵求意見稿》明確，服務提供者發現用戶存在重大安全隱患的，應當採取限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，並向有關主管部門報告。互聯網應用商店等應用程序分發平台應當落實上架審核日常管理、應急處置等安全管理責任，核驗提供擬人化互動服務應用程序的安全評估、備案等情況；對違反國家有關規定的，應當及時採取不予上架、警示、暫停服務或者下架等處置措施。（記者　蘇德悅）