確保未成年人遠離“擦邊”AI智能體

　　近期，上海網信部門依法約談築夢島App運營企業主要負責人，要求&&立即整改，健全人工智能（AI）生成合成內容審核機制，提升技術把關能力，加強涉未成年人不良內容的整治清理，切實落實未成年人網絡保護義務。企業負責人&&，將按照約談要求，對照問題舉一反三、全面整改。

　　當前，在特定環境中能夠自主感知、思考、行動的AI智能體（AI Agent）正在加速進入企業和個人應用場景。其中，直擊人們情感需求的“AI伴侶”智能體産品以即時陪伴、擬人應答、場景化預設等為賣點，一度備受熱捧。

　　然而，AI智能體在走進人們生活的同時，涉黃、不雅、“擦邊”等涉未成年人保護問題頻頻亮起紅燈。

　　有相關&&的用戶坦言，只要不斷訓練、引導，就能打造一個願意“擦邊”的虛擬戀人。其原理，一方面在於用戶可以自行選擇AI扮演的虛擬角色和故事演繹：由於這些智能體能夠做到“短暫記憶”，用戶可以獲得沉浸式親密體驗，訓練出專屬“伴侶”。另一方面來自&&的“擦邊營銷策略”：一些智能體依賴身材誇張的二次元形象、具有挑逗性的回應等曖昧設定吸引用戶，逐步使用戶沉溺其中。

　　對於身心尚未發育完全的未成年人，沉溺AI“擦邊”和涉黃內容，可能會增強現實中的模仿行為。過度沉迷AI智能體提供的所謂“情緒價值”，還可能導致未成年人社交疏離，減少真實人際互動，加劇孤獨感，甚至模糊現實與虛擬的邊界。其中危害不言而喻。

　　未成年人保護無小事。由於人機聊天內容本身具有私域化特徵，當中出現涉黃、“擦邊”內容具有隱蔽性。主打“AI伴侶”的&&作為第一責任方，應切實擔起保護未成年人的責任，尤其需守好“三關”。

　　首先，是法律倫理關。當前主流AI大模型雖設置了內容過濾機制，攔截違法內容，但也有不法分子利用部分開源模型，調整提示詞，繞過關鍵詞屏蔽，誘導模型生成“擦邊”內容。&&應進一步健全內容審核機制，切勿為了短期商業利益，以增強所謂用戶體驗和黏性為目的，以“擦邊”為賣點，利用人性“軟肋”，突破法律倫理底線。

　　其次，是技術保護關。應進一步加強對涉“AI伴侶”&&未成年人保護技術體系建設。例如，做到“身份證+人臉識別”等多因子安全認證，啟用未成年人保護模式。同時，完善防沉迷系統，對大額充值、頻繁充值等異常行為人員建立回訪機制，對充值者進行二次身份確認。

　　第三，是行業發展關。當前，越來越多的行業都在更加關注AI智能體在産業上的應用。賽道的拓展，要與産業發展更貼近。在同具體應用場景的結合中，AI智能體要從用戶指令的被動執行者，變為主動幫助用戶提升工作效率的助手。通過AI智能體的幫助，使人們從重復性、事務性的工作中解脫出來，專注於更具創造性的工作，增強産業發展的核心競爭力。

（新華每日電訊評論員吳振東 蘭天鳴）