新華社北京1月13日電　熱點問答｜聊天機器人“格羅克”為何在多國被查

  新華社記者張瑩

  近來，美國企業家埃隆·馬斯克旗下人工智能聊天機器人“格羅克”被指生成色情內容，引發廣泛譴責。這一事件去年年末以來持續發酵，多國政府已啟動相關調查。隨着大模型迅猛發展，利用人工智能生成深度偽造內容並在網上傳播的案例時有發生，凸顯了人工智能技術的倫理風險。

  各國如何反應

  “格羅克”由馬斯克旗下人工智能企業xAI公司開發，並內置於馬斯克旗下社交媒體平台X。近期，X平台一些用戶利用“格羅克”的圖片編輯功能生成真實人物的虛假性暴露內容，並在平台上散播，受害者包括成年女性和未成年人。“格羅克”涉嫌生成色情內容的問題已受到英國、法國、印度、巴西、澳大利亞等國和歐盟方面的強烈譴責，一些國家的監管機構已介入調查。

  多名法國政府部長和國民議會議員本月2日向法國司法部門報案。巴黎檢方隨後&&，將對“格羅克”涉嫌生成色情內容啟動調查。

  印度信息技術部2日要求X平台刪除色情內容、打擊違規用戶，並在72小時內提交“整改報告”，否則將面臨法律制裁。

  歐盟委員會負責數字經濟事務的發言人托馬斯·雷尼耶5日説，正嚴肅調查針對“格羅克”的相關投訴，歐盟委員會要求X平台提供更多信息。

  印度尼西亞和馬來西亞的監管機構分別於10日和11日宣布對本國用戶訪問“格羅克”進行臨時限制。印尼通信和數字事務部長默蒂婭·哈菲茲在一份聲明中&&，此舉對於保護公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，並要求X平台就“格羅克”所引發的負面影響盡快作出説明。馬來西亞通信和多媒體委員會&&，對“格羅克”的訪問限制將持續生效，直至相關企業落實有效防護機制。

  英國通信管理局12日&&，已根據英國《在線安全法》對X平台展開正式調查，以判定該平台是否履行了保護英國民眾免受非法內容侵害的職責，不排除“在最嚴重情況下”屏蔽X平台的可能。

  圖像生成有何問題

  “格羅克”的圖像生成問題實際上從Grok Imagine發布後就浮出水面。2025年8月推出的人工智能圖像生成器Grok Imagine是“格羅克”的功能模塊，允許用戶通過輸入文本提示來創建圖片和視頻。它包含一個所謂“熱辣模式”，可生成成人內容。

  美聯社報道説，這一問題之所以愈加嚴重，一方面因為馬斯克標榜旗下聊天機器人是比設置更多安全措施的競爭對手産品“更前衛”的選擇；另一方面，“格羅克”生成圖像公開可見，很容易散播。

  人工智能取證組織近日發布報告顯示，研究人員收集和分析了“格羅克”在2025年12月25日至2026年1月1日期間以深度偽造方式生成的2萬張圖像。結果發現，所有包含人物的生成圖像中，有55%的圖像中有人物穿着暴露，這些着裝暴露的人有81%是女性；有2%的生成圖像為年齡不足18歲的人物，其中一些圖像包含衣着暴露的年輕女性（或女孩）形象。

  據多家媒體報道，面對多方壓力，截至上周末，“格羅克”在X平台上的圖像生成和編輯功能已被更改為僅向平台付費用戶開放，但在“格羅克”應用程序和官網上仍可免費使用該功能。英國政府對此&&，這一整改措施只是“將允許創建非法圖像的人工智能功能變成一項高級服務”，對受害者來説是“侮辱性的”。

  治理深度偽造難在哪

  此次事件並非偶然。近年來，隨着大模型呈快速發展態勢，利用人工智能技術換臉換聲、生成深度偽造內容並在網上傳播的案例時有發生。儘管人工智能倫理風險日益凸顯，人工智能監管法規在許多國家仍不完善。

  清華大學人工智能國際治理研究院副院長梁正接受新華社記者採訪時説，人工智能深度偽造治理涉及模型算法安全性評估、對利用人工智能工具生成有害內容行為的管理、對人工智能生成內容進行標識等多方面，很難依靠&&一部法律進行全面治理，而是需要建立“全鏈條式”治理體系。在這類事件中，內容生成和分發平台對內容檢測甄別負有主體責任。與此同時，還應通過教育等方式提升公眾的人工智能倫理素養，確保相關工具使用得當。

  許多國家正積極推動相關法規建設。波蘭眾議院議長沃齊米日·恰扎斯蒂6日&&，希望借此次“格羅克”事件推動國家數字安全立法，相關法規旨在加強未成年人保護，並使執法部門更易於刪除有害內容。

  英國科學、創新和技術大臣莉茲·肯德爾12日宣布，英國《數據法案》相關條款將於本週生效，未經同意製作或尋求製作私密圖像將被認定為刑事犯罪，在X平台上發布此類內容將構成刑事犯罪。

  馬來西亞通信部副部長張念群近日&&，全球正圍繞人工智能展開激烈競爭，但若一味追求速度與利潤，而忽視倫理規範與社會責任，其後果將不堪設想。“格羅克”在短時間內大量生成不雅影像，且速度遠超傳統影像處理方式，凸顯出人工智能在缺乏倫理約束情況下被濫用的現實風險。