文 | 陳澤偉

　　近日，AI（人工智能）與網絡亂象挂上了鉤，屢屢成為網絡熱點。

　　例如，“造謠公司用AI一天寫謠言7000篇”的話題熱度很高。據警方調查，這家MCN機構通過具有語音交互功能的AI軟體生成虛假文章，再上傳到多個網絡&&，最高峰一天能生成4000至7000篇。其炮製的謠言，模仿新聞風格，包含了時間、地點等關鍵信息，還配發了所謂的現場圖片，極具迷惑性。據該機構實際控制人供述，生成這些文章，主要是想讓自己運營的賬號關注點讚量更高，從中賺取流量。經初步估算，其每天的收入在1萬元以上。

　　再例如，“男子用AI偽造學生同事近7000張裸照”的話題，也衝上了熱搜。犯罪嫌疑人白某某，原本是一家互聯網公司的技術員，他用AI“一鍵去衣”技術偽造淫穢圖片，每張1.5元賣出。圖片涉及眾多女性，包括學生、教師等。目前白某某已被提起公訴。

　　近兩年，AI加速滲入日常生活、賦能各行各業，成為引領科技革命和産業變革的重要驅動力量。但AI作為一種新技術所帶來的不確定性，也給道德倫理、社會治理等帶來新的挑戰。

　　上述案例中已經出現的種種苗頭，應當引起我們的警惕。

　　一般邏輯認為，技術本身是中性的，它的好壞取決於使用者的意圖和行為。但對於AI的飛速發展，我們仍需高度關注其本身可能帶來的聞所未聞、出乎意料的各類新風險。如何保證AI在安全的籠子裏“為我所用”，這對我們是一個持久的挑戰。□