近日,有媒體報道一些不法分子通過AI技術生成幾百到上千字的文本,再配上貌似和此文本具有相關性的虛假圖片,從而形成一段看起來信息量很大,但實際上子虛烏有的謠言,嚴重擾亂社會秩序。
“AI謠言”有何特點?其一,成本更低。僅僅動動手指鍵入“關鍵詞”,便可瞬間生成內容獵奇、形式新穎、傳播較廣的虛假新聞。如,被媒體曝光的某MCN機構在最高峰一天能生成4000至7000條謠言。其二,收益更高。有的網絡&&會向流量高的內容和用戶支付報酬,這在某種程度上會刺激一些不法分子利用AI技術批量生産謠言。上述MCN機構最高的一條謠言收入有700元,初步估算其每天的收入在1萬元以上。其三,更具迷惑性。AI技術生成的文本兼具新聞風格,生成的圖片更是精美和高清,顛覆了“有圖有真相”的常規認知,不免讓人萌生“真假難辨”之感。
作為一種新型謠言傳播趨勢與犯罪手段,AI謠言的危害亦不容小覷。比如,有報告顯示,近兩年AI謠言中,涉經濟與企業類謠言佔比最高,達到43.71%。而近一年來,上述AI謠言的增速更是高達99.91%。長此以往,企業和企業家的形象聲譽勢必將被嚴重扭曲,民營經濟的發展環境也會遭受重創。再比如,涉及公共秩序、食品安全、民生領域等方面的AI謠言,極易引起公眾恐慌,引發社會信任危機。
技術是中性的,但一切技術的使用過程都承載着人們的價值觀。AI技術被應用於批量生産謠言,受苛責的不應該是技術本身,而應是背後的“黑手”,即那些受“流量經濟”刺激的別有用心者。去年12月以來,全國公安機關累計排查網絡謠言線索8萬餘條,偵辦網絡謠言類案件1萬餘起,抓獲犯罪嫌疑人1500余名,行政處罰10700餘人,開展公開闢謠等4200余次。2024年是打擊整治網絡謠言專項行動年,以雷霆手段整治那些既無法律觀念也無道德底線的不法分子,正逢其時,至關重要。
阻擊謠言註定是一項複雜的工作,需要各方攜手合作、形成合力。一方面,&&在刺激創作的同時,也應盡到消除虛假信息傳播的責任,通過更嚴格的信息過濾、賬號處理等,讓流量生意無利可圖。另一方面,相關治理手段也要迭代更新,通過利用技術識別偽造內容,讓識別謠言的精準度更高、阻擊速度更快、打擊力度更強,斬斷造謠背後的黑灰産業鏈。此外,廣大網民也要嚴格遵守相關法律法規,自覺規範個人網上言行,不斷提升識別防範抵制網絡謠言能力。(靜 子)