AI無中生有，律師竟也“中招”。北京市通州區人民法院近日披露的一起案件，讓人啼笑皆非：原告代理人在書面代理意見中援引了兩份裁判文書。經核查，這兩起所謂的司法案例實為AI杜撰生成。據記者了解，該代理人是一名職業律師。

  這可不是個例。用過生成式AI的人，多少都領教過它那套功力：儘管回答往往條理清晰、論證充分，但有時也會“一本正經地胡説八道”，以真假難辨的細節讓人信以為真。比如，AI推薦的書，書名動人卻根本買不到；撰寫文獻綜述，引用的觀點純屬虛構；就連給個鏈結，都可能指向“查無此頁”……這些現象都可以歸為AI幻覺。在本案中，原告代理人作為法律專業人士，不僅未能識破AI精心編織的虛假判例，反將其呈送法庭，也足以説明其迷惑性之強。

  司法活動的核心，是“以事實為依據，以法律為準繩”。這裡的“事實”，既包括案件事實，也包括作為先例的裁判事實。當AI憑藉強大的自然語言處理能力，憑空捏造出邏輯自洽、格式規範的“判例”時，它污染的正是裁判事實的源頭活水，影響的是司法秩序和司法公信力。

  所幸此案承辦法官有一雙“火眼金睛”，但這起AI生成虛假判例暴露出的現實威脅，仍不容低估。以上種種也在提醒，防範AI幻覺，必要且緊迫。

  以制度劃定邊界。針對AI幻覺，許多地方都試圖通過制定規則來破解。比如，在美國、澳大利亞、英國等國家，若不當使用AI工具、編造虛假判例，後果往往極其嚴重，被罰款者有之，被解雇者亦有之。同理類推，醫療、法律、金融等行業容錯率低，對專業性要求極高。AI進入這些行業，相關部門也應當設立標準，加快完善評價體系和監管機制。

  以技術驅散迷霧。研究表明，AI“養成”過程中，數據“投喂”是關鍵環節，可靠、可信、高質量的數據對降低AI幻覺十分關鍵。有鋻於此，各大廠商也應優化人工智能的訓練語料，用好數據生成優質內容；同時探索建立具有權威性的數據共享&&。

  以人文駕馭未來。古人言：“君子生非異也，善假於物也”。AI的正確打開方式，應當是 啟發靈感而非代替思考。從使用者的角度看，我們要始終保持獨立思考的能力，謹慎對待AI生成的內容，將決策權牢牢掌握在自己手中。 （付迎紅）