AI生成虚假判例警示了什么

  AI无中生有，律师竟也“中招”。北京市通州区人民法院近日披露的一起案件，让人啼笑皆非：原告代理人在书面代理意见中援引了两份裁判文书。经核查，这两起所谓的司法案例实为AI杜撰生成。据记者了解，该代理人是一名职业律师。

  这可不是个例。用过生成式AI的人，多少都领教过它那套功力：尽管回答往往条理清晰、论证充分，但有时也会“一本正经地胡说八道”，以真假难辨的细节让人信以为真。比如，AI推荐的书，书名动人却根本买不到；撰写文献综述，引用的观点纯属虚构；就连给个链接，都可能指向“查无此页”……这些现象都可以归为AI幻觉。在本案中，原告代理人作为法律专业人士，不仅未能识破AI精心编织的虚假判例，反将其呈送法庭，也足以说明其迷惑性之强。

  司法活动的核心，是“以事实为依据，以法律为准绳”。这里的“事实”，既包括案件事实，也包括作为先例的裁判事实。当AI凭借强大的自然语言处理能力，凭空捏造出逻辑自洽、格式规范的“判例”时，它污染的正是裁判事实的源头活水，影响的是司法秩序和司法公信力。

  所幸此案承办法官有一双“火眼金睛”，但这起AI生成虚假判例暴露出的现实威胁，仍不容低估。以上种种也在提醒，防范AI幻觉，必要且紧迫。

  以制度划定边界。针对AI幻觉，许多地方都试图通过制定规则来破解。比如，在美国、澳大利亚、英国等国家，若不当使用AI工具、编造虚假判例，后果往往极其严重，被罚款者有之，被解雇者亦有之。同理类推，医疗、法律、金融等行业容错率低，对专业性要求极高。AI进入这些行业，相关部门也应当设立标准，加快完善评价体系和监管机制。

  以技术驱散迷雾。研究表明，AI“养成”过程中，数据“投喂”是关键环节，可靠、可信、高质量的数据对降低AI幻觉十分关键。有鉴于此，各大厂商也应优化人工智能的训练语料，用好数据生成优质内容；同时探索建立具有权威性的数据共享平台。

  以人文驾驭未来。古人言：“君子生非异也，善假于物也”。AI的正确打开方式，应当是启发灵感而非代替思考。从使用者的角度看，我们要始终保持独立思考的能力，谨慎对待AI生成的内容，将决策权牢牢掌握在自己手中。 （付迎红）

责任编辑: 王嘉兴