警惕！AI 生成虚假参考案例被法院点名，法律人用 AI 必须守住这条线！

2025-11-20 11:16:14

来源：正圭大道

近日，某法院在裁判文书中专门指出一起值得警惕的事件：原告代理人在庭后提交的参考案例中，混入了人工智能语言模型（AI）生成的内容，部分所谓 “参考案例” 与对应案号的真实案件情况完全不符。法院对此作出严肃批评，明确要求代理人 “引以为戒，提交材料时必须严格检查核验，确保内容真实准确，不得放任 AI 生成或编造虚假信息扰乱司法秩序”。

这起看似个案的事件，实则撕开了 AI 技术与法律实践碰撞的一道裂口。随着 ChatGPT、文心一言等生成式 AI 的普及，越来越多法律从业者开始借助 AI 撰写文书、检索案例、梳理法条，但 “AI 伪案例” 闯入庭审的现象，恰恰暴露了技术应用背后的法律风险与行业痛点 —— 当 AI 的 “高效生成” 遇上司法的 “真实至上”，冲突如何化解？法律人又该如何把握 AI 使用的边界？

AI 与法律实践的核心冲突：真实性底线不可破

生成内容的 “虚构性风险”

生成式 AI 的工作逻辑是基于海量数据进行算法推演，而非对真实信息的精准复刻。当用户要求 AI 生成 “某类案件的参考案例” 时，AI 可能在缺乏真实数据源支撑的情况下，“编造” 看似逻辑通顺、格式规范的案例文本，甚至虚构案号、当事人信息、裁判理由 —— 这些 “伪案例” 一旦被提交至法院，不仅会干扰法官对案件的判断，还可能因 “提供虚假材料” 触犯法律规定。

2. 法律从业者的 “审核义务”

根据《律师法》《民事诉讼法》等相关规定，律师及诉讼代理人负有勤勉尽责、诚实守信的义务，提交给法院的材料必须经过审慎核查，确保其真实性、合法性、关联性。本案中，原告代理人被法院批评的核心原因，并非 “使用 AI 生成内容” 本身，而是 “放任 AI 生成虚假信息”，未履行基本的审核义务。这意味着，AI 可以作为法律工作的 “辅助工具”，但不能替代从业者的专业判断与责任担当。

3. 司法秩序的 “不可侵犯性”

司法程序的严肃性与权威性是法治的核心保障。虚假案例、虚假法条等材料的提交，本质上是对司法秩序的扰乱，可能导致诉讼程序拖延、司法资源浪费，甚至影响裁判的公正性。法院此次公开批评，正是为了明确立场：无论技术如何发展，维护司法秩序、坚守真实底线都是法律从业者不可逾越的红线。

法律人使用 AI 的合规指南：高效与严谨并行

AI 技术本身并非 “洪水猛兽”，其高效的信息检索、文本生成能力，确实能为法律工作提供诸多便利。但在使用过程中，必须建立 “技术辅助 + 人工审核” 的双重机制，守住合规底线：

明确 AI 的 “辅助定位”

将 AI 作为 “信息搜集工具”“文本初稿生成工具”，而非 “决策工具” 或 “材料提交工具”。例如，可借助 AI 快速检索相关法条、生成文书草稿、整理案例要点，但最终提交给法院的材料，必须由从业者亲自核查 —— 核对案号是否真实、法条是否准确、案例是否与本案具有关联性、是否存在虚构信息等。

2. 建立 “三重核验” 机制

来源核验：AI 生成的案例、法条，必须追溯至官方数据源（如中国裁判文书网、中国人大网法条数据库）进行核对，确保信息来源权威；

内容核验：仔细检查生成内容的逻辑是否通顺、细节是否合理（如当事人信息、时间线、裁判理由是否存在矛盾），警惕 AI “编造” 的虚假细节；

合规核验：确认生成内容不存在违反法律规定、公序良俗的内容，不涉及虚假陈述、误导性表述。

3. 承担 “责任自负” 原则

需明确：AI 生成内容的最终责任主体是使用 AI 的法律从业者，而非 AI 工具本身。一旦因 AI 生成的虚假信息引发法律风险（如被法院处罚、承担赔偿责任、甚至面临行业处分），均需由从业者自行承担。因此，在使用 AI 前，必须充分了解其局限性，不盲目依赖，更不将未经核查的内容直接提交。

技术向善，合规为先

AI 技术正在深刻改变法律行业的工作模式，但技术的发展始终不能脱离法治的框架。本案为所有法律从业者敲响了警钟：AI 是提升工作效率的 “利器”，但绝非规避责任的 “挡箭牌”。

坚守真实底线、履行审核义务、维护司法秩序，是法律人的初心与使命。唯有将技术优势与专业责任相结合，才能让 AI 真正成为法治建设的 “助力”，而非 “阻力”。未来，随着 AI 技术的不断成熟，或许会有更完善的技术手段保障生成内容的真实性，但在此之前，法律人的专业审慎与责任担当，才是抵御风险的最可靠屏障。

法律之路，道阻且长，行则将至；技术赋能，守正为要，合规先行。