CPS检察官用AI搜出假案例，高等法院怒批“严重失误”

AI编造判例，CPS检察官引用了不存在的案例 图片来源：Pexels / Pavel Danilyuk 家人们，AI“一本正经胡说八道”的毛病，这回直接闹到了英国高等法院。一名皇家检察署（CPS）的高级检察官在法庭文件中引用了一个完全虚构的法律判例，而《卫报》了解到，这个假案例来自互联网搜索过程中生成的AI回复。 事情是这样的：在一起关于是否应就一名儿童强奸其妹妹一事起诉该儿童的争议中，CPS强奸和严重性犯罪部门的高级皇家检察官Ravinder Dhillon主张起诉，并详细引用了一个她称之为“CPS – R v J [2024] EWCA Crim 3529”的案例。结果，这个案例根本不存在。 两名高等法院高级法官称她对这一不存在的案例如何被依赖的解释“令人不满意”。AI与法律专家Brian Flanagan直言：“这被用作主张起诉一名儿童的法律依据，而该法律依据并不存在：这是严重失误。” 错误如何被发现？检察官承认“引错了” 图片来源：Pexels / Pavel Danilyuk 继续起诉的决定由Dhillon于四月份做出，并由首席皇家检察官确认。随后在十月份，Dhillon承认不存在的引文是错误引用的。她说她指的是一个完全不同的判决——这次是一个真实的判决——是15年前做出的。 高等法院表示，CPS引用虚构案例并未影响男孩对继续起诉决定提出质疑的结果，该案定于本周晚些时候在青年法庭开庭审理。 在被要求置评时，CPS表示其有严格的AI政策，“限制其使用以确保不被用于做出法律决定，且必须有人工核查以确保准确性”。一位发言人表示，CPS“发现使用互联网进行法律研究时发生了一个错误”。 “一旦发现这一错误，就立即进行了纠正，并开展了内部审查以确定此事是如何发生的，并核查没有其他案件受到影响，”他们说。“在快速审查之后，我们分享了经验教训，包括判例法必须从可信的法律来源引用。” 并非首次：CPS已有前科，AI错误或只是冰山一角 这已经是已知的第二起涉及CPS的AI幻觉案件。CPS在二月份承认，其一名律师在一起涉及两名因轻微罪行被定罪的罗马尼亚人的引渡案中引用了不存在的法律依据，很可能是由AI造成的。那些虚构的案例只是在对方律师找不到任何痕迹后才被发现，CPS当时得出结论称“再次发生的风险很低”。 而根据Doughty Street Chambers大律师Matthew Lee维护的英国追踪器，最新事件使记录的条目数量达到101条，该追踪器涵盖已确认、疑似和有争议的AI相关错误以及相关的虚假引文。他说，已发现的案件可能只是“冰山一角”，因为许多下级法院的判决从未被公布。 他补充说，鉴于CPS处理高度敏感的信息，其使用AI存在隐私和保密风险，并警告说AI正在给大律师增加额外工作，他们需要花时间核查案件文件中出现的法律依据的真实性，而这些文件在准备过程中可能使用了AI。 法官此前已警告：滥用AI可能面临制裁 其实早在2025年6月，高等法院就针对从住房到银行等案件中的AI幻觉，呼吁律师公会和律师协会“作为紧急事项”考虑采取措施遏制这一问题。时任王座法庭庭长Victoria Sharp女爵士警告称，“如果人工智能被滥用，将对司法行政和公众对司法系统的信心产生严重影响”，并表示滥用AI的律师可能面临制裁，从公开训诫到藐视法庭诉讼程序以及移交警方。 Flanagan教授也点出了关键：“这让人质疑法律信任规范，即我们把法律依据视为珍贵之物。你不能编造它们；那是越界的。AI增加了这种情况发生的风险，因为它能节省时间。对任何专业人士来说这样做都不好，但当这个专业人士为国家工作时，性质就不同了，因为国家的权力是巨大的。” 给我们的提醒：AI很好用，但别全信 这件事虽然发生在法律圈，但对咱们旅英小伙伴也是个提醒。现在谁不用AI查个资料、写个邮件呢？但AI“幻觉”真的防不胜防——它能把不存在的东西说得有鼻子有眼。尤其是涉及签证、法律、医疗、税务这些正经事，AI给的答案一定要去官方渠道交叉验证。毕竟，连国家检察机关的检察官都能被AI带沟里，咱们普通人更得多留个心眼。