诉状中生成式 AI 的警笛之歌
快速阅读: 据《JD Supra》最新报道，文章探讨了人工智能在法律领域的应用，特别是生成式AI的风险。尽管AI能提高效率，但在诉讼中不当使用会导致严重后果。多个案例显示，依赖AI生成的错误信息可能触犯法律并损害律师声誉。法院强调律师需亲自核实AI生成内容，建议加强相关教育培训以避免严厉处罚。
大多数在诉讼中使用人工智能的应用场景都充满潜力且风险较低。然而，用于起草法律文书的生成式人工智能工具却并非如此。尽管法院和律师协会竭力推动法律界谨慎、道德行事，但生成式人工智能工具仍在诉讼中不断产生可被处罚的失误。本文重点介绍了一些近期案例，其中律师在法庭文件中被发现存在AI生成的“幻觉”。显然，人工智能在诉讼中的应用场景非常引人注目。
人工智能技术几乎是不可或缺的工具，用于挖掘在庭前发现过程中共享的电子存储信息中隐藏的相关数据。人工智能技术有助于准备取证，将语音记录即时转换为文本，分析取证证词，并揭示取证证词与其他案件文件信息之间的联系。人工智能工具可以分析合同，预测诉讼结果，优化诉讼策略，帮助挑选陪审员，并自动化律师事务所的常规流程。根据汤姆森路透社《2024专业人士未来报告》的数据，目前人工智能工具每周可以为每位律师节省四个小时的时间。这些效率会随时间逐步提升。
人工智能不仅为律师事务所带来成本节约，还释放了律师的时间，使其能够专注于满足高端客户的战略咨询需求。然而，当涉及“研究”法律并“撰写”法律文书的生成式人工智能工具时，风险与收益的计算会发生变化。与主要在幕后使用的电子取证和诉讼分析工具不同，生成式人工智能技术的输出需接受对方律师和法院的严格审视。根据《联邦民事诉讼规则》第11条的规定，律师在向法院提交诉状时签名或仅是提交诉状即“证明，以该人在当时情况下的知识、信息和信念，合理查询后认为，其主张、抗辩和其他法律论点符合现有法律，或者基于对现有法律进行非轻率的扩展、修改或逆转，或者建立新法律的理由。”违反第11条可能导致律师及其事务所受到处罚。
当使用生成式人工智能构建的诉状提交给法院时，也会触发伦理义务。其中最重要的是律师对法庭的胜任能力和诚实的伦理责任。在美国，从公开报道的法院裁决以来，人们就已知晓生成式人工智能工具在程序和伦理上的隐患。
**马塔诉哥伦比亚航空公司案**（编号：22-cv-1461，南区纽约州法院，2023年6月22日），是早期因随意使用ChatGPT技术而施加处罚的案例之一。两年过去了，不是所有人都明白了这一点。尽管美国律师协会和许多州律师协会努力鼓励诉讼律师谨慎和负责任地使用生成式人工智能，但这些技术的误用仍在继续。数十项法院裁决也试图阐明粗心使用生成式人工智能技术所带来的法律风险。
**贝文斯诉高露洁棕榄公司案**（编号：25-576，东区宾夕法尼亚州法院，2025年4月10日）中，一名律师因“提交的简报……引用了不支持其陈述内容的判例法，并且表面上根本不存在”而被发现违反了第11条规则。法院对律师解释错误的理由不予采信。此外，这些简报违反了法院的既定命令，要求任何借助人工智能进行的研究必须经过验证。为了实施处罚，法院下达了一项命令：（a）撤销该律师在本案中的出庭资格；（b）通知当地州和联邦律师监管机构其裁决；（c）指示该律师告知其当事人处罚令。
**瓦德斯沃思诉沃尔玛公司案**（编号：23-cv-118，怀俄明州地区法院，2025年2月24日）有三个值得注意之处。首先，幻觉般的案例引用是由训练于律所自身案例材料数据库的人工智能生成的。一些法律评论员认为，在特定领域法律数据上训练人工智能工具（而非公共互联网）将促进可靠的人工智能输出。但在本案中并未实现这一点。其次，律所在得知其诉状包含引用不存在案例的情况后，采取了重大且迅速的补救措施，包括：撤回由人工智能幻觉支持的动议，“诚实地公开使用人工智能的情况”，支付对方律师为辩护这些动议所产生的费用，制定政策、保障措施和培训以防止类似事件再次发生（并提供证明）。这些举措得到了瓦德斯沃思法院的认可。实际上，法院指出，“律师至少应该遵循这些步骤来补救问题，避免任何处罚的发布。”
第三，这种情况很常见：一家大型全国性律所的律师正在与本地律师合作，后者实际起草了涉案的诉状。全国律所的律师没有审查诉状，而是依赖本地律师的声誉。法院注意到，如果全国律所的律师审查了诉状，他们可能已经发现了幻觉现象。无论如何，法院表示，这些律师违反了第11条规定，因为这里发生的事情——即完全没有进行任何调查——不能被视为客观合理的。法院指出：“每一位在一年级合同课上学过的律师都知道，未能阅读合同并不能免除签署人的合同义务。……同样，签署动议或文件却未能合理检查其中引用的法律条款的人违反了第11条规则的明确条款。第11条规定，律师在签署（或允许他人签署）文件之前必须对法律进行合理的调查。法院说：‘如果律师不这样做，那么他们就不应签署该文件。’‘然而，如果律师决定冒险不对现有法律进行合理调查就签署文件，那么他们可能会面临处罚。’为了实施处罚，法院对起草诉状的律师处以金钱罚款，并撤销其在本地律师协会的特别许可。在本案中担任监督角色的全国律所的律师只受到了罚款处罚。
**中部运营工程师健康诉胡西尔瓦克有限责任公司案**（编号：24-cv-00326，印第安纳州南部地区法院，2025年2月21日）涉及三份分别由虚构、幻觉般的法律引用支持的诉状。在被要求说明为何不应受到处罚时，负责这些诉状的律师声称他没有尝试核实这些引用，因为，根据法院的说法，“它们看起来可信”。他辩称自己的错误并非出于恶意。法院对此表示同情。“利用人工智能辅助初步研究是可以的，即使是非法律人工智能程序也可能提供一个有用的概览，”法院评论道。“然而，完全依赖生成式人工智能程序的输出而不核实当前的处理方式或有效性——甚至更不用说案件的存在与否——完全是另一回事。确认一个案件是否为良好法律是一项基本的、例行的工作，也是律师应该期望做到的事情。”
转向印第安纳州的职业行为规则，法院裁定该律师违反了他的职业操守义务，包括胜任能力（规则1.1）、提出正当诉求和主张（规则3.1）以及对法庭的坦诚（规则3.3）。作为处罚，法院对其处以15,000美元罚款，将案件转交给州律师协会监管，并下令将处罚令副本交给该律师的客户。
**最后，在本杰明诉好市多批发公司案**（编号：24-cv-7399，东区纽约州法院，2025年4月24日）上周刚刚发布，法官对整个AI幻觉错误业务表现出极大的不耐烦，同时也对承认错误、道歉并承诺改进的律师表示宽容。在向法院提交的一份文件中，律师声称有七个不同的案例先例为其提供了法律支持，其中五个要么不存在，要么引用了不同的、无关的裁决。地区法官抱怨说，律师的行为“不幸地并不新鲜”。全国各地的法院都在应对“充斥着人工智能生成的‘案例’引用”的律师提交材料。
最后，在本月初发布的本杰明诉好市多批发公司案（编号24-cv-7399，东区纽约，2025年4月24日）中，地方法官对整个因人工智能幻觉错误而产生的问题表现出了不耐烦，同时也对那位承认错误、道歉并承诺改进的律师表示了宽容。在向法院提交的一份简报中，该律师声称得到了七个不同判例法的支持，其中五个要么根本不存在，要么包含指向另一个无关判决的引用。
从地方法官的裁决中：这些虚假提交带来了严重的问题。首先，显然，提交伪造案例的律师显然没有阅读那些根本不存在的案例，这违反了《联邦民事诉讼规则》第11条。如下面详细说明的那样，这些捏造的案例给法院和对方律师都带来了额外的不必要的工作。而且，或许最重要的是，这表明未能向客户提供胜任的代理服务。律师向法院表示，有问题的诉状是在截止日期前几个小时用她从未使用过的生成式人工智能工具起草的。该人工智能工具的“虚假”输出经过轻微定制以适应案件事实，律师的确认声明被粘贴到文件结尾部分。根据法院的说法，该律师没有努力阅读诉状中的案件或进行引证检查。此外，诉状中的论点几乎没有意义，也没有回应对方提出的主张。法院称该律师的行为是“严重疏忽的”，无能的，并且是恶意的。
这些虚假提交带来了严重的问题。首先，显然，提交伪造案例的律师显然没有阅读那些根本不存在的案例，这违反了《联邦民事诉讼规则》第11条。如下面详细说明的那样，这些捏造的案例给法院和对方律师都带来了额外的不必要的工作。而且，或许最重要的是，这表明未能向客户提供胜任的代理服务。
然而，律师逃脱了最严厉的制裁。法院处以1,000美元罚款，并指示律师告知其客户法院的命令。案件未被转交当地律师协会监管，也没有审查她的特别出庭许可。法院表示其宽容是因为律师的坦率、真诚的悔意、她是初犯的身份以及她愿意参加有关人工智能相关主题的继续法律教育课程。
从中可以学到的经验教训：简而言之，这就是：当面对由人工智能幻觉案例引用支持的诉状时，法院对诉讼律师几乎没有任何耐心。除非律师实际阅读了引用的案件并核实其准确性，否则不应将任何诉状提交给法院。诉讼律师应遵循任何关于生成式人工智能在诉状中使用的本地常设命令。《联邦民事诉讼规则》第11条规定的对诉状中所有事项准确性的认证责任不能委托给另一位律师（或供应商）。当在诉状中发现人工智能幻觉时，坦率比隐瞒更可取。继续法律教育项目和律师事务所关于负责任地使用生成式人工智能的政策可能在发现诉状中的人工智能幻觉时鼓励法院给予宽容。
如果你询问谷歌Gemini关于“海妖之歌”的定义，它会回答说这个短语指的是看似诱人但实际上导致毁灭或伤害的东西。在现代用法中，“海妖之歌”可能指“容易解决或捷径的诱惑，可能会导致失败”。因此，对于生成式人工智能也是如此：能够在几秒钟内生成表面看来合理的成果具有吸引力，但粗心的AI用户很可能会被抓住，并且越来越可能在案件结果和专业声誉上遭受不利后果。正如谷歌本身所指出的那样，“生成式人工智能仍处于实验阶段。”我们必须警惕。
(以上内容均由Ai生成)
