法庭文件中的人工智能“幻觉”给律师带来麻烦

快速阅读: 据《保险索赔日记账》最新报道，本月，美国摩根与摩根律师事务所警告其超过千名律师避免在法庭文件中使用由人工智能生成的虚假判例法。此现象已在全国引发至少七起案件质疑或处罚律师。法官还对涉及沃尔玛案的两名律师发出制裁威胁。人工智能在法律文件中生成虚假内容已成为诉讼的新挑战，律师们需谨慎使用此类工具，以避免违反职业伦理。

美国摩根与摩根律师事务所本月向其超过一千名律师发送了一封紧急邮件：人工智能能够生成虚假的判例法，而在法庭文件中使用虚构信息可能会导致你被解雇。怀俄明州的一名联邦法官刚刚威胁要对这家律所的两名律师进行制裁，因为他们在一个针对沃尔玛的诉讼案中包含了虚构的案例引用。其中一名律师上周在法庭文件中承认了这一点，并为他所谓的无意错误道歉。人工智能在案件文件中生成法律虚构内容的现象导致全国至少有七起案件在过去两年中质疑或处罚了律师，这给诉讼当事人和法官带来了新的高科技挑战。路透社发现。

沃尔玛案之所以特别，是因为它涉及一家知名律所和一个大型企业被告。但自从像ChatGPT这样的聊天机器人开启了人工智能时代以来，在各种诉讼案中都出现了类似的例子，突显了新的诉讼风险。摩根与摩根律师事务所的发言人没有回应置评请求。沃尔玛拒绝置评。法官尚未裁定是否要对在涉及一款据称有缺陷的悬浮滑板玩具的沃尔玛案中的律师进行纪律处分。

生成式人工智能的进步正帮助律师减少研究和起草法律文书所需的时间，因此许多律所开始与人工智能供应商合作或自主研发人工智能工具。汤森路透去年的调查结果显示，百分之六十三受访的律师表示他们曾将人工智能用于工作，百分之十二表示他们经常使用。然而，生成式人工智能以自信的态度编造事实是众所周知的，法律专家表示，使用它的律师必须谨慎。人工智能有时会产生虚假信息，业内称为“幻觉”，因为这些模型根据从大数据集中学习到的统计模式生成响应，而不是验证数据集中的事实。

律师职业道德规则要求律师审查并对其法庭文件负责，否则可能面临纪律处分。美国律师协会去年告知其四十万会员，这些义务包括即使是由人工智能产生的“无意误述”。美国萨福克大学法学院院长、人工智能增强法律工作的倡导者安德鲁·佩尔曼表示，法律研究工具的发展并没有改变后果。“当律师被发现使用ChatGPT或任何生成式人工智能工具创建未经检查的引文时，那就是纯粹的无能，”佩尔曼说。

缺乏人工智能素养

在最早因律师使用人工智能而受到法院批评的案件之一中，二〇二三年六月，一名曼哈顿联邦法官对两名纽约律师处以五千美元罚款，因为他们在一个针对航空公司的个人伤害案中引用了由人工智能生成的虚假案例。另一名纽约联邦法官去年考虑在涉及唐纳德·特朗普前律师兼助手迈克尔·科恩的案件中实施制裁，科恩表示他不小心给了自己的律师假的案例引用，该律师在科恩的刑事税务和竞选财务案件中提交了这些引用。尽管科恩和他的律师未受制裁，但法官称此事“令人尴尬”。

十一月，一名得克萨斯州联邦法官命令一名在不当解雇诉讼中引用不存在案例和引语的律师支付两千美元罚款，并参加关于法律领域生成式人工智能的培训课程。明尼苏达州的一名联邦法官上个月表示，一名在案件中误引虚假、人工智能生成引用的误导信息专家已经损害了他在法庭上的信誉。科罗拉多大学法学院教授、研究人工智能和法律的哈利·苏登建议律师花时间了解“工具的优点和缺点”。他说，越来越多的例子显示了行业内的“人工智能素养缺乏”，但问题不在于技术本身。“在人工智能出现之前，律师在他们的文件中一直会犯错，”他说，“这并非新鲜事。”

梅尔肯发自纽约；编辑大卫·巴里奥和奥罗拉·埃利斯

(以上内容均由Ai生成)