法官警告：AI生成法律文件错误频现

快速阅读: 世界各地法官正应对AI生成法律文件中的错误问题，如引用不存在案例。法国数据科学家兼律师Damien Charlotin记录了过去六个月至少490起此类“幻觉”案件，警示AI使用风险。专家建议审慎依赖AI，避免隐私泄露和信息不准确。

世界各地的法官正在应对一个日益严重的问题：借助人工智能生成并提交的法律文件中存在错误，例如引用不存在的案例。据律师和法庭文件所述，这一趋势对那些在工作中学习使用AI工具的人们发出了警告。许多雇主希望招聘能够利用这些技术来完成诸如研究和撰写报告等任务的员工。随着教师、会计师和营销专业人士开始使用AI聊天机器人和助手来生成创意和提高生产效率，他们也发现这些程序可能会出错。

法国数据科学家兼律师Damien Charlotin记录了过去六个月至少490起含有“幻觉”的法庭文件，所谓“幻觉”是指AI响应中包含虚假或误导性信息。他表示，随着更多人使用AI，这一现象正在加速发生。“即使是更高级的使用者也会遇到问题，”Charlotin说，“AI可以是一个巨大的助力，非常棒，但也存在这些陷阱。”

Charlotin是位于法国首都郊外的HEC巴黎商学院的高级研究员，他创建了一个数据库，追踪法官裁定生成式AI产生虚构案例法和虚假引言等幻觉内容的案件。大多数裁决来自美国的案件，其中原告未聘请律师自行辩护。虽然大多数法官就这些错误发出了警告，但有些还处以罚款。

然而，即使是知名企业也提交过有问题的法律文件。科罗拉多州的一名联邦法官裁定，MyPillow公司的律师在针对公司及其创始人Michael Lindell的诽谤案中提交了一份包含近30个缺陷引用的简报。

不仅法律行业在应对AI的缺点，出现在网络搜索结果页面顶部的AI概述也经常包含错误。此外，AI工具还引发了隐私担忧。所有行业的工作人员在上传或输入提示时都需谨慎，以确保保护雇主和客户的机密信息。

法律和职场专家分享了他们在AI错误方面的经验，并描述了需要避免的风险。

不要依赖AI来做重大决策。一些AI用户将其视为可以分配任务的实习生，并期望检查其完成的工作。“将AI视为增强工作流程的工具，”专注于劳动力发展的非营利组织Jobs for the Future的首席执行官Maria Flynn说。它可以作为助手帮助草拟电子邮件或规划旅行行程，但不应将其视为可以替代人类完成所有工作的工具。

在准备会议时，Flynn尝试使用内部AI工具，要求它基于团队共享的文章提出讨论问题。“AI提出的部分问题并不适合我们组织的实际情境，因此我提供了一些反馈……它随后提出了五个非常有见地的问题。”她说道。Flynn还发现了AI工具输出的问题，该工具仍处于试点阶段。她曾要求AI汇总其组织在各州已完成的工作信息，但AI工具将已完成的工作与资金申请混为一谈。“在这种情况下，我们的AI工具无法区分提议与实际完成的工作。”Flynn说。幸运的是，她具备机构知识以识别这些错误。“如果你是新入职的员工，要询问同事结果是否准确。”她建议。

尽管AI有助于头脑风暴，但依赖它提供事实信息是有风险的。即使跳过这一步很诱人，也要花时间检查AI生成内容的准确性。“人们因为内容听起来合乎情理而假设它是正确的，而且这样做很方便，”亚特兰大的Baker Donelson律师事务所股东Justin Daniels说。“不得不回头检查所有引用，或者当我看到AI总结的合同时，我必须回去阅读合同的具体条款，这确实有点麻烦且耗时，但这正是你必须做的。无论你多么认为AI可以替代这一过程，它实际上做不到。”

使用AI记录和做会议笔记可能很诱人。某些工具能根据会议内容生成有用的摘要并列出行动步骤。但在使用AI做笔记之前，应考虑是否需要获得参与者的同意，以及对话是否应保密。芝加哥Fisher Phillips律师事务所的合伙人Danielle Kays表示：“在使用AI做笔记之前，请暂停思考这些问题。”

在高风险情境下部署记录员之前，建议先咨询法律或人力资源部门的同事，例如调查、绩效评估或法律策略讨论。

“人们认为使用AI时应该有不同的同意层级，这一问题正在通过法庭解决。”凯斯说，“这是一个公司应继续关注的问题，因为它正处于诉讼过程中。”

如果你使用免费的AI工具来起草备忘录或营销活动，不要提供可识别的信息或企业秘密。一旦上传了这些信息，其他人使用同一工具时可能会发现它们。

这是因为当其他人向AI工具提问时，它会搜索可用的信息，包括你透露的细节，以构建其答案。弗林说：“它不会区分信息是公开还是私密的。”

如果雇主没有提供AI培训，可以尝试使用免费工具，如ChatGPT或Microsoft Copilot。一些大学和技术公司也提供课程，帮助你了解AI的工作原理及其用途。

教授如何构建最佳AI提示的课程或提供实践机会的手动课程都很有价值，弗林说。

尽管这些工具有潜在问题，但学习它们的使用方法仍然有益，尤其是在当前它们无处不在的时代。

“学习使用AI的最大潜在陷阱是根本不学习使用它。”弗林说，“我们都需要掌握AI，早期建立对工具的熟悉度、素养和舒适度将至关重要。”

(以上内容均由Ai生成)