AI 企业家派 avatar 出庭辩论——法官很快就将其关闭

快速阅读: 据《The Register》称，一AI初创公司创始人杜瓦尔，因用AI生成虚拟形象代替自己出庭辩护，遭法官斥责。法官不满其未提前告知，并指法庭非推广业务之地。杜瓦尔称事先获准，且其技术旨在协助未聘律师的诉讼当事人。

一位试图利用AI生成的虚拟形象在法庭上为自己辩护的人工智能初创公司创始人，因其行为遭到法官严厉斥责。

这位名叫杰罗姆·杜瓦尔的原告，在与保险公司马萨互助都会纽约公司（MassMutual Metro New York）的就业纠纷案中担任原告角色。3月26日，他在美国州最高法院上诉庭举行的听证会上，通过一个由软件生成的虚拟形象代表自己出庭。这个虚拟形象不仅在外貌上被精心设计，其声音也是通过软件合成而来。

在口头辩论期间，杜瓦尔请求播放一段视频，视频中一名穿着V领毛衣的男子向五位法官组成的合议庭发言。视频开头说道：“现在请允许我向法庭陈述，我今天以谦逊的姿态作为自诉人出现在五位杰出法官面前……”

当杜瓦尔在听证会上播放这段AI生成的虚拟形象视频时，法官们显然对此感到困惑。助理法官莎莉·曼扎内特-丹尼尔斯（Sallie Manzanet-Daniels）立即打断提问：“这是谁在向法庭发言？这是……等等？那是本案的律师吗？”

“那个？是我生成的，”坐在法官面前的杜瓦尔回答道。

“抱歉？”法官说。

“是我生成的，”杜瓦尔重申，“这不是真人。”

“好吧，”法官厉声说道，“你申请时要是能提前告诉我们就好了。你没有告诉我，先生。”

这个申请指的是杜瓦尔请求播放一段视频来论证他的案件。据他所说，一种医疗状况让他难以长时间口头向法庭陈述。然而，法官们显然没有预料到会出现一个由计算机生成的形象。

“你之前已经出庭并能够口头作证，”曼扎内特-丹尼尔斯法官继续说道，“你去过我的书记员办公室，与我们的工作人员进行了超过30分钟的口头交流。”

“我不喜欢被人误导。所以要么你是患有某种疾病无法清晰表达，要么不是。你不能把法庭当作推广业务的场所，先生。如果你想进行口头辩论，你可以站起来直接对我说。”

是语音问题还是AI商业噱头？

在接受《注册报》采访时，杜瓦尔表示：“我事先获得了批准，他们同意了。所以他们并不是没有准备好接受展示。但他们没想到会看到一个人工生成的形象。”

法官提到的疾病指的是杜瓦尔25年前患上的喉癌。“长时间说话对我来说是个挑战，”他解释道，“我是可以详细说明发生的一切，但这也是他们同意让我做展示的原因之一。”

杜瓦尔经营着一家名为“Pro Se Pro”的初创公司，旨在帮助未聘请律师的诉讼当事人更好地应对美国法律体系。他原本计划使用一个名为“Tavus”的AI服务创建一个逼真的视频虚拟形象，以代替自己向法庭陈述论点。

“我确实事先获得了批准，”他声称，“我打算使用自己的虚拟形象，那将是一个我讲话的形象。但这项技术还比较新。我以前从未制作过自己的或任何人的虚拟形象。”

数字版杜瓦尔未能成功，于是他选择了吉姆（Jim）。

杜瓦尔解释说，创建一个用于法庭的虚拟形象的过程包括向Tavus提供两到四分钟的说话视频以及一分钟的站立静止片段。这些材料用于生成虚拟形象，整个过程大约需要两到四个小时。最终，他选择了默认的虚拟形象吉姆，而不是自己的形象。

“在我的基本套餐中，我每月只能生成三个虚拟形象，”杜瓦尔说，“所以我尽量保守一些。我尝试了一个，大约六小时后失败了。我又试了一个，大约八小时后也失败了。等到我们准备听证会的时候，我还是没有自己的虚拟形象，所以我就用了他们库存中的一个默认形象，那个大块头帅哥叫吉姆。”

不真实……吉姆，是Tavus生成的默认虚拟形象之一，在演示视频中，杜瓦尔在听证会上使用的类型。

在听证会上，吉姆只说了几句话就被打断了。

“所以你可以看到法官很生气，一开始她真的很生气，”杜瓦尔最后亲自向法庭发言，“当我自己开始陈述时，虽然讲得不好，但她似乎变得更加同情了。她脸上的表情更像是，‘我很抱歉之前对你太苛刻了。’”

从法庭冲突到停滞的AI创业

尽管已有律师因提交包含AI生成错误的法院文件而受到法官批评的案例，但杜瓦尔认为，法官在此事上的愤怒是因为对视频展示中出现的意外人物感到惊讶。

被问及法庭的反应是否让他对AI在法律事务中的可行性产生疑虑时，杜瓦尔说：“我不知道，但技术变化得太快了。你知道我的网站，我们确实获得了一些浏览量，但我们从中获得的实际业务并不多。”

法官要求律师因在文件中使用AI而罚款15000美元
律师因AI引用虚构案例而遭法官怒斥
法官斥责律师事务所使用ChatGPT为六位数的审判费用辩解
遇到法律麻烦了吗？最好拨打SauLM-7B

杜瓦尔表示，由于缺乏资金和其他担忧，他未能发展自己的AI法律业务，因此在过去一年里一直搁置。

“在人工智能领域，一年就像永恒，”他说，“当我推出它时，我们还在使用ChatGPT-3.5的水平。我们的核心功能是场景分析模块，这是一个AI模块，会采访自诉人并给出一些建议。我认为这不是法律建议，但你可以争论你想争论的内容。

“这个模块运行还算稳定。它涉及的技术栈中有一些亚马逊的组件，现在已经弃用了。整个环境已经发生了如此大的变化，所以这个网站现在需要重新构建，使用主动型AI，因为你可以做更多的事情。”

不是产品演示

杜瓦尔淡化了法官警告不要把法庭当作推广业务的场所：“那里没有任何内容是在宣传我的任何业务。”

被问及AI是否应该被接受在法庭上使用时，杜瓦尔说：“我认为法庭对此持非常怀疑的态度。关于我的虚拟形象和展示，除非我提供的脚本有幻觉，否则不会有任何幻觉。我确实用生成式AI撰写了脚本，但我也非常仔细地检查了它。我已经做了很长时间了。”

杜瓦尔有工程和计算机科学背景，但他不是律师。他说自己曾在20世纪70年代被纽约法学院录取，但从未入学。他还说最近参加了法学院入学考试，是某些律师协会的成员，并关注AI在法律领域的应用。

向法庭介绍你的AI，然后看着他们对你不利

他引用了一年前与几位纽约法官的小组讨论，建议在使用AI时应向对方和法庭披露。

“我这样做已经超过一年了，”杜瓦尔说，“我不确定这有多有用，因为在某些方面，全面和公开的披露，从另一方面看，我认为有时会有歧视性。它会让读者对你产生偏见，因为人们对幻觉和AI有如此负面的看法。”

他说幻觉是AI的一个真正问题，还有误述实际引用和误读案件前提的问题。他补充说，他在检查AI输出的准确性时非常细致。

杜瓦尔提到了最近美国律师协会举办的一次研讨会，《司法系统中的人工智能导航》，涵盖了司法官员负责任使用AI工具的指导方针。

该研讨会试图解决关于AI的常见问题，如模型偏差、幻觉和保密性。它还提到，当AI模型被用来生成可能作为某种无认证专家证人的法庭记录之外的输出时，这正在突破法律规范的界限。

法院已开始采用AI。正如研讨会指出的那样，亚利桑那州法院部署了数字虚拟形象来总结判决。

杜瓦尔认为AI可以帮助自诉人，并且“实际上倾向于赋予未代表的诉讼当事人权力，因为它给他们提供了在法庭上通常缺失的声音。”

他补充说，他已经向法庭道歉，因为“不够透明是个失误”，并且没有警告法官他的论点将由虚拟形象呈现。

(以上内容均由Ai生成)