从 LLM 到 Agentic AI — 解决信任和可解释性问题 |埃贝

发布时间:2025年4月15日    来源:szf
从 LLM 到 Agentic AI — 解决信任和可解释性问题 |埃贝

快速阅读: 《JD Supra》消息,法律周2025会议探讨了信任人工智能的核心问题,包括一致性行为、幻觉错误及能动型AI的局限性。与会专家强调了伦理、透明度、准确性和质量控制的重要性,建议通过基准测试和多角度验证增强AI信任,同时呼吁建立行业标准和生态系统支持。

法律周2025会议回顾
何谓信任人工智能?根据人工智能专家罗恩·布拉赫曼的说法:“这意味着技术在一段时间内表现出一致的行为。”

信任是任何成功部署人工智能的核心。如果没有信任,用户和利益相关者不太可能接受人工智能技术,无论其当前和未来的益处如何。

何谓信任人工智能?根据人工智能专家罗恩·布拉赫曼的说法:“这意味着技术在一段时间内表现出一致的行为。”

随着人工智能的不断发展,尤其是大型语言模型(LLM)和能动型人工智能(Agentic AI)的出现,信任仍然是首要考虑的问题,并且是Epiq在“从LLM到能动型AI——解决信任与可解释性”环节中讨论的重点。该环节由Epiq高级技术总监亚历克西斯·米切尔主持,以下为参与嘉宾:

信任人工智能意味着什么?根据人工智能专家罗恩·布拉赫曼的说法:“这意味着技术在一段时间内表现出一致的行为。”

康奈尔大学访问学者及施密特科学杰出访问科学家 罗恩·布拉赫曼
吉布森·邓恩律师事务所合伙人 艾莉森·科斯特卡
沙利文与克伦威尔律师事务所电子发现和诉讼支持主管 斯蒂芬·杜利
吉布森·邓恩律师事务所合伙人 艾莉森·科斯特卡
伊戈尔·拉布托夫,Epiq AI实验室副总裁,Epiq

超越幻觉
LLM可以提供可信的答案,但它们也可能生成看似合理但实际上包含细微错误的结果,这些错误通常被称为“幻觉”。伊戈尔·拉布托夫在演示环节中展示了这一点,他要求LLM撰写自己的简历,系统生成了完全虚构但令人信服的关联信息。虽然“幻觉”一词通常与LLM相关联,但这类混淆性错误存在于任何机器学习模型中,法律专业人士在使用TAR或其他第一代审阅技术时已经熟悉了这一点。正如拉布托夫所说:“现在面临的挑战是如何在处理更复杂的模型时建立信心和信任感。”

随后讨论转向最近的人工智能进展、推理模型和能动型人工智能。推理模型可以反思其输出结果,减少错误的可能性,但在处理大量文档集合方面仍有局限性。能动型人工智能通过使用工具采取行动并反馈来优化答案,模仿人类工作流程。

强调指出,能动型人工智能是一个广义术语,AI代理并不是单一实体,而是由解决方案提供商设计的复杂系统——系统的大部分不是AI部分,而是使代理能够与其他软件系统交互的脚手架和连接代码。这种架构提供了更大的灵活性以应对LLM的局限性。然而,这也使得在没有清晰了解其内部设计的情况下很难比较不同的能动型AI解决方案,而这一点对于适当的评估至关重要。当选择不同的代理系统时,拉布托夫指出:“尽管有众多不同的模型,它们在架构上本质上都非常相似。”

最常见的信任挑战

随着法律行业寻求接纳先进的人工智能并建立对其使用的信任,需要行业范围内的基准和协作来制定评估AI工具的标准。小组成员一致认为,当今行业面临的最常见“信任挑战”包括伦理与职业标准、可解释性和透明度、准确性和可靠性以及实际操作因素。斯蒂芬·杜利强调,可解释性和透明度对于不仅保护解决方案及其整个工作流至关重要。他强调具备历史记录和追踪功能的解决方案以管理工具如何处理数据的重要性。此外,他还指出需要进行质量控制检查以确保AI模型的准确性和可靠性。

另一个挑战涉及高级AI的使用者以及对生成的答案过度信任的潜在风险。随着AI的不断进步以及用户越来越习惯于在日常工作中使用基于聊天的AI工具,答案中的缺陷变得更加不易察觉。艾莉森·科斯特卡评论道:“不要只问一个问题,要问五个问题。比较答案并用不同的方式验证它们。”

科斯特卡还评论说,信任始于评估AI技术的早期阶段。它始于能够在安全环境中测试工具以确保它们按预期运行的能力。科斯特卡建议,在测试新AI工具时,最佳实践是构建一个能输入工具并查询以验证工具能力和输出的基准数据集。科斯特卡的团队已使用与诉讼相关的公开可用数据编译了基准数据集。

通往值得信赖的AI之旅将永远是一项持续的努力。人工智能技术的持续进步必须伴随持续努力提高透明度、问责制和伦理标准。正如杜利总结的那样:“信任不仅仅是关于技术本身;它是支持它的整个生态系统,包括规范其使用的法律和伦理体系。”

[查看来源]

(以上内容均由Ai生成)

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日