“代理”AI 的兴起：潜在的新法律和组织风险

快速阅读: 《JD Supra》消息，自主型AI正革新企业运营，带来高效的同时也伴随法律与组织风险。需关注其全天候运作、交互行为、可解释性、责任归属及测试方法等。企业应提早布局，平衡创新与风险，以应对这一快速发展技术带来的挑战。

人工智能（AI）技术正飞速发展。一个重要突破是“自主型”AI架构的出现，这类架构相较于传统AI系统，具有更高程度的自主性。这些强大的智能体有可能彻底改变企业运营模式，但同时也伴随着新的法律与组织层面的风险。

**什么是自主型AI？**
自主型AI是指一种能够在有限监督下达成特定目标的人工智能系统。它由AI智能体构成——即模拟人类决策过程的机器学习模型，用于实时解决问题。与直接回应用户提示并输出结果的AI“助手”不同，自主型AI能在无人类持续提示的情况下自行采取行动并实现明确设定的目标。智能体还可以整合到更广泛的人类或多智能体工作流程中，以提升整体效率。短期来看，新发布的智能体可能表现为任务专用机器人，其功能较为单一；但从长远看，整个劳动力队伍可能有一半是人类，另一半则是自主型AI“工人”。

**关键的法律与风险考量**
1. **智能体全天候大规模运作：** 自主型AI通过分布式方式全天候运行，增加了法律与合规方面的风险。这种模式可能导致意外后果的发生概率增大，并使检测智能体行为与公司目标的一致性以及潜在失败变得更加困难。新一代的风险与合规框架必须具备扩展性和适应性。扩展需要在资源分配上对自主型治理进行“适当”投入（借鉴美国司法部2024年发布的《企业合规计划评估》中的比例标准）。自主型AI政策、监控与审计，以及明确界定智能体在公司中的角色与权限，都有助于降低相关风险。

2. **智能体相互作用：** 智能体在独立解决问题时可能会以不可预测的方式行动。智能体与人类的互动可能触发信息披露法规，并引发关于系统是否有权约束公司的权威问题。智能体间的互动可能迅速扩大规模并增加复杂性，导致难以监督和控制的行为。建议公司建立并积极监控明确的规则，以管理公司内部和外部智能体之间的互动，特别是在定价和反垄断、偏见与欺骗等方面，尤其是当拥有不同权限和规则的机器人相互协作时。

3. **智能体应解释，但需验证：** 由于自主型AI系统能够自主做出决策并调整自身行为，因此需要强大的可解释性机制，以确保其行动可以被理解、追溯和评估。然而，智能体可能会产生幻觉或其他形式的错误解释，因此验证通常至关重要。（可以考虑针对不同意图和影响的控制措施。）

4. **AI智能体不受传统委托代理法律约束：** 当人类代理超出权限范围行事时，公司可以通过辩护来规避责任。但AI智能体的法律地位尚未明确，公司可能会发现自己对所有AI智能体的行为负有严格责任，无论这些行为是否被预测或有意为之。与AI开发者的合同安排可以分配权限范围内和权限范围外的自主型行为的责任。近期如FTC诉Rite Aid公司及Rite Aid总部公司的案件表明，大型公司可能无法将责任转嫁给供应商。

5. **测试自主型系统：** 自主型AI系统是动态且目标导向的。由于这些系统有能力适应、变化并在复杂的环境中互动，组织不能仅仅依赖静态测试方法应对所有场景。相反，测试方法可能需要根据具体能力、使用案例和现实情境进行定制，并且可能需要结合多种方法来充分评估系统行为随时间的变化。

6. **构建自主型基础设施：** 自主型AI可能迅速扩展至数字工作者的状态，其规模和范围可能与人类劳动力相匹配甚至超越。建议公司尽早开始构建和测试其自主型AI基础设施，同时密切关注行业发展以提前应对新兴风险。与值得信赖的法律顾问合作可以为未来的治理措施奠定基础——例如，自主型AI政策、自主权级别协议、智能体-人类互动披露和免责声明——助力公司紧跟这项快速发展的技术。

**总结**
自主型AI正在成为企业数字化转型的重要推动力，但伴随而来的不仅是机遇，还有挑战。如何平衡创新与风险，将是每个企业在未来发展中必须面对的核心课题。

(以上内容均由Ai生成)