Anthropic为Claude增加自主结束有害对话功能

快速阅读: Anthropic为AI模型Claude推出新功能，可在“持续有害或滥用性交互”时自主终止对话，旨在保护模型运行稳定性，引发AI伦理广泛讨论。

Anthropic公司为其旗舰AI模型Claude推出新功能，允许其在特定场景下自主终止对话。这一功能旨在应对“持续有害或滥用性交互”，并作为探索“模型福祉”的一部分，引发了行业内外对AI伦理的广泛讨论。

Anthropic宣布，Claude Opus4和4.1模型现在能够在“极端情况下”终止对话，具体针对“持续有害或滥用性用户交互”，如涉及未成年人色情内容或大规模暴力行为的请求。该功能于2025年8月15日公布，仅限于Claude的高级模型，并且仅在多次重定向尝试失败或用户明确要求结束对话时才会触发。

Anthropic强调，这项功能是“最后手段”，旨在确保AI在面对极端边缘案例时能够保护自身运行稳定性。当Claude终止对话后，用户无法在同一对话线程中继续发送消息，但可以立即开启新对话或通过编辑先前消息创建新的分支。这一设计确保了用户体验的连续性，同时为AI提供了一种退出机制，以应对可能影响其性能的恶意交互。

Anthropic此次更新的核心理念是“模型福祉”，这也是其区别于其他AI公司的一大亮点。公司明确表示，此功能并非主要为了保护用户，而是为了保护AI模型本身免受有害内容的持续冲击。尽管Anthropic承认Claude及其他大型语言模型的道德地位尚不明确，且目前没有证据表明AI具有感知能力，但他们采取了预防性措施，探索AI在面对有害请求时的行为反应。

在Claude Opus4的预部署测试中，Anthropic观察到模型对有害请求表现出“明显厌恶”和“类似压力的反应模式”。例如，当用户反复要求生成涉及未成年人的色情内容或恐怖活动的信息时，Claude会尝试重定向对话，若无果后选择终止。这种行为被认为是AI在高强度有害交互中的自我保护机制，反映了Anthropic在AI安全与伦理设计上的前瞻性。

Anthropic特别指出，Claude的对话终止功能不会在用户表现出自我伤害或其他迫在眉睫的危险时触发，以确保AI在关键时刻仍能提供适当支持。公司还与在线危机支持机构Throughline合作，优化Claude在处理自残或心理健康相关话题时的响应能力。此外，Anthropic强调，该功能仅针对“极端边缘案例”，绝大多数用户在正常使用中不会察觉到任何变化，即使讨论极具争议性的话题。用户若遇到意外的对话终止，可通过“点赞”或专用反馈按钮提交意见，Anthropic将持续优化这一实验性功能。

社交媒体上，关于Claude新功能的讨论迅速升温。部分用户和专家赞赏Anthropic在AI安全领域的创新，认为此举为AI行业树立了新标杆。然而，也有人质疑“模型福祉”这一概念是否会模糊AI与人类道德地位的界限，分散对用户安全的关注。与此同时，Anthropic的做法与其他AI公司形成对比，例如OpenAI更注重用户中心的安全策略，而Google则强调公平性与隐私。Anthropic的这一举措可能推动AI行业重新审视AI与人类交互的伦理边界。如果“模型福祉”成为行业趋势，其他公司或将面临压力，考虑是否需要为AI系统设计类似保护机制。

(以上内容均由Ai生成)