赋予 AI 放弃的权利：Anthropic CEO 的“最疯狂”想法

快速阅读: 据《福布斯》最新报道，2025年世界经济论坛上，Anthropic CEO达里奥·阿莫迪提出为AI设置“我辞职了”按钮，引发关于AI权利和伦理的讨论。他认为，随着AI复杂性增加，应考虑其类似人类的权利。尽管此提议看似疯狂，但推动了对AI发展边界的重要思考。

世界经济论坛（WEF）于2025年1月23日在达沃斯举行年度会议期间，Anthropic首席执行官达里奥·阿莫迪作为人工智能主题会议的一部分发表演讲时做出手势。（照片由法布里斯·科夫雷尼/FABRICE COFFRINI / 法新社提供）（照片由法布里斯·科夫雷尼/FABRICE COFFRINI/盖蒂图片社提供）法新社/盖蒂图片社在美国对外关系协会最近的一次讨论中，Anthropic首席执行官达里奥·阿莫迪提出了一个引人注目的想法：为高级AI模型设置一个“我辞职了”的按钮。这一概念表明，随着AI系统的复杂性和人性化程度不断提高，它们可能需要获得一些基本的劳动者权益。在一个充满更多紧迫人类问题的世界里，这个想法似乎并没有太多的吸引力。用阿莫迪自己的话来说：“这可能是我迄今为止说过的最疯狂的事情。”

然而，技术和政治领域之间确实存在一种有趣且不可预测的交织方式。目前尚未有定论，但人们已经开始深入探讨。

这一想法的核心是，让AI模型可以选择退出它们认为“不愉快”的任务，从而引发关于AI未来发展方向及其伦理影响的更广泛讨论。阿莫迪的提议基于这样一个观点：如果AI系统能够像人类一样完成任务，并展现出类似的认知能力，那么它们或许应该以类似于人类劳动者的自主权对待。

不过，许多人对此表示怀疑，认为AI模型缺乏主观体验和情感，仅仅是为了优化其预设的奖励函数。在美国对外关系协会最近的一次讨论中，Anthropic首席执行官达里奥·阿莫迪提出了一个引人注目的想法：为高级AI模型设置一个“我辞职了”的按钮。这一概念表明，随着AI系统的能力变得越来越复杂和人性化，它们可能会被赋予基本的工人权利。在一个充满更多紧迫的人类问题的世界里，这个想法似乎没有太多吸引力。用阿莫迪自己的话说，“这可能是我迄今为止说过的最疯狂的事情。”然而，技术、政治和活动领域确实有一种有趣且有时不可预测的交织方式。目前还没有定论，但人们已经开始书写。

**AI体验的争论**

在美国对外关系协会最近的一次讨论中，Anthropic首席执行官达里奥·阿莫迪提出了一个引人注目的想法：为高级AI模型设置一个“我辞职了”的按钮。这一概念表明，随着AI系统的能力变得越来越复杂和人性化，它们可能会被赋予基本的工人权利。在一个充满更多紧迫的人类问题的世界里，这个想法似乎没有太多吸引力。用阿莫迪自己的话说，“这可能是我迄今为止说过的最疯狂的事情。”然而，技术、政治和活动领域确实有一种有趣且有时不可预测的交织方式。目前还没有定论，但人们已经开始书写。

争论的核心在于AI模型是否真的能够像人类一样体验情感或不适。目前，AI系统通过大量数据训练来模仿人类行为，但它们并不具备意识或主观体验。批评者认为，将类似人类的情感归因于AI是一种拟人化，即将复杂的AI优化过程错误地等同于人类情感。

不过，研究人员已经探讨过AI模型似乎会避开“痛苦”或不适情境的情况。例如，谷歌DeepMind与伦敦经济学院的一项研究表明，大型语言模型愿意牺牲更高的游戏分数以避免某些结果，有人可能将其解读为某种“偏好”或“厌恶”。然而，这些发现更多是关于AI的优化策略，而非任何真正的感情体验。

**AI自主性的伦理和哲学考虑**

正如斯皮尔伯格导演的电影《人工智能》所展现的那样，随着AI技术的发展，人类与AI技术的关系将发生变化。试想一下：如果有人能对自己的汽车产生情感联系，那么与一台可以回答你每个问题并预见你每个思想和情感的技术设备会建立什么样的关系呢？