Anthropic 启动 AI 福利研究项目

快速阅读: 《硅角度》消息，Anthropic启动AI福利研究计划，聚焦AI意识与福利提升。由AI福利研究员凯尔·费什领导，探讨AI模型偏好及任务选择。研究还涉及AI对数学运算和未来规划的能力，可能为人类意识研究提供新视角。

人工智能领域的竞争者Anthropic PBC启动了一项专注于人工智能福利概念的研究计划。今日，该公司公布了这一计划的详情。

该项目由AI福利研究员凯尔·费什领导，他去年加入了Anthropic。此前，他曾创建了一个名为Eleos AI Research的机器学习实验室。新兴的人工智能福利研究领域围绕两个主要问题展开。第一个问题是未来的神经网络是否可能具备某种形式的意识。第二个问题则是，若第一个问题的答案为肯定，可采取何种措施提升AI福利。

在Anthropic今日发布的访谈中，费什提到了一篇2023年的研究论文，该论文探讨了人工智能意识。这篇论文由图灵奖得主计算机科学家约书亚·本吉奥共同撰写。参与该项目的研究人员确定，目前的AI系统可能不具有意识，但他们并未发现短期内AI系统存在根本性意识障碍，费什详细说明道。他补充说，即便没有意识，AI福利也可能成为重点。未来比现有软件更先进的AI系统可能因其“具有意识或自主性”而使该领域研究需求增加，费什解释道，“甚至无意识体验也值得重视。”

Anthropic计划通过探究AI模型是否对任务类型有所偏好来研究这一主题。“你可以将模型置于可以选择的情境中，”费什说，“并为其提供不同类型任务的选择。”他进一步解释说，AI的偏好不仅取决于神经网络架构，还受训练数据集的影响。

AI福利与意识的研究也可能有超出现有机器学习的应用。当被问及该领域发现能否为人类意识研究提供新视角时，费什表示：“我认为这是完全可能的。我们已观察到某种程度上正在发生这种情况。”

Anthropic的新研究计划是其与商业AI开发工作同时进行的多个项目之一。上个月，该公司发布了两篇关于大型语言模型数据处理方法的论文。Anthropic发现，Claude系列LLM中的某一算法不仅能规划未来任务，还能根据需要调整计划。此外，这项研究还揭示了LLM进行数学运算的方式。

图片：Anthropic硅谷ANGLE联合创始人约翰·弗里尔的信息：您的支持对我们至关重要，它让我们能够持续提供免费内容。只需一键即可支持我们的使命，即提供免费、深入且相关的内容。加入包含超过15,000名#CubeAlumni专家的社群，其中包括亚马逊CEO安迪·贾西等。“CUBE是行业的关键伙伴。你们确实是我们活动的一部分。”——安迪·贾西

感谢您的支持！

(以上内容均由Ai生成)