Anthropic 首席执行官希望到 2027 年打开人工智能模型的黑匣子

快速阅读: 据《雅虎美国》最新报道，Anthropic公司致力于AI模型可解释性研究，发现数百万个“电路”，并呼吁同行及政府加强相关工作。公司支持加州AI安全法案SB 1047，倡导全行业深入理解AI模型。

Anthropic公司取得了一些研究突破，使其能够更好地理解其人工智能模型的工作原理。例如，该公司最近找到了通过所谓的“电路”追踪人工智能模型思维路径的方法。Anthropic公司识别出一个电路，帮助人工智能模型理解哪些美国城市位于哪些美国州内。该公司仅发现了其中少量电路，但估计人工智能模型中包含数百万个类似电路。

Anthropic公司一直在投入资源进行可解释性研究，并于近期首次投资了一家从事可解释性工作的初创企业。在文章中，阿莫迪奥（Amodei）呼吁OpenAI和谷歌DeepMind增加对该领域的研究努力。阿莫迪奥呼吁政府出台“轻触式”监管措施以促进可解释性研究，比如要求企业公开其安全与安保措施。在文章中，阿莫迪奥还指出，美国应对中国实施芯片出口限制，以限制失控的全球人工智能竞赛的可能性。

与OpenAI和Google相比，Anthropic公司一直以其对安全的关注而脱颖而出。虽然其他科技公司反对加州有争议的人工智能安全法案SB 1047，但Anthropic公司对该法案表达了有限的支持并提出了一些建议，该法案将为前沿人工智能模型开发者设定安全报告标准。在此背景下，Anthropic似乎正推动全行业共同致力于更深入地理解人工智能模型，而不仅限于提升其功能。

该文最初发布于TechCrunch网站，网址为https://techcrunch.com/2025/04/24/anthropic-ceo-wants-to-open-the-black-box-of-ai-models-by-2027/。

(以上内容均由Ai生成)