快速阅读: 据麻省理工科技评论报道，Anthropic公司科学家开发出新型工具，可追踪AI模型执行任务时的内部运行过程。该研究属于“机制可解释性”领域，通过类比MRI观察人脑活动，揭示模型决策逻辑，有望提升对大模型的理解与控制，推动构建更安全可靠的人工智能系统。
近日，《麻省理工科技评论》报道称，Anthropic公司科学家开发出一种新型工具，可追踪人工智能模型在执行任务时的内部运行过程。该研究属于“机制可解释性”领域，旨在揭示模型决策背后的内在逻辑。
这类方法类似于医生利用核磁共振成像（MRI）观察人脑活动。人脑作为另一种尚未被完全理解的智能系统，其工作机制同样依赖先进成像技术加以解析。
研究人员表示，借助此类工具，有望提升对大模型行为的理解与控制能力，并为未来构建更安全、可靠的人工智能系统提供技术路径。
(以上内容均由Ai生成)
引用自：Futurism网站
