AI 可解释性初创公司 Goodfire 筹集了 $50M 资金

快速阅读: 据《硅角度》最新报道，智能火科技公司近期完成了5000万美元A轮融资，用于推动其研究项目。该公司推出的Ember平台能帮助开发者理解大型语言模型的工作机制，提高模型的透明度和可定制性。此外，Goodfire还开源了稀疏自动编码器（SAE），以解析AI模型的工作原理。

智能火科技公司是一家致力于帮助开发者理解大型语言模型运作方式的初创企业，近日成功募集了5000万美元的资金，以推动相关研究项目的开展。公司于本周四宣布完成A轮融资，本轮融资由Menlo风险投资公司领投，Anthropic PBC、Lightspeed风险投资伙伴以及其他投资者共同参与。此次融资距离Goodfire首次募资700万美元仅过去半年时间，也是其成立不到一年之际取得的成果。

大型语言模型（LLM）由众多代码片段构成，这些片段被称为人工神经元。每个神经元负责处理提示语计算中的一部分任务。然而，历史上识别哪些神经元参与了某一特定提示语的回答及其相互作用，一直是开发人员面临的难题。位于旧金山的Goodfire推出了名为Ember的平台，旨在简化这一复杂过程。借助该工具，开发者可将提示语输入LLM，并可视化展示模型中哪些组件参与了处理流程。这种透明度适用于多种应用场景。当LLM对某提示语作出不准确回应时，开发者可通过Ember定位生成此回应的模型组件并予以禁用。缺乏对LLM内部机制的理解，修复这些问题将更加棘手。此外，开发者还能利用Ember禁用那些易受提示注入攻击或被恶意设计的LLM组件。“无人知晓AI模型失效的具体原因，因此也无法有效修复它们，”Goodfire联合创始人兼首席执行官Eric Ho指出，“我们的目标是打造工具，让神经网络内外部均易于理解和优化。”

模型定制化同样是Goodfire致力于简化的一项任务。通过Ember，客户支持聊天机器人的开发者可以从开源LLM中筛选出不必要的部分并移除，从而创建更为高效的新模型。要运用Ember，开发者只需输入描述所需调整LLM方式的提示语即可。例如，工程师可以要求模型在所有提示语回复中加入双关语。Ember随后能找到并自动更新需要修改的部分，以确保回复中包含双关语。该平台还具备多项附加功能，如条件语句功能可简化实现检索增强生成（RAG）的过程。RAG是一种机器学习方法，能让LLM整合外部系统数据至提示语回复中。另一个Ember功能则助力开发者规划其LLM的能力范围。

除Ember外，Goodfire还发布了开源稀疏自动编码器（SAE）。SAE是一种特殊的人工智能模型，用于解析另一个AI模型的工作原理。该技术实现了大量手动映射神经网络内部结构工作的自动化。去年，Goodfire为Meta Platforms Inc.的Llama 3.3 70B开发了一款SAE。随后，在本月早些时候，它开源了两款针对DeepSeek R1推理模型的SAE。Goodfire表示，后者揭示了R1减少输出错误的方法。公司计划利用最新一轮融资所得资金提升其Ember平台，并探索理解推理与图像处理模型工作原理的新途径。为此，Goodfire打算与AI模型供应商合作推进相关研究。

图片来源：Unsplash

来自SiliconANGLE联合创始人John Furrier的消息：“您的支持对我们至关重要，这让我们能够继续提供免费、深度且有价值的内容。只需轻轻一点，您就能帮助我们完成这一使命。欢迎加入拥有超过15,000名#Cube校友专家的社区，其中包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等诸多业界翘楚。‘CUBE是我们行业的宝贵伙伴，你们不仅是我们活动的一部分，我们也十分感激你们带来的精彩内容。’——安迪·贾西”

感谢您对我们的支持！

(以上内容均由Ai生成)