Cerebras Systems 为 AI 推理开辟了一条道路,为实时高级推理提供支持

发布时间:2025年5月16日    来源:szf
Cerebras Systems 为 AI 推理开辟了一条道路,为实时高级推理提供支持

快速阅读: 据《硅角度》最新报道,塞雷布拉推出Qwen3-32B模型,号称全球最快推理平台,性能超英伟达,成本更低,已吸引多家企业客户。

塞雷布拉系统股份有限公司是一家专注于人工智能芯片的初创企业,近日宣布推出了Qwen3-32B,这款模型被认为是全球最先进的开放权重大型语言模型之一,展现了其在AI推理领域的卓越能力,甚至超过了英伟达。该公司表示,其推理平台实现了前所未有的突破,在不到两秒的时间内就能完成复杂的AI推理任务,几乎达到了实时性能。

Qwen3-32B模型现已在其推理平台上正式上线,这是一个云服务,据称能够以远超基于英伟达GPU同类产品的速度运行强大的大型语言模型。塞雷布拉的处理器专为高性能计算而设计,其旗舰产品是在2024年3月发布的采用五纳米工艺的处理器,该处理器包含1.4万亿个晶体管,提供了超过90万个计算核心,相当于单个英伟达H100 GPU核数的52倍。此外,这款WSE-3处理器还配备了44GB的板载缓存,解决了英伟达芯片面临的高内存带宽需求这一主要瓶颈。

塞雷布拉于去年八月正式推出了其AI推理服务。所谓推理,指的是利用经过训练的AI模型来处理实时数据,从而进行预测或解决问题,这已经成为AI行业不可或缺的重要组成部分。公司声称,其推理平台是世界上最优秀的,可以以每秒超过2000个标记的速度运行顶级AI模型,远远超越了基于英伟达的推理服务。此前,该公司宣称其平台能够让Meta的Llama 4运行速度提升至原来的20倍,并对许多其他顶级AI模型做出了类似的声明。这些说法已经赢得了越来越多企业客户的信任,例如Mistral AI这样的AI模型制造商。

Qwen3-32B发布之后,塞雷布拉的联合创始人兼首席执行官安德鲁·费尔德曼表示,公司的推理平台的速度足以重新定义实时AI的构建方式。他提到,这是第一次出现了世界级的推理模型,其表现堪比DeepSeek R1和OpenAI的o系列,能够瞬间给出答案。Qwen3-32B是目前最先进的开放权重推理模型之一,由阿里巴巴集团开发,在测试中表现出与顶级封闭模型相当的性能,例如GPT-4.1和DeepSeek R1。在塞雷布拉的推理平台上运行时,Qwen3-32B模型只需要1.2秒就能完成复杂推理并生成回复,塞雷布拉称这比最好的竞争对手快了60多倍,包括OpenAI的o3。塞雷布拉平台上的Qwen3-32B为新一代更响应迅速的AI代理、副驾驶以及自动化工作负载奠定了基础。

推理模型是功能最强大的大型语言模型类型之一,能够通过多步逻辑指导结构化决策和第三方软件工具的使用,但长期以来一直受到延迟问题的困扰,通常需要30到90秒才能生成输出。塞雷布拉表示,现在这种延迟已经不再是限制因素。更令人鼓舞的是,塞雷布拉表示,它能够以极低的成本提供对Qwen3-32B的快速访问,每百万输入标记的费用仅为40美分起,每百万输出标记为80美分。费尔德曼称,这意味着它比OpenAI的GPT-4.1便宜约10倍。他说:“我们这里有一个开源模型,在大多数指标上都优于或相当于世界顶级模型,并且我们以极低的价格提供它。”

塞雷布拉鼓励开发者尝试使用这一平台,称每位用户每天都可以获得100万个免费标记用于实验,无需排队。鉴于Qwen3-32B采用了Apache 2.0许可,它是完全免费的,并可以通过OpenAI和Claude兼容的接口集成到应用中。

图片:SiliconANGLE/微软设计师

来自硅谷立方体联合创始人约翰·弗莱瑞纳的消息:

您的支持对我们非常重要,它帮助我们保持内容免费。点击一下即可支持我们的使命,提供免费、深入且相关的内容。

加入我们的YouTube社区

加入包括超过15,000名#Cube校友专家的社区,其中包括亚马逊CEO安迪·贾西、戴尔科技创始人兼CEO迈克尔·戴尔、英特尔CEO帕特·格尔辛格等众多名人和专家。

“立方体是我们行业的重要的合作伙伴。你们真的是我们活动的一部分,我们真的很感激你们的到来,我知道人们也欣赏你们创造的内容。”

——安迪·贾西

(以上内容均由Ai生成)

你可能还想读

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

本周科技大事件:谷歌发布Pixel 10,Gamescom揭晓重磅游戏

快速阅读: 谷歌推出Pixel 10手机及Pixel Watch 4,新增卫星紧急通讯、可更换电池和屏幕、抬手通话等功能,屏幕亮度达3000尼特,还将与斯蒂芬·库里合作推出AI健康和健身教练服务。 谷歌本周在“由谷歌制造”活动中推出了Pix […]

发布时间:2025年8月23日
SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

SK海力士凭借HBM激增首次超越三星,领跑全球内存市场

快速阅读: 据《《韩国先驱报》》称,7月20日,SK海力士首登全球内存芯片市场榜首,受益于AI产品和HBM芯片领先地位。其季度利润达9.2万亿韩元,远超三星。 据韩联社报道,7月20日,韩国京畿道伊川,SK海力士首次登上全球内存芯片市场榜首 […]

发布时间:2025年8月1日
STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

STAN 从谷歌、万代南梦宫和其他公司筹集了 850 万美元

快速阅读: 据《印度教业务线》称,STAN获850万美元融资,由万代南梦宫等机构投资。计划拓展印度市场,加强AI功能与创作者工具。平台用户超2500万,专注移动端社交游戏。 记者获悉,8月1日,社交游戏平台STAN宣布完成850万美元的新一 […]

发布时间:2025年8月1日
“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

“这改变了一切”:谷歌的人工智能模式迫使品牌重新考虑搜索策略

快速阅读: 据《营销周》称,谷歌推出AI搜索模式,减少外部链接,提升对话式回答。品牌需调整策略,重视内容质量与品牌权威。此变化影响营销方式,竞争加剧。 据谷歌官方消息,7月29日,谷歌在英国推出了基于人工智能的搜索功能AI模式,此前该功能已 […]

发布时间:2025年8月1日
在 Android 上用更智能的应用程序替换 Google Assistant

在 Android 上用更智能的应用程序替换 Google Assistant

快速阅读: 据《电话竞技场》称,据报道,用户可从Google Play下载Meta AI应用,安装后需检查版本是否为230.0.0.36.164或更高。操作方法:进入设置,选择应用,查看Meta AI信息页底部的版本号。 据媒体报道,用户现 […]

发布时间:2025年8月1日
Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

Xero 的英国董事总经理回击人工智能正在抢走会计工作的说法

快速阅读: 据《UKTN(英国科技新闻)》称,英国科技媒体UKTN报道,Xero英国总经理凯特·海沃德表示,会计行业无需过度担忧AI自动化。尽管四大事务所裁员,但Xero仍持续投资AI技术,提升效率与服务质量。 据英国科技新闻网站UKTN报 […]

发布时间:2025年8月1日
Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

Reddit 计划在搜索引擎市场大力推动人工智能与谷歌竞争:报告

快速阅读: 据《商业标准》称,Reddit CEO表示,公司正将平台转型为搜索引擎,整合AI功能,提升用户体验。Reddit Answers用户已超600万,计划全球推广。 据《The Verge》报道,7月11日,Reddit首席执行官史 […]

发布时间:2025年8月1日
Meta 超出预期,为“个人超级智能”做准备

Meta 超出预期,为“个人超级智能”做准备

快速阅读: 据《RCR无线》称,Meta二季度营收475.2亿美元,净利润183亿美元。CEO扎克伯格称将打造个人超级智能,但数据中心扩容遇挑战。公司计划2025年支出达1140-1180亿美元。 据媒体报道,7月25日,美国加州,社交媒体 […]

发布时间:2025年8月1日